Android本地部署DeepSeek大模型

Quibbler 1月前 196

Android本地部署DeepSeek大模型


        DeepSeek突然火了,连Ai.com域名都拿到手了。手机端也能部署DeepSeek等大模型了。


        首先下载PocketPalgithub/pocketpal-ai,下载后直接安装即可。打开本地没有安装过大模型,是空白的。


        点击右下角添加大模型:可以选择在线添加或者从本地添加(提前下载好大模型)


        这里选择在线添加(需要科学上网),会发现很多大模型可以选择。在底部的输入框输入DeepSeek搜索:


        手机端性能有限,选择1.5B的大模型,这里选择DeepSeek-R1-Distill-Qwen-1.5B-uncensored.f16.gguf,注意后缀必须是gguf


        需要科学上网才能下载,否则是无法下载。下载速度比较慢,这里已经下载好了:DeepSeek-R1-Distill-Qwen-1.5B。下载后,添加模型的时候选择从本地导入即可。

        下载完成直接点击Load加载大模型,就能愉快的在手机端使用DeepSeek大模型,没有网络也是可以用的。


        也有一些可选的配置自行琢磨玩。


不忘初心的阿甘
最新回复 (0)
    • 安卓笔记本
      2
        登录 注册 QQ
返回
仅供学习交流,切勿用于商业用途。如有错误欢迎指出:fluent0418@gmail.com