deepseek吧 关注:106,895贴子:188,877

PocketPal🔥手机本地部署DeepSeek教程

只看楼主收藏回复

🌸免费开源的手机离线部署模型应用,预置了多种轻量化模型,包括 DeepSeek-R1、Qwen、Llama、Gemma、Phi 等。
【应用名称】:PocketPal
【应用版本】:1.6.9
【应用大小】:52.0MB
【适用平台】:安卓 / iOS
【官方介绍】:今天分享这款「PocketPal AI」免费开源的手机离线部署模型应用,预置了多种轻量化模型,包括 DeepSeek-R1、Qwen、Llama、Gemma、Phi 等,并支持用户自定义加载 GGUF 格式模型。对比手机安装 Ollama,这款「PocketPal AI」还提供了内存释放机制,当应用切换至后台时自动释放模型占用的内存,返回前台时快速重新加载。



【使用方法】:
这款「PocketPal AI」应用提供了安卓和 iOS 版本,这里以安卓版为使用介绍,安卓端通过 MLC-LLM 等框架优化 GPU 资源调用,提升推理速度。
安装好后,需要先下载模型,点击 + 添加模型,支持在线下载模型,从 Add from Hugging Face 进行下载。

搜索关键词 DeepSeek,此时可能需要魔法,选择你需要的模型进行下载。手机端部署,建议选择 1.5B 或者 7B。🔥当然也可以自己下载导入。

等待模型下载完毕后,在模型管理里面,点击 Load 启动。然后就可以使用离线版本 DeepSeek 了。

聊天生成设置功能方面,可以对上下文设置,用户可设置生成内容的最大长度,默认建议调整为 4096 或 8000,支持选择不同预置模板,实时性能指标等。

如果网络问题下载不了 DeepSeek 模型,那么也可以通过本地加载 GGUF 格式模型。点击 + 本地加载模型(Add Local Model)- 载入你下载好的模型 - 模型管理 - 点击 Load 启动。


IP属地:上海来自Android客户端1楼2025-02-18 20:07回复
    网盘链接网页链接 ③模型网页链接


    IP属地:上海来自Android客户端2楼2025-02-18 20:08
    回复
      拿走吱吱吱


      IP属地:上海来自Android客户端3楼2025-02-18 20:58
      收起回复
        软件内搜不到deepseek的模型啊,哪怕全局魔法了也一样😰


        IP属地:河北来自Android客户端4楼2025-02-18 22:01
        收起回复
          拿走留下痕迹


          IP属地:上海来自Android客户端5楼2025-02-18 22:42
          回复
            顶一个,有空试试


            IP属地:广东来自Android客户端6楼2025-02-18 23:04
            回复
              魔法是啥 挂梯子?


              IP属地:山东来自Android客户端7楼2025-02-18 23:04
              收起回复
                cy


                IP属地:吉林来自Android客户端8楼2025-02-18 23:10
                收起回复
                  拿走试试


                  IP属地:上海来自Android客户端9楼2025-02-19 18:18
                  回复
                    感觉这个1.5B不是很聪明的样子


                    IP属地:吉林来自Android客户端10楼2025-02-19 18:31
                    收起回复
                      楼主,14B可以嘛


                      IP属地:上海来自Android客户端12楼2025-02-19 23:43
                      收起回复
                        本地导入之后运行的时候直接闪退,咋回事?


                        IP属地:广东来自Android客户端13楼2025-02-21 00:40
                        收起回复
                          链接下载的1.5b q8。点load没反应。咋回事啊


                          IP属地:浙江来自iPhone客户端14楼2025-02-21 14:39
                          收起回复
                            我在我电脑上部署了32b现在想要手机访问怎么弄呀


                            IP属地:重庆来自Android客户端15楼2025-02-21 15:12
                            收起回复
                              感谢lz


                              IP属地:福建来自Android客户端16楼2025-02-21 16:28
                              收起回复