手机上部署AI大模型：支持Llama，QWen，Gemma，Deepseek，完全免费开源！

AI大模型在PC端上部署早已司空见惯，标准环境基本上都是：Ollama+AnythingLLM+HuggingFace+AI大模型版本。如何能在手机客户端上部署AI大模型呢？今天就带大家一起来实际操作一下。

部署肯定离不开安装包，咱们以github上的一个开源项目PocketPal为例，给大家演示如何完成安装与配置过程。小白也能操作明白如何利用手机调用这些大模型进行对话和问答，无需连接云端。

保护隐私的同时大幅降低延迟，对喜欢AI的用户是个非常好的实用软件工具。部署非常简单，无需任何设置点点手指头下载安装即可。

由于我使用的是安卓手机，这里就跟大家演示一下安卓手机的操作过程。文章结尾附IOS版本下载链接。

• • 离线AI辅助：无需联网，语言模型直接在设备上运行
• • 模型灵活：支持下载并切换多个 SLM，如 DeepSeek R1、Danube 2 和 3、Phi、Gemma 2、Qwen 等
• • 自动卸载/加载：应用后台运行时，通过卸载模型自动管理内存
• • 推理设置：可自定义模型参数，包括系统提示、温度、BOS 令牌和聊天模板
• • 实时性能指标：生成 AI 响应时，可查看每秒令牌数及每个令牌的毫秒数
• 

IOS版本下载链接：https://apps.apple.com/us/app/pocketpal-ai/id6502579498

● 6个MCP服务平台推荐，阿里百炼提供一键部署

● 吉卜力风格免费图片生成神器，完美替代GPT4o，可直接在线体验

● 一个MCP协议，万能USB HUB拓展坞，重新定义AI接入方式

● 火爆全网一码难求的Manus AI，免费替代方案

● 2种方式1键部署，免费开源版OpenManus，28.7K Stars完全平替Manus