软件推介

PocketPal是安卓端开源本地大模型AI聊天应用，基于llama.cpp与llama.rn构建，支援Gemma、Qwen、Bonsai、LFM3等GGUF格式开源大模型下载。模型下载完毕后可以彻底离线运行AI对话，聊天信息整体储存在本机，不会提交服务器。程序分为聊天、模型、关于三大页面，可以下载、管理、移除模型文件，可自定义模型运行选项，还支援硬件效能基准验证，适宜注重隐私、想要手机本地运行大模型的受众。

应用功能

1、离线AI对话：模型拉取做完后无需网络，在本地完成大模型推理聊天。

2、模型库获取：内置Gemma 3、Bonsai、Qwen3、LFM3多款开源模型一键拿到。

3、模型管理：取下、移除、调整模型设定值，支持读进来外部GGUF格式模型。

4、聊天会话：新建对话会话，文本交互问答、文案创作、内容咨询。

5、设定值自定义：调整温度、上下文长度、系统提示词等模型推理设定值。

6、硬件基准测试：跑测试手机硬件运行大模型的效能表现。

7、开源案子：开源活儿，关于页面瞧瞧迭代资料、GitHub工程首站。

8、页面分区：聊天页面进行问答交互，模型页管理下载模型，关于页瞧瞧活儿信息。

应用特色

1、通通端侧离线推理，聊天数值不出本机，保护隐私，无云端数据提交。

2、支持多款普遍开源GGUF大模型，一下搞定拿到，无需错综设置。

3、基于llama.cpp推理引擎，适配移动端硬件，赞成NNAPI硬件加速。

4、开源活儿，代码公开可查阅，无后台遥测攒起来受众对话情报。

5、图形化操作界面，不用命令行，普什么都能用户也可以在手机跑本地大模型。