想不想有一个无需联网就能用的AI助理

随着众多大模型的推出，像豆包、deepseek这种需要联网的大模型虽然性能强大，但是总归要联网使用，在某些场景（比如某些不允许联网但开卷可以使用电子产品的开卷考试）。在win和手机平台上，都有可以部署开源大模型（如qwen、llama、deepseekR1等）离线使用。

Ollama

Ollama是一个开源框架，能在本地运行大型语言模型。它简化部署流程，把模型权重、配置和数据捆绑在Modelfile包中，支持Llama 2、Mistral等多种模型，还能让用户定制模型。它跨macOS、Linux等多平台，命令行操作简便，运行不同规模模型对内存或显存各有要求。安装上，macOS可官网下包安装，Linux能执行一键安装命令。使用时，既能在命令行管理模型，也能结合Open WebUI等第三方GUI工具，还能作为服务部署到网络环境。

使用Ollama部署deepseekR1教程：

https://www.cnblogs.com/xuxueli/p/18696287

PocketPal

一款袖珍型人工智能助手，由直接在手机上运行的小型语言模型（SLM）支持，专为 iOS 和 Android 设计。其具有离线 AI 辅助功能，无需互联网连接即可运行语言模型；支持模型灵活性，可下载并在多个 SLM 之间交换，如 Danube2 和 3、Phi、Gemma2 和 Qwen 等；能自动卸载 / 加载模型，当应用程序在后台时自动管理内存；还可自定义推理设置，如系统提示、温度、bos 令牌和聊天模板等，并且在 AI 响应生成期间能查看每秒令牌数和每个令牌的毫秒数等实时性能指标。

部署deepseekR1教程：https://www.yeyulingfeng.com/98186.html