ollama

ollama开源免费的本地大模型运行工具，不用复杂配置，就能在手机上离线运行各类AI大语言模型，全程数据本地处理，不上传云端，兼顾隐私与实用性。ollama所有对话、输入内容、生成结果全程留在本地设备，不会上传到任何云端服务器，纯本地离线运行，隐私性极强。

ollama使用教程

1、简化部署：

Ollama 目标在于简化在 Docker 容器中部署大型语言模型的过程，使得非专业用户也能方便地管理和运行这些复杂的模型。

2、轻量级与可扩展：

作为轻量级框架，Ollama 保持了较小的资源占用，同时具备良好的可扩展性，允许用户根据需要调整配置以适应不同规模的项目和硬件条件。

3、API支持：

提供了一个简洁的 API，使得开发者能够轻松创建、运行和管理大型语言模型实例，降低了与模型交互的技术门槛。

4、预构建模型库：

包含一系列预先训练好的大型语言模型，用户可以直接选用这些模型应用于自己的应用程序，无需从头训练或自行寻找模型源。

5、模型导入与定制：

从 GGUF 导入：支持从特定平台（如GGUF，假设这是一个模型托管平台）导入已有的大型语言模型。

从 PyTorch 或 Safetensors 导入：兼容这两种深度学习框架，允许用户将基于这些框架训练的模型集成到 Ollama 中。

自定义提示：允许用户为模型添加或修改提示（prompt engineering），以引导模型生成特定类型或风格的文本输出。

6、跨平台支持：

提供针对 macOS、Windows（预览版）、Linux 以及 Docker 的安装指南，确保用户能在多种操作系统环境下顺利部署和使用 Ollama。

7、命令行工具与环境变量：

命令行启动：通过命令 ollamaserve 或其别名 serve、start 可以启动 Ollama 服务。

环境变量配置：如 OLLAMA_HOST，用于指定服务绑定的主机地址和端口，默认值为 127.0.0.1:11434，用户可以根据需要进行修改。

ollama怎么运行

Ollama主要通过命令行界面进行操作。访问 Ollama 官网模型库：https://ollama.com/library，找到你想使用的 AI 模型，比如 deepseek：

点击 deepseek-r1，进入下图的页面，就能看到运行它的命令，是不是很简单：

ollama推荐模型

llama3.2：Meta 开源，全能对话，8GB 内存可跑

qwen2：通义千问开源，中文极强，7B/14B 量化版

mistral：轻量高速，代码 / 写作强

phi3：超小模型（3.8B），4GB 内存可跑，适合低配设备

ollama软件常见问题及解答

1、Ollama 安装脚本报错

原因：非 ARM64 手机、Android 版本过低

解决：确认手机是 ARM64-v8a，Android 8.0+

2、运行模型闪退 / 内存溢出

原因：内存不足、后台占用高

解决：换更小模型（如 qwen3:0.6b），关闭所有后台 App

3、Maid 连不上 Ollama

原因：端口未开放、IP 错误