为什么选择本地 AI？

云端 AI 模型（如 GPT-4）需要把你的代码发送到第三方服务器，这对处理敏感数据的项目（比如医疗代码）存在隐私风险。本地 AI 模型完全运行在你的电脑上，数据不出门，没有泄露风险。Ollama 就是一个让你在本地跑 AI 模型的免费工具，支持 macOS、Linux 和 Windows。

准备环境

你需要一台能上网的电脑，以及至少 8GB 内存（推荐 16GB 以上）。Ollama 支持以下系统：

• macOS：macOS 12 或更高版本（Apple Silicon 或 Intel）
• Linux：Ubuntu 22.04 或更新版本
• Windows：Windows 10 或 11（需要 WSL2）

安装步骤

1. 打开浏览器，访问 Ollama 官网（ollama.com），点击下载对应系统的安装包。
2. 运行安装程序，按照提示完成安装。macOS 用户直接拖拽到 Applications 文件夹即可。
3. 安装完成后，打开终端（macOS/Linux）或命令提示符（Windows），输入 ollama --version，如果显示版本号，说明安装成功。
4. 下载第一个模型：在终端输入 ollama pull llama3.1:8b，等待下载完成（约 4.5GB，视网速可能需要几分钟到半小时）。

小提醒：下载模型时保持网络稳定；Windows 用户需要先安装 WSL2，Ollama 会提示你如何设置。

验证是否成功

在终端输入以下命令，让 AI 模型回答一个简单问题：

ollama run llama3.1:8b "请用中文解释什么是 AI"

如果看到模型开始输出文字，说明你已经成功跑通了本地 AI！第一次运行可能需要几秒钟加载模型。

下一步可以做什么

• 尝试更多模型：ollama pull qwen2:7b（阿里通义千问的轻量版）
• 使用 Python 调用 Ollama：安装 ollama-python 库，写几行代码让 AI 帮你写注释或检查代码。
• 注意模型版本：在正式项目中使用时，建议通过 SHA256 摘要 固定模型版本，避免更新导致输出变化。具体方法：运行 ollama inspect llama3.1:8b 查看摘要，然后 ollama pull llama3.1:8b@sha256:... 拉取固定版本。