Ollama 入门:零配置跑通本地 AI,新手一步步安装指南
学会安装 Ollama,在本地运行大语言模型,无需联网,保护隐私。
你手里的电脑其实已经能跑 AI 了。现代笔记本通常有 16GB 内存和不错的 GPU,完全可以在本地运行一个 7B 参数的语言模型,而且不用联网。但大部分人还在每月付费把提示词发到别人的服务器上。本教程带你用 Ollama(一个免费的命令行工具,帮你下载并运行本地模型)在几分钟内跑通本地 AI。
准备环境
- 一台 macOS、Windows 或 Linux 电脑,建议内存 8GB 以上(16GB 更好)。
- 确保有网络(首次下载模型需要)。
- 不需要注册账号或 API 密钥。
安装步骤
- 打开浏览器,访问 Ollama 官网(ollama.com),点击下载对应系统的安装包。
- 安装完成后,打开终端(macOS/Linux 的 Terminal 或 Windows 的 PowerShell)。
- 输入命令
ollama pull llama3.2(一个 3B 参数的轻量模型),按回车。Ollama 会自动下载模型文件。 - 下载完成后,输入
ollama run llama3.2,你会看到一个聊天提示符。直接打字提问,模型就会回答。
常见坑:如果下载慢,可以换用更小的模型如 tinyllama(1.1B)。首次运行会下载模型,请耐心等待。
验证是否成功
在终端聊天界面输入“你好”,模型应该用中文回复你。整个过程完全离线,不消耗网络流量。你也可以打开浏览器访问 http://localhost:11434,看到 Ollama 的 API 说明页面,说明服务已运行。
下一步可以做什么
- 尝试其他模型:
ollama pull qwen2.5:7b(通义千问 7B,中文更强)。 - 在编辑器(如 VS Code)中安装 Continue 插件,配置 Ollama 作为后端,就能在写代码时用 AI 补全。
- 如果你想要图形界面,可以尝试 Off Grid AI Desktop,它自带聊天窗口、图片生成和文档对话功能,同样本地运行。
内容来源
DEV Ollama
发布时间
2026-06-27 01:32