本地运行 AI 聊天机器人:Ollama 安装与入门指南
本文手把手教你安装 Ollama,在本地跑通第一个 AI 对话模型,无需联网、保护隐私。
你是否想体验 AI 聊天,但又担心隐私泄露?Ollama 可以让你在本地电脑上运行 AI 模型,完全离线,数据不会上传到云端。本文适合零基础读者,带你一步步完成安装并跑通第一个对话。
1. 准备工作
- 一台能上网的电脑(Windows / macOS / Linux 均可)。
- 至少 8GB 内存,推荐 16GB 以上(模型运行需要一定内存)。
- 确保硬盘有 5-10GB 空闲空间(用于下载模型)。
2. 安装 Ollama
- 打开浏览器,访问 Ollama 官网(ollama.com)。Ollama 是一个让你在本地运行 AI 模型的工具,就像“本地版 ChatGPT”。
- 点击“Download”按钮,根据你的系统下载对应安装包。
- 运行安装程序,一路默认设置即可(Windows 用户可能需要允许管理员权限)。
- 安装完成后,打开终端(Windows 打开命令提示符或 PowerShell,macOS/Linux 打开终端),输入
ollama --version,如果显示版本号,说明安装成功。 - 在终端中输入以下命令,下载一个轻量模型 llama3.2(适合入门,大小约 2GB):
ollama pull llama3.2 - 下载完成后,运行模型:
ollama run llama3.2 - 等待几秒,你会看到一个提示符
>>>,表示模型已就绪。现在你可以输入任何问题,比如“你好,请介绍一下自己”,AI 会实时回复。 - 输入
/exit退出对话。 - 验证成功:如果 AI 正常回复了你的问题,恭喜你!你已经成功在本地跑通了第一个 AI 模型。
- 常见问题:如果下载缓慢,可以尝试更换网络或使用代理;如果内存不足,可以尝试更小的模型如
tinyllama(命令:ollama run tinyllama)。 - 下一步:你可以尝试其他模型(如
mistral、qwen2.5),或者用 Ollama 配合编程实现更多功能(比如本地 RAG 系统)。
3. 下载并运行第一个模型
4. 验证与下一步
内容来源
DEV Ollama
发布时间
2026-05-24 01:31