AI 入门实战:本地装 Ollama,第一次跑通大模型
手把手教你安装 Ollama,下载模型并运行第一条 AI 指令,零基础也能上手。
什么是 Ollama?为什么先学它?
Ollama 是一个免费工具,让你在个人电脑上运行大语言模型(比如 ChatGPT 那样的 AI)。本地运行的好处是:不用联网、保护隐私、完全免费。本文带你从零开始,安装 Ollama 并跑通第一个模型。
第一步:安装 Ollama
- 打开官网 ollama.com,点击“Download”。
- 根据你的系统(Windows / macOS / Linux)下载对应安装包。
- Windows 用户双击安装,一路默认即可;Mac 用户拖动到 Applications 文件夹。
- 安装后打开终端(Windows 搜索“cmd”或“PowerShell”,Mac 打开“终端”)。
- 输入
ollama --version并回车,如果看到版本号(如 0.3.0),说明安装成功。
第二步:下载并运行你的第一个模型
Ollama 支持很多模型,初学者推荐用 llama3.2:1b(1B 参数,轻量快速)。
- 在终端输入
ollama run llama3.2:1b并回车。 - Ollama 会自动下载模型(约 1GB,请保持网络畅通)。
- 下载完成后,你会看到一个
>>提示符,表示模型已就绪。
第三步:与 AI 对话
现在你可以打字提问了!例如输入“你好,介绍一下你自己”,模型会回复。按 Ctrl+D 或输入 /exit 退出对话。
常见坑:如果下载慢,可以尝试更换网络或使用代理;Windows 用户若遇到权限问题,请以管理员身份运行终端。
第四步:下一步可以做什么?
- 试试其他模型:
ollama run qwen2.5:7b(更强但需要更多内存)。 - 通过 API 调用:Ollama 默认提供
http://localhost:11434接口,可用 Python 等语言调用。 - 查看所有可用模型:
ollama list。
现在你已经成功跑通了本地 AI 模型!后续可以学习如何用它处理文档、写代码等任务。
内容来源
DEV Ollama
发布时间
2026-07-13 01:32