本地 AI 入门:装 Ollama、跑模型,一步步上手
零基础学会装 Ollama、下载模型、运行本地 AI,无需联网或 API 密钥。
准备环境:你需要什么
要跑本地 AI 模型(一个能在你电脑上回答问题的程序),你需要:
- 一台电脑(Windows / macOS / Linux 都行)
- 至少 8GB 内存(推荐 16GB 以上)
- 一个能上网的浏览器(下载用)
你的电脑不需要很强的显卡。入门模型(7B 或 8B 参数)在普通笔记本上也能跑,只是慢一点。
安装步骤:用 Ollama 最简单
Ollama 是目前最流行的本地 AI 运行工具,把复杂的技术藏起来了,你只需要点几下鼠标。
- 打开浏览器,访问 ollama.com,点击“Download”。
- 根据你的系统下载安装包(Windows 选 .exe,macOS 选 .dmg,Linux 选 .sh)。
- 安装完成后,打开终端(Windows 按 Win+R 输入 cmd,macOS 打开“终端”应用)。
- 输入
ollama run llama3.2:1b并回车。这是下载并运行一个很小的模型(1B 参数),适合测试。 - 等待下载完成(第一次会慢,以后就快了)。出现
>> Send a message提示后,输入“你好”试试。 - 换更大的模型:在 ollama.com/library 上找模型名,比如
llama3.2:3b(3B 参数,更聪明但更慢)。 - 安装网页界面:Ollama 自带 Web UI,访问
http://localhost:11434就能在浏览器里聊天。 - 了解量化:模型文件大小不同,选“量化版”(名字带 Q4 等)能节省内存。
常见坑:如果提示“ollama 不是内部或外部命令”,说明没把 Ollama 加入系统路径。重装时勾选“Add to PATH”就行。
验证是否成功:问它一个问题
在终端里,输入任何问题,比如“用 Python 写一个加法函数”,看它能否生成代码。如果它回答了,恭喜你,本地 AI 跑通了!
按 Ctrl+D 或输入 /bye 退出对话。
下一步可以做什么
内容来源
DEV Ollama
发布时间
2026-06-29 01:31