AI 入门:本地安装模型并跑通代码助手
零基础学会下载、安装本地 AI 模型,并用它帮你写代码、改 Bug。
准备工作:硬件和软件
要跑本地 AI 模型,你需要一台有 显卡(也叫 GPU,是专门处理图形和计算的硬件)的电脑。入门推荐 NVIDIA 显卡,显存(显卡上的内存)至少 8GB。如果没有显卡,也可以用 CPU 跑,但速度会慢很多。
下载并安装 Ollama——一个免费工具,帮你一键下载和运行 AI 模型。去 ollama.com,点 Download,选择你的操作系统(Windows / macOS / Linux),安装后打开终端(命令提示符或 PowerShell)。
安装步骤
- 打开终端(Windows 按 Win+R 输入 cmd;Mac 打开“终端”应用)。
- 输入命令:
ollama pull gemma:2b(这是一个很小的模型,适合入门),按回车。Ollama 会自动下载约 1.5GB 的文件。 - 下载完成后,输入
ollama run gemma:2b,你会看到提示符>>>,表示模型已启动。 - 试着问它:“什么是 AI?”,它会用中文回答。按 Ctrl+D 退出对话。
验证是否成功
输入 ollama list,如果看到 gemma:2b 在列表中,说明安装成功。你也可以运行另一个模型:ollama run qwen2.5:7b(7B 参数,能力更强,但需要至少 8GB 显存)。
下一步:用模型帮你写代码
安装 Continue(VS Code 插件),它让 AI 直接嵌入你的编辑器。在 VS Code 扩展商店搜索“Continue”,安装后,在设置里把模型改成 gemma:2b 或 qwen2.5:7b。打开一个代码文件,选中几行代码,按 Ctrl+I,输入“解释这段代码”或“优化这段代码”,AI 会给出建议。
常见坑:如果模型回答很慢或报错,可能是显存不够。换更小的模型(如 gemma:2b)或关闭其他程序。如果 Ollama 下载失败,检查网络能否访问外网。
内容来源
DEV Ollama
发布时间
2026-07-09 01:31