极客前沿

AI 入门:本地安装模型并跑通代码助手

2026-07-09 01:31
DEV Ollama
查看原文

零基础学会下载、安装本地 AI 模型,并用它帮你写代码、改 Bug。

准备工作:硬件和软件

要跑本地 AI 模型,你需要一台有 显卡(也叫 GPU,是专门处理图形和计算的硬件)的电脑。入门推荐 NVIDIA 显卡,显存(显卡上的内存)至少 8GB。如果没有显卡,也可以用 CPU 跑,但速度会慢很多。

下载并安装 Ollama——一个免费工具,帮你一键下载和运行 AI 模型。去 ollama.com,点 Download,选择你的操作系统(Windows / macOS / Linux),安装后打开终端(命令提示符或 PowerShell)。

Tutorial Image

安装步骤

  1. 打开终端(Windows 按 Win+R 输入 cmd;Mac 打开“终端”应用)。
  2. 输入命令:ollama pull gemma:2b(这是一个很小的模型,适合入门),按回车。Ollama 会自动下载约 1.5GB 的文件。
  3. 下载完成后,输入 ollama run gemma:2b,你会看到提示符 >>>,表示模型已启动。
  4. 试着问它:“什么是 AI?”,它会用中文回答。按 Ctrl+D 退出对话。

验证是否成功

输入 ollama list,如果看到 gemma:2b 在列表中,说明安装成功。你也可以运行另一个模型:ollama run qwen2.5:7b(7B 参数,能力更强,但需要至少 8GB 显存)。

下一步:用模型帮你写代码

安装 Continue(VS Code 插件),它让 AI 直接嵌入你的编辑器。在 VS Code 扩展商店搜索“Continue”,安装后,在设置里把模型改成 gemma:2bqwen2.5:7b。打开一个代码文件,选中几行代码,按 Ctrl+I,输入“解释这段代码”或“优化这段代码”,AI 会给出建议。

常见坑:如果模型回答很慢或报错,可能是显存不够。换更小的模型(如 gemma:2b)或关闭其他程序。如果 Ollama 下载失败,检查网络能否访问外网。

内容来源

DEV Ollama

发布时间

2026-07-09 01:31

返回 AI技术