新手入门:本地跑通第一个AI模型
教你安装 Ollama、下载模型、写第一段代码,零基础也能让 AI 在本地跑起来。
准备环境:你需要什么
在开始之前,请确保你的电脑满足以下条件:
- 一台能上网的电脑(Windows / macOS / Linux 均可)。
- 至少 8GB 内存(推荐 16GB 以上)。
- 一个终端(Windows 用户可以用 PowerShell 或 CMD)。
Ollama 是一个让普通人也能在本地运行大模型(比如 Llama、Mistral)的工具。它帮你省去了配置 GPU、安装 Python 库的麻烦。
安装步骤:两步搞定
- 打开浏览器,访问 Ollama 官网(https://ollama.com),点击下载对应你系统的安装包。
- 下载后双击安装,一路默认即可。安装完成后,打开终端输入
ollama --version,如果看到版本号,说明安装成功。
常见坑:Windows 用户安装后可能需要重启终端或电脑才能识别命令。
跑通第一个模型:试试小模型
- 在终端里输入
ollama run llama3.2:1b,然后按回车。这个命令会下载一个很小的模型(约 1GB),适合新手体验。 - 等待下载完成(视网速而定,通常几分钟)。完成后,你会看到一个
>>>提示符,说明模型已就绪。 - 输入
你好并回车,模型会回复你。试试问它“1+1等于几?”或“写一首关于猫的诗”。
模型 就是 AI 的大脑,它根据你给的文字预测下一个词。小模型速度快,但能力有限;大模型更聪明,但需要更多资源。
下一步可以做什么
- 换一个更大的模型试试,比如
ollama run llama3.1:8b(约 4.7GB)。 - 用 Python 调用 Ollama 的 API 写个简单脚本,让模型帮你总结文章或写代码。
- 安装 Open WebUI(一个聊天界面),让本地模型看起来像 ChatGPT。
记住:本地模型不需要联网,数据留在你的电脑里,但性能取决于你的硬件。先从小的开始,逐步探索吧!
内容来源
DEV Ollama
发布时间
2026-07-05 01:32