AI 入门:从零安装本地模型,第一次跑通
手把手教你在电脑上装 Ollama、拉模型、跑通本地 AI,不用 GPU,零基础也能跟上。
很多人想试试 AI 但被“模型”“GPU”“推理”这些词吓住了。其实你不需要显卡,一台普通电脑就能跑本地 AI。本文带你从零开始:装工具、下模型、写第一行代码验证成功。
准备环境
- Ollama:一个帮你下载和运行 AI 模型的免费工具,就像 App Store 管理 App 一样简单。
- 一台能上网的电脑(Windows / macOS / Linux 都行),至少 8GB 内存,推荐 16GB。
- 命令行终端(Windows 用 PowerShell,Mac/Linux 用 Terminal)。
安装步骤
- 打开浏览器,访问 ollama.com,点击下载对应系统的安装包。
- 安装后打开终端,输入
ollama --version,看到版本号说明安装成功。 - 拉取一个轻量模型:输入
ollama pull gemma:2b(约 1.5GB),等待下载完成。 - 运行模型:输入
ollama run gemma:2b,看到提示符后输入“你好”,模型会回复你。 - 退出:输入
/bye回车。
验证是否成功
写一个简单的 Python 脚本调用本地模型:
- 安装 Python(如果没装),打开终端输入
pip install ollama。 - 新建文件
test.py,写入:import ollama response = ollama.chat(model='gemma:2b', messages=[{'role': 'user', 'content': '用一句话介绍 AI'}]) print(response['message']['content']) - 运行
python test.py,看到输出即成功。
下一步可以做什么
- 尝试其他模型:
ollama pull qwen:7b等。 - 用 LangChain(一个搭建 AI 应用的框架)写更复杂的程序。
- 阅读 Ollama 官方文档,学习如何自定义模型。
内容来源
DEV Ollama
发布时间
2026-05-13 01:33