AI 入门:一步步装好 Ollama,跑通你的第一个大模型
从零开始,教你安装 Ollama、下载模型、跑通第一个 AI 对话,适合完全没接触过大模型的读者。
准备环境
你只需要一台电脑(Windows / macOS / Linux 都可以),和一点耐心。不用买昂贵的显卡,CPU 也能跑,只是慢一些。Ollama 会自动帮你管理模型,省去很多麻烦。
安装步骤
- 打开浏览器,访问 Ollama(一个让你在本地运行大模型的工具)的官网:ollama.com。
- 点击首页的“Download”按钮,选择你电脑对应的系统版本(Windows 选 .exe,macOS 选 .dmg,Linux 按提示操作)。
- 下载完成后,双击安装包,一路点“下一步”或“继续”就行。安装过程大概 1-2 分钟。
- 安装完成后,打开终端(Windows 打开命令提示符或 PowerShell,macOS/Linux 打开终端)。输入
ollama --version,如果显示版本号,说明安装成功。
下载并运行第一个模型
- 在终端输入
ollama run llama2,然后按回车。Ollama 会自动下载一个叫 Llama 2(一个开源的大语言模型,可以聊天、回答问题)的模型,大小约 3.8GB。 - 等待下载完成(取决于你的网速,可能几分钟到十几分钟)。下载过程中会显示进度条。
- 下载完成后,终端会出现一个
>>>提示符,表示你可以开始和 AI 对话了。随便输入一句话,比如“你好,介绍一下你自己”,按回车,AI 就会回复你。 - 想退出时,输入
/bye按回车即可。
验证是否成功
如果你看到了 AI 的回复,恭喜你,你已经成功在本地跑通了第一个大模型!你可以试着问更多问题,或者换个模型,比如 ollama run mistral(Mistral 是另一个轻量级模型,速度更快)。
常见坑提醒:如果下载很慢,可以换个网络环境;如果运行后电脑风扇狂转,说明模型比较大,可以试试更小的模型比如 tinyllama(只有 1.1GB)。
下一步可以做什么
- 试试更多模型:在 ollama.com/library 浏览官方模型库,用
ollama run 模型名下载。 - 在代码中使用:Ollama 提供 API,可以用 Python 等语言调用,实现自己的 AI 应用。
- 学习调参数:比如调整温度(temperature)控制回复的随机性,但初学者先玩起来再说。
内容来源
DEV Ollama
发布时间
2026-07-23 01:36