AI 入门:用 Ollama 本地跑通第一个大模型
手把手教你安装 Ollama,在本地跑通第一个 AI 模型,零基础也能轻松上手。
想体验 AI 但不想联网、不想付费、又怕配置复杂?Ollama 就是为你准备的。它是一个能在你电脑上直接运行大语言模型的工具,完全免费、无需联网、安装即用。跟着本文一步步来,十分钟内你就能在命令行里跟 AI 对话了。
准备环境
你只需要一台能上网的电脑,系统不限(Windows、macOS、Linux 都支持)。确保硬盘有至少 5GB 空闲空间(模型下载后会占用)。不需要显卡,但如果有 NVIDIA 显卡并安装了驱动,运行速度会更快。
安装步骤
- 打开浏览器,访问 Ollama(一个让你在本地运行大模型的免费工具)的官网:
ollama.com。 - 点击首页的“Download”按钮,选择你电脑对应的系统版本(Windows 选 .exe,macOS 选 .dmg,Linux 选 .sh)。
- 下载完成后,双击安装包,一路点“下一步”或“继续”即可。安装过程中不需要任何额外设置。
- 安装完成后,打开终端(Windows 用户打开命令提示符或 PowerShell,mac/Linux 用户打开 Terminal)。
- 在终端中输入以下命令并回车:
ollama run llama3.2。这个命令会下载一个叫 Llama 3.2(Meta 公司开发的轻量级语言模型)并自动启动对话界面。 - 第一次运行会下载模型(约 2GB),请耐心等待。下载完成后,你会看到
>>> Send a message的提示,说明安装成功。
验证是否成功
在提示符后输入任意问题,比如“你好,你是谁?”,模型会立即回复。如果看到回复内容,恭喜你,你的第一个 AI 模型已经跑通了!输入 /bye 可以退出对话。
下一步可以做什么
- 试试其他模型:在终端输入
ollama run llama3.2-vision可以运行支持图片输入的模型。 - 了解常用命令:
ollama list查看已下载的模型;ollama pull 模型名下载新模型。 - 尝试用 Python 调用:安装
ollamaPython 库,几行代码就能在程序里使用 AI。
内容来源
DEV Ollama
发布时间
2026-06-24 01:38