极客前沿

AI 入门:一步步装好 Ollama,跑通你的第一个大模型

2026-07-23 01:36
DEV Ollama
查看原文

从零开始,教你安装 Ollama、下载模型、跑通第一个 AI 对话,适合完全没接触过大模型的读者。

准备环境

你只需要一台电脑(Windows / macOS / Linux 都可以),和一点耐心。不用买昂贵的显卡,CPU 也能跑,只是慢一些。Ollama 会自动帮你管理模型,省去很多麻烦。

Tutorial Image

安装步骤

  1. 打开浏览器,访问 Ollama(一个让你在本地运行大模型的工具)的官网:ollama.com。
  2. 点击首页的“Download”按钮,选择你电脑对应的系统版本(Windows 选 .exe,macOS 选 .dmg,Linux 按提示操作)。
  3. 下载完成后,双击安装包,一路点“下一步”或“继续”就行。安装过程大概 1-2 分钟。
  4. 安装完成后,打开终端(Windows 打开命令提示符或 PowerShell,macOS/Linux 打开终端)。输入 ollama --version,如果显示版本号,说明安装成功。

下载并运行第一个模型

  1. 在终端输入 ollama run llama2,然后按回车。Ollama 会自动下载一个叫 Llama 2(一个开源的大语言模型,可以聊天、回答问题)的模型,大小约 3.8GB。
  2. 等待下载完成(取决于你的网速,可能几分钟到十几分钟)。下载过程中会显示进度条。
  3. 下载完成后,终端会出现一个 >>> 提示符,表示你可以开始和 AI 对话了。随便输入一句话,比如“你好,介绍一下你自己”,按回车,AI 就会回复你。
  4. 想退出时,输入 /bye 按回车即可。

验证是否成功

如果你看到了 AI 的回复,恭喜你,你已经成功在本地跑通了第一个大模型!你可以试着问更多问题,或者换个模型,比如 ollama run mistral(Mistral 是另一个轻量级模型,速度更快)。

Tutorial Image

常见坑提醒:如果下载很慢,可以换个网络环境;如果运行后电脑风扇狂转,说明模型比较大,可以试试更小的模型比如 tinyllama(只有 1.1GB)。

下一步可以做什么

  • 试试更多模型:在 ollama.com/library 浏览官方模型库,用 ollama run 模型名 下载。
  • 在代码中使用:Ollama 提供 API,可以用 Python 等语言调用,实现自己的 AI 应用。
  • 学习调参数:比如调整温度(temperature)控制回复的随机性,但初学者先玩起来再说。

内容来源

DEV Ollama

发布时间

2026-07-23 01:36

返回 AI技术