极客前沿

AI 入门:装好 Ollama,第一次跑通大模型

2026-05-17 01:34
DEV Ollama
查看原文

手把手教你安装 Ollama、下载模型、在本地运行大语言模型,零基础也能上手。

想试试 AI 大模型但不知道从哪开始?别担心,这篇教程带你一步步装好 Ollama(一个让你在本地运行大模型的工具),第一次跑通对话。你只需要一台电脑,不需要高端显卡也能玩。

准备工作:看看你的电脑行不行

  • 操作系统:Windows、macOS、Linux 都支持。Windows 推荐 10 或 11。
  • 显卡(GPU):不是必须,但有 NVIDIA 显卡(如 RTX 3060 或更高)速度更快。没有显卡也能用 CPU 跑,只是慢一些。
  • 硬盘空间:至少 10GB 空闲,因为要下载模型文件。

安装步骤:下载 Ollama 并装好

  1. 打开浏览器,访问 Ollama 官网(ollama.com)。
  2. 点击首页的“Download”按钮,根据你的系统选择安装包(Windows 选 .exe,macOS 选 .dmg,Linux 用命令行)。
  3. 下载后双击安装,一路默认选项,等几分钟就装好了。
  4. 安装完成后,打开终端(Windows 叫命令提示符或 PowerShell,mac 叫终端),输入 ollama --version 回车,看到版本号说明安装成功。

第一次跑模型:下载并对话

  1. 在终端输入 ollama pull llama3.2:1b,按回车。这是下载一个超小模型(1B 参数),适合新手体验。
  2. 下载完成后,输入 ollama run llama3.2:1b,按回车。
  3. 等几秒钟,你会看到提示符变成 >>>,这时候输入任何问题(比如“你好”),模型就会回答你。
  4. 想退出对话,输入 /bye 回车即可。
  5. 常见问题与下一步

    • 下载太慢? 可以换国内镜像源,或者用手机热点试试。
    • 报错“内存不足”? 模型太大,换更小的模型,比如 llama3.2:1btinyllama:latest
    • 下一步做什么? 试试其他模型:ollama pull llama3.2:3bmistral:7b。也可以装个图形界面(如 Open WebUI)让操作更方便。

    恭喜,你已经成功跑通了第一个本地 AI 模型!以后可以慢慢探索更大模型和更多玩法。

内容来源

DEV Ollama

发布时间

2026-05-17 01:34

返回 AI技术