极客前沿

本地运行 AI 聊天机器人:Ollama 安装与入门指南

2026-05-24 01:31
DEV Ollama
查看原文

本文手把手教你安装 Ollama,在本地跑通第一个 AI 对话模型,无需联网、保护隐私。

你是否想体验 AI 聊天,但又担心隐私泄露?Ollama 可以让你在本地电脑上运行 AI 模型,完全离线,数据不会上传到云端。本文适合零基础读者,带你一步步完成安装并跑通第一个对话。

Tutorial Image

1. 准备工作

  • 一台能上网的电脑(Windows / macOS / Linux 均可)。
  • 至少 8GB 内存,推荐 16GB 以上(模型运行需要一定内存)。
  • 确保硬盘有 5-10GB 空闲空间(用于下载模型)。

2. 安装 Ollama

  1. 打开浏览器,访问 Ollama 官网(ollama.com)。Ollama 是一个让你在本地运行 AI 模型的工具,就像“本地版 ChatGPT”。
  2. 点击“Download”按钮,根据你的系统下载对应安装包。
  3. 运行安装程序,一路默认设置即可(Windows 用户可能需要允许管理员权限)。
  4. 安装完成后,打开终端(Windows 打开命令提示符或 PowerShell,macOS/Linux 打开终端),输入 ollama --version,如果显示版本号,说明安装成功。
  5. 3. 下载并运行第一个模型

    1. 在终端中输入以下命令,下载一个轻量模型 llama3.2(适合入门,大小约 2GB):
      ollama pull llama3.2
    2. 下载完成后,运行模型:
      ollama run llama3.2
    3. 等待几秒,你会看到一个提示符 >>>,表示模型已就绪。现在你可以输入任何问题,比如“你好,请介绍一下自己”,AI 会实时回复。
    4. 输入 /exit 退出对话。
    5. 4. 验证与下一步

      • 验证成功:如果 AI 正常回复了你的问题,恭喜你!你已经成功在本地跑通了第一个 AI 模型。
      • 常见问题:如果下载缓慢,可以尝试更换网络或使用代理;如果内存不足,可以尝试更小的模型如 tinyllama(命令:ollama run tinyllama)。
      • 下一步:你可以尝试其他模型(如 mistralqwen2.5),或者用 Ollama 配合编程实现更多功能(比如本地 RAG 系统)。

内容来源

DEV Ollama

发布时间

2026-05-24 01:31

返回 AI技术