极客前沿

Ollama 入门教程:安装、跑通第一个 AI 模型

2026-06-23 01:31
DEV Ollama
查看原文

本文教你零基础安装 Ollama,下载并运行本地大语言模型,体验 AI 对话。

想在自己的电脑上运行 AI 模型?Ollama 就是你的最佳选择。它是一个免费工具,让你轻松在本地运行 大语言模型(LLM)——一种能理解和生成文字的 AI 程序,比如 Llama、Mistral 等。本教程将带你一步步完成安装并跑通第一个模型。

准备环境

在开始前,请确认你的电脑满足以下条件:

Tutorial Image
  • 操作系统:Windows 10/11、macOS 或 Linux(Ubuntu 等)。
  • 硬件:至少 8GB 内存(推荐 16GB),模型越大越吃内存。
  • 硬盘空间:至少 10GB 空闲,用于下载模型文件。
  • 网络:需要能访问 GitHub 和 Ollama 官网。

安装步骤

  1. 下载 Ollama:打开浏览器,访问 ollama.com/download,根据你的系统选择对应的安装包(Windows 选 .exe,macOS 选 .dmg,Linux 选 .sh)。
  2. 运行安装程序:双击下载的文件,按提示完成安装。Windows 用户可能需要允许管理员权限。
  3. 验证安装:打开终端(Windows 用命令提示符或 PowerShell,macOS/Linux 用终端),输入 ollama --version,如果看到版本号(例如 0.1.29),说明安装成功。
  4. 下载第一个模型:在终端输入 ollama pull llama3.2(这是一个轻量模型,适合入门)。等待下载完成,可能需要几分钟。
  5. 运行模型:输入 ollama run llama3.2,稍等片刻,你会看到提示符变成 >>>,现在你就可以和 AI 对话了!试试输入“你好”,模型会回复你。

验证是否成功

如果你看到了模型的回复,恭喜你,Ollama 已经成功运行!你可以继续提问,或者输入 /exit 退出对话。注意:首次运行模型时,它会加载到内存,可能需要几秒钟。如果遇到错误,请检查网络连接或内存是否充足。

下一步可以做什么

  • 尝试更多模型:用 ollama pull 下载其他模型,比如 mistralgemma:2b。模型越大,能力越强,但需要更多资源。
  • 使用 API 调用:Ollama 提供 REST API,你可以在代码中调用它,例如用 Python 写一个聊天机器人。启动 Ollama 后,访问 http://localhost:11434 即可。
  • 学习提示技巧:试试不同的提问方式,比如“用中文回答”,模型会切换语言。探索更多功能,让 AI 帮你写作、编程或解答问题。

内容来源

DEV Ollama

发布时间

2026-06-23 01:31

返回 AI技术