极客前沿

AI 入门:用 Ollama 本地跑通第一个大模型

2026-06-24 01:38
DEV Ollama
查看原文

手把手教你安装 Ollama,在本地跑通第一个 AI 模型,零基础也能轻松上手。

想体验 AI 但不想联网、不想付费、又怕配置复杂?Ollama 就是为你准备的。它是一个能在你电脑上直接运行大语言模型的工具,完全免费、无需联网、安装即用。跟着本文一步步来,十分钟内你就能在命令行里跟 AI 对话了。

准备环境

你只需要一台能上网的电脑,系统不限(Windows、macOS、Linux 都支持)。确保硬盘有至少 5GB 空闲空间(模型下载后会占用)。不需要显卡,但如果有 NVIDIA 显卡并安装了驱动,运行速度会更快。

Tutorial Image

安装步骤

  1. 打开浏览器,访问 Ollama(一个让你在本地运行大模型的免费工具)的官网:ollama.com
  2. 点击首页的“Download”按钮,选择你电脑对应的系统版本(Windows 选 .exe,macOS 选 .dmg,Linux 选 .sh)。
  3. 下载完成后,双击安装包,一路点“下一步”或“继续”即可。安装过程中不需要任何额外设置。
  4. 安装完成后,打开终端(Windows 用户打开命令提示符或 PowerShell,mac/Linux 用户打开 Terminal)。
  5. 在终端中输入以下命令并回车:ollama run llama3.2。这个命令会下载一个叫 Llama 3.2(Meta 公司开发的轻量级语言模型)并自动启动对话界面。
  6. 第一次运行会下载模型(约 2GB),请耐心等待。下载完成后,你会看到 >>> Send a message 的提示,说明安装成功。

验证是否成功

在提示符后输入任意问题,比如“你好,你是谁?”,模型会立即回复。如果看到回复内容,恭喜你,你的第一个 AI 模型已经跑通了!输入 /bye 可以退出对话。

下一步可以做什么

  • 试试其他模型:在终端输入 ollama run llama3.2-vision 可以运行支持图片输入的模型。
  • 了解常用命令:ollama list 查看已下载的模型;ollama pull 模型名 下载新模型。
  • 尝试用 Python 调用:安装 ollama Python 库,几行代码就能在程序里使用 AI。

内容来源

DEV Ollama

发布时间

2026-06-24 01:38

返回 AI技术