极客前沿

AI 本地运行入门:Ollama 安装与上手

2026-07-19 01:31
DEV Ollama
查看原文

学会在本地电脑上安装 Ollama,下载并运行第一个 AI 模型,体验对话式交互。

很多人想尝试 AI 模型,但被复杂的安装步骤吓退。其实,现在有 Ollama 这样的工具,让你像安装普通软件一样,在本地运行大语言模型。本文带你一步步完成安装和第一次使用。

一、准备工作

你需要一台电脑(Windows、macOS 或 Linux),以及至少 8GB 内存。如果电脑有 NVIDIA 显卡(显存 4GB 以上)或 Apple Silicon 芯片(M1/M2/M3),运行速度会更快。

  • 操作系统:Windows 10/11、macOS 11+ 或主流 Linux 发行版。
  • 网络:下载模型需要联网,模型文件较大(几 GB),建议用宽带。
  • 磁盘空间:至少 10GB 剩余空间。

二、安装 Ollama

Ollama 是一个让你在本地运行大语言模型的免费工具,支持多种模型,操作简单。安装步骤如下:

Tutorial Image
  1. 打开浏览器,访问 https://ollama.com
  2. 点击页面上的 Download 按钮,选择对应操作系统的版本(Windows、macOS 或 Linux)。
  3. 下载完成后,运行安装程序,按照提示完成安装。
  4. 安装后,打开终端(Windows 打开命令提示符或 PowerShell,macOS 打开终端)。输入 ollama --version,如果显示版本号,说明安装成功。

常见坑提醒:Windows 用户如果安装后无法运行,可以尝试以管理员身份运行命令提示符或 PowerShell。

三、运行第一个模型

安装完成后,我们来下载并运行一个模型。推荐从 Llama 3.2(Meta 开发的开源模型)开始,它体积较小,适合入门。

  1. 在终端中输入:ollama run llama3.2,按回车。
  2. Ollama 会自动下载模型文件(约 2GB),请耐心等待。
  3. 下载完成后,你会看到 >>> Send a message 的提示,说明模型已经就绪。
  4. 输入一句话,比如“你好,请介绍一下自己”,按回车,模型会生成回复。
  5. 如果想退出对话,输入 /bye 即可。

常见坑提醒:如果下载速度很慢,可以尝试更换网络环境,或者使用国内镜像下载模型。

四、验证是否成功与下一步

当你成功看到模型回复,说明本地 AI 环境已经跑通。你可以尝试不同的模型,比如 MistralQwen,在终端输入 ollama run mistral 即可。Ollama 还支持通过 API 调用,方便集成到自己的应用中。下一步,可以学习如何用 Python 调用 Ollama 的 API,或者尝试用 LM Studio 等图形界面工具。

内容来源

DEV Ollama

发布时间

2026-07-19 01:31

返回 AI技术