AI 本地运行入门:Ollama 安装与上手
学会在本地电脑上安装 Ollama,下载并运行第一个 AI 模型,体验对话式交互。
很多人想尝试 AI 模型,但被复杂的安装步骤吓退。其实,现在有 Ollama 这样的工具,让你像安装普通软件一样,在本地运行大语言模型。本文带你一步步完成安装和第一次使用。
一、准备工作
你需要一台电脑(Windows、macOS 或 Linux),以及至少 8GB 内存。如果电脑有 NVIDIA 显卡(显存 4GB 以上)或 Apple Silicon 芯片(M1/M2/M3),运行速度会更快。
- 操作系统:Windows 10/11、macOS 11+ 或主流 Linux 发行版。
- 网络:下载模型需要联网,模型文件较大(几 GB),建议用宽带。
- 磁盘空间:至少 10GB 剩余空间。
二、安装 Ollama
Ollama 是一个让你在本地运行大语言模型的免费工具,支持多种模型,操作简单。安装步骤如下:
- 打开浏览器,访问 https://ollama.com。
- 点击页面上的 Download 按钮,选择对应操作系统的版本(Windows、macOS 或 Linux)。
- 下载完成后,运行安装程序,按照提示完成安装。
- 安装后,打开终端(Windows 打开命令提示符或 PowerShell,macOS 打开终端)。输入
ollama --version,如果显示版本号,说明安装成功。
常见坑提醒:Windows 用户如果安装后无法运行,可以尝试以管理员身份运行命令提示符或 PowerShell。
三、运行第一个模型
安装完成后,我们来下载并运行一个模型。推荐从 Llama 3.2(Meta 开发的开源模型)开始,它体积较小,适合入门。
- 在终端中输入:
ollama run llama3.2,按回车。 - Ollama 会自动下载模型文件(约 2GB),请耐心等待。
- 下载完成后,你会看到
>>> Send a message的提示,说明模型已经就绪。 - 输入一句话,比如“你好,请介绍一下自己”,按回车,模型会生成回复。
- 如果想退出对话,输入
/bye即可。
常见坑提醒:如果下载速度很慢,可以尝试更换网络环境,或者使用国内镜像下载模型。
四、验证是否成功与下一步
当你成功看到模型回复,说明本地 AI 环境已经跑通。你可以尝试不同的模型,比如 Mistral 或 Qwen,在终端输入 ollama run mistral 即可。Ollama 还支持通过 API 调用,方便集成到自己的应用中。下一步,可以学习如何用 Python 调用 Ollama 的 API,或者尝试用 LM Studio 等图形界面工具。
内容来源
DEV Ollama
发布时间
2026-07-19 01:31