本地 AI 入门:Ollama 安装与首次运行
学会安装 Ollama,下载 Qwen 3 14B 模型,并在自己的电脑上跑通第一个 AI 对话。
本地运行 AI 模型不再需要昂贵的云服务。本文将带你一步步安装 Ollama(一个帮你轻松下载和运行 AI 模型的工具),并运行 Qwen 3 14B(阿里巴巴开发的 140 亿参数模型,适合日常对话和任务),全程在你自己电脑上完成。
准备环境
- 一台普通电脑:建议 16GB 以上内存(32GB 更好),CPU 8 核以上。如果有 NVIDIA 显卡(如 RTX 3060 或更高)体验更流畅。
- Windows / macOS / Linux 系统均可。
- 约 10GB 硬盘空间。
安装步骤
- 打开浏览器,访问 Ollama 官网:ollama.com(Ollama 是免费开源的本地模型运行器)。
- 点击“Download”,选择你的系统(Windows、macOS 或 Linux)下载安装包。
- 运行安装程序,按提示完成安装。Windows 用户注意:安装后可能需要重启终端。
- 打开终端(Windows 用 CMD 或 PowerShell,macOS/Linux 用 Terminal)。
- 输入命令:
ollama run qwen3:14b(首次运行会自动下载约 9GB 的模型文件,请确保网络稳定)。 - 等待下载完成,终端出现提示符后,你就可以输入问题与 AI 对话了!
验证是否成功
- 在终端输入“你好,介绍一下你自己”,看是否返回中文回答。
- 如果出现乱码,检查终端是否支持 UTF-8 编码(Windows 用户可在 CMD 中执行
chcp 65001临时解决)。 - 若遇到“out of memory”错误,说明内存不足,可尝试更小的模型如
qwen3:7b(70 亿参数,约 4.5GB)。
下一步可以做什么
- 尝试其他模型:
ollama run llama3.3:8b(Meta 的 80 亿参数模型,适合对比测试)。 - 查看所有可用模型:访问 ollama.com/library(Ollama 模型仓库)。
- 调整参数:在命令后加
--temperature 0.7控制回答随机性。 - 集成到应用:Ollama 提供 API,可供其他程序调用。
内容来源
DEV Ollama
发布时间
2026-05-11 01:32