极客前沿

本地 AI 入门:Ollama 安装与首次运行

2026-05-11 01:32
DEV Ollama
查看原文

学会安装 Ollama,下载 Qwen 3 14B 模型,并在自己的电脑上跑通第一个 AI 对话。

本地运行 AI 模型不再需要昂贵的云服务。本文将带你一步步安装 Ollama(一个帮你轻松下载和运行 AI 模型的工具),并运行 Qwen 3 14B(阿里巴巴开发的 140 亿参数模型,适合日常对话和任务),全程在你自己电脑上完成。

Tutorial Image

准备环境

  • 一台普通电脑:建议 16GB 以上内存(32GB 更好),CPU 8 核以上。如果有 NVIDIA 显卡(如 RTX 3060 或更高)体验更流畅。
  • Windows / macOS / Linux 系统均可。
  • 约 10GB 硬盘空间。

安装步骤

  1. 打开浏览器,访问 Ollama 官网:ollama.com(Ollama 是免费开源的本地模型运行器)。
  2. 点击“Download”,选择你的系统(Windows、macOS 或 Linux)下载安装包。
  3. 运行安装程序,按提示完成安装。Windows 用户注意:安装后可能需要重启终端。
  4. 打开终端(Windows 用 CMD 或 PowerShell,macOS/Linux 用 Terminal)。
  5. 输入命令:ollama run qwen3:14b(首次运行会自动下载约 9GB 的模型文件,请确保网络稳定)。
  6. 等待下载完成,终端出现提示符后,你就可以输入问题与 AI 对话了!

验证是否成功

  • 在终端输入“你好,介绍一下你自己”,看是否返回中文回答。
  • 如果出现乱码,检查终端是否支持 UTF-8 编码(Windows 用户可在 CMD 中执行 chcp 65001 临时解决)。
  • 若遇到“out of memory”错误,说明内存不足,可尝试更小的模型如 qwen3:7b(70 亿参数,约 4.5GB)。

下一步可以做什么

  • 尝试其他模型:ollama run llama3.3:8b(Meta 的 80 亿参数模型,适合对比测试)。
  • 查看所有可用模型:访问 ollama.com/library(Ollama 模型仓库)。
  • 调整参数:在命令后加 --temperature 0.7 控制回答随机性。
  • 集成到应用:Ollama 提供 API,可供其他程序调用。

内容来源

DEV Ollama

发布时间

2026-05-11 01:32

返回 AI技术