极客前沿

AI 入门:从零安装本地模型,第一次跑通

2026-05-13 01:33
DEV Ollama
查看原文

手把手教你在电脑上装 Ollama、拉模型、跑通本地 AI,不用 GPU,零基础也能跟上。

很多人想试试 AI 但被“模型”“GPU”“推理”这些词吓住了。其实你不需要显卡,一台普通电脑就能跑本地 AI。本文带你从零开始:装工具、下模型、写第一行代码验证成功。

Tutorial Image

准备环境

  • Ollama:一个帮你下载和运行 AI 模型的免费工具,就像 App Store 管理 App 一样简单。
  • 一台能上网的电脑(Windows / macOS / Linux 都行),至少 8GB 内存,推荐 16GB。
  • 命令行终端(Windows 用 PowerShell,Mac/Linux 用 Terminal)。

安装步骤

  1. 打开浏览器,访问 ollama.com,点击下载对应系统的安装包。
  2. 安装后打开终端,输入 ollama --version,看到版本号说明安装成功。
  3. 拉取一个轻量模型:输入 ollama pull gemma:2b(约 1.5GB),等待下载完成。
  4. 运行模型:输入 ollama run gemma:2b,看到提示符后输入“你好”,模型会回复你。
  5. 退出:输入 /bye 回车。

验证是否成功

写一个简单的 Python 脚本调用本地模型:

Tutorial Image
  • 安装 Python(如果没装),打开终端输入 pip install ollama
  • 新建文件 test.py,写入:
    import ollama
    response = ollama.chat(model='gemma:2b', messages=[{'role': 'user', 'content': '用一句话介绍 AI'}])
    print(response['message']['content'])
  • 运行 python test.py,看到输出即成功。

下一步可以做什么

  • 尝试其他模型:ollama pull qwen:7b 等。
  • LangChain(一个搭建 AI 应用的框架)写更复杂的程序。
  • 阅读 Ollama 官方文档,学习如何自定义模型。

内容来源

DEV Ollama

发布时间

2026-05-13 01:33

返回 AI技术