极客前沿

AI 入门:在本地跑通 Gemma 4 模型,一步步教程

2026-05-31 01:35
DEV Ollama
查看原文

手把手教你安装 Ollama、配置 Python 环境,并用 MCP 工具在本地运行 Gemma 4 模型。

这篇教程会带你从零开始,在你自己电脑上跑通 AI 模型 Gemma 4。你不需要有 AI 基础,只要跟着步骤走,就能装好环境、启动模型,并用命令行工具和它对话。整个过程都在本地完成,不依赖云端服务。

Tutorial Image

准备环境:你需要装什么

在开始之前,先确认电脑上有这些基础工具:

Tutorial Image
  • Python 3.10 或更高版本:Python 是一种编程语言,很多 AI 工具都用它。如果还没装,去 python.org 下载安装包,安装时记得勾选“Add Python to PATH”。
  • Git:用来下载代码。从 git-scm.com 安装,一路默认即可。
  • Docker(可选但推荐):用来运行模型容器。从 docker.com 下载桌面版,安装后启动。

安装步骤:一步步来

  1. 安装 Ollama:Ollama 是一个让你在本地运行大模型的工具。去 ollama.com 下载对应系统的版本,安装后打开终端(Windows 用 PowerShell,Mac 用终端),输入 ollama run gemma4:2b 测试是否成功(第一次会下载模型,约 1.5GB)。
  2. 安装 Antigravity CLI:这是一个命令行 AI 助手。打开终端,执行 pip install antigravity-cli。完成后输入 ag --help 查看帮助。
  3. 配置 Google 账号认证:Antigravity CLI 需要登录。在终端输入 ag auth login,按提示用浏览器登录你的 Google 账号(免费)。
  4. 下载 MCP 示例代码:MCP 是让 AI 模型和工具通信的协议。在终端执行 git clone https://github.com/modelcontextprotocol/python-sdk.git,然后进入文件夹 cd python-sdk

验证是否成功:跑通你的第一个 AI 对话

  1. python-sdk 文件夹内,找到 examples/simple_server.py 文件,这是 MCP 服务器的示例。
  2. 启动服务器:终端执行 python examples/simple_server.py,看到“Server started”说明成功。
  3. 打开另一个终端窗口,启动 Antigravity CLI:输入 ag --mcp-stdio --mcp-command 'python examples/simple_server.py'。这会连接刚才的服务器。
  4. 在 Antigravity CLI 里输入 What is 2+2?,如果返回答案,说明整个链路通了!

常见坑:如果提示“command not found”,检查 Python 和 pip 是否加入 PATH;如果 Docker 启动慢,可以先用 Ollama 直接运行模型(跳过 Docker)。

Tutorial Image

下一步可以做什么

  • Ollama 下载其他模型,比如 ollama run llama3
  • 修改 MCP 示例代码,添加你自己的工具函数,让 AI 帮你做更多事。
  • 了解 Docker 部署:把模型放在容器里,方便管理和迁移。

现在你已经成功在本地跑通 AI 模型了!后续可以探索更多 MCP 文档,或者试试用 Antigravity CLI 写代码、查资料。

内容来源

DEV Ollama

发布时间

2026-05-31 01:35

返回 AI技术