极客前沿

AI 入门:本地装个模型,跑通第一个工具调用

2026-07-22 01:32
DEV Ollama
查看原文

零基础学会下载 Ollama、安装本地 AI 模型、配置工具调用,避开常见坑。

很多人觉得 AI 很高深,但其实你可以在自己电脑上装一个本地模型,让它帮你干点小活。这篇教程带你从零开始,装好环境,跑通第一个工具调用。

准备环境

你只需要一台电脑(Mac / Windows / Linux 都行),能联网。我们要装两个东西:

Tutorial Image
  • Ollama:一个帮你下载和运行 AI 模型的小工具。去 ollama.com 下载安装包,双击安装就行。
  • 一个模型:比如 qwen3:8b(阿里出的轻量模型,适合入门)。装好 Ollama 后,打开终端(命令行窗口)输入:ollama pull qwen3:8b,等它下载完。

安装步骤

  1. 下载并安装 Ollama(默认设置即可)。
  2. 打开终端,运行 ollama pull qwen3:8b 下载模型。
  3. 测试模型是否能用:输入 ollama run qwen3:8b "你好",如果回复了内容,就成功了。
  4. (可选)如果你想用工具调用(让模型读文件、执行命令),需要创建一个自定义模型。新建一个文本文件叫 Modelfile,写入以下内容:
    FROM qwen3:8b
    TEMPLATE """{{ .Prompt }}"""
    然后运行 ollama create mymodel -f Modelfile 创建自定义模型。

验证是否成功

运行 ollama run mymodel "现在几点?",如果模型直接回答,没有多余格式,就说明配置对了。如果你看到类似 <think> 的标签,说明模型在“思考”,需要修改 Modelfile 去掉模板里的推理部分。

下一步可以做什么

你可以用这个模型搭配 PicoClaw 等工具,让它帮你监控服务器、读取日志。记住:本地模型跑得快、隐私好,但能力有限;复杂任务还是得用云端模型。

内容来源

DEV Ollama

发布时间

2026-07-22 01:32

返回 AI技术