极客前沿

AI 入门:一步步装好环境,跑通你的第一个 LLM 程序

2026-06-27 01:32
DEV Ollama
查看原文

本文教你从零开始安装 Python、配置 Ollama、运行一个自动修正的 LLM 示例,体验 AI 编程的完整流程。

准备环境:装好 Python 和 Ollama

在开始之前,你需要两个基础工具:Python(一种编程语言,用来写代码)和 Ollama(一个可以在本地运行 AI 模型的工具,不用联网)。

  • 下载 Python:访问 python.org,点击“Download Python”按钮,安装时记得勾选“Add Python to PATH”。
  • 验证安装:打开终端(Windows 是命令提示符,Mac/Linux 是终端),输入 python --version,看到版本号就对了。
  • 安装 Ollama:访问 ollama.ai,下载对应系统的安装包,双击安装。装好后终端输入 ollama --version 检查。
  • 拉取模型:终端执行 ollama pull llama3.2:1b,下载一个小型模型(约 1GB),等它完成。

安装 dspyer:一个帮你自动修正 AI 输出的工具

dspyer 是一个 Python 库,它能自动检查 AI 返回的数据格式,如果出错就重试,直到正确为止。这样你就不用自己写一堆纠错代码了。

Tutorial Image
  1. 打开终端,输入 pip install dspyer,等待安装完成。
  2. 如果速度慢,可以加国内镜像:pip install dspyer -i https://pypi.tuna.tsinghua.edu.cn/simple
  3. 安装成功后,输入 pip show dspyer 能看到版本信息(比如 0.3.5)。

跑通第一个示例:30 秒体验自动修正

这个示例不需要 API 密钥,完全离线运行。它会调用本地模型,并展示 dspyer 如何自动修复格式错误。

  1. 在你的项目文件夹中新建一个文件,比如 test.py
  2. 复制以下代码:
    from dspyer import dspy_step
    from pydantic import BaseModel
    
    class Output(BaseModel):
        answer: str
        confidence: float
    
    @dspy_step(output_model=Output, retries=3)
    def my_step(context: str) -> Output:
        return context
    
    result = my_step("What is 2+2?")
    print(result)
  3. 在终端运行:python test.py。你会看到模型返回结果,如果格式不对,dspyer 会自动重试。
  4. 如果报错“ModuleNotFoundError: No module named 'dspyer'”,说明没安装成功,重新执行安装步骤。

下一步可以做什么

你已经跑通了第一个带自动修正的 AI 程序!接下来可以:

  • 尝试修改 Output 中的字段,让模型返回不同格式的数据。
  • 学习 DSPy(一个自动优化提示词的工具),把 dspyer 和它结合,让提示词自动调优。
  • 查看 dspyer 的官方文档(github.com/theramkm/dspyer),里面有更多示例。

内容来源

DEV Ollama

发布时间

2026-06-27 01:32

返回 AI技术