AI 入门:用 Ollama 本地跑通代码问答系统
从零开始安装 Ollama,用函数分块法搭建本地 RAG 系统,让 AI 能回答代码问题。
准备环境:安装 Ollama
Ollama 是一个可以让你在本地电脑上运行 AI 模型的工具,不需要联网,数据也不会外传。首先去 ollama.com 下载对应系统的安装包(Windows、macOS、Linux 都有),双击安装即可。
安装步骤:下载模型并启动
- 打开终端(Windows 用 PowerShell 或 CMD)。
- 输入命令
ollama pull llama3,下载一个适合问答的模型(大约 4GB,等待完成)。 - 输入
ollama pull nomic-embed-text,下载一个用于将代码转换成向量的嵌入模型(很小,几秒就好)。 - 输入
ollama serve启动服务,保持终端开着。
验证是否成功:运行你的第一个 AI 查询
打开另一个终端,输入 ollama run llama3,然后随便问一句“Hello”,如果模型回复了,就说明安装成功。现在你已经有一个本地可用的 AI 了。
下一步:用函数分块法搭建代码问答系统
你想让 AI 回答关于代码的问题,比如“这个合约的提款函数怎么防重入?”关键在于如何把代码切分成小块(chunk)。简单按行数切分(比如每 500 个 token 一段)会破坏函数结构,导致 AI 拿到不完整的代码片段,回答错误。更好的方法是:按函数切分——每个函数(包括函数名、签名、注释、主体)作为一个独立的 chunk。这样每个 chunk 都是完整的有意义单元。
实现方法:用代码解析器(比如 TypeScript 用 ts-morph,Solidity 用 solc-ast)遍历代码的语法树,提取每个函数节点,然后存入向量数据库。查询时,将用户问题也转换成向量,找到最相似的函数 chunk,再把完整函数交给大模型回答。
本地运行的好处:你的代码永远不会离开电脑,适合私有项目。现在你可以用 Ollama 做嵌入(embedding)和推理,用 Python 写一个简单的脚本,把函数 chunk 存到本地文件或轻量向量库(如 Chroma)中,然后通过 Ollama 的 API 查询。整套流程可以在 30 分钟内跑通。
内容来源
DEV Ollama
发布时间
2026-07-01 01:32