本地AI安装与入门:一步步跑通你的第一个模型
学会安装Ollama,下载并运行第一个本地AI模型,完成简单的文档分析任务。
想试试本地AI但不知道从哪开始?这篇文章带你从零开始,装好环境,跑通第一个模型,并体验一下它到底能帮你做什么。我们用的是Ollama——一个超简单的工具,让你在电脑上就能运行AI模型,不需要联网,数据也不会传到云端。
准备环境:下载Ollama
Ollama支持Windows、macOS和Linux。去官网(ollama.com)下载对应系统的版本,安装过程跟普通软件一样,下一步到底就行。注意:安装后可能需要重启电脑才能生效。
安装步骤:下载并运行第一个模型
- 打开终端(Windows搜索“cmd”或“PowerShell”,macOS搜索“终端”)。
- 输入命令:
ollama run llama3.2(这是Meta的轻量模型,适合新手)。第一次运行会自动下载模型,大概需要几分钟到十几分钟,取决于你的网速。 - 下载完成后,你会看到一个提示符,直接打字提问就行。比如输入:“Hello, who are you?”模型会回复你。
- 想退出就按
Ctrl+D或输入/bye。
常见坑:如果下载失败,检查网络或换用命令ollama pull llama3.2先下载再运行。
验证是否成功:让它帮你读一段文本
为了看看模型能不能真的帮上忙,我们试一个简单的任务:从一段合同里提取关键日期。复制下面这段文字到终端(用引号括起来):
“This agreement starts on January 1, 2024 and ends on December 31, 2024. Payment is due 30 days after invoice.”
然后问模型:“What is the start date and end date?” 它会回答出2024年1月1日和2024年12月31日。如果它说对了,说明安装成功,模型能干活了。
下一步可以做什么
- 试试其他模型:比如
ollama run mistral(另一个流行的轻量模型)。 - 处理自己的文档:把PDF或Word里的文字复制出来,让模型帮你总结要点、翻译成大白话,或者回答简单的是非问题。
- 注意:本地模型对复杂法律条款的理解还不靠谱,别用它做最终决策。但作为快速浏览工具,能帮你省下不少时间。
现在你已经跑通了第一个本地AI模型,可以继续探索更多用法了!
内容来源
DEV Ollama
发布时间
2026-05-30 01:33