零基础本地跑AI:免费安装与上手教程
学会在个人电脑免费安装Ollama并运行AI模型,无需API密钥,一步步带你跑通第一个对话。
很多人觉得跑AI模型需要昂贵的云服务或API密钥,其实只要一台普通电脑,就能免费在本地运行强大的AI模型。本教程带你从零开始,安装Ollama工具,并跑通第一个对话。
准备环境
- Ollama:一个帮你下载和运行AI模型的免费工具,就像手机上的应用商店。
- 一台能上网的电脑(Windows、macOS或Linux都行),至少8GB内存。
- 无需GPU,纯CPU也能跑,只是慢一点。
安装步骤
- 打开浏览器,访问Ollama官网(ollama.com)。
- 点击“Download”按钮,根据你的系统下载安装包。
- 运行安装包,一路默认设置即可。安装完成后,Ollama会在后台自动启动。
- 打开终端(Windows用命令提示符或PowerShell,Mac/Linux用终端),输入
ollama --version,如果显示版本号,说明安装成功。
跑第一个AI模型
- 在终端输入
ollama run llama3.2,回车。Ollama会自动下载一个名为Llama 3.2的AI模型(约2GB),第一次需要等待几分钟。 - 下载完成后,你会看到“>>>”提示符,表示可以输入问题。例如输入“你好,介绍一下你自己”,AI会回复。
- 想退出时,输入
/bye回车即可。
常见问题提醒
- 下载慢:可以尝试更换网络或使用镜像站点(如阿里云镜像)。
- 内存不足:如果电脑只有8GB内存,建议选择小模型,如
llama3.2:1b(1B参数,约700MB)。 - 命令找不到:检查Ollama是否在后台运行,或重启电脑。
下一步可以做什么
- 尝试其他模型:在Ollama官网的模型库(ollama.com/library)搜索,用
ollama run 模型名运行。 - 在代码中调用:Ollama提供HTTP API,可以用Python等语言调用,实现自己的AI应用。
- 探索更多功能:比如自定义模型、离线使用等。
内容来源
DEV Ollama
发布时间
2026-07-03 01:31