本地跑AI编程助手:从零开始的安装指南
教你安装Ollama,在本地运行AI编程模型,无需联网,保护隐私,零成本。
你是不是也好奇过:AI是怎么帮人写代码的?通常,你的代码片段会被发到云端服务器,处理完再返回建议。这个过程很快,但你的代码离开了你的电脑。如果你想完全掌控数据,或者不想付订阅费,可以试试Ollama(一个开源工具,让你在本地电脑上运行AI模型)。本文教你从零开始安装并跑通第一个模型。
准备环境
你需要一台电脑,最好有独立显卡(比如NVIDIA显卡),但CPU也能跑,只是慢一些。系统可以是Windows、macOS或Linux。先确认你的电脑有足够硬盘空间(至少10GB),因为模型文件比较大。
安装步骤
- 下载Ollama:打开浏览器,访问Ollama官网(ollama.com),点击下载对应你系统的版本。Windows用户下载.exe文件,macOS用户下载.dmg文件,Linux用户按页面提示用命令行安装。
- 安装Ollama:双击下载的文件,按默认提示完成安装。安装后,Ollama会在后台运行,你可以在任务栏或菜单栏看到它的图标。
- 下载一个代码模型:打开终端(Windows用户打开命令提示符或PowerShell,macOS用户打开终端)。输入以下命令并按回车:
ollama pull qwen2.5-coder:7b。这个命令会下载一个适合编程的7B参数模型(参数越多模型越聪明,但需要的硬件也越强)。下载过程可能需要几分钟到半小时,取决于你的网速。 - 运行模型:下载完成后,在终端输入:
ollama run qwen2.5-coder:7b。看到类似“>>>”的提示符,说明模型已经运行成功。你可以输入“你好”测试,它会回复你。
验证是否成功
在Ollama的交互界面中,你可以直接问编程问题,比如“用Python写一个计算斐波那契数列的函数”。如果它返回代码,说明一切正常。你也可以按Ctrl+D退出。
下一步可以做什么
- 安装更多模型:访问Ollama模型库(ollama.com/library),查看其他模型,用
ollama pull 模型名下载。 - 在VS Code中使用:安装“Continue”扩展,配置Ollama为后端,就能在编辑器里直接使用本地AI辅助编码。
- 常见坑提醒:如果模型运行很慢,可能是内存不足,可以尝试更小的模型(如qwen2.5-coder:1.5b);如果下载失败,检查网络或换源。
内容来源
DEV Ollama
发布时间
2026-06-02 01:32