离线环境装AI:Ollama 0.5 一步步上手
手把手教你安装Ollama、下载模型、离线部署,在无网电脑上跑通AI代码助手。
准备工作:了解你要装什么
Ollama 是一个让你在本地电脑上运行AI模型(比如代码生成、聊天机器人)的工具,完全不需要联网。特别适合金融、医疗等不能上网的离线环境。你只需要一台普通电脑(推荐16GB内存),就能跑起7B或13B参数的模型。
安装步骤:5分钟搞定
- 下载安装包:去 Ollama 官网(ollama.com)下载对应你系统的版本(Windows、macOS、Linux都支持)。Windows用户直接双击安装包,一路点“下一步”就行。
- 验证安装:打开终端(Windows用命令提示符或PowerShell),输入
ollama --version,如果显示版本号就成功了。 - 下载模型(有网电脑):在能联网的电脑上运行
ollama pull codellama:7b,这会下载一个7B参数的代码生成模型。你也可以换成其他模型,比如llama3.2或mistral。 - 转移模型到离线电脑:模型文件默认在
~/.ollama/models文件夹里。把它复制到U盘,再拷贝到离线电脑的同一路径下。注意:最好先校验文件哈希值(SHA256),防止文件损坏或篡改。 - 加载模型:在离线电脑上运行
ollama create mymodel -f Modelfile,其中Modelfile里写FROM ./codellama:7b。或者直接用ollama run codellama:7b(如果已识别到模型)。
验证是否成功:跑个测试
- 运行
ollama run codellama:7b,输入“写一个Python函数计算斐波那契数列”。如果模型返回代码,说明一切正常。 - 你也可以用 Continue(VS Code插件)连接Ollama:安装Continue插件,在设置里选择Ollama作为提供商,然后就可以在编辑器里直接问AI了。
下一步可以做什么
- 试试其他模型:
ollama pull llama3.2或mistral,支持聊天、翻译等任务。 - 优化性能:如果电脑内存不够,可以用量化版本(如Q4_0),模型文件缩小60%,速度更快。
- 安全加固:在离线环境中,记得关闭Continue的匿名遥测(设置里关掉),并添加防火墙规则阻止VS Code联网。
内容来源
DEV Ollama
发布时间
2026-05-07 01:33