零基础本地跑AI:从装Ollama到第一次对话
手把手教你安装Ollama,在个人电脑上运行大语言模型,无需编程基础,免费使用。
你是不是觉得AI很酷,但一看到“部署模型”“调用API”就头大?别担心,我也是从零开始摸索的医学生。这篇文章会带你用最简单的方式,在自己的电脑上跑起一个AI模型——不需要云计算账号,不需要信用卡,甚至不需要懂代码。
准备环境:先装一个叫Ollama的工具
Ollama是一个免费的开源工具,它能让你在本地电脑上轻松运行大语言模型(LLM)。大语言模型就是像ChatGPT那样能聊天、写文章的AI程序,只不过我们让它跑在自己电脑上。
- 访问Ollama官网(ollama.com),点击“Download”下载对应你系统的安装包(Windows、macOS、Linux都有)。
- 双击安装,一路默认选项即可。安装完成后,你可以在命令行(终端)里输入
ollama测试是否安装成功。
安装步骤:下载一个模型并运行
Ollama安装好后,我们下载一个轻量模型试试。推荐新手用Llama 3.2(Meta公司开发的小型模型,适合个人电脑)。
- 打开命令行(Windows按Win+R输入cmd,Mac打开“终端”)。
- 输入以下命令并按回车:
ollama run llama3.2 - 首次运行会自动下载模型(大约2-3GB),耐心等待进度条走完。
常见坑:如果下载很慢,可以尝试切换网络或使用代理;如果提示“command not found”,说明Ollama没装好,重新安装并重启命令行。
验证是否成功:和AI打个招呼
下载完成后,命令行会出现一个>>提示符,表示AI模型已经就绪。直接输入你的问题,比如“你好,请用一句话介绍自己”,它就会回答你。输入/exit可以退出对话。
如果看到回复,恭喜你——你的第一台本地AI已经跑通了!
下一步可以做什么
- 尝试其他模型:在Ollama官网的“Models”页面找到更多模型,用
ollama run 模型名切换。 - 集成到应用:Ollama提供API接口,你可以用Python等语言调用,打造自己的AI工具。
- 学习更多:我的系列文章会继续教你如何调优模型、用GPU加速等,一步步深入。
内容来源
DEV Ollama
发布时间
2026-05-25 01:31