极客前沿

零基础本地跑AI:从装Ollama到第一次对话

2026-05-25 01:31
DEV Ollama
查看原文

手把手教你安装Ollama,在个人电脑上运行大语言模型,无需编程基础,免费使用。

你是不是觉得AI很酷,但一看到“部署模型”“调用API”就头大?别担心,我也是从零开始摸索的医学生。这篇文章会带你用最简单的方式,在自己的电脑上跑起一个AI模型——不需要云计算账号,不需要信用卡,甚至不需要懂代码。

准备环境:先装一个叫Ollama的工具

Ollama是一个免费的开源工具,它能让你在本地电脑上轻松运行大语言模型(LLM)。大语言模型就是像ChatGPT那样能聊天、写文章的AI程序,只不过我们让它跑在自己电脑上。

  • 访问Ollama官网(ollama.com),点击“Download”下载对应你系统的安装包(Windows、macOS、Linux都有)。
  • 双击安装,一路默认选项即可。安装完成后,你可以在命令行(终端)里输入ollama测试是否安装成功。

安装步骤:下载一个模型并运行

Ollama安装好后,我们下载一个轻量模型试试。推荐新手用Llama 3.2(Meta公司开发的小型模型,适合个人电脑)。

Tutorial Image
  1. 打开命令行(Windows按Win+R输入cmd,Mac打开“终端”)。
  2. 输入以下命令并按回车:ollama run llama3.2
  3. 首次运行会自动下载模型(大约2-3GB),耐心等待进度条走完。

常见坑:如果下载很慢,可以尝试切换网络或使用代理;如果提示“command not found”,说明Ollama没装好,重新安装并重启命令行。

验证是否成功:和AI打个招呼

下载完成后,命令行会出现一个>>提示符,表示AI模型已经就绪。直接输入你的问题,比如“你好,请用一句话介绍自己”,它就会回答你。输入/exit可以退出对话。

如果看到回复,恭喜你——你的第一台本地AI已经跑通了!

下一步可以做什么

  • 尝试其他模型:在Ollama官网的“Models”页面找到更多模型,用ollama run 模型名切换。
  • 集成到应用:Ollama提供API接口,你可以用Python等语言调用,打造自己的AI工具。
  • 学习更多:我的系列文章会继续教你如何调优模型、用GPU加速等,一步步深入。

内容来源

DEV Ollama

发布时间

2026-05-25 01:31

返回 AI技术