极客前沿

零基础本地跑AI:免费安装与上手教程

2026-07-03 01:31
DEV Ollama
查看原文

学会在个人电脑免费安装Ollama并运行AI模型,无需API密钥,一步步带你跑通第一个对话。

很多人觉得跑AI模型需要昂贵的云服务或API密钥,其实只要一台普通电脑,就能免费在本地运行强大的AI模型。本教程带你从零开始,安装Ollama工具,并跑通第一个对话。

Tutorial Image

准备环境

  • Ollama:一个帮你下载和运行AI模型的免费工具,就像手机上的应用商店。
  • 一台能上网的电脑(Windows、macOS或Linux都行),至少8GB内存。
  • 无需GPU,纯CPU也能跑,只是慢一点。

安装步骤

  1. 打开浏览器,访问Ollama官网(ollama.com)。
  2. 点击“Download”按钮,根据你的系统下载安装包。
  3. 运行安装包,一路默认设置即可。安装完成后,Ollama会在后台自动启动。
  4. 打开终端(Windows用命令提示符或PowerShell,Mac/Linux用终端),输入 ollama --version,如果显示版本号,说明安装成功。

跑第一个AI模型

  • 在终端输入 ollama run llama3.2,回车。Ollama会自动下载一个名为Llama 3.2的AI模型(约2GB),第一次需要等待几分钟。
  • 下载完成后,你会看到“>>>”提示符,表示可以输入问题。例如输入“你好,介绍一下你自己”,AI会回复。
  • 想退出时,输入 /bye 回车即可。

常见问题提醒

  • 下载慢:可以尝试更换网络或使用镜像站点(如阿里云镜像)。
  • 内存不足:如果电脑只有8GB内存,建议选择小模型,如 llama3.2:1b(1B参数,约700MB)。
  • 命令找不到:检查Ollama是否在后台运行,或重启电脑。

下一步可以做什么

  • 尝试其他模型:在Ollama官网的模型库(ollama.com/library)搜索,用 ollama run 模型名 运行。
  • 在代码中调用:Ollama提供HTTP API,可以用Python等语言调用,实现自己的AI应用。
  • 探索更多功能:比如自定义模型、离线使用等。

内容来源

DEV Ollama

发布时间

2026-07-03 01:31

返回 AI技术