极客前沿

10分钟本地跑AI:Ollama安装与入门教程

2026-07-24 01:32
DEV Ollama
查看原文

学会用Ollama在本地免费运行开源AI模型,保护隐私、不限次数,适合零基础新手。

你需要准备什么

首先,一台电脑(Windows/macOS/Linux)。Ollama是一个帮你轻松在本地运行大语言模型的工具,就像安装普通软件一样简单。你需要:

  • 至少8GB内存(推荐16GB以上)
  • 如果想跑大模型,最好有NVIDIA显卡(显存4GB以上)
  • 稳定的网络(下载模型用)

安装Ollama

  1. 打开浏览器,访问Ollama官网(ollama.com)
  2. 点击“Download”,选择你电脑的系统版本
  3. 下载安装包,像装普通软件一样双击安装
  4. 安装完成后,打开终端(命令提示符或Terminal)
  5. 输入 ollama --version,看到版本号就说明安装成功

运行你的第一个AI模型

Ollama支持很多开源模型,比如Llama 3(Meta开发的大语言模型)、DeepSeek(中文能力强的模型)、Mistral(轻量快速模型)。新手推荐先试小模型:

Tutorial Image
  1. 在终端输入 ollama run llama3.2:1b(1B参数的轻量版)
  2. 第一次运行会自动下载模型(约1GB),等待下载完成
  3. 下载后出现“>>>”提示符,直接输入你的问题,比如“你好,你是谁?”
  4. 模型会实时回答你,按Ctrl+D退出

常见坑:如果下载慢,可以尝试更换网络或挂代理;如果模型响应慢,说明电脑内存或显卡不够,换更小的模型(如tinyllama)。

下一步可以做什么

  • 换其他模型:ollama run deepseek-r1:1.5b 试试中文推理
  • 查看已下载模型:ollama list
  • 在代码中调用Ollama:它提供类似OpenAI的API,地址是 http://localhost:11434
  • 保护隐私:所有数据都在本地,不用担心泄露

内容来源

DEV Ollama

发布时间

2026-07-24 01:32

返回 AI技术