极客前沿

用树莓派和 Ollama 搭建本地 AI 助手:入门安装指南

2026-05-29 01:31
DEV Ollama
查看原文

零基础学会在树莓派上安装 Ollama 和 Python,跑通本地大模型,实现隐私安全的 AI 对话。

准备工作:硬件和软件清单

开始前,请准备好以下物品:

  • 一台树莓派(推荐 4B 或更新型号)
  • 一张 32GB 以上 microSD 卡
  • 电源线和网络连接(Wi-Fi 或网线)
  • 电脑(用于烧录系统和 SSH 连接)
另外,你需要在电脑上下载 Raspberry Pi Imager(树莓派官方烧录工具)和 SSH 客户端(如 PuTTY 或终端)。第一次接触树莓派?别担心,我们一步步来。

第一步:烧录系统并启动树莓派

  1. 用 Raspberry Pi Imager 选择 Raspberry Pi OS Lite (64-bit)(轻量版系统,适合服务器用途)。
  2. 烧录到 microSD 卡后,插入树莓派并通电开机。
  3. 在电脑上打开 SSH 客户端,输入树莓派的 IP 地址(可在路由器后台查看),默认用户名 pi,密码 raspberry

常见坑:如果 SSH 连不上,检查树莓派和电脑是否在同一网络,或者先接显示器键盘完成初始设置。

第二步:更新系统并安装必要软件

连接后,在终端执行以下命令:

  1. sudo apt update && sudo apt upgrade -y —— 更新软件包列表和已装软件。
  2. sudo apt install python3 python3-pip git -y —— 安装 Python 3(编程语言)和 pip(Python 包管理器),以及 Git(代码管理工具)。
  3. 完成后重启:sudo reboot

Tutorial Image

第三步:安装 Ollama 并下载模型

  1. 用 SSH 重新登录树莓派。
  2. 运行一键安装命令:curl -fsSL https://ollama.com/install.sh | sh
  3. 安装完成后,下载一个轻量模型(如 tinyllama,适合树莓派):ollama pull tinyllama

说明:Ollama 是一个让你在本地运行大语言模型的工具,数据不出家门,隐私安全。模型下载可能需要几分钟,耐心等待。

第四步:验证是否成功

在终端输入:ollama run tinyllama,然后随便问一句,比如“Hello”。如果模型回复了文字,恭喜你!AI 助手已经在树莓派上跑起来了。按 Ctrl+D 退出对话。

下一步可以做什么

现在你已经有了本地 AI 基础,可以:

  • 用 Python 写一个简单的 Web 界面,让浏览器调用模型。
  • 连接智能家居设备,实现“开灯”“查温度”等语音或文字指令。
  • 尝试更大模型(如 llama2),但注意树莓派内存有限。
记住,所有处理都在本地,你的数据永远不会离开家。

内容来源

DEV Ollama

发布时间

2026-05-29 01:31

返回 AI技术