用树莓派和 Ollama 搭建本地 AI 助手:入门安装指南
零基础学会在树莓派上安装 Ollama 和 Python,跑通本地大模型,实现隐私安全的 AI 对话。
准备工作:硬件和软件清单
开始前,请准备好以下物品:
- 一台树莓派(推荐 4B 或更新型号)
- 一张 32GB 以上 microSD 卡
- 电源线和网络连接(Wi-Fi 或网线)
- 电脑(用于烧录系统和 SSH 连接)
第一步:烧录系统并启动树莓派
- 用 Raspberry Pi Imager 选择 Raspberry Pi OS Lite (64-bit)(轻量版系统,适合服务器用途)。
- 烧录到 microSD 卡后,插入树莓派并通电开机。
- 在电脑上打开 SSH 客户端,输入树莓派的 IP 地址(可在路由器后台查看),默认用户名
pi,密码raspberry。
常见坑:如果 SSH 连不上,检查树莓派和电脑是否在同一网络,或者先接显示器键盘完成初始设置。
第二步:更新系统并安装必要软件
连接后,在终端执行以下命令:
sudo apt update && sudo apt upgrade -y—— 更新软件包列表和已装软件。sudo apt install python3 python3-pip git -y—— 安装 Python 3(编程语言)和 pip(Python 包管理器),以及 Git(代码管理工具)。- 完成后重启:
sudo reboot。
第三步:安装 Ollama 并下载模型
- 用 SSH 重新登录树莓派。
- 运行一键安装命令:
curl -fsSL https://ollama.com/install.sh | sh。 - 安装完成后,下载一个轻量模型(如 tinyllama,适合树莓派):
ollama pull tinyllama。
说明:Ollama 是一个让你在本地运行大语言模型的工具,数据不出家门,隐私安全。模型下载可能需要几分钟,耐心等待。
第四步:验证是否成功
在终端输入:ollama run tinyllama,然后随便问一句,比如“Hello”。如果模型回复了文字,恭喜你!AI 助手已经在树莓派上跑起来了。按 Ctrl+D 退出对话。
下一步可以做什么
现在你已经有了本地 AI 基础,可以:
- 用 Python 写一个简单的 Web 界面,让浏览器调用模型。
- 连接智能家居设备,实现“开灯”“查温度”等语音或文字指令。
- 尝试更大模型(如 llama2),但注意树莓派内存有限。
内容来源
DEV Ollama
发布时间
2026-05-29 01:31