本地跑 AI 模型入门:Ollama 安装与 Laravel 集成教程
学会安装 Ollama,在本地免费运行 AI 模型,并集成到 Laravel 项目,零成本开发测试。
准备环境:你需要什么
在开始之前,你需要一台电脑(Windows、macOS 或 Linux),以及基本的终端操作能力。如果你已经安装了 Laravel(一个 PHP Web 框架)和 PHP,那就更好了。不过即使没有,你也可以先学会运行 Ollama 本身。
安装 Ollama:本地 AI 模型管家
Ollama 是一个轻量工具,能让你在本地电脑上下载并运行开源 AI 模型(比如 Llama、Mistral 等),完全免费,无需联网(下载后)。
- macOS 用户:从 ollama.com 下载 macOS 应用,安装后会在菜单栏出现图标,自动启动。
- Windows 用户:同样从官网下载安装程序,安装后 Ollama 会作为后台服务运行。
- Linux 用户:打开终端,执行
curl -fsSL https://ollama.com/install.sh | sh。
安装完成后,打开终端(或命令行),输入以下命令下载并测试一个模型:
ollama pull llama3.2:3b
ollama run llama3.2:3b如果看到模型开始回复,说明安装成功!注意:第一次下载模型需要联网,之后就可以离线使用。
在 Laravel 中配置 Ollama
Laravel AI SDK 已经内置了对 Ollama 的支持。你只需要做两件事:
- 在项目根目录的 .env 文件中添加一行:
OLLAMA_API_KEY=(值留空,因为本地不需要密钥)。 - 确保 Ollama 正在运行(默认地址是
http://localhost:11434)。
然后,你就可以在代码中使用 Ollama 了。例如,创建一个 AI 助手类,通过属性指定使用 Ollama:
use Ollama\Laravel\Attributes\Provider;
use Ollama\Laravel\Attributes\Model;
#[Provider('ollama')]
#[Model('llama3.2:3b')]
class MyAssistant { ... }之后每次调用这个助手,都会走本地模型,不花一分钱。
验证是否成功:跑一个测试
写一个简单的 Artisan 命令来测试:
php artisan tinker
> $response = AI::chat()->create([
'model' => 'llama3.2:3b',
'messages' => ['role' => 'user', 'content' => '你好']
]);
> echo $response->choices[0]->message->content;如果返回了中文回复,说明一切正常!
下一步可以做什么
现在你可以在本地尽情开发 AI 功能了。开发完成后,只需修改 .env 中的配置(比如换成 OpenAI 的 API key),就能一键切换到云端模型,代码完全不用改。记住:本地开发用 Ollama,生产环境用云服务,省心又省钱。
内容来源
DEV Ollama
发布时间
2026-05-19 01:31