极客前沿

本地跑 AI 模型入门:Ollama 安装与 Laravel 集成教程

2026-05-19 01:31
DEV Ollama
查看原文

学会安装 Ollama,在本地免费运行 AI 模型,并集成到 Laravel 项目,零成本开发测试。

准备环境:你需要什么

在开始之前,你需要一台电脑(Windows、macOS 或 Linux),以及基本的终端操作能力。如果你已经安装了 Laravel(一个 PHP Web 框架)和 PHP,那就更好了。不过即使没有,你也可以先学会运行 Ollama 本身。

安装 Ollama:本地 AI 模型管家

Ollama 是一个轻量工具,能让你在本地电脑上下载并运行开源 AI 模型(比如 Llama、Mistral 等),完全免费,无需联网(下载后)。

  • macOS 用户:从 ollama.com 下载 macOS 应用,安装后会在菜单栏出现图标,自动启动。
  • Windows 用户:同样从官网下载安装程序,安装后 Ollama 会作为后台服务运行。
  • Linux 用户:打开终端,执行 curl -fsSL https://ollama.com/install.sh | sh

安装完成后,打开终端(或命令行),输入以下命令下载并测试一个模型:

ollama pull llama3.2:3b
ollama run llama3.2:3b

如果看到模型开始回复,说明安装成功!注意:第一次下载模型需要联网,之后就可以离线使用。

在 Laravel 中配置 Ollama

Laravel AI SDK 已经内置了对 Ollama 的支持。你只需要做两件事:

Tutorial Image
  1. 在项目根目录的 .env 文件中添加一行:OLLAMA_API_KEY=(值留空,因为本地不需要密钥)。
  2. 确保 Ollama 正在运行(默认地址是 http://localhost:11434)。

然后,你就可以在代码中使用 Ollama 了。例如,创建一个 AI 助手类,通过属性指定使用 Ollama:

use Ollama\Laravel\Attributes\Provider;
use Ollama\Laravel\Attributes\Model;

#[Provider('ollama')]
#[Model('llama3.2:3b')]
class MyAssistant { ... }

之后每次调用这个助手,都会走本地模型,不花一分钱。

验证是否成功:跑一个测试

写一个简单的 Artisan 命令来测试:

php artisan tinker
> $response = AI::chat()->create([
    'model' => 'llama3.2:3b',
    'messages' => ['role' => 'user', 'content' => '你好']
]);
> echo $response->choices[0]->message->content;

如果返回了中文回复,说明一切正常!

下一步可以做什么

现在你可以在本地尽情开发 AI 功能了。开发完成后,只需修改 .env 中的配置(比如换成 OpenAI 的 API key),就能一键切换到云端模型,代码完全不用改。记住:本地开发用 Ollama,生产环境用云服务,省心又省钱。

内容来源

DEV Ollama

发布时间

2026-05-19 01:31

返回 AI技术