想玩大模型又怕花钱？试试 Ollama（一个帮你轻松在本地运行 AI 模型的工具）和 Mistral 7B（一个免费、开源的 70 亿参数大模型）。本文带你从零开始，在低配服务器上跑通第一个 AI 对话。

准备工作

• 一台 Linux 服务器（推荐 Ubuntu 22.04，最低 8GB 内存，有 GPU 更好但非必须）
• 能连上互联网
• 基本的终端操作知识

安装 Ollama

1. 打开终端，运行一键安装命令：curl -fsSL https://ollama.com/install.sh | sh
2. 安装成功后，启动 Ollama 服务：ollama serve（保持此窗口运行）
3. 另开一个终端，测试是否安装成功：ollama --version。如果看到版本号，说明安装完成。

下载并运行 Mistral 7B

1. 在终端输入：ollama run mistral。Ollama 会自动下载模型（约 4GB），请耐心等待。
2. 下载完成后，你会进入对话界面。输入你的问题，比如“介绍上海的物价水平”，模型就会生成回答。
3. 输入 /bye 退出对话。

验证是否成功

重新运行 ollama run mistral，随便问个问题。如果模型能流畅回答，就说明你已经成功在本地跑通了 Mistral 7B！

下一步可以做什么

• 用 Ollama 的 API 把模型集成到你的应用里（比如用 Python 调用）
• 尝试其他模型，比如 ollama run llama2 或 ollama run phi
• 参考 Ollama 官方文档，调整模型参数（如温度、上下文长度）