新手入门:在 Windows 上搭建本地 AI 环境,一步步跑通
零基础学会在 Windows 上安装 WSL 和 Ollama,第一次运行本地 AI 模型,体验 AI 推理。
想在自己的电脑上体验本地 AI,但不知道从哪开始?这篇文章会带你从零开始,在 Windows 上搭建一个能跑大语言模型的环境。你不需要懂编程,跟着步骤做就行。
准备环境:先装 WSL
WSL(Windows Subsystem for Linux)是 Windows 里的一个“Linux 小系统”,能让很多 AI 工具直接运行。装它很简单:
- 打开“开始”菜单,搜索“PowerShell”,右键选“以管理员身份运行”。
- 输入命令:
wsl --install,然后按回车。系统会自动下载并安装 Ubuntu。 - 安装完成后重启电脑,再打开“开始”菜单里的 Ubuntu 图标,第一次启动会让你设置用户名和密码。
常见坑:如果安装失败,先确保 Windows 已更新到最新版,或者在“启用或关闭 Windows 功能”里勾选“适用于 Linux 的 Windows 子系统”。
安装 Ollama:一键运行 AI 模型
Ollama 是一个让你能轻松下载和运行大模型(比如 Llama、Mistral)的工具。在刚才打开的 Ubuntu 终端里执行:
- 输入
curl -fsSL https://ollama.com/install.sh | sh,按回车。它会自动安装。 - 安装完后,输入
ollama run llama3.2:1b来下载并运行一个小模型(约 1GB 大小)。 - 等待下载完成,你会看到一个
>>>提示符,这时就可以打字和 AI 聊天了!输入/bye退出。
常见坑:如果下载很慢,可以尝试更换镜像源,或者先确认网络连接正常。
验证是否成功
聊几句天,如果 AI 能正常回复,说明环境跑通了。你也可以试试其他模型,比如 ollama run phi3:3.8b(需要约 3GB 空间)。
下一步可以做什么
- 用 llama.cpp(一个高性能推理引擎)获得更快速度,但新手用 Ollama 已经足够。
- 学习用 Python 调用 Ollama 的 API,写自己的 AI 应用。
- 如果你有 NVIDIA 显卡,WSL 会自动利用 GPU 加速,速度会快很多。
现在,你已经成功在 Windows 上跑起了本地 AI!
内容来源
DEV Ollama
发布时间
2026-07-07 01:31