极客前沿

新手入门:在 Windows 上搭建本地 AI 环境,一步步跑通

2026-07-07 01:31
DEV Ollama
查看原文

零基础学会在 Windows 上安装 WSL 和 Ollama,第一次运行本地 AI 模型,体验 AI 推理。

想在自己的电脑上体验本地 AI,但不知道从哪开始?这篇文章会带你从零开始,在 Windows 上搭建一个能跑大语言模型的环境。你不需要懂编程,跟着步骤做就行。

准备环境:先装 WSL

WSL(Windows Subsystem for Linux)是 Windows 里的一个“Linux 小系统”,能让很多 AI 工具直接运行。装它很简单:

  • 打开“开始”菜单,搜索“PowerShell”,右键选“以管理员身份运行”。
  • 输入命令:wsl --install,然后按回车。系统会自动下载并安装 Ubuntu。
  • 安装完成后重启电脑,再打开“开始”菜单里的 Ubuntu 图标,第一次启动会让你设置用户名和密码。

常见坑:如果安装失败,先确保 Windows 已更新到最新版,或者在“启用或关闭 Windows 功能”里勾选“适用于 Linux 的 Windows 子系统”。

Tutorial Image

安装 Ollama:一键运行 AI 模型

Ollama 是一个让你能轻松下载和运行大模型(比如 Llama、Mistral)的工具。在刚才打开的 Ubuntu 终端里执行:

  • 输入 curl -fsSL https://ollama.com/install.sh | sh,按回车。它会自动安装。
  • 安装完后,输入 ollama run llama3.2:1b 来下载并运行一个小模型(约 1GB 大小)。
  • 等待下载完成,你会看到一个 >>> 提示符,这时就可以打字和 AI 聊天了!输入 /bye 退出。

常见坑:如果下载很慢,可以尝试更换镜像源,或者先确认网络连接正常。

验证是否成功

聊几句天,如果 AI 能正常回复,说明环境跑通了。你也可以试试其他模型,比如 ollama run phi3:3.8b(需要约 3GB 空间)。

下一步可以做什么

  • llama.cpp(一个高性能推理引擎)获得更快速度,但新手用 Ollama 已经足够。
  • 学习用 Python 调用 Ollama 的 API,写自己的 AI 应用。
  • 如果你有 NVIDIA 显卡,WSL 会自动利用 GPU 加速,速度会快很多。

现在,你已经成功在 Windows 上跑起了本地 AI!

内容来源

DEV Ollama

发布时间

2026-07-07 01:31

返回 AI技术