本地AI入门:装一个能用的Ollama,跑通第一个模型
手把手教你下载安装Ollama,运行第一个本地大语言模型,并测试是否成功。
准备环境:你需要什么
想在本机跑AI模型,你需要一台电脑(Windows/Mac/Linux都行),以及一个叫Ollama的工具。Ollama是一个帮你下载、运行和管理本地大语言模型的免费软件,就像手机上的应用商店——你不用自己编译代码,点几下就能用上模型。
- 电脑至少有8GB内存(推荐16GB以上)
- 留出至少5GB硬盘空间
- 网络能正常下载文件
安装步骤:三步搞定
- 打开浏览器,访问Ollama官网(ollama.com),点击“Download”按钮,选择你的操作系统版本下载安装包。
- 双击安装包,按照提示完成安装(Mac用户直接拖入Applications文件夹;Windows用户一路Next即可)。
- 安装完成后,打开终端(Windows用CMD或PowerShell,Mac/Linux用Terminal),输入
ollama --version并回车。如果看到版本号,说明安装成功。
跑通第一个模型:试试对话
安装好Ollama后,我们来下载并运行一个实用的入门模型——Llama 3.2(一个轻量级、能聊天的AI模型,适合新手体验)。
- 在终端输入命令:
ollama run llama3.2并回车。Ollama会自动下载模型文件(约2GB,请耐心等待)。 - 下载完成后,你会看到“>>>”提示符,表示模型已启动。直接输入你的问题,比如“你好,请介绍一下你自己”,模型就会开始回复。
- 输入
/bye可以退出对话。下次想再用,只需重复ollama run llama3.2命令。
常见坑提醒:如果下载很慢,可以尝试更换网络或使用代理;如果内存不足,可先尝试更小的模型如llama3.2:1b(命令改为ollama run llama3.2:1b)。
下一步可以做什么
你已经成功在本地跑通了一个AI模型!接下来可以:
- 试试其他模型:
ollama run qwen2.5:1.5b(中文能力更强) - 在Python代码中调用Ollama:安装
ollama-python库,几行代码就能让程序使用本地AI - 探索Ollama的更多功能:打开
ollama list查看已下载的模型,用ollama pull 模型名提前下载新模型
内容来源
DEV Ollama
发布时间
2026-07-22 01:32