AI 入门:一步步安装并跑通 NVIDIA 最新嵌入模型
本文教你从零开始安装 NVIDIA 的 Nemotron 3 Embed 模型,并验证是否成功运行。
准备环境
首先,你需要一台能联网的电脑,并确保安装了 Python(版本 3.8 或更高)。如果你还没有 Python,可以去 python.org 下载安装包,安装时记得勾选“Add Python to PATH”。接着,打开终端(Windows 用户打开命令提示符或 PowerShell),输入以下命令安装必要的库:
pip install transformers torch—— transformers 是一个让 AI 模型更容易使用的工具包,torch 是 PyTorch,用来运行模型的计算引擎。pip install sentence-transformers—— 这个库专门用来处理文本嵌入(也就是把文字变成数字,让 AI 能理解语义)。
安装 Nemotron 3 Embed 模型
NVIDIA 的 Nemotron 3 Embed 模型已经开源,我们可以直接从 Hugging Face 下载。Hugging Face 就像 AI 模型的“应用商店”,里面有各种预训练好的模型。在终端里运行以下代码:
- 创建一个 Python 文件,比如
test_model.py。 - 写入以下内容:
from sentence_transformers import SentenceTransformer model = SentenceTransformer('nvidia/Nemotron-3-Embed-512') print("模型加载成功!") - 保存并运行:
python test_model.py。第一次运行时会自动下载模型(大约 2GB),请保持网络通畅。
如果看到“模型加载成功!”,说明安装完成。如果报错,常见原因是网络问题:可以尝试在终端设置代理,或者手动从 Hugging Face 网站下载模型文件放到缓存目录。
验证模型是否跑通
让我们用模型做点实际的事情——把两句话转换成嵌入,并计算它们的相似度。修改刚才的 test_model.py:
- 在原有代码后添加:
sentences = ["AI 正在改变世界", "人工智能驱动创新"] embeddings = model.encode(sentences) print(embeddings) print("嵌入维度:", embeddings[0].shape) - 再次运行,你会看到两个长长的数字列表(每个列表有 512 个数字),这就是句子的“嵌入”。如果输出正常,恭喜你,模型跑通了!
常见坑:如果输出全是 NaN 或报内存不足,可能是你的电脑显存不够。可以尝试使用 CPU 模式(默认就是 CPU),但会慢一些。另外,确保你的 transformers 版本 >= 4.30.0。
下一步可以做什么
现在你已经有了一个强大的嵌入模型,可以用于:
- 搜索:用嵌入计算用户问题和文档的相似度,实现智能搜索。
- 聚类:把相似的文章自动分组。
- 问答:结合大语言模型,让 AI 从文档中找答案。
如果你想深入学习,可以搜索“检索增强生成(RAG)”,这是目前 AI 应用的热门方向。祝你在 AI 的世界里玩得开心!
内容来源
DEV Machine Learning
发布时间
2026-07-17 01:32