如果您的 PC 由相对较新的 Nvidia 显卡供电,您可以尝试该公司最新的 AI 工具,称为 Chat with RTX。它为 Windows PC 带来了生成式 AI 功能,依赖于“Nvidia RTX 加速”等。
RTX 聊天被吹捧为适用于 Windows PC 的“本地、快速、自定义生成式 AI”。因此,与 Bing Chat、Google Bard 和 ChatGPT 等选项相比,这种 AI 聊天机器人的用户隐私会好得多。现在,如果您想知道 Nvidia 的 RTX 聊天工具是否可以离线使用,是的,它确实可以!
与当今每个人通常使用的基于云的 AI 聊天机器人相比,在您的 PC 上使用这样的本地运行的 AI 聊天机器人有一定的优势。英伟达表示,“前提是结果很快 – 并且用户的数据保留在设备上。
您可以为它提供自己的数据集,将本地文件放在您的 PC 上。支持各种扩展名,如 PDF 文件、记事本文本文件和 Word 文档。顺便说一句,您甚至可以通过将视频链接添加到软件的设置中来提供来自 YouTube 视频的 AI 聊天机器人知识!
带有 RTX 的 Nvidia Chat 依赖于检索增强生成 (RAG),用于提高 LLM 的准确性。它还使用 TensorRT-LLM 软件和您的 GPU 硬件在您的 Windows 10 和 11 PC 上运行。在向 Chat with RTX 提供各种文档、笔记和视频后,您可以使用它通过简单的 AI 聊天机器人界面与信息进行交互!
与 RTX 聊天:系统要求和下载位置
由于它是您在本地运行的 AI 聊天机器人,因此在撰写本文时,下载大小相当高,为 35.1GB。下载中包括两个大型语言模型,Mistral 和 Llama 2。您可以在此处从 Nvidia 网站下载 Chat with RTX。
下载完成后,您可以解压缩压缩的存档,然后继续安装 Chat with RTX。但是,您需要满足某些先决条件。
搭载 Nvidia GeForce RTX 显卡的 Windows PC 只要满足特定硬件要求,就可以运行新的 Chat with RTX AI 工具。英伟达表示,这是一个“演示应用程序”,因此以后可能会推出功能更强大的版本。“与 RTX AI 聊天”工具的系统要求如下:
- 16GB RAM(或更多)
- Nvidia RTX 30 系列或 RTX 40 系列显卡(8GB+ 显存容量)
- GeForce Driver v535.11 或更高版本
- Windows 10 或 11
原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun281807.html