NVIDIA 的新 Chat with RTX 是什么?在 PC 上本地运行的 AI 聊天机器人

阅读时间图标 2分钟读


读者帮助支持 MSpoweruser。如果您通过我们的链接购买,我们可能会获得佣金。 工具提示图标

阅读我们的披露页面,了解如何帮助 MSPoweruser 维持编辑团队 查看更多

重点说明

  • Nvidia 的“Chat with RTX”演示可让您使用文档、视频甚至 YouTube 播放列表在 PC 上构建个性化 AI 聊天机器人。
  • 需要一台配备 Nvidia RTX GPU(30/40 系列或 Ampere/Ada)和 16GB RAM 的功能强大的 PC。

英伟达,谁 市值短暂超过亚马逊和谷歌推出了“Chat with RTX”,这是一款适用于 Windows PC 的免费技术演示应用程序。该应用程序允许用户创建自己的人工智能聊天机器人,利用本地存储的数据来回答问题和提取信息。

如果您的某个文件中保存了某些内容,例如朋友推荐的餐厅,聊天机器人将轻松帮助您找到它。总体而言,这使得浏览和定位本地保存的项目变得更加简单。

让我们直接跳到主要功能:

  • 利用用户的 NVIDIA GeForce RTX GPU(30/40 系列或 Ampere/Ada,至少具有 8GB VRAM)进行本地处理。
  • 要创建自定义知识库,让用户能够将聊天机器人与其文档、PDF、视频甚至 YouTube 播放列表连接起来。
  • 允许用户提出与其本地数据直接相关的问题,从而可能简化信息检索。
  • 由于数据在整个交互过程中保留在用户的设备上,因此提供了更高的隐私和安全性。

以下是所需的硬件要求:

  • Nvidia GeForce RTX 30 或 40 系列 GPU 或 Nvidia RTX Ampere 或 Ada Generation GPU,具有至少 8GB VRAM
  • 16GB 或更多内存
  • 11的Windows操作系统
  • GeForce 驱动程序版本 535.11 或更高版本

这是目前免费提供的技术演示。英伟达尚未确认任何未来的盈利计划。要运行此应用程序,您需要一台具有特定硬件规格的功能强大的 PC。因此,它可能不是每个人都能轻松访问的。此外,与一些基于云的聊天机器人相比,它的功能目前还很有限。

Chat with RTX 代表了一种独特的 AI 聊天机器人方法,优先考虑本地处理和数据隐私。虽然硬件要求和潜在的未来成本可能会限制其直接覆盖范围,但对于那些优先控制自己的信息并希望根据自己的数据提供个性化人工智能帮助的个人来说,它可能是一个有价值的工具。

更多 相关信息.

有关主题的更多信息: NVIDIA, 实时传输