¿Qué es el nuevo Chat con RTX de NVIDIA? Chatbot de IA que se ejecuta localmente en una PC

NVIDIA, quien superó brevemente a Amazon y Google en valor de mercado, ha presentado “Chat with RTX”, una aplicación de demostración técnica gratuita para PC con Windows. La aplicación permite a los usuarios crear su propio chatbot de IA que utiliza datos almacenados localmente para responder preguntas y extraer información.

Si tienes algo guardado en uno de tus archivos, por ejemplo, la recomendación de un restaurante de un amigo, el chatbot te ayudará a encontrarlo fácilmente. Esto hace que la búsqueda y localización de elementos guardados localmente sea mucho más sencilla en general.

Vayamos directamente a las características clave:

• Aprovecha la GPU NVIDIA GeForce RTX del usuario (serie 30/40 o Ampere/Ada con al menos 8 GB de VRAM) para el procesamiento local.
• Para crear una base de conocimientos personalizada, permita a los usuarios conectar el chatbot con sus documentos, archivos PDF, vídeos e incluso listas de reproducción de YouTube.
• Permite a los usuarios hacer preguntas directamente relacionadas con sus datos locales, lo que potencialmente agiliza la recuperación de información.
• Ofrece mayor privacidad y seguridad ya que los datos permanecen en el dispositivo del usuario durante toda la interacción.

Estos son los requisitos de hardware necesarios:

• GPU Nvidia GeForce RTX serie 30 o 40 o GPU Nvidia RTX Ampere o Ada Generation con al menos 8 GB de VRAM
• 16 GB o más de RAM
• sistema operativo Windows 11
• Versión del controlador GeForce 535.11 o posterior

Esta es una demostración técnica que actualmente está disponible de forma gratuita. Nvidia aún no ha confirmado ningún plan futuro de monetización. Para ejecutar esta aplicación, necesita una PC potente con especificaciones de hardware específicas. Como resultado, es posible que no sea fácilmente accesible para todos. Además, su funcionalidad es actualmente limitada en comparación con algunos chatbots basados ​​en la nube.

El chat con RTX representa un enfoque único para los chatbots de IA al priorizar el procesamiento local y la privacidad de los datos. Si bien los requisitos de hardware y los posibles costos futuros podrían limitar su alcance inmediato, podría ser una herramienta valiosa para las personas que priorizan el control sobre su información y desean asistencia personalizada de IA basada en sus datos.

Más esta página.