Vad är NVIDIAs nya Chat med RTX? AI chatbot som körs lokalt på PC

Lästid ikon 2 min. läsa


Läsare hjälper till att stödja MSpoweruser. Vi kan få en provision om du köper via våra länkar. Verktygstipsikon

Läs vår informationssida för att ta reda på hur du kan hjälpa MSPoweruser upprätthålla redaktionen Läs mer

Viktiga anteckningar

  • Nvidias "Chat with RTX"-demo låter dig bygga en personlig AI-chatbot på din PC med hjälp av dina dokument, videor och till och med YouTube-spellistor.
  • Kräver en kraftfull PC med en Nvidia RTX GPU (30/40-serien eller Ampere/Ada) och 16 GB RAM.

NVIDIA, som kortvarigt överträffat Amazon och Google i marknadsvärde, har introducerat "Chat with RTX", en gratis teknisk demoapplikation för Windows-datorer. Appen låter användare skapa sin egen AI-chatbot som använder lokalt lagrad data för att svara på frågor och extrahera information.

Om du har något sparat i en av dina filer, till exempel en restaurangrekommendation från en vän, hjälper chatboten dig enkelt att hitta det. Detta gör det mycket enklare att bläddra och hitta lokalt sparade objekt totalt sett.

Låt oss gå direkt till nyckelfunktionerna:

  • Använder en användares NVIDIA GeForce RTX GPU (30/40-serien eller Ampere/Ada med minst 8 GB VRAM) för lokal bearbetning.
  • För att skapa en anpassad kunskapsbas, gör det möjligt för användare att ansluta chatboten med sina dokument, PDF-filer, videor och till och med YouTube-spellistor.
  • Tillåter användare att ställa frågor direkt relaterade till deras lokala data, vilket kan effektivisera informationshämtningen.
  • Erbjuder ökad integritet och säkerhet eftersom data finns kvar på användarens enhet under hela interaktionen.

Här är de hårdvarukrav som krävs:

  • Nvidia GeForce RTX 30 eller 40 Series GPU eller Nvidia RTX Ampere eller Ada Generation GPU med minst 8 GB VRAM
  • 16 GB eller mer RAM
  • Windows 11 operativsystem
  • GeForce-drivrutin version 535.11 eller senare

Detta är en teknisk demo som för närvarande är tillgänglig gratis. Nvidia har inte bekräftat några framtida intäktsplaner för det ännu. För att köra det här programmet behöver du en kraftfull dator med specifika hårdvaruspecifikationer. Som ett resultat av det kanske det inte är lättillgängligt för alla. Dessutom är dess funktionalitet för närvarande begränsad jämfört med vissa molnbaserade chatbots.

Chatta med RTX representerar ett unikt tillvägagångssätt för AI-chatbots genom att prioritera lokal bearbetning och datasekretess. Även om hårdvarukrav och potentiella framtida kostnader kan begränsa dess omedelbara räckvidd, kan det vara ett värdefullt verktyg för individer som prioriterar kontroll över sin information och önskar personlig AI-assistans baserat på deras data.

Snarare här..

Mer om ämnena: nvidia, RTX förlängning