Apa Obrolan baru NVIDIA dengan RTX? Chatbot AI berjalan secara lokal di PC

Ikon waktu membaca 2 menit Baca


Pembaca membantu dukungan MSpoweruser. Kami mungkin mendapat komisi jika Anda membeli melalui tautan kami. Ikon Keterangan Alat

Baca halaman pengungkapan kami untuk mengetahui bagaimana Anda dapat membantu MSPoweruser mempertahankan tim editorial Baca lebih lanjut

Catatan kunci

  • Demo “Chat dengan RTX” Nvidia memungkinkan Anda membuat chatbot AI yang dipersonalisasi di PC Anda menggunakan dokumen, video, dan bahkan playlist YouTube.
  • Memerlukan PC bertenaga dengan GPU Nvidia RTX (seri 30/40 atau Ampere/Ada) dan RAM 16 GB.

NVIDIA, siapa sempat melampaui Amazon dan Google dalam nilai pasar, telah memperkenalkan “Chat with RTX,” sebuah aplikasi demo teknis gratis untuk PC Windows. Aplikasi ini memungkinkan pengguna membuat chatbot AI mereka sendiri yang memanfaatkan data yang disimpan secara lokal untuk menjawab pertanyaan dan mengekstraksi informasi.

Jika Anda memiliki sesuatu yang tersimpan di salah satu file Anda, misalnya rekomendasi restoran dari teman, chatbot akan dengan mudah membantu Anda menemukannya. Hal ini membuat penjelajahan dan pencarian item yang disimpan secara lokal menjadi lebih sederhana secara keseluruhan.

Mari langsung ke fitur utama:

  • Memanfaatkan GPU NVIDIA GeForce RTX milik pengguna (seri 30/40 atau Ampere/Ada dengan setidaknya VRAM 8GB) untuk pemrosesan lokal.
  • Untuk membuat basis pengetahuan yang disesuaikan, memungkinkan pengguna menghubungkan chatbot dengan dokumen, PDF, video, dan bahkan playlist YouTube mereka.
  • Memungkinkan pengguna untuk mengajukan pertanyaan terkait langsung dengan data lokal mereka, sehingga berpotensi menyederhanakan pengambilan informasi.
  • Menawarkan peningkatan privasi dan keamanan karena data tetap ada di perangkat pengguna selama interaksi.

Berikut kebutuhan hardware yang dibutuhkan:

  • GPU Nvidia GeForce RTX 30 atau 40 Series atau GPU Nvidia RTX Ampere atau Ada Generation dengan VRAM minimal 8 GB
  • 16GB atau lebih RAM
  • Sistem operasi Windows 11
  • GeForce Driver versi 535.11 atau lebih baru

Ini adalah demo teknis yang saat ini tersedia secara gratis. Nvidia belum mengonfirmasi rencana monetisasi di masa depan. Untuk menjalankan aplikasi ini, Anda memerlukan PC tangguh dengan spesifikasi perangkat keras tertentu. Oleh karena itu, tidak semua orang dapat mengaksesnya dengan mudah. Selain itu, fungsinya saat ini terbatas dibandingkan dengan beberapa chatbot berbasis cloud.

Obrolan dengan RTX mewakili pendekatan unik terhadap chatbot AI dengan memprioritaskan pemrosesan lokal dan privasi data. Meskipun persyaratan perangkat keras dan potensi biaya di masa depan mungkin membatasi jangkauannya, perangkat ini dapat menjadi alat yang berharga bagi individu yang memprioritaskan kendali atas informasi mereka dan menginginkan bantuan AI yang dipersonalisasi berdasarkan data mereka.

More di sini.

Lebih lanjut tentang topik: nvidia, ekstensi RTX