Trò chuyện mới của NVIDIA với RTX là gì? Chatbot AI chạy cục bộ trên PC

NVIDIA, ai nhanh chóng vượt qua Amazon và Google về giá trị thị trường, đã giới thiệu “Trò chuyện với RTX”, một ứng dụng demo kỹ thuật miễn phí dành cho PC chạy Windows. Ứng dụng này cho phép người dùng tạo chatbot AI của riêng họ sử dụng dữ liệu được lưu trữ cục bộ để trả lời các câu hỏi và trích xuất thông tin.

Nếu bạn có nội dung nào đó được lưu trong một trong các tệp của mình, chẳng hạn như lời giới thiệu về nhà hàng từ một người bạn, chatbot sẽ dễ dàng giúp bạn tìm thấy nội dung đó. Điều này làm cho việc duyệt và định vị các mục được lưu cục bộ về tổng thể trở nên đơn giản hơn nhiều.

Hãy chuyển thẳng đến các tính năng chính:

• Tận dụng GPU NVIDIA GeForce RTX của người dùng (dòng 30/40 hoặc Ampere/Ada có VRAM tối thiểu 8GB) để xử lý cục bộ.
• Để tạo cơ sở kiến ​​thức tùy chỉnh, hãy cho phép người dùng kết nối chatbot với tài liệu, tệp PDF, video và thậm chí cả danh sách phát YouTube của họ.
• Cho phép người dùng đặt câu hỏi liên quan trực tiếp đến dữ liệu cục bộ của họ, có khả năng hợp lý hóa việc truy xuất thông tin.
• Cung cấp sự riêng tư và bảo mật cao hơn vì dữ liệu vẫn còn trên thiết bị của người dùng trong suốt quá trình tương tác.

Dưới đây là các yêu cầu phần cứng cần thiết:

• GPU Nvidia GeForce RTX 30 hoặc 40 Series hoặc Nvidia RTX Ampere hoặc GPU thế hệ Ada có ít nhất 8GB VRAM
• RAM 16GB trở lên
• hệ điều hành Windows 11
• Phiên bản trình điều khiển GeForce 535.11 trở lên

Đây là bản demo kỹ thuật hiện có sẵn miễn phí. Nvidia vẫn chưa xác nhận bất kỳ kế hoạch kiếm tiền nào trong tương lai cho nó. Để chạy ứng dụng này, bạn cần một PC mạnh mẽ với các thông số phần cứng cụ thể. Kết quả là, nó có thể không dễ dàng truy cập được đối với tất cả mọi người. Hơn nữa, chức năng của nó hiện bị hạn chế so với một số chatbot dựa trên đám mây.

Trò chuyện với RTX thể hiện một cách tiếp cận độc đáo đối với chatbot AI bằng cách ưu tiên xử lý cục bộ và bảo mật dữ liệu. Mặc dù các yêu cầu về phần cứng và chi phí tiềm năng trong tương lai có thể hạn chế phạm vi tiếp cận trước mắt của nó, nhưng nó có thể là một công cụ có giá trị cho những cá nhân ưu tiên kiểm soát thông tin của mình và mong muốn hỗ trợ AI được cá nhân hóa dựa trên dữ liệu của họ.

Hơn tại đây.