Chatbot AI mới của Amazon Amazon Q rò rỉ dữ liệu bí mật, các chương trình giảm giá nội bộ, v.v.

Chatbot AI mới của Amazon Q đang phải đối mặt với sự chỉ trích từ nhân viên vì vấn đề rò rỉ dữ liệu và độ chính xác. Các tài liệu bị rò rỉ cho Platformer cho thấy Q đang gặp phải "ảo giác nghiêm trọng" và rò rỉ thông tin bí mật, bao gồm cả vị trí của trung tâm dữ liệu AWS và các chương trình giảm giá nội bộ.

Một tài liệu nội bộ về ảo giác và câu trả lời sai của Q lưu ý rằng “Amazon Q có thể gây ảo giác và trả về những phản hồi có hại hoặc không phù hợp. Ví dụ: Amazon Q có thể trả về thông tin bảo mật lỗi thời có thể khiến tài khoản khách hàng gặp rủi ro.” Những rủi ro được nêu trong tài liệu là điển hình của các mô hình ngôn ngữ lớn, tất cả đều trả về những phản hồi không chính xác hoặc không phù hợp, ít nhất là trong một số thời điểm.

Amazon hạ thấp tầm quan trọng của các cuộc thảo luận của nhân viên và tuyên bố rằng không có vấn đề bảo mật nào được xác định. Tuy nhiên, các tài liệu bị rò rỉ làm dấy lên mối lo ngại về tính chính xác và bảo mật của Q, vốn vẫn đang trong giai đoạn xem trước và chưa được phổ biến rộng rãi. Một phát ngôn viên cho biết:

Không có vấn đề bảo mật nào được xác định do phản hồi đó. Chúng tôi đánh giá cao tất cả các phản hồi mà chúng tôi đã nhận được và sẽ tiếp tục điều chỉnh Q khi nó chuyển từ dạng sản phẩm xem trước sang dạng có sẵn rộng rãi.

Q đang được định vị là phiên bản ChatGPT cấp doanh nghiệp và được thiết kế để an toàn hơn các công cụ cấp người tiêu dùng. Tuy nhiên, các tài liệu nội bộ nêu rõ nguy cơ Q cung cấp thông tin không chính xác hoặc có hại.

Thêm về điều này vào đây.