亞馬遜全新人工智慧聊天機器人 Amazon Q 洩漏機密資料、內部折扣方案等

亞馬遜全新人工智慧聊天機器人 Q 因準確性和資料外洩問題而面臨員工的批評。 洩露給 Platformer 的文件顯示，Q 正在經歷「嚴重幻覺」並洩露機密信息，包括 AWS 數據中心的位置和內部折扣計劃。

一份關於 Q 的幻覺和錯誤答案的內部文件指出，「Amazon Q 可能會產生幻覺並返回有害或不適當的回應。 例如，Amazon Q 可能會返回過時的安全訊息，這可能會使客戶帳戶面臨風險。” 文件中概述的風險是大型語言模型的典型風險，所有這些模型至少在某些時候都會傳回不正確或不適當的回應。

亞馬遜淡化了員工討論的重要性，並聲稱沒有發現安全問題。 然而，洩漏的文件引發了人們對 Q 的準確性和安全性的擔憂，Q 仍處於預覽階段，尚未普遍可用。 一位發言人表示：

該回饋沒有發現任何安全問題。 我們感謝已經收到的所有回饋，並將繼續調整 Q，因為它從預覽版產品過渡到普遍可用。

Q 被定位為 ChatGPT 的企業級版本，其設計比消費級工具更安全。 然而，內部文件強調了 Q 提供不準確或有害資訊的風險。

有關此的更多信息 這裡.