亚马逊全新人工智能聊天机器人 Amazon Q 泄露机密数据、内部折扣计划等

亚马逊全新人工智能聊天机器人 Q 因准确性和数据泄露问题而面临员工的批评。 泄露给 Platformer 的文件显示，Q 正在经历“严重幻觉”并泄露机密信息，包括 AWS 数据中心的位置和内部折扣计划。

一份关于 Q 的幻觉和错误答案的内部文件指出，“Amazon Q 可能会产生幻觉并返回有害或不适当的响应。 例如，Amazon Q 可能会返回过时的安全信息，这可能会使客户帐户面临风险。” 文档中概述的风险是大型语言模型的典型风险，所有这些模型至少在某些时候都会返回不正确或不适当的响应。

亚马逊淡化了员工讨论的重要性，并声称没有发现安全问题。 然而，泄露的文件引发了人们对 Q 的准确性和安全性的担忧，Q 仍处于预览阶段，尚未普遍可用。 一位发言人表示：

该反馈没有发现任何安全问题。 我们感谢已经收到的所有反馈，并将继续调整 Q，因为它从预览版产品过渡到普遍可用。

Q 被定位为 ChatGPT 的企业级版本，其设计比消费级工具更安全。 然而，内部文件强调了 Q 提供不准确或有害信息的风险。

更多关于这个 点击这里.