Amazonの新しいAIチャットボット「Amazon Q」が機密データや社内割引プログラムなどを漏洩

Amazonの新しいAIチャットボットQ は、正確性とデータ漏洩の問題で従業員からの批判に直面しています。 プラットフォーマーに流出した文書によると、Q が「重度の幻覚」を経験し、AWS データセンターの場所や社内割引プログラムなどの機密情報を漏洩していることが示されています。

Q の幻覚と誤った回答に関する内部文書には、「Amazon Q は幻覚を示し、有害または不適切な応答を返す可能性があります。」と記載されています。 たとえば、Amazon Q は、顧客のアカウントを危険にさらす可能性のある古いセキュリティ情報を返す可能性があります。」 この文書で概説されているリスクは大規模な言語モデルに典型的なものであり、そのすべてが少なくとも一定の時間において不正確または不適切な応答を返します。

Amazonは従業員による議論の重要性を軽視しており、セキュリティ上の問題は特定されなかったと主張している。 しかし、漏洩した文書は Q の正確性と安全性について懸念を引き起こしています。Q はまだプレビュー段階にあり、まだ一般公開されていません。 広報担当者はこう語った。

そのフィードバックの結果、セキュリティ上の問題は確認されませんでした。 すでに受け取ったすべてのフィードバックに感謝しており、プレビュー製品から一般提供に移行する際に Q の調整を継続していきます。

Q は ChatGPT のエンタープライズ グレードのバージョンとして位置付けられており、コンシューマ グレードのツールよりも安全になるように設計されています。 しかし、内部文書では、Q が不正確または有害な情報を提供するリスクが強調されています。

これについての詳細 こちら.