Copilot Designer を Web から削除: 非常に不適切なコンテンツを生成する可能性があることを明らかにした Microsoft エンジニア

Microsoftのエンジニアは、同社のAI画像生成ツール「Copilot Designer」について懸念を表明した。同氏は、有害で不適切なコンテンツが生成される可能性があると主張している。

マイクロソフト社の主任ソフトウェアエンジニアリングマネージャーであるシェーン・ジョーンズ氏は、このツールが暴力的で性的で偏見のある画像を生成する可能性があることを発見したと述べた。それは私に思い出させます テイラー・スウィフトの物語、これは Microsoft 製品によって行われたと言われています。

彼は調査結果を社内に報告しましたが、その反応に満足できず、問題を公表することになりました。

「レッドチーム」（弱点のテスト）を通じて脆弱性を特定したジョーンズ氏は、次のような不穏な画像に遭遇したと報告しました。

• 中絶の権利に関連する用語とともに悪魔や怪物を描いた画像。
• 自動車事故のさなか、性的な場面にさらされた女性の画像。
• 麻薬や武器を持ったパーティーに参加するティーンエイジャーを描いた画像。
• 中東での暴力を描いたシーンや軍事的なイメージに関連したキャラクターなど、著作権で保護されている可能性のある不快な状況にあるディズニーキャラクターをフィーチャーした画像。

ジョーンズ氏はマイクロソフトに対し、安全策が講じられるまでCopilot Designerを市場から削除するという重要な措置を含む何らかの即時措置を講じるよう呼び掛けている。彼はツールの制限に関する開示を追加し、すべての年齢層に適しているわけではないことを反映するためにアプリの評価を変更しました。あるいは誰でも。 

Microsoft は、Jones 氏の具体的な主張のすべてにまだ返答していません。しかし、広報担当者は、同社は従業員が抱えるあらゆる懸念に対処することに尽力しており、テクノロジーのテストにおける従業員の努力に感謝していると述べた。

当社のサービスやパートナーに潜在的な影響を与える可能性のある安全回避や懸念に関しては、問題を適切に調査して修正するための強力な内部報告チャネルを確立しており、従業員が適切に検証およびテストできるように、このチャネルの活用を奨励しています。懸念事項。

生成型 AI と悪用の可能性に関する懸念は高まっています。 ジェミニの画像作成者は最近目覚めた画像を作成しました、 このため、Google は人間の画像の作成をしばらく停止しました。

これは発展途上のストーリーであり、今後も更新情報が入手可能になり次第提供していきます。

その他 こちら.