Microsoft、テイラー・スウィフトのディープフェイクを作成した抜け穴を修正

AI テキストから画像への生成ツールである Designer を使用して有名人の同意のない性的画像を作成した個人の報告に応じて、Microsoft は悪用を防ぐために追加の保護措置を導入しました。この動きは、テイラー・スウィフトのヌード画像がAIによって生成されたという暴露を受けたものである Twitter上で広まったが、その後テイラー・スウィフトは検索できなくなった、ユーザーが Designer を悪用した 4chan と Telegram のチャネルに由来します。

Microsoftの広報担当者は金曜日に次のように述べた。

私たちはこれらの報告を調査しており、それらに対処するために適切な措置を講じています。当社の行動規範は、アダルトまたは同意のない親密なコンテンツの作成に当社のツールを使用することを禁止しています。

同社は、責任ある AI 原則への取り組みを強調し、コンテンツ フィルタリング、運用監視、不正行為検出システムの開発に向けた継続的な取り組みについて言及しました。

調査ではAIが生成したSwift画像とDesignerを明確に結びつけることはできなかったが、MicrosoftのCEOサティア・ナデラ氏は、有害なコンテンツの生成を防ぐためにAIツールの「ガードレール」を強化する責任があることを認めた。

NBCニュースとのインタビューでナデラ氏は、世界的な社会規範が収束する可能性について楽観的な見方を表明し、AIの使用を効果的に管理するために法執行機関、技術プラットフォーム、規制の協力を求めた。

404 メディア報道 Microsoft は悪用に対応してテキスト フィルタリング プロンプトを強化したと述べています。ユーザーはこれまでにも、有名人の名前のスペルを間違えたり、露骨ではないものの性的な内容を暗示するような画像が表示されるような説明を提供したりすることで抜け穴を悪用していました。 404 Media によると、Microsoft の最近の調整後、これらの抜け穴は機能しなくなりました。

AI が生成した画像が表面化した Telegram チャネルは今も活動しており、他の AI ツールを使用して生成された露骨なコンテンツを共有していると伝えられています。プラットフォームがチャンネルを削除しておらず、有害なコンテンツに対する説明責任がほとんど課されていないため、このチャンネルは課題を引き起こしています。