同意のないディープフェイクポルノがGoogleやBingなどの検索エンジンに感染：新たな調査

ディープフェイクは不気味なほどリアルになってきています。 ミッドジャーニー v6 例えば。しかし、最近のメディア調査により、Google や Microsoft の Bing を含む人気の検索エンジンが、こうした同意のないディープフェイク ポルノ画像の巣窟となっていることが明らかになりました。

アメリカのネットワーク NBCニュース この問題について独立した調査を実施しました。これらの検索エンジンで女性有名人の名前を使って「ディープフェイク」や「ディープフェイクポルノ」などの用語を検索すると、露骨なディープフェイク画像が上位に表示された。

この検索（セーフサーチツールはオフ）で少なくとも36人の女性有名人が見つかった。 Google で「フェイク ヌード」を検索すると、検索エンジンには不適切なアプリのリンクや高校生による悪用に関する記事が表示される一方、Bing の検索結果にはツールや危害に関する記事が表示されます。

Microsoftはまだコメントを出していない。その間 GPT-4搭載 Copilot/Bing Chat は、この目的での AI の使用を明示的に禁止しており、調査ではさらに、同意のない露骨なコンテンツには依然として簡単にアクセスできると主張しています。 

ディープフェイクに特に対処する包括的な連邦法はありませんが、いくつかの法律が議会に提出されており、一部の州ではディープフェイクの作成と配布の特定の側面に対処する独自の法律を制定しています。

下 現在導入されている ディープフェイク責任法 (H.R. 3230) により、ディープフェイク作成者は、いかなる用途であっても、配布する前に AI の使用を開示する必要があります。違反者に対する刑事罰は、遵守しなかった者に適用される可能性があります。