Google 検索、AI 生成の露骨なディープフェイクを公開するウェブサイトを処罰へ

Google は、同意のない露骨な AI 生成コンテンツを検索から削除するためのシステムを改善しています。

マウンテンビューのテクノロジー大手 最近発表された 同社は、こうしたコンテンツを削除するシステムを改善し、削除プロセスを容易にしている。つまり、Googleは、検索のランキングシステムを改善し、こうしたコンテンツの可視性を下げることで、こうしたコンテンツを掲載するウェブサイトを罰し始めることになる。 テイラー・スウィフトのディープフェイク 先ほど配布されたもの。

「具体的にこのコンテンツを探していて、人名を含む検索クエリについては、関連ニュース記事など、高品質で露骨でないコンテンツが利用可能な場合は、それを表示することを目指します」とGoogleは説明している。

「これらの保護は、他の種類の非合意画像への対処にすでに効果があることが証明されており、偽の露骨な画像にも同様の機能を組み込んだ」とGoogleは発表の中で付け加え、類似した露骨な検索結果をフィルタリングし、重複も削除すると述べている。

Googleによると、今年の目標はディープフェイクの視認性を70%以上削減することであり、また、本物の俳優による映画内の合意に基づくヌードシーンなど、実際の露骨なコンテンツが不当に影響されないようにすることも目的としている。

AI技術メーカーにとって、こうした問題に取り組むのはここ数年大変なことだった。英国を拠点とする児童ポルノ反対団体のインターネット・ウォッチ財団（IWF）は、 報告 ここ数ヶ月、ディープフェイクポルノが急増している。マイクロソフトが 議会に要請 特定の法的枠組みを確立するためにディープフェイク詐欺に関する法律を制定する。