La recherche Google va punir les sites Web qui publient des deepfakes explicites générés par l'IA

Google améliore ses systèmes pour aider à supprimer de la recherche le contenu explicite non consensuel généré par l'IA.

Le géant de la technologie de Mountain View a récemment annoncé qu'il améliore le système pour aider à supprimer ce type de contenu, rendant ainsi le processus de suppression plus facile. Cela signifie que Google commencera également à punir les sites Web qui publient ce type de contenu en améliorant les systèmes de classement de Search afin de réduire la visibilité de ce contenu, comme Les deepfakes de Taylor Swift qui a circulé plus tôt.

"Pour les requêtes qui recherchent spécifiquement ce contenu et incluent les noms de personnes, nous nous efforcerons de faire apparaître un contenu non explicite de haute qualité, comme des articles de presse pertinents, lorsqu'il sera disponible", explique Google.

"Ces protections se sont déjà révélées efficaces pour traiter d'autres types d'images non consensuelles, et nous avons désormais développé les mêmes fonctionnalités pour les fausses images explicites", ajoute Google dans l'annonce, affirmant qu'il filtrera les images similaires. des résultats explicites et supprimez également les doublons.

L'objectif est de réduire la visibilité des deepfakes de plus de 70 % cette année, affirme Google, et de s'assurer également que le contenu explicite ne soit pas injustement affecté, comme les scènes de nu consensuelles dans les films d'acteurs légitimes et réels.

Ces dernières années ont été difficiles pour les fabricants de technologies d'IA pour résoudre de tels problèmes. Internet Watch Foundation (IWF), une organisation britannique de lutte contre la pédopornographie, rapporté une montée en flèche du porno deepfake ces derniers mois. C'est devenu un problème que Microsoft a exhorté le Congrès promulguer une loi sur la fraude deepfake pour établir un cadre juridique spécifique.