Las personas que crearon deepfakes de Taylor Swift pensaron que era un juego, nuevos desenlaces de la saga

La firma de investigación Graphika rastreó imágenes explícitas de Taylor Swift hasta el foro de mensajes de 4chan, conocido por su discurso de odio, teorías de conspiración y contenido ofensivo creado con inteligencia artificial. Por varios días, X bloqueó las búsquedas de Taylor Swift.

Pero primero, ¿qué es 4chan?

4chan es un sitio web de tableros de imágenes en inglés que se lanzó en 2003. Es famoso por sus diversos tableros que abordan diferentes temas, incluidos anime, manga, videojuegos y política. Los usuarios de 4chan publican de forma anónima, utilizando un número de identificación único en lugar de un nombre de usuario.

Este anonimato ha contribuido a la reputación del sitio como caldo de cultivo para contenido ofensivo y, en ocasiones, dañino. Sin embargo, también ha sido una plataforma de lanzamiento para muchos memes de Internet y movimientos en línea. 

Según Graphika, según lo informado por The NY Times, los usuarios de 4chan crearon estas imágenes sintéticas como parte de un juego o fueron desafiados a probar si podían producir imágenes lascivas y a veces violentas de figuras femeninas conocidas, incluida Taylor Swift. Las imágenes se difundieron en varias plataformas, obtuvieron millones de visitas, lo que llevó a la defensa de los fanáticos de Swift y pidió protecciones más fuertes contra el contenido creado por IA.

El hilo de 4chan alentó a los usuarios a eludir las protecciones de las herramientas generadoras de imágenes como DALL-E de OpenAI, Microsoft Designer y Bing Image Creator. La actividad se caracterizó como una forma gamificada de creación de contenido malicioso, donde los usuarios buscaban reconocimiento y aprobación por su capacidad para evadir restricciones.

Graphika enfatizó que Taylor Swift no fue la única víctima en esta comunidad de 4chan, ya que muchas otras actrices, cantantes y políticos fueron atacados. OpenAI aclaró que las imágenes explícitas de Swift no se generaron utilizando sus herramientas y mencionó medidas de seguridad, como el filtrado de contenido durante la capacitación.

Microsoft afirmó que estaba investigando las imágenes y que había reforzado los sistemas de seguridad para evitar el uso indebido de sus servicios. El texto también menciona el problema de larga data de la pornografía falsa generada con software, que afecta a varias personas desde 2017. Microsoft reveló anteriormente que han Se arregló la laguna jurídica que creó los deepfakes.

Más esta página.