Instagram no te permitirá publicar furtivamente tus imágenes generadas por IA como si fueran tuyas, anunciaron las etiquetas

Gigante de los medios sociales Meta anunció planes para etiquetar publicaciones creadas con herramientas de inteligencia artificial en Facebook, Instagram y Threads. Esta iniciativa aborda las preocupaciones sobre la difusión de información errónea, particularmente durante los próximos ciclos electorales.

Meta está trabajando con varias empresas de tecnología, incluidas Google, OpenAI, Microsoft y Adobe, para establecer estándares en toda la industria para identificar contenido generado por IA. Esto implica incorporar marcas de agua invisibles y metadatos en imágenes creadas con estas herramientas, lo que permite a Meta detectarlas incluso si se comparten en diferentes plataformas.

El etiquetado se centrará en imágenes generadas por IA a partir de fuentes externas en la fase inicial. La detección de contenido de audio y vídeo utilizando métodos similares aún está en desarrollo. Además, es posible que las publicaciones que carecen de marcadores estandarizados no se identifiquen inicialmente. Meta está desarrollando activamente soluciones para abordar estas limitaciones.

Esta iniciativa cobra importancia a medida que varios países, incluidos Estados Unidos, India, Sudáfrica e Indonesia, se preparan para elecciones cruciales. La creciente prevalencia de deepfakes ha planteado un desafío importante para los votantes y candidatos, y el enfoque de Meta pretende mitigar este riesgo.

La decisión de Meta se alinea con las recomendaciones recientes de su Junta de Supervisión, que pidió un etiquetado más claro del contenido generado por IA en lugar de su eliminación total. Al mismo tiempo, reconoce las limitaciones del sistema actual.

Nick Clegg, presidente de asuntos globales de Meta, dijo a informe de Bloomberg:

Necesitaremos tener un debate en toda la sociedad, o ciertamente en toda la industria, sobre el otro extremo del telescopio, que es cómo señalar a los usuarios la veracidad o autenticidad del contenido no sintético.

Etiquetar contenido generado por IA representa un importante paso adelante, pero se avecinan desafíos futuros. A medida que el panorama en línea se satura cada vez más con material generado por IA, Clegg también anticipa la necesidad de explorar el etiquetado de contenido legítimo. Esto abre importantes debates sobre la autenticidad en línea y la confianza en la era digital.

Más aquí.