Australia requiere que Microsoft y otras grandes empresas de tecnología divulguen detalles sobre cómo abordar el CSAM

El auge de la tecnología también allanó el camino para la difusión de material de abuso sexual infantil (CSAM, por sus siglas en inglés) en línea. Australia es uno de los países que intenta implementar leyes más estrictas para manejar estos problemas, y ahora exige a gigantes tecnológicos como Microsoft divulgar sus estrategias para detectar y eliminar los MASI. Además de Microsoft, Reuters informó que los grandes gigantes tecnológicos Meta y Apple también recibieron una carta de demanda de un regulador australiano.

La demanda pone a Microsoft y otros en una situación grave ya que Australia ahora está implementando nuevas leyes que fortalecen sus acciones contra los problemas en línea y regulan las empresas de tecnología. Según el comisionado de seguridad electrónica, Microsoft y los demás que recibieron la carta tienen 28 días para divulgar sus medidas para abordar el MASI en sus diferentes plataformas. El incumplimiento dentro de dicho período se traduce en multas a las empresas de 555,000 dólares australianos o 383,000 dólares por día.

“Esta actividad ya no se limita a los rincones ocultos de la web oscura, sino que prevalece en las principales plataformas que nosotros y nuestros hijos usamos todos los días”, dijo la comisionada Julie Inman Grant a Reuters en un comunicado. “A medida que más empresas avanzan hacia los servicios de mensajería encriptada e implementan funciones como la transmisión en vivo, el temor es que este material horrible se extienda sin control en estas plataformas”.

Si bien no hay claridad sobre la forma o el alcance de los detalles que deben divulgarse, un portavoz de Microsoft ya dijo que planea responder dentro de los 28 días. Si bien aún no hay respuesta de Apple, el portavoz de Meta dijo que la compañía continúa “participando de manera proactiva con el Comisionado de seguridad electrónica en estos temas importantes”.

No se divulgó qué planea hacer el regulador australiano con los detalles que se darán a conocer. Pero si exige medidas de MASN más estrictas en el futuro, podría significar un desafío mayor para las grandes empresas de tecnología que ya luchan por producir sistemas efectivos contra el MANI mientras previenen la violación de la privacidad de los usuarios. También podría significar una mayor demanda para diseñar sistemas que puedan identificar con precisión los MASI en línea. El año pasado, un usuario de una cuenta de Android y Google fue marcado como criminal por la IA de Google después de etiquetar incorrectamente la imagen de las fotos de desnudos relacionados con la medicina de su hijo como MASI. Aunque el nombre del hombre se limpió después de una investigación, puso en duda la eficiencia del sistema CSAM.