A Austrália exige que a Microsoft e outras grandes empresas de tecnologia divulguem detalhes no combate ao CSAM

A ascensão da tecnologia também abriu caminho para a disseminação de material de abuso sexual infantil (CSAM) online. A Austrália é um dos países que tenta implementar leis mais duras para lidar com esses problemas, e agora está exigindo gigantes da tecnologia como Microsoft divulgar suas estratégias na detecção e remoção de CSAMs. Além da Microsoft, Reuters informou que os grandes gigantes da tecnologia Meta e Apple também receberam uma carta de demanda de um regulador australiano.

A demanda coloca a Microsoft e outras empresas em uma situação séria, já que a Austrália agora está implementando novas leis que fortalecem suas ações contra problemas online e regulamentam empresas de tecnologia. De acordo com o Comissário de e-Safety, a Microsoft e os outros que receberam a carta têm 28 dias para divulgar suas medidas para lidar com o CSAM em suas diferentes plataformas. O não cumprimento dentro do referido período se traduz em multas de A $ 555,000 ou $ 383,000 por dia.

“Essa atividade não está mais confinada aos cantos ocultos da dark web, mas é predominante nas plataformas convencionais que nós e nossos filhos usamos todos os dias”, disse a comissária Julie Inman Grant à Reuters em comunicado. “À medida que mais empresas avançam para serviços de mensagens criptografadas e implantam recursos como transmissão ao vivo, o medo é que esse material horrível se espalhe sem controle nessas plataformas.”

Embora não haja clareza sobre a forma ou extensão dos detalhes que devem ser divulgados, um porta-voz da Microsoft já disse que planeja responder em 28 dias. Embora ainda não haja resposta da Apple, o porta-voz da Meta disse que a empresa continua “envolvendo-se proativamente com o eSafety Commissioner sobre essas questões importantes”.

Não foi divulgado o que o regulador australiano planeja fazer com os detalhes que serão divulgados. Mas se exigir medidas mais rígidas de CSAM no futuro, isso pode significar um desafio maior para grandes empresas de tecnologia que já lutam para produzir sistemas anti-CSAM eficazes, evitando a violação da privacidade dos usuários. Também pode significar uma demanda maior para projetar sistemas que possam identificar com precisão CSAMs online. No ano passado, um usuário de conta Android e Google foi sinalizado como criminoso pela IA do Google depois de rotular incorretamente a imagem das fotos de nudez médica de seu filho como CSAM. Embora o nome do homem tenha sido limpo após uma investigação, a eficiência do sistema CSAM foi questionada.