Australië vereist dat Microsoft en andere grote technologiebedrijven details bekendmaken bij de aanpak van CSAM

De opkomst van technologie maakte ook de weg vrij voor de online verspreiding van materiaal voor seksueel misbruik van kinderen (CSAM). Australië is een van de landen die strengere wetten probeert te implementeren om dergelijke problemen aan te pakken, en nu eist het technische giganten zoals: Microsoft om hun strategieën bekend te maken bij het opsporen en verwijderen van CSAM's. Behalve Microsoft, Reuters meldde dat de grote techreuzen Meta en Apple ook een brief hebben ontvangen van een Australische toezichthouder.

De vraag plaatst Microsoft en anderen in een ernstige situatie, aangezien Australië nu nieuwe wetten implementeert die zijn acties tegen online problemen versterken en technologiebedrijven reguleren. Volgens de e-Safety Commissioner hebben Microsoft en de anderen die de brief hebben ontvangen 28 dagen om hun maatregelen bekend te maken om CSAM op hun verschillende platforms aan te pakken. Als ze niet binnen de genoemde periode voldoen, krijgen de bedrijven een boete van A $ 555,000 of $ 383,000 per dag.

"Deze activiteit is niet langer beperkt tot verborgen hoeken van het dark web, maar komt veel voor op de reguliere platforms die wij en onze kinderen elke dag gebruiken", vertelde commissaris Julie Inman Grant aan Reuters in een verklaring. "Naarmate meer bedrijven overstappen op versleutelde berichtenservices en functies zoals livestreaming inzetten, bestaat de angst dat dit gruwelijke materiaal zich ongecontroleerd op deze platforms zal verspreiden."

Hoewel er geen duidelijkheid is over de vorm of omvang van de details die moeten worden bekendgemaakt, zei een woordvoerder van Microsoft al dat het van plan is om binnen 28 dagen te reageren. Hoewel er nog steeds geen reactie is van Apple, zei de woordvoerder van Meta dat het bedrijf "proactief in gesprek blijft met de eSafety Commissioner over deze belangrijke kwesties."

Wat de Australische toezichthouder van plan is te doen met de details die worden bekendgemaakt, is niet bekendgemaakt. Maar als het in de toekomst strengere CSAM-maatregelen vereist, kan dit een grotere uitdaging betekenen voor grote technologiebedrijven die al moeite hebben om effectieve anti-CSAM-systemen te produceren en tegelijkertijd de schending van de privacy van gebruikers te voorkomen. Het zou ook kunnen betekenen dat er meer vraag komt naar het ontwerpen van systemen die online CSAM's nauwkeurig kunnen identificeren. Vorig jaar was een gebruiker van een Android- en Google-account gemarkeerd als een crimineel door de AI van Google nadat hij het beeld van de medisch gerelateerde naaktfoto's van zijn kind ten onrechte als CSAM had bestempeld. Hoewel de naam van de man na een onderzoek werd gezuiverd, zette dit de efficiëntie van het CSAM-systeem in twijfel.