Microsoft debuterer værktøj, der fanger rovdyr

Chris Hansen har gjort sit til at beskytte børn mod rovdyr - nu er det Microsofts tur.

Project Artemis er et automatiseret system, udviklet af Microsoft, som kan opsnuse seksuelle rovdyr, der lurer i forskellige online chatrum - inklusive videospils. Når værktøjet detekterer typiske kommunikationsmønstre, der bruges af rovdyr, tildeles en "risikoscore" til samtalen, så den kan markeres til en indholdsanmelder, som derefter kan videresende den til retshåndhævelsen.

Microsoft samarbejdede først med børnespillet Roblox samt besked-appen Kik og Meet Group – skaberne af dating- og venskabsapps Skout, MeetMee og Lovoo ved et Microsoft-hackathon for børns sikkerhed tilbage i november 2018.

Dette er ikke Microsofts første automatiserede system af denne slags - virksomheden introducerede først ideen tilbage i 2015, for at bekæmpe grooming på Xbox Live. Projekt Artemis bygger på dette ved at lede efter mønstre af søgeord og sætninger, der almindeligvis forbindes med pleje - herunder seksuelle interaktioner og endda manipulationstaktik.

Værktøjet vil ikke kun opdage dem, der er en trussel mod børn, men også dem, der aktivt udnytter børn. I tilfælde af en overhængende trussel som sådan, vil Nationalt Center for Forsvundne og Udnyttede Børn blive kontaktet.

Mens Courtney Gregoire, Microsofts Chief Digital Safety Officer, siger, at Artemis er et "betydeligt skridt fremad", er det stadig "på ingen måde et vidundermiddel."

"Seksuel udnyttelse og misbrug af børn online og afsløring af online børnepleje er tungtvejende problemer", "men vi er ikke afskrækket af kompleksiteten og indviklede sådanne problemer."

Microsoft er allerede begyndt at teste Project Artemis på Xbox Live og chatfunktionen på Skype; og fra den 10. januar bliver det licenseret gratis til andre virksomheder gennem nonprofit-organisationen Thorn, som bygger værktøjer til at forhindre seksuel udnyttelse af børn.

Kilde: nyheder