Microsoft debuterer verktøy som fanger rovdyr

Chris Hansen har gjort sitt for å beskytte barn mot rovdyr – nå er det Microsoft sin tur.

Project Artemis er et automatisert system utviklet av Microsoft, som kan snuse opp seksuelle rovdyr som lurer i ulike chatterom på nett, inkludert videospill. Når verktøyet oppdager typiske kommunikasjonsmønstre som brukes av rovdyr, tildeles en "risikopoengsum" til samtalen, slik at den kan flagges til en innholdsanmelder, som deretter kan videresende den til rettshåndhevelse.

Microsoft samarbeidet først med barnespillet Roblox, samt meldingsappen Kik og Meet Group – skaperne av dating- og vennskapsappene Skout, MeetMee og Lovoo på et Microsoft-hackathon for barnesikkerhet, tilbake i november 2018.

Dette er ikke Microsofts første automatiserte system av denne typen – selskapet introduserte først ideen tilbake i 2015, for å bekjempe grooming på Xbox Live. Prosjekt Artemis bygger på dette, ved å se etter mønstre av søkeord og fraser som ofte er assosiert med pleie - inkludert seksuelle interaksjoner og til og med manipulasjonstaktikker.

Verktøyet vil ikke bare oppdage de som er en trussel mot barn, men også de som aktivt utnytter barn. Ved en overhengende trussel som dette vil Nasjonalt senter for savnede og utnyttede barn bli kontaktet.

Mens Courtney Gregoire, Microsofts sjef for digital sikkerhet, sier at Artemis er et «betydelig skritt fremover», er det fortsatt «på ingen måte et universalmiddel».

«Seksuell utnyttelse og misbruk av barn på nettet og avsløring av barnestell på nettet er tungtveiende problemer», «men vi lar oss ikke avskrekke av kompleksiteten og intrikatheten i slike problemer.»

Microsoft har allerede begynt å teste Project Artemis på Xbox Live og chat-funksjonen til Skype; og fra 10. januar vil det bli lisensiert gratis til andre selskaper gjennom den ideelle organisasjonen Thorn, som bygger verktøy for å forhindre seksuell utnyttelse av barn.

kilde: nbcnews