Microsoft introduceert tool die roofdieren vangt

Chris Hansen heeft zijn steentje bijgedragen om kinderen te beschermen tegen roofdieren - nu is het de beurt aan Microsoft.

Project Artemis is een geautomatiseerd systeem, ontwikkeld door Microsoft, dat seksuele roofdieren kan opsporen die op de loer liggen in verschillende online chatrooms, waaronder die van videogames. Zodra de tool typische communicatiepatronen detecteert die worden gebruikt door roofdieren, wordt een "risicoscore" toegekend aan het gesprek, zodat het kan worden gemarkeerd door een inhoudsrecensent, die het vervolgens kan doorgeven aan wetshandhavers.

Microsoft werkte voor het eerst samen met het kinderspel Roblox, evenals de berichten-app Kik en de Meet Group- makers van dating- en vriendschapsapps Skout, MeetMee en Lovoo tijdens een Microsoft-hackathon voor de veiligheid van kinderen, in november 2018.

Dit is niet het eerste geautomatiseerde systeem van Microsoft van dit soort - het bedrijf introduceerde het idee voor het eerst in 2015, om grooming op Xbox Live tegen te gaan. Project Artemis bouwt hierop voort door te zoeken naar patronen van trefwoorden en zinsdelen die vaak worden geassocieerd met verzorging, inclusief seksuele interacties en zelfs manipulatietactieken.

De tool detecteert niet alleen degenen die een bedreiging vormen voor kinderen, maar ook degenen die kinderen actief uitbuiten. Bij een onmiddellijke dreiging als deze wordt contact opgenomen met het Landelijk Centrum Vermiste en Uitgebuite Kinderen.

Hoewel Courtney Gregoire, Chief Digital Safety Officer van Microsoft, zegt dat Artemis een "belangrijke stap voorwaarts" is, is het nog steeds "geen wondermiddel".

"Seksuele uitbuiting en misbruik van kinderen online en de detectie van online kinderverzorging zijn zware problemen", "maar we laten ons niet afschrikken door de complexiteit en ingewikkeldheid van dergelijke problemen."

Microsoft is al begonnen met het testen van Project Artemis op Xbox Live en de chatfunctie van Skype; en vanaf 10 januari wordt het gratis in licentie gegeven aan andere bedrijven via de non-profitorganisatie Thorn, die tools bouwt om seksuele uitbuiting van kinderen te voorkomen.

Bron: nbcnieuws