Microsoft lance un outil qui attrape les prédateurs

Chris Hansen a fait sa part pour protéger les enfants des prédateurs - maintenant c'est au tour de Microsoft.

Le projet Artemis est un système automatisé, développé par Microsoft, qui peut détecter les prédateurs sexuels qui se cachent dans diverses salles de discussion en ligne, y compris celles des jeux vidéo. Une fois que l'outil détecte les modèles de communication typiques utilisés par les prédateurs, un "score de risque" est attribué à la conversation, de sorte qu'elle peut être signalée à un examinateur de contenu, qui peut ensuite la relayer aux forces de l'ordre.

Microsoft a d'abord collaboré avec le jeu pour enfants Roblox, ainsi qu'avec l'application de messagerie Kik et le Meet Group, créateurs des applications de rencontres et d'amitié Skout, MeetMee et Lovoo lors d'un hackathon Microsoft pour la sécurité des enfants, en novembre 2018.

Ce n'est pas le premier système automatisé de ce type de Microsoft - la société a introduit l'idée pour la première fois en 2015, pour lutter contre le toilettage sur Xbox Live. Le projet Artemis s'appuie sur cela, en recherchant des modèles de mots-clés et d'expressions couramment associés au toilettage, y compris les interactions sexuelles et même les tactiques de manipulation.

L'outil détectera non seulement ceux qui constituent une menace pour les enfants, mais également ceux qui exploitent activement les enfants. En cas de menace imminente comme telle, le Centre national pour les enfants disparus et exploités sera contacté.

Alors que Courtney Gregoire, directeur de la sécurité numérique de Microsoft, affirme qu'Artemis est un "pas en avant significatif", ce n'est toujours "en aucun cas une panacée".

"L'exploitation et les abus sexuels d'enfants en ligne et la détection du toilettage d'enfants en ligne sont des problèmes importants", "mais nous ne sommes pas découragés par la complexité et la complexité de ces problèmes".

Microsoft a déjà commencé à tester le projet Artemis sur Xbox Live et la fonctionnalité de chat de Skype ; et à partir du 10 janvier, il sera licencié gratuitement à d'autres entreprises par l'intermédiaire de l'association à but non lucratif Thorn, qui construit des outils pour prévenir l'exploitation sexuelle des enfants.

La source: nbcnews