Microsoft představil nástroj, který loví dravce

Chris Hansen udělal svou roli v ochraně dětí před predátory – nyní je řada na Microsoftu.

Project Artemis je automatizovaný systém vyvinutý společností Microsoft, který dokáže odhalit sexuální predátory, kteří číhají v různých online chatovacích místnostech – včetně těch z videoher. Jakmile nástroj detekuje typické vzorce komunikace používané predátory, je konverzaci přiděleno „skóre rizika“, takže ji lze označit kontrolorem obsahu, který ji pak může předat orgánům činným v trestním řízení.

Microsoft poprvé spolupracoval s dětskou hrou Roblox a také s aplikací pro zasílání zpráv Kik a Meet Group – tvůrci aplikací pro seznamování a přátelství Skout, MeetMee a Lovoo na hackathonu společnosti Microsoft pro bezpečnost dětí v listopadu 2018.

Toto není první automatizovaný systém tohoto druhu od Microsoftu – společnost tento nápad poprvé představila v roce 2015, aby bojovala proti groomingu na Xbox Live. Projekt Artemis na tom staví tím, že hledá vzorce klíčových slov a frází, které jsou běžně spojovány s groomingem – včetně sexuálních interakcí a dokonce manipulačních taktik.

Nástroj odhalí nejen ty, kteří jsou pro děti hrozbou, ale také ty, kteří děti aktivně vykořisťují. V případě takové bezprostřední hrozby bude kontaktováno Národní centrum pro pohřešované a zneužívané děti.

Zatímco Courtney Gregoire, šéfka digitální bezpečnosti Microsoftu, říká, že Artemis je „významným krokem vpřed“, stále to „v žádném případě není všelék“.

„Sexuální vykořisťování a zneužívání dětí online a odhalování online péče o děti jsou závažným problémem“, „ale nenecháme se odradit složitostí a složitostí takových problémů.“

Microsoft již začal testovat Project Artemis na Xbox Live a chatovací funkci Skype; a od 10. ledna bude zdarma licencován dalším společnostem prostřednictvím neziskové organizace Thorn, která vytváří nástroje k zamezení sexuálního vykořisťování dětí.

Zdroj: nbcnews