Microsoft debutuje nástroj, ktorý chytí predátorov

Chris Hansen urobil svoju úlohu pri ochrane detí pred predátormi – teraz je na rade Microsoft.

Project Artemis je automatizovaný systém vyvinutý spoločnosťou Microsoft, ktorý dokáže odhaliť sexuálnych predátorov, ktorí číhajú v rôznych online chatovacích miestnostiach – vrátane videohier. Keď nástroj zistí typické vzorce komunikácie používané predátormi, konverzácii sa pridelí „skóre rizika“, takže ju možno označiť kontrolórom obsahu, ktorý ju potom môže odovzdať orgánom činným v trestnom konaní.

Microsoft prvýkrát spolupracoval s detskou hrou Roblox, ako aj s aplikáciou na odosielanie správ Kik a skupinou Meet Group – tvorcami aplikácií na zoznamovanie a priateľstvo Skout, MeetMee a Lovoo na hackathone spoločnosti Microsoft pre bezpečnosť detí v novembri 2018.

Toto nie je prvý automatizovaný systém tohto druhu od Microsoftu – spoločnosť prvýkrát predstavila tento nápad v roku 2015, aby bojovala proti groomingu na Xbox Live. Projekt Artemis na tom stavia tým, že hľadá vzory kľúčových slov a fráz, ktoré sa bežne spájajú s groomingom – vrátane sexuálnych interakcií a dokonca manipulačných taktík.

Nástroj odhalí nielen tých, ktorí sú pre deti hrozbou, ale aj tých, ktorí deti aktívne vykorisťujú. V prípade takejto bezprostrednej hrozby bude kontaktované Národné centrum pre nezvestné a zneužívané deti.

Zatiaľ čo Courtney Gregoire, šéfka digitálnej bezpečnosti Microsoftu, hovorí, že Artemis je „významným krokom vpred“, stále to „v žiadnom prípade nie je všeliekom“.

„Sexuálne vykorisťovanie a zneužívanie detí online a odhaľovanie online starostlivosti o deti sú vážnymi problémami“, „ale neodrádza nás zložitosť a zložitosť takýchto problémov.“

Microsoft už začal testovať Project Artemis na Xbox Live a chatovaciu funkciu Skype; a od 10. januára bude bezplatne licencovaný iným spoločnostiam prostredníctvom neziskovej organizácie Thorn, ktorá vytvára nástroje na zamedzenie sexuálneho zneužívania detí.

zdroj: nbcnews