Microsoft представляет инструмент, который ловит хищников

Крис Хансен внес свой вклад в защиту детей от хищников — теперь очередь Microsoft.

Project Artemis — это автоматизированная система, разработанная Microsoft, которая может выявлять сексуальных хищников, скрывающихся в различных онлайн-чатах, в том числе в видеоиграх. Как только инструмент обнаруживает типичные модели общения, используемые злоумышленниками, разговору присваивается «оценка риска», поэтому его можно пометить рецензенту контента, который затем может передать его правоохранительным органам.

Microsoft впервые сотрудничала с детской игрой Roblox, а также приложением для обмена сообщениями Kik и Meet Group, создателями приложений для знакомств и дружбы Skout, MeetMee и Lovoo, на хакатоне Microsoft по безопасности детей еще в ноябре 2018 года.

Это не первая автоматизированная система Microsoft такого рода — компания впервые представила эту идею еще в 2015 году для борьбы с грумингом в Xbox Live. Проект Artemis основывается на этом, ища шаблоны ключевых слов и фраз, которые обычно ассоциируются с уходом за собой, включая сексуальные взаимодействия и даже тактику манипуляции.

Инструмент выявит не только тех, кто представляет угрозу для детей, но и тех, кто активно эксплуатирует детей. В случае такой непосредственной угрозы свяжутся с Национальным центром пропавших без вести и эксплуатируемых детей.

Хотя Кортни Грегуар, директор по цифровой безопасности Microsoft, говорит, что Artemis — это «значительный шаг вперед», это все же «ни в коем случае не панацея».

«Сексуальная эксплуатация и насилие над детьми в Интернете, а также обнаружение ухода за детьми в Интернете — это серьезные проблемы», «но нас не останавливает сложность и запутанность таких вопросов».

Microsoft уже начала тестировать Project Artemis в Xbox Live и функцию чата в Skype; а с 10 января он будет бесплатно лицензироваться для других компаний через некоммерческую организацию Thorn, которая создает инструменты для предотвращения сексуальной эксплуатации детей.

Источник: нбкньюс