Facebook внедряет искусственный интеллект, чтобы помочь суицидальным пользователям

Facebook улучшает обнаружение постов уязвимых и находящихся под угрозой самоубийства пользователей с помощью искусственного интеллекта.

Ранее в этом году, фирма первой разработала и протестировала алгоритмы обнаружения суицида, помечая посты и статусы людей, которые нуждались в помощи. Тогда компания развернула и протестировала его только в США, но теперь, после положительного отклика, она будет распространять его на другие регионы, а также за пределы ЕС из-за правил конфиденциальности.

«За последний месяц мы работали со службами экстренного реагирования над более чем 100 проверками здоровья на основе отчетов, которые мы получили в результате наших упреждающих усилий по обнаружению. Это в дополнение к сообщениям, которые мы получили от людей в сообществе Facebook», — Гай Розен из Facebook. рассказал о преимуществах программы, «Мы также используем распознавание образов, чтобы ускорить подготовку наиболее важных отчетов. Мы обнаружили, что эти ускоренные отчеты, которые, как мы указали, требуют немедленного внимания, передаются местным властям в два раза быстрее, чем другие отчеты».

Искусственный интеллект Facebook помогает сократить время ответа пользователям из группы риска, отдавая приоритет контенту, который он считает особенно тревожным, чтобы модераторы-люди могли просмотреть его и принять наиболее подходящие меры в зависимости от уровня риска.

«Мы предоставляем людям несколько вариантов поддержки, например, возможность связаться с другом и даже предложить предлагаемые текстовые шаблоны. Мы также предлагаем обратиться в службу поддержки и предложить другие советы и ресурсы для людей, которые могут помочь себе в этот момент». — говорит Розен.

Facebook для многих является центром их цифровой жизни. Это всего лишь одна мера из многих, которые фирма сейчас предпринимает — после многих лет вялого отношения — для того, чтобы ответственно обращаться с этой властью.