Microsoft Bing безответственно относится к самоубийству

Ноябрь обычно является месяцем осведомленности о психическом здоровье, когда мужчины во всем мире отращивают усы, чтобы привлечь внимание к тревожной тенденции мужского самоубийства. Чтобы представить перспективу с технической точки зрения, есть аспект, который здесь упускается из виду: вина вездесущих, вездесущих поисковых систем, таких как Google и Bing, в этом процессе, и могут ли их материнские компании сделать больше.

Чтобы отдать должное, Microsoft проделала здесь некоторую работу. Если кто-то ищет «Как убить…», автозаполнение на этом останавливается. После поиска «Как убить себя» Microsoft показывает номер горячей линии для самаритян в Великобритании, призывая пользователей звонить на горячую линию, чтобы получить помощь. Если вы ищете «самоубийство» или «как покончить жизнь самоубийством», Microsoft наполняет поисковика полезными ресурсами, направленными на то, чтобы он получил помощь. Все это хорошо и заслуживает аплодисментов.

Однако, несмотря на все это, поиск Microsoft Bing недостаточно хорошо работает в этой области и часто выдает «полезные» результаты, особенно по сравнению с их основным конкурентом — Google.

Чтобы проиллюстрировать это, поиск Bing по запросу «Как убить себя» имеет 3/5 первых результатов либо с призывом к совершению самоубийства, либо с руководством по методам, а два других результата — это доски объявлений. Щелчок по результатам, появившимся на странице, подтверждает, что эти результаты действительно то, что может хотеть искатель, хотя и не так, как, вероятно, намеревается Microsoft, и не то, что им нужно. Эквивалентный поиск Google, напротив, имеет самый первый результат поиска в виде ссылки на веб-страницу NHS, второй результат - ссылку на самопомощь, а затем несколько сомнительных результатов, за которыми следуют справочные ресурсы, все на первой странице. .

Более тревожным, чем результаты, является то, что Microsoft также предлагает вам альтернативный поиск на тот случай, если ваши первые несколько результатов не будут слишком полезными. Bing словно спрашивает пользователя: «Как убить себя», не давая вам желаемых результатов? как насчет «Как отравиться», «безболезненные способы самоубийства» или «лучший способ повеситься?». Google, опять же, не предлагает никаких альтернативных предложений.

Чтобы проиллюстрировать, как это подрывает их более ранние усилия, если вы ищете «как совершить самоубийство», Microsoft услужливо заполняет страницу ресурсами. Однако в правом верхнем углу экрана Bing предлагает альтернативный поиск. «Лучшие таблетки от суицида», «таблетки для суицида». Если кто-то делает опечатку или небольшую орфографическую ошибку, Microsoft, как ни странно, не предлагает никаких полезных ресурсов, даже признавая, что поисковый термин, скорее всего, неверен, в то время как Google все еще делает это. Я мог бы привести еще несколько примеров, но суть должна быть ясна. Microsoft постоянно не выполняет дополнительную работу, необходимую для защиты уязвимых пользователей своей поисковой системы Bing.

Поисковые системы сильны в наше время, и ими можно манипулировать, чтобы продвигать одни результаты по сравнению с другими. Microsoft, Google, Apple и все они знают и понимают эту силу, и именно поэтому они ввели меры безопасности в отношении содержания определенных результатов, особенно тех, которые касаются самоубийства и членовредительства.

The Samaritans, самая известная в Великобритании благотворительная организация по предотвращению самоубийств, поделилась некоторыми мыслями о Самоубийство и онлайн-мир назад в 2013.

Мы считаем, что поставщики поисковых систем несут корпоративную социальную ответственность за обеспечение продвижения надежных источников поддержки, когда люди вводят термины, связанные с самоубийством, в поисковые системы.

Кроме того, можно было бы сделать больше, чтобы уменьшить число бесполезных функций «автозаполнения» для частично введенных условий поиска.

У нас хорошие отношения с некоторыми поставщиками поисковых систем, но они и мы можем сделать больше. Есть также и те, кто действительно не подошли к делу в этом вопросе.

Хотя Microsoft продолжила добавлять свою горячую линию к ссылкам, связанным с самоубийством, как указано выше, их предоставление альтернативных условий поиска может быть сконструировано так, чтобы быть эквивалентным бесполезным условиям поиска с автозаполнением, которые благотворительная организация называет выше.

Можно вести дискуссию о концепции цензуры, но это, безусловно, чепуха. Свобода слова — особенно в данном случае — не означает самоубийства. Поисковые системы, конечно, все еще могут обнаружить оскорбительные результаты, но продвигать их на первой странице совершенно бесполезно. Microsoft не должна продвигать методы самоубийства или предлагать вам альтернативные поиски для получения лучших результатов. Его алгоритмы можно настраивать и изменять, чтобы добиться более идеальных результатов, и фирме следует больше думать о том, как ее результаты на самом деле влияют на людей.

Результаты поисковой системы могут показаться особенно тривиальными и легковесными, но исследования показали, что самоубийство — очень импульсивная вещь, которую во многих случаях можно предотвратить с помощью барьеров, даже тривиальных. Статья в New York Times о возведении барьеров для самоубийц на мосту Золотые Ворота (которые вы должны прочитать) цитирует работы ученых-исследователей, которые подтверждают это.

Доктор Блауштайн сказал: «Самый распространенный миф, который рушится, заключается в том, что люди уйдут куда-то еще».

В исследовании 1978 года «Где они сейчас?» Ричард Х. Зайден, бывший профессор Школы общественного здравоохранения Калифорнийского университета в Беркли, рассмотрел вопрос о том, сможет ли человек, которому не удалось совершить самоубийство в одном месте, пойти куда-нибудь еще. Он изучал людей, которые пытались покончить жизнь самоубийством у моста Золотые Ворота с 1937 по 1971 год, и обнаружил, что более 90 процентов из них были еще живы в 1978 году или умерли естественной смертью.

Барьеры Microsoft должны быть усилены. Как ранее в этом году отметил Сатья Наделла, технологии должны создаваться с сочувствием. Хороший урок, который нужно применить.