MicrosoftのBingは自殺に対して無責任だ

XNUMX月は通常メンタルヘルス啓発月間であり、世界中の男性が男性の自殺という厄介な傾向に気付くために口ひげを生やします。 技術的な観点からの視点を提供するために、ここで見落とされている側面があります。GoogleやBingのような現在普及している検索エンジンの責任と、その親会社がもっとできるかどうかです。

クレジットが必要な場所にクレジットを与えるために、Microsoftはここでいくつかの作業を行いました。 「殺す方法–」を検索すると、オートコンプリートはそこで停止します。 「自分を殺す方法」を検索すると、マイクロソフトは英国のサマリア人のホットライン番号を表示し、ユーザーにホットラインに電話して助けを求めるように促します。 「自殺」または「自殺の方法」を検索すると、Microsoftは、検索者に助けを求めることを目的とした役立つリソースで検索者を氾濫させます。 これはすべて良いことであり、当然のことながら称賛されるべきです。

ただし、それにもかかわらず、MicrosoftのBing検索はこの分野では十分に機能しておらず、特に主要な競合他社であるGoogleと比較して、「役立つ」結果を提供することがよくあります。

説明のために、「自分を殺す方法」のBing検索では、最初の結果の3/5が自殺を促すか、方法のガイドを提供し、他のXNUMXつの結果は掲示板です。 ページに表示された結果をクリックすると、これらの結果が実際に検索者が望むものであることが確認されますが、Microsoftがおそらく意図している方法ではなく、必要なものでもありません。 対照的に、同等のGoogle検索では、最初の検索結果がNHSのWebページへのリンクとして、XNUMX番目の結果がセルフヘルプへのリンクとして、次に疑わしいいくつかの結果が続き、すべて最初のページにヘルプリソースが表示されます。 。

結果よりも心配なことに、Microsoftは、最初のいくつかの結果があまり役に立たなかった場合に備えて、代替検索も提供しています。 Bingはユーザーに「自分を殺す方法」を尋ねているようですが、希望する結果が得られませんか？ 「自分を毒殺する方法」、「痛みのない自殺方法」、「自分を絞首刑にする最善の方法」はどうですか。 Googleは、もう一度、代替案を提供しません。

これが彼らの以前の取り組みをどのように損なうかを説明するために、「自殺する方法」を検索すると、Microsoftはページをリソースで埋め尽くします。 ただし、画面の右上にあるBingは、別の検索を提供します。 「自殺に最適な錠剤」、「自殺に必要な錠剤」。 タイプミスやわずかなつづりの間違いをした場合、Microsoftは奇妙なことに、検索用語が間違っている可能性が高いことを認識していても、役立つリソースを提供しませんが、Googleはまだ提供しています。 私が挙げることができる例は他にもいくつかありますが、要点は明確である必要があります。 Microsoftは、Bing検索エンジンの脆弱なユーザーを保護するために必要な追加の作業を一貫して行っていません。

検索エンジンは、この時代において強力であり、特定の結果を他の結果よりも優先するように操作することができ、また操作されてきました。 マイクロソフト、グーグル、アップル、そしてすべての人がこの力を知っており、理解しています。そのため、特定の結果、特に自殺や自傷行為に関連する結果の内容に対して保護措置を講じています。

英国で最も著名な自殺防止慈善団体であるサマリア人は、 自殺とオンラインの世界 バック2013インチ

検索エンジンプロバイダーには、人々が検索エンジンに自殺関連の用語を入力したときに信頼できるサポートのソースが促進されるようにするという企業の社会的責任があると信じています。

部分的に入力された検索語で役に立たない「オートコンプリート」機能を減らすためにできることもたくさんあります。

私たちはいくつかの検索エンジンプロバイダーと良好な関係を築いていますが、彼らと私たちがこれに対してできることは他にもあります。 この問題について実際にプレートにステップアップしていない人もいます。

マイクロソフトは、前述のように、自殺関連のリンクにホットラインを追加し続けていますが、代替検索用語の提供は、慈善団体が上記で呼びかけている役に立たないオートコンプリート検索用語と同等になるように構築できるものです。

検閲の概念に関しては議論がありますが、それは確かにナンセンスです。 言論の自由は、特にこの場合、自殺協定へのコミットメントではありません。 もちろん、検索エンジンは依然として問題のある結果を明らかにすることができますが、最初のページでそれらを宣伝することは非常に役に立ちません。 Microsoftは、自分を殺す方法を宣伝したり、より良い結果を得るための代替検索を提案したりするべきではありません。 そのアルゴリズムは、より理想的な結果を促進するために微調整および変更することができ、会社はその結果が実際に人々にどのように影響するかについてより深く考える必要があります。

検索エンジンの結果は特に些細で手に負えない成果のように見えるかもしれませんが、研究によると、自殺は非常に衝動的なものであり、多くの場合、些細なものであっても障壁によって防ぐことができます。 ニューヨークタイムズの記事 ゴールデンゲートブリッジの自殺障壁の建設について（あなたが読むべきです）は、これを支持する学術研究者の仕事を引用しています。

ブラウスタイン博士は、「爆発する最も一般的な神話は、人々が他の場所に行くというものです」と述べました。

1978年の研究では、「彼らは今どこにいますか？」 カリフォルニア大学バークレー校公衆衛生学部の元教授であるリチャード・H・セイデンは、ある場所で自殺を阻止された人が別の場所に行くかどうかという問題に注目しました。 彼は、1937年から1971年にゴールデンゲートブリッジで自殺未遂を試みた人々を調査し、90％以上が1978年にまだ生きているか、自然の原因で死亡したことを発見しました。

マイクロソフトの障壁を強化する必要があります。 Satya Nadellaが今年初めに指摘したように、テクノロジーは共感を持って構築されるべきです。 良い教訓、それを適用する必要があります。