Facebookは自殺ユーザーを支援するためにAIを展開しています

Facebookは、人工知能の助けを借りて、脆弱で自殺の危険にさらされているユーザーによる投稿の検出を改善しています。

今年これまでに、同社は最初に自殺検出のアルゴリズムを開発してテストし、助けを必要としている人々によって作成された投稿とステータスにフラグを立てました。 同社は当時、米国での展開とテストのみを行っていましたが、好評を博した後、プライバシー規制により、EU以外の地域にも展開する予定です。

「先月、私たちは先を見越した検出活動を通じて受け取ったレポートに基づいて、100を超えるウェルネスチェックについてファーストレスポンダーと協力してきました。 これは、Facebookコミュニティの人々から受け取ったレポートに追加されたものです」とFacebookのGuyRosen氏は述べています。 プログラムの利点を説明しました、「また、パターン認識を使用して、最も懸念されるレポートを加速します。 これらの加速されたレポートは、早急な対応が必要であることを示しており、他のレポートのXNUMX倍の速さで地方自治体にエスカレーションされていることがわかりました。」

FacebookのAIは、リスクのあるユーザーへの応答時間を短縮し、特に気になるコンテンツに優先順位を付けて、人間のモデレーターがリスクのレベルに応じてそれらを確認し、最も適切なアクションを実行できるようにするのに役立ちます。

「私たちは、友人に連絡するオプションや、提案されたテキストテンプレートを提供するオプションなど、多くのサポートオプションを人々に提供します。 また、ヘルプラインに連絡し、その瞬間に人々が自分自身を助けるための他のヒントやリソースを提供することをお勧めします。」 ローゼンは言います。

Facebookは多くの人にとって、デジタルライフの中心です。 これは、会社がその力を責任を持って処理することを保証するために、何年にもわたる不十分な態度の後で、現在取っている多くの手段のXNUMXつにすぎません。