Facebook zavádí AI, aby pomohla sebevražedným uživatelům

Facebook pomocí umělé inteligence vylepšuje detekci příspěvků uživatelů, kteří jsou zranitelní a hrozí jim sebevražda.

Začátkem tohoto roku, firma nejprve vyvinula a otestovala algoritmy pro detekci sebevražd, označování příspěvků a statusů, které vytvořili lidé, kteří potřebovali pomoc. Firma jej tehdy zavedla a otestovala pouze v USA, ale nyní, po kladném přijetí, jej zavede i do dalších regionů kromě EU kvůli předpisům o ochraně soukromí.

„Za poslední měsíc jsme spolupracovali s prvními respondenty na více než 100 kontrolách zdravotního stavu na základě zpráv, které jsme obdrželi prostřednictvím našeho proaktivního odhalování. Toto je dodatek ke zprávám, které jsme obdrželi od lidí z komunity na Facebooku,“ Guy Rosen z Facebooku vysvětlil výhody programu„Používáme také rozpoznávání vzorů, abychom urychlili ty nejvíce znepokojivé zprávy. Zjistili jsme, že tato zrychlená hlášení – o kterých jsme signalizovali, že vyžadují okamžitou pozornost – jsou eskalována místním úřadům dvakrát rychleji než ostatní hlášení.“

Umělá inteligence Facebooku je užitečná pro zkrácení doby odezvy na rizikové uživatele, přičemž upřednostňuje obsah, který považuje za obzvláště znepokojivý, aby je lidští moderátoři mohli zkontrolovat a přijmout nejvhodnější opatření v závislosti na úrovni rizika.

„Poskytujeme lidem řadu možností podpory, jako je například možnost oslovit přítele a dokonce nabídnout navrhované textové šablony. Doporučujeme také kontaktovat linku pomoci a nabídnout další tipy a zdroje pro lidi, jak si v danou chvíli pomoci.“ říká Rosen.

Facebook je pro mnohé středobodem jejich digitálního života. To je jen jedno z mnoha opatření, které nyní firma – po letech lhostejného přístupu – přijímá, aby zajistila, že s touto mocí nakládá zodpovědně.