Facebook zavádza AI na pomoc samovražedným užívateľom

Facebook pomocou umelej inteligencie vylepšuje detekciu príspevkov používateľov, ktorí sú zraniteľní a hrozia im samovražda.

Začiatkom tohto roka, firma najprv vyvinula a otestovala algoritmy na detekciu samovrážd, označovanie príspevkov a statusov, ktoré vytvorili ľudia, ktorí potrebovali pomoc. Firma ho vtedy spustila a testovala iba v USA, ale teraz, po pozitívnom prijatí, ho z dôvodu nariadení o ochrane osobných údajov zavedie aj do iných regiónov, ako aj mimo EÚ.

„Počas posledného mesiaca sme spolupracovali s prvými respondentmi na viac ako 100 zdravotných kontrolách na základe správ, ktoré sme dostali prostredníctvom nášho proaktívneho odhaľovacieho úsilia. Toto je dodatok k správam, ktoré sme dostali od ľudí z komunity na Facebooku,“ povedal Guy Rosen z Facebooku vysvetlil výhody programu“Používame aj rozpoznávanie vzorov, aby sme urýchlili tie najznepokojujúcejšie správy. Zistili sme, že tieto zrýchlené hlásenia – o ktorých sme signalizovali, že si vyžadujú okamžitú pozornosť – sú eskalované miestnym orgánom dvakrát rýchlejšie ako iné hlásenia.“

Umelá inteligencia Facebooku pomáha skrátiť dobu odozvy ohrozeným používateľom, pričom uprednostňuje obsah, ktorý považuje za obzvlášť znepokojujúci, aby ho ľudskí moderátori mohli skontrolovať a prijať najvhodnejšie opatrenia v závislosti od úrovne rizika.

„Poskytujeme ľuďom množstvo možností podpory, ako napríklad možnosť osloviť priateľa a dokonca ponúknuť navrhované textové šablóny. Odporúčame tiež kontaktovať linku pomoci a ponúknuť ďalšie tipy a zdroje pre ľudí, ako si v danej chvíli pomôcť.“ hovorí Rosen.

Facebook je pre mnohých centrom ich digitálneho života. Toto je len jedno z mnohých opatrení, ktoré firma teraz – po rokoch nečinného postoja – prijíma, aby zabezpečila, že s touto mocou bude narábať zodpovedne.