Facebook ottaa käyttöön tekoälyn auttaakseen itsemurhakäyttäjiä

Facebook parantaa haavoittuvien ja itsemurhavaarassa olevien käyttäjien viestien havaitsemista tekoälyn avulla.

Aiemmin tänä vuonna, yritys kehitti ja testasi ensin itsemurhien havaitsemisalgoritmeja, jotka merkitsevät apua tarvitsevien ihmisten kirjoittamia viestejä ja tiloja. Yritys otti sen käyttöön ja testasi sitä silloin vasta Yhdysvalloissa, mutta nyt, positiivisen vastaanoton jälkeen, se tulee ottamaan sen käyttöön myös muille alueille sekä EU:n ulkopuolelle yksityisyyssäännösten vuoksi.

"Viime kuukauden aikana olemme työskennelleet ensiapuhenkilöstön kanssa yli 100 hyvinvointitarkastuksessa, jotka perustuvat ennakoiviin havaitsemistoimiemme kautta saamiimme ilmoituksiin. Tämä on Facebook-yhteisön ihmisiltä saamiemme raporttien lisäksi, Facebookin Guy Rosen selitti ohjelman edut, "Käytämme myös hahmontunnistusta nopeuttaaksemme eniten huolestuttavia raportteja. Olemme havainneet, että nämä nopeutetut raportit – joista olemme ilmoittaneet vaativan välitöntä huomiota – välitetään paikallisviranomaisille kaksi kertaa nopeammin kuin muut raportit.

Facebookin tekoäly auttaa lyhentämään vasteaikoja riskiryhmiin kuuluville käyttäjille ja priorisoimalla sen erityisen huolestuttavana pitämän sisällön, jotta ihmismoderaattorit voivat tarkistaa ne ja ryhtyä sopivimpiin toimenpiteisiin riskin tasosta riippuen.

"Tarjoamme ihmisille useita tukivaihtoehtoja, kuten mahdollisuuden ottaa yhteyttä ystävään ja jopa tarjota ehdotettuja tekstimalleja. Suosittelemme myös ottamaan yhteyttä neuvontapuhelimeen ja tarjoamaan muita vinkkejä ja resursseja, joiden avulla ihmiset voivat auttaa itseään sillä hetkellä." Rosen sanoo.

Facebook on monille heidän digitaalisen elämänsä keskipiste. Tämä on vain yksi toimenpide monista, joihin yritys nyt ryhtyy – vuosien epäluuloisen asenteen jälkeen – varmistaakseen, että se käsittelee tätä valtaa vastuullisesti.