Facebook ruller ut AI for å hjelpe suicidale brukere

Facebook forbedrer sin oppdagelse av innlegg fra brukere som er sårbare og i fare for selvmord ved hjelp av kunstig intelligens.

Tidligere i år, utviklet og testet firmaet først algoritmene for selvmordsdeteksjon, flagging opp innlegg og statuser som er laget av folk som trengte hjelp. Firmaet rullet ut og testet det bare i USA da, men nå, etter en positiv mottakelse, vil det rulle det ut til andre regioner i tillegg til EU på grunn av personvernforskrifter.

«I løpet av den siste måneden har vi jobbet med førstehjelpspersonell på over 100 velværesjekker basert på rapporter vi mottok via vår proaktive oppdagelsesinnsats. Dette kommer i tillegg til rapporter vi mottok fra folk i Facebook-fellesskapet,” Facebooks Guy Rosen forklarte fordelene med programmet, «Vi bruker også mønstergjenkjenning for å hjelpe til med å fremskynde de mest bekymringsfulle rapportene. Vi har funnet ut at disse akselererte rapportene – som vi har signalisert krever umiddelbar oppmerksomhet – eskaleres til lokale myndigheter dobbelt så raskt som andre rapporter.»

Facebooks AI er nyttig for å redusere responstiden til brukere som er i faresonen, og prioritere innhold som den anser som spesielt bekymringsfullt, slik at menneskelige moderatorer kan vurdere dem og iverksette de mest passende tiltakene, avhengig av risikonivået.

"Vi gir folk en rekke støttealternativer, for eksempel muligheten til å kontakte en venn og til og med tilby foreslåtte tekstmaler. Vi foreslår også at du kontakter en hjelpelinje og tilbyr andre tips og ressurser slik at folk kan hjelpe seg selv i det øyeblikket.» sier Rosen.

Facebook er for mange sentrum i deres digitale liv. Dette er bare ett tiltak av mange som firmaet nå tar - etter år med en mangelfull holdning - for å sikre at det håndterer denne makten på en ansvarlig måte.