Facebook udruller kunstig intelligens for at hjælpe brugere med selvmordstanker

Facebook forbedrer sin opdagelse af opslag fra brugere, der er sårbare og i selvmordsfare ved hjælp af kunstig intelligens.

Tidligere i år, udviklede og testede firmaet først algoritmerne til selvmordsdetektion, markering af opslag og statusser, som er lavet af mennesker, der havde brug for hjælp. Firmaet lancerede og testede det kun i USA dengang, men nu, efter en positiv modtagelse, vil det rulle det ud til andre regioner såvel udover EU på grund af reglerne om privatliv.

"I løbet af den sidste måned har vi arbejdet med førstehjælpere på over 100 wellness-tjek baseret på rapporter, vi har modtaget via vores proaktive detektionsindsats. Dette er ud over de rapporter, vi har modtaget fra folk i Facebook-fællesskabet,” Facebooks Guy Rosen forklarede fordelene ved programmet, "Vi bruger også mønstergenkendelse til at hjælpe med at fremskynde de mest bekymrende rapporter. Vi har fundet ud af, at disse accelererede rapporter – som vi har signaleret kræver øjeblikkelig opmærksomhed – eskaleres til lokale myndigheder dobbelt så hurtigt som andre rapporter.”

Facebooks AI er nyttig til at reducere svartider til brugere i risikozonen og prioriterer indhold, som det anser for særligt bekymrende, så menneskelige moderatorer kan gennemgå dem og træffe de mest passende handlinger afhængigt af risikoniveauet.

"Vi giver folk en række supportmuligheder, såsom muligheden for at kontakte en ven og endda tilbyde foreslåede tekstskabeloner. Vi foreslår også, at du kontakter en hjælpelinje og tilbyder andre tips og ressourcer, så folk kan hjælpe sig selv i det øjeblik." siger Rosen.

Facebook er for mange centrum i deres digitale liv. Dette er blot en foranstaltning ud af mange, som virksomheden nu tager - efter år med en mangelfuld holdning - for at sikre, at den håndterer denne magt ansvarligt.