Facebook rullar ut AI för att hjälpa suicidala användare

Facebook förbättrar sin upptäckt av inlägg från användare som är sårbara och riskerar att begå självmord med hjälp av artificiell intelligens.

Tidigare i år, firman utvecklade och testade först algoritmerna för självmordsdetektering, flagga upp inlägg och statusar som görs av människor som var i behov av hjälp. Företaget rullade ut och testade det bara i USA då, men nu, efter ett positivt mottagande, kommer det att rulla ut det till andra regioner förutom EU på grund av integritetsbestämmelser.

"Under den senaste månaden har vi arbetat med första responders på över 100 friskvårdskontroller baserat på rapporter som vi fått via våra proaktiva upptäcktsinsatser. Detta är utöver de rapporter vi fått från personer i Facebook-communityt”, säger Facebooks Guy Rosen förklarade fördelarna med programmet, "Vi använder också mönsterigenkänning för att påskynda de mest angelägna rapporterna. Vi har upptäckt att dessa accelererade rapporter – som vi har signalerat kräver omedelbar uppmärksamhet – eskaleras till lokala myndigheter dubbelt så snabbt som andra rapporter.”

Facebooks AI är till hjälp för att minska svarstider för riskanvändare, prioritera innehåll som det anser vara särskilt oroande så att mänskliga moderatorer kan granska dem och vidta de lämpligaste åtgärderna, beroende på risknivån.

"Vi ger människor ett antal supportalternativ, till exempel möjligheten att nå ut till en vän och till och med erbjuda förslag på textmallar. Vi föreslår också att du kontaktar en hjälplinje och erbjuder andra tips och resurser för människor att hjälpa sig själva i det ögonblicket.” säger Rosen.

Facebook är för många, centrum i deras digitala liv. Detta är bara en åtgärd av många som företaget nu vidtar - efter år av bristfällig attityd - för att säkerställa att den hanterar den makten på ett ansvarsfullt sätt.