Facebook rolt AI uit om suïcidale gebruikers te helpen
2 minuut. lezen
Uitgegeven op
deel dit artikel
Verbeter deze handleiding
Lees onze openbaarmakingspagina om erachter te komen hoe u MSPoweruser kunt helpen het redactieteam te ondersteunen Lees meer
Facebook verbetert met behulp van kunstmatige intelligentie de detectie van berichten van gebruikers die kwetsbaar zijn en dreigt zelfmoord te plegen.
Eerder dit jaar, ontwikkelde en testte het bedrijf eerst de algoritmen voor zelfmoorddetectie, het markeren van berichten en statussen die zijn gemaakt door mensen die hulp nodig hadden. Het bedrijf heeft het toen alleen in de VS uitgerold en getest, maar nu, na een positieve ontvangst, zal het het vanwege privacyregelgeving ook naar andere regio's en buiten de EU uitrollen.
“De afgelopen maand hebben we met eerstehulpverleners gewerkt aan meer dan 100 welzijnscontroles op basis van rapporten die we hebben ontvangen via onze proactieve detectie-inspanningen. Dit is een aanvulling op de rapporten die we hebben ontvangen van mensen in de Facebook-community”, zegt Guy Rosen . van Facebook de voordelen van het programma uitgelegd, “We gebruiken patroonherkenning ook om de meest zorgwekkende meldingen te versnellen. We hebben geconstateerd dat deze versnelde meldingen – waarvan we hebben gesignaleerd dat ze onmiddellijke aandacht vereisen – twee keer zo snel naar de lokale autoriteiten worden geëscaleerd als andere meldingen.”
De AI van Facebook is nuttig voor het verkorten van de reactietijden voor risicogebruikers, waarbij prioriteit wordt gegeven aan inhoud die het als bijzonder zorgwekkend beschouwt, zodat menselijke moderators deze kunnen beoordelen en de meest geschikte actie kunnen ondernemen, afhankelijk van het risiconiveau.
“We bieden mensen een aantal ondersteuningsopties, zoals de mogelijkheid om contact op te nemen met een vriend en zelfs voorgestelde tekstsjablonen aan te bieden. We raden ook aan contact op te nemen met een hulplijn en andere tips en bronnen te bieden voor mensen om zichzelf op dat moment te helpen. zegt Rosen.
Facebook is voor velen het middelpunt van hun digitale leven. Dit is slechts één van de vele maatregelen die het bedrijf nu neemt - na jaren van een nuchtere houding - om ervoor te zorgen dat het op verantwoorde wijze met die bevoegdheid omgaat.
