Facebook déploie l'IA pour aider les utilisateurs suicidaires
2 minute. lis
Publié le
Partagez cet article
Améliorer ce guide
Lisez notre page de divulgation pour savoir comment vous pouvez aider MSPoweruser à soutenir l'équipe éditoriale En savoir plus
Facebook améliore sa détection des publications d'utilisateurs vulnérables et en danger de suicide grâce à l'intelligence artificielle.
Plus tôt cette année, l'entreprise a d'abord développé et testé les algorithmes de détection du suicide, signalant les publications et les statuts des personnes ayant besoin d'aide. La société ne l'a déployé et testé qu'aux États-Unis à l'époque, mais maintenant, après un accueil positif, elle le déploiera également dans d'autres régions en dehors de l'UE en raison des réglementations en matière de confidentialité.
« Au cours du mois dernier, nous avons travaillé avec les premiers intervenants sur plus de 100 contrôles de bien-être basés sur les rapports que nous avons reçus grâce à nos efforts de détection proactive. Cela s'ajoute aux rapports que nous avons reçus des membres de la communauté Facebook », a déclaré Guy Rosen de Facebook. expliqué les avantages du programme, « Nous utilisons également la reconnaissance de formes pour aider à accélérer les rapports les plus préoccupants. Nous avons constaté que ces rapports accélérés - qui, selon nous, nécessitent une attention immédiate - sont transmis aux autorités locales deux fois plus rapidement que les autres rapports.
L'IA de Facebook est utile pour réduire les temps de réponse aux utilisateurs à risque, en donnant la priorité au contenu qu'elle juge particulièrement inquiétant afin que les modérateurs humains puissent les examiner et prendre les mesures les plus appropriées, en fonction du niveau de risque.
"Nous proposons aux utilisateurs un certain nombre d'options d'assistance, telles que la possibilité de contacter un ami et même de proposer des modèles de texte suggérés. Nous suggérons également de contacter une ligne d'assistance et d'offrir d'autres conseils et ressources pour que les gens puissent s'aider eux-mêmes à ce moment-là. dit Rosen.
Facebook est pour beaucoup, le centre de leur vie numérique. Ce n'est qu'une mesure parmi tant d'autres que l'entreprise prend maintenant - après des années d'attitude nonchalante - pour s'assurer qu'elle gère ce pouvoir de manière responsable.
