Facebook está implementando inteligencia artificial para ayudar a los usuarios suicidas
2 minuto. leer
Publicado el
Compartir este artículo
Mejorar esta guía
Lea nuestra página de divulgación para descubrir cómo puede ayudar a MSPoweruser a sostener el equipo editorial. Leer más
Facebook está mejorando su detección de publicaciones de usuarios vulnerables y en peligro de suicidio con la ayuda de la inteligencia artificial.
A principios de este año, la firma primero desarrolló y probó los algoritmos para la detección de suicidios, marcando publicaciones y estados realizados por personas que necesitaban ayuda. La empresa solo lo implementó y probó en los EE. UU. en ese momento, pero ahora, después de una recepción positiva, lo implementará en otras regiones además de la UE debido a las regulaciones de privacidad.
“Durante el último mes, hemos trabajado con los socorristas en más de 100 controles de bienestar basados en los informes que recibimos a través de nuestros esfuerzos de detección proactiva. Esto se suma a los informes que recibimos de personas en la comunidad de Facebook”, Guy Rosen de Facebook. explicó los beneficios del programa, “También utilizamos el reconocimiento de patrones para ayudar a acelerar los informes más preocupantes. Descubrimos que estos informes acelerados, que hemos señalado que requieren atención inmediata, se envían a las autoridades locales dos veces más rápido que otros informes”.
La IA de Facebook es útil para reducir los tiempos de respuesta a los usuarios en riesgo, priorizando el contenido que considera especialmente preocupante para que los moderadores humanos puedan revisarlo y tomar la acción más adecuada, según el nivel de riesgo.
“Brindamos a las personas una serie de opciones de soporte, como la opción de comunicarse con un amigo e incluso ofrecer plantillas de texto sugeridas. También sugerimos comunicarse con una línea de ayuda y ofrecer otros consejos y recursos para que las personas se ayuden a sí mismas en ese momento”. Rosen dice.
Facebook es para muchos, el centro de sus vidas digitales. Esta es solo una de las muchas medidas que la empresa está tomando ahora, después de años de una actitud indiferente, para asegurarse de que maneja ese poder de manera responsable.
