Facebook, 자살하려는 사용자를 돕기 위해 AI 출시

Facebook은 인공 지능의 도움을 받아 취약하고 자살 위험이 있는 사용자의 게시물 감지 기능을 개선하고 있습니다.

올해, 회사는 먼저 도움이 필요한 사람들이 만든 게시물과 상태를 표시하고 자살 감지 알고리즘을 개발하고 테스트했습니다. 이 회사는 당시 미국에서만 롤아웃하고 테스트했지만 현재 긍정적인 반응을 얻은 후 개인 정보 보호 규정으로 인해 EU를 제외한 다른 지역에도 롤아웃할 예정입니다.

“지난 한 달 동안 우리는 사전 예방적 탐지 노력을 통해 받은 보고서를 기반으로 100건 이상의 건강 점검에 대해 최초 대응자와 협력했습니다. 이것은 Facebook 커뮤니티의 사람들로부터 받은 보고서에 추가된 것입니다.” Facebook의 Guy Rosen 프로그램의 장점을 설명했습니다, “또한 패턴 인식을 사용하여 가장 우려되는 보고서를 가속화합니다. 우리는 즉각적인 주의가 필요하다고 신호한 이러한 가속화된 보고서가 다른 보고서보다 두 배나 빨리 지방 당국에 에스컬레이션된다는 것을 발견했습니다.”

Facebook의 AI는 위험에 처한 사용자에 대한 응답 시간을 줄이는 데 도움이 되며, 특히 우려되는 콘텐츠의 우선 순위를 지정하여 인간 중재자가 위험 수준에 따라 해당 콘텐츠를 검토하고 가장 적절한 조치를 취할 수 있도록 합니다.

“우리는 사람들에게 친구에게 연락하고 제안된 텍스트 템플릿을 제공하는 옵션과 같은 다양한 지원 옵션을 제공합니다. 또한 헬프 라인에 연락하여 사람들이 그 순간에 스스로를 도울 수 있는 다른 팁과 리소스를 제공하는 것이 좋습니다.” 로젠은 말한다.

Facebook은 많은 사람들을 위한 디지털 라이프의 중심입니다. 이것은 회사가 책임감 있게 권한을 처리할 수 있도록 하기 위해 수년 간의 냉담한 태도를 취한 후 현재 취하고 있는 많은 조치 중 하나일 뿐입니다.