Facebook đang triển khai AI để giúp người dùng tự tử

Facebook đang cải thiện khả năng phát hiện các bài đăng của người dùng dễ bị tổn thương và có nguy cơ tự tử với sự trợ giúp của trí tuệ nhân tạo.

Đầu năm nay, công ty lần đầu tiên phát triển và thử nghiệm các thuật toán để phát hiện tự tử, gắn cờ các bài đăng và trạng thái được thực hiện bởi những người cần sự giúp đỡ. Công ty chỉ triển khai và thử nghiệm nó ở Mỹ khi đó, nhưng bây giờ, sau khi được đón nhận tích cực, nó sẽ được tung ra các khu vực khác cũng như ngoài EU do các quy định về quyền riêng tư.

“Trong tháng trước, chúng tôi đã làm việc với những người phản hồi đầu tiên về hơn 100 lần kiểm tra sức khỏe dựa trên các báo cáo mà chúng tôi nhận được thông qua nỗ lực phát hiện chủ động của mình. Điều này bổ sung cho các báo cáo mà chúng tôi nhận được từ những người trong cộng đồng Facebook ”, Facebook Guy Rosen giải thích lợi ích của chương trình, “Chúng tôi cũng sử dụng tính năng nhận dạng mẫu để giúp đẩy nhanh các báo cáo liên quan nhất. Chúng tôi đã tìm thấy những báo cáo cấp tốc này - mà chúng tôi đã báo hiệu rằng cần phải chú ý ngay lập tức - được chuyển đến chính quyền địa phương nhanh gấp đôi so với các báo cáo khác. ”

AI của Facebook rất hữu ích trong việc giảm thời gian phản hồi cho những người dùng có nguy cơ, ưu tiên nội dung mà họ cho là đặc biệt đáng lo ngại để người kiểm duyệt có thể xem xét chúng và thực hiện hành động thích hợp nhất, tùy thuộc vào mức độ rủi ro.

“Chúng tôi cung cấp cho mọi người một số tùy chọn hỗ trợ, chẳng hạn như tùy chọn liên hệ với một người bạn và thậm chí cung cấp các mẫu văn bản được đề xuất. Chúng tôi cũng khuyên bạn nên liên hệ với đường dây trợ giúp và đưa ra các mẹo cũng như tài nguyên khác để mọi người có thể tự giúp mình trong thời điểm đó. ” Rosen nói.

Facebook là trung tâm của cuộc sống kỹ thuật số đối với nhiều người. Đây chỉ là một trong số nhiều biện pháp mà công ty hiện đang thực hiện - sau nhiều năm tỏ thái độ thiếu quyết đoán - để đảm bảo rằng công ty xử lý quyền lực đó một cách có trách nhiệm.