Facebook meluncurkan AI untuk membantu pengguna yang ingin bunuh diri

Facebook meningkatkan deteksi posting oleh pengguna yang rentan dan dalam bahaya bunuh diri dengan bantuan kecerdasan buatan.

Awal tahun ini, perusahaan pertama kali mengembangkan dan menguji algoritme untuk deteksi bunuh diri, menandai pos dan status yang dibuat oleh orang-orang yang membutuhkan bantuan. Perusahaan hanya meluncurkan dan mengujinya di AS saat itu, tetapi sekarang, setelah sambutan positif, itu akan meluncurkannya ke wilayah lain juga selain dari UE karena peraturan privasi.

“Selama sebulan terakhir, kami telah bekerja dengan responden pertama di lebih dari 100 pemeriksaan kesehatan berdasarkan laporan yang kami terima melalui upaya deteksi proaktif kami. Ini merupakan tambahan dari laporan yang kami terima dari orang-orang di komunitas Facebook,” Guy Rosen dari Facebook menjelaskan manfaat program, “Kami juga menggunakan pengenalan pola untuk membantu mempercepat laporan yang paling mengkhawatirkan. Kami menemukan laporan yang dipercepat ini—yang kami tandai memerlukan perhatian segera—dieskalasikan ke otoritas lokal dua kali lebih cepat daripada laporan lainnya.”

AI Facebook sangat membantu untuk mengurangi waktu respons kepada pengguna yang berisiko, memprioritaskan konten yang dianggap sangat mengkhawatirkan sehingga moderator manusia dapat meninjaunya dan mengambil tindakan yang paling tepat, tergantung pada tingkat risikonya.

“Kami menyediakan sejumlah opsi dukungan kepada orang-orang, seperti opsi untuk menjangkau teman dan bahkan menawarkan templat teks yang disarankan. Kami juga menyarankan untuk menghubungi saluran bantuan dan menawarkan kiat dan sumber daya lain bagi orang-orang untuk membantu diri mereka sendiri pada saat itu.” kata Rosen.

Facebook bagi banyak orang, pusat kehidupan digital mereka. Ini hanyalah satu dari banyak ukuran yang sekarang diambil perusahaan — setelah bertahun-tahun bersikap lesu — untuk memastikan bahwa ia menangani kekuatan itu secara bertanggung jawab.