Microsoft menandatangani Christchurch Call untuk memerangi konten ekstremis secara online

Pada 15 Mei, Perdana Menteri Selandia Baru Jacinda Ardern dan Presiden Prancis Emmanuel Macron mengumpulkan para pemimpin pemerintah dan perwakilan perusahaan teknologi untuk mengumumkan “Ajakan Bertindak Christchurch Untuk Menghilangkan Konten Teroris dan Ekstremis Kekerasan Online.” Menanggapi Panggilan tersebut, Amazon, Facebook, Google, Twitter dan Microsoft mengeluarkan pernyataan bersama. Perusahaan juga menerbitkan sembilan langkahmereka akan mengambil untuk menerapkan Panggilan Christchurch.

Serangan teroris di Christchurch, Selandia Baru, pada bulan Maret merupakan tragedi yang mengerikan. Dan memang benar bahwa kita bersatu, teguh dalam komitmen kita untuk memastikan kita melakukan semua yang kita bisa untuk memerangi kebencian dan ekstremisme yang mengarah pada kekerasan teroris.

Panggilan Christchurch yang diumumkan hari ini memperluas Forum Internet Global untuk Melawan Terorisme (GIFCT), dan membangun inisiatif kami yang lain dengan pemerintah dan masyarakat sipil untuk mencegah penyebaran konten teroris dan ekstremis kekerasan. Selain itu, kami membagikan langkah-langkah nyata yang akan kami ambil untuk mengatasi penyalahgunaan teknologi untuk menyebarkan konten teroris, termasuk investasi berkelanjutan dalam teknologi yang meningkatkan kemampuan kami untuk mendeteksi dan menghapus konten ini dari layanan kami, pembaruan persyaratan penggunaan individual kami, dan banyak lagi. transparansi untuk kebijakan dan penghapusan konten.

Terorisme dan ekstremisme kekerasan adalah masalah sosial yang kompleks yang membutuhkan respons seluruh masyarakat. Bagi kami, komitmen yang kami buat hari ini akan semakin memperkuat kemitraan yang harus dimiliki oleh Pemerintah, masyarakat, dan industri teknologi untuk mengatasi ancaman ini.

– Amazon, Facebook, Google, Microsoft, Twitter

Selain menandatangani Panggilan Christchurch, Amazon, Facebook, Google, Twitter, dan Microsoft menerbitkan sembilan langkah yang akan mereka ambil untuk mengatasi penyalahgunaan teknologi untuk menyebarkan konten teroris dan ekstremis kekerasan. Sembilan langkah ini mencakup lima tindakan individu yang dilakukan oleh setiap perusahaan, dan empat tindakan kolaboratif lainnya yang akan mereka lakukan bersama.

Berikut sembilan langkahnya:

Tindakan untuk mengatasi penyalahgunaan teknologi untuk menyebarkan konten teroris dan ekstremis kekerasan

Sebagai penyedia layanan berbagi konten online, perusahaan berkomitmen untuk hal-hal berikut:

Lima Tindakan Individu

Syarat Penggunaan. Microsoft berkomitmen untuk memperbarui persyaratan penggunaan, standar komunitas, kode etik, dan kebijakan penggunaan yang dapat diterima untuk secara tegas melarang distribusi konten teroris dan ekstremis kekerasan. Microsoft percaya ini penting untuk menetapkan ekspektasi dasar bagi pengguna dan untuk mengartikulasikan dasar yang jelas untuk penghapusan konten ini dari platform dan layanan mereka dan penangguhan atau penutupan akun yang mendistribusikan konten tersebut.

Pelaporan Pengguna Konten Teroris dan Ekstremis Kekerasan. Microsoft berkomitmen untuk menetapkan satu atau beberapa metode dalam platform dan layanan online mereka bagi pengguna untuk melaporkan atau menandai konten yang tidak pantas, termasuk konten teroris dan ekstremis kekerasan. Microsoft akan memastikan bahwa mekanisme pelaporan jelas, mencolok, dan mudah digunakan, dan memberikan perincian kategoris yang cukup untuk memungkinkan perusahaan memprioritaskan dan bertindak segera setelah pemberitahuan konten teroris atau ekstremis kekerasan.

Meningkatkan Teknologi. Microsoft berkomitmen untuk terus berinvestasi dalam teknologi yang meningkatkan kemampuan mereka untuk mendeteksi dan menghapus konten teroris dan ekstremis kekerasan secara online, termasuk perluasan atau pengembangan sidik jari digital dan solusi teknologi berbasis AI.

Streaming langsung. Microsoft berkomitmen untuk mengidentifikasi pemeriksaan yang sesuai pada streaming langsung, yang bertujuan untuk mengurangi risiko penyebaran konten teroris dan ekstremis kekerasan secara online. Ini mungkin termasuk langkah-langkah pemeriksaan yang ditingkatkan (seperti peringkat atau skor streamer, aktivitas akun, atau proses validasi) dan moderasi acara streaming langsung tertentu jika sesuai. Pemeriksaan pada streaming langsung akan disesuaikan dengan konteks layanan streaming langsung tertentu, termasuk jenis audiens, sifat atau karakter layanan streaming langsung, dan kemungkinan eksploitasi.

Laporan Transparansi. Microsoft berkomitmen untuk menerbitkan laporan transparansi secara berkala terkait pendeteksian dan penghapusan konten teroris atau ekstremis kekerasan di platform dan layanan online mereka dan memastikan bahwa data tersebut didukung oleh metodologi yang masuk akal dan dapat dijelaskan.

Empat Aksi Kolaborasi

Pengembangan Teknologi Bersama. Microsoft berkomitmen untuk bekerja secara kolaboratif di seluruh industri, pemerintah, lembaga pendidikan, dan LSM untuk mengembangkan pemahaman bersama tentang konteks di mana konten teroris dan ekstremis kekerasan diterbitkan dan untuk meningkatkan teknologi untuk mendeteksi dan menghapus konten teroris dan ekstremis kekerasan secara lebih efektif dan efisien. Ini akan mencakup:

• Bekerja untuk membuat kumpulan data bersama yang kuat untuk mempercepat pembelajaran mesin dan AI serta berbagi wawasan dan pembelajaran dari data.
• Pengembangan sumber terbuka atau alat bersama lainnya untuk mendeteksi dan menghapus konten teroris atau ekstremis kekerasan.
• Pemberdayaan semua perusahaan, besar dan kecil, untuk berkontribusi pada upaya kolektif dan untuk mengatasi deteksi dan penghapusan konten ini dengan lebih baik di platform dan layanan mereka.

Protokol Krisis. Microsoft berkomitmen untuk bekerja secara kolaboratif di seluruh industri, pemerintah, dan LSM untuk membuat protokol untuk menanggapi peristiwa yang muncul atau aktif, secara mendesak, sehingga informasi yang relevan dapat dibagikan, diproses, dan ditindaklanjuti dengan cepat dan efisien oleh semua pemangku kepentingan dengan penundaan yang minimal . Ini termasuk pembentukan tim manajemen insiden yang mengoordinasikan tindakan dan mendistribusikan informasi secara luas untuk kepentingan publik.

Pendidikan. Microsoft berkomitmen untuk bekerja secara kolaboratif di seluruh industri, pemerintah, lembaga pendidikan, dan LSM untuk membantu memahami dan mendidik publik tentang konten kekerasan teroris dan ekstremis secara online. Ini termasuk mendidik dan mengingatkan pengguna tentang cara melaporkan atau tidak berkontribusi pada penyebaran konten ini secara online.

Memerangi Kebencian dan Kefanatikan. Microsoft berkomitmen untuk bekerja secara kolaboratif di seluruh industri untuk menyerang akar penyebab ekstremisme dan kebencian secara online. Ini termasuk memberikan dukungan yang lebih besar untuk penelitian yang relevan – dengan penekanan pada dampak kebencian online terhadap diskriminasi dan kekerasan offline – dan mendukung kapasitas dan kemampuan LSM yang bekerja untuk menentang kebencian dan mempromosikan pluralisme dan rasa hormat secara online.