Australia mengharuskan Microsoft, perusahaan teknologi besar lainnya untuk mengungkapkan detail dalam menangani CSAM

Maraknya teknologi juga membuka jalan bagi penyebaran Materi Pelecehan Seksual Anak (CSAM) secara online. Australia adalah salah satu negara yang mencoba menerapkan undang-undang yang lebih keras untuk menangani masalah seperti itu, dan sekarang menuntut raksasa teknologi seperti Microsoft untuk mengungkapkan strategi mereka dalam mendeteksi dan menghapus CSAM. Selain Microsoft, Reuters melaporkan bahwa raksasa teknologi besar Meta dan Apple juga menerima surat permintaan dari regulator Australia.

Tuntutan tersebut menempatkan Microsoft dan lainnya dalam situasi serius karena Australia sekarang menerapkan undang-undang baru yang memperkuat tindakannya terhadap masalah online dan mengatur perusahaan teknologi. Menurut Komisaris Keamanan Elektronik, Microsoft dan pihak lain yang menerima surat tersebut memiliki waktu 28 hari untuk mengungkapkan tindakan mereka dalam menangani CSAM di platform mereka yang berbeda. Gagal mematuhi dalam periode tersebut berarti perusahaan akan didenda A$555,000 atau $383,000 per hari.

“Aktivitas ini tidak lagi terbatas pada sudut-sudut tersembunyi dari web gelap tetapi lazim di platform arus utama yang kami dan anak-anak kami gunakan setiap hari,” komisaris Julie Inman Grant mengatakan kepada Reuters dalam sebuah pernyataan. “Karena semakin banyak perusahaan bergerak ke arah layanan pesan terenkripsi dan menerapkan fitur seperti streaming langsung, ketakutannya adalah materi mengerikan ini akan menyebar tanpa terkendali di platform ini.”

Meskipun tidak ada kejelasan tentang bentuk atau tingkat perincian yang harus diungkapkan, juru bicara Microsoft telah mengatakan bahwa pihaknya berencana untuk memberikan tanggapan dalam waktu 28 hari. Meskipun masih belum ada tanggapan dari Apple, juru bicara Meta mengatakan perusahaan terus "secara proaktif terlibat dengan Komisaris eSafety mengenai masalah penting ini."

Tidak diungkapkan apa yang akan dilakukan regulator Australia dengan perincian yang akan diungkapkan. Tetapi jika menuntut tindakan CSAM yang lebih ketat di masa depan, itu bisa berarti tantangan yang lebih besar bagi perusahaan teknologi besar yang sudah berjuang untuk menghasilkan sistem anti-CSAM yang efektif sambil mencegah pelanggaran privasi pengguna. Ini juga bisa berarti permintaan yang lebih besar untuk merancang sistem yang dapat secara tepat mengidentifikasi CSAM online. Baru tahun lalu, pengguna akun Android dan Google adalah ditandai sebagai penjahat oleh AI Google setelah salah melabeli gambar foto telanjang terkait medis anaknya sebagai CSAM. Meskipun nama pria itu dibersihkan setelah penyelidikan, itu membuat efisiensi sistem CSAM dipertanyakan.