Organisasi anti-pornografi anak di Inggris melaporkan lonjakan deepfake pornografi dalam beberapa bulan terakhir

Internet Watch Foundation (IWF), sebuah organisasi anti-pornografi anak yang berbasis di Inggris, mengungkapkan tren yang meresahkan dari materi pelecehan seksual terhadap anak (AI CSAM) yang dihasilkan oleh AI, atau yang disebut deepfake porno AI.

Laporan Juli 2024, yang diposting pada hari Senin, mengatakan bahwa konten semacam itu diproduksi pada “tingkat yang menakutkan.” Antara bulan Maret dan April 2024, para peneliti menemukan sembilan video deepfake baru tentang pelecehan anak di forum web gelap, yang tidak terdapat dalam penyelidikan sebelumnya. Oktober 2023.

Selain, penelitian juga menemukan lebih dari 12,000 gambar baru yang dihasilkan AI diposting dalam satu bulan, dengan lebih dari 3,500 dianggap kriminal dan menggambarkan pelecehan parah. Teknologi ini, khususnya model LoRA, memungkinkan pelaku untuk membuat gambar yang sangat realistis baik korban palsu maupun korban nyata.

“Sayangnya, peraturan di Inggris tertinggal dari kemajuan teknologi AI. Meskipun AI CSAM ilegal dan IWF dapat mengambil langkah untuk menghapusnya, hal serupa tidak berlaku untuk model AI yang menyempurnakan gambar pelecehan seksual terhadap anak. Alat untuk membuat gambar AI Olivia tetap legal di Inggris,” tulis laporan tersebut.

Laporan Oktober 2023 sebelumnya menemukan lebih dari 20,200 gambar pelecehan seksual terhadap anak yang dihasilkan oleh AI diposting ke forum web gelap dalam satu bulan. Dari jumlah tersebut, lebih dari 11,100 telah dinilai, dengan lebih dari 2,500 diklasifikasikan sebagai foto palsu kriminal dan sekitar 400 sebagai gambar terlarang.

IFW Inggris telah beroperasi sejak hampir tiga dekade lalu. Pada bulan September 2022, IFW & Pornhub diluncurkan chatbot “Pikirkan kembali”. untuk menghalangi pengguna yang mencari materi pelecehan seksual terhadap anak-anak, melibatkan lebih dari 173,000 pengguna di bulan pertama dan mengarahkan mereka ke layanan dukungan.

Laporan itu sendiri muncul di tengah kontroversi Apple baru-baru ini CSAM yang tidak dilaporkan pada platform mereka, dibandingkan dengan raksasa teknologi lain seperti Meta dan Google.

Perkumpulan Nasional untuk Pencegahan Kekejaman terhadap Anak-anak (NSPCC) di Inggris mengatakan bahwa iCloud, iMessage, dan Facetime milik Apple terlibat dalam lebih banyak kasus CSAM di Inggris dan Wales dibandingkan yang dilaporkan oleh raksasa teknologi tersebut secara global. Apple memiliki rencana untuk memasukkan AI untuk memindai konten tersebut di iCloud, namun karena masalah privasi pengumpulan data, rencana tersebut dibatalkan.