Birleşik Krallık'taki çocuk pornosu karşıtı kuruluş, son aylarda porno yapay zeka deepfakelerinde artış olduğunu bildirdi

Birleşik Krallık merkezli çocuk karşıtı bir porno kuruluşu olan Internet Watch Foundation (IWF), yapay zeka tarafından oluşturulan çocuk cinsel istismarı materyallerinin (AI CSAM) veya sözde porno yapay zeka deepfake'lerinin rahatsız edici bir eğilimini ortaya koyuyor.

The Temmuz 2024 raporuPazartesi günü yayınlanan bu tür içeriklerin "korkutucu bir hızla" üretildiğini söylüyor. Mart ve Nisan 2024 arasında araştırmacılar, karanlık bir web forumunda çocuk istismarına ilişkin dokuz yeni deepfake video keşfettiler; bu videolar, XNUMX tarihli daha önceki bir araştırmada mevcut değildi. Ekim 2023.

Dışında, Çalışmanın Ayrıca tek bir ayda yapay zeka tarafından oluşturulan 12,000'den fazla yeni görselin paylaşıldığı, bunların 3,500'den fazlasının suç sayıldığı ve ciddi suiistimalleri tasvir ettiği ortaya çıktı. Bu teknoloji, özellikle LoRA modelleri, suçluların hem sahte hem de gerçek kurbanların son derece gerçekçi görüntülerini oluşturmasına olanak tanıyor.

“Maalesef Birleşik Krallık mevzuatı yapay zeka teknolojisindeki ilerlemelerin gerisinde kalıyor. AI CSAM yasa dışı olsa ve IWF bunun kaldırılması için gerekli adımları atsa da aynı durum, çocukların cinsel istismarına ilişkin görsellere ince ayar yapan AI modelleri için geçerli değildir. Raporda, Olivia'nın yapay zeka görüntülerini oluşturmaya yönelik aracın Birleşik Krallık'ta yasal olmaya devam ettiği belirtiliyor.

Önceki Ekim 2023 raporunda, bir ay içinde bir dark web forumunda yapay zeka tarafından oluşturulan 20,200'den fazla çocuk cinsel istismarı görseli yayınlanmıştı. Bunlardan 11,100'den fazlası değerlendirildi; 2,500'den fazlası suça yönelik sahte fotoğraf, yaklaşık 400'ü ise yasaklı fotoğraf olarak sınıflandırıldı.

Birleşik Krallık'taki IFW neredeyse otuz yıldır faaliyet gösteriyor. Eylül 2022'de IFW ve Pornhub kullanıma sunuldu “Yeniden Düşün” sohbet robotu Çocukların cinsel istismarına yönelik materyal arayan kullanıcıları caydırmak, ilk ayda 173,000'den fazla kullanıcıyla etkileşime geçmek ve onları destek hizmetlerine yönlendirmek.

Raporun kendisi Apple'ın son dönemdeki tartışmalarının ortasında geldi. CSAM'yi eksik raporlama Meta ve Google gibi diğer teknoloji devleriyle karşılaştırıldığında platformlarında.

Birleşik Krallık'ın Çocuklara Zulmü Önleme Ulusal Derneği (NSPCC), Apple'ın iCloud, iMessage ve Facetime'ının İngiltere ve Galler'de teknoloji devinin küresel olarak bildirdiğinden daha fazla CSAM vakasına karıştığını söylüyor. Apple'ın iCloud'da bu tür içerikleri taramak için bir yapay zekayı dahil etme planları vardı ancak veri toplama gizlilik endişeleri nedeniyle plandan vazgeçildi.