Organizacija za borbu protiv dječje pornografije iz Ujedinjenog Kraljevstva izvijestila je o porastu pornografskih AI deepfakeova posljednjih mjeseci

Zaklada Internet Watch (IWF), organizacija za borbu protiv dječje pornografije sa sjedištem u Velikoj Britaniji, otkriva uznemirujući trend materijala o seksualnom zlostavljanju djece generiranog umjetnom inteligencijom (AI CSAM), ili takozvanih pornografskih AI deepfakeova.

Korištenje električnih romobila ističe Izvještaj iz srpnja 2024. godine, objavljenom u ponedjeljak, kaže da se takav sadržaj proizvodi "zastrašujućom brzinom". Između ožujka i travnja 2024. istraživači su otkrili devet novih deepfake videozapisa zlostavljanja djece na forumu mračnog weba, koji nisu bili prisutni u ranijoj istrazi koja je datirana listopada 2023.

Osim toga, studija također je pronašao više od 12,000 novih slika generiranih umjetnom inteligencijom objavljenih u jednom mjesecu, s više od 3,500 koje se smatraju kriminalnim i prikazuju teško zlostavljanje. Ova tehnologija, posebice modeli LoRA, omogućuje počiniteljima da stvore vrlo realistične slike i lažnih i stvarnih žrtava.

“Nažalost, zakonodavstvo UK-a zaostaje za napretkom u AI tehnologiji. Dok je AI CSAM nezakonit i IWF može poduzeti korake da ga ukloni, isto ne vrijedi za AI modele fino podešene na slikama seksualnog zlostavljanja djece. Alat za stvaranje AI slika Olivije ostaje legalan u Ujedinjenom Kraljevstvu”, stoji u izvješću.

Prethodno izvješće iz listopada 2023. pronašlo je više od 20,200 11,100 slika seksualnog zlostavljanja djece koje je generirala umjetna inteligencija objavljenih na forumu mračnog weba u jednom mjesecu. Od toga je više od 2,500 procijenjeno, s više od 400 klasificiranih kao kriminalne pseudofotografije, a otprilike XNUMX kao zabranjene slike.

Britanski IFW djeluje od prije gotovo tri desetljeća. U rujnu 2022. pokrenut je IFW & Pornhub "reThink" chatbot kako bi odvratio korisnike koji traže materijale o seksualnom zlostavljanju djece, angažirajući više od 173,000 XNUMX korisnika u prvom mjesecu i usmjeravajući ih na službe podrške.

Samo izvješće pojavilo se usred Appleove nedavne kontroverze oko nedovoljno prijavljivanje CSAM-a na svojim platformama, u usporedbi s drugim tehnološkim divovima poput Mete i Googlea.

Britansko Nacionalno društvo za prevenciju okrutnosti prema djeci (NSPCC) kaže da su Appleovi iCloud, iMessage i Facetime bili uključeni u više slučajeva CSAM-a u Engleskoj i Walesu nego što je tehnološki div izvijestio globalno. Apple je imao planove za ugradnju umjetne inteligencije za skeniranje takvog sadržaja na iCloudu, ali zbog brige o privatnosti prikupljanja podataka, plan je napušten.