Den brittiska anti-barnporrorganisationen rapporterar en ökning av porr AI deepfakes under de senaste månaderna

Internet Watch Foundation (IWF), en Storbritannien-baserad anti-barnporrorganisation, avslöjar en oroande trend av AI-genererat material för sexuella övergrepp mot barn (AI CSAM), eller de så kallade porr AI deepfakes.

Smakämnen Juli 2024-rapport, publicerad i måndags, säger att sådant innehåll produceras i "en skrämmande takt". Mellan mars och april 2024 upptäckte forskare nio nya djupfalska videor om övergrepp på barn på ett mörkt webbforum, som inte fanns med i en tidigare daterad undersökning oktober 2023.

Förutom, studien hittade också över 12,000 3,500 nya AI-genererade bilder publicerade under en enda månad, med mer än XNUMX XNUMX ansågs kriminella och skildrade allvarliga övergrepp. Denna teknik, särskilt LoRA-modeller, gör det möjligt för brottslingar att skapa mycket realistiska bilder av både falska och verkliga offer.

"Tyvärr halkar den brittiska lagstiftningen efter framstegen inom AI-teknik. Även om AI CSAM är olagligt och IWF kan vidta åtgärder för att få det borttaget, är detsamma inte sant för AI-modeller som är finjusterade på bilder av sexuella övergrepp mot barn. Verktyget för att skapa AI-bilder av Olivia är fortfarande lagligt i Storbritannien”, står det i rapporten.

Den tidigare rapporten från oktober 2023 fann över 20,200 11,100 AI-genererade bilder av sexuella övergrepp mot barn som lades upp på ett mörkt webbforum på en månad. Av dessa bedömdes över 2,500 400, varav mer än XNUMX XNUMX klassificerades som kriminella pseudofotografier och ungefär XNUMX som förbjudna bilder.

Storbritanniens IFW har varit verksamt sedan nästan tre decennier tillbaka. I september 2022 lanserades IFW & Pornhub chatboten "reThink". för att avskräcka användare som söker efter material för sexuella övergrepp mot barn, engagera över 173,000 XNUMX användare under den första månaden och hänvisa dem till supporttjänster.

Själva rapporten kom mitt i Apples senaste kontrovers om underrapporterar CSAM på sina plattformar, jämfört med andra teknikjättar som Meta och Google.

Storbritanniens National Society for the Prevention of Cruelty to Children (NSPCC) säger att Apples iCloud, iMessage och Facetime var inblandade i fler fall av CSAM i England och Wales än vad teknikjätten har rapporterat globalt. Apple hade planer på att införliva en AI för att söka efter sådant innehåll på iCloud, men på grund av integritetsproblem med datainsamling har planen övergetts.