Britská organizace proti dětské pornografii hlásí v posledních měsících nárůst falešných pornografických AI

Internet Watch Foundation (IWF), britská organizace zaměřená na boj proti dětské pornografii, odhaluje znepokojivý trend materiálů pro sexuální zneužívání dětí generovaných umělou inteligencí (AI CSAM), neboli tzv. porno AI deepfakes.

Jedno Zpráva z července 2024, zveřejněný v pondělí, říká, že takový obsah je produkován „děsivou rychlostí“. Mezi březnem a dubnem 2024 objevili vědci na temném webovém fóru devět nových hluboce falešných videí o zneužívání dětí, která nebyla přítomna v dřívějším vyšetřování, které bylo datováno říjen 2023.

Kromě, studie také bylo nalezeno více než 12,000 3,500 nových obrázků vytvořených umělou inteligencí zveřejněných za jediný měsíc, přičemž více než XNUMX XNUMX bylo považováno za zločinné a zobrazující vážné zneužívání. Tato technologie, zejména modely LoRA, umožňuje pachatelům vytvářet vysoce realistické obrazy falešných i skutečných obětí.

„Bohužel britská legislativa zaostává za pokrokem v technologii AI. I když je AI CSAM nezákonná a IWF může podniknout kroky k jejímu odstranění, totéž neplatí pro modely AI vyladěné na obrázky sexuálního zneužívání dětí. Nástroj pro vytváření AI obrázků Olivie zůstává ve Spojeném království legální,“ píše se ve zprávě.

Předchozí zpráva z října 2023 nalezla více než 20,200 11,100 obrázků sexuálního zneužívání dětí vytvořených umělou inteligencí zveřejněných na temném webovém fóru za jeden měsíc. Z toho bylo více než 2,500 400 posouzeno, přičemž více než XNUMX XNUMX bylo klasifikováno jako kriminální pseudofotografie a zhruba XNUMX jako zakázané snímky.

Britská IFW funguje téměř před třemi desetiletími. V září 2022 byl spuštěn IFW & Pornhub chatbot „reThink“. s cílem odradit uživatele od vyhledávání materiálů týkajících se sexuálního zneužívání dětí, zapojit více než 173,000 XNUMX uživatelů během prvního měsíce a nasměrovat je na podpůrné služby.

Samotná zpráva přišla uprostřed nedávné kontroverze společnosti Apple nedostatečné nahlašování CSAM na jejich platformách ve srovnání s jinými technologickými giganty, jako jsou Meta a Google.

Britská National Society for the Prevention of Cruelty to Children (NSPCC) uvádí, že Apple iCloud, iMessage a Facetime byly zapojeny do více případů CSAM v Anglii a Walesu, než kolik tento technologický gigant celosvětově oznámil. Apple měl v plánu začlenit AI pro vyhledávání takového obsahu na iCloud, ale kvůli obavám o soukromí při shromažďování dat byl od plánu upuštěno.