Nekonsensuální deepfake porno infikuje vyhledávače jako Google, Bing: nové vyšetřování
Prostřednictvím tohoto vyhledávání bylo nalezeno nejméně 36 ženských celebrit.
2 min. číst
Publikované dne
Sdílejte tento článek
Vylepšete tuto příručku
Přečtěte si naši informační stránku a zjistěte, jak můžete pomoci MSPoweruser udržet redakční tým Dozvědět se více
Klíčové poznámky
- Nové vyšetřování médií odhaluje nekonsensuální hluboce falešné porno na Googlu a Bingu.
- Explicitní hluboce falešné obrázky jsou nejlepšími výsledky vyhledávání výrazů jako „deepfakes“ s ženskými celebritami.
- Navrhovaný zákon Deep Fakes Accountability Act nařizuje prozrazení ze strany tvůrců s trestními postihy.
Deepfakes jsou stále děsivě realistické, jako Midjourney v6 například. Nedávné vyšetřování médií však ukazuje, že oblíbené vyhledávače, včetně Google a Microsoft Bing, jsou hnízdem pro tyto nekonsensuální hluboce falešné porno snímky.
americká síť NBC News provedl nezávislý výzkum v této věci. Při hledání výrazů jako „deepfakes“ nebo „deepfake porno“ se jmény ženských celebrit v těchto vyhledávačích patřily mezi nejlepší výsledky explicitní deepfake obrázky.
Prostřednictvím tohoto vyhledávání bylo nalezeno nejméně 36 ženských celebrit (s vypnutými nástroji bezpečného vyhledávání). Když na Googlu hledáte „falešné akty“, vyhledávač zobrazí nevhodné odkazy na aplikace a články o zneužití středoškoláky, zatímco výsledky Bingu zahrnují nástroje a článek o škodě.
Microsoft se zatím nevyjádřil. Zatímco s pohonem GPT-4 Copilot/Bing Chat výslovně zakazuje použití AI k tomuto účelu, vyhledávání dále tvrdí, že nekonsensuální explicitní obsah zůstává snadno dostupný.
Ačkoli neexistuje žádný komplexní federální zákon, který by se konkrétně zabýval deepfake, v Kongresu bylo zavedeno několik právních předpisů a některé státy přijaly své vlastní zákony, které se zabývají specifickými aspekty vytváření a distribuce deepfake.
Pod v současné době zaveden Deep Fakes Accountability Act (H.R. 3230), deepfake tvůrci – pro jakýkoli druh použití – musí před distribucí prozradit použití AI. Trestní sankce pro porušovatele by se mohly vztahovat na ty, kteří nedodrží.
