Hlboké falzifikáty generované AI tak podráždili Microsoft, že vyzýva Kongres, aby konal

Ako sa umelá inteligencia (AI) vyvíja závratnou rýchlosťou, tak aj deepfakes generované AI. Microsoft, ktorý je jedným z najväčších hráčov v pretekoch AI, teraz vyzýva Kongres, aby riešil takéto výzvy.

Brad Smith, podpredseda a prezident spoločnosti Microsoft, hovorí v nedávnom vydaní Microsoftu o probléme blog post že spoločnosť z Redmondu odporúča niekoľko kľúčových krokov. Jedným z nich je uzákoniť zákon o hlbokom podvode s cieľom vytvoriť špecifický právny rámec, ktorý bude stíhať podvody a podvody generované AI.

„Aj keď je nevyhnutné, aby technologický priemysel mal miesto pri stole, musí to robiť s pokorou a zaujatosťou voči činom. Microsoft víta ďalšie nápady od zainteresovaných strán z celého digitálneho ekosystému na riešenie poškodzovania syntetického obsahu,“ hovorí.

Nedávna legislatíva umožňuje obetiam nekonsenzuálnych explicitných falzifikátov žalovať ich tvorcov, ale Microsoft verí, že ďalšie opatrenia, ako napr. označovanie syntetického obsahu— podobný Meta „Made with AI“— a zlepšené bezpečnostné kontroly produktov umelej inteligencie sú nevyhnutné na ochranu verejnosti.

Začiatkom tohto roka by nový zákon senátorov Durbina, Grahama a Hawleyho umožnil obetiam sexuálne explicitných falzifikátov žalovať ich tvorcov a distribútorov. Klasifikuje tieto deepfakes ako „digitálne falzifikáty“ a stanovuje 10-ročnú premlčaciu dobu.

Nárast deepfakes generovaných AI je skutočne desivý, najmä tento rok, keďže je to takmer väčšina krajín uskutočnenie volieb. Zraniteľné skupiny obyvateľstva, ako sú seniori a deti, sú tiež niektorými z najnáchylnejších obetí: Internet Watch Foundation, britská organizácia proti pornografii detí, uviedla, nárast porno AI deepfakes v posledných mesiacoch.

Známy spevák Taylor Swift bol tiež začiatkom tohto roka obeťou deepfakes generovaných AI, konkrétnejšie na X (predtým Twitter). Platforma dočasne zakázala vyhľadávanie Taylor Swift po tom, čo sa objavili jej explicitné hlboko falošné obrázky. Tieto obrázky boli vytvorené pomocou nástroja Microsoft Designers a zdieľané v skupine Telegram.