Vplyv AI a Deepfakes na realitu a budúcnosť

V spolupráci s ExpressVPN

Nedávne pokroky v umelej inteligencii výrazne menia životy súčasných mužov. Dnes môžeme vidieť, ako AI dokáže bez námahy vykonávať kódovanie, písanie esejí a – predovšetkým – generovanie obsahu v priebehu niekoľkých sekúnd. Tieto isté pôsobivé schopnosti sú však prekliatím AI. Podľa Poskytovatelia VPN, mnohí používajú AI na generovanie syntetických médií na dezinformácie a deepfake sa teraz začínajú šíriť ako požiar po celom svete.

Odborníci experimentujú s AI už desaťročia, ale nedávny veľký tlak spoločnosti Microsoft na túto technológiu podnietil záujem tohto odvetvia viac investovať do takýchto výtvorov. Hneď po odhalení jeho Bing s podporou ChatGPT vyhľadávač, Google vrátil úder pomocou Bard. Na rozdiel od svojho konkurenta však Google stále implementuje prísny limit pre prístup k Bardovým testom, pričom odborníci špekulujú, že je to kvôli strachu spoločnosti z toho, čo dokáže AI v nesprávnych rukách.

To platí v prípade ďalších produktov AI vo vývoji. Napríklad jazykový model VALL-E od Microsoftu, ktorý je v súčasnosti verejne nedostupný, dokáže napodobňovať hlas a emócie človeka a syntetizovať tak personalizované prejavy. Vyžaduje iba trojsekundovú nahrávku ako akustickú výzvu, ale môže vytvoriť inú správu pomocou hlasu pôvodného reproduktora.

Hoci široká verejnosť stále nemá prístup k vyššie uvedeným výtvorom, už majú náprotivky, ktoré ponúkajú malé technologické firmy. To umožnilo nielen bežným používateľom, ale aj zlomyseľným aktérom používať nástroje ľubovoľným spôsobom. Preto už nie je prekvapujúce, že v poslednej dobe sa objavujú rôzne správy o ľuďoch, ktorí sú oklamaní a podvedení pomocou AI.

Tieto správy špecificky zdôrazňovali používanie hlasov generovaných AI napodobňujúcich ich obete. V príbehu zdieľanom s Business Insider tento mesiac údajne dostala jedna matka telefonát od niekoho, kto tvrdil, že je únosca a žiadal výkupné 50,000 15 dolárov za jej 100-ročnú dcéru. Pri opise prijatého hovoru matka povedala, že to bol „XNUMX %“ hlas jej dcéry.

“ Bol to celý jej hlas. Bolo to jej skloňovanie. Bolo to tak, ako by plakala. Ani na sekundu som nepochybovala, že je to ona,“ povedala matka, ktorá neskôr zistila, že hovor bol podvod a že jej dcéra bola v skutočnosti s jeho manželom.

Rovnaký incident s hlasom AI zažil pár z Kanady, ktorý bohužiaľ prišiel o 21,000 XNUMX dolárov od podvodníka na telefóne. Podľa Washington Post, podvodník sa vydával za právnika a syna páru pomocou hlasu vygenerovaného AI a povedal, že peniaze budú použité na právne poplatky po tom, čo tvrdil, že syn zabil diplomata pri autonehode.

Okrem hlasov môžu kohokoľvek oklamať aj iné formy generatívnych médií vyrábaných AI – napríklad falošné obrázky a hlboko falošné videá. Hoci neexistujú žiadne aktuálne správy o tom, že by ich podvodníci používali na finančný zisk, ich účinok môže byť rozšírený pre širokú verejnosť. Nedávno sa na webe objavilo niekoľko obrázkov známych osobností vygenerovaných AI. Niektoré zahŕňajú fotografie zobrazujúce pápeža Františka v módnej bunde, zatknutie bývalého prezidenta Donalda Trumpa a Elona Muska, ktorý počas rande drží za ruku jeho rivalku a generálnu riaditeľku GM Mary Barru. Medzitým sa v marci 2022 objavilo hlboko falošné video ukrajinského prezidenta Volodymyra Zelenského, ktoré žiada občanov Ukrajiny, aby sa vzdali Rusku.

Hoci materiály boli rýchlo identifikované ako falošné, ich prítomnosť nepopierateľne oklamala verejnosť a mnohým spôsobila dočasný zmätok. Dokonca aj modelka a autorka Chrissy Teigen sa stal obeťou pápežových obrázkov. Účinok takýchto syntetických médií by však mohol byť vážnejší, pretože AI sa neustále rozvíja, najmä v týchto časoch, keď viac technologických spoločností míňa miliardy dolárov na vytvorenie dokonalého výtvoru AI. Keď príde ten čas, AI by mohla byť zneužitá na prevrátenie reality, ktorú každý pozná, čo nie je nemožné. Ba čo viac, mohlo by sa dokonca použiť na kontrolu a ovplyvňovanie verejnosti, čo by viedlo k rôznym politickým, sociálnym a morálnym problémom na celom svete.

Vidno to na hlboko falošnom videu počas strednodobých volieb v roku 2018, na ktorom Barack Obama osočuje Donalda Trumpa. Obsah mal pôvodne varovať online svet pred nebezpečenstvom falošných správ na webe, ale nepriaznivo sa odrazil. To vyvolalo hnev medzi niekoľkými Trumpovými podporovateľmi a neúmyselne poškodilo imidž jednotlivcov použitých v materiáli.

Teraz si predstavte účinok takýchto generatívnych médií, ak by na to boli špeciálne navrhnuté ovplyvňovať a manipulovať mienku a propagovať propagandu medzi verejnosťou. Výsledky môžu byť drastické. To by mohlo platiť najmä v krajinách, kde sú médiá a informácie cenzurované reštriktívnymi vládami, ako je Bielorusko, Čína, Egypt, Rusko, Irán, Severná Kórea, Turkménsko, Spojené arabské emiráty, Uganda, Irak, Turecko, Omán a ďalšie prevažne islamské krajiny. . Niektorí sa uchyľujú k používaniu sietí VPN na prístup k geograficky uzamknutému obsahu, webovým stránkam a službám, aby zostali v obraze. Prístup k VPN však na týchto miestach nie je úplne možný, pretože obchádzajú internetovú cenzúru a dokonca blokujú webové stránky súvisiace so službami VPN. Vďaka tomu si viete predstaviť budúcnosť takých oblastí s obmedzeným prístupom k medzinárodným správam a ich vláda, ktorá má právomoc povoliť online obsah. Potom pridajte možnosť dokonalejšej umelej inteligencie generujúcej obsah v budúcnosti a verejnosť by mala ťažšie rozoznať, čo je pravda a čo nie.

Priemyselné skupiny a technologické spoločnosti AI sú už v pohybe, aby načrtli pravidlá, ktoré budú riadiť používanie nástrojov AI. Partnerstvo pre AI napríklad poskytuje odporúčania pre inštitúcie a jednotlivcov, ktorí vytvárajú syntetické mediálne nástroje, alebo jednoducho pre tých, ktorí distribuujú takéto materiály. Súkromné ​​spoločnosti a neziskové organizácie tu však nie sú jediné. Zákonodarcovia musia tiež vytvoriť konkrétny súbor pravidiel, ktoré budú musieť tvorcovia AI a koncoví používatelia dodržiavať. Budú však tieto budúce zákony dostatočne účinné na to, aby využili silu AI a zabránili ľuďom vo využívaní? To by sme mali čoskoro vidieť.