Vpliv AI in Deepfake na realnost in prihodnost

V sodelovanju z ExpressVPN

Nedavni napredek na področju umetne inteligence močno spreminja življenja sedanjih moških. Danes lahko vidimo, kako lahko umetna inteligenca brez truda izvaja kodiranje, pisanje esejev in – predvsem – ustvarjanje vsebine v nekaj sekundah. Te iste impresivne zmogljivosti pa so lastno prekletstvo AI. Glede na Ponudniki VPN, mnogi uporabljajo umetno inteligenco za ustvarjanje sintetičnih medijev za dezinformacije, globinske ponaredke pa se zdaj širijo kot požar po vsem svetu.

Strokovnjaki že desetletja eksperimentirajo z umetno inteligenco, vendar je Microsoftov nedavni velik zagon tehnologije spodbudil zanimanje industrije za več vlaganj v takšne stvaritve. Takoj po razkritju svojega Bing, ki ga poganja ChatGPT iskalnik, je Google vrnil udarec z uporabo Bard. Za razliko od svojega konkurenta pa Google še vedno izvaja strogo omejitev za testni dostop Bard, pri čemer strokovnjaki ugibajo, da je to posledica strahu podjetja pred tem, kaj lahko umetna inteligenca naredi v napačnih rokah.

To velja za druge tehnološke izdelke AI v razvoju. Na primer, Microsoftov jezikovni model VALL-E, ki trenutno ni javno dostopen, lahko posnema človekov glas in čustva, da sintetizira prilagojene govore. Kot akustični poziv potrebuje samo trisekundni posnetek, vendar lahko z glasom izvirnega govorca ustvari drugačno sporočilo.

Čeprav splošna javnost še vedno nima dostopa do zgoraj omenjenih stvaritev, že imajo primerke, ki jih ponujajo mala tehnološka podjetja. To je omogočilo ne le navadnim uporabnikom, ampak tudi zlonamernim akterjem, da uporabljajo orodja na kakršen koli način. S tem ni več presenetljivo, da se v zadnjem času pojavljajo različna poročila o ljudeh, ki so bili preslepljeni in prevarani s pomočjo umetne inteligence.

Ta poročila so posebej poudarila uporabo glasov, ki jih ustvari umetna inteligenca in posnemajo svoje žrtve. V zgodbi, ki jo je delil z Poslovni Insider ta mesec naj bi neko mamo poklical nekdo, ki je trdil, da je ugrabitelj in zahteval 50,000 dolarjev odkupnine za njeno 15-letno hčer. Ko je mati opisala prejeti klic, je rekla, da je bil to "100%" glas njene hčerke.

»To je bil popolnoma njen glas. To je bil njen pregib. Tako bi jokala. Niti za sekundo nisem podvomila, da je to ona,« je povedala mati, ki je kasneje ugotovila, da je bil klic prevara in da je bila njena hči v resnici z možem.

Isti incident z glasom z umetno inteligenco je doživel par iz Kanade, ki je žal izgubil 21,000 dolarjev zaradi prevara po telefonu. Po navedbah Washington Post, se je prevarant predstavljal kot odvetnik in sin para z uporabo glasu, ki ga ustvari umetna inteligenca, in dejal, da bo denar porabljen za pravne stroške, potem ko je trdil, da je sin v prometni nesreči ubil diplomata.

Poleg glasov lahko tudi druge oblike generativnih medijev, ki jih proizvaja umetna inteligenca, pretentajo kogarkoli – na primer ponarejene slike in globoko ponarejeni videoposnetki. Čeprav trenutno ni poročil, ki bi pokazala, da jih prevaranti uporabljajo za pridobitev finančne koristi, je lahko njihov učinek zelo razširjen za širšo javnost. Pred kratkim je po spletu zaokrožilo nekaj slik znanih osebnosti, ustvarjenih z umetno inteligenco. Nekatere vključujejo fotografije, ki prikazujejo papeža Frančiška v modni napihnjeni jakni, aretacijo nekdanjega predsednika Donalda Trumpa in Elona Muska, ki med zmenkom drži roko svoje tekmece in izvršne direktorice GM Mary Barra. Medtem se je marca 2022 pojavil globoko ponarejen videoposnetek ukrajinskega predsednika Volodimirja Zelenskega, ki ukrajinske državljane poziva, naj se predajo Rusiji.

Čeprav so bili materiali hitro prepoznani kot ponarejeni, je njihova prisotnost nedvomno preslepila javnost in pri mnogih povzročila začasno zmedo. Tudi model in avtor Chrissy Teigen postal žrtev slik papeža. Kljub temu bi lahko bil učinek takšnih sintetičnih medijev resnejši, saj se umetna inteligenca še naprej razvija, zlasti v teh časih, ko več tehnoloških podjetij porabi milijarde dolarjev za oblikovanje popolne stvaritve umetne inteligence. Ko pride ta čas, bi lahko umetno inteligenco izkoristili za zasukanje resničnosti, ki jo vsi poznajo, kar ni nemogoče. Še več, lahko bi ga celo uporabili za nadzor in vplivanje na javnost, kar bi povzročilo različna politična, družbena in moralna vprašanja po vsem svetu.

To je razvidno iz videoposnetka deepfake med vmesnimi volitvami leta 2018, ki prikazuje, kako Barack Obama obrekuje Donalda Trumpa. Vsebina je bila prvotno namenjena opozarjanju spletnega sveta na nevarnosti lažnih novic na spletu, vendar se je ponovno pojavila negativno. To je povzročilo bes med več Trumpovimi podporniki in nenamerno škodilo podobi posameznikov, uporabljenih v gradivu.

Zdaj pa si predstavljajte učinek takih generativnih medijev, če bi bili posebej zasnovani za to vplivati ​​in manipulirati z mnenjem in spodbujati propagando v javnosti. Rezultati so lahko drastični. To bi lahko veljalo zlasti za države, kjer medije in informacije cenzurirajo restriktivne vlade, kot so Belorusija, Kitajska, Egipt, Rusija, Iran, Severna Koreja, Turkmenistan, ZAE, Uganda, Irak, Turčija, Oman in druge pretežno islamske države. . Nekateri se zatečejo k uporabi VPN-jev za dostop do geografsko zaklenjene vsebine, spletnih mest in storitev, da ostanejo na tekočem. Vendar pa dostop do VPN na teh mestih ni povsem mogoč, saj imajo izogibanje internetni cenzuri in celo blokirajo spletna mesta, povezana s storitvami VPN. S tem si lahko predstavljate prihodnost takšnih območij z omejenim dostopom do mednarodnih novic in njihovo vlado, ki ima moč dovoliti, katere spletne vsebine. Nato dodajte možnost bolj brezhibne umetne inteligence za ustvarjanje vsebine v prihodnosti in javnost bi morala težje razločiti, kaj je res in kaj ne.

Industrijske skupine in tehnološka podjetja z umetno inteligenco so že na poti k oblikovanju politik, ki bodo usmerjale uporabo orodij za umetno inteligenco. Partnerstvo za umetno inteligenco na primer zagotavlja priporočila za institucije in posameznike, ki gradijo sintetična medijska orodja ali preprosto za tiste, ki distribuirajo takšna gradiva. Vendar tukaj niso potrebna le zasebna podjetja in neprofitne organizacije. Zakonodajalci morajo oblikovati tudi konkreten nabor pravil, ki jih bodo graditelji AI in končni uporabniki morali upoštevati. Ne glede na to, ali bodo ti prihodnji zakoni dovolj učinkoviti, da bodo izkoristili moč umetne inteligence in ljudem preprečili, da bi jo izkoriščali? To bi morali kmalu videti.