Tekoälyn väärinkäyttötilastot: yli 50 huolestuttavaa tilastoa ja faktaa
19 min. lukea
Päivitetty
Jaa tämä artikkeli
Paranna tätä ohjetta
Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää
Nämä silmiä avaavat tekoälyn väärinkäyttötilastot osoittavat, kuinka kaikki tekoälysovellukset eivät ole myönteisiä.
Tekoäly on nykyään keskeinen osa jokapäiväistä elämäämme. Lääketieteellisestä tutkimuksesta opiskelijoiden oppimistyökaluihin se virtaviivaistaa jo toimialoja kaikkialla. Katsotaanpa joitain sen kaatumisia.
Järkyttävimmät tekoälyn väärinkäyttötilastot
Olipa kyseessä huijaaminen, tekijänoikeuksien loukkaaminen, politiikkaan sekaantuminen tai pahimman tyyppiset väärennökset – tekoälyn väärinkäytön laajuus ja laajuus järkyttää sinut:
- Yksi kymmenestä opiskelijatehtävästä sisälsi tekoälyn luomaa sisältöä vuonna 1.
- 84 % työntekijöistä on saattanut paljastaa yrityksen tiedot käyttämällä tekoälyä.
- 90 % taiteilijoista uskoo, että tekoälystä puuttuu tekijänoikeuslaki.
- 78 % ihmisistä avaa tekoälyn kirjoittamia phishing-sähköposteja.
- Tietojenkalasteluviestien määrä on lisääntynyt 1,256 XNUMX % ChatGPT:n jälkeen käynnistettiin.
- 75 % pelkää, että syväväärennökset voivat vaikuttaa vaaleihin.
- NSFW-deepfake-haut ovat lisääntyneet 5,800 2019 % vuodesta XNUMX.
- 4 miljoonaa ihmistä kuukaudessa käyttää Deepfake Nudify -sovelluksia.
Opiskelijoiden tekoälytilastojen väärinkäyttö
Tekoäly koulutuksessa on monia laillisia sovelluksia, mutta olisi typerää ajatella, että opiskelijat eivät käyttäisi sitä tehdäkseen työtä heidän puolestaan.
1. Yksi kymmenestä opiskelijatehtävästä sisälsi tekoälyn luomaa sisältöä vuonna 1.
(Lähde: Turnitin)
Sen vuoden aikana, kun koulutukseen keskittynyt Turnitinin plagiointitarkistus julkaisi tekoälytunnistimensa, noin 1 10 korkeakoulutehtävästä sisälsi tekoälyn tuottama sisältö työkaluja, kuten ChatGPT.
Lisäksi 200 miljoonasta analysoidusta paperista yli 6 miljoonaa oli vähintään 80 prosenttia tekoälyn tuottamia.
2. Lähes 50 % kyselyyn vastanneista opiskelijoista myönsi käyttävänsä tekoälyä jossain muodossa opinnoissaan.
(Lähde: Tyton Partners)
Yhdessä vuoden 2023 paperissa havaittiin, että lähes puolet opiskelijoista käytti tekoälyä ja 12 % päivittäin.
Se on sitäkin huolestuttavampaa 75 % sanoo jatkavansa tekoälyn käyttöä vaikka toimielimet kieltäisivät sen.
3. Opiskelijat ja opettajat ovat jakautuneet 50/50 tekoälyn eduista ja haitoista.
(Lähde: Tyton Partners)
Samassa tutkimuksessa havaittiin, että noin puolet opiskelijoista ja tiedekunnista koki tekoälyllä olevan positiivinen tai negatiivinen vaikutus koulutukseen kevään aikana. Lopullinen jako eduista ja haitoista.
Mielenkiintoista, että syksyyn mennessä 61 % tiedekunnasta kannatti nyt tekoälyn integrointia, kun taas 39 % piti sitä edelleen negatiivisena. Tämä osoittaa asteittaisen mielipiteenmuutoksen.
4. 68 % yläasteen ja lukion opettajista on käyttänyt tekoälyn tunnistustyökaluja.
(Lähde: Center for Democracy & Technology)
Vuoden 2024 julkaisussa suurin osa koulutason opettajista sanoi käyttäneensä tekoälyn tunnistusta, mikä on kasvua edellisvuodesta.
Lisäksi, lähes kaksi kolmasosaa on ilmoittanut opiskelijoiden kohtaavan seurauksia väitetystä käytöstä generatiivinen tekoäly tehtävissään. Lukuvuoden 48-2022 luku on 2023 prosenttia enemmän.
Vaikuttaa siltä, että tekoäly on nyt täysin sulautettu ylä-, lukio- ja korkeakouluopetukseen.
Tekoälyn väärinkäyttötilastot työssä
AI kasvaa kaikilla toimialoilla. Opiskelijat eivät ole ainoita, jotka leikkaavat kulmia. Tekoälyä pelkäävien tai sitä riskialttiilla tavoilla käyttävien työntekijöiden määrä on mielenkiintoinen.
5. Yli puolet työntekijöistä käyttää tekoälyä viikoittain.
(Lähde: Oliver Wyman Forum)
Perustuu tutkimukseen, johon osallistui yli 15,000 16 työntekijää XNUMX maassa, yli 50 % sanoo käyttävänsä tekoälyä viikoittain töihin.
6. 84 % työntekijöistä on voinut paljastaa yritystietoja tekoälyn avulla.
(Lähde: Oliver Wyman Forum)
Saman tutkimuksen mukaan 84 % tekoälyä käyttävistä myöntää tämän olisi voinut paljastaa yrityksensä luottamukselliset tiedot. Tämä aiheuttaa uusia riskejä tietoturvan kannalta.
7. Huolimatta huolista 41 % kyselyyn vastanneista työntekijöistä käyttäisi tekoälyä rahoituksessa.
(Lähde: Oliver Wyman Forum, CNN World)
Riski ulottuu myös talouteen. Vaikka 61 % kyselyyn vastanneista työntekijöistä on huolissaan tekoälytulosten luotettavuudesta, 40 % heistä käyttäisi sitä edelleen "suurien taloudellisten päätösten" tekemiseen.
30% jakaisi jopa enemmän henkilökohtaisia tietoja, jos se tarkoittaisi parempia tuloksia.
Ehkä ei niin viisas, kun yksi finanssityöntekijä Hongkongissa oli huijattiin siirtämään 25 miljoonaa dollaria. Kyberrikolliset valehtelivat yrityksen talousjohtajaa videoneuvottelussa.
8. 37 % työntekijöistä on nähnyt epätarkkoja tekoälytuloksia.
(Lähde: Oliver Wyman Forum)
Huoli luotettavuudesta on perusteltua, melkein 40 % yhdysvaltalaisista työntekijöistä sanoo nähneensä "tekoälyn tekemiä virheitä, kun sitä on käytetty työssä". Ehkä suurempi huolenaihe on se, kuinka moni työntekijä on toiminut väärien tietojen perusteella.
Mielenkiintoista on, että suurin prosenttiosuus työntekijöistä, jotka tunnistavat epätarkkoja tekoälytietoja 55% Intiassa. Tätä seuraavat 54 % Singaporessa ja 53 % Kiinassa.
Asteikon toisessa päässä, 31 % saksalaisista työntekijöistä on nähnyt virheitä.
9. 69 % työntekijöistä pelkää henkilötietojen väärinkäyttöä.
(Lähde: Forrester Consulting kautta Workday)
Työnantajat eivät kohtaa työntekijöiden mahdollisia riskejä. Workdayn tilaaman vuoden 2023 tutkimuksen mukaan kaksi kolmasosaa työntekijöistä on huolissaan tekoälyn käytöstä työpaikalla. voivat vaarantaa omat tietonsa.
10. 62 % amerikkalaisista pelkää tekoälyn käyttöä palkkaamispäätöksissä.
(Lähde: Ipos Consumer Tracker, ISE, Workable)
Ennen kuin työntekijät edes pääsevät työelämään, AI palkkaamispäätöksissä on kasvava huolenaihe.
Iposin mukaan 62% amerikkalaisista uskovat, että tekoälyä käytetään päätettäessä voittavista työnhakijoista.
ISE tukee tätä pelkoa, kuten se havaitsi 28 % työnantajista luottaa tekoälyyn rekrytointiprosessissa.
Lisäksi vuonna 3,211 tehdyssä 2023 XNUMX ammattilaisen kyselyssä päädyttiin vastaavaan lukuun 950 (29.5 %) myönsi käyttävänsä tekoälyä rekrytoinnissa.
11. Amerikkalaiset ovat eniten huolissaan tekoälystä lainvalvonnassa.
(Lähde: Ipos Consumer Tracker)
67 prosenttia kyselyyn vastanneista amerikkalaisista pelkää, että tekoälyä käytetään väärin poliisin ja lainvalvontaviranomaisten toimesta. Tätä seuraa pelko tekoälyn palkkaamisesta ja "liian vähän liittovaltion valvontaa tekoälyn soveltamisessa" (59 %).
Tekijänoikeuden tekoälyn väärinkäyttötilastot
Jos tekoäly voi luottaa vain olemassa olevaan tietoon, kuten taidetyyleihin tai videosisältöön, mihin se jättää alkuperäisen luojan ja tekijänoikeuksien haltijan?
12. 90 % taiteilijoista uskoo, että tekoälystä puuttuu tekijänoikeuslaki.
(Lähde: Kirja ja taiteilija)
Vuonna 2023 tehdyssä kyselyssä Yhdeksän kymmenestä taiteilijasta sanoo, että tekijänoikeuslait ovat vanhentuneet kun on kyse tekoälystä.
Lisäksi, 74.3 % katsoo, että Internet-sisällön kaapiminen tekoälyoppimista varten on epäeettistä.
Kun 32.5 prosenttia heidän vuosituloistaan tulee taiteen myynnistä ja palveluista, 54.6 % on huolissaan siitä, että tekoäly vaikuttaa heidän tuloihinsa.
13. Meneillään oleva ryhmäkannejuttu väittää tekijänoikeusloukkauksen taiteilijoita vastaan.
(Lähde: Data Privacy and Security Insider)
Kuvataiteilijat Sarah Andersen, Kelly McKernan ja Karla Ortiz käyvät jatkuvaa oikeudellista taistelua Keskimatka, vakaa diffuusio, Mm.
Tuomari on päättänyt, että tekoälymallit toimivat uskottavasti tavalla, joka loukkaa tekijänoikeuksilla suojattua materiaalia, ja kantajien kanne voidaan edetä.
14. Getty Images väittää, että Stability AI kopioi laittomasti 12 miljoonaa kuvaa.
(Lähde: Reuters)
Yksittäisistä taiteilijoista valokuvajättiläisiin Getty Images on myös Stable Diffusionin perässä.
Vuonna 2023 valokuvantarjoaja nosti kanteen väittäen Stability AI kopioi 12 miljoonaa sen valokuvaa kehittääkseen generatiivista tekoälymalliaan.
Getty lisensoi valokuvansa maksua vastaan, jota yli miljardin dollarin AI-jätti ei koskaan maksanut.
Tällaisten tapausten lopputulos voi aiheuttaa valtavia muutoksia tapaan AI-taide ja valokuvageneraattorit toimivat.
15. On ehdotettu 10-vaiheista tekijänoikeuksien parhaita käytäntöjä.
(Lähde: Houston Law Review)
Matthew Sag on ehdottanut joukon tekoälyn tekijänoikeusrikkomusten ratkaisemiseksi 10 parasta käytäntöä.
Näihin kuuluvat ohjelmointimallit abstraktien oppimiseen tiettyjen yksityiskohtien ja yksityiskohtien sijaan suodattaa sisältöä, joka on liian samankaltainen olemassa olevien teosten kanssa. Lisäksi olisi säilytettävä kirjaa koulutustiedoista, jotka sisältävät tekijänoikeudella suojattua materiaalia.
Huijaamista ja rikollista tekoälyn väärinkäyttöä koskevat tilastot
Huijarit ja rikolliset väärinkäyttävät tekoälyä yhä pelottavammilla tavoilla monnikalastuksesta lunnaisiin. Nämä tilastot ja tosiasiat kuvaavat jatkuvasti kasvavan rikollisen kehittymisen tulevaisuutta:
16. 25 % ihmisistä on kokenut tekoälyn äänikloonaushuijauksia.
(Lähde: McAfee)
Kyberrikolliset voivat käyttää tekoälyä ihmisten äänien kloonaamiseen ja käyttää niitä sitten puhelinhuijauksiin. Vuonna 7,000 tehdyssä 2023 XNUMX ihmisen kyselyssä joka neljäs sanoo kokeneensa äänihuijauksen omakohtaisesti tai tuntevansa muita, jotka omistaa.
Huolestuttavampaa on, että 70 % kyselyyn vastanneista sanoo, etteivät he ole varmoja, pystyvätkö erottamaan eron.
17. Tekoälypuheen kloonaushuijaukset varastavat 500–15,000 XNUMX dollaria.
(Lähde: McAfee)
77 prosenttia uhreista menetti rahaa ja onnistuneet tekoälyn äänikloonaushuijaukset eivät mene pienen muutoksen jälkeen.
Kyselyssä todetaan se 36 % kohteista menetti 500–3,000 XNUMX dollaria. Noin 7 % huijattiin 5,000 15,000–XNUMX XNUMX dollarista.
18. 61 % kyberturvallisuuden johtajista on huolissaan tekoälyn laatimista tietojenkalasteluviesteistä.
(Lähde: Egress)
Rikolliset eivät käytä väärin vain modernia ja monimutkaista äänen kloonausta. Perinteiset tietojenkalasteluviestit ovat myös kasvava huolenaihe.
Vuonna 2024, 61 % kyberturvallisuusjohtajista sanoo, että chatbottien käyttö tietojenkalastelussa pitää heidät hereillä öisin. Tämä saattaa johtua siitä, että tekoäly on tarkka ja nopea.
Lisäksi, 52 % uskoo, että tekoäly voisi olla hyödyllinen toimitusketjun kompromisseissa, ja 47 % pelkää, että se voi auttaa tilien haltuunotossa.
19. Tekoäly voi auttaa huijareita olemaan vakuuttavampia.
(Lähde: Mikä)
Olemme kaikki nähneet stereotyyppisen sähköpostihuijauksen, jossa varakas prinssi tarjoaa pienen omaisuuden, jos lähetät vain rahaa auttaaksesi heitä avaamaan suuremman siirron eston. Täynnä kanssa kielioppivirheitä ja epäjohdonmukaisuuksia, nämä huijaukset ovat nyt yleensä haudattu roskapostikansioon.
Kuitenkin, AI-chatbotit pystyvät puhdistamaan ei-englanninkieliset huijausviestit olla vakuuttavampi.
Huolimatta siitä, että se oli vastoin heidän ehtojaan, joka pystyi tuottamaan laillisen näköisiä viestejä esiintyä PayPalina ja toimituspalveluina ChatGPT:n ja Bardin avulla.
20. 78 % ihmisistä avaa tekoälyn kirjoittamia phishing-sähköposteja.
(Lähde: Sosafe)
Osoittaakseen entisestään tekoälyn tehokkuutta vakuuttavien huijausten tuottamisessa eräässä tutkimuksessa havaittiin, että vastaanottajat avasivat lähes 80 % tekoälyn kirjoittamista tietojenkalasteluviesteistä.
Vaikka tutkimuksessa itse asiassa löydettiin samanlaisia tuloksia ihmisten kirjoittamista huijauksista, vuorovaikutusprosentti oli joskus korkeampi tekoälyn luomien sähköpostien kohdalla.
Lähes kaksi kolmasosaa henkilöistä huijattiin paljastamaan henkilökohtaisia tietoja verkkolomakkeilla haitallisten linkkien napsautuksen jälkeen.
21. Tietojenkalasteluviestien luominen on 40 % nopeampaa tekoälyn avulla.
(Lähde: Sosafe)
Tutkimukset viittaavat myös siihen, että sen lisäksi, että huijaukset näyttävät vakuuttavammilta, tekoäly voi tuottaa niitä nopeammin.
Tietojenkalasteluviestit ovat 40 % nopeampia tekoälyn avulla, mikä tarkoittaa numeropelissä kyberrikolliset menestyvät paremmin ja voivat laajentaa toimintaansa.
22. Tietojenkalasteluviestit ovat lisääntyneet 1,256 XNUMX % ChatGPT:n julkaisun jälkeen.
(Lähde: SlashNext)
Vaikka korrelaatio ei välttämättä tarkoita syy-yhteyttä, tekoäly ja tietojenkalastelu kulkevat käsi kädessä. ChatGPT:n julkaisun jälkeen on tapahtunut hämmästyttävää 1,265 XNUMX % lisäys lähetettyjen tietojenkalasteluviestien määrässä.
23. Kyberrikolliset käyttävät omia tekoälytyökalujaan, kuten WormGPT ja FraudGPT.
(Lähde: SlashNext – WormGPT, KrebOnSecurity)
Julkisilla tekoälytyökaluilla, kuten ChatGPT:llä, on paikkansa tietoverkkorikollisuuden maailman. Rajoitusten kiertämiseksi rikolliset ovat kuitenkin kehittäneet omia työkalujaan, kuten WormGPT ja FraudGPT.
Todisteet osoittavat WormGPT on sekaantunut yrityssähköpostin kompromisseihin (BEC:t). Se voi myös kirjoittaa haitallista koodia haittaohjelmat.
WormGPT myy pääsyn alustaansa kanavan kautta salattu Telegram-viestisovellus.
24. Yli 200 tekoälyn hakkerointipalvelua on saatavilla Dark Webissä.
(Lähde: Indiana University WSJ:n kautta)
Monia muita haitallisia suuria kielimalleja olemassa. Indianan yliopiston tutkimus löysi yli 200 tällaista palvelua myytävänä ja ilmaiseksi pimeässä verkossa.
Ensimmäinen laatuaan ilmestyi vain kuukausia sen jälkeen, kun ChatGPT aloitti vuonna 2022.
Yksi yleinen hakkerointi on nimeltään nopea injektio, joka ohittaa suosittujen AI-chatbottien rajoitukset.
25. Tekoäly on havainnut tuhansia haitallisia tekoälysähköposteja.
(Lähde: WSJ)
Joissakin ironisissa hyvissä uutisissa, yritykset, kuten Abnormal Security, käyttävät tekoälyä havaitakseen, mitkä haitalliset sähköpostit ovat tekoälyn luomia. Se väittää havaitseensa tuhansia vuodesta 2023 lähtien esti kaksi kertaa enemmän henkilökohtaisia sähköpostihyökkäyksiä samalla ajanjaksolla.
26. 39 % intialaisista, jotka löysivät nettitreffit, olivat huijareita.
(Lähde: McAfee – Intia)
Kyberrikolliset käyttävät romantiikkaa yhtenä lähteenä löytääkseen uhreja, ja viimeaikaiset Intiassa tehdyt tutkimukset paljastivat lähes 40 % online-treffikeskusteluista oli huijareita.
Tavallisista valeprofiilikuvista tekoälyn luomiin valokuviin ja viesteihin, tutkimuksessa havaittiin, että rakkaushuijarit ovat täynnä treffi- ja sosiaalisen median sovelluksissa.
27. 77 % kyselyyn vastanneista intialaisista uskoo olleensa vuorovaikutuksessa tekoälyn luomien profiilien kanssa.
(Lähde: McAfee – Intia)
- 7,000 XNUMX ihmisen tutkimus paljasti, että 77% intialaisista on törmännyt väärennöksiin AI-treffit profiilit ja valokuvat.
Lisäksi niistä, jotka reagoivat mahdollisiin rakkausintresseihin, 26 % havaitsi niiden olevan jonkinlainen AI-botti.
Tutkimukset viittaavat kuitenkin kulttuuriin, joka saattaa myös omaksua tekoälyllä kalastuksen.
28. Yli 80 % intialaisista uskoo, että tekoälyn tuottama sisältö saa parempia vastauksia.
(Lähde: McAfee – Intia, Oliver Wyman Forum)
Samassa tutkimuksessa havaittiin, että monet intialaiset käyttävät tekoälyä lisätäkseen haluttavuutensa online-treffimaailmassa, mutta eivät välttämättä huijaamiseen.
65 % intialaisista on käyttänyt generatiivista tekoälyä luodakseen tai täydentääkseen kuvia ja viestejä treffisovelluksessa.
Ja se toimii. 81 % sanoo, että tekoälyn luomat viestit herättävät enemmän sitoutumista kuin heidän omat luonnolliset viestinsä.
Itse asiassa, 56 % oli aikonut käyttää chatbotteja luodakseen rakastajilleen parempia viestejä ystävänpäivänä vuonna 2024.
Todellakin, muut tutkimukset viittaavat 28 % ihmisistä uskoo, että tekoäly voi vangita todellisten ihmisten tunteiden syvyyden.
Intiaanit panevat kuitenkin merkille: 60% sanoi, jos he saivat an AI viesti ystävänpäivän rakastajalta, he tunsivat itsensä loukkaantuneiksi ja loukkaantuneiksi.
29. Yksi "Tinder Swindler" huijasi noin 10 miljoonaa dollaria naisuhreiltaan.
(Lähde: Fortune)
Yksi korkean profiilin deittailuhuijareista oli Shimon Hayut. Alinimellä Simon Leviev hän huijasi naisilta 10 miljoonaa dollaria käyttämällä sovelluksia, toistettua mediaa ja muita temppuja.
Silti suositussa Netflix-dokumentissa Tinder Swindlerin esittämisen jälkeen pöydät ovat kääntyneet. Hän oli huijattiin 7,000 XNUMX dollaria sosiaalisessa mediassa vuonna 2022.
Raporttien mukaan joku esiintyi Instagramissa parina, jolla on siteitä Metaan. He onnistuivat saamaan hänet siirtämään rahaa vanhan hyvän PayPalin kautta.
AI Fake News ja Deepfakes
Valeuutiset ja väärät tiedot verkossa eivät ole mitään uutta. Tekoälyn ansiosta sen levittäminen on kuitenkin entistä helpompaa, ja todellisen, väärän ja syvänväärennössisällön erottaminen toisistaan on vaikeaa.
30. Deepfake lisääntyi 10 kertaa vuonna 2023.
(Lähde: Sumsub)
Tekoälytekniikan tunkeutuessa valtavirtaan, niin myös syväväärennösten nousu. Tietojen mukaan havaittujen syväväärennösten määrä nousi 10 kertaa vuonna 2023 ja kasvaa vain tänä vuonna.
Toimialoihin perustuen, kryptovaluuttaan liittyvät syväväärennökset muodostivat 88 % kaikista havainnoista.
Alueiden perusteella Pohjois-Amerikassa on koettu a Deepfake-petosten määrä kasvoi 1,740 XNUMX %.
31. Tekoälyn luomat valeuutiset lisääntyivät 1,000 XNUMX % kuukaudessa.
(Lähde: NewsGuard Washington Postin kautta)
Faktantarkistajan NewsGuardin mukaan vain toukokuussa 2023 valeuutisten tyylisten artikkelien määrä kasvoi 1,000 XNUMX %.
Tutkimus totesi myös sen Tekoälyllä toimivien väärää tietoa sisältävien verkkosivustojen määrä nousi pilviin 49:stä 600:aan samaan aikaan kriteeriensä perusteella.
Olipa kyseessä taloudelliset tai poliittiset syyt, tekoäly on nyt valheellisten tarinoiden eturintamassa, ja niitä jaetaan laajasti sosiaalisessa mediassa.
32. Kanada on eniten huolissaan tekoälyn valeuutisista.
(Lähde: Lähde: Ipos Global Advisor)
Tutkimuksessa, johon osallistui 21,816 29 kansalaista XNUMX maassa, 65 % kanadalaisista oli huolissaan siitä, että tekoäly pahentaisi valeuutisia.
Amerikkalaiset olivat hieman vähemmän huolissaan, 56 prosenttia. Yhtenä syynä mainitaan paikallisten uutistoimistojen määrän väheneminen Kanadassa, jolloin ihmiset kääntyvät vähemmän tunnettujen tietolähteiden puoleen.
33. 74 % uskoo, että tekoäly helpottaa realististen valeuutisten ja -kuvien luomista.
(Lähde: Lähde: Ipos Global Advisor)
Kaikista kussakin maassa kyselyyn vastanneista kansalaisista 74 % katsoi, että tekoäly vaikeuttaa todellisten uutisten ja valeuutisten ja kuvien erottamista todellisista.
89 % indonesialaisista tunsi itsensä vahvimmaksi Saksalaiset (64 %) olivat vähiten huolissaan.
34. 56 % ihmisistä ei tiedä, onko kuva aito vai tekoälyn luoma.
(Lähde: Oliver Wyman Forum)
Tutkimusten mukaan yli puolet ihmisistä ei pysty erottamaan tekoälyn luomia kuvia ja oikeita.
35. Tekoälykuva oli Facebookin 20 katsotuimman postauksen joukossa vuoden 3 kolmannella neljänneksellä.
(Lähde: Misinfo Review)
Uskommepa niitä tai emme, tekoälykuvat ovat kaikkialla. Vuoden 2023 kolmannella neljänneksellä yksi Tekoälykuva keräsi 40 miljoonaa katselukertaa ja yli 1.9 miljoonaa sitoutumista. Tämä nosti sen kauden katsotuimpien viestien 20 parhaan joukkoon.
36. Keskimäärin 146,681 125 ihmistä seuraa XNUMX:tä tekoälykuvaa sisältävää Facebook-sivua.
(Lähde: Misinfo Review)
Seurasi keskimäärin 146 681 henkilöä 125 Facebook-sivua, jotka julkaisivat vähintään 50 tekoälyn luomaa kuvaa Q3, 2023 aikana.
Tämä ei ollut vain vaaratonta taidetta, sillä tutkijat luokittelivat monet roskapostittajiksi, huijareiksi ja kihlautumistiloihin.
Kaiken kaikkiaan kuvia katsottiin satoja miljoonia kertoja. Ja tämä on vain pieni osa Facebookin tällaisista sivuista.
37. 60 % kuluttajista on nähnyt syvän väärennöksen viimeisen vuoden aikana.
(Lähde: Jumio)
Yli 8,000 60 aikuista kuluttajaa käsitellyn tutkimuksen mukaan XNUMX % tapasi syväväärennössisältöä viimeisen vuoden aikana. Vaikka 22 % oli epävarma, vain 15 % sanoi, ettei ole koskaan nähnyt syvää väärennöstä.
Tietysti laadusta riippuen kukaan ei ehkä edes tiedä, onko se nähnyt.
38. 75 % pelkää, että syväväärennökset voivat vaikuttaa vaaleihin.
(Lähde: Jumio)
Yhdysvalloissa, 72 % vastaajista pelkäsi, että tekoälyn syväväärennökset voisivat vaikuttaa tuleviin vaaleihin.
Suurin huoli tulee Singaporesta ja Meksikosta (vastaavasti 83 prosenttia), kun taas Yhdistynyt kuningaskunta on vähemmän huolissaan vaaleihin puuttumisesta 60%.
Tästä huolimatta Yhdistyneen kuningaskunnan vastaajat kokivat vähiten kykenevänsä havaitsemaan poliitikkojen syvän väärennöksen (33%).
Singapore oli luotettavin 60%, mikä saattaa viitata siihen, että pelko korreloi yksilön tietoisuuden kanssa syväväärennöksistä.
39. Poliittiset syväväärennökset ovat yleisimpiä.
(Lähde: DeepMind)
Yleisin väärinkäyttö AI syväväärennöksiä on DeepMindin ja Googlen Jigsaw'n tutkimuksen mukaan poliittisella alalla.
Tarkemmin, 27% kaikista ilmoitetuista tapauksista vääristää yleisön käsitystä poliittisista realiteeteista.
- 3 suosituinta strategiaa ovat disinformaatiota, mielikuvan vaalimista ja kunnianloukkausta.
Muut kuin mielipidemanipulaatio, rahallistaminen ja voitto, sitten huijaus ja petos, olivat toinen ja Deepfakesin kolmanneksi yleisin tavoite.
40. Vain 38 % opiskelijoista on oppinut havaitsemaan tekoälyn sisällön.
(Lähde: Center for Democracy & Technology)
Koulutus on yksi tapa puuttua syväväärennösten vaikutuksiin, mutta koulut voivat epäonnistua. Vain 38 % Britannian koululaisista sanovat, että heille on opetettu tunnistamaan tekoälyn luomia kuvia, tekstiä ja videoita.
Samaan aikaan, 71 % opiskelijoista itse ilmaisi haluavansa ohjauksen ohjaajilta.
Aikuisille suunnattu, rikollinen ja sopimaton tekoälysisältö
Aikuisten teollisuus on aina ollut teknologian eturintamassa, ja tekoäly on vasta seuraava askel. Mutta mitä tapahtuu, kun käyttäjät maksavat sisällöstä, jonka he pitävät todellisena? Tai vielä pahempaa, ihmiset väärentävät muita ilman suostumusta?
41. Vuonna 143,000 ladattiin yli 2023 XNUMX NSFW-deepfake-videota.
(Lähde: Channel 4 News Guardianin kautta)
Julkkisten raakoja väärennettyjä kuvia aikuisten tähtien päälle on ollut olemassa vuosikymmeniä, mutta tekoäly on lisännyt niiden laatua ja suosiota sekä esitellyt videoita.
Tekoälyteknologian kehittyessä nopeasti vuosina 2022/2023, 143,733 1 uutta deepfake-videota ilmestyi verkkoon vuoden 3 2024–XNUMX..
42. NSFW:n syväväärennösten haut ovat lisääntyneet 5,800 2019 % vuodesta XNUMX.
(Lähde: SEMRush lakiuutisten kautta)
Esimerkki noususta aikuisten syväväärennöksiä löytyy tarkkailemalla hakukoneiden määrää. SEMRushia käyttävän analyysin mukaan termillä tässä yhteydessä on kasvoi 58 kertaa vuodesta 2019.
43. 4,000 julkkista on joutunut NSFW-deepfakesin uhriksi.
(Lähde: Channel 4 News Guardianin kautta)
Suosituimmilla aikuisille suunnatuilla syväväärennössivustoilla tehdyt tutkimukset havaitsivat noin 4,000 XNUMX julkkiksen samankaltaisuuden, jotka on luotu eksplisiittisiksi kuviksi ja videoiksi.
5 sivustoa sai yli 100 miljoonaa katselukertaa kolmen kuukauden aikana vuonna 2023.
Monet maat ehdottavat nyt lakeja tällaisen sisällön tekemiseksi laittomaksi.
44. 96 % syväväärennöskuvista on vain aikuisille tarkoitettua sisältöä.
(Lähde: Deeptrace)
Jo vuonna 2019 96 % netin syväväärennöksistä oli luonteeltaan aikuisia. 100% oli naisia (useimmiten julkkikset), jotka eivät olleet antaneet suostumusta.
Asteikon toisessa päässä, YouTubessa, jossa alastomuus on kielletty, Deepfakeista 61 % oli miehiä ja "kommenttipohjainen".
45. Taylor Swiftin syväfakes nousi viruksille vuonna 2024 yli 27 miljoonalla katselukerralla.
(Lähde: NBC News)
Tammikuussa 2024 Taylor Swiftistä tuli katsotuin syväfakesin aihe kun NSFW AI -kuvat ja videot leviävät verkossa, enimmäkseen Twitterissä/X:ssä.
19 tunnin kuluttua ensisijainen sisältö sai yli 260,000 XNUMX tykkäystä, ennen kuin alusta poisti materiaalin ja esti hänet tilapäisesti trendaavasta algoritmista.
Jotkut syväväärennökset kuvasivat myös Taylor Swiftin Trumpin kannattajana.
46. Jenna Ortega on Yhdistyneen kuningaskunnan toiseksi haetuin deepfake-julkkis.
(Lähde: SEMRush lakiuutisten kautta)
Ison-Britannian hakutietojen perusteella Taylor Swiftin takana näyttelijä Jenna Ortega on haetuin julkkis aikuisten syväväärennöksistä.
Hän on sidoksissa vaikuttaja Brooke Monkin ja näyttelijätoveri Millie Bobby Brownin kanssa.
- alkuun 20-luettelo on täynnä kaikkia laulaja Billie Elishistä streameri Pokimaneen, mutta kaikki ovat naisia.
47. Väärennetyt tekoälymallit tienaavat tuhansia kuukausittain OnlyFans-alustoilla.
(Lähde: Supercreator, Forbes)
OnlyFans ja vastaavat alustat tunnetaan aikuisille suunnatusta sisällöstään, mutta nyt tekoäly tarkoittaa, että oikeiden ihmisten ei tarvitse paljastaa kaikkea kameraa varten.
Persoonat kuten TheRRRealist ja Aitana López tienaa tuhansia kuukaudessa.
Edellinen on avoimesti väärennös, kun taas jälkimmäinen on ollut röyhkeä, avaa eettisiä kysymyksiä. Ja he eivät ole ainoita.
Jopa AI-vaikuttajat aikuisten tilan ulkopuolella, kuten Olivia C (kahden hengen joukkue) ansaitsee elantonsa suositusten ja mainosten avulla.
48. 1,500 tekoälymallia järjesti kauneuskilpailun.
(Lähde: Wired)
World AI Creator Awards (WAICA) julkaistiin tänä kesänä Fanvuen tekoälyvaikuttajaalustan kautta. Yksi näkökohta oli tekoälyn kauneuskilpailu, jossa Kenza Layli (tai hänen anonyymi luojansa) sai nettonsa. $10,000.
Kilpailuun osallistui yli 1,500 XNUMX tekoälyluomusta sekä taidokkaita taustatarinoita ja elämäntapoja. Marokon Kenza-persoonalla oli positiivinen viesti naisten voimaannuttamisesta ja monimuotoisuudesta, mutta syvän väärennösten väärinkäyttö ei aina ole niin "kohottavaa".
49. 6,000 XNUMX ihmistä protestoi opettajia ja oppilaita vastaan kohdistettua laajalle levinnettä fake-skandaalia vastaan.
(Lähde: BBC, The Guardian, Korea Times, CNN)
Etelä-Koreassa vuonna 2024 syntyi sarja koulujen syvänväärennösskandaaleja satoja tuhansia Telegram-käyttäjiä jakoivat naispuolisten opettajien ja opiskelijoiden NSFW-deepfake-teoksia.
Yli 60 uhria tunnistettiin, jonka tekoälykuvat olivat levinneet julkiseen sosiaaliseen mediaan.
Tämä johti 6,000 ihmistä protestoi Soulissa ja lopulta, 800 rikoksia kirjattiin, joista useat johtivat tuomioihin ja uusien lakien säätämiseen.
He sekaantuivat ympäriinsä 200 koulua, useimmat uhrit ja rikolliset ovat teini-ikäisiä.
50. 4 miljoonaa ihmistä kuukaudessa käyttää syväväärennössovelluksia naisiin ja lapsiin.
(Lähde: Wired – Nudify)
Julkkisten lisäksi syvän tekoälyn väärinkäytöllä on paljon synkempiä seurauksia.
Vuonna 2020 tehtiin tutkimus tekoälyllä toimivista sovelluksista, jotka "riisuvat" naisten ja lasten kuvia. 50 bottia Telegramissa vaihtelevan hienostuneisuuden omaavien syväväärennösten luomiseen. Kaksi yksin oli yli 400,000 käyttäjää.
51. Yli 20,000 XNUMX tekoälyn luomaa CSAM:a lähetettiin yhteen Dark Web -foorumiin kuukaudessa.
(Lähde: IWF)
Ehkä järkyttävin tekoälyn väärinkäyttötilastoista tulee vuoden 2023 raportista, jonka on laatinut suojeleva organisaatio. Sen tutkijat löysivät kymmeniä tuhansia tekoälyn tuottamia CSAM:ia, jotka on lähetetty vain yhteen foorumiin pimeässä verkossa kuukauden aikana.
Raportin mukaan tämä on lisääntynyt vuonna 2024, ja tällaiset tekoälykuvat ovat lisääntyneet myös selkeässä verkossa.
Tämän tyyppiset sarjakuvat, piirustukset, animaatiot ja pseudovalokuvat ovat laittomia Yhdistyneessä kuningaskunnassa.
Paketoida
Vaikka tekoäly on otettu käyttöön monilla aloilla, se on edelleen pitkälti villi länsi. Mitä yhteiskunta pitää sopivana, ja pitäisikö olla enemmän säännöksiä?
Tekoälyllä on monia koskettavia sovelluksia opiskelijoista tehtäviä luovista tai riskialtista käyttöä työpaikalla realistisiin huijauksiin ja laittomiin syväväärennöksiin.
Kuten näissä tekoälyn väärinkäyttötilastoissa selvitetään, saattaa olla aika miettiä uudelleen, mihin haluamme tämän tekniikan johtavan.
Oletko huolissasi sen väärinkäytöstä? Kerro minulle alla olevissa kommenteissa!
Lähteet:
1. Turnitin
3. Demokratian ja teknologian keskus
6. Forrester Consulting kautta Workday
8. ISE
9. Toimiva
11. Tietosuoja ja turvallisuus Insider
12. Reuters
14. McAfee
15. ulosmeno
16. Turvallinen
17. SlashSeuraava
19. KrebOnSecurity
20. indianan yliopisto WSJ:n kautta
21. WSJ
22. McAfee – Intia
23. rikkaus
24. Sumsub
25. NewsGuard Washington Postin kautta
28. Jumio
29. Deepmind
30. Demokratian ja teknologian keskus
31. Channel 4 -uutiset The Guardianin kautta
32. Deeptrace
33. NBC News
34. NBC News 2
35. SEMRush lakiuutisten kautta
36. Superluoja
37. Forbes
38. Wired
39. BBC
40. Guardian
41. BBC 2
42. Korea Times
43. CNN
45. IWF
Käyttäjäfoorumi
1-viestit