Microsoft paljastaa, että tekoälyn luomia uutisankkureita käytetään Taiwanissa disinformaatiopyrkimyksissä
2 min. lukea
Julkaistu
Jaa tämä artikkeli
Paranna tätä ohjetta
Lue ilmoitussivumme saadaksesi selville, kuinka voit auttaa MSPoweruseria ylläpitämään toimitustiimiä Lue lisää
Keskeiset huomautukset
- Microsoft tunnistaa tekoälyn luomia uutisankkureita, joita käytetään disinformaation levittämiseen erityisesti Taiwanin vaaleissa.
- Kiinalaiset näyttelijät ovat eturintamassa luoden valeuutisia videoita näillä tekoälyankkureilla.
- Nykyinen tekoälytekniikka ei ole vakuuttava, mutta todellisen uutismateriaalin tuleva manipulointi on mahdollinen huolenaihe.
Microsoft on paljastanut tekoälyn luomien uutisankkureiden ilmaantumisen, joita käytetään disinformaation levittämiseen. Tiedot perustuvat viimeaikaisiin ponnisteluihin, jotka kohdistuvat Taiwanin vaaleihin.
Tiedot paljastavat, että Kiinan valtion tukemat ryhmät ovat pääosassa tässä uutisessa. Näiden ryhmien sanotaan luovan valeuutisvideoita, joissa on tekoälyn luomia ankkureita, jotka välittävät puolueellista tai harhaanjohtavaa tietoa poliittisista hahmoista.
Yksi mainittu esimerkki on tekoälyn luoma ankkuri, joka kritisoi Taiwanin presidenttiä perheeseen liittyvillä perusteettomilla väitteillä.
Yhdessä Microsoftin mainitsemassa pätkässä tekoälyn luoma ankkuri esitti perusteettomia väitteitä lopulta menestyneen suvereniteetin kannattajaehdokkaan Lai Ching-ten yksityiselämästä väittäen, että hän oli synnyttänyt lapsia avioliiton ulkopuolella.
Microsoft linkittää nämä pyrkimykset myös videonmuokkaustyökaluun, CapCutiin, jonka on kehittänyt TikTokin omistava kiinalainen ByteDance.
Microsoftin konsultoimat asiantuntijat puhuvat tekoälyn luomien ankkurien nykyisen sukupolven rajoituksista. Näissä videoissa on usein epäluonnollisia liikkeitä, epärealistisia ääniä, ja niistä puuttuu yksityiskohtia, kuten luonnollinen valaistus. Ihmettelen kuinka lähellä ne ovat viimeisimpään julkistettuun GPT-4o:han
Näistä rajoituksista huolimatta videot ovat johtaneet joitakin sosiaalisen median käyttäjiä harhaan. Hyvä uutinen on kuitenkin se, että raportilla ei ole merkittävää vaikutusta yleiseen mielipiteeseen, ainakaan toistaiseksi, kuten Taiwanin vaalien tulos osoittaa.
Tiedot viittaavat siihen, että todellisten uutisankkureiden olemassa olevan materiaalin manipuloinnissa on mahdollisesti suurempi uhka. Tämä voi sisältää videoiden kaatamista, jotta toimittajat näyttäisivät sanovan jotain väärää. Microsoft varoittaa myös vakuuttavamman tekoälyn tuottaman videotekniikan mahdollisesta tulevasta kehityksestä, mikä minun vaatimattoman mielipiteeni on väistämätön.
Toinen Microsoftiin liittyvä uutinen kiinalaisille käyttäjille: Kiinalaiset Windows 11 Insiders saavat PC Managerin.
Lisää: tätä.
