Taylor Swift ei ole haettavissa X:stä (entinen Twitter) syvän fake-kuvaongelman vuoksi

Tammikuun lopulla X (entinen Twitter) kohtasi haasteen, kun seksuaalisesti avoimen syvän väärennöskuvat Taylor Swiftin kohdistaminen levisi Internetissä. Vastauksena X toteutti väliaikaisia ​​toimenpiteitä tilanteen hillitsemiseksi. Yritin etsiä Taylor Swiftiä X:llä sekä PC:llä että Android-sovelluksella, ja tulokset olivat samat, eli ei tuloksia ollenkaan.

Tekoälyllä luotuja kuvia, jotka kuvaavat Swiftiä epäyhtenäisissä skenaarioissa, ilmestyivät X:lle, mikä herätti välitöntä huolta fanien ja kannattajien keskuudessa. Näiden syväväärennösten levittäminen tuomittiin verkkohäirintäksi ja laulajan yksityisyyden loukkaamiseksi.

Deepfake-tapaus resonoi myös Microsoftin toimitusjohtajan Satya Nadellan kanssa. Hän korostettiin maailmanlaajuisen yhteistyön tärkeys verkkohaittojen torjunnassa, sanoen:

Ja siellä on paljon tehtävää ja paljon tehtävää. Mutta se koskee globaalia, yhteiskunnallista – tiedäthän, sanon minä, lähentymistä tiettyihin normeihin. Ja me voimme tehdä – varsinkin kun sinulla on laki- ja lainvalvonta- ja teknologia-alustoja, jotka voivat yhdistää – uskon, että voimme hallita paljon enemmän kuin uskomme – annamme itsellemme tunnustusta.

Verkosta löydetyt kuvat jäljitettiin Telegram-ryhmästä, joka jakoi väkivaltaisia ​​kuvia naisista. Ryhmä käytti ilmaista Microsoftin tekstistä kuvaksi -generaattoria nimeltä Designers luodakseen kuvat tyhjästä käyttämällä generatiivista tekoälyä.

Telegram-ryhmän käyttäjät jakoivat kehotteita ohittaa Microsoftin suojaukset. He havaitsivat, että käyttämällä "Taylor 'laulaja' Swift" "Taylor Swift" sijasta tuotti kuvia tehokkaammin. Vaikka ryhmän tarkkoja kuvia ei voitu kopioida, "Taylor 'laulaja' Swift" työskenteli Microsoftin suunnittelijatyökalun kanssa, kuten kerrottiin. tätä.

Swiftin syväfake-tapaus toimi jyrkänä muistutuksena Internetin pimeästä puolesta ja haasteista, joita kohtaamme digitaaliaikana.