Taylor Swift nije moguće pretraživati ​​na X-u (bivši Twitter) zbog eksplicitnog problema s deepfake slikom

Krajem siječnja X (bivši Twitter) suočio se s izazovom kada je seksualno eksplicitne deepfake slike ciljajući na Taylor Swift kružio je internetom. Kao odgovor, X je proveo privremene mjere za obuzdavanje situacije. Pokušao sam tražiti Taylor Swift na X-u, i na računalu i na Android aplikaciji, i rezultati su bili isti, tj. bez ikakvih rezultata.

Slike generirane umjetnom inteligencijom koje prikazuju Swift u scenarijima bez pristanka pojavile su se na X-u, što je odmah izazvalo zabrinutost obožavatelja i zagovornika. Tiraž ovih deepfakeova osuđen je kao internetsko uznemiravanje i kršenje privatnosti pjevačice.

Incident deepfakea odjeknuo je i kod Satye Nadelle, izvršnog direktora Microsofta. On Naglasio važnost globalne suradnje u rješavanju štete na internetu, govoreći:

I tu ima puno toga za napraviti i puno se radi. Ali radi se o globalnom, društvenom – znate, ja ću reći, približavanju određenih normi. A mi možemo učiniti – pogotovo kada imate zakon, policiju i tehnološke platforme koje se mogu spojiti – mislim da možemo upravljati puno više nego što mislimo – za što si dajemo priznanje.

Slike pronađene na internetu povezuju se s Telegram grupom koja je dijelila uvredljive slike žena. Grupa je koristila besplatni Microsoftov generator teksta u sliku pod nazivom Designers za stvaranje slika od nule koristeći generativni AI.

Korisnici Telegram grupe podijelili su upite za zaobilaženje Microsoftovih zaštita. Otkrili su da korištenje "Taylor 'pjevačice' Swift" umjesto "Taylor Swift" učinkovitije stvara slike. Iako se točne slike grupe nisu mogle replicirati, "pjevačica Taylor' Swift" radila je s Microsoftovim alatom Designers, kako je objavljeno ovdje.

Incident Swift deepfake poslužio je kao snažan podsjetnik na mračnu stranu interneta i izazove s kojima se suočavamo u digitalnom dobu.