Taylor Swift ikke søkbar på X (tidligere Twitter) på grunn av et eksplisitt problem med dypfalske bilder

I slutten av januar sto X (tidligere Twitter) overfor en utfordring når seksuelt eksplisitte dypfalske bilder rettet mot Taylor Swift sirkulerte rundt på internett. Som svar iverksatte X midlertidige tiltak for å begrense situasjonen. Jeg prøvde å søke etter Taylor Swift på X, både på PC- og Android-appen, og resultatene var de samme, dvs. ingen resultater i det hele tatt.

AI-genererte bilder som viser Swift i scenarier uten samtykke dukket opp på X, noe som vekket umiddelbar bekymring fra fans og talsmenn. Sirkulasjonen av disse deepfakes ble fordømt som trakassering på nettet og et brudd på sangerens privatliv.

Den dypt falske hendelsen ga også gjenklang hos Satya Nadella, administrerende direktør i Microsoft. Han understreket viktigheten av globalt samarbeid for å håndtere skader på nettet, og sier:

Og det er mye som skal gjøres og mye som skal gjøres der. Men det handler om global, samfunnsmessig – du vet, jeg vil si, konvergens på visse normer. Og vi kan gjøre – spesielt når du har lov og rettshåndhevelse og teknologiske plattformer som kan komme sammen – jeg tror vi kan styre mye mer enn vi tror – gir vi oss selv æren for.

Bilder funnet på nettet ble sporet tilbake til en Telegram-gruppe som delte fornærmende bilder av kvinner. Gruppen brukte en gratis Microsoft tekst-til-bilde-generator kalt Designers for å lage bildene fra bunnen av ved hjelp av generativ AI.

Brukere av en Telegram-gruppe delte forespørsler om å omgå Microsofts beskyttelse. De fant ut at bruk av «Taylor 'sanger' Swift» i stedet for «Taylor Swift» genererte bilder mer effektivt. Selv om gruppens eksakte bilder ikke kunne replikeres, jobbet "Taylor 'sanger' Swift" med Microsofts Designers-verktøy, som rapportert her..

Swift deepfake-hendelsen fungerte som en sterk påminnelse om den mørke siden av internett og utfordringene vi står overfor i den digitale tidsalderen.