Taylor Swift är inte sökbar på X (tidigare Twitter) på grund av ett explicit problem med deepfake-bild

I slutet av januari stod X (tidigare Twitter) inför en utmaning när sexuellt explicita djupfalska bilder inriktning Taylor Swift cirkulerade runt på internet. Som svar vidtog X tillfälliga åtgärder för att begränsa situationen. Jag försökte söka efter Taylor Swift på X, både på PC- och Android-appen, och resultaten var desamma, dvs inga resultat alls.

AI-genererade bilder som visar Swift i scenarier utan samtycke dök upp på X, vilket väckte omedelbar oro från fans och förespråkare. Spridningen av dessa deepfakes fördömdes som trakasserier online och en kränkning av sångarens integritet.

Den deepfake-incidenten fick också resonans hos Satya Nadella, vd för Microsoft. han betonade vikten av globalt samarbete för att ta itu med onlineskador, och säger:

Och det finns mycket att göra och mycket som görs där. Men det handlar om global, samhällelig – du vet, jag ska säga, konvergens kring vissa normer. Och vi kan göra – särskilt när du har lag- och brottsbekämpande och tekniska plattformar som kan mötas – jag tror att vi kan styra mycket mer än vi tror – vi ger oss själva kredit för.

Bilder som hittats på nätet spårades tillbaka till en Telegram-grupp som delade övergreppsbilder av kvinnor. Gruppen använde en gratis Microsoft text-till-bild-generator vid namn Designers för att skapa bilderna från grunden med hjälp av generativ AI.

Användare av en Telegram-grupp delade uppmaningar om att kringgå Microsofts skydd. De fann att genom att använda "Taylor 'singer' Swift" istället för "Taylor Swift" genererades bilder mer effektivt. Även om gruppens exakta bilder inte gick att replikera, arbetade "Taylor 'singer' Swift" med Microsofts verktyg för designers, som rapporterats här..

Swift deepfake-incidenten fungerade som en skarp påminnelse om den mörka sidan av internet och de utmaningar vi står inför i den digitala tidsåldern.