Taylor Swift is niet doorzoekbaar op X (voorheen Twitter) vanwege expliciet probleem met deepfake-afbeeldingen

Eind januari stond X (voorheen Twitter) voor een uitdaging toen seksueel expliciete deepfake-afbeeldingen gericht op Taylor Swift circuleerde op internet. Als reactie daarop implementeerde X tijdelijke maatregelen om de situatie onder controle te houden. Ik heb geprobeerd naar Taylor Swift op X te zoeken, zowel op de pc als op de Android-app, en de resultaten waren hetzelfde, dat wil zeggen helemaal geen resultaten.

Door AI gegenereerde afbeeldingen van Swift in niet-consensuele scenario's verschenen op X, wat onmiddellijke bezorgdheid wekte bij fans en voorstanders. De verspreiding van deze deepfakes werd veroordeeld als online intimidatie en een schending van de privacy van de zanger.

Het deepfake-incident vond ook weerklank bij Satya Nadella, CEO van Microsoft. Hij benadrukte het belang van mondiale samenwerking bij het aanpakken van online schade, door te zeggen:

En er is veel te doen en er wordt veel gedaan. Maar het gaat over mondiale, maatschappelijke – je weet wel, ik zal zeggen, convergentie op bepaalde normen. En dat kunnen we doen – vooral als er wet- en rechtshandhavings- en technologieplatforms zijn die samen kunnen komen – ik denk dat we veel meer kunnen regeren dan we denken – waar we onszelf de eer voor geven.

Afbeeldingen die online werden gevonden, waren terug te voeren op een Telegram-groep die beledigende afbeeldingen van vrouwen deelde. De groep gebruikte een gratis Microsoft-tekst-naar-afbeelding-generator genaamd Designers om de afbeeldingen helemaal opnieuw te maken met behulp van generatieve AI.

Gebruikers van een Telegram-groep deelden aanwijzingen om de beveiliging van Microsoft te omzeilen. Ze ontdekten dat het gebruik van 'Taylor 'singer' Swift' in plaats van 'Taylor Swift' effectiever beelden opleverde. Hoewel de exacte afbeeldingen van de groep niet konden worden gerepliceerd, werkte “Taylor ‘zanger’ Swift” met de Designers-tool van Microsoft, zoals gerapporteerd hier.

Het Swift-deepfake-incident vormde een grimmige herinnering aan de donkere kant van het internet en de uitdagingen waarmee we in het digitale tijdperk worden geconfronteerd.