Taylor Swift ist auf X (ehemals Twitter) aufgrund eines expliziten Deepfake-Bildproblems nicht durchsuchbar

Ende Januar stand X (ehemals Twitter) vor einer Herausforderung sexuell eindeutige Deepfake-Bilder Angriffe auf Taylor Swift kursierten im Internet. Als Reaktion darauf ergriff X vorübergehende Maßnahmen, um die Situation einzudämmen. Ich habe versucht, auf X nach Taylor Swift zu suchen, sowohl auf dem PC als auch in der Android-App, und die Ergebnisse waren die gleichen, dh überhaupt keine Ergebnisse.

Auf Die Verbreitung dieser Deepfakes wurde als Online-Belästigung und Verletzung der Privatsphäre des Sängers verurteilt.

Der Deepfake-Vorfall fand auch bei Satya Nadella, CEO von Microsoft, Anklang. Er betont die Bedeutung der globalen Zusammenarbeit bei der Bekämpfung von Online-Schäden und sagt:

Und da gibt es viel zu tun und es wird viel getan. Aber es geht um globale, gesellschaftliche – Sie wissen schon, ich würde sagen, Konvergenz bei bestimmten Normen. Und das können wir – vor allem, wenn es Gesetze, Strafverfolgungs- und Technologieplattformen gibt, die zusammenkommen können – ich denke, wir können viel mehr regieren, als wir denken – und wir geben uns selbst die Ehre.

Online gefundene Bilder wurden auf eine Telegram-Gruppe zurückgeführt, die beleidigende Bilder von Frauen verbreitete. Die Gruppe nutzte einen kostenlosen Microsoft-Text-zu-Bild-Generator namens Designers, um die Bilder mithilfe generativer KI von Grund auf zu erstellen.

Benutzer einer Telegram-Gruppe teilten Aufforderungen, die Schutzmaßnahmen von Microsoft zu umgehen. Sie fanden heraus, dass die Verwendung von „Taylor ‚Sänger‘ Swift“ anstelle von „Taylor Swift“ Bilder effektiver erzeugte. Obwohl die genauen Bilder der Gruppe nicht reproduziert werden konnten, arbeitete „Taylor ‚Sänger‘ Swift“ Berichten zufolge mit dem Designer-Tool von Microsoft hier.

Der Swift-Deepfake-Vorfall war eine deutliche Erinnerung an die dunkle Seite des Internets und die Herausforderungen, vor denen wir im digitalen Zeitalter stehen.