Το Taylor Swift δεν μπορεί να αναζητηθεί στο X (πρώην Twitter) λόγω προβλήματος ρητού deepfake εικόνας

Στα τέλη Ιανουαρίου, το X (πρώην Twitter) αντιμετώπισε μια πρόκληση όταν σεξουαλικά ρητά deepfake εικόνες με στόχο την Taylor Swift κυκλοφόρησε στο διαδίκτυο. Σε απάντηση, ο Χ εφάρμοσε προσωρινά μέτρα για να περιορίσει την κατάσταση. Προσπάθησα να ψάξω για το Taylor Swift στο X, τόσο σε υπολογιστή όσο και σε εφαρμογή Android, και τα αποτελέσματα ήταν τα ίδια, δηλαδή, κανένα αποτέλεσμα.

Εικόνες που δημιουργήθηκαν από AI και απεικονίζουν τον Swift σε μη συναινετικά σενάρια εμφανίστηκαν στο X, προκαλώντας άμεση ανησυχία από τους θαυμαστές και τους υποστηρικτές. Η κυκλοφορία αυτών των deepfakes καταδικάστηκε ως διαδικτυακή παρενόχληση και παραβίαση της ιδιωτικής ζωής του τραγουδιστή.

Το περιστατικό deepfake είχε επίσης απήχηση στον Satya Nadella, CEO της Microsoft. Αυτός τόνισε τη σημασία της παγκόσμιας συνεργασίας για την αντιμετώπιση των διαδικτυακών βλαβών, λέγοντας:

Και υπάρχουν πολλά να γίνουν και πολλά να γίνουν εκεί. Αλλά πρόκειται για παγκόσμια, κοινωνική – ξέρετε, θα πω, σύγκλιση σε ορισμένους κανόνες. Και μπορούμε να κάνουμε –ειδικά όταν έχετε πλατφόρμες νόμου και επιβολής του νόμου και τεχνολογίας που μπορούν να συνενωθούν– νομίζω ότι μπορούμε να κυβερνήσουμε πολύ περισσότερα από όσα νομίζουμε– δίνουμε εύσημα στον εαυτό μας.

Οι εικόνες που βρέθηκαν στο Διαδίκτυο ανιχνεύθηκαν σε μια ομάδα Telegram που μοιράζεται υβριστικές εικόνες γυναικών. Η ομάδα χρησιμοποίησε μια δωρεάν συσκευή δημιουργίας κειμένου σε εικόνα της Microsoft που ονομάζεται Designers για να δημιουργήσει τις εικόνες από την αρχή χρησιμοποιώντας γενετική τεχνητή νοημοσύνη.

Οι χρήστες μιας ομάδας Telegram κοινοποίησαν μηνύματα προτροπής για παράκαμψη των προστασιών της Microsoft. Διαπίστωσαν ότι η χρήση του "Taylor 'τραγουδιστής' Swift" αντί του "Taylor Swift" δημιουργούσε εικόνες πιο αποτελεσματικά. Αν και οι ακριβείς εικόνες του γκρουπ δεν μπορούσαν να αναπαραχθούν, ο "Taylor 'τραγουδιστής' Swift" συνεργάστηκε με το εργαλείο Designers της Microsoft, όπως αναφέρθηκε εδώ.

Το περιστατικό Deepfake του Swift λειτούργησε ως έντονη υπενθύμιση της σκοτεινής πλευράς του Διαδικτύου και των προκλήσεων που αντιμετωπίζουμε στην ψηφιακή εποχή.