טיילור סוויפט לא ניתנת לחיפוש ב-X (לשעבר טוויטר) בגלל בעיית תמונה מפורשת בזיוף עמוק

בסוף ינואר, X (לשעבר טוויטר) התמודד עם אתגר כאשר תמונות מזויפות מיניות מפורשות הכוונה לטיילור סוויפט הופץ ברחבי האינטרנט. בתגובה, X נקט באמצעים זמניים כדי לבלום את המצב. ניסיתי לחפש את טיילור סוויפט ב-X, גם ב-PC וגם באפליקציית אנדרואיד, והתוצאות היו זהות, כלומר, ללא תוצאות בכלל.

תמונות שנוצרו על ידי AI המתארות את סוויפט בתרחישים שאינם בהסכמה הופיעו ב-X, מה שעורר דאגה מיידית מצד מעריצים ותומכים. הפצת הזיופים העמוקים הללו נידונה כהטרדה מקוונת ופגיעה בפרטיות הזמרת.

תקרית הזיוף העמוק עורר הדים גם אצל סאטיה נאדלה, מנכ"לית מיקרוסופט. הוא הדגיש החשיבות של שיתוף פעולה עולמי בטיפול בנזקים מקוונים, באומרו:

ויש הרבה מה לעשות והרבה לעשות שם. אבל זה קשור עולמית, חברתית - אתה יודע, אני אגיד, התכנסות לנורמות מסוימות. ואנחנו יכולים לעשות - במיוחד כשיש לך פלטפורמות חוק ואכיפת חוק וטכנולוגיה שיכולות להתאחד - אני חושב שאנחנו יכולים לשלוט הרבה יותר ממה שאנחנו חושבים - אנחנו נותנים לעצמנו קרדיט.

התמונות שנמצאו באינטרנט אותרו לקבוצת טלגרם ששיתפה תמונות פוגעניות של נשים. הקבוצה השתמשה במחולל טקסט-לתמונה חינמי של מיקרוסופט בשם Designers כדי ליצור את התמונות מאפס באמצעות AI גנראטיבי.

משתמשים בקבוצת טלגרם שיתפו הנחיות לעקוף את ההגנות של מיקרוסופט. הם גילו ששימוש ב"טיילור 'זמרת' סוויפט" במקום "טיילור סוויפט" יצר תמונות בצורה יעילה יותר. למרות שלא ניתן היה לשכפל את התמונות המדויקות של הקבוצה, "טיילור 'הזמרת' סוויפט" עבדה עם הכלי מעצבים של מיקרוסופט, כפי שדווח כאן.

תקרית הזיוף העמוק של Swift שימשה תזכורת חדה לצד האפל של האינטרנט ולאתגרים העומדים בפנינו בעידן הדיגיטלי.