명시적인 딥페이크 이미지 문제로 인해 Taylor Swift를 X(이전의 Twitter)에서 검색할 수 없습니다.

1월 말, X(이전 트위터)는 다음과 같은 도전에 직면했습니다. 성적으로 노골적인 딥페이크 이미지 Taylor Swift를 표적으로 삼아 인터넷에 퍼졌습니다. 이에 대해 X는 상황을 억제하기 위해 임시 조치를 취했습니다. PC와 Android 앱 모두에서 X에서 Taylor Swift를 검색해 보았지만 결과는 동일했습니다. 즉, 전혀 결과가 없었습니다.

합의되지 않은 시나리오에서 Swift를 묘사하는 AI 생성 이미지가 X에 등장하여 팬과 옹호자들의 즉각적인 관심을 불러일으켰습니다. 이러한 딥페이크의 유포는 온라인 괴롭힘이자 가수의 사생활 침해로 비난받았다.

딥페이크 사건은 마이크로소프트(Microsoft) CEO 사티아 나델라(Satya Nadella)에게도 반향을 일으켰습니다. 그 강조 온라인 피해를 해결하기 위한 글로벌 협력의 중요성은 다음과 같습니다.

그리고 해야 할 일도 많고 거기서 해야 할 일도 많습니다. 하지만 그것은 글로벌하고 사회적인 것에 관한 것입니다. 아시다시피 특정 규범에 대한 수렴입니다. 그리고 우리는 그렇게 할 수 있습니다. 특히 법과 법 집행 기관, 그리고 함께 모일 수 있는 기술 플랫폼이 있을 때, 우리는 우리가 생각하는 것보다 훨씬 더 많은 것을 통치할 수 있다고 생각합니다. 우리는 스스로를 공로로 여기고 있습니다.

온라인에서 발견된 이미지는 여성에 대한 모욕적인 이미지를 공유한 텔레그램 그룹으로 추적되었습니다. 이 그룹은 Designers라는 무료 Microsoft 텍스트-이미지 생성기를 사용하여 생성 AI를 사용하여 처음부터 이미지를 생성했습니다.

Telegram 그룹의 사용자는 Microsoft의 보호를 우회하라는 메시지를 공유했습니다. 그들은 "Taylor Swift" 대신 "Taylor 'singer' Swift"를 사용하면 이미지가 더 효과적으로 생성된다는 사실을 발견했습니다. 그룹의 정확한 이미지를 복제할 수는 없었지만 "Taylor 'singer' Swift"는 Microsoft의 Designers 도구를 사용하여 작업했다고 합니다. 여기에서 지금 확인해 보세요..

Swift 딥페이크 사건은 인터넷의 어두운 면과 디지털 시대에 우리가 직면한 과제를 극명하게 일깨워주는 역할을 했습니다.