합의되지 않은 딥페이크 포르노가 Google, Bing과 같은 검색 엔진을 감염시킵니다: 새로운 조사
이번 검색을 통해 최소 36명의 여성 연예인이 검색되었습니다.
2 분. 읽다
에 게시됨
이 기사 공유
이 가이드를 개선하세요
공개 페이지를 읽고 MSPoweruser가 편집팀을 유지하는 데 어떻게 도움을 줄 수 있는지 알아보세요. 자세히 보기
주요 사항
- 새로운 언론 조사에 따르면 Google과 Bing에서 합의되지 않은 딥페이크 포르노가 발견되었습니다.
- 노골적인 딥페이크 이미지는 여성 유명인을 대상으로 한 '딥페이크'와 같은 용어에 대한 검색 결과 상위권을 차지합니다.
- 딥페이크 책임법(Deep Fakes Accountability Act) 제안은 창작자의 공개를 의무화하고 형사 처벌을 받습니다.
Deepfake는 다음과 같이 점점 현실적으로 변하고 있습니다. 미드저니 v6 예를 들어. 그러나 최근 언론 조사에 따르면 Google 및 Microsoft의 Bing을 포함한 인기 검색 엔진이 이러한 합의되지 않은 딥페이크 포르노 이미지의 보금자리인 것으로 나타났습니다.
미국 네트워크 NBC 뉴스 이 문제에 대해 독립적인 연구를 수행했습니다. 이러한 검색 엔진에서 여성 유명인의 이름이 포함된 "딥페이크" 또는 "딥페이크 포르노"와 같은 용어를 검색하면 노골적인 딥페이크 이미지가 상위 결과에 포함되었습니다.
이번 검색을 통해 최소 36명의 여성 연예인이 검색되었습니다(안전 검색 도구를 껐을 때). Google에서 '가짜 누드'를 검색하면 검색 엔진에 부적절한 앱 링크와 고등학생의 오용에 대한 기사가 표시되는 반면 Bing의 결과에는 도구와 유해성에 대한 기사가 포함됩니다.
마이크로소프트는 아직 이에 대한 논평을 내놓지 않고 있다. 하는 동안 GPT-4 기반 Copilot/Bing Chat은 이에 대한 AI 사용을 명시적으로 금지하고 있으며, 검색에서는 합의되지 않은 노골적인 콘텐츠에 쉽게 접근할 수 있다고 주장합니다.
딥페이크를 구체적으로 다루는 포괄적인 연방법은 없지만 의회에 여러 가지 법안이 도입되었으며 일부 주에서는 딥페이크 생성 및 배포의 특정 측면을 다루는 자체 법률을 제정했습니다.
아래의 현재 도입된 딥페이크 책임법(H.R. 3230)에 따라 딥페이크 제작자는 어떤 용도로든 배포하기 전에 AI 사용을 공개해야 합니다. 위반자에 대한 형사 처벌은 준수하지 않는 사람에게 적용될 수 있습니다.
