인스타그램은 AI가 생성한 이미지를 자신의 것처럼 몰래 게시하는 것을 허용하지 않을 것이라고 레이블이 발표했습니다.

소셜 미디어 거인 메타 페이스북, 인스타그램, 스레드에서 인공지능 도구를 사용하여 작성된 게시물에 라벨을 붙일 계획을 발표했습니다. 이 계획은 특히 다가오는 선거 주기 동안 잘못된 정보의 확산에 대한 우려를 해결합니다.

Meta는 Google, OpenAI, Microsoft, Adobe를 포함한 다양한 기술 회사와 협력하여 AI 생성 콘텐츠를 식별하기 위한 업계 표준을 확립하고 있습니다. 여기에는 보이지 않는 워터마크와 메타데이터를 이러한 도구를 사용하여 생성된 이미지에 통합하여 Meta가 다른 플랫폼에서 공유되는 경우에도 이를 감지할 수 있도록 하는 것이 포함됩니다.

라벨링은 초기 단계에서 외부 소스의 AI 생성 이미지를 대상으로 합니다. 유사한 방법을 사용하여 오디오 및 비디오 콘텐츠를 탐지하는 방법은 아직 개발 중입니다. 또한 표준화된 마커가 없는 게시물은 처음에 식별되지 않을 수 있습니다. Meta는 이러한 한계를 해결하기 위한 솔루션을 적극적으로 개발하고 있습니다.

이 계획은 미국, 인도, 남아프리카공화국, 인도네시아 등 여러 국가에서 중요한 선거를 준비함에 따라 중요성이 커지고 있습니다. 딥페이크의 확산이 증가함에 따라 유권자와 후보자에게 심각한 문제가 발생했으며 Meta의 접근 방식은 이러한 위험을 완화하기 위한 것입니다.

Meta의 결정은 AI 생성 콘텐츠를 완전히 제거하기보다는 보다 명확한 라벨링을 요구하는 감독 위원회의 최근 권장 사항과 일치합니다. 동시에 현재 시스템의 한계를 인정합니다.

Meta의 글로벌 담당 사장인 Nick Clegg는 다음과 같이 말했습니다. 블룸버그 게시물에서:

우리는 망원경의 반대편, 즉 합성되지 않은 콘텐츠의 진실성이나 신뢰성을 사용자에게 표시하는 방법에 대해 사회 전반, 특히 업계 전반에 걸쳐 토론을 벌여야 합니다.

AI 생성 콘텐츠에 라벨을 붙이는 것은 중요한 진전을 의미하지만 앞으로의 과제도 있습니다. 온라인 환경이 AI 생성 자료로 점점 더 포화됨에 따라 Clegg는 합법적인 콘텐츠에 레이블을 지정하는 방법을 모색할 필요성도 예상합니다. 이는 디지털 시대의 온라인 진정성과 신뢰에 대한 중요한 논의를 시작합니다.

더 보기 LINK.