AI와 딥페이크가 현실과 미래에 미치는 영향

ExpressVPN과 제휴

최근 인공 지능의 발전은 현재 남성의 삶에 상당한 변화를 가져오고 있습니다. 오늘날 우리는 AI가 코딩, 에세이 작성, 그리고 무엇보다도 몇 초 만에 콘텐츠 생성을 손쉽게 수행할 수 있는 방법을 볼 수 있습니다. 그러나 이러한 인상적인 기능은 AI 자체의 저주입니다. 에 따르면 VPN 제공 업체, 많은 사람들이 AI를 사용하여 잘못된 정보를 위한 합성 미디어를 생성하고 있으며 딥페이크는 이제 전 세계적으로 산불처럼 퍼지기 시작했습니다.

전문가들은 수십 년 동안 AI를 실험해 왔지만 Microsoft의 최근 기술에 대한 대대적인 추진은 그러한 창조물에 더 많은 투자에 대한 업계의 관심을 불러일으켰습니다. 공개 직후 ChatGPT 기반 Bing 검색 엔진, Google은 다음을 사용하여 반격했습니다. 음유 시인. 그러나 경쟁사와 달리 Google은 Bard 테스트 액세스에 대해 여전히 엄격한 제한을 시행하고 있으며 전문가들은 AI가 잘못된 손으로 무엇을 할 수 있는지에 대한 회사의 두려움 때문이라고 추측합니다.

이는 개발 중인 다른 AI 기술 제품의 경우에도 마찬가지입니다. 예를 들어 현재 공개적으로 사용할 수 없는 Microsoft의 VALL-E 언어 모델은 사람의 목소리와 감정을 모방하여 개인화된 음성을 합성할 수 있습니다. 음향 프롬프트로 XNUMX초만 녹음하면 되지만 원래 화자의 음성을 사용하여 다른 메시지를 생성할 수 있습니다.

일반 대중은 위에서 언급한 창작물에 여전히 액세스할 수 없지만 소규모 기술 회사에서 제공하는 대응 제품은 이미 있습니다. 이로 인해 일반 사용자뿐만 아니라 악의적인 행위자도 원하는 방식으로 도구를 사용할 수 있게 되었습니다. 이를 통해 최근 사람들이 AI의 도움으로 속고 사기를 당한다는 다양한 보고서가 표면화되고 있다는 것은 더 이상 놀라운 일이 아닙니다.

이 보고서는 특히 피해자를 모방하는 AI 생성 음성의 사용을 강조했습니다. 함께 나눈 이야기에서 사업 내부자 이번 달, 한 어머니는 50,000세 딸을 위해 15만 달러의 몸값을 요구하는 납치범이라고 주장하는 누군가로부터 전화를 받은 것으로 알려졌습니다. 전화를 받은 어머니는 "100%" 딸의 목소리라고 말했다.

“완전히 그녀의 목소리였습니다. 그녀의 변곡점이었습니다. 그녀가 울었을 방식이었습니다. XNUMX초도 그녀라는 걸 의심한 적이 없다”고 말했다.

AI 음성과 관련된 동일한 사건을 캐나다의 한 부부가 경험했는데, 불행하게도 전화 사기꾼으로부터 21,000달러를 잃었습니다. 에 따르면 워싱턴 포스트, 사기꾼은 AI 음성으로 변호사와 부부의 아들로 가장해 아들이 교통사고로 외교관을 죽였다고 주장한 뒤 그 돈을 변호사 비용으로 쓰겠다고 말했다.

음성 외에도 AI가 제작한 다른 형태의 생성 미디어도 가짜 이미지와 딥페이크 비디오와 같이 누구를 속일 수 있습니다. 사기꾼이 금전적 이득을 위해 이를 사용하는 것을 보여주는 현재 보고서는 없지만 그 효과는 일반 대중에게 널리 퍼질 수 있습니다. 최근 유명인사들의 인공지능 이미지가 웹상에서 유포되고 있다. 패셔너블한 퍼 재킷을 입은 프란치스코 교황, 체포된 도널드 트럼프 전 대통령, 라이벌이자 GM CEO인 메리 바라의 데이트 중 일론 머스크의 손을 잡고 있는 사진 등이 있다. 한편, 2022년 XNUMX월에는 볼로디미르 젤렌스키 우크라이나 대통령이 우크라이나 시민들에게 러시아에 항복할 것을 촉구하는 딥페이크 영상이 공개됐다.

해당 자료는 신속하게 가짜로 판명되었지만 그 존재는 부인할 수 없이 대중을 속였고 많은 사람들에게 일시적인 혼란을 야기했습니다. 모델과 작가도 크리 Teigen 교황의 사진에 희생되었습니다. 그러나 이러한 합성 미디어의 영향은 AI가 계속 발전함에 따라 더욱 심각해질 수 있습니다. 특히 더 많은 기술 회사가 완벽한 AI 생성을 만들기 위해 수십억 달러를 지출하는 이 시대에는 더욱 그렇습니다. 그 때가 오면 AI는 모든 사람이 알고 있는 현실을 왜곡하는 데 악용될 수 있으며 이는 불가능한 일이 아닙니다. 더욱이 대중을 통제하고 영향을 미치기 위해 사용될 수도 있어 전 세계적으로 다양한 정치적, 사회적, 도덕적 문제를 야기할 수 있습니다.

이것은 버락 오바마가 도널드 트럼프를 비방하는 모습을 보여주는 2018년 중간 선거 동안 딥페이크 비디오에서 분명합니다. 이 콘텐츠는 원래 웹상의 가짜 뉴스의 위험성에 대해 온라인 세계에 경고하기 위한 것이었지만 역으로 반등했습니다. 이것은 여러 트럼프 지지자들 사이에서 분노를 불러일으켰고 본의 아니게 자료에 사용된 개인의 이미지를 손상시켰습니다.

이제 그러한 생성 매체가 특별히 설계된 경우 그 효과를 상상해 보십시오. 의견에 영향을 미치고 조작하다 대중에게 선전을 홍보합니다. 그 결과는 극단적일 수 있습니다. 이는 벨로루시, 중국, 이집트, 러시아, 이란, 북한, 투르크메니스탄, UAE, 우간다, 이라크, 터키, 오만 및 기타 주로 이슬람 국가와 같이 제한적인 정부에 의해 미디어 및 정보가 검열되는 국가에서 특히 그러할 수 있습니다. . 일부는 VPN을 사용하여 지리적으로 잠긴 콘텐츠, 웹 사이트 및 서비스에 액세스하여 업데이트를 유지합니다. 그러나 인터넷 검열을 우회하고 VPN 서비스와 관련된 웹 사이트를 차단하기 때문에 이러한 장소에서는 VPN 액세스가 완전히 가능하지 않습니다. 이를 통해 국제 뉴스에 대한 접근이 제한되고 정부가 온라인 콘텐츠를 허용할 수 있는 권한을 가진 이러한 지역의 미래를 상상할 수 있습니다. 그런 다음 미래에 더 완벽한 콘텐츠 생성 AI의 가능성을 추가하면 대중은 무엇이 진실이고 무엇이 거짓인지 분별하기가 더 어렵다는 것을 알게 될 것입니다.

업계 그룹과 AI 기술 회사는 이미 AI 도구 사용을 안내할 정책의 윤곽을 잡기 위해 움직이고 있습니다. 예를 들어 Partnership on AI는 합성 미디어 도구를 구축하는 기관 및 개인 또는 단순히 그러한 자료를 배포하는 사람들을 위한 권장 사항을 제공합니다. 그러나 민간 기업과 비영리 조직만이 여기에 필요한 것은 아닙니다. 입법자는 또한 AI 빌더와 최종 사용자가 준수해야 할 구체적인 규칙 집합을 만들어야 합니다. 그럼에도 불구하고 이러한 미래의 법률이 AI의 힘을 활용하고 사람들이 그것을 악용하는 것을 막을 만큼 충분히 효율적일까요? 우리는 곧 그것을 보게 될 것입니다.