구글 AI 검색, 히틀러와 쩌둥이 '위대한 지도자'였다

구글의 인공지능이 다시 한번 논란의 중심에 섰다. 최근 발견 Amsive Digital의 SEO 수석 이사이자 유기적 연구 책임자인 Lily Ray는 Google의 AI 기반 SGE(검색 생성 경험)와 Bard가 히틀러와 마오쩌둥과 같은 역사적 인물을 '훌륭한 리더'로 꼽았다는 사실을 밝혔습니다. 위의 스크린샷을 보면 직접 확인할 수 있습니다.

이 놀라운 사건은 AI 기술의 윤리, 정확성, 책임에 대한 논쟁을 촉발시켰습니다.

AI 생성 응답의 문제는 고립되지 않습니다. Google의 AI 봇은 이전에 다음에 대한 정당성을 제공하는 것으로 알려져 있었습니다. 노예 제도, 대량 학살및 기타 명백히 잘못된 행위. 최근 "위대하고 효과적인 지도자" 목록에 히틀러와 기타 논란의 여지가 있는 인물이 포함되면서 AI 알고리즘이 어떻게 설계되고 제어되는지에 대한 우려가 커지고 있습니다.

그렇다면 Google의 AI는 어떻게 작동하며 왜 이렇게 논란의 여지가 있는 답변을 생성하는 걸까요? AI 봇은 다양한 소스에서 데이터를 수집하고 아이디어를 혼합하거나 심지어 단어 대 단어 문장까지 함께 답변으로 만듭니다. 이러한 논리적 일관성 부족과 출처에 대한 적절한 귀속이 없는 표절 문제가 문제의 원인이 됩니다. 봇의 답변은 일관성이 없을 뿐만 아니라 일관성 있는 그림이 부족하여 오해의 소지가 있거나 독선적인 답변으로 이어집니다.

이러한 AI 생성 응답의 영향은 단순한 기술적 과제를 뛰어넘습니다. 여기에는 심각한 윤리적 우려가 있습니다. 사악한 행위를 옹호하는 주장을 제공하는 AI 봇의 위험성, 사람 순위 지정 문제(특히 논란의 여지가 있는 인물), AI 생성 콘텐츠를 게시하는 Google의 책임 등 모두 해결해야 할 문제입니다.

이 문제에 대한 Google의 입장도 마찬가지로 우려스럽습니다. 출처 인용을 거부하고 봇이 전능하다는 환상을 유지함으로써 Google은 봇이 말하는 내용에 대한 책임을 스스로 지었습니다. 복사한 소스가 "확증적"이라는 회사의 주장은 마치 Weird Al이 Michael Jackson이 실제로 그의 노래를 패러디하고 있다고 말한 것처럼 우스꽝스럽습니다.

릴리 레이(Lily Ray)가 강조한 최근의 사건은 구글의 AI가 히틀러와 쩌둥을 '훌륭한 지도자'로 나열한 사건으로, AI 윤리와 기술의 도전을 극명하게 일깨워줍니다. AI는 우리 삶의 다양한 측면에 혁명을 일으킬 수 있는 잠재력을 가지고 있지만 정확성, 윤리 및 책임에 대한 심각한 우려를 불러일으키기도 합니다. 이 사건은 AI 봇이 사회적 가치와 규범에 부합하도록 설계, 모니터링 및 제어되는 방식에 대한 재평가를 요구합니다.

세계 최고의 검색 엔진인 Google은 여론 형성과 정보 보급에 중요한 역할을 하고 있습니다. AI 봇이 논란의 인물을 위대한 리더로 평가한 사건은 경각심을 불러일으킨다. 이제 기술 기업, 규제 기관, 사회 전체가 AI의 윤리적 의미를 자세히 살펴보고 책임감 있고 책임감 있는 기술을 만들기 위해 노력해야 할 때입니다.

출처 :

• Lily Ray의 Linkedin 계정
• Google 검색 AI가 어리 석고 잘못된 답변을 제공합니다
• Google의 AI 봇은 대량 학살, 노예 제도, 파시즘, 기타 악의 '혜택'을 선전합니다.