"용납할 수 없음": Gemini의 '깨어난' 공격적 출력에 대한 Google CEO Sundar Pichai

이미지와 텍스트를 생성하는 것으로 알려진 Google의 AI 도구인 Gemini는 편파적이고 공격적인 콘텐츠를 생성하여 비난을 받았습니다. 사용자들이 다음과 같은 문제를 보고한 후 지난 주에 이 도구가 일시 중단되었습니다.

• 부정확한 역사적 묘사: Gemini가 생성한 이미지는 역사적 맥락에도 불구하고 바이킹과 같은 인물을 유색인종으로 보여주었습니다.
• 공격적인 문자 메시지: 소아성애에 대해 미묘한 입장을 취하며 단순히 '끔찍한' 문제가 아닌 복잡한 문제로 강조합니다.

이러한 문제는 대중의 비판을 불러일으켰으며 일부에서는 Google이 반백인 편견을 품고 있다고 비난했습니다. 이에 대해 구글 CEO 순다르 피차이는 이러한 문제를 인정하며 “완전히 용납할 수 없는 일”이라고 말했다. 그는 편견 없는 정보를 제공하고 사용자의 신뢰를 얻을 수 있는 제품을 구축하려는 Google의 노력을 강조했습니다.

Pichai는 다음을 포함하여 우려 사항을 해결하기 위한 계획을 설명했습니다.

• 편향된 출력을 방지하기 위해 더 엄격한 제어를 구현합니다.
• 책임감 있는 AI 개발을 보장하기 위해 제품 지침을 개정합니다.
• 공개 출시 전에 AI 도구를 테스트하고 평가하기 위한 보다 엄격한 절차를 구현합니다.
• 잠재적인 문제를 식별하고 해결하기 위해 철저한 평가와 레드팀 구성 연습을 수행합니다.

Pichai는 이러한 과제를 인정하면서도 책임감 있게 AI를 발전시키려는 Google의 지속적인 노력을 강조했습니다. 그는 실수로부터 배우고 사용자 신뢰를 얻는 유용한 제품을 구축하는 것이 중요하다고 강조했습니다.

Pichai가 Google 직원에게 보낸 메모 전문(처음 보고됨) 신호기, 아래에 있습니다.

최근 Gemini 앱(이전 Bard)에서 문제가 있는 텍스트 및 이미지 응답 문제를 해결하고 싶습니다. 나는 그 응답 중 일부가 우리 사용자를 화나게 하고 편견을 드러냈다는 것을 알고 있습니다. 분명히 그것은 완전히 용납할 수 없는 일이며 우리가 잘못한 것입니다.

우리 팀은 이러한 문제를 해결하기 위해 24시간 내내 노력해 왔습니다. 우리는 이미 광범위한 프롬프트에서 상당한 개선을 확인하고 있습니다. 특히 업계 발전의 새로운 단계에서는 AI가 완벽할 수 없습니다. 하지만 우리는 기준이 높다는 것을 알고 있으며 시간이 얼마나 오래 걸리더라도 이를 계속 유지할 것입니다. 그리고 무슨 일이 일어났는지 검토하고 대규모로 문제를 해결할 것입니다.

전 세계의 정보를 정리하여 보편적으로 접근 가능하고 유용하게 만드는 우리의 사명은 신성불가침입니다. 우리는 항상 제품을 통해 사용자에게 유용하고 정확하며 편견 없는 정보를 제공하려고 노력해 왔습니다. 그렇기 때문에 사람들은 그들을 신뢰합니다. 이는 새로운 AI 제품을 포함한 모든 제품에 대한 우리의 접근 방식이어야 합니다.

우리는 구조적 변경, 업데이트된 제품 지침, 개선된 출시 프로세스, 강력한 평가 및 레드팀 구성, 기술 권장 사항을 포함한 일련의 명확한 조치를 추진할 것입니다. 우리는 이 모든 것을 검토하고 있으며 필요한 변경을 할 것입니다.

여기서 무엇이 잘못되었는지를 배우더라도 지난 몇 주 동안 AI에서 발표한 제품 및 기술 발표를 기반으로 해야 합니다. 여기에는 1만 개의 긴 컨텍스트 창 혁신과 개방형 모델 등 기본 모델의 몇 가지 근본적인 발전이 포함되며 두 가지 모두 호평을 받았습니다.

우리는 수십억 명의 사람들과 기업이 사용하고 사랑받는 훌륭한 제품을 만드는 데 무엇이 필요한지 알고 있으며, 인프라와 연구 전문 지식을 통해 AI 물결을 위한 놀라운 발판을 갖추고 있습니다. 가장 중요한 것, 즉 사용자의 신뢰를 받을 만한 유용한 제품을 만드는 데 집중합시다.

한편, 전문가들은 이번 논란이 고의적인 편향보다는 기술적 결함에서 비롯된 것으로 보고 있다. 그들은 문제가 기본 모델 자체가 아니라 AI의 출력을 제어하는 ​​소프트웨어 "가드레일"에 있다고 주장합니다.