Google의 Gemini AI가 이미지 생성에 실패하고 개선을 약속합니다.

구글 인정 이 기능이 부정확하고 잠재적으로 유해한 사람 이미지를 생성한 후 Gemini AI 이미지 생성 도구의 단점이 발생했습니다. 회사는 수정 작업을 진행하는 동안 해당 기능을 일시적으로 중단했습니다. 이번 논란은 사용자들이 특정 역사적 인물이나 시나리오를 요청해도 다양한 이미지를 만들어내는 제미니의 성향에서 비롯됐다. 이는 포괄적이도록 의도되었지만 역사적으로 부정확하고 때로는 공격적인 결과를 가져왔습니다.

Prabhakar Raghavan 수석 부사장은 블로그 게시물에서 실수를 설명하고 기술을 개선하겠다고 다짐했습니다. “우리는 Gemini가 특정 그룹의 이미지 생성을 거부하는 것을 원하지 않았습니다… [그러나] 실수를 할 것입니다.”라고 그는 썼습니다.

Google Gemini의 문제점은 다음과 같습니다.

• Gemini가 명확하게 설명해야 하는 사례를 설명하지 못한 다양한 사람들을 보여주도록 하기 위한 Google의 조정 지원 범위를 표시합니다.
• 시간이 지남에 따라 모델은 우리가 의도한 것보다 훨씬 더 조심스러워졌고 특정 프롬프트에 완전히 응답하기를 거부했습니다. 즉, 매우 진통적인 프롬프트를 민감한 것으로 잘못 해석했습니다.
• 이 두 가지로 인해 모델이 어떤 경우에는 과도하게 보상하고 다른 경우에는 지나치게 보수적이 되어 당황스럽고 잘못된 이미지가 생성되었습니다.

AI 이미지 생성의 과제:

이 사건은 AI 이미지 생성 모델의 정확성과 표현의 균형을 맞추는 지속적인 과제를 강조합니다. Google의 어려움은 다른 인기 있는 이미지 생성기와 유사한 논쟁을 반영합니다.