웹에서 Copilot Designer 제거: Microsoft 엔지니어가 이를 공개한 후 매우 부적절한 콘텐츠를 생성할 수 있음

Microsoft 엔지니어는 회사의 AI 이미지 생성기인 Copilot Designer에 대해 우려를 제기했습니다. 그는 그것이 해롭고 부적절한 콘텐츠를 생산할 수 있다고 주장합니다.

마이크로소프트의 수석 소프트웨어 엔지니어링 관리자인 셰인 존스는 이 도구가 폭력적이고 성적이며 편견적인 이미지를 생성할 수 있다는 사실을 발견했다고 말했습니다. 그것은 나에게 생각나게 한다 테일러 스위프트 사가, 이는 Microsoft 제품에서 수행되었다고 합니다.

그는 자신이 발견한 내용을 내부적으로 보고했지만 반응이 만족스럽지 않아 자신의 문제를 공개하게 되었습니다.

"레드팀 구성"(약점 테스트)을 통해 취약점을 확인한 Jones는 다음과 같은 불안한 이미지를 접했다고 보고했습니다.

• 낙태권과 관련된 용어와 함께 악마와 괴물을 묘사하는 이미지.
• 자동차 사고로 인한 성적인 시나리오에 등장하는 여성의 이미지.
• 마약과 무기를 들고 파티에 참석한 십대들을 묘사한 이미지.
• 중동의 폭력 장면과 군사 이미지와 관련된 캐릭터를 묘사하는 장면을 포함하여 잠재적으로 저작권 보호를 받고 공격적인 상황에 있는 디즈니 캐릭터가 등장하는 이미지.

Jones는 보호 장치가 구현될 때까지 Copilot Designer를 시장에서 제거하는 주요 단계를 포함하여 Microsoft에 즉각적인 조치를 취할 것을 촉구하고 있습니다. 그는 도구의 제한 사항에 대한 공개를 추가하고 모든 연령에 적합하지 않다는 점을 반영하도록 앱 등급을 변경했습니다. 아니면 누구라도. 

Microsoft는 아직 Jones의 특정 주장에 모두 응답하지 않았습니다. 그러나 대변인은 회사가 직원들이 가지고 있는 모든 우려 사항을 해결하기 위해 최선을 다하고 있으며 기술 테스트에 대한 그들의 노력에 감사한다고 말했습니다.

당사 서비스나 파트너에게 잠재적인 영향을 미칠 수 있는 안전 우회 또는 우려 사항이 있는 경우 당사는 모든 문제를 적절하게 조사하고 해결하기 위해 강력한 내부 보고 채널을 구축했습니다. 우려.

생성적 AI와 오용 가능성에 대한 우려가 커지고 있습니다. 제미니의 이미지 크리에이터는 최근 깨어난 사진을 만들었고, 이로 인해 Google은 한동안 인간 이미지 생성을 중단했습니다.

이는 진행 중인 이야기이며, 업데이트가 나오는 대로 계속해서 제공할 것입니다.

더 보기 LINK.