Amazon의 새로운 AI 챗봇 Amazon Q는 기밀 데이터, 내부 할인 프로그램 등을 유출합니다.

아마존의 새로운 AI 챗봇 Q 정확성과 데이터 유출 문제로 직원들의 비판을 받고 있습니다. Platformer에 유출된 문서에는 Q가 "심각한 환각"을 경험하고 AWS 데이터 센터 위치 및 내부 할인 프로그램을 포함한 기밀 정보를 유출하고 있음이 나와 있습니다.

Q의 환각 및 오답에 관한 내부 문서에는 “Amazon Q는 환각을 일으키고 해롭거나 부적절한 응답을 반환할 수 있습니다. 예를 들어 Amazon Q는 고객 계정을 위험에 빠뜨릴 수 있는 오래된 보안 정보를 반환할 수 있습니다.” 문서에 설명된 위험은 대규모 언어 모델의 전형적인 위험이며, 모든 모델은 적어도 일정 시간 동안 부정확하거나 부적절한 응답을 반환합니다.

Amazon은 직원 토론의 중요성을 무시하고 보안 문제가 확인되지 않았다고 주장합니다. 그러나 유출된 문서는 Q의 정확성과 보안에 대한 우려를 불러일으키는데, Q는 아직 프리뷰 단계에 있어 아직 일반화되지 않은 상태입니다. 대변인은 이렇게 말했습니다.

피드백 결과 보안 문제는 확인되지 않았습니다. 우리는 이미 받은 모든 피드백에 감사드리며, 미리 보기 제품에서 일반 공급 제품으로 전환함에 따라 Q를 계속해서 조정할 것입니다.

Q는 ChatGPT의 엔터프라이즈급 버전으로 포지셔닝되고 있으며 소비자급 도구보다 더 안전하도록 설계되었습니다. 그러나 내부 문서에는 Q가 부정확하거나 유해한 정보를 제공할 위험성이 강조되어 있습니다.

이것에 대해 더 알아보기 LINK.