O novo chatbot de IA da Amazon, Amazon Q, vaza dados confidenciais, programas de descontos internos e muito mais

O novo chatbot Q de IA da Amazon está enfrentando críticas de funcionários por problemas de precisão e vazamento de dados. Documentos vazados para a Platformer mostram que Q está passando por “graves alucinações” e vazando informações confidenciais, incluindo a localização dos data centers da AWS e programas de descontos internos.

Um documento interno sobre as alucinações e respostas erradas de Q observa que “o Amazon Q pode ter alucinações e retornar respostas prejudiciais ou inadequadas. Por exemplo, o Amazon Q pode retornar informações de segurança desatualizadas que podem colocar as contas dos clientes em risco.” Os riscos descritos no documento são típicos de grandes modelos de linguagem, todos os quais retornam respostas incorretas ou inadequadas pelo menos algumas vezes.

A Amazon minimiza a importância das discussões dos funcionários e afirma que nenhum problema de segurança foi identificado. No entanto, os documentos vazados levantam preocupações sobre a precisão e segurança do Q, que ainda está em fase de pré-visualização e ainda não está disponível para o público geral. Um porta-voz disse:

Nenhum problema de segurança foi identificado como resultado desse feedback. Agradecemos todos os comentários que já recebemos e continuaremos ajustando o Q à medida que ele passa de um produto em pré-visualização para disponibilidade geral.

Q está sendo posicionado como uma versão empresarial do ChatGPT e foi projetado para ser mais seguro do que as ferramentas destinadas ao consumidor. No entanto, os documentos internos destacam o risco de Q fornecer informações imprecisas ou prejudiciais.

Mais sobre isso aqui.