Amazons nya AI-chatbot Amazon Q läcker konfidentiell data, interna rabattprogram och mer

Amazons nya AI-chatbot Q möter kritik från anställda för noggrannhet och problem med dataläckage. Dokument som läckt ut till Platformer visar att Q upplever "allvarliga hallucinationer" och läcker konfidentiell information, inklusive var AWS datacenter och interna rabattprogram finns.

Ett internt dokument om Q:s hallucinationer och felaktiga svar noterar att "Amazon Q kan hallucinera och returnera skadliga eller olämpliga svar. Till exempel kan Amazon Q returnera inaktuell säkerhetsinformation som kan utsätta kundkonton för risk." De risker som beskrivs i dokumentet är typiska för stora språkmodeller, som alla ger felaktiga eller olämpliga svar åtminstone en del av tiden.

Amazon förringar betydelsen av medarbetardiskussionerna och hävdar att inget säkerhetsproblem har identifierats. De läckta dokumenten väcker dock farhågor om noggrannheten och säkerheten för Q, som fortfarande är i förhandsgranskningsstadiet och ännu inte allmänt tillgänglig. En talesperson sa:

Inget säkerhetsproblem identifierades som ett resultat av den feedbacken. Vi uppskattar all feedback vi redan har fått och kommer att fortsätta att finjustera Q när den övergår från att vara en produkt i förhandsvisning till att vara allmänt tillgänglig.

Q positioneras som en företagsversion av ChatGPT och är designad för att vara säkrare än verktyg av konsumentklass. De interna dokumenten belyser dock risken för att Q lämnar felaktig eller skadlig information.

Mer om detta här..