Az Amazon új mesterséges intelligencia chatbotja, az Amazon Q bizalmas adatokat, belső kedvezményprogramokat és még sok mást szivárogtat ki

Az Amazon új AI chatbotja Q kritikával szembesül az alkalmazottak részéről a pontosság és az adatszivárgás miatt. A Platformerhez kiszivárgott dokumentumok azt mutatják, hogy Q „súlyos hallucinációkat” tapasztal, és bizalmas információkat szivárog ki, beleértve az AWS adatközpontok helyét és a belső kedvezményprogramokat.

Egy belső dokumentum Q hallucinációiról és rossz válaszairól megjegyzi, hogy „Az Amazon Q hallucinálhat, és káros vagy nem megfelelő válaszokat adhat. Például az Amazon Q olyan elavult biztonsági információkat adhat vissza, amelyek veszélybe sodorhatják az ügyfélfiókokat. A dokumentumban felvázolt kockázatok a nagy nyelvi modellekre jellemzőek, amelyek mindegyike hibás vagy nem megfelelő válaszokat ad, legalábbis bizonyos esetekben.

Az Amazon lekicsinyli a munkavállalói megbeszélések jelentőségét, és azt állítja, hogy nem azonosítottak biztonsági problémát. A kiszivárgott dokumentumok azonban aggályokat vetnek fel a Q pontosságával és biztonságával kapcsolatban, amely még csak előnézeti szakaszban van, és még nem általánosan elérhető. Egy szóvivő azt mondta:

A visszajelzés eredményeként nem találtunk biztonsági problémát. Nagyra értékeljük a már kapott visszajelzéseket, és folytatjuk a Q hangolását, amint az előzetesben lévő termékből általánosan elérhetővé válik.

A Q a ChatGPT vállalati szintű verziójaként kerül elhelyezésre, és úgy tervezték, hogy biztonságosabb legyen, mint a fogyasztói szintű eszközök. A belső dokumentumok azonban kiemelik annak kockázatát, hogy Q pontatlan vagy káros információkat közöl.

Többet erről itt.