Amazon'un yeni AI sohbet robotu Amazon Q, gizli verileri, dahili indirim programlarını ve daha fazlasını sızdırıyor

Amazon'un yeni AI sohbet robotu Q doğruluk ve veri sızıntısı sorunları nedeniyle çalışanlardan eleştiri alıyor. Platformer'a sızdırılan belgeler, Q'nun "ciddi halüsinasyonlar" yaşadığını ve AWS veri merkezlerinin konumu ve dahili indirim programları dahil olmak üzere gizli bilgileri sızdırdığını gösteriyor.

Q'nun halüsinasyonları ve yanlış cevaplarıyla ilgili dahili bir belgede şunu belirtiyor: “Amazon Q halüsinasyon görebilir ve zararlı veya uygunsuz tepkiler verebilir. Örneğin Amazon Q, müşteri hesaplarını riske atabilecek güncelliğini yitirmiş güvenlik bilgilerini geri getirebilir." Belgede ana hatlarıyla belirtilen riskler, büyük dil modellerine özgüdür ve bunların tümü, en azından bazı zamanlarda yanlış veya uygunsuz yanıtlar verir.

Amazon, çalışanlarla yapılan tartışmaların önemini küçümsüyor ve herhangi bir güvenlik sorununun tespit edilmediğini iddia ediyor. Ancak sızdırılan belgeler, henüz ön izleme aşamasında olan ve genel kullanıma sunulmayan Q'nun doğruluğu ve güvenliği konusunda endişeleri artırıyor. Bir sözcü şunları söyledi:

Bu geri bildirim sonucunda herhangi bir güvenlik sorunu tespit edilmedi. Halihazırda aldığımız tüm geri bildirimleri takdir ediyoruz ve önizleme aşamasındaki bir ürün olmaktan genel kullanıma sunulan ürüne geçiş sürecinde Q'yu geliştirmeye devam edeceğiz.

Q, ChatGPT'nin kurumsal düzeyde bir sürümü olarak konumlandırılıyor ve tüketici sınıfı araçlardan daha güvenli olacak şekilde tasarlandı. Ancak dahili belgeler Q'nun yanlış veya zararlı bilgiler sağlama riskinin altını çiziyor.

Bununla ilgili daha fazla bilgi okuyun.