Το νέο chatbot AI της Amazon Amazon Q διαρρέει εμπιστευτικά δεδομένα, εσωτερικά προγράμματα εκπτώσεων και πολλά άλλα

Το νέο chatbot AI της Amazon Q αντιμετωπίζει κριτική από υπαλλήλους για θέματα ακρίβειας και διαρροής δεδομένων. Έγγραφα που διέρρευσαν στο Platformer δείχνουν ότι η Q αντιμετωπίζει «σοβαρές παραισθήσεις» και διαρρέει εμπιστευτικές πληροφορίες, συμπεριλαμβανομένης της τοποθεσίας των κέντρων δεδομένων AWS και των εσωτερικών προγραμμάτων εκπτώσεων.

Ένα εσωτερικό έγγραφο σχετικά με τις παραισθήσεις και τις λανθασμένες απαντήσεις του Q σημειώνει ότι «Το Amazon Q μπορεί να έχει παραισθήσεις και να επιστρέψει επιβλαβείς ή ακατάλληλες απαντήσεις. Για παράδειγμα, το Amazon Q μπορεί να επιστρέψει ξεπερασμένες πληροφορίες ασφαλείας που θα μπορούσαν να θέσουν σε κίνδυνο τους λογαριασμούς των πελατών». Οι κίνδυνοι που περιγράφονται στο έγγραφο είναι τυπικοί για μεγάλα γλωσσικά μοντέλα, τα οποία επιστρέφουν λανθασμένες ή ακατάλληλες απαντήσεις τουλάχιστον μερικές φορές.

Η Amazon υποβαθμίζει τη σημασία των συζητήσεων των εργαζομένων και ισχυρίζεται ότι δεν εντοπίστηκε κανένα θέμα ασφάλειας. Ωστόσο, τα έγγραφα που διέρρευσαν εγείρουν ανησυχίες σχετικά με την ακρίβεια και την ασφάλεια του Q, το οποίο βρίσκεται ακόμη σε στάδιο προεπισκόπησης και δεν είναι ακόμη γενικά διαθέσιμο. Ένας εκπρόσωπος είπε:

Κανένα ζήτημα ασφαλείας δεν εντοπίστηκε ως αποτέλεσμα αυτών των σχολίων. Εκτιμούμε όλα τα σχόλια που έχουμε ήδη λάβει και θα συνεχίσουμε να συντονίζουμε το Q καθώς μεταβαίνει από προϊόν σε προεπισκόπηση σε γενικά διαθέσιμο.

Το Q τοποθετείται ως έκδοση εταιρικού επιπέδου του ChatGPT και έχει σχεδιαστεί για να είναι πιο ασφαλές από τα εργαλεία καταναλωτικής ποιότητας. Ωστόσο, τα εσωτερικά έγγραφα υπογραμμίζουν τον κίνδυνο η Q να παρέχει ανακριβείς ή επιβλαβείς πληροφορίες.

Περισσότερα για αυτό εδώ.