Το Gemini AI της Google σκοντάφτει στη δημιουργία εικόνων, όρκους βελτίωσης

Google αναγνώρισε ελλείψεις στο εργαλείο δημιουργίας εικόνων Gemini AI μετά τη λειτουργία που παρήγαγε ανακριβείς και δυνητικά επιβλαβείς εικόνες ανθρώπων. Η εταιρεία ανέστειλε προσωρινά τη λειτουργία ενώ εργαζόταν για μια επιδιόρθωση. Η διαμάχη προήλθε από την τάση του Gemini να δημιουργεί διαφορετικές εικόνες, ακόμη και όταν οι χρήστες ζήτησαν συγκεκριμένα ιστορικά πρόσωπα ή σενάρια. Αν και προοριζόταν να είναι περιεκτικό, αυτό οδήγησε σε ιστορικά ανακριβή και μερικές φορές προσβλητικά αποτελέσματα.

Σε μια ανάρτηση στο blog, ο Ανώτερος Αντιπρόεδρος Prabhakar Raghavan εξήγησε τα λάθη και υποσχέθηκε να βελτιώσει την τεχνολογία. «Δεν θέλαμε ο Δίδυμος να αρνηθεί να δημιουργήσει εικόνες κάποιας συγκεκριμένης ομάδας… [αλλά] θα κάνει λάθη», έγραψε.

Δείτε τι πήγε στραβά με το Google Gemini:

• Ο συντονισμός της Google για να διασφαλίσει ότι ο Δίδυμος έδειξε ότι μια σειρά ανθρώπων απέτυχε να λογοδοτήσει για περιπτώσεις που θα έπρεπε ξεκάθαρα δεν δείχνουν ένα εύρος.
• Με την πάροδο του χρόνου, το μοντέλο έγινε πολύ πιο προσεκτικό από ό,τι σκοπεύαμε και αρνήθηκε να απαντήσει εξ ολοκλήρου σε ορισμένες προτροπές — ερμηνεύοντας εσφαλμένα ορισμένες πολύ ανώδυνες προτροπές ως ευαίσθητες.
• Αυτά τα δύο πράγματα οδήγησαν το μοντέλο να υπεραντισταθμίζει σε ορισμένες περιπτώσεις και να είναι υπερβολικά συντηρητικό σε άλλες, οδηγώντας σε εικόνες που ήταν ενοχλητικές και λανθασμένες.

Προκλήσεις της δημιουργίας εικόνων AI:

Αυτό το περιστατικό υπογραμμίζει τη συνεχιζόμενη πρόκληση της εξισορρόπησης της ακρίβειας και της αναπαράστασης στα μοντέλα παραγωγής εικόνων AI. Οι αγώνες της Google αντικατοπτρίζουν παρόμοιες διαμάχες με άλλες δημοφιλείς συσκευές δημιουργίας εικόνων.