Απογειώστε το Copilot Designer από τον Ιστό: ένας Μηχανικός της Microsoft αφού αποκαλύψει ότι μπορεί να παράγει εξαιρετικά ακατάλληλο περιεχόμενο

Ένας μηχανικός της Microsoft έχει εγείρει ανησυχίες για τη δημιουργία εικόνων AI της εταιρείας, Copilot Designer. Ισχυρίζεται ότι μπορεί να παράγει επιβλαβές και ακατάλληλο περιεχόμενο.

Ο Shane Jones, ο οποίος είναι κύριος διευθυντής μηχανικής λογισμικού στη Microsoft, είπε ότι ανακάλυψε ότι το εργαλείο μπορεί να δημιουργήσει βίαιες, σεξουαλικές και προκατειλημμένες εικόνες. Μου θυμίζει το Έπος της Taylor Swift, το οποίο λέγεται ότι έγινε από ένα προϊόν της Microsoft.

Ανέφερε τα ευρήματά του εσωτερικά, αλλά δεν ήταν ικανοποιημένος με την απάντηση, γεγονός που τον έκανε να δημοσιοποιήσει τα ζητήματά του.

Ο Τζόουνς, ο οποίος εντόπισε τρωτά σημεία μέσω της "red-teaming" (δοκιμή αδυναμιών), ανέφερε ότι αντιμετώπισε ανησυχητικές εικόνες, όπως:

• Εικόνες που απεικονίζουν δαίμονες και τέρατα παράλληλα με όρους που σχετίζονται με τα δικαιώματα άμβλωσης.
• Εικόνες γυναικών σε σεξουαλικά σενάρια εν μέσω τροχαίων δυστυχημάτων.
• Εικόνες που απεικονίζουν εφήβους σε πάρτι με ναρκωτικά και όπλα.
• Εικόνες με χαρακτήρες της Disney σε δυνητικά προστατευόμενες από πνευματικά δικαιώματα και προσβλητικές καταστάσεις, συμπεριλαμβανομένων σκηνών που απεικονίζουν βία στη Μέση Ανατολή και χαρακτήρες που σχετίζονται με στρατιωτικές εικόνες.

Ο Jones καλεί τη Microsoft να λάβει κάποια άμεση δράση, η οποία περιλαμβάνει ένα σημαντικό βήμα για την αφαίρεση του Copilot Designer από την αγορά μέχρι να εφαρμοστούν οι διασφαλίσεις. Πρόσθεσε αποκαλύψεις σχετικά με τους περιορισμούς του εργαλείου και άλλαξε την αξιολόγηση της εφαρμογής ώστε να αντικατοπτρίζει ότι δεν είναι κατάλληλο για όλες τις ηλικίες. Ή οποιοσδήποτε. 

Η Microsoft δεν έχει ακόμη απαντήσει σε όλους τους συγκεκριμένους ισχυρισμούς του Jones. Ωστόσο, ένας εκπρόσωπος είπε ότι η εταιρεία δεσμεύεται να αντιμετωπίσει τυχόν ανησυχίες που έχουν οι εργαζόμενοι και εκτιμά τις προσπάθειές τους στη δοκιμή της τεχνολογίας της.

Όταν πρόκειται για παρακάμψεις ασφαλείας ή ανησυχίες που θα μπορούσαν να έχουν δυνητικό αντίκτυπο στις υπηρεσίες μας ή στους συνεργάτες μας, έχουμε δημιουργήσει ισχυρά εσωτερικά κανάλια αναφοράς για τη σωστή διερεύνηση και αποκατάσταση τυχόν ζητημάτων, τα οποία ενθαρρύνουμε τους υπαλλήλους να χρησιμοποιήσουν ώστε να μπορέσουμε να επικυρώσουμε και να δοκιμάσουμε κατάλληλα. ανησυχίες.

Οι ανησυχίες σχετικά με τη γενετική τεχνητή νοημοσύνη και την πιθανότητα κακής χρήσης αυξάνονται, ακόμη και Ο δημιουργός εικόνων του Gemini έκανε πρόσφατα ξυπνημένες φωτογραφίες, που έκανε την Google να σταματήσει την παραγωγή ανθρώπινων εικόνων για λίγο.

Αυτή είναι μια ιστορία που αναπτύσσεται και θα συνεχίσουμε να παρέχουμε ενημερώσεις μόλις γίνουν διαθέσιμες.

Περισσότερο εδώ.