Η Microsoft σκοπεύει να πει ψέματα στην τεχνητή νοημοσύνη της για να μειώσει τη σεξιστική προκατάληψη

Ένα από τα μεγαλύτερα πλεονεκτήματα των ανθρωπιστικών επιστημών είναι η ικανότητα πλοήγησης στον κόσμο χρησιμοποιώντας περιορισμένα μόνο δεδομένα, βασιζόμενοι σε μεγάλο βαθμό στην εμπειρία μας που έχει δημιουργηθεί σε χρόνια προσωπικής έκθεσης, εκπαίδευσης και μέσων.

Αυτό, για παράδειγμα, σημαίνει ότι οδηγούμε πιο αργά στα σχολεία επειδή υποψιαζόμαστε ότι μπορεί να υπάρχουν παιδιά τριγύρω ή προσφέρουμε μια θέση σε ηλικιωμένους επειδή εύλογα υποψιαζόμαστε ότι θα είναι πιο αδύναμοι από τον μέσο άνθρωπο.

Η σκοτεινή πλευρά αυτών των υποθέσεων είναι φυσικά ρατσιστικές και σεξιστικές προκαταλήψεις, όπου οι πεποιθήσεις μας δεν τεκμηριώνονται ελάχιστα, άδικα προεκτείνονται από λίγους σε έναν ολόκληρο πληθυσμό ή δεν επιτρέπουν εξαιρέσεις στον κανόνα.

Μιλώντας στο Wired, ερευνητές της Microsoft αποκάλυψαν ότι τα AI είναι ακόμη πιο επιρρεπή στην ανάπτυξη αυτού του είδους μεροληψίας.

Ερευνητές από το Πανεπιστήμιο της Βοστώνης και τη Microsoft έδειξαν ότι το λογισμικό που εκπαιδεύεται σε κείμενο που συλλέγεται από τις Ειδήσεις Google θα δημιουργούσε συνδέσεις όπως "Ο άντρας είναι με τον προγραμματιστή υπολογιστών όπως η γυναίκα με τη νοικοκυρά".

Μια άλλη μελέτη διαπίστωσε ότι όταν η τεχνητή νοημοσύνη εκπαιδεύτηκε σε δύο μεγάλα σετ φωτογραφιών, που αποτελούνταν από περισσότερες από 100,000 εικόνες σύνθετων σκηνών που προέρχονται από τον Ιστό, σημασμένες από ανθρώπους με περιγραφές, η τεχνητή νοημοσύνη ανέπτυξε ισχυρούς συσχετισμούς μεταξύ γυναικών και οικιακών αντικειμένων και ανδρών και τεχνολογίας και εξωτερικού χώρου δραστηριότητες.

Στο σύνολο δεδομένων COCO, τα αντικείμενα κουζίνας όπως τα κουτάλια και τα πιρούνια συνδέονταν έντονα με τις γυναίκες, ενώ ο αθλητικός εξοπλισμός εξωτερικού χώρου, όπως τα snowboard και οι ρακέτες του τένις και τα είδη τεχνολογίας όπως τα πληκτρολόγια και τα ποντίκια υπολογιστών συνδέονταν πολύ έντονα με τους άνδρες.

Στην πραγματικότητα, οι προκαταλήψεις του AI ήταν ακόμη πιο ισχυρές από το ίδιο το σύνολο δεδομένων, με αποτέλεσμα να είναι πολύ πιο πιθανό να αναγνωρίσει ένα άτομο σε μια κουζίνα ως γυναίκα, ακόμα κι αν ήταν άνδρας.

Τέτοιες προκαταλήψεις, εάν εντοπιστούν, μπορούν να διορθωθούν με πρόσθετη εκπαίδευση, αλλά υπάρχουν σημαντικοί κίνδυνοι ένα μοντέλο τεχνητής νοημοσύνης να γλιστρήσει στην παραγωγή χωρίς να επιλυθούν όλα αυτά τα ζητήματα.

Ο Eric Horvitz, διευθυντής της Microsoft Research, δήλωσε: «Εγώ και η Microsoft ως σύνολο γιορτάζουμε τις προσπάθειες εντοπισμού και αντιμετώπισης των μεροληψιών και των κενών σε σύνολα δεδομένων και συστήματα που δημιουργούνται από αυτά. Οι ερευνητές και οι μηχανικοί που εργάζονται με το COCO και άλλα σύνολα δεδομένων θα πρέπει να αναζητούν σημάδια μεροληψίας στη δική τους εργασία και σε άλλες.»

Ο Horvitz σκέφτεται μια ενδιαφέρουσα λύση για να πάρει την τεχνητή νοημοσύνη από την αρχή, προτείνοντας αντί για εικόνες που προέρχονται από την πραγματικότητα, μια τεχνητή νοημοσύνη μπορεί να εκπαιδευτεί σε εξιδανικευμένες εικόνες που εμφανίζουν ήδη αντικείμενα με ίση ισορροπία φύλου, όπως το εκπαιδευτικό υλικό των παιδιών θα αντικατοπτρίζει την πραγματικότητα όπως θέλουμε να είναι μάλλον παρά αυτό που είναι.

"Είναι ένα πραγματικά σημαντικό ερώτημα - πότε πρέπει να αλλάξουμε την πραγματικότητα για να κάνουμε τα συστήματά μας να λειτουργούν με φιλόδοξο τρόπο;" αυτος λεει.

Άλλοι ερευνητές δεν είναι τόσο σίγουροι.

Εάν υπάρχουν πραγματικά περισσότεροι άνδρες εργάτες στις κατασκευές, θα πρέπει να επιτρέπεται στα προγράμματα αναγνώρισης εικόνων να το δουν αυτό, λέει η Aylin Caliskan, ερευνήτρια στο Princeton. Στη συνέχεια μπορούν να ληφθούν μέτρα για τη μέτρηση και την προσαρμογή τυχόν προκατάληψης, εάν χρειάζεται. «Κινδυνεύουμε να χάσουμε βασικές πληροφορίες», λέει. «Τα σύνολα δεδομένων πρέπει να αντικατοπτρίζουν τις πραγματικές στατιστικές στον κόσμο».