Η τεχνολογία της Microsoft στοχεύει να παρέχει πληροφορίες σχετικά με τον τρόπο με τον οποίο τα νευρωνικά δίκτυα λαμβάνουν τις αποφάσεις τους
1 λεπτό. ανάγνωση
Δημοσιεύθηκε στις
Μοιραστείτε αυτό το άρθρο
Βελτιώστε αυτόν τον οδηγό
Διαβάστε τη σελίδα αποκάλυψης για να μάθετε πώς μπορείτε να βοηθήσετε το MSPoweruser να διατηρήσει τη συντακτική ομάδα Διάβασε περισσότερα
Βασικές σημειώσεις
- Το δίπλωμα ευρεσιτεχνίας της Microsoft προτείνει ένα εργαλείο για την οπτικοποίηση της διαδικασίας λήψης αποφάσεων των μοντέλων βαθιάς μάθησης στην αναγνώριση εικόνων και την οπτική τεχνητή νοημοσύνη.
- Το εργαλείο στοχεύει στη βελτίωση της διαφάνειας και στην αντιμετώπιση ανησυχιών σχετικά με πιθανές προκαταλήψεις και σφάλματα σε αυτά τα μοντέλα.
- Αυτή η εξέλιξη αντικατοπτρίζει μια ευρύτερη τάση του κλάδου προς εξηγήσιμη τεχνητή νοημοσύνη, η οποία δυνητικά οδηγεί σε αυξημένη εμπιστοσύνη και υπεύθυνη ανάπτυξη συστημάτων τεχνητής νοημοσύνης.
Η Microsoft κατέθεσε ένα δίπλωμα ευρεσιτεχνίας για ένα εργαλείο που βελτιώνει την κατανόηση των μοντέλων βαθιάς μάθησης που χρησιμοποιούνται στην αναγνώριση εικόνων και την οπτική τεχνητή νοημοσύνη.
Αυτά τα πολύπλοκα μοντέλα, που συχνά αποτελούνται από πολλά επίπεδα, μπορούν να αναλύσουν δεδομένα και να λάβουν ακριβείς αποφάσεις, αλλά η εσωτερική τους λειτουργία παραμένει σε μεγάλο βαθμό ασαφής. Αυτή η έλλειψη διαφάνειας μπορεί να εγείρει ανησυχίες σχετικά με πιθανές προκαταλήψεις και σφάλματα στα αποτελέσματα του μοντέλου.
Το προτεινόμενο εργαλείο της Microsoft αντιμετωπίζει αυτό το ζήτημα δημιουργώντας «χάρτες εξέχουσας σημασίας» που αντιπροσωπεύουν οπτικά τον τρόπο με τον οποίο το μοντέλο εστιάζει σε διαφορετικά μέρη μιας εικόνας εισόδου όταν αποφασίζει. Αυτό το οπτικό βοήθημα θα μπορούσε να βοηθήσει τους προγραμματιστές να εντοπίσουν συγκεκριμένες περιοχές επιρροής, βοηθώντας ενδεχομένως στον εντοπισμό σφαλμάτων και στη βελτίωση του μοντέλου και εν τέλει ενισχύοντας την εμπιστοσύνη στα συστήματα AI.
Με απλά λόγια, το εργαλείο της Microsoft δημιουργεί έναν «χάρτη θερμότητας» που δείχνει σε ποια σημεία της εικόνας εστιάζει περισσότερο το AI όταν παίρνει την απόφασή του. Αυτό βοηθά τους προγραμματιστές να κατανοήσουν γιατί το AI έκανε μια συγκεκριμένη επιλογή, να διορθώσει τυχόν λάθη και τελικά να κάνει το AI πιο αξιόπιστο.
Αυτή η εξέλιξη είναι μέρος μιας αυξανόμενης τάσης στον κλάδο της τεχνολογίας. Εταιρείες όπως η Oracle, η Intel και η Boeing έχουν επίσης καταθέσει διπλώματα ευρεσιτεχνίας για εξηγήσιμα εργαλεία τεχνητής νοημοσύνης, υπογραμμίζοντας μια ευρύτερη στροφή προς πιο διαφανή και υπεύθυνα συστήματα τεχνητής νοημοσύνης.
Περισσότερα εδώ.
