Η Microsoft κυκλοφορεί ένα ανοιχτό πλαίσιο για τον εντοπισμό απειλών κατά συστημάτων ML

Η μηχανική μάθηση (ML) χρησιμοποιείται πλέον σε διάφορους κλάδους, όπως η χρηματοδότηση, η υγειονομική περίθαλψη και η άμυνα. Δεδομένου ότι οι επιθέσεις σε εμπορικά συστήματα ML αυξάνονται, η ασφάλεια των συστημάτων ML είναι πραγματικά σημαντική. Στην πραγματικότητα, τα τελευταία τρία χρόνια, μεγάλες εταιρείες όπως η Google, η Amazon, η Microsoft και η Tesla, εξαπατήθηκαν, παραπλανήθηκαν ή παραπλανήθηκαν τα συστήματα ML τους. Για να δώσουν τη δυνατότητα στους αναλυτές ασφαλείας να ανιχνεύουν, να ανταποκρίνονται και να αποκαθιστούν απειλές κατά των συστημάτων ML, η Microsoft μαζί με το MITRE και συνεισφορές από 11 οργανισμούς συμπεριλαμβανομένων των IBM, NVIDIA, Bosch, κυκλοφόρησαν το Adversarial ML Threat Matrix, ένα ανοιχτό πλαίσιο ασφάλειας που εστιάζει στη βιομηχανία. αναλυτές.

Αυτή η μήτρα απειλών προέκυψε από συνεργασία με 12 βιομηχανικές και ακαδημαϊκές ερευνητικές ομάδες με στόχο να ενδυναμώσει τους αναλυτές ασφαλείας να προσανατολιστούν σε αυτές τις νέες και επερχόμενες απειλές. Το πλαίσιο είναι εμπλουτισμένο με ένα επιμελημένο σύνολο τρωτών σημείων και αντιπάλων συμπεριφορών που η Microsoft και το MITER έχουν ελέγξει ότι είναι αποτελεσματικά έναντι συστημάτων ML παραγωγής. Αυτό το πλαίσιο χρησιμοποίησε το ATT&CK ως πρότυπο, καθώς οι αναλυτές ασφαλείας είναι ήδη εξοικειωμένοι με τη χρήση αυτού του τύπου μήτρας.

Μπορείτε να δείτε το Adversarial ML Threat Matrix εδώ.

πηγή: Microsoft