Microsoft släpper ett öppet ramverk för att upptäcka hot mot ML-system
1 min. läsa
Publicerad den
Dela den här artikeln
Förbättra den här guiden
Läs vår informationssida för att ta reda på hur du kan hjälpa MSPoweruser upprätthålla redaktionen Läs mer
Maskininlärning (ML) används nu i olika branscher, inklusive finans, sjukvård och försvar. Eftersom attackerna mot kommersiella ML-system ökar är säkerheten för ML-system verkligen viktig. Faktum är att under de senaste tre åren har stora företag som Google, Amazon, Microsoft och Tesla fått sina ML-system lurade, undandragna eller vilseledda. För att ge säkerhetsanalytiker möjlighet att upptäcka, svara på och åtgärda hot mot ML-system har Microsoft tillsammans med MITRE och bidrag från 11 organisationer inklusive IBM, NVIDIA, Bosch släppt Adversarial ML Threat Matrix, ett branschfokuserat öppet ramverk för säkerhet analytiker.
Denna hotmatris kom från partnerskap med 12 industri- och akademiska forskargrupper med målet att ge säkerhetsanalytiker möjlighet att orientera sig mot dessa nya och kommande hot. Ramverket är seedat med en utvald uppsättning av sårbarheter och fientliga beteenden som Microsoft och MITER har utvärderat för att vara effektiva mot produktions-ML-system. Detta ramverk använde ATT&CK som en mall eftersom säkerhetsanalytiker redan är bekanta med att använda denna typ av matris.
Du kan kolla in Adversarial ML Threat Matrix här..
Källa: Microsoft
