Microsoft udostępnia otwartą platformę do wykrywania zagrożeń dla systemów ML
1 minuta. czytać
Opublikowany
Udostępnij ten artykuł
Ulepsz ten przewodnik
Przeczytaj naszą stronę z informacjami, aby dowiedzieć się, jak możesz pomóc MSPoweruser w utrzymaniu zespołu redakcyjnego Czytaj więcej
Uczenie maszynowe (ML) jest obecnie wykorzystywane w różnych branżach, w tym w finansach, opiece zdrowotnej i obronności. Ponieważ ataki na komercyjne systemy ML rosną, bezpieczeństwo systemów ML jest naprawdę ważne. W rzeczywistości w ciągu ostatnich trzech lat duże firmy, takie jak Google, Amazon, Microsoft i Tesla, zostały oszukane, ominięte lub wprowadzone w błąd przez ich systemy ML. Aby umożliwić analitykom bezpieczeństwa wykrywanie i reagowanie na zagrożenia dla systemów ML, a także reagowanie na nie, Microsoft wraz z MITRE oraz wkładem 11 organizacji, w tym IBM, NVIDIA, Bosch, udostępnili Adversarial ML Threat Matrix, ukierunkowaną na branżę otwartą platformę bezpieczeństwa analitycy.
Ta macierz zagrożeń powstała w wyniku partnerstwa z 12 branżowymi i akademickimi grupami badawczymi w celu umożliwienia analitykom bezpieczeństwa zorientowania się na te nowe i nadchodzące zagrożenia. Struktura jest obsadzona wyselekcjonowanym zestawem luk w zabezpieczeniach i zachowaniami przeciwników, które firmy Microsoft i MITER sprawdziły pod kątem skuteczności przeciwko produkcyjnym systemom ML. Ten framework wykorzystywał ATT&CK jako szablon, ponieważ analitycy bezpieczeństwa są już zaznajomieni z używaniem tego typu macierzy.
Możesz sprawdzić macierz zagrożeń Adversarial ML Threat tutaj.
Źródło: Microsoft
