Microsoft izda odprt okvir za odkrivanje groženj za sisteme ML
1 min. prebrati
Objavljeno dne
Dajte v skupno rabo ta članek
Izboljšajte ta vodnik
Preberite našo stran za razkritje, če želite izvedeti, kako lahko pomagate MSPoweruser vzdrževati uredniško skupino Preberi več
Strojno učenje (ML) se zdaj uporablja v različnih panogah, vključno s financami, zdravstvenim varstvom in obrambo. Ker se napadi na komercialne sisteme ML povečujejo, je varnost sistemov ML zelo pomembna. Pravzaprav so v zadnjih treh letih velika podjetja, kot so Google, Amazon, Microsoft in Tesla, svoje sisteme ML prelisičili, izognili ali zavedli. Da bi varnostnim analitikom omogočili odkrivanje, odzivanje in odpravljanje groženj za sisteme ML, je Microsoft skupaj z MITRE in prispevki 11 organizacij, vključno z IBM, NVIDIA, Bosch, izdal Adversarial ML Threat Matrix, odprt okvir za varnost, osredotočen na industrijo. analitikov.
Ta matrika groženj je nastala iz partnerstva z 12 industrijskimi in akademskimi raziskovalnimi skupinami s ciljem pooblastiti varnostne analitike, da se usmerijo na te nove in prihajajoče grožnje. Okvir je zasejan z izbranim naborom ranljivosti in nasprotnikovega vedenja, za katerega sta Microsoft in MITER preverila, da je učinkovita proti produkcijskim sistemom ML. Ta okvir je kot predlogo uporabil ATT&CK, saj so varnostni analitiki že seznanjeni z uporabo te vrste matrik.
Ogledate si lahko matriko groženj Adversarial ML tukaj.
vir: Microsoft
