Microsoft lansează un cadru deschis pentru a detecta amenințările împotriva sistemelor ML
1 min. citit
Publicat în data de
Distribuiți acest articol
Îmbunătățiți acest ghid
Citiți pagina noastră de dezvăluire pentru a afla cum puteți ajuta MSPoweruser să susțină echipa editorială Află mai multe
Învățarea automată (ML) este acum utilizată în diverse industrii, inclusiv în finanțe, asistență medicală și apărare. Deoarece atacurile asupra sistemelor ML comerciale sunt în creștere, securitatea sistemelor ML este cu adevărat importantă. De fapt, în ultimii trei ani, companii importante, cum ar fi Google, Amazon, Microsoft și Tesla, și-au păcălit, evadat sau indus în eroare sistemele ML. Pentru a permite analiștilor de securitate să detecteze, să răspundă și să remedieze amenințările la adresa sistemelor ML, Microsoft împreună cu MITRE și contribuțiile a 11 organizații, inclusiv IBM, NVIDIA, Bosch, au lansat Adversarial ML Threat Matrix, un cadru deschis pentru securitate concentrat pe industrie. analiștilor.
Această matrice de amenințări a apărut din parteneriatul cu 12 grupuri de cercetare din industrie și academice, cu scopul de a da putere analiștilor de securitate să se orienteze către aceste amenințări noi și viitoare. Cadrul este însămânțat cu un set îngrijit de vulnerabilități și comportamente adverse pe care Microsoft și MITRE le-au verificat pentru a fi eficiente împotriva sistemelor ML de producție. Acest cadru a folosit ATT&CK ca șablon, deoarece analiștii de securitate sunt deja familiarizați cu utilizarea acestui tip de matrice.
Puteți consulta Matricea de amenințări ML Adversarial aici.
Sursa: Microsoft
