A Microsoft nyílt keretrendszert ad ki az ML-rendszerek elleni fenyegetések észlelésére
1 perc olvas
Publikálva
Ossza meg ezt a cikket
Javítsa ezt az útmutatót
Olvassa el közzétételi oldalunkat, hogy megtudja, hogyan segítheti az MSPowerusert a szerkesztői csapat fenntartásában Tovább
A gépi tanulást (ML) ma már számos iparágban használják, beleértve a pénzügyet, az egészségügyet és a védelmet. Mivel a kereskedelmi ML-rendszerek elleni támadások egyre szaporodnak, az ML-rendszerek biztonsága nagyon fontos. Valójában az elmúlt három évben olyan nagy cégek, mint a Google, az Amazon, a Microsoft és a Tesla, becsapták, kijátszották vagy félrevezették ML rendszereiket. Annak érdekében, hogy a biztonsági elemzők képessé tegyék a biztonsági elemzőket az ML-rendszerek elleni fenyegetések észlelésére, reagálására és orvoslására, a Microsoft, a MITRE, valamint 11 szervezet, köztük az IBM, az NVIDIA, a Bosch közreműködésével kiadta az Adversarial ML Threat Matrixot, egy iparágközpontú nyílt biztonsági keretrendszert. elemzők.
Ez a fenyegetési mátrix 12 ipari és tudományos kutatócsoporttal való együttműködésből jött létre, azzal a céllal, hogy a biztonsági elemzőket képessé tegye az új és közelgő fenyegetésekkel szembeni tájékozódásra. A keretrendszer a sebezhetőségek és az ellenséges viselkedések válogatott készletével van felvértezve, amelyekről a Microsoft és a MITER meggyőződött, hogy hatékonyak legyenek az éles ML-rendszerekkel szemben. Ez a keretrendszer az ATT&CK-t használta sablonként, mivel a biztonsági elemzők már ismerik az ilyen típusú mátrix használatát.
Megnézheti az Adversarial ML Threat Matrixot itt.
Forrás: microsoft
