Microsoft lanza un marco abierto para detectar amenazas contra sistemas ML

El aprendizaje automático (ML) ahora se usa en varias industrias, incluidas las finanzas, la atención médica y la defensa. Dado que los ataques a los sistemas ML comerciales están aumentando, la seguridad de los sistemas ML es realmente importante. De hecho, en los últimos tres años, los sistemas de ML de grandes empresas como Google, Amazon, Microsoft y Tesla han sido engañados, evadidos o engañados. Para empoderar a los analistas de seguridad para detectar, responder y remediar las amenazas contra los sistemas ML, Microsoft junto con MITRE y las contribuciones de 11 organizaciones, incluidas IBM, NVIDIA, Bosch, han lanzado Adversarial ML Threat Matrix, un marco abierto centrado en la industria para la seguridad. analistas

Esta matriz de amenazas surgió de la asociación con 12 grupos de investigación académicos y de la industria con el objetivo de capacitar a los analistas de seguridad para orientarse hacia estas amenazas nuevas y futuras. El marco está sembrado con un conjunto curado de vulnerabilidades y comportamientos adversarios que Microsoft y MITRE han examinado para que sean efectivos contra los sistemas de ML de producción. Este marco usó ATT&CK como plantilla ya que los analistas de seguridad ya están familiarizados con el uso de este tipo de matriz.

Puede consultar la Matriz de amenazas de ML adversario esta página.

Fuente: Microsoft