Microsoft는 ML 시스템에 대한 위협을 감지하는 개방형 프레임워크를 출시합니다.

머신러닝(ML)은 현재 금융, 의료, 국방 등 다양한 산업 분야에서 활용되고 있습니다. 상용 ML 시스템에 대한 공격이 증가하고 있기 때문에 ML 시스템의 보안은 정말 중요합니다. 실제로 지난 11년 동안 Google, Amazon, Microsoft 및 Tesla와 같은 주요 회사는 ML 시스템을 속이거나 회피하거나 오도했습니다. 보안 분석가가 ML 시스템에 대한 위협을 감지, 대응 및 수정할 수 있도록 하기 위해 MITRE와 함께 Microsoft와 IBM, NVIDIA, Bosch를 포함한 XNUMX개 조직의 기여는 보안을 위한 업계 중심의 개방형 프레임워크인 Adversarial ML Threat Matrix를 출시했습니다. 분석가.

이 위협 매트릭스는 12개의 산업 및 학계 연구 그룹과 협력하여 보안 분석가가 이러한 새롭고 다가오는 위협에 스스로 방향을 잡을 수 있도록 하는 것을 목표로 하고 있습니다. 프레임워크에는 Microsoft와 MITRE가 프로덕션 ML 시스템에 대해 효과적인 것으로 검증한 선별된 일련의 취약점 및 적대적 행동이 시드됩니다. 보안 분석가는 이미 이러한 유형의 매트릭스를 사용하는 데 익숙하기 때문에 이 프레임워크는 ATT&CK를 템플릿으로 사용했습니다.

Adversarial ML Threat Matrix를 확인할 수 있습니다. 여기에서 지금 확인해 보세요..

출처: Microsoft