Microsoft phát hành một khuôn khổ mở để phát hiện các mối đe dọa chống lại hệ thống ML

Máy học (ML) hiện được sử dụng trong nhiều ngành khác nhau bao gồm tài chính, chăm sóc sức khỏe và quốc phòng. Kể từ khi các cuộc tấn công vào các hệ thống ML thương mại ngày càng tăng, bảo mật của hệ thống ML thực sự quan trọng. Trên thực tế, trong ba năm qua, các công ty lớn như Google, Amazon, Microsoft và Tesla, đã bị lừa, trốn tránh hoặc đánh lừa hệ thống ML của họ. Để trao quyền cho các nhà phân tích bảo mật phát hiện, đối phó và khắc phục các mối đe dọa chống lại các hệ thống ML, Microsoft cùng với MITER và sự đóng góp từ 11 tổ chức bao gồm IBM, NVIDIA, Bosch, đã phát hành Adversarial ML Threat Matrix, một khuôn khổ mở tập trung vào ngành bảo mật các nhà phân tích.

Ma trận mối đe dọa này được hợp tác với 12 nhóm nghiên cứu trong ngành và học thuật với mục tiêu trao quyền cho các nhà phân tích bảo mật để tự định hướng cho những mối đe dọa mới và sắp tới này. Khung công tác được gieo mầm với một tập hợp các lỗ hổng bảo mật và các hành vi đối thủ đã được kiểm duyệt mà Microsoft và MITER đã kiểm tra để có hiệu quả chống lại các hệ thống ML sản xuất. Khung này sử dụng ATT & CK làm khuôn mẫu vì các nhà phân tích bảo mật đã quen với việc sử dụng loại ma trận này.

Bạn có thể xem Ma trận mối đe dọa ML đối phương tại đây.

nguồn: microsoft