Microsoft는 일부 AI 서비스에 대한 액세스를 제한합니다.

인공 지능은 기술의 미래를 쥐고 있지만 잘못된 손에는 많은 사람들이 문제를 일으킬 수 있습니다. 이것이 Microsoft가 새로운 제한된 액세스 정책을 도입한 Responsible AI Standard의 일부 변경 사항을 발표한 이유입니다. 21월 XNUMX일 일부 게시물에서 회사는 이제 AI를 사용하는 일부 서비스를 제거하고 액세스를 제한할 것이라고 밝혔습니다. 특히 이러한 정책 변경은 Microsoft의 Azure 얼굴 얼굴 인식 서비스 및 Custom Neural Voice에 영향을 미칩니다.

이번 변경으로 크게 영향을 받을 기능 중 하나는 개인의 감정 상태를 추론하고 성별, 나이, 미소, 수염, 머리카락, 메이크업과 같은 다양한 인간 속성을 인식하도록 설계된 논란의 여지가 있는 얼굴 분석 기술입니다. 마이크로소프트는 개인 정보 보호에 대한 우려와 "감정" 개념의 정의에 대한 과학적 합의가 결여된 이후에 이러한 조치를 취했다고 밝혔습니다. 

Azure AI 수석 그룹 제품 관리자인 Sarah Bird는 "우리는 이 기술의 한계와 잠재적 이점을 이해하고 절충안을 탐색하기 위해 내부 및 외부 연구원과 협력했습니다."라고 말했습니다. "특히 감정 분류의 경우 이러한 노력은 개인 정보 보호, "감정"의 정의에 대한 합의 부족, 사용 사례, 지역 및 인구 통계 전반에 걸쳐 표정과 감정 상태 간의 연관성을 일반화할 수 없음에 대한 중요한 질문을 제기했습니다. . 민감한 속성을 예측하는 기능에 대한 API 액세스는 고정관념, 차별 또는 부당한 서비스 거부를 포함하여 오용될 수 있는 다양한 방법을 제공합니다."

이와 같이 회사 발표 이미 21월 30일부터 신규 고객에 대해 속성 감지 기능을 사용할 수 없도록 설정했으며, 기존 고객에 대해서는 같은 달 XNUMX일에 중단할 예정입니다. 그럼에도 불구하고 Microsoft는 "이러한 기능이 일련의 제어된 액세스 가능성 시나리오에 사용될 때 유용할 수 있음을 인식합니다."라고 말합니다. 이와 함께 이러한 기능을 지속적으로 제공하는 것은 예외입니다. 장애인을 위해 설계된 응용 프로그램, AI를 보는 것처럼.

한편 마이크로소프트는 애저 페이스 API, 컴퓨터 비전, 비디오 인덱서의 안면 인식 서비스에 대한 접근을 신청자에게만 제한할 예정이다. Microsoft가 도입한 제한된 액세스 정책에 따라 고객은 작업에 액세스하려면 사용 사례 및 고객 자격 요구 사항을 통과해야 합니다. 현재 고객은 30년(2023년 XNUMX월 XNUMX일까지) 동안 얼굴 인식 서비스를 계속 신청하고 승인할 수 있습니다. 한편 흐림, 노출, 안경, 머리 자세, 랜드마크, 노이즈, 폐색 및 얼굴 경계 상자를 감지하는 데 사용되는 다른 얼굴 감지 기능은 애플리케이션 없이 계속 사용할 수 있습니다. Bird에 따르면 이 새로운 프로세스는 Microsoft가 “얼굴 인식의 사용 및 배포에 대한 추가 조사 계층을 추가하여 이러한 서비스의 사용이 Microsoft의 책임 있는 AI 표준과 일치하고 고가치 최종 사용자 및 사회적 이익에 기여하도록 하는 데 도움이 될 것입니다. "

마지막으로 Microsoft의 Custom Neural Voice 기능은 오용 가능성으로부터 보호하기 위해 몇 가지 제한 사항에 직면하게 됩니다. "Custom Neural Voice에서 배운 것을 기반으로 우리는 유사한 제어를 안면 인식 서비스에 적용할 것입니다."라고 최고 책임 AI 책임자인 나타샤 크램튼(Natasha Crampton)은 별도의 보고서에서 다음과 같이 말했습니다. 블로그 게시물. "기존 고객에 대한 전환 기간이 지나면 이러한 서비스에 대한 액세스를 관리 고객 및 파트너로 제한하고 사용 사례를 사전 정의된 허용 가능한 사례로 좁히고 서비스에 설계된 기술 제어를 활용합니다."