Microsoft limita o acesso a alguns de seus serviços de IA

A inteligência artificial detém o futuro da tecnologia, mas nas mãos erradas, pode causar problemas para muitos. É por isso que a Microsoft anunciou algumas mudanças em seu padrão de IA responsável, onde introduziu uma nova política de acesso limitado. Em algumas postagens em 21 de junho, a empresa diz que agora removerá e limitará o acesso a alguns de seus serviços usando IA. Em particular, essas alterações de política afetarão o serviço de reconhecimento facial Azure Face da Microsoft e o Custom Neural Voice.

Um dos recursos que será bastante afetado por essa mudança é a controversa tecnologia de análise facial projetada para inferir o estado emocional de um indivíduo e reconhecer diferentes atributos humanos, como sexo, idade, sorriso, barba, cabelo e maquiagem. A Microsoft diz que a mudança ocorreu após algumas preocupações com a privacidade e a falta de consenso científico sobre a definição do conceito de “emoção”. 

“Colaboramos com pesquisadores internos e externos para entender as limitações e os benefícios potenciais dessa tecnologia e navegar pelas compensações”, afirmou Sarah Bird, gerente de produto do Grupo Principal de IA do Azure. “No caso da classificação de emoções especificamente, esses esforços levantaram questões importantes sobre privacidade, a falta de consenso sobre uma definição de “emoções” e a incapacidade de generalizar a ligação entre expressão facial e estado emocional em casos de uso, regiões e dados demográficos. . O acesso da API a recursos que preveem atributos confidenciais também abre uma ampla gama de maneiras de uso indevido, incluindo submeter pessoas a estereótipos, discriminação ou negação injusta de serviços.”

Como tal, a empresa anunciou que já tornou o recurso de detecção de atributos indisponível em 21 de junho para novos clientes, enquanto será descontinuado para clientes atuais no dia 30 do mesmo mês. No entanto, a Microsoft diz que “reconhece que esses recursos podem ser valiosos quando usados ​​para um conjunto de cenários de acessibilidade controlados”. Com isso, está abrindo uma exceção para oferecer continuamente esses recursos em aplicativos projetados para pessoas com deficiência, como Vendo IA.

Por outro lado, a Microsoft limitará o acesso aos seus serviços de reconhecimento facial no Azure Face API, Computer Vision e Video Indexer para aqueles que os solicitarem. De acordo com a política de acesso limitado que a Microsoft introduziu, os clientes terão que passar no caso de uso e nos requisitos de qualificação do cliente para obter acesso às operações. Os clientes atuais terão um ano (até 30 de junho de 2023) para se inscreverem e serem aprovados para continuarem os serviços de reconhecimento facial. Enquanto isso, outros recursos de detecção facial usados ​​para detectar desfoque, exposição, óculos, pose da cabeça, pontos de referência, ruído, oclusão e caixa delimitadora facial permanecerão disponíveis sem aplicação. De acordo com Bird, esse novo processo ajudará a Microsoft a “adicionar uma camada adicional de escrutínio ao uso e implantação de reconhecimento facial para garantir que o uso desses serviços esteja alinhado com o padrão de IA responsável da Microsoft e contribua para o usuário final de alto valor e o benefício social. ”

Por fim, o recurso de Voz Neural Personalizada da Microsoft também enfrentará algumas restrições para protegê-lo contra possível uso indevido. “Com base no que aprendemos com o Custom Neural Voice, aplicaremos controles semelhantes aos nossos serviços de reconhecimento facial”, escreve a diretora de IA responsável, Natasha Crampton, em um comunicado separado. no blog. “Após um período de transição para os clientes existentes, estamos limitando o acesso a esses serviços a clientes e parceiros gerenciados, estreitando os casos de uso para os aceitáveis ​​predefinidos e aproveitando os controles técnicos projetados nos serviços.”