Start-up financiada pela Microsoft pode ter usado sua tecnologia de reconhecimento facial para vigilância em massa em Israel

A Microsoft sempre defendeu o uso ético da tecnologia de IA, enquanto, por outro lado, vende a mesma tecnologia para uso duvidoso aos governos, argumentando que a regulamentação deve resultar do processo democrático e não de preocupações éticas de funcionários e acionistas.

De vez em quando a hipocrisia desta posição é exposta e, nesta ocasião, é com acusações que um Start-up financiada pela Microsoft, AnyVision, está usando a tecnologia de reconhecimento facial de IA para rastrear palestinos que trabalham em Israel na Cisjordânia.

Segundo reportagem da NBC Anyvision usa uma rede de milhares de câmeras ao redor da Cisjordânia para rastrear o movimento de palestinos usando um sistema chamado “Google Ayosh”, onde “Ayosh” se refere aos territórios palestinos ocupados e “Google” denota a capacidade da tecnologia de procurar pessoas como se forem itens na pesquisa do Google.

A AnyVision ganhou o principal prêmio de defesa em Israel em 2018 e foi elogiada pelo ministro da Defesa de Israel por prevenir “centenas de ataques terroristas” usando “grandes quantidades de dados”.

A AnyVision só admite usar sua tecnologia biométrica para controle de passagem de fronteira e afirmou que a empresa era a “empresa mais ética conhecida pelo homem”.

A documento no site do governo de Israel, no entanto, lista os recursos do AnyVision Better Tomorrow como:

1.  Reconhecimento facial Na natureza: Não é necessária a inscrição de indivíduos. Todos os indivíduos que passam pelo campo de visão são detectados automaticamente sem precisar ser parados ou interrompidos. O sistema requer apenas 45×45 pixels para detectar e reconhecer rostos.
2. One-to-Many: significa um sensor (CFTV fixo, PTZ, dispositivo móvel e outros) que extrai e reconhece todos os rostos no campo de visão (vs. tecnologia comum que permite um indivíduo por sensor).
3. Utilizando o CFTV existente: usando a infraestrutura de câmeras existente (no local), não exigindo câmeras especiais ou atualizações de infraestrutura.
4. Escala de massa: Projetado para detecção e reconhecimento de multidões em massa em tempo real, com tempo de detecção de 0.2 segundos por banco de dados de até 300 milhões de indivíduos.
5. Invariância étnica: Nossas redes neurais são treinadas para detectar e reconhecer rostos de várias etnias.
6. Obstruções de rosto: Invariável a disfarces, óculos de sol, barba, chapéus, maquiagem etc.
7. Precisão e confiabilidade: Nível de precisão de até 99.78% de taxa de verdadeiro positivo e menos de 1 alarme falso positivo por 25,000
   pessoas.

A Microsoft respondeu ao relatório ao contratar o ex-procurador-geral dos EUA Eric Holder para investigar se o uso de tecnologia de reconhecimento facial como AnyVision Better Tomorrow está em conformidade com seus princípios éticos.

A Microsoft disse à NBC que “a Microsoft leva a sério essas alegações de vigilância em massa porque elas violariam nossos princípios de reconhecimento facial”.

De acordo com esses princípios, a Microsoft “defenderia salvaguardas para as liberdades democráticas das pessoas em cenários de vigilância da aplicação da lei e não implantaria tecnologia de reconhecimento facial em cenários que acreditamos colocar essas liberdades em risco”.

“Se descobrirmos qualquer violação de nossos princípios, encerraremos nosso relacionamento.”

Na frente mais ampla, a Microsoft apoiou um projeto de lei do Senado dos EUA que exigiria uma ordem judicial antes que a polícia federal pudesse usar a tecnologia para vigilância direcionada e contínua. Neema Singh Guliani, conselheira legislativa sênior da União Americana das Liberdades Civis, no entanto, disse que o projeto de lei “fica muito aquém de proteger os direitos de privacidade das pessoas”.

A Microsoft atualmente vende tecnologia semelhante à AnyVision, mas direcionada à vigilância no local de trabalho, mostrando a natureza de dois gumes da tecnologia.

Houve relatos recentes de tecnologia de reconhecimento facial sendo usada na China para o que foi chamado de racismo automatizado, onde práticas e restrições discriminatórias estão sendo aplicadas à população uigure usando tecnologia de reconhecimento facial, facilitado pelo trabalho de acadêmicos de IA dos EUA, ocasionalmente trabalhando para a Microsoft.

Nossos leitores acham que a Microsoft, que liderou a lista da Forbes das empresas mais éticas, estão agindo de acordo com seus princípios declarados? Deixe-nos saber abaixo.