À medida que o software de reconhecimento facial do consumidor se torna mais onipresente, o apelo da Microsoft por regulamentação parece sensato

Na sexta-feira, a Apple lançará o iPhone XS e XS Max com o XR chegando em outubro. Todos esses telefones participarão do ritual anual de serem elogiados por sua maciez e criticados pelo preço, como de costume. Esses dispositivos também serão lançados com Face ID, uma novidade para a Apple, que anteriormente oferecia apenas FaceID em um dispositivo - o iPhone X. Outros fabricantes de smartphones estão oferecendo rapidamente sistemas de reconhecimento facial em seus próprios dispositivos, desde a faixa intermediária até a mais premium.

Com o passar do tempo, torna-se cada vez mais provável que seu próximo smartphone seja enviado com reconhecimento facial. Se for mais provável que você use laptops com Windows 10, provavelmente também terá alguma forma de reconhecimento facial à medida que o Windows Hello se popularizar. Usar o Facebook? Sua conta do Facebook já possui reconhecimento facial. A empresa está usando isso para combinar os usuários com suas fotos não marcadas. Para o consumidor comum, é mágico em certo sentido, mas também um pouco perturbador. Os redatores de tecnologia costumam explorar os aspectos mágicos do software de reconhecimento facial instalado em todos os nossos dispositivos, mas raramente as possíveis desvantagens. Em outras palavras, o reconhecimento facial está em toda parte, mas ainda não falamos sobre isso – não realmente. Como técnicos, exploramos as partes divertidas do reconhecimento facial, seu telefone desbloqueia super rápido, seu laptop também faz o mesmo. 

Brad Smith, da Microsoft, pediu regulamentação do software de reconhecimento facial pelo Congresso dos EUA no início deste ano, optando por abrir o debate em um movimento atípico de empresas de tecnologia que muitas vezes resistem à perspectiva de uma legislação restritiva e detestam introduzir o tema elas mesmas.

 “A tecnologia de reconhecimento facial levanta questões que vão ao cerne das proteções fundamentais dos direitos humanos, como privacidade e liberdade de expressão”, explicou Smith. Reconhecendo que o software de reconhecimento facial foi usado para muitos cenários de melhoria da qualidade de vida, como os citados acima, ele levantou questões que foram negligenciadas.

“Mas outras aplicações potenciais são mais preocupantes. Imagine um governo rastreando todos os lugares que você andou no mês passado sem sua permissão ou conhecimento. Imagine um banco de dados de todos que participaram de um comício político que constitui a própria essência da liberdade de expressão. Imagine as lojas de um shopping center usando reconhecimento facial para compartilhar informações entre si sobre cada prateleira que você navega e produto que compra, sem perguntar primeiro. Isso tem sido assunto de ficção científica e filmes populares – como “Minority Report”, “Enemy of the State” e até “1984” – mas agora está prestes a se tornar possível.” disse Smith.

Para nós no ano de 2018, não temos que imaginar esse relatório minoritário como sistema. O que precisamos é abrir um jornal. Em países como a China, esses serviços já foram testados. O país vem fazendo uso desse software para informar seu sistema de crédito social que trata da forma como os cidadãos podem interagir com a sociedade em aspectos como moradia, escolaridade e viagens.

“A China planeja lançar um sistema nacional de crédito social até 2020, que manterá um registro da violação das leis pelos cidadãos e afetará diretamente sua capacidade de fazer coisas como obter um empréstimo ou ser contratado para um emprego. De acordo com o South China Morning Post, dispositivos como o sistema de reconhecimento facial de pedestres farão parte dessa rede para acompanhar o número de violações de pedestres e alterar a pontuação de crédito social de uma pessoa de acordo ” Placa-mãe relatada em março.

Nos EUA mais nominalmente livres, os projetos de software de reconhecimento facial da Amazon provocaram a ira dos acionistas, que levantaram preocupações sobre o número de maneiras pelas quais o reconhecimento facial poderia ser abusado pelas autoridades policiais em uma carta aberta.

“Sem políticas de proteção em vigor, parece inevitável que a aplicação dessas tecnologias resultará no uso do Rekognition da Amazon para identificar e deter defensores da democracia.” A carta lida, ” A experiência mostrou que governos repressivos tendem ao encarceramento e tortura de pessoas identificadas que se opõem às práticas repressivas, e as tecnologias de vigilância tenderão a endurecer esse círculo de repressão. O antigo regime de apartheid da África do Sul e seu Bureau of State Security (BOSS) teriam recebido tal tecnologia para aumentar o notório sistema de passe utilizado para controlar a maioria da população africana naquele país.

Por um lado, empresas de tecnologia como a Apple mostraram resistência em dobrar o joelho de segurança para as agências de aplicação da lei, mas ainda não existe uma declaração de direitos que impeça o uso indevido de dados faciais. No momento, a única coisa que mantém seus dados seguros com Facebook, Apple e Microsoft é que eles dizem isso. Na Europa, o GDPR ajuda um pouco, mas só pode ir tão longe. É um acordo de cavalheiros entre você e as empresas em questão.

“Sempre haverá debates sobre os detalhes, e os detalhes importam muito. Mas um mundo com regulamentação vigorosa de produtos úteis, mas potencialmente problemáticos, é melhor do que um mundo desprovido de padrões legais”, escreveu Smith.

Sem essas garantias ou padrões, quem pode impedir que empresas privadas ou governos nos levem a uma distopia como sonâmbulos?