Protesto de funcionário da Microsoft contra contrato HoloLens com militares dos EUA é absurdo

Em novembro do ano passado, a Microsoft assinou um contrato de $ 480 milhões fornecer protótipos de sistemas de realidade aumentada para o Exército dos EUA para uso em missões de combate e treinamento. Um grupo de funcionários da Microsoft está agora protestando contra este acordo alegando que a Microsoft está fornecendo tecnologia de armas para o exército. Protestos semelhantes aconteceram no passado dentro da Amazon e do Google pelo mesmo motivo. Enquanto o Google decidiu recuar do projeto, a Amazon mencionou claramente que continuará fornecendo tecnologias ao exército. Pessoalmente, acho absurdo esse tipo de argumento dos funcionários pelos seguintes motivos:

• A tecnologia é um facilitador, pode ser usada tanto para o bem quanto para o mal. Cabe ao exército e ao governo por trás dele decidir como a tecnologia deve ser usada.
• Sim, a tecnologia HoloLens pode ser usada em cenários de guerra reais. Em vez de se concentrar em inimigos sendo mortos, por que você não pensa em vidas que serão salvas ao usar o HoloLens. Os soldados podem usar a mesma tecnologia AR para evitar riscos, escapar do perigo, etc.
• Já vimos vários incidentes no passado em que terroristas foram pegos usando iPhone, Google Maps, WhatsApp, etc. Você não pode esperar que a Apple, o Google e o Facebook parem de desenvolver seus produtos, pois esses produtos podem ser usados ​​para atividades terroristas. Os desenvolvedores por trás do Google Maps não podem se sentir culpados pelo fato de que a maioria dos ataques terroristas pode ser planejada usando seu produto.
• Considere a Boeing, uma das maiores fabricantes de jatos comerciais, como o 747, 777 e 787. Milhões de pessoas usam seus voos todos os dias para viajar pelo mundo. A Boeing também fornece veículos aéreos ao exército para o transporte de pessoal do exército. Seria absurdo se os funcionários da Boeing protestassem que os jatos fabricados por eles não deveriam ser vendidos ao exército dos EUA, pois podem ser usados ​​para transportar soldados que, por sua vez, matarão inimigos durante a guerra.
• Se a Microsoft está desenvolvendo algum tipo de arma biológica que mataria centenas de pessoas, então os argumentos desse grupo de funcionários podem ser válidos. Você não pode comparar diretamente plataformas de tecnologia e armas.

Você pode ler a carta completa para a Microsoft de um grupo de funcionários abaixo.

Caros Satya Nadella e Brad Smith,

Somos uma coalizão global de funcionários da Microsoft e nos recusamos a criar tecnologia para guerra e opressão. Estamos alarmados com o fato de a Microsoft estar trabalhando para fornecer tecnologia de armas para as Forças Armadas dos EUA, ajudando o governo de um país a “aumentar a letalidade” usando ferramentas que construímos. Não nos inscrevemos para desenvolver armas e exigimos uma opinião sobre como nosso trabalho é usado.

Em novembro, a Microsoft recebeu o contrato de US$ 479 milhões do Integrated Visual Augmentation System (IVAS) com o Departamento do Exército dos Estados Unidos. O objetivo declarado do contrato é “desenvolver, testar e fabricar rapidamente uma única plataforma que os soldados podem usar para lutar, ensaiar e treinar que fornece maior letalidade, mobilidade e consciência situacional necessária para superar nossos adversários atuais e futuros”. . A Microsoft pretende aplicar sua tecnologia de realidade aumentada HoloLens para esse fim. Embora a empresa já tenha licenciado tecnologia para as Forças Armadas dos EUA, nunca cruzou a linha do desenvolvimento de armas. Com este contrato, sim. A aplicação do HoloLens no sistema IVAS foi projetada para ajudar as pessoas a matar. Ele será implantado no campo de batalha e funciona transformando a guerra em um “videogame” simulado, distanciando ainda mais os soldados das apostas sombrias da guerra e da realidade do derramamento de sangue.

A intenção de prejudicar não é um uso aceitável de nossa tecnologia.

Exigimos que a Microsoft:

1) Cancelar o contrato de IVAS;

2) Cessar o desenvolvimento de toda e qualquer tecnologia de armas e redigir uma política de uso aceitável voltada para o público esclarecendo esse compromisso;

3) Nomear um conselho de revisão ética externa e independente com o poder de impor e validar publicamente a conformidade com sua política de uso aceitável.

Embora exista um processo de revisão para a ética em IA, AETHER, é opaco para os trabalhadores da Microsoft e claramente não robusto o suficiente para impedir o desenvolvimento de armas, como demonstra o contrato IVAS. Sem essa política, a Microsoft não informa seus engenheiros sobre a intenção do software que estão construindo. Tal política também permitiria aos trabalhadores e ao público responsabilizar a Microsoft.

A sugestão de Brad Smith de que os funcionários preocupados em trabalhar em projetos antiéticos “seriam autorizados a mudar para outro trabalho dentro da empresa” ignora o problema de que os trabalhadores não são devidamente informados sobre o uso de seu trabalho. Há muitos engenheiros que contribuíram para o HoloLens antes mesmo deste contrato existir, acreditando que ele seria usado para ajudar arquitetos e engenheiros a construir prédios e carros, ajudar a ensinar as pessoas a realizar cirurgias ou tocar piano, ultrapassar os limites dos jogos e para se conectar com o Mars Rover (RIP). Esses engenheiros agora perderam a capacidade de tomar decisões sobre em que trabalham, encontrando-se envolvidos como aproveitadores da guerra.

As diretrizes da Microsoft sobre acessibilidade e segurança vão além porque nos preocupamos com nossos clientes. Pedimos a mesma abordagem para uma política de ética e uso aceitável de nossa tecnologia. Tornar nossos produtos acessíveis a todos os públicos exigiu que sejamos proativos e inabaláveis ​​em relação à inclusão. Se não fizermos o mesmo compromisso de ser éticos, não seremos. Devemos projetar contra o abuso e o potencial de causar violência e danos.

A missão da Microsoft é capacitar cada pessoa e organização do planeta a fazer mais. Mas, implícito nessa declaração, acreditamos que também é missão da Microsoft capacitar todas as pessoas e organizações do planeta a fazer o bem. Também precisamos estar atentos a quem estamos capacitando e o que estamos capacitando-os a fazer. Estender essa missão central para abranger a guerra e desempoderar os funcionários da Microsoft é falso, pois “toda pessoa” também significa nos capacitar. Como funcionários e acionistas, não queremos nos tornar aproveitadores da guerra. Para esse fim, acreditamos que a Microsoft deve interromper suas atividades para fortalecer a capacidade do Exército dos EUA de causar danos e violência.

Trabalhadores da Microsoft

A Microsoft ofereceu a seguinte declaração em resposta à carta acima.

“Demos uma consideração cuidadosa a essa questão e descrevemos nossa perspectiva em um blog de outubro de 2018. Sempre apreciamos o feedback dos funcionários e fornecemos muitos caminhos para que suas vozes sejam ouvidas. Na verdade, ouvimos muitos funcionários durante o outono. Como dissemos na época, estamos comprometidos em fornecer nossa tecnologia ao Departamento de Defesa dos EUA, que inclui o Exército dos EUA sob este contrato. Como também dissemos, permaneceremos engajados como cidadãos corporativos ativos na abordagem das importantes questões éticas e de políticas públicas relacionadas à IA e às forças armadas”.

Por favor, forneça suas opiniões sobre este assunto na seção de comentários abaixo.