Protest van Microsoft-medewerkers tegen HoloLens-contract met Amerikaanse leger is absurd

Terug in november vorig jaar, Microsoft ondertekende een contract van $ 480 miljoen om prototype augmented reality-systemen te leveren aan het Amerikaanse leger voor gebruik bij gevechtsmissies en in training. Een groep Microsoft-medewerkers protesteert nu tegen deze deal en beweert dat Microsoft wapentechnologie levert aan het leger. Om dezelfde reden zijn er in het verleden soortgelijke protesten geweest binnen Amazon en Google. Terwijl Google besloot terug te keren van het project, zei Amazon duidelijk dat ze technologieën aan het leger zullen blijven leveren. Persoonlijk vind ik dit soort argumenten van werknemers absurd om de volgende redenen:

• Technologie is een enabler, het kan zowel ten goede als ten kwade worden gebruikt. Het is aan het leger en de regering erachter om te beslissen hoe de technologie moet worden gebruikt.
• Ja, HoloLens-technologie kan worden gebruikt in echte oorlogsscenario's. In plaats van je te concentreren op het doden van vijanden, waarom denk je niet eens aan levens die gered zullen worden bij het gebruik van HoloLens. Soldaten kunnen dezelfde AR-technologie gebruiken om risico's te vermijden, aan gevaar te ontsnappen, enz.
• We hebben in het verleden verschillende incidenten gezien waarbij terroristen werden betrapt op het gebruik van iPhone, Google Maps, WhatsApp, enz. Je kunt niet verwachten dat Apple, Google en Facebook stoppen met het ontwikkelen van hun producten, aangezien die producten kunnen worden gebruikt voor terroristische activiteiten. De ontwikkelaars achter Google Maps kunnen zich niet schuldig voelen over het feit dat de meeste terroristische aanslagen met hun product kunnen worden gepland.
• Denk aan Boeing, een van de grootste fabrikanten van commerciële straalvliegtuigen zoals de 747, 777 en 787. Miljoenen mensen gebruiken hun vluchten elke dag om over de hele wereld te reizen. Boeing levert ook luchtvoertuigen aan het leger voor het vervoer van legerpersoneel. Het zou absurd zijn als Boeing-medewerkers protesteren dat de door hen vervaardigde straalvliegtuigen niet aan het Amerikaanse leger mogen worden verkocht, omdat ze kunnen worden gebruikt om soldaten te vervoeren die op hun beurt vijanden zullen doden tijdens oorlog.
• Als Microsoft een soort biowapen ontwikkelt dat honderden mensen zou doden, dan kunnen de argumenten van deze groep werknemers valide zijn. Je kunt technologieplatforms en wapens niet direct vergelijken.

Hieronder kunt u de volledige brief aan Microsoft van een groep medewerkers lezen.

Beste Satya Nadella en Brad Smith,

We zijn een wereldwijde coalitie van Microsoft-werkers en we weigeren technologie te creëren voor oorlogvoering en onderdrukking. We zijn verontrust dat Microsoft eraan werkt om wapentechnologie te leveren aan het Amerikaanse leger en de regering van een land te helpen de dodelijkheid te verhogen met behulp van tools die we hebben gebouwd. We hebben ons niet aangemeld om wapens te ontwikkelen en we eisen inspraak in hoe ons werk wordt gebruikt.

In november kreeg Microsoft het contract voor een Integrated Visual Augmentation System (IVAS) van 479 miljoen dollar met het Amerikaanse ministerie van leger. Het verklaarde doel van het contract is om "snel een enkel platform te ontwikkelen, testen en produceren dat soldaten kunnen gebruiken om te vechten, repeteren en trainen dat zorgt voor meer dodelijkheid, mobiliteit en situationeel bewustzijn dat nodig is om overmatch te bereiken tegen onze huidige en toekomstige tegenstanders." . Microsoft is voornemens haar HoloLens augmented reality-technologie hiervoor toe te passen. Hoewel het bedrijf eerder technologie in licentie heeft gegeven aan het Amerikaanse leger, is het nooit de grens overgegaan in de ontwikkeling van wapens. Met dit contract wel. De toepassing van HoloLens binnen het IVAS-systeem is bedoeld om mensen te helpen doden. Het zal worden ingezet op het slagveld en werkt door oorlogvoering te veranderen in een gesimuleerd 'videospel', waardoor soldaten verder worden verwijderd van de grimmige inzet van oorlog en de realiteit van bloedvergieten.

De intentie om schade te berokkenen is geen acceptabel gebruik van onze technologie.

We eisen dat Microsoft:

1) het IVAS-contract opzeggen;

2) Stop met het ontwikkelen van alle wapentechnologieën en stel een publieksgericht beleid voor acceptabel gebruik op waarin deze verbintenis wordt verduidelijkt;

3) Stel een onafhankelijke, externe ethische beoordelingsraad aan met de bevoegdheid om naleving van het beleid voor acceptabel gebruik af te dwingen en publiekelijk te valideren.

Hoewel er een beoordelingsproces bestaat voor ethiek in AI, AETHER, is het ondoorzichtig voor Microsoft-medewerkers en duidelijk niet robuust genoeg om wapenontwikkeling te voorkomen, zoals het IVAS-contract aantoont. Zonder een dergelijk beleid informeert Microsoft zijn technici niet over de bedoeling van de software die ze bouwen. Een dergelijk beleid zou werknemers en het publiek ook in staat stellen Microsoft ter verantwoording te roepen.

De suggestie van Brad Smith dat werknemers die zich zorgen maken over het werken aan onethische projecten "zou mogen verhuizen naar ander werk binnen het bedrijf", gaat voorbij aan het probleem dat werknemers niet goed worden geïnformeerd over het gebruik van hun werk. Er zijn veel ingenieurs die hebben bijgedragen aan HoloLens voordat dit contract zelfs maar bestond, in de overtuiging dat het zou worden gebruikt om architecten en ingenieurs te helpen bij het bouwen van gebouwen en auto's, om mensen te helpen operaties uit te voeren of piano te spelen, om de grenzen van gamen te verleggen, en om verbinding te maken met de Mars Rover (RIP). Deze ingenieurs hebben nu hun vermogen verloren om beslissingen te nemen over waar ze aan werken, in plaats daarvan worden ze betrokken als oorlogsprofiteurs.

De richtlijnen van Microsoft op het gebied van toegankelijkheid en beveiliging gaan verder omdat we om onze klanten geven. We vragen om dezelfde benadering van een beleid inzake ethiek en acceptabel gebruik van onze technologie. Om onze producten voor alle doelgroepen toegankelijk te maken, moesten we proactief en standvastig zijn ten aanzien van inclusie. Als we niet dezelfde toezegging doen om ethisch te zijn, zullen we dat ook niet zijn. We moeten ontwerpen tegen misbruik en het potentieel om geweld en schade te veroorzaken.

De missie van Microsoft is om elke persoon en organisatie op de planeet in staat te stellen meer te doen. Maar impliciet in die verklaring geloven we dat het ook de missie van Microsoft is om elke persoon en organisatie op de planeet in staat te stellen goed te doen. We moeten ons ook bewust zijn van wie we machtigen en waartoe we hen in staat stellen. Het uitbreiden van deze kernmissie om oorlogvoering te omvatten en Microsoft-medewerkers te ontwapenen, is oneerlijk, omdat "iedere persoon" ook betekent dat we ons in staat stellen. Als werknemers en aandeelhouders willen we geen oorlogsprofiteurs worden. Daarom zijn we van mening dat Microsoft moet stoppen met zijn activiteiten om het vermogen van het Amerikaanse leger om schade en geweld te veroorzaken, te versterken.

Microsoft-werknemers

Microsoft deed de volgende verklaring in antwoord op de bovenstaande brief.

“We hebben deze kwestie zorgvuldig overwogen en ons perspectief uiteengezet in een blog van oktober 2018. We stellen feedback van medewerkers altijd op prijs en bieden veel mogelijkheden om hun stem te laten horen. Sterker nog, we hebben het hele najaar van veel medewerkers gehoord. Zoals we toen zeiden, zijn we vastbesloten om onze technologie te leveren aan het Amerikaanse ministerie van Defensie, waaronder het Amerikaanse leger valt onder dit contract. Zoals we ook hebben gezegd, blijven we betrokken als een actieve bedrijfsburger bij het aanpakken van de belangrijke ethische en openbare beleidskwesties met betrekking tot AI en het leger."

Geef uw mening over dit probleem in de opmerkingen hieronder.