Η διαμαρτυρία υπαλλήλων της Microsoft κατά της σύμβασης του HoloLens με τον αμερικανικό στρατό είναι παράλογη

Τον Νοέμβριο του περασμένου έτους, η Microsoft υπέγραψε συμβόλαιο 480 εκατομμυρίων δολαρίων για την παροχή πρωτότυπων συστημάτων επαυξημένης πραγματικότητας στον στρατό των ΗΠΑ για χρήση σε αποστολές μάχης και στην εκπαίδευση. Μια ομάδα εργαζομένων της Microsoft διαμαρτύρεται τώρα για αυτή τη συμφωνία υποστηρίζοντας ότι η Microsoft παρέχει τεχνολογία όπλων στον στρατό. Παρόμοιες διαμαρτυρίες έχουν συμβεί στο παρελθόν στο Amazon και στο Google για τον ίδιο λόγο. Ενώ η Google αποφάσισε να υποχωρήσει από το έργο, η Amazon ανέφερε ξεκάθαρα ότι θα συνεχίσει να παρέχει τεχνολογίες στον στρατό. Προσωπικά πιστεύω ότι αυτού του είδους τα επιχειρήματα από τους υπαλλήλους είναι παράλογα για τους ακόλουθους λόγους:

• Η τεχνολογία είναι ένας ενεργοποιητής, μπορεί να χρησιμοποιηθεί τόσο για καλό όσο και για κακό. Εναπόκειται στον στρατό και την κυβέρνηση πίσω από αυτό να αποφασίσουν πώς θα χρησιμοποιηθεί η τεχνολογία.
• Ναι, η τεχνολογία HoloLens μπορεί να χρησιμοποιηθεί σε πραγματικά σενάρια πολέμου. Αντί να εστιάζετε στους εχθρούς που σκοτώνονται, γιατί δεν σκέφτεστε ζωές που θα σωθούν όταν χρησιμοποιείτε το HoloLens. Οι στρατιώτες μπορούν να χρησιμοποιήσουν την ίδια τεχνολογία AR για να αποφύγουν κινδύνους, να ξεφύγουν από τον κίνδυνο κ.λπ.
• Έχουμε δει αρκετά περιστατικά στο παρελθόν όπου συνελήφθησαν τρομοκράτες χρησιμοποιώντας iPhone, Google Maps, WhatsApp κ.λπ. Δεν μπορείτε να περιμένετε από την Apple, την Google και το Facebook να σταματήσουν να αναπτύσσουν τα προϊόντα τους, καθώς αυτά τα προϊόντα μπορούν να χρησιμοποιηθούν για τρομοκρατικές δραστηριότητες. Οι προγραμματιστές πίσω από τους Χάρτες Google δεν μπορούν να αισθάνονται ένοχοι για το γεγονός ότι οι περισσότερες από τις τρομοκρατικές επιθέσεις μπορεί να σχεδιάζονται χρησιμοποιώντας το προϊόν τους.
• Σκεφτείτε την Boeing, έναν από τους μεγαλύτερους κατασκευαστές εμπορικών αεροσκαφών όπως τα 747, 777 και 787. Εκατομμύρια άνθρωποι χρησιμοποιούν τις πτήσεις τους καθημερινά για να ταξιδέψουν σε όλο τον κόσμο. Η Boeing προμηθεύει επίσης αεροσκάφη στον στρατό για τη μεταφορά στρατιωτικού προσωπικού. Θα ήταν παράλογο αν οι υπάλληλοι της Boeing διαμαρτυρηθούν ότι τα αεροσκάφη που κατασκευάζονται από αυτούς δεν πρέπει να πωλούνται στον στρατό των ΗΠΑ, καθώς μπορεί να χρησιμοποιηθούν για τη μεταφορά στρατιωτών που με τη σειρά τους θα σκοτώσουν τους εχθρούς κατά τη διάρκεια του πολέμου.
• Εάν η Microsoft αναπτύσσει κάποιο είδος βιο-όπλου που θα σκότωνε εκατοντάδες ανθρώπους, τότε τα επιχειρήματα αυτής της ομάδας εργαζομένων μπορεί να είναι έγκυρα. Δεν μπορείτε να συγκρίνετε απευθείας τεχνολογικές πλατφόρμες και όπλα.

Μπορείτε να διαβάσετε την πλήρη επιστολή προς τη Microsoft από μια ομάδα εργαζομένων παρακάτω.

Αγαπητοί Satya Nadella και Brad Smith,

Είμαστε ένας παγκόσμιος συνασπισμός εργαζομένων της Microsoft και αρνούμαστε να δημιουργήσουμε τεχνολογία για πόλεμο και καταπίεση. Ανησυχούμε που η Microsoft εργάζεται για την παροχή τεχνολογίας όπλων στον στρατό των ΗΠΑ, βοηθώντας την κυβέρνηση μιας χώρας να «αυξήσει τη θνησιμότητα» χρησιμοποιώντας εργαλεία που κατασκευάσαμε. Δεν εγγραφήκαμε για την ανάπτυξη όπλων και απαιτούμε να λέμε πώς χρησιμοποιείται η δουλειά μας.

Τον Νοέμβριο, η Microsoft ανέλαβε τη σύμβαση 479 εκατομμυρίων δολαρίων για το Integrated Visual Augmentation System (IVAS) με το Υπουργείο Στρατού των Ηνωμένων Πολιτειών. Ο δηλωμένος στόχος του συμβολαίου είναι «η ταχεία ανάπτυξη, δοκιμή και κατασκευή μιας ενιαίας πλατφόρμας που μπορούν να χρησιμοποιήσουν οι στρατιώτες για να πολεμήσουν, να κάνουν πρόβες και να εκπαιδεύσουν, η οποία παρέχει αυξημένη θνησιμότητα, κινητικότητα και επίγνωση της κατάστασης που είναι απαραίτητη για την επίτευξη υπερταίριασης ενάντια στους σημερινούς και μελλοντικούς αντιπάλους μας». . Η Microsoft σκοπεύει να εφαρμόσει την τεχνολογία επαυξημένης πραγματικότητας HoloLens για αυτόν τον σκοπό. Ενώ η εταιρεία είχε προηγουμένως χορηγήσει άδεια τεχνολογίας στον αμερικανικό στρατό, ποτέ δεν πέρασε τα όρια στην ανάπτυξη όπλων. Με αυτή τη σύμβαση, το κάνει. Η εφαρμογή του HoloLens στο σύστημα IVAS έχει σχεδιαστεί για να βοηθά τους ανθρώπους να σκοτώνουν. Θα αναπτυχθεί στο πεδίο της μάχης και θα λειτουργεί μετατρέποντας τον πόλεμο σε ένα προσομοιωμένο «βιντεοπαιχνίδι», απομακρύνοντας περαιτέρω τους στρατιώτες από το ζοφερό διακύβευμα του πολέμου και την πραγματικότητα της αιματοχυσίας.

Η πρόθεση για βλάβη δεν είναι αποδεκτή χρήση της τεχνολογίας μας.

Απαιτούμε από τη Microsoft:

1) Ακύρωση της σύμβασης IVAS.

2) Σταματήστε την ανάπτυξη οποιασδήποτε και όλων των τεχνολογιών όπλων και σχεδιάστε μια πολιτική αποδεκτής χρήσης για το κοινό που θα διευκρινίζει αυτή τη δέσμευση.

3) Διορίστε μια ανεξάρτητη, εξωτερική επιτροπή αναθεώρησης δεοντολογίας με την εξουσία να επιβάλλει και να επικυρώνει δημόσια τη συμμόρφωση με την αποδεκτή πολιτική χρήσης της.

Αν και υπάρχει μια διαδικασία αναθεώρησης για τη δεοντολογία στην τεχνητή νοημοσύνη, AETHER, είναι αδιαφανής για τους εργαζόμενους της Microsoft και σαφώς δεν είναι αρκετά ισχυρή ώστε να αποτρέψει την ανάπτυξη όπλων, όπως δείχνει η σύμβαση IVAS. Χωρίς μια τέτοια πολιτική, η Microsoft αποτυγχάνει να ενημερώσει τους μηχανικούς της για την πρόθεση του λογισμικού που κατασκευάζει. Μια τέτοια πολιτική θα επέτρεπε επίσης στους εργαζόμενους και στο κοινό να λογοδοτήσουν τη Microsoft.

Η πρόταση του Brad Smith ότι οι εργαζόμενοι που ανησυχούν για την εργασία σε ανήθικα έργα «θα τους επιτρεπόταν να μετακινηθούν σε άλλη εργασία εντός της εταιρείας» αγνοεί το πρόβλημα ότι οι εργαζόμενοι δεν είναι σωστά ενημερωμένοι για τη χρήση της εργασίας τους. Υπάρχουν πολλοί μηχανικοί που συνεισέφεραν στο HoloLens πριν καν υπάρξει αυτό το συμβόλαιο, πιστεύοντας ότι θα χρησιμοποιηθεί για να βοηθήσει αρχιτέκτονες και μηχανικούς να κατασκευάσουν κτίρια και αυτοκίνητα, για να βοηθήσουν να διδάξουν τους ανθρώπους πώς να χειρουργούν ή να παίζουν πιάνο, να ξεπεράσουν τα όρια του παιχνιδιού και για να συνδεθείτε με το Mars Rover (RIP). Αυτοί οι μηχανικοί έχουν πλέον χάσει την ικανότητά τους να λαμβάνουν αποφάσεις για το τι εργάζονται, αντί να βρίσκουν τον εαυτό τους εμπλεκόμενο ως κερδοσκόπους πολέμου.

Οι κατευθυντήριες γραμμές της Microsoft για την προσβασιμότητα και την ασφάλεια υπερβαίνουν και πέρα ​​επειδή νοιαζόμαστε για τους πελάτες μας. Ζητάμε την ίδια προσέγγιση για μια πολιτική ηθικής και αποδεκτής χρήσης της τεχνολογίας μας. Το να κάνουμε τα προϊόντα μας προσβάσιμα σε όλα τα κοινά μας απαιτούσε να είμαστε προορατικοί και αταλάντευτοι όσον αφορά τη συμπερίληψη. Εάν δεν δεσμευθούμε να είμαστε ηθικοί, δεν θα είμαστε. Πρέπει να σχεδιάσουμε την κατάχρηση και τη δυνατότητα πρόκλησης βίας και βλάβης.

Η αποστολή της Microsoft είναι να εξουσιοδοτήσει κάθε άτομο και οργανισμό στον πλανήτη να κάνει περισσότερα. Αλλά σιωπηρά σε αυτή τη δήλωση, πιστεύουμε ότι είναι επίσης η αποστολή της Microsoft να εξουσιοδοτήσει κάθε άτομο και οργανισμό στον πλανήτη να κάνει καλό. Πρέπει επίσης να προσέχουμε ποιους εξουσιοδοτούμε και τι τους δίνουμε τη δυνατότητα να κάνουν. Η επέκταση αυτής της βασικής αποστολής για να συμπεριλάβει τον πόλεμο και να αποδυναμώσει τους υπαλλήλους της Microsoft είναι ανειλικρινής, καθώς «κάθε άτομο» σημαίνει επίσης να μας ενδυναμώνουμε. Ως υπάλληλοι και μέτοχοι δεν θέλουμε να γίνουμε κερδοσκόποι πολέμου. Για το σκοπό αυτό, πιστεύουμε ότι η Microsoft πρέπει να σταματήσει τις δραστηριότητές της για να ενισχύσει την ικανότητα του Στρατού των ΗΠΑ να προκαλεί βλάβη και βία.

Microsoft Workers

Η Microsoft προσέφερε την ακόλουθη δήλωση ως απάντηση στην παραπάνω επιστολή.

«Εξετάσαμε προσεκτικά αυτό το ζήτημα και περιγράψαμε την προοπτική μας σε ένα blog του Οκτωβρίου 2018. Εκτιμούμε πάντα τα σχόλια των εργαζομένων και παρέχουμε πολλούς τρόπους για να ακουστεί η φωνή τους. Μάλιστα, ακούσαμε πολλούς υπαλλήλους όλο το φθινόπωρο. Όπως είπαμε τότε, δεσμευόμαστε να παρέχουμε την τεχνολογία μας στο Υπουργείο Άμυνας των ΗΠΑ, το οποίο περιλαμβάνει τον αμερικανικό στρατό στο πλαίσιο αυτής της σύμβασης. Όπως είπαμε επίσης, θα παραμείνουμε δεσμευμένοι ως ενεργός εταιρικός πολίτης στην αντιμετώπιση των σημαντικών ζητημάτων ηθικής και δημόσιας πολιτικής που σχετίζονται με την τεχνητή νοημοσύνη και τον στρατό.»

Δώστε τις απόψεις σας για αυτό το θέμα στην παρακάτω ενότητα σχολίων.