Door Microsoft gefinancierde start-up heeft mogelijk hun gezichtsherkenningstechnologie gebruikt voor massasurveillance in Israël

Microsoft heeft altijd gepleit voor ethisch gebruik van AI-technologie, terwijl het aan de andere kant dezelfde technologie voor dubieus gebruik aan regeringen verkoopt, met het argument dat regulering moet voortkomen uit het democratisch proces in plaats van ethische zorgen van werknemers en aandeelhouders.

Af en toe wordt de hypocrisie van deze positie aan het licht gebracht, en bij deze gelegenheid is het met beschuldigingen dat een... Door Microsoft gefinancierde start-up, AnyVision, gebruikt AI-gezichtsherkenningstechnologie om Palestijnen te volgen die in Israël rond de Westelijke Jordaanoever werken.

Volgens een NBC-rapport Anyvision gebruikt een netwerk van duizenden camera's rond de Westelijke Jordaanoever om de bewegingen van Palestijnen te volgen met behulp van een systeem genaamd "Google Ayosh", waarbij "Ayosh" verwijst naar de bezette Palestijnse gebieden en "Google" het vermogen van de technologie aangeeft om naar mensen te zoeken als als het items zijn op Google Zoeken.

AnyVision won in 2018 de hoogste defensieprijs in Israël en werd geprezen door de Israëlische minister van Defensie voor het voorkomen van "honderden terreuraanslagen" met behulp van "grote hoeveelheden gegevens".

AnyVision geeft alleen toe hun biometrische technologie te gebruiken voor grensoverschrijdingscontrole en beweerde dat het bedrijf het 'meest ethische bedrijf was dat de mensheid kent'.

A document op de website van de Israëlische regeringsomt echter de functies van AnyVision Better Tomorrow op als:

1.  Gezichtsherkenning In het wild: Inschrijven van individuen is niet nodig. Alle personen die door het gezichtsveld gaan, worden automatisch gedetecteerd zonder te worden gestopt of onderbroken. Het systeem heeft slechts 45×45 pixels nodig om gezichten te detecteren en te herkennen.
2. Eén-op-veel: betekent één sensor (vaste CCTV, PTZ, mobiel apparaat en andere) die alle gezichten in het gezichtsveld extraheert en herkent (vs. gemeenschappelijke technologie waarbij één persoon per sensor mogelijk is).
3. Gebruik maken van de bestaande CCTV: gebruikmaken van bestaande (on-premise) camera-infrastructuur, geen speciale camera's of infrastructuurupgrades nodig.
4. Massaschaal: ontworpen voor realtime detectie en herkenning van massale menigten, met een detectietijd van 0.2 seconden per database van maximaal 300 miljoen individuen.
5. Etnische invariantie: onze neurale netten zijn getraind om gezichten van verschillende etniciteiten te detecteren en te herkennen.
6. Gezichtsobstructies: onveranderlijk voor vermommingen, zonnebrillen, gezichtshaar, hoeden, make-up enz.
7. Nauwkeurigheid en betrouwbaarheid: nauwkeurigheidsniveau tot 99.78% waar-positief en minder dan 1 vals-positief alarm per 25,000
   mensen.

Microsoft heeft gereageerd op het rapport door de voormalige Amerikaanse procureur-generaal Eric Holder in te huren om te onderzoeken of het gebruik van gezichtsherkenningstechnologie zoals AnyVision Better Tomorrow in overeenstemming is met haar ethische principes.

Microsoft vertelde NBC: "Microsoft neemt deze beschuldigingen van massale surveillance serieus omdat ze onze gezichtsherkenningsprincipes zouden schenden."

Volgens deze principes zou Microsoft "pleiten voor waarborgen voor de democratische vrijheden van mensen in scenario's voor rechtshandhaving en geen gezichtsherkenningstechnologie inzetten in scenario's waarvan wij denken dat deze deze vrijheden in gevaar brengen."

"Als we een schending van onze principes ontdekken, beëindigen we onze relatie."

Op het bredere front steunde Microsoft een wetsvoorstel van de Amerikaanse senaat dat een gerechtelijk bevel zou vereisen voordat federale wetshandhavers de technologie zouden kunnen gebruiken voor gericht, doorlopend toezicht. Neema Singh Guliani, senior wetgevend raadsman van de American Civil Liberties Union, zei echter dat het wetsvoorstel "de bescherming van de privacyrechten van mensen jammerlijk tekortschiet".

Microsoft verkoopt momenteel echter vergelijkbare technologie als AnyVision, maar is gericht op bewaking van de werkplek, wat de tweesnijdende aard van de technologie aantoont.

Er zijn recente berichten dat in China gezichtsherkenningstechnologie wordt gebruikt voor wat wel geautomatiseerd racisme wordt genoemd, waarbij discriminerende praktijken en beperkingen worden toegepast op de Oeigoeren-bevolking daar met behulp van gezichtsherkenningstechnologie, gefaciliteerd door werk van Amerikaanse AI-academici, bij gelegenheid werken voor Microsoft.

Denken onze lezers dat Microsoft, wie? bovenaan de Forbes-lijst van meest ethische bedrijven, handelen volgens hun gestelde principes? Laat het ons hieronder weten.