Une start-up financée par Microsoft a peut-être utilisé sa technologie de reconnaissance faciale pour la surveillance de masse en Israël

Microsoft a toujours plaidé pour l'utilisation éthique de la technologie de l'IA, tout en vendant la même technologie pour une utilisation douteuse aux gouvernements, arguant que la réglementation devrait découler du processus démocratique plutôt que des préoccupations éthiques des employés et des actionnaires.

De temps en temps, l'hypocrisie de cette position est exposée, et à cette occasion, c'est avec des accusations qu'un Start-up financée par Microsoft, AnyVision, utilise la technologie de reconnaissance faciale de l'IA pour suivre les Palestiniens travaillant en Israël autour de la Cisjordanie.

Selon un reportage de la NBC Anyvision utilise un réseau de milliers de caméras autour de la Cisjordanie pour suivre les mouvements des Palestiniens à l'aide d'un système appelé "Google Ayosh", où "Ayosh" fait référence aux territoires palestiniens occupés et "Google" désigne la capacité de la technologie à rechercher des personnes comme s'il s'agit d'éléments de la recherche Google.

AnyVision a remporté un prix de la défense en Israël en 2018 et a été salué par le ministre israélien de la Défense pour avoir empêché « des centaines d'attaques terroristes » en utilisant « de grandes quantités de données ».

AnyVision admet seulement utiliser sa technologie biométrique pour le contrôle des passages frontaliers et a affirmé que l'entreprise était «l'entreprise la plus éthique connue de l'homme».

A document sur le site Internet du gouvernement israélien, cependant, répertorie les fonctionnalités d'AnyVision Better Tomorrow comme suit :

1.  Reconnaissance faciale Dans la nature : L'inscription des individus n'est pas requise. Tous les individus traversant le champ de vision sont détectés automatiquement sans avoir à être arrêtés ou interrompus. Le système ne nécessite que 45 × 45 pixels pour détecter et reconnaître les visages.
2. One-to-Many : signifie un capteur (CCTV fixe, PTZ, appareil mobile et autres) qui extrait et reconnaît tous les visages dans le champ de vision (vs. la technologie commune qui permet un individu par capteur).
3. Utilisation de la vidéosurveillance existante : utilisation de l'infrastructure de caméras existante (sur site), ne nécessitant aucune caméra spéciale ni mise à niveau de l'infrastructure.
4. Échelle de masse : conçue pour la détection et la reconnaissance en temps réel des foules de masse, avec un temps de détection de 0.2 seconde par base de données jusqu'à 300 millions d'individus.
5. Invariance ethnique : nos réseaux de neurones sont formés pour détecter et reconnaître les visages de diverses ethnies.
6. Obstructions du visage : Invariant aux déguisements, lunettes de soleil, poils du visage, chapeaux, maquillage, etc.
7. Précision et fiabilité : Niveau de précision jusqu'à 99.78 % de taux de vrais positifs et moins d'une fausse alarme positive pour 1 25,000
   personnes.

Microsoft a répondu au rapport en engageant l'ancien procureur général américain Eric Holder pour enquêter si l'utilisation de la technologie de reconnaissance faciale telle que AnyVision Better Tomorrow est conforme à ses principes éthiques.

Microsoft a déclaré à NBC "Microsoft prend ces allégations de surveillance de masse au sérieux car elles violeraient nos principes de reconnaissance faciale."

Selon ces principes, Microsoft « plaiderait en faveur de garanties pour les libertés démocratiques des personnes dans les scénarios de surveillance des forces de l'ordre et ne déploierait pas la technologie de reconnaissance faciale dans les scénarios qui, selon nous, mettraient ces libertés en danger ».

"Si nous découvrons une violation de nos principes, nous mettrons fin à notre relation."

Sur un front plus large, Microsoft a soutenu un projet de loi du Sénat américain qui exigerait une ordonnance du tribunal avant que les forces de l'ordre fédérales puissent utiliser la technologie pour une surveillance ciblée et continue. Neema Singh Guliani, conseillère législative principale de l'American Civil Liberties Union, a toutefois déclaré que le projet de loi "ne parvient malheureusement pas à protéger le droit à la vie privée des personnes".

Microsoft vend actuellement une technologie similaire à AnyVision, mais destinée à la surveillance du lieu de travail, ce qui montre la nature à double tranchant de la technologie.

Il y a eu des rapports récents sur l'utilisation de la technologie de reconnaissance faciale en Chine pour ce qu'on a appelé le racisme automatisé, où des pratiques et des restrictions discriminatoires sont appliquées à la population ouïghoure là-bas en utilisant la technologie de reconnaissance faciale, facilité par les travaux d'universitaires américains en IA, à l'occasion travaillant pour Microsoft.

Nos lecteurs pensent-ils que Microsoft, qui en tête de la liste Forbes des entreprises les plus éthiques, agissent selon leurs principes déclarés ? Faites-le nous savoir ci-dessous.