Alors que les logiciels de reconnaissance faciale grand public deviennent de plus en plus omniprésents, l'appel à la réglementation de Microsoft semble judicieux

Vendredi, Apple lancera l'iPhone XS et XS Max avec le XR à venir en octobre. Tous ces téléphones participeront au rituel annuel d'être félicités pour leur Appleness et critiqués pour le prix, comme d'habitude. Ces appareils seront également tous livrés avec Face ID, une première pour Apple qui n'offrait auparavant FaceID que sur un seul appareil - l'iPhone X. D'autres fabricants de smartphones proposent rapidement des systèmes de reconnaissance faciale sur leurs propres appareils, du milieu de gamme au plus haut de gamme.

Au fil du temps, il devient de plus en plus probable que votre prochain smartphone sera livré avec la reconnaissance faciale. Si vous êtes plus susceptible d'utiliser des ordinateurs portables Windows 10, vous aurez probablement une forme de reconnaissance faciale à mesure que Windows Hello se propage. Utiliser Facebook ? Votre compte Facebook dispose déjà de la reconnaissance faciale. L'entreprise l'utilise pour faire correspondre les utilisateurs à leurs photos non taguées. Pour le consommateur régulier, c'est magique dans un sens, mais aussi un peu troublant. Les rédacteurs techniques explorent souvent les aspects magiques des logiciels de reconnaissance faciale installés sur tous nos appareils, mais rarement les inconvénients potentiels. En d'autres termes, la reconnaissance faciale est partout, mais nous n'en avons pas vraiment parlé – pas vraiment. En tant que techniciens, nous avons exploré les parties amusantes de la reconnaissance faciale, votre téléphone se déverrouille très rapidement, votre ordinateur portable fait de même. 

Brad Smith de Microsoft a appelé à une réglementation des logiciels de reconnaissance faciale par le Congrès américain plus tôt cette année, choisissant d'ouvrir le débat d'une manière inhabituelle pour les entreprises technologiques qui sont souvent réticentes à la perspective d'une législation restrictive et répugnent à introduire elles-mêmes le sujet.

 "La technologie de reconnaissance faciale soulève des questions qui vont au cœur des protections fondamentales des droits de l'homme comme la vie privée et la liberté d'expression", a expliqué Smith. Reconnaissant que les logiciels de reconnaissance faciale étaient utilisés pour de nombreux scénarios d'amélioration de la qualité de vie comme ceux que nous avons cités ci-dessus, il a soulevé des problèmes qui avaient été négligés.

« Mais d'autres applications potentielles donnent à réfléchir. Imaginez un gouvernement traquant partout où vous avez marché au cours du mois dernier sans votre permission ni votre connaissance. Imaginez une base de données de tous ceux qui ont assisté à un rassemblement politique qui constitue l'essence même de la liberté d'expression. Imaginez les magasins d'un centre commercial utilisant la reconnaissance faciale pour partager des informations sur chaque étagère que vous parcourez et sur le produit que vous achetez, sans vous le demander au préalable. Cela a longtemps été le truc de la science-fiction et des films populaires - comme "Minority Report", "Enemy of the State" et même "1984" - mais maintenant c'est sur le point de devenir possible." dit Smith.

Pour nous en 2018, nous n'avons pas à imaginer ce rapport minoritaire comme un système. Ce dont nous avons besoin, c'est d'ouvrir un journal. Dans des pays comme la Chine, de tels services ont déjà été testés. Le pays a utilisé de tels logiciels pour informer son système de crédit social qui gère la façon dont les citoyens peuvent interagir avec la société dans des aspects tels que le logement, la scolarité et les voyages.

« La Chine prévoit de déployer un système national de crédit social d'ici 2020, qui tiendra un registre des violations des lois par les citoyens et affectera directement leur capacité à faire des choses comme obtenir un prêt ou être embauché pour un emploi. Selon le South China Morning Post, des appareils comme le système de reconnaissance faciale de jaywalking feront partie de ce réseau pour suivre le nombre de violations de jaywalking et modifier le score de crédit social d'une personne en conséquence », Carte mère rapportée en Mars.

Aux États-Unis, plus théoriquement libres, les projets de logiciels de reconnaissance faciale d'Amazon ont suscité la colère des actionnaires, qui ont exprimé des inquiétudes quant au nombre de façons dont la reconnaissance faciale pourrait être abusée par les autorités chargées de l'application des lois dans une lettre ouverte.

"Sans politiques de protection en place, il semble inévitable que l'application de ces technologies se traduira par l'utilisation de Rekognition d'Amazon pour identifier et détenir les défenseurs de la démocratie." La lettre lue, « L'expérience a montré que les gouvernements répressifs ont tendance à incarcérer et à torturer des personnes identifiées qui s'opposent aux pratiques répressives, et les technologies de surveillance auront tendance à durcir ce cercle de répression. L'ancien régime d'apartheid d'Afrique du Sud et son Bureau de la sécurité d'État (BOSS) auraient accueilli favorablement une telle technologie pour augmenter le système de laissez-passer notoire utilisé pour contrôler la population africaine majoritaire dans ce pays.

D'une part, les entreprises technologiques comme Apple ont fait preuve de résistance à plier le genou en matière de sécurité pour les forces de l'ordre, mais il n'existe toujours aucune déclaration des droits qui empêche l'utilisation abusive des données faciales. Pour le moment, la seule chose qui protège vos données avec Facebook, Apple et Microsoft, c'est qu'ils le disent. En Europe, le GDPR aide un peu, mais il ne peut pas aller plus loin. C'est un gentleman's agreement entre vous et les entreprises en question.

« Il y aura toujours des débats sur les détails, et les détails comptent beaucoup. Mais un monde avec une réglementation vigoureuse des produits qui sont utiles mais potentiellement troublants vaut mieux qu'un monde dépourvu de normes juridiques », a écrit Smith.

Sans de telles assurances ou normes, qui peut empêcher les entreprises privées ou les gouvernements de nous entraîner en somnambule dans une dystopie ?