Nu gezichtsherkenningssoftware voor consumenten steeds alomtegenwoordiger wordt, lijkt de oproep van Microsoft tot regulering verstandig

Op vrijdag brengt Apple de iPhone XS en XS Max uit en de XR komt in oktober. Al deze telefoons zullen zoals gewoonlijk deelnemen aan het jaarlijkse ritueel om geprezen te worden voor hun Appleness en bekritiseerd voor de prijs. Deze apparaten worden ook allemaal geleverd met Face ID, een primeur voor Apple die FaceID voorheen alleen op één apparaat aanbood: de iPhone X. Andere smartphonefabrikanten bieden snel gezichtsherkenningssystemen aan op hun eigen apparaten, van de middenklasse tot de meest premium.

Naarmate de tijd verstrijkt, wordt het steeds waarschijnlijker dat uw volgende smartphone wordt geleverd met gezichtsherkenning. Als je meer kans hebt om Windows 10-laptops te gebruiken, heb je er waarschijnlijk ook een vorm van gezichtsherkenning op, aangezien Windows Hello aanslaat. Facebook gebruiken? Je Facebook-account heeft al gezichtsherkenning. Het bedrijf gebruikt het om gebruikers te koppelen aan hun niet-getagde foto's. Voor de gewone consument is het in zekere zin magisch, maar ook een beetje verontrustend. Technische schrijvers onderzoeken vaak de magische aspecten van gezichtsherkenningssoftware die op al onze apparaten wordt geïnstalleerd, maar zelden de mogelijke nadelen. Met andere woorden, gezichtsherkenning is overal, maar we hebben er niet echt over gesproken - niet echt. Als techneuten hebben we de leuke kanten van gezichtsherkenning verkend, je telefoon ontgrendelt supersnel en je laptop doet hetzelfde. 

Brad Smith van Microsoft heeft opgeroepen tot regulering van gezichtsherkenningssoftware door het Amerikaanse Congres eerder dit jaar, die ervoor koos om het debat te openen op een manier die niet kenmerkend is voor technologiebedrijven die vaak resistent zijn tegen het vooruitzicht van beperkende wetgeving en een hekel hebben om het onderwerp zelf te introduceren.

 "Gezichtsherkenningstechnologie roept problemen op die de kern raken van fundamentele mensenrechtenbeschermingen, zoals privacy en vrijheid van meningsuiting", legt Smith uit. Erkennend dat gezichtsherkenningssoftware werd gebruikt voor veel scenario's die de kwaliteit van het leven verbeteren, zoals de hierboven genoemde ines, bracht hij problemen aan de orde die over het hoofd waren gezien.

“Maar andere mogelijke toepassingen zijn ontnuchtiger. Stelt u zich eens voor dat een overheid overal waar u de afgelopen maand heeft gelopen, volgt zonder uw toestemming of medeweten. Stel je een database voor van iedereen die een politieke bijeenkomst bijwoonde die de essentie vormt van de vrijheid van meningsuiting. Stelt u zich eens voor dat de winkels van een winkelcentrum gezichtsherkenning gebruiken om informatie met elkaar te delen over elk schap dat u bekijkt en het product dat u koopt, zonder u eerst te vragen. Dit is al lang het spul van sciencefiction en populaire films - zoals "Minority Report", "Enemy of the State" en zelfs "1984" - maar nu staat het op het punt om mogelijk te worden." zei Smit.

Voor ons anno 2018 hoeven we ons dit minderheidsrapport-achtige systeem niet voor te stellen. Wat we nodig hebben, is een krant openen. In landen als China zijn dergelijke diensten al uitgeprobeerd. Het land maakt gebruik van dergelijke software om zijn sociale kredietsysteem te informeren dat de manier regelt waarop burgers met de samenleving kunnen omgaan op het gebied van huisvesting, scholing en reizen.

“China is van plan om tegen 2020 een nationaal sociaal kredietsysteem uit te rollen, dat de overtredingen van wetten door burgers zal registreren en rechtstreeks van invloed zal zijn op hun vermogen om dingen te doen zoals een lening krijgen of aangenomen worden voor een baan. Volgens de South China Morning Post zullen apparaten zoals het jaywalking-gezichtsherkenningssysteem deel uitmaken van dit netwerk om het aantal jaywalking-overtredingen bij te houden en de sociale kredietscore van een persoon dienovereenkomstig te wijzigen.” Moederbord gemeld maart.

In de meer nominaal vrije VS wekten Amazon's softwareprojecten voor gezichtsherkenning de woede van aandeelhouders, die in een open brief hun bezorgdheid uitten over het aantal manieren waarop gezichtsherkenning door wetshandhavingsinstanties zou kunnen worden misbruikt.

"Zonder beschermend beleid lijkt het onvermijdelijk dat de toepassing van deze technologieën ertoe zal leiden dat Amazon's Rekognition wordt gebruikt om voorstanders van democratie te identificeren en vast te houden." De brief gelezen, De ervaring heeft geleerd dat repressieve regeringen neigen naar opsluiting en marteling van geïdentificeerde mensen die zich verzetten tegen repressieve praktijken, en bewakingstechnologieën zullen de neiging hebben om deze cirkel van repressie te verharden. Het voormalige apartheidsregime van Zuid-Afrika en het Bureau of State Security (BOSS) zouden een dergelijke technologie hebben toegejuicht als aanvulling op het beruchte pasjessysteem dat wordt gebruikt om de meerderheid van de Afrikaanse bevolking in dat land onder controle te houden.

Aan de ene kant hebben technologiebedrijven zoals Apple weerstand getoond tegen het buigen van hun veiligheidsknie voor wetshandhavingsinstanties, maar er bestaat nog steeds geen wet die voorkomt dat gezichtsgegevens worden misbruikt. Op dit moment is het enige dat je gegevens veilig houdt bij Facebook, Apple en Microsoft, dat ze dat zeggen. In Europa helpt de AVG een beetje, maar het kan maar zo ver gaan. Het is een herenakkoord tussen jou en de bedrijven in kwestie.

"Er zullen altijd discussies zijn over de details, en de details zijn van groot belang. Maar een wereld met strenge regulering van producten die nuttig maar potentieel verontrustend zijn, is beter dan een wereld zonder wettelijke normen', schreef Smith.

Wie kan zonder dergelijke garanties of normen voorkomen dat particuliere bedrijven of regeringen ons slaapwandelen in een dystopie?