Da Gesichtserkennungssoftware für Verbraucher immer allgegenwärtiger wird, erscheint Microsofts Forderung nach Regulierung klug

Am Freitag wird Apple das iPhone XS und XS Max herausbringen, das XR kommt im Oktober. Alle diese Telefone werden wie üblich am jährlichen Ritual teilnehmen, bei dem sie für ihre Appleness gelobt und für den Preis kritisiert werden. Diese Geräte werden auch alle mit Face ID ausgeliefert, eine Premiere für Apple, das Face ID bisher nur auf einem Gerät angeboten hat – dem iPhone X. Andere Smartphone-Hersteller bieten schnell Gesichtserkennungssysteme auf ihren eigenen Geräten an, von der Mittelklasse bis zu den Premium-Geräten.

Mit der Zeit wird es immer wahrscheinlicher, dass Ihr nächstes Smartphone mit Gesichtserkennung ausgeliefert wird. Wenn Sie eher Windows 10-Laptops verwenden, haben Sie wahrscheinlich auch eine Form der Gesichtserkennung, da sich Windows Hello durchsetzt. Verwenden Sie Facebook? Ihr Facebook-Konto verfügt bereits über eine Gesichtserkennung. Die Firma verwendet es, um Benutzer mit ihren Fotos ohne Tags abzugleichen. Für den normalen Verbraucher ist es in gewisser Weise magisch, aber auch ein wenig beunruhigend. Tech-Redakteure untersuchen oft die magischen Aspekte der Gesichtserkennungssoftware, die auf all unseren Geräten installiert ist, aber selten die potenziellen Nachteile. Mit anderen Worten, Gesichtserkennung ist überall, aber wir haben nicht wirklich darüber gesprochen – nicht wirklich. Als Technikfreaks haben wir die lustigen Seiten der Gesichtserkennung erkundet, Ihr Telefon wird superschnell entsperrt, Ihr Laptop macht das Gleiche. 

Brad Smith von Microsoft hat eine Regulierung von Gesichtserkennungssoftware gefordert vom US-Kongress Anfang dieses Jahres und entschied sich dafür, die Debatte in einem Schritt zu eröffnen, der für Technologieunternehmen untypisch ist, die sich oft gegen die Aussicht auf restriktive Gesetze wehren und es ablehnen, das Thema selbst vorzustellen.

 „Gesichtserkennungstechnologie wirft Fragen auf, die zum Kern des Schutzes grundlegender Menschenrechte wie Privatsphäre und Meinungsfreiheit gehören“, erklärte Smith. Er räumte ein, dass Gesichtserkennungssoftware für viele lebensqualitätsverbessernde Szenarien wie die oben zitierten verwendet wurde, und sprach Probleme an, die übersehen worden waren.

„Aber andere potenzielle Anwendungen sind ernüchternder. Stellen Sie sich eine Regierungsverfolgung vor, wo Sie im letzten Monat ohne Ihre Erlaubnis oder Ihr Wissen überall hingegangen sind. Stellen Sie sich eine Datenbank aller Teilnehmer einer politischen Kundgebung vor, die das Wesen der Redefreiheit ausmacht. Stellen Sie sich die Geschäfte eines Einkaufszentrums vor, die Gesichtserkennung verwenden, um Informationen über jedes Regal, das Sie durchsuchen, und jedes Produkt, das Sie kaufen, miteinander auszutauschen, ohne Sie vorher zu fragen. Das war lange Zeit Stoff für Science-Fiction und populäre Filme – wie „Minority Report“, „Enemy of the State“ und sogar „1984“ – aber jetzt steht es kurz davor, möglich zu werden.“ sagte Smith.

Für uns im Jahr 2018 müssen wir uns diesen Minderheitenbericht nicht wie ein System vorstellen. Was wir brauchen, ist eine Zeitung zu eröffnen. In Ländern wie China wurden solche Dienste bereits erprobt. Das Land nutzt solche Software, um sein Sozialkreditsystem zu informieren, das die Art und Weise regelt, wie Bürger mit der Gesellschaft in Aspekten wie Wohnen, Schule und Reisen interagieren können.

„China plant, bis 2020 ein nationales Sozialkreditsystem einzuführen, das die Gesetzesverstöße der Bürger aufzeichnet und ihre Fähigkeit, Dinge wie einen Kredit zu bekommen oder für einen Job eingestellt zu werden, direkt beeinflusst. Laut der South China Morning Post werden Geräte wie das Jaywalking-Gesichtserkennungssystem Teil dieses Netzwerks sein, um die Anzahl der Jaywalking-Verstöße zu verfolgen und die soziale Kreditwürdigkeit einer Person entsprechend zu ändern.“ Motherboard berichtet im März.

In den nominell freieren USA lösten Amazons Softwareprojekte zur Gesichtserkennung Ärger bei Aktionären aus, die in einem offenen Brief Bedenken hinsichtlich der zahlreichen Möglichkeiten äußerten, auf die die Gesichtserkennung von Strafverfolgungsbehörden missbraucht werden könnte.

„Ohne Schutzmaßnahmen scheint es unvermeidlich, dass die Anwendung dieser Technologien dazu führt, dass Rekognition von Amazon dazu verwendet wird, Befürworter der Demokratie zu identifizieren und zu verhaften.“ Der Brief lautete, „Die Erfahrung hat gezeigt, dass repressive Regierungen dazu neigen, identifizierte Personen, die gegen repressive Praktiken sind, einzusperren und zu foltern, und Überwachungstechnologien werden diesen Kreislauf der Repression tendenziell verschärfen. Südafrikas ehemaliges Apartheidregime und sein Büro für Staatssicherheit (BOSS) hätten eine solche Technologie begrüßt, um das berüchtigte Ausweissystem zu erweitern, das zur Kontrolle der afrikanischen Mehrheitsbevölkerung in diesem Land verwendet wird.

Auf der einen Seite haben sich Technologieunternehmen wie Apple dagegen gewehrt, ihr Sicherheitsknie für Strafverfolgungsbehörden zu beugen, aber es gibt immer noch keine Gesetzesvorlage, die den Missbrauch von Gesichtsdaten verhindert. Im Moment schützen Facebook, Apple und Microsoft Ihre Daten nur, wenn sie es sagen. In Europa hilft die DSGVO ein wenig, aber sie kann nur so weit gehen. Es handelt sich um ein Gentlemen's Agreement zwischen Ihnen und den betreffenden Unternehmen.

„Es wird immer Debatten über die Details geben, und die Details sind sehr wichtig. Aber eine Welt mit strenger Regulierung von Produkten, die nützlich, aber potenziell beunruhigend sind, ist besser als eine Welt ohne gesetzliche Standards“, schrieb Smith.

Wer kann ohne solche Zusicherungen oder Standards verhindern, dass private Unternehmen oder Regierungen uns in eine Dystopie schlafwandeln?