Wenn sich über automatisierte Gesichtserkennung Verbrechen aufklären oder gleich verhindern lassen, klingt das nach einer guten Idee. Das Missbrauchspotenzial dieser Technologie ist aber enorm und ruft Datenschützer und Aktivisten auf den Plan.
Ein Polizist der Indiana State Police hatte im Februar 2020 einen scheinbar unlösbaren Fall auf dem Tisch: In einem Park war es zu einem Streit zwischen zwei Männern gekommen, einer hatte schliesslich eine Pistole hervorgeholt und seinem Kontrahenten damit in den Bauch geschossen. Ein Augenzeuge hatte das Geschehen zwar mit einem Smartphone festgehalten. Aber es fanden sich keine Hinweise darauf, wer der Täter war. Eine Suche nach seinem Gesicht in offiziellen Datenbanken blieb erfolglos.
Dann testete der Polizist einen neuen Service namens «Clearview AI». Darüber fand er den Schützen in einem Video im Social Web. Und nicht nur das: Der Name des Mannes stand im Beschreibungstext. Er wurde bald darauf verhaftet und angeklagt. Fall gelöst.
Wie sich herausstellte, hatte der Täter weder einen Führerschein noch war er zuvor als Erwachsener festgenommen worden. Deshalb war sein Gesicht nicht behördlich gespeichert. Clearview AI aber beschränkt sich nicht auf offizielle Quellen: Nach eigenen Angaben hat das Startup über 3 Milliarden Fotos aus dem Internet abgesaugt – von Seiten wie Facebook, Instagram und Twitter, die das eigentlich nicht erlauben.
Letztlich ist Clearview AI die logische Konsequenz verschiedener Entwicklungen der letzten Jahre. So werden wir inzwischen laufend gefilmt und fotografiert: Überwachungskameras finden sich heute nicht mehr nur in Geschäften und Behörden oder auf wichtigen Plätzen und Strassen, sondern auch an Privathäusern. Darüber hinaus werden jede Minute ungezählte Fotos und Videos aufgenommen und ins Netz hochgeladen.
Zugleich ist Gesichtserkennung dank künstlicher Intelligenz und mehr Rechenkapazität heute alltäglich geworden. Leistungsfähige Computer und spezialisierte Software können eine Fotodatenbank in Windeseile nach möglichen Treffern durchsuchen.
Clearview AI war lediglich das erste Startup, das diese beiden Entwicklungen konsequent zusammengeführt hat. Ohne staatliche Regulierung werden Nachahmer folgen. Das polnische Startup PimEyes greift für seine Gesichter-Suchmaschine beispielsweise auf 900 Millionen Fotos zurück.
Die möglichen Einsatzfelder solcher Angebote sind vielfältig und klingen auf den ersten Blick sehr sinnvoll. Sicherheitsbehörden möchten uns damit vor Terroristen schützen oder Täter finden. Ladengeschäfte wollen bekannte Diebe identifizieren oder einen besonders treuen Kunden persönlich begrüssen.
Diese Entwicklung könnte aber zugleich erhebliche Konsequenzen für uns alle haben, befürchten Datenschützer.
Fachleute wie Googles damaliger CEO Eric Schmidt sahen das Missbrauchspotenzial bereits länger kommen. 2011 erklärte er in einem Interview auf der «All Things Digital D9»-Konferenz, dass Gesichtserkennung zu den Technologien gehört, die Google bewusst nicht weiter verfolgt hat. «Ich persönlich bin sehr besorgt über die Verbindung von Handyortung und Gesichtserkennung», erklärte er.
Microsoft-Präsident Brad Smith hat kürzlich davor gewarnt, dass KI und andere fortschrittliche Technologien bald zu einer «Orwellschen Gesellschaft» führen könnten, wenn nicht mehr Gesetze zum Schutz erlassen werden. Eine Massenüberwachung der Bevölkerung droht.
Genau so schätzen es Datenschützer und Aktivisten ein, die sich zu Kampagnen wie «Gesichtserkennung stoppen» zusammenschliessen. Sie sehen Privatsphäre und Anonymität in Gefahr – Grundpfeiler einer demokratischen und freiheitlichen Gesellschaft.
Zudem verweisen Kritiker auf die Schwächen der Technik: Sie erkennt vor allem die Gesichter weisser Männer zuverlässig. In anderen Bevölkerungsgruppen gibt es hingegen mehr falsche Identifizierungen.
«Es hat sich gezeigt, dass die Nutzung biometrischer Massenüberwachung in den Mitgliedstaaten und durch EU-Agenturen zu Verstössen gegen das EU-Datenschutzrecht geführt und die Rechte der Menschen, einschliesslich ihres Rechts auf Privatsphäre, auf freie Meinungsäusserung, auf Protest und auf Diskriminierungsfreiheit, ungebührlich eingeschränkt hat.» – Reclaim Your Face
Kritische Stimmen finden sich auch in der Politik. In einer Resolution forderten Abgeordnete des Europaparlements beispielsweise ein Moratorium für Gesichtserkennung im öffentlichen Raum und verlangten ein völliges Verbot automatisierter Überwachung durch andere biometrische Merkmale wie Fingerabdrücke, Stimme oder Gangart.
Andere sehen hingegen eine klare Regulierung als Gegenmassnahme an. Das wiederum schätzen manche Fachleute als illusorisch ein: So haben über 175 zivilgesellschaftliche Organisationen, Wissenschaftler und Aktivisten in einem offenen Brief ein weltweites Verbot biometrischer Überwachung im öffentlichen Raum gefordert. Die Begründung: Sie führe zu häufig dazu, dass grundlegende Menschenrechte wie Meinungs- und Versammlungsfreiheit sowie das Recht auf Privatsphäre und Datenschutz untergraben werden. «Keine technischen oder gesetzlichen Sicherheitsvorkehrungen könnten je dieses Risiko vollständig ausschliessen», heisst es in dem Brief.
Andere wie der Clearview-Investor David Scalzo sehen die Diskussion deutlich entspannter. «Ich bin zu dem Schluss gekommen, dass es keine Privatsphäre geben kann, weil die Zahl der Informationen ständig zunimmt», erklärte er gegenüber der New York Times. «Gesetze müssen festlegen, was legal ist, aber man kann Technologie nicht verbieten. Sicher, das könnte zu einer dystopischen Zukunft oder so führen, aber man kann sie nicht verbieten.».
