Datenschutz, Diskriminierung, Fehleinschätzung
Risiken der automatischen Gesichtserkennung

• Dafür kann Gesichtserkennung genutzt werden
• Schwächen der Technologie
• Datenschutz: Welche Risiken birgt die Gesichtserkennung für die Nutzer?
• Gesetzliche Regelungen in Deutschland und der EU

Das Smartphone entsperren, Fotosammlungen auf dem Handy nach Personen sortieren oder Schlangen an Passkontrollen vermeiden: Viele Menschen nutzen Gesichtserkennung im Alltag.

Die Einsatzbereiche der Künstlichen Intelligenz sind vielfältig: Für Sehbehinderte gibt es Brillen, die für sie Gesichter erkennen können. In Beirut können sich Geflüchtete per Gesichtserkennung ausweisen, um Geld vom Welternährungsprogramm zu erhalten. Artenschützer nutzen die Technologie, um Tiere zu identifizieren und so gegen illegalen Tierhandel vorzugehen. Und während ein deutscher Supermarkt sein Pilotprojekt wieder einstellen musste, haben sich in den USA, in Großbritannien und in China Gesichtsanalysen von Menschen in Supermärkten zur Auswertung des Kaufverhaltens weitgehend durchgesetzt.

Vor allem für die Fahndung nach Kriminellen und vermissten Personen ist die Technologie interessant, aber auch umstritten. In mehreren Ländern sind Gesichtserkennungssysteme beispielsweise an Flughäfen und Bahnhöfen installiert. Die Aufnahmen werden automatisch mit Fahndungsfotos abgeglichen. Das BKA nutzt seit 2008 ein Gesichtserkennungssystem, um Täter zu identifizieren.

Die Videoüberwachung im öffentlichen Raum wirft kritische Fragen auf: Was passiert mit den erfassten Daten? Greift der Datenschutz? Und was kann die Technik überhaupt?

Anfang 2020 deckte die "New York Times" auf, dass die Firma "Clearview" eine Datenbank mit Bildern aus dem Internet erstellt und den Zugang mehr als 600 Sicherheitsbehörden angeboten hatte. Dabei ging es um Fotos und Profilbilder von drei Milliarden Menschen, die das Unternehmen von Plattformen wie Facebook und YouTube heruntergeladen hatte. Die Software ist erfolgreicher als viele Systeme, die die Ermittler bisher einsetzten. Was auch an der Größe der Datenbank liegt – unwissentlich bereitgestellt von den Nutzerinnen und Nutzern sozialer Plattformen.

Die Erkennungsraten anderer Systeme sind bisher nicht sehr verlässlich. Vor drei Jahren war ein Pilotversuch am Berliner Südkreuz eher ernüchternd verlaufen, weil zu viele Menschen nicht oder fälschlicherweise erkannt wurden.

"Die Erkennungsraten sind immer noch schlecht und müssen weiterhin verbessert werden. Dazu müssen sie aber auch getestet werden, auch in großflächigem Einsatz", sagte Florian Kirchbuchner vom Fraunhofer-Institut im Dlf.

Die Systeme können zudem aktiv umgangen werden. Ein Hut, eine Vollgesichtsmaske oder eine Baseballkappe reichen aus, um von den Kameras nicht erkannt zu werden. Eine israelische Entwicklung kann ein biometrisches Foto so leicht verändern, dass das menschliche Auge den Unterschied kaum wahrnimmt. Die Künstliche Intelligenz erkennt das Gesicht anschließend jedoch nicht mehr.

Ein weiteres Argument der Kritiker: Die Algorithmen erkennen am besten weiße Männer, weil sie mit diesen Daten trainiert wurden. Andere Ethnien sind gefährdeter, zu Unrecht kontrolliert und herausgegriffen zu werden.

Im Jahr 2018 soll der Popstar Taylor Swift Konzertbesucher in den USA heimlich gefilmt haben, um sie mit einer Stalker-Datenbank abzugleichen. Beim Clearview-Fall verhält es sich andersherum: Die Datenbank besteht aus Daten von Bürgerinnen und Bürgern.

Für Jürgen Kuri, den Chefredakteur von heise.de, zeigt sich hier etwas Grundsätzliches zum Thema Privatsphäre: "Wenn ich heute etwas online stelle, das ich selbst für unproblematisch halte, kann ich nicht mehr kontrollieren, was in fünf oder zehn Jahren mit diesen Daten möglich ist."

Der Bundesdatenschutzbeauftragte Ulrich Kelber ist bei dem Thema sehr skeptisch: "Wer zum Beispiel bei Demonstrationen befürchten muss, trotz gesetzestreuem Auftreten identifiziert und gespeichert zu werden, der ändert möglicherweise sein Verhalten und geht nicht mehr demonstrieren. Außerdem produziert die Technik zahlreiche Fehlerkennungen, die die Betroffenen belasten würden."

Er fordert eine klare Anwendung der Regeln der DSGVO gegenüber Privatfirmen und ein Verbot der biometrischen Gesichtserkennung im öffentlichen Raum in Europa.

Laut einer Studie der Carnegie Stiftung für Internationalen Frieden verwenden 64 Länder Videoüberwachung mit biometrischer Gesichtserkennung. Insbesondere nach China wird in diesem Zusammenhang häufig geschaut.

In Deutschland diskutierte das Innenministerium Anfang 2020 den Einsatz von Gesichtserkennungssystemen an 14 Flughäfen und 135 Bahnhöfen. Die dortigen Aufnahmen hätte die Bundespolizei dann automatisch mit Fahndungsfotos abgleichen können. Die Pläne sind nun auf Eis gelegt. Es gebe zu viele offene Fragen. Die Diskussion um die US-Firma Clearview habe bei der Entscheidung eine Rolle gespielt, so das Bundesinnenministerium.

Die Debatte über automatisierte Gesichtserkennung wird auch in Brüssel geführt: Die EU-Kommission erwägt, für den Einsatz im öffentlichen Raum ein drei- bis fünfjähriges Verbot zu verhängen. Ein Entwurf des Arbeitspapiers zum Umgang mit Künstlicher Intelligenz, das die Kommission im Februar 2020 vorstellen will, wurde bereits von der US-Zeitung Politico im Volltext veröffentlicht.