Amnesty Journal 28. Juni 2023

Ausgeguckt

Das Bild zeigt eine Illustration mit Menschen in einer Fußgängerzone, man sieht digitale Projektion über ihren Köpfen

Der Einsatz von Gesichtserkennungstechnologie zur Massenüberwachung nimmt Menschen die Möglichkeit, sich frei im öffentlichen Raum zu bewegen.

Überall in Europa werden Technologien zur Gesichtserkennung eingesetzt. Kritiker*innen sehen das Recht auf Privatsphäre, den Datenschutz sowie die Meinungs- und Versammlungsfreiheit in Gefahr. Nun entsteht eine einheitliche EU-Gesetzgebung.

Von Tobias Oellig

Man nimmt das Smartphone in die Hand, ein kurzer Blick und es entsperrt sich wie von Zauberhand. Keine nervige Eingabe eines Sicherheitscodes ist nötig, um schnell mal die Nachrichten zu überfliegen. Und vergessen kann man seine PIN auch nicht mehr. Gesichtserkennung macht es möglich – unsere unverwechselbaren biometrischen Daten weisen uns aus. Unser Gesicht ist wie ein Personalausweis.

Die Vermessung von Gesichtsmerkmalen erobert den Alltag, sie soll technische Anwendungen bequemer und sicherer machen. Am Flughafen Berlin-Brandenburg können Reisende seit Mai bei der Fluglinie Lufthansa ihre Identität biometrisch bestätigen. Dafür genüge "ein einziger Blick von Ihnen – ganz ohne Bordkarte oder Smartphone", so bewirbt die Lufthansa ihr Angebot. Den Anwendungsmöglichkeiten sind bislang kaum Grenzen gesetzt. Medien berichteten kürzlich über eine skurrile Erscheinung, die auch in den Anwendungsbereich der Technologie gehöre: Auf öffentlichen Toiletten in China erhält man Toilettenpapier nur gegen Gesichtsscan. Pro Gesicht gibt die automatisierte Rolle 60 Zentimeter frei, wer mehrfach scannt, wird freundlich abgewiesen.

Staatliche Nutzung und Schattenseiten

Gesichtserkennung im digitalen Alltag steckt aber auch voller Möglichkeiten der Kontrolle und Überwachung. Und davon machen Behörden weltweit häufig Gebrauch. Immer größere Datenverarbeitungskapazitäten und Fortschritte in der Technologie, mit der Gesichtsdaten aus der Ferne erfasst werden können, machen es möglich. Diese Entwicklung bedroht eine Reihe von Menschenrechten: den Datenschutz, die Privatsphäre, die Meinungs- und Versammlungsfreiheit oder das Recht auf Nichtdiskriminierung.

Amnesty International zufolge nutzen weltweit mindestens 64 Länder aktiv Gesichtserkennungssysteme. Auch in Europa werden solche Technologien seit einigen Jahren immer häufiger im öffentlichen Raum eingesetzt. Laut einer Umfrage der deutschen Organisation AlgorithmWatch aus dem Jahr 2019 nutzt die Polizei bereits in mindestens zehn EU-Ländern aktuell Software zur Gesichtserkennung. Acht weitere wollten die Technik zum Zeitpunkt der Umfrage bald einführen.

Die Anwendungszwecke sind vielfältig. Zumeist werden an Bahnhöfen und Flughäfen mit Videokameras biometrische Daten von Passant*innen erfasst und mit Datenbanken abgeglichen. Behörden nutzen die Technik, um vermisste Kinder zu finden oder um Fans zu identifizieren, die als gewalttätig bekannt und auf dem Weg zu einem Fußballspiel sind. Als zum Beispiel die Popsängerin Beyoncé Ende Mai 2023 im walisischen Cardiff den britischen Teil ihrer Tournee startete, wurde im Stadtzentrum Gesichtserkennung eingesetzt. Die Behörden gaben als Grund an, das Konzert im Principality Stadium zu "unterstützen" und die Sicherheit zu gewährleisten. Auch in der Vergangenheit setzte die Polizei in England und Wales immer wieder Live-Gesichtserkennung bei besonderen Anlässen ein, zuletzt bei der Krönung des britischen Königs.

Massenüberwachung mit KI

Laut AlgorithmWatch kommt Gesichtserkennung in Irland routinemäßig zum Einsatz, um Sozialleistungsansprüche zu prüfen. Im französischen Lyon sei ein Mann durch eine Überwachungskamera des Autodiebstahls überführt worden, berichtet die Organisation. Weil sein Gesicht zu einem Bild in einer Datenbank passte, konnte er in der Folge verhaftet, angeklagt und zu eineinhalb Jahren Haft verurteilt werden.

Anfang 2023 wurde in Frankreich ein Gesetzentwurf im Senat gebilligt, der ein flächendeckendes, von Künstlicher Intelligenz (KI) gesteuertes Videosystem zur Massenüberwachung während der Olympischen Spiele im Sommer 2024 in Paris vorsieht. Erstmals würde damit ein groß angelegter Einsatz von KI-gesteuerter Massenüberwachung in der Europäischen Union legalisiert.

Aus Veröffentlichungen von AlgorithmWatch geht auch hervor, dass Datenbanken in den Niederlanden Fotos von Verdächtigen enthalten, die nie eines Verbrechens angeklagt wurden. Im belgischen Kortrijk und im spanischen Marbella setze die Polizei auch Technologien zur "Körpererkennung" ein: Diese Systeme identifizieren Personen anhand ihres Laufstils oder ihrer Kleidung. Beide Systeme können auch Gesichter erkennen, doch sei diese Funktion ausgeschaltet, solange es noch keine gesetzliche Grundlage für ihren Einsatz gebe.

Pilotprojekt am Berliner Südkreuz

2017 startete in Deutschland ein einjähriges Pilotprojekt am Berliner Bahnhof Südkreuz, bei dem in einer Kooperation von Bundespolizei und Deutscher Bahn drei Systeme zur Echtzeit-Gesichtserkennung erprobt wurden. Die Systeme sollten bestimmte Personen aus einer Datenbank unter den vielen Menschen erkennen, die im Bahnhof unterwegs waren. Dabei offenbarte sich eine weitere Schwachstelle der Überwachungstechnologie: Die durchschnittliche Trefferquote lag lediglich bei 68,5 Prozent. Das schwächste System hatte eine durchschnittliche Trefferquote von nur rund 30 Prozent. Bei einem realen Einsatz wären zahlreiche Menschen zu Unrecht ins Visier der Behörden geraten. Ungenügender Datenschutz führte zudem dazu, dass das Gesicht eines Probanden ohne seine Zustimmung in der Tagesschau ausgestrahlt wurde.

Die Kommission plant leider nur eine sehr halbherzige Einschränkung von Gesichtserkennung zur Überwachung des öffentlichen Raumes.

Lena
Rohrbach
Datenschutz-Expertin von Amnesty in Deutschland

In der EU wird bereits seit zwei Jahren über ein KI-Gesetz verhandelt. In einer Abstimmung vom 11. Mai 2023 einigten sich die Mitglieder des Europäischen Parlaments darauf, das Verbot der Gesichtserkennung im öffentlichen Raum in das KI-Gesetz aufzunehmen. Aber nicht in jedem Fall.

"Die Kommission plant leider nur eine sehr halbherzige Einschränkung von Gesichtserkennung zur Überwachung des öffentlichen Raumes", sagt Lena Rohrbach, Datenschutz-Expertin von Amnesty in Deutschland. "Nur wenn Menschen live, also in Echtzeit, identifiziert werden und dies durch Strafverfolgungsbehörden geschieht, soll es verboten werden. Selbst für diese Fälle sind noch viele Ausnahmen vorgesehen."

Die massenhafte Identifikation von Menschen wäre also weiterhin erlaubt, nur eben mit Zeitverzögerung. Videoaufnahmen könnten im Nachhinein mit Gesichtserkennungssystemen analysiert, Menschen auf den Videos identifiziert werden. Auch das sei ein unverhältnismäßiger Eingriff in das Recht auf Privatsphäre, sagt Rohrbach. "Denn das kann die Anonymität im öffentlichen Raum beenden und Menschen davon abhalten, ihre Rechte bei Versammlungen oder auf Demonstrationen wahrzunehmen."

Rohrbach ist dennoch optimistisch, dass Gesichtserkennungstechnologien im KI-Gesetz reguliert werden. "Hoffnung macht das EU-Parlament, das sich für ein weitaus umfassenderes Verbot ausgesprochen hat. Diese Position muss es jetzt gegenüber der Kommission und den Mitgliedsstaaten konsequent verteidigen."

Kritiker*innen der Technologie hoffen außerdem auf einen "Brüsseler Effekt": Dass ein europäisches KI-Gesetz zum weltweiten Standard für die Regulierung von Gesichtserkennung werden könnte und sich andere Länder in der Gestaltung ihrer Gesetzgebung an den EU-Vorschriften orientieren werden.

Tobias Oellig ist freier Reporter. Namentlich gekennzeichnete Beiträge geben nicht unbedingt die Meinung von Amnesty International wieder.

Weitere Artikel