USA: Gesichtserkennungstechnologie fördert rassistische Polizeikontrollen in New York

"Unsere Untersuchung zeigt, dass der Einsatz von Gesichtserkennungstechnologie durch das NYPD zu einer Zunahme von diskriminierender Polizeiarbeit gegen Minderheiten in New York beiträgt", sagte Matt Mahmoudi, Experte für künstliche Intelligenz und Menschenrechte bei Amnesty International.

"Wir wissen schon lange, dass das als 'Stop-and-Frisk' bekannte Vorgehen der New Yorker Polizei rassistisch ist. Jetzt wissen wir außerdem, dass diejenigen, die bei diesen Kontrollen ohnehin schon ins Visier genommen werden, auch einem größeren Risiko einer diskriminierenden Polizeiarbeit durch invasive Überwachung ausgesetzt sind.

"Die schockierende Reichweite von Gesichtserkennungstechnologie in der Stadt ist dafür verantwortlich, dass ganze Viertel einer Massenüberwachung ausgesetzt sind. Nun muss das NYPD genaue Angaben dazu machen, wie diese invasive Technologie verwendet wird." 

"Das Verbot von Gesichtserkennung zum Zweck der Massenüberwachung ist ein dringend notwendiger erster Schritt, um rassistische Polizeiarbeit zu unterbinden. Darum muss der Stadtrat von New York (New York City Council) jetzt unverzüglich beginnen, ein grundsätzliches Verbot in die Wege zu leiten."

Die Untersuchungsergebnisse basieren auf Crowdsourcing-Daten, die von Tausenden Freiwilligen im Rahmen des Projekts "Decode Surveillance NYC" erhoben wurden. Diese erfassten die Standorte von mehr als 25.500 Überwachungskameras quer durch New York. Amnesty International hat diese Daten gemeinsam mit Datenanalyst_innen ausgewertet und mit Statistiken zu Polizeikontrollen sowie demographischen Daten abgeglichen.   

Gesichtserkennungstechnologien (Facial Recognition Technology oder FRT) zur Identifikation sind Systeme, die der Massenüberwachung dienen und das Recht auf Privatsphäre verletzen. Außerdem werden durch ihren Einsatz die Rechte auf Versammlungsfreiheit, Gleichberechtigung und Nichtdiskriminierung bedroht. 

Im Zeitraum zwischen 2016 und 2019 setzte das NYPD in mindestens 22.000 Fällen Gesichtserkennungstechnologien ein. Die Daten über die von der New Yorker Polizei seit 2002 durchgeführten "Stop-and-Frisk"-Kontrollen zeigen, dass die Zielgruppe dieser Taktik überwiegend schwarze und lateinamerikanische Gemeinschaften sind.   

Vergangenes Jahr verklagte Amnesty International das NYPD, nachdem sich die Behörde geweigert hatte, gespeicherte Daten zum Erwerb von Gesichtserkennungstechnologien und anderen Überwachungstools offenzulegen. Der Fall ist noch nicht abgeschlossen.

Neue interaktive Website gibt Auskunft über die die Reichweite der Gesichtserkennung

Am 15. Februar geht eine neue Amnesty-Website online, auf der Benutzer_innen erfahren können, wo sie auf jeder beliebigen Route zu Fuß in New York von einer Gesichtserkennungstechnologie erfasst werden könnten. 

Während der "Black Lives Matter"-Bewegung Mitte 2020, wurden New-Yorker_innen, die an diesen Protesten teilnahmen, verstärkt durch Gesichtserkennung überwacht. So standen zum Beispiel Teilnehmer_innen an Protesten im Washington-Square-Park auf dem Weg von der nächstgelegenen U-Bahnstation bis dorthin ohne Unterbrechung unter Beobachtung durch NYPD-Kameras. 

"Als wir uns die Routen ansahen, die Leute nehmen müssten, um zu Fuß von den nahegelegenen U-Bahnstationen zu den Protesten und wieder dorthin zurück zu gelangen, konnten wir eine nahezu lückenlose Erfassung durch Überwachungskameras der Behörden feststellen. Die meisten von ihnen waren NYPD-Kameras", berichtete Matt Mahmoudi.

"Der allgegenwärtige Einsatz von Gesichtserkennungstechnologie ist im Grunde ein digitales "Stop-and-Frisk"-Verfahren. Massenüberwachungstechnologien werden an Orten wiederholter Proteste zur Identifizierung, Verfolgung und Schikane von Menschen verwendet, die einfach nur ihre Menschenrechte ausüben." 

"Dies ist eine vorsätzliche Abschreckungstaktik des NYPD und gehört nicht in eine freie Gesellschaft. Daher muss sie sofort gestoppt werden."

Auf der interaktiven Website können Benutzer_innen auch nachverfolgen, wie viel Gesichtserkennungstechnologie zwischen den größten Touristenattraktionen der Stadt eingesetzt wird, indem sie sich Entfernungen und mögliche Routen darstellen lassen.

Amnesty International lädt die New Yorker_innen dazu ein, ein Protestschreiben an ihr Stadtratsmitglied zu schicken und es aufzufordern, einen Gesetzentwurf einzubringen, der zum Schutz ihrer Gemeinden den Einsatz von Gesichtserkennungstechnologie verbietet. Und alle, die nicht in New York leben, können die Amnesty-Petition, für die Regulierung von Ort und Dauer des Einsatzes von öffentlichen Gesichtserkennungssystemen unterzeichnen.

Für diese Recherche hat Amnesty International u.a. zusammengearbeitet mit: Julien Cornebise vom Computer Science Department des University College London; BetaNYC, einer zivilgesellschaftlichen Organisation für Daten und Technologie in New York, und Dr. Damon Wischik, einem unabhängigen Datenwissenschaftler.

Die Studie ist das jüngste Projekt der "Ban The Scan"-Kampagne und knüpft an die Untersuchungen zu Überwachung in New York und der indischen Stadt Hyderabad in 2021 an. Amnesty International fordert ein grundsätzliches Verbot von Einsatz, Entwicklung, Produktion, Verkauf und Export von Gesichtserkennungstechnologien zum Zweck der Massenüberwachung für Staaten und den privaten Sektor.

In der Europäischen Union nutzen mindestens 11 Staaten Gesichtserkennungstechnologie, und weitere Mitgliedsstaaten bereiten ihren Einsatz vor. Auch in Deutschland nutzt die Polizei Gesichtserkennung für die nachträgliche Identifizierung von Personen. Die einst geplante anlasslose Überwachung mittels Gesichtserkennung an öffentlichen Plätzen wie Bahnhöfen oder Flughäfen wurde jedoch nach Protest aus der Gesellschaft wieder aus dem Bundespolizeigesetz gestrichen. Amnesty setzt sich dafür ein, dass der Einsatz von Gesichtserkennung ausdrücklich verboten wird. 

"Der Fall New York City zeigt, welche unvertretbaren Risiken Gesichtserkennungstechnologie für das Recht auf Privatsphäre, das Recht auf Nichtdiskriminierung, aber auch für das Recht auf Versammlungsfreiheit birgt", sagt Kristina Hatas, Fachreferentin der deutschen Amnesty-Sektion für Menschenrechte im digitalen Zeitalter und Rüstungsexportkontrolle. "Es ist deshalb ein wichtiger Schritt, dass die neue Bundesregierung im Koalitionsvertrag einen solchen Einsatz ablehnt. Die Regierung muss sich jetzt auf EU-Ebene für ein weitreichendes Verbot von Gesichtserkennung im öffentlichen Raum einsetzen. Die Bundesregierung sollte außerdem mit einem nationalen Verbot ein wichtiges Signal an andere Länder wie die USA senden, und sich auch für ein Verbot auf internationaler Ebene stark machen."