DEINE SPENDE KANN LEBEN RETTEN!
Mit Amnesty kannst du dort helfen, wo es am dringendsten nötig ist.
DEINE SPENDE WIRKT!
"Ohne Ausnahme verbieten!"
Zusammen mit Amnesty International hat die US-Organisation STOP (Surveillance Technology Oversight Project) die New Yorker Polizei auf Akteneinsicht zur Gesichtserkennung verklagt. Albert Fox Cahn, Gründer und Geschäftsführer von STOP, über digitale Überwachung und Gesichtserkennungstechnologie.
Interview: Kristina Hatas
Was genau macht STOP?
Die Organisation wurde 2019 in New York gegründet und engagiert sich gegen Überwachung. In den USA wurde jahrzehntelang vor allem über die Überwachungsbefugnisse des Föderalstaats diskutiert, dagegen fanden die zunehmenden Überwachungsmöglichkeiten Tausender bundesstaatlicher und lokaler Polizeibehörden eher wenig Beachtung. Diese wurden aber immer mehr zu "Mini-Geheimdiensten". Wir setzen uns mit Vernetzung, Öffentlichkeitsarbeit und strategischen Klagen gegen die zunehmende Überwachung durch diese Behörden ein.
Welche Rolle spielt Gesichtserkennung in diesen "Mini-Geheimdiensten"?
Diese Technologie ist eine der am schnellsten wachsenden Gefahren weltweit. Zugleich bietet sie die Chance, die Öffentlichkeit zu sensibilisieren. Denn, wie mein Gesicht erkannt wird, ist einfacher und anschaulicher zu verstehen als Algorithmen und Analysen von Verhaltensmustern. Die Auseinandersetzung mit Gesichtserkennung kann ein Einstieg sein, um sich mit digitaler Überwachung zu beschäftigen.
Warum hat STOP die Polizei in New York verklagt?
Weil sie über die Jahre immer mehr Ressourcen und Befugnisse bekommen hat, zugleich aber so gut wie keine Rechenschaft ablegen muss. Wir haben gemeinsam mit Amnesty geklagt, um Einsicht in Akten zu bekommen, die ohnehin öffentlich sein müssten. Wir wollten wissen, wie die New Yorker Polizei Gesichtserkennung einsetzt, insbesondere, wie diese Technologie 2020 im Zuge der "Black Lives Matter"-Proteste angewandt wurde.
Wie ist das Verfahren ausgegangen?
Der zuständige Richter hat unserer Klage stattgegeben und entschieden, dass die Polizei in New York 2.700 Dokumente und E-Mails mit Amnesty teilen muss. Die Polizeibehörde hat Rechtsmittel dagegen eingelegt, und nun warten wir auf die nächste Gerichtsentscheidung.
Wie wird Gesichtserkennung in den USA eingesetzt?
Die Technologie wird in der Regel nicht als Beweismittel eingesetzt – denn dann könnten die Angeklagten deren Einsatz rechtlich anfechten und Transparenz einfordern. Stattdessen verwendet man sie bei Ermittlungen, indem man zum Beispiel Zeug*innen einen vermeintlichen "Treffer", also ein "erkanntes" Gesicht, zeigt. Vor Gericht erklärt die Polizei dann, dass die Person von einer Augenzeug*in identifiziert worden sei – eine sehr suggestive Identifizierung, die zu Fehlentscheidungen führt. So wird Gesichtserkennung in das Gerichtsverfahren eingeschleust, ohne dass sich Angeklagte dagegen wehren können.
Inwiefern bedroht Gesichtserkennung die Menschenrechte?
Gesichtserkennung gefährdet die Demokratie und eine offene Gesellschaft. Sie bedroht das Recht auf Meinungsfreiheit, das Recht auf Protest und sogar die Religionsfreiheit. Ich kenne zum Beispiel viele muslimische Personen, die befürchten, sie könnten sich oder ihre Familien in Gefahr bringen, wenn sie zum Freitagsgebet gehen oder an Demonstrationen teilnehmen. Als privilegierte Person hat man diese Angst vielleicht nicht, doch Millionen Menschen haben sie.
Was fordert STOP in Bezug auf Gesichtserkennung?
Dass sie verboten wird – ohne Ausnahmen, ohne Vorbehalte. Aus meiner Sicht birgt Gesichtserkennung ein großes Missbrauchspotenzial. Sie ist sehr fehleranfällig, gefährlich und das perfekte Instrument für Kontrolle und Repression. Es gibt keinen Weg, diese Technologie angemessen zu regulieren. Abhilfe schaffen kann nur ein vollumfängliches Verbot.
Kristina Hatas ist Amnesty-Referentin für Menschenrechte im digitalen Zeitalter.
Weitere Informationen rund um die Kampagne: amnesty.de/my-face und auf Twitter.
Informationen zur Organisation STOP: www.stopspying.org
HINTERGRUND
Die Europäische Union verhandelt derzeit in Brüssel über ein Gesetz zur Regulierung Künstlicher Intelligenz (KI), das klare Regeln für die Entwicklung und Benutzung von KI festlegt. Das Gesetz wird frühestens im Jahr 2023 erwartet. Künstliche Intelligenz kann in der medizinischen Diagnostik zur Anwendung kommen, aber auch in Waffensystemen.
Gesichtserkennungstechnologie gehört ebenfalls zur KI und ermöglicht eine Massenüberwachung im öffentlichen Raum. Amnesty International sieht darin eine große Bedrohung für eine Vielzahl von Menschenrechten: Gesichtserkennung verletzt etwa das Recht auf Privatsphäre und das Recht auf Nichtdiskriminierung, und sie beeinträchtigt die Meinungs- und Versammlungsfreiheit.
Die Technologie wird verstärkt für die Überwachung bereits marginalisierter Gruppen eingesetzt und verschärft so bestehende Ungerechtigkeiten sowie rassistische, sexistische und klassistische Diskriminierungen. Weil viele Menschen fürchten, ständig überwacht zu werden, scheuen sie sich, für ihre Menschenrechte einzustehen und zum Beispiel an Demonstrationen teilzunehmen. Das gilt vor allem für Personen, die ohnehin von Ausgrenzung und Diskriminierung betroffen sind.
Datenschutzbehörden und Expert*innen aus ganz Europa warnen schon lange, dass der derzeitige Einsatz von Gesichtserkennungstechnologie rechtlich zweifelhaft ist. Dennoch wird sie nach und nach eingeführt. Nur eine gesetzliche Grundlage und ein ausdrückliches Verbot könnten das ändern.
Die deutsche Sektion von Amnesty setzt sich mit der Kampagne #UnscanMyFace für ein Verbot der Herstellung, des Einsatzes und Exports von Gesichtserkennungstechnologie in Deutschland, der EU und weltweit ein. Ein solches Verbot ist für die Achtung der Menschenrechte unverzichtbar. Mit der Kampagne will die Organisation das Problembewusstsein in der Öffentlichkeit stärken und Lösungen anbieten.
Dabei arbeitet Amnesty International mit weiteren zivilgesellschaftlichen Organisationen zusammen und wendet sich auch direkt an die politisch Verantwortlichen. Diese werden in einer E-Mail-Aktion aufgefordert, sich für ein umfassendes Verbot von Gesichtserkennungstechnologie einzusetzen.
