DEINE SPENDE KANN LEBEN RETTEN!
Mit Amnesty kannst du dort helfen, wo es am dringendsten nötig ist.
DEINE SPENDE WIRKT!
Künstlich intelligent, ethisch dumm
© IMAGO / Christian Ohde
Desinformation, Datenmissbrauch und digitale Überwachung – der Einsatz von Künstlicher Intelligenz (KI) bedroht die Menschenrechte. KI-Forscherin Meredith Whittaker fordert als Gegenmittel mehr soziale und politische Gerechtigkeit.
Von Tobias Oellig
Im März 2023 platzte ein Brief von Expert*innen aus der KI-Forschung und dem Silicon Valley mitten in die allgemeine Euphorie und Aufbruchsstimmung, die Sprachmodelle wie Chat-GPT ausgelöst hatten. Die unterzeichnenden KI-Unternehmer*innen und führenden Wissenschaftler*innen forderten darin einen sofortigen sechsmonatigen Entwicklungsstopp für Künstliche Intelligenz. Auch Tech-Unternehmer Elon Musk, Apple-Mitgründer Steve Wozniak sowie der Historiker und Bestseller-Autor Yuval Noah Harari setzten ihre Unterschrift unter den Appell. Der klang, als stünde der Weltuntergang kurz bevor: "KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen", hieß es in dem Brief.
"Außer Kontrolle geratener Wettlauf"
Nach Ansicht der Verfasser*innen befinden wir uns in einem "außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Intelligenz". Nicht einmal die Entwickler*innen verstünden, was sie gerade erschaffen würden. Dramatische Fragen unterfütterten den Aufruf: "Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Lügen fluten? Sollen wir alle Jobs automatisieren, auch die erfüllenden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen sind, uns überlisten, überflüssig machen und ersetzen? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?" Wenn sich die aktuelle Entwicklung fortsetze, bedrohe das die menschliche Existenz, warnt der Brief, den mittlerweile mehr als 33.000 Menschen unterzeichnet haben.
Wie viel Wahrheit steckt in diesem Szenario, das von so vielen klugen Köpfen heraufbeschworen wird? Müssen wir alles daransetzen, die halb offene Büchse der Pandora wieder zu verschließen?
Anruf bei einer, die es vielleicht weiß: Meredith Whittaker arbeitete 13 Jahre lang bei Google, setzte sich dort kritisch mit dem Thema der digitalen Überwachung auseinander und organisierte die Proteste von Google-Beschäftigten gegen Diskriminierung, Sexismus und Rassismus. Dann verließ sie den Konzern. Und heute kritisiert sie Google scharf – besonders, wenn es um Künstliche Intelligenz geht.
Nach ihrer Zeit bei Google beriet sie die US-Handelskommission (FTC) in Sachen KI und gründete an der New York University zusammen mit der KI-Forscherin Kate Crawford 2017 das Institut AI Now, wobei AI für Artificial Intelligence, also Künstliche Intelligenz steht. Es ist eines der ersten akademischen Institute, die die ethische Dimension und die sozialen Auswirkungen von Künstlicher Intelligenz erforschen.
Marketingstrategie großer Tech-Konzerne?
Heute ist Meredith Whittaker Präsidentin der gemeinnützigen Stiftung, die hinter der Messenger-App Signal steckt, und setzt sich vor allem mit Datenschutzfragen zu KI auseinander. Das Time-Magazine zählte Whittaker 2023 zu den 100 einflussreichsten Menschen im Bereich der KI-Entwicklung. Kurz gesagt: Sie ist jemand, der gut einschätzen kann, ob die Welt wegen KI tatsächlich untergehen wird.
"Manche finden schreckliche Science-Fiction-Szenarien anscheinend immer wieder faszinierend", sagt Whittaker. "Der Gedanke, dass wir gerade an einem Scheidepunkt in der Menschheitsgeschichte stehen, an dem wir in der Lage sind, eine Art künstlichen Gott zu erschaffen, scheint unwiderstehlich zu sein. Doch steht dies Fiktion und religiösen Glaubensbekenntnissen näher als wissenschaftlichen Fakten."
Whittaker vermutet hinter dem Appell des Briefes eher eine Marketingstrategie der großen Tech-Konzerne. "Wenn du behauptest, in Besitz einer Technologie mit übermenschlichen Kräften und grenzenlosen, fast schon überirdischen Hirnfähigkeiten zu sein – sprich: eines Supercomputers, der in der Lage ist, die Menschheit auszulöschen –, dann ist das zunächst mal ziemlich gute Werbung für dein Produkt. Und weltweit gibt es wahrscheinlich nur wenige Regierungen und Militärs, die da nicht aufhorchen", sagt Whittaker.
KI-Expertin Meredith Whittaker
© Florian Hetz
Menschenrechte in Gefahr
Entwarnung also, erstmal kein Weltuntergang. Dennoch: Auch Whittakers Prognosen zufolge stehen den Menschenrechten im Zeitalter der Künstlichen Intelligenz stürmische Zeiten bevor.
"Ich befürchte, dass KI-Technologien mit ihren riesigen Datenmengen, die durch Überwachung genährt werden, die soziale Kontrolle und das Ungleichgewicht von Machtverhältnissen immer weiter verschärfen. Es bereitet mir große Sorge, dass diese jetzt schon problematischen Dynamiken der Ungleichheit einen Punkt erreichen könnten, an dem Wandel durch demokratische Prozesse gar nicht mehr möglich sein könnte. Weil die Möglichkeiten, privat zu kommunizieren, autonom zu handeln und dadurch auf Politik und Wirtschaft Einfluss zu nehmen, durch einen allgegenwärtigen Überwachungsstaat eingeschränkt werden", sagt Whittaker. Hinzu kommen die Dynamiken des Klimawandels. "Klar ist eigentlich nur so viel: Das komplexe Zusammenspiel von Klimakrise, geopolitischen Spannungen und technologischem Fortschritt wird das nächste Jahrzehnt bestimmen. Und ich glaube, der Aufstieg des Autoritarismus, begünstigt durch immer raffiniertere Überwachungstechnologien, ist ein bedeutender Teil dieses Szenarios. Macht richtig Laune, oder?", sagt Whittaker.
KI-Technologie spielt also repressiven Regierungen in die Hände, Meinungsfreiheit und Privatsphäre sind durch immer raffiniertere Überwachungsmöglichkeiten bedroht und damit auch die demokratische Gesellschaft. Whittakers Einschätzungen gleichen dem Szenario, das die Schwarzmaler*innen in ihrem Warnbrief schilderten. Und eine Agenda hat auch sie: Als Chefin einer Kommunikations-App, die verschlüsseltes Messaging erlaubt, verweist sie immer wieder darauf, wie bedroht die Datensicherheit im KI-Zeitalter ist.
Digitale Sweat-Shops
Nachvollziehbar sind ihre Überlegungen dennoch. Auch jene zu Arbeitsrechten: Wiederholt berichteten US-amerikanische Medien von "digitalen Sweat Shops" auf den Philippinen oder in Kenia. Tausende Menschen arbeiten dort, oft unterbezahlt und unter erbärmlichen Bedingungen, um KI-Systeme mit Unmengen an Daten zu füttern und so zu trainieren. Mehrere KI-Unternehmen werden beschuldigt, grundlegende Arbeitsstandards zu missachten und die Beschäftigten auszubeuten. Die Entwicklung von KI ist also in vielfacher Hinsicht mit Menschenrechtsverletzungen verbunden.
"Um KI-Systeme zu erschaffen, kann man nicht einfach riesige Datenmengen in einen Computer werfen. Sie müssen organisiert werden. Oft sind sehr verstörende Inhalte dabei. Wir verlagern diese belastende Arbeit ins Ausland und beuten die Intelligenz der dortigen Arbeiter*innen aus", sagt Meredith Whittaker. "Konzerne nehmen das in Kauf, um KI-Sprachmodelle entwickeln zu können, die innerhalb der Normen eines öffentlichen liberalen Diskurses agieren."
Kann man trotz allem hoffnungsvoll in die Zukunft blicken?
Zumindest wird Künstliche Intelligenz mit aller Wahrscheinlichkeit nicht das Ende der Menschheit herbeiführen. Erlösen von unseren Problemen wird sie uns allerdings auch nicht. Die Probleme der Welt scheinen durch KI eher noch komplexer zu werden. "Der Fokus muss sich verschieben von der Technologie auf soziale und politische Veränderungen, die die Welt gerechter für alle machen", sagt Whittaker. "Ohne diesen Wandel wird es nicht möglich sein, KI sinnvoll als gemeinsame Ressource in signifikantem Maßstab für etwas Gutes einzusetzen."
Tobias Oellig ist freier Reporter. Namentlich gekennzeichnete Beiträge geben nicht unbedingt die Meinung von Amnesty International wieder.
