Demokratie Digitalisierung Lobbyismus WeAct Ampel Europa Rechtsextremismus Wahlen Montagslächeln Klimakrise

Künstliche Intelligenz: In welcher Welt werden wir leben?

Die EU verhandelt gerade über Künstliche Intelligenz. Damit sie Gutes bewirken kann, müssen ihr Grenzen gesetzt werden.

Die EU verhandelt gerade über Künstliche Intelligenz. Damit sie Gutes bewirken kann, müssen ihr Grenzen gesetzt werden.
Der Chatbot ChatGPT kann sich nicht nur unterhalten, sondern auch Hausarbeiten schreiben oder – deutlich gefährlicher – am digitalen Fließband Hassrhetorik für Social Media entwerfen. Foto: Imago

Die Welt redet über Künstliche Intelligenz (KI): Der Chatbot ChatGPT kann sich nicht nur unterhalten, sondern auch Hausarbeiten schreiben oder – deutlich gefährlicher – am digitalen Fließband Hassrhetorik für Social Media entwerfen. KI generiert Bilder, die zunehmend täuschend echt wirken. Sie können günstige Kunst für das Wohnzimmer produzieren – oder der AfD helfen, gegen Geflüchtete zu hetzen

Lena Rohrbach arbeitet bei Amnesty International Deutschland. Im Campact-Blog schreibt sie zum Thema Menschenrechte. Lies hier alle ihre Beiträge:

In welcher Welt werden wir künftig leben?

Die Europäische Union redet über KI: Derzeit verhandeln die Parlamentarier*innen des Europäischen Parlamentes über eine Verordnung, die zukünftig den Einsatz von KI regulieren soll. Sie wird entscheiden, in welcher Welt wir künftig leben. Es ist eine historische Chance. Auch über Europa hinaus: Die Verordnung wäre weltweit die erste umfassende Regulierung von KI. Es ist deshalb absehbar, dass sie Vorbildwirkung haben wird.

Künstliche Intelligenz betrifft Geflüchtete besonders

Worüber die Welt und die EU dabei nicht reden: über Geflüchtete. Dabei werden neue KI-Technologien oft zuerst bei ihnen eingesetzt – zum Beispiel pseudowissenschaftliche „Lügendetektoren“, Gesichtserkennungstechnologie oder eine KI, die Fluchtbewegungen und -routen vorhersagen soll. 

Wir sind Schwarz und die Grenzkontrolleure hassen uns. Ihre Computer hassen uns auch.

Adissu

So beschreibt Adissu, ein in Brüssel lebender junger Mann aus Eritrea, seine Erfahrungen. European Digital Rights (EDRi), eine europäische Vereinigung von Bürgerrechtsorganisationen, hat Adissu für ihre Recherchen zu „Technological Testing Grounds“ interviewt. Die Recherchen zeigen: Immer öfter entscheiden Technologien darüber, ob und wie Geflüchtete Grenzen passieren dürfen.

Schutz von Geflüchteten muss sichergestellt werden

Kriegsführung demnächst wie im Hollywood-Blockbuster, mit Terminator, KI und Co.? Das wäre unverantwortlich, unethisch – und sehr gefährlich. Lies hier den Beitrag von Lena Rohrbach:

Doch ausgerechnet für Geflüchtete ist im Entwurf der EU-Verordnung kaum Schutz vor gefährlichen KI-Anwendungen vorgesehen. Im Gegenteil: Große Migrations-IT-Datenbanken sind sogar ausdrücklich vom Schutz der Regulierung ausgenommen! Das ist ein Skandal – der aber bislang keine öffentliche Beachtung findet. Dabei hat ein Bündnis aus Nichtregierungsorganisationen bereits Vorschläge entwickelt, wie der Schutz von Geflüchteten sichergestellt werden könnte. 

Gesichtserkennungstechnologie birgt Risiken 

Noch können die EU-Parlamentarier*innen das ändern. Auch darüber hinaus steht bei den Verhandlungen viel auf dem Spiel. Noch offen ist etwa, wie konsequent der Einsatz von Gesichtserkennungstechnologie zur Massenüberwachung des öffentlichen Raumes verboten werden wird. 

Fehleranfällig, diskriminierend und sie verletzt die Privatsphäre

Gesichtserkennungstechnologie könnte die Anonymität im öffentlichen Raum beenden. Sie verletzt die Privatsphäre und das Recht auf Protest, wenn Menschen durch die Erfassung ihrer Gesichter abgeschreckt werden, an einer Demonstration teilzunehmen. Sie ist besonders fehleranfällig bei Frauen und People of Colour und bringt große Risiken mit sich, diskriminierend eingesetzt zu werden: Chinesische Wissenschaftler*innen publizierten staatlich finanzierte Untersuchungen zu den Fähigkeiten von KI, Menschen anhand ihrer ethnischen Zugehörigkeit zu kategorisieren. Berichten zufolge bewarb der Hersteller Hikvision seine Technologie damit, dass sie zwischen Uigur*innen und Han-Chines*innen unterscheiden könne. 

Tatsächlich nutzen chinesische Behörden Gesichtserkennungstechnologie als wichtigen Baustein ihres Überwachungsapparates in der uigurischen Region Xinjiang. LGBTIQ-Aktivist*innen kritisierten eine Studie, die behauptete, die sexuelle Orientierung einer Person durch Gesichtserkennungs-KI bestimmen zu können. Sie schlugen Alarm, dass dies für die Verfolgung queerer Menschen genutzt werden könnte.

Künstliche Intelligenz braucht Grenzen

Du willst nichts mehr verpassen? Dann bestelle doch gleich jetzt den Campact-Newsletter und setze Dich gemeinsam mit 2,5 Millionen Menschen ein für progressive Politik:

Die Beispiele zeigen: Die EU hat viel zu tun. KI ist spannend und kann in vielen Bereichen Gutes bewirken. Dafür müssen ihr aber Grenzen gesetzt werden. Anwendungen, die unvertretbare Risiken für Menschenrechte mit sich bringen, müssen verboten werden. Das gilt zum Beispiel für den Einsatz von Gesichtserkennungs-KI zur Massenüberwachung, für KI, die über die Rechte von Geflüchteten entscheidet, oder für „Social Scoring“, bei dem eine KI unser Verhalten überwacht und bewertet.

Die aktuellen Verhandlungen in Brüssel sind eine Chance, einen wichtigen Schritt zum Schutz von Menschenrechten zu gehen. In den nächsten Wochen wird sich entscheiden, ob sie genutzt oder vertan wird. Mit einer Mail an die deutschen Abgeordneten des Europaparlaments kannst Du sie auffordern, zu handeln. 

TEILEN

Autor*innen

Lena Rohrbach ist Referentin für Menschenrechte im digitalen Zeitalter und Rüstungsexportkontrolle bei Amnesty International. Sie hat als Campaignerin für Campact und im Journalismus gearbeitet und war Sprecherin der Piratenpartei. Lena hat Philosophie, Kulturwissenschaft und Geschichte in Berlin und International Human Rights Law an der University of Nottingham studiert. Auf Twitter ist sie als @Arte_Povera unterwegs. Alle Beiträge

Auch interessant

LGBTQIA*, Menschenrechte Bedroht, verhaftet, getötet Alltagsrassismus, Menschenrechte Gewalt als ständige Bedrohung Feminismus, Menschenrechte Frauenrechte sind Menschenrechte Medien, Menschenrechte, Montagslächeln, Rechtsextremismus Montagslächeln: Presse und Politik Europa, Klimakrise, Menschenrechte Klimaschutz: Dein Recht! Menschenrechte Erfolg: Deutsche Pharma-Werbung im belarusischen Propaganda-TV gestoppt Europa, Menschenrechte, Umwelt German Vote: Wie Deutschland Umweltschutz und Menschenrechte blockiert Menschenrechte, Rechtsextremismus Auf die Straße, fertig, los! – Versammlungsfreiheit unter Druck Menschenrechte, Montagslächeln Montagslächeln: 75 Jahre Menschenrechtserklärung Flüchtlingspolitik, Menschenrechte, WeAct Warum Seenotrettung nicht bestraft werden darf
Campact ist eine Kampagnen-Organisation, mit der über 3 Millionen Menschen entschlossen für progressive Politik eintreten und unsere Demokratie verteidigen. Wenn wichtige politische Entscheidungen anstehen, starten wir Kampagnen - digital und auf der Straße. Wir schmieden breite Bündnisse und mobilisieren eine starke Bewegung für die gemeinsame Sache. NewsletterHilfe und FAQKontaktDatenschutzImpressumCookie Einstellungen