Künstliche Intelligenz: In welcher Welt werden wir leben?
Die EU verhandelt gerade über Künstliche Intelligenz. Damit sie Gutes bewirken kann, müssen ihr Grenzen gesetzt werden.
Die Welt redet über Künstliche Intelligenz (KI): Der Chatbot ChatGPT kann sich nicht nur unterhalten, sondern auch Hausarbeiten schreiben oder – deutlich gefährlicher – am digitalen Fließband Hassrhetorik für Social Media entwerfen. KI generiert Bilder, die zunehmend täuschend echt wirken. Sie können günstige Kunst für das Wohnzimmer produzieren – oder der AfD helfen, gegen Geflüchtete zu hetzen.
Lena Rohrbach arbeitet bei Amnesty International Deutschland. Im Campact-Blog schreibt sie zum Thema Menschenrechte. Lies hier alle ihre Beiträge:
In welcher Welt werden wir künftig leben?
Die Europäische Union redet über KI: Derzeit verhandeln die Parlamentarier*innen des Europäischen Parlamentes über eine Verordnung, die zukünftig den Einsatz von KI regulieren soll. Sie wird entscheiden, in welcher Welt wir künftig leben. Es ist eine historische Chance. Auch über Europa hinaus: Die Verordnung wäre weltweit die erste umfassende Regulierung von KI. Es ist deshalb absehbar, dass sie Vorbildwirkung haben wird.
Künstliche Intelligenz betrifft Geflüchtete besonders
Worüber die Welt und die EU dabei nicht reden: über Geflüchtete. Dabei werden neue KI-Technologien oft zuerst bei ihnen eingesetzt – zum Beispiel pseudowissenschaftliche „Lügendetektoren“, Gesichtserkennungstechnologie oder eine KI, die Fluchtbewegungen und -routen vorhersagen soll.
Wir sind Schwarz und die Grenzkontrolleure hassen uns. Ihre Computer hassen uns auch.
Adissu
So beschreibt Adissu, ein in Brüssel lebender junger Mann aus Eritrea, seine Erfahrungen. European Digital Rights (EDRi), eine europäische Vereinigung von Bürgerrechtsorganisationen, hat Adissu für ihre Recherchen zu „Technological Testing Grounds“ interviewt. Die Recherchen zeigen: Immer öfter entscheiden Technologien darüber, ob und wie Geflüchtete Grenzen passieren dürfen.
Schutz von Geflüchteten muss sichergestellt werden
Kriegsführung demnächst wie im Hollywood-Blockbuster, mit Terminator, KI und Co.? Das wäre unverantwortlich, unethisch – und sehr gefährlich. Lies hier den Beitrag von Lena Rohrbach:
Doch ausgerechnet für Geflüchtete ist im Entwurf der EU-Verordnung kaum Schutz vor gefährlichen KI-Anwendungen vorgesehen. Im Gegenteil: Große Migrations-IT-Datenbanken sind sogar ausdrücklich vom Schutz der Regulierung ausgenommen! Das ist ein Skandal – der aber bislang keine öffentliche Beachtung findet. Dabei hat ein Bündnis aus Nichtregierungsorganisationen bereits Vorschläge entwickelt, wie der Schutz von Geflüchteten sichergestellt werden könnte.
Gesichtserkennungstechnologie birgt Risiken
Noch können die EU-Parlamentarier*innen das ändern. Auch darüber hinaus steht bei den Verhandlungen viel auf dem Spiel. Noch offen ist etwa, wie konsequent der Einsatz von Gesichtserkennungstechnologie zur Massenüberwachung des öffentlichen Raumes verboten werden wird.
Fehleranfällig, diskriminierend und sie verletzt die Privatsphäre
Gesichtserkennungstechnologie könnte die Anonymität im öffentlichen Raum beenden. Sie verletzt die Privatsphäre und das Recht auf Protest, wenn Menschen durch die Erfassung ihrer Gesichter abgeschreckt werden, an einer Demonstration teilzunehmen. Sie ist besonders fehleranfällig bei Frauen und People of Colour und bringt große Risiken mit sich, diskriminierend eingesetzt zu werden: Chinesische Wissenschaftler*innen publizierten staatlich finanzierte Untersuchungen zu den Fähigkeiten von KI, Menschen anhand ihrer ethnischen Zugehörigkeit zu kategorisieren. Berichten zufolge bewarb der Hersteller Hikvision seine Technologie damit, dass sie zwischen Uigur*innen und Han-Chines*innen unterscheiden könne.
Tatsächlich nutzen chinesische Behörden Gesichtserkennungstechnologie als wichtigen Baustein ihres Überwachungsapparates in der uigurischen Region Xinjiang. LGBTIQ-Aktivist*innen kritisierten eine Studie, die behauptete, die sexuelle Orientierung einer Person durch Gesichtserkennungs-KI bestimmen zu können. Sie schlugen Alarm, dass dies für die Verfolgung queerer Menschen genutzt werden könnte.
Künstliche Intelligenz braucht Grenzen
Du willst nichts mehr verpassen? Dann bestelle doch gleich jetzt den Campact-Newsletter und setze Dich gemeinsam mit 2,5 Millionen Menschen ein für progressive Politik:
Die Beispiele zeigen: Die EU hat viel zu tun. KI ist spannend und kann in vielen Bereichen Gutes bewirken. Dafür müssen ihr aber Grenzen gesetzt werden. Anwendungen, die unvertretbare Risiken für Menschenrechte mit sich bringen, müssen verboten werden. Das gilt zum Beispiel für den Einsatz von Gesichtserkennungs-KI zur Massenüberwachung, für KI, die über die Rechte von Geflüchteten entscheidet, oder für „Social Scoring“, bei dem eine KI unser Verhalten überwacht und bewertet.
Die aktuellen Verhandlungen in Brüssel sind eine Chance, einen wichtigen Schritt zum Schutz von Menschenrechten zu gehen. In den nächsten Wochen wird sich entscheiden, ob sie genutzt oder vertan wird. Mit einer Mail an die deutschen Abgeordneten des Europaparlaments kannst Du sie auffordern, zu handeln.