KI-Regulierung: Klima bleibt Randnotiz – biometrische Überwachung kommt
In der EU werden zukünftig nicht Klimaauswirkungen von Technik ins Visier genommen, sondern die Gesichter der Bürgerinnen und Bürger. Ein Leak zeigt, an welchen Stellen das EU-Parlament vergeblich für mehr Klimaschutz sorgen wollte.
Ende Januar 2024 hatte der Brüsseler Journalist Luca Bertuzzi ein fast 900 Seiten langes Dokument veröffentlicht (Google Drive), das die Positionen der EU-Kommission, der Mitgliedsländer und des Parlaments zum sogenannten „AI Act“ (Artificial Intelligence Act) enthält. Dieses neue EU-Gesetz soll zukünftig, als erstes weltweit, die Entwicklung und den Einsatz von sogenannter künstlicher Intelligenz (KI) regeln. Die rechte Spalte der Scroll-Herausforderung enthält den mit Spannung erwarteten Kompromiss, der zwischen den drei EU-Institutionen ausgehandelt wurde. Was da steht, wird wohl Gesetz.
FDP-Digitalminister Wissing hat seinen Widerstand aufgegeben und auch Rat und Parlament werden den Entwurf aller Wahrscheinlichkeit durchwinken. Der „AI Act“ muss anschließend in den einzelnen Ländern der EU umgesetzt werden. Dabei gibt es Spielräume für punktuelle Verbesserungen. Im Wesentlichen aber wird das Gesetz für mehr Überwachung sorgen, aber nicht für mehr Klimaschutz.
Gesichter, Verhalten und Hautfarbe erkennen
Das EU-weite NGO-Bündnis „Reclaim Your Face“ bedauert auf seiner Aktionsseite, dass das „versprochene Verbot biometrischer Massenüberwachung“ in den Verhandlungen untergegangen ist: „Die Beschränkungen für die Verwendung von Echtzeit- und nachträglicher Gesichtserkennung im KI-Gesetz sind minimal und gelten nicht für private Unternehmen oder Verwaltungsbehörden.“ Die NGOs sind „enttäuscht, dass in Bezug auf die so genannte ‚Emotionserkennung‘ und biometrische Kategorisierungsverfahren nur sehr begrenzte Anwendungsfälle im endgültigen Text verboten wurden (…) [d]ie Polizei soll außerdem bei Videoüberwachung berechtigt werden, Menschen anhand ihrer Hautfarbe zu kategorisieren. Es ist schwer vorstellbar, wie das mit EU-Recht vereinbar sein soll, welches Diskriminierung verbietet – aber anscheinend halten die Gesetzgeber:innen das für akzeptabel, wenn es von einer Maschine gemacht wird.“
Die französische Regierung hatte wohl viel Druck ausgeübt, weil sie der Auffassung ist, dass sie ohne derartige Überwachungsbefugnisse die Olympischen Spiele 2024 nicht organisieren könne.
Was der „AI Act“ kann
Rechtssicherheit scheint der Wunsch zu sein, der diverse Akteure dazu bewegt hat, sich für eine Zustimmung zum AI Act auszusprechen, wie auf heise.de zu lesen ist. Klar, ohne Regeln wissen Wirtschaft, Behörden und Wissenschaft nicht, was erlaubt ist und was nicht. Das ist, was der „AI Act“ kann. Er sagt, welche Anwendungen verboten sind, wie Transparenz herzustellen ist, wie Urheberrecht einzuhalten ist, welche Rechte betroffene Menschen haben und er unterstützt kleine und mittlere Unternehmen bei der Entwicklung von Technik. Aber was sagt das Gesetz zur globalen Klimakrise, deren Management auch Digitalisierung umfassen muss? Das hatte ich mir im Dezember 2023 bereits angesehen. (Lies hier den Beitrag: KI und Klima – was kann der AI Act (vielleicht)?) Mit dem neuen Dokument lässt sich jetzt noch besser sehen, was erreicht und was nicht erreicht wurde.
Stichwort Klima
Zugegeben, für eine fundierte Analyse sind die 900 Seiten im Rahmen dieser Kolumne zu sperrig, weswegen ich mich auf zwei Stichworte konzentriert habe: „climate“ und „energy consumption“. Das meiste, was ich finden konnte, steckte in Randnotizen, in sogenannten Erwägungsgründen, die es nicht in den finalen Text geschafft haben.
Die relative Wichtigkeit von Klimaschutz
In Randnotiz Nr. 3 hatte die Kommission ursprünglich eine lange Aufzählung von Bereichen der Gesellschaft vorgeschlagen, in denen KI Vorteile bringen kann. Dazu gehören Gesundheit, Landwirtschaft, Bildung, Infrastrukturmanagement, Energie, Verkehr und Logistik, öffentliche Dienstleistungen, Sicherheit und Justiz. Am Ende der Aufzählung ist angehängt: Ressourcen- und Energieeffizienz sowie Anpassung an den Klimawandel. Diese Alles-und-nichts-Formel hatte mich bereits im Dezember erkenntnislos zurückgelassen. Auch bei der zweiten Begegnung wirkt die Textstelle auf mich, als wäre der Klimaschutz, der eine wichtige Bedingung für Gesundheit, Landwirtschaft und Infrastruktur ist, nachträglich angehängt wurde. Es wirkt, als sei klar gewesen, dass Klimaschutz irgendwie wichtig ist, aber unklar, wie wichtig genau und was das ganze mit Digitalisierung zu tun hat. Ich denke, hier zeigt sich eine enorme Bewusstseins- und Wissenslücke.
Das EU-Parlament hat in seiner Position vorgeschlagen, die Aufzählung unter anderem zu ergänzen mit Umweltmonitoring und Bewahrung und Wiederherstellung von Biodiversität und Ökosystemen. Die Regierungen im Rat hatten keine Verbesserungsvorschläge. Tatsächlich haben es hier die Ergänzungen des Parlaments in den Kompromisstext geschafft. Das hat die relative Wichtigkeit von Klimaschutz um 0,3 Karmapunkte angehoben.
Augen zudrücken
Randnotiz Nr. 68 handelt von Ausnahmen bei der Prüfungsprozedur, bevor eine KI auf den Markt kommt oder eingesetzt wird. Die Kommission hatte hier Ausnahmen in den Bereichen öffentliche Sicherheit, Gesundheit und bei industriellem und gewerblichem Eigentum vorgesehen. Letzteres wollte das Parlament gestrichen haben und ergänzte Umwelt, Klimawandel, Klimaschutz und kritische Infrastruktur. Die Regierungen im Rat hatten keine Verbesserungsvorschläge. Auch hier konnte sich das Parlament durchsetzen. Für Strafverfolgungs- und Zivilschutzbehörden wurde dann noch eine Durchwink-Klausel hinzugefügt. Sie können KI-Systeme mit hohem Risiko ohne Genehmigung der Marktaufsichtsbehörde in Betrieb nehmen, sofern diese Genehmigung während oder nach der Verwendung ohne unangemessene Verzögerung beantragt wird.
KI-Umweltbilanzierung
Mit Randnotiz 87a hat das Parlament vorgeschlagen, eine Methode zur Erhebung von Informationen zum Ressourcen- und Energieverbrauch, sowie zur Müllproduktion von KI einzuführen, um deren Auswirkungen auf die Umwelt mit den Zielen der EU in Einklang zu bringen. Diese KI-Umweltbilanzierung hat es nicht in den letztendlich gefundenen Kompromiss geschafft. Die Folge wird sein, dass KI punktuell dafür eingesetzt werden wird, Klimadaten zu erheben und auszuwerten, aber KI selbst wird im Wesentlichen ein blinder Fleck in den Umweltdatenbanken bleiben.
Grüne Transformation
In einem Unterpunkt zu Artikel 54, der Bedingungen für die Förderung von Innovation nennt, hatte die Kommission als ein Kriterium ein sehr hohes Niveau des Schutzes und der Verbesserung der Qualität der Umwelt vorgebracht. Das EU-Parlament hat vorgeschlagen, Biodiversität, Verschmutzung, Eindämmung des Klimawandels sowie Anpassung an den Klimawandel zu ergänzen. Der Rat schlug dagegen vor, „sehr hohes Niveau“ zu streichen. In den Verhandlungen hat es, neben den Vorschlägen des Parlaments, sogar noch die grüne Transformation, was auch immer genau damit gemeint ist, in den Text geschafft. Das „sehr hohe Niveau“ ist geblieben.
KI-Abdruck
Randnummer 46 erläutert die technischen Dokumentationspflichten für Hochrisiko-KI. Die Kommission hatte vorgeschlagen, darunter allgemeine Merkmale, Fähigkeiten und Grenzen des Systems, Algorithmen, Daten, Schulungs-, Test- und Validierungsverfahren sowie die Dokumentation des einschlägigen Risikomanagementsystems zu fassen. Das Parlament konnte das kleine aber wichtige Wörtchen „comprehensible“, also nachvollziehbar hinein verhandeln und dafür sorgen, dass diese Pflichten für die gesamte Lebensdauer gelten und nicht nur für einen Lebenszyklus. Der Vorschlag, auch den Energieverbrauch während Herstellung und Nutzung einheitlich zu dokumentieren, fiel allerdings unter den Verhandlungstisch. Es wird keinen KI-Abdruck geben. Auf Wunsch der Regierungen wurde eine Log-Pflicht ergänzt, das heißt, eine automatische Aufzeichnung von Ereignissen bei Hochrisikosystemen.
Friedemann Ebelt engagiert sich für digitale Grundrechte. Im Campact-Blog schreibt er darüber, wie Digitalisierung fair, frei und nachhaltig gelingen kann.
Klimaschutz-by-Design
Für Randnummer 46a hatte das Parlament vorgeschlagen, dass KI-Systeme den neuesten Stand der Technik nutzen sollten, um den Energie- und Ressourcenverbrauch sowie den Abfall zu verringern. Die Konzeption von KI-Systemen sollte die Messung und Protokollierung des Energie- und Ressourcenverbrauchs in jeder Phase der Entwicklung, der Ausbildung und des Einsatzes ermöglichen. Diesen Klimaschutz-by-Design wird es leider nicht geben.
KI für Nachhaltigkeitsziele
Das EU-Parlament hat als Randnummer 46b vorgeschlagen, die Kommission solle Empfehlungen, Leitfäden und Ziele für Nachhaltigkeit herauszugeben, um die Nachhaltigkeitsziele (SDGs) zu fördern und einen fairen Vergleich von KI-Anwendungen mit Blick auf Nachhaltigkeit zu ermöglichen. Auch eine Regulierung für SDG-KI wird es leider nicht geben.
Unterm Strich flog der Klimaschutz unter den Tisch
Abgesehen von einigen punktuellen Ergänzungen, hat es kein Klimaschutzkonzept in den „AI Act“ geschafft, von dringend nötigen digitalen Utopien ganz zu schweigen. Wem das Wort Utopie unrealistisch oder realitätsfern erscheint: In Wirtschaft und Wissenschaft heißt das einfach Innovation.