Stell Dir vor, eine Künstliche Intelligenz (KI) schlägt vor, einen Menschen zu töten. Ein Soldat hat 20 Sekunden Zeit, die Entscheidung zu prüfen. In dieser kurzen Zeitspanne checkt er nur eines: Ist die Person männlich? Dann nickt er ab. Eine israelische Quelle berichtete dem Investigativmedium +972 Magazine im letzten Jahr genau davon. Der Artikel enthüllte den Einsatz verschiedener KI-Systeme beim Krieg in Gaza, darunter „Lavender“: Eine KI, die Kill-Listen für Bombardierungen in Gaza erstellt.

Die Enthüllungen zeigen: Der Einsatz von KI kann dazu führen, dass noch mehr Menschen in noch kürzerer Zeit getötet werden. Dazu kommt, dass die Verantwortung für die Entscheidungen darüber verschwimmt. Niemand kann sagen, nach welchen Kriterien die Algorithmen Menschen auf die Todeslisten setzen. Das ist die brutale Realität von KI-gestützter Kriegsführung heute.

Was sind autonome Waffensysteme?

Noch einen Schritt weiter gehen autonome Waffensysteme: Diese Waffen wählen nicht nur Ziele aus, sondern greifen auch ohne menschliche Anweisung an.

Ob reines KI- oder autonomes Waffensystem: Beide Systeme werfen „ernsthafte Herausforderungen und Bedenken“ aus „humanitärer, rechtlicher, sicherheitsbezogener, technischer und ethischer Perspektive“ auf, derer sich die Weltgemeinschaft dringend annehmen muss. Das steht in einer Resolution der Vereinten Nationen, für die in der letzten Woche eine große Mehrheit von 156 Staaten stimmte, darunter auch Deutschland. Nur fünf Länder votierten dagegen: USA, Russland, Israel, Belarus und Nordkorea.

Um möglichst viele Staaten zur Zustimmung zu bewegen, haben die Verfasserländer rund um Österreich die Resolution bewusst zurückhaltend formuliert. Trotzdem ist der Text wichtig. Er ermutigt zu Gesprächen über eine internationale Regulierung autonomer Waffensysteme. UN-Generalsekretär António Guterres sagte es deutlich: „Wir können Entscheidungen über Leben und Tod nicht an Maschinen delegieren“. Die menschliche Kontrolle über die Anwendung von Gewalt sei unerlässlich.

Über 270 Organisationen fordern ein Verbot

Das findet auch die „Campaign to Stop Killer Robots“ – ein Bündnis von über 270 Organisationen aus über 70 Ländern. Sie setzt sich für einen internationalen Vertrag ein, der autonome Waffensysteme verbietet, die mit unverantwortlich hohen Risiken einhergehen oder grundsätzlich nicht mit dem humanitären Völkerrecht und den Menschenrechten vereinbar sind. Dazu gehören Systeme, die sich nicht wirksam von Menschen kontrollieren lassen oder die Menschen zum Ziel haben. 

In anderen Fällen könnten KI-gestützte Systeme Menschenleben schützen, ohne sie zu gefährden: Etwa wenn sich Raketen einer Stadt nähern und es darauf ankommt, möglichst schnell ihre Laufbahn zu berechnen und sie zu zerstören, bevor Zivilist*innen getroffen werden. Für Fälle, die keines Verbots bedürfen, braucht es „nur noch“ Regeln für ihren Einsatz, etwa über das notwendige Maß menschlicher Kontrolle oder die Nachvollziehbarkeit der Algorithmen. „Zwei-Ebenen-Ansatz“ (two-tier-approach) nennt sich diese Kombination aus dem Verbot einiger Systeme und einem Regelwerk für den Einsatz der Verbleibenden.

Russland und USA haben kein Interesse an Einschränkungen

Bereits morgen, am 12. November, trifft sich nun eine andere Staatenrunde: Vertreter*innen von Ländern, die der UN-Waffenkonvention beigetreten sind. In den Protokollen dieser Konvention wird der Einsatz verschiedener Waffensysteme reguliert, teils auch verboten. Unter ihrem Dach wird auch darüber diskutiert, wie auch autonome Waffensysteme kontrolliert werden könnten – das allerdings schon seit über zehn Jahren.

Lange Zeit gab es kaum Fortschritte. Staaten wie Russland, aber auch die USA zeigen wenig Interesse daran, sich in den Möglichkeiten ihrer Kriegführung einschränken zu lassen. Doch jetzt wird die Zeit knapp:

1. Teilautonome und autonome Waffensysteme kommen weltweit immer öfter zum Einsatz. Dass es dafür keine spezifischen Regeln gibt, wird also immer kritischer.
2. Das Mandat der Gruppe, die im Rahmen der UN-Waffenkonvention über eine mögliche Regulierung verhandelt, endet schon im nächsten Jahr. 

Hände hoch für Waffenkontrolle

Deshalb waren es hervorragende Neuigkeiten, als bei einem Treffen dieser Gruppe im September 42 Staaten – darunter Deutschland – ein gemeinsames Statement abgaben: Die in den Diskussionen gemachten Fortschritte seien ausreichend, um in konkrete Verhandlungen über ein internationales Regelwerk einzusteigen. Ein solches braucht es dringend.

Dem Statement müssen beim Treffen in dieser Woche nächste Schritte folgen. Weitere Staaten sollten sich ihm anschließen und sich für die Aufnahme von Verhandlungen über verbindliche Regeln aussprechen. Die Zeit ist reif: Hände hoch für Waffenkontrolle!