75 Jahre Vereinte Nationen
Sind die Killerroboter noch zu stoppen?

Das mühsame Ringen der Vereinten Nationen um eine Regulierung autonomer Waffensysteme
Killeroboter
© picture alliance / Bildagentur-online/Blend Images | Blend Images/Donald Iain Smith

Autonome Waffensysteme (lethal autonomous weapon systems, LAWS) stehen für die dritte Revolution in der Kriegsführung. Wie früher das Schießpulver und später die Atombombe kann der Einsatz künstlicher Intelligenz die Art der Kriegsführung radikal verändern. In den Vereinten Nationen ist es bisher nicht gelungen, einen völkerrechtlichen Vertrag zur Regulierung der LAWS zu verabschieden.

Waffensysteme gelten dann als voll-autonom, wenn sie nach ihrer Aktivierung den gesamten Prozess der Zielbekämpfung ohne signifikante menschliche Kontrolle durchlaufen können. Dieser besteht aus fünf Schritten: find, fix, track, select, engage. Schon lange sind Waffen im Einsatz (z.B. Raketenabwehrsysteme), die in den ersten drei Phasen autonom operieren können. Neu ist die Erweiterung der Autonomie auf die letzten beiden Phasen und deren Einsatz in allen Waffengattungen, nicht nur in der Verteidigung.

Mit dem Einsatz von LAWS sind große Herausforderungen verbunden

KI-Systeme sind sehr abhängig von der Akuratheit der eingegebenen Daten und dadurch höchst anfällig für Manipulationen. Fehlerhafte Algorithmen sind schwer zu analysieren und kaum zu reparieren. Autonome Systeme beschleunigen zudem das Tempo der Kriegshandlung in einem Maße, dass es die menschliche Reaktionsfähigkeit übersteigt. Und last but not least besteht eine hohe Gefahr der Proliferation. Derzeit sind nur wenige reiche Länder in der Lage, LAWS zu erforschen und zu entwickeln. Aber die Produktion wird günstiger und es braucht, anders als bei Atomwaffen, für ihre Herstellung keine besonderen Rohstoffe. Zudem ist der Export von (teil-) autonomen Waffen schon längst ein blühender Markt.

Neben den sicherheitspolitisch relevanten Fragen, stellen sich auch grundlegende ethische und rechtliche Fragen, auf die die internationale Gemeinschaft Antworten finden muss: Darf die Entscheidung über Leben und Tod eines Menschen einer Maschine überlassen werden? Macht man damit nicht Menschen zu Objekten? Gibt eine Gesellschaft damit nicht grundlegende zivilisatorischen Werte auf? Können LAWS mit den Grundsätzen des humanitären Völkerrechts in Einklang gebracht werden?

Verhandlungen im UN-Rahmen – verhärtete Fronten

Bereits seit 2014 verhandeln die Vertragsstaaten der UN-Waffenkonvention in Genf (Convention on Certain Conventional Weapons, CCW) über eine Regulierung bzw. ein Verbot autonomer Waffensysteme. Ein völkerrechtlich verbindlicher Vertrag ist jedoch bis heute nicht zustande gekommen, denn die Fronten zwischen den Akteuren sind zunehmend verhärtet: Eine Gruppe von 28 Staaten plädiert für ein sofortiges Verbot von Erforschung, Entwicklung und Einsatz von LAWS und fordert ihre völkerrechtliche Ächtung. Sie werden unterstützt von Tausenden von Wissenschaftlern und führenden KI und Robotik-Experten, mehr als 100 international aktiven NGOs, 21 Friedensnobelpreisträgern, dem UN-Generalsekretär sowie dem Europaparlament.

Ihnen stehen Staaten wie die USA, China, Russland, Frankreich, Großbritannien, Israel und Indien gegenüber, die ein Verbot strikt ablehnen, da sie sich bei der Erforschung und Entwicklung von LAWS nicht bremsen lassen wollen. Insgesamt verweigern zwölf Staaten jede Form von Regulierung der LAWS im Rahmen der CCW und blockieren damit jede Entscheidung, da dafür Einstimmigkeit erforderlich wäre.

Bei der letzten CCW-Jahrestagung im November 2019 konnte zumindest ein kleiner Fortschritt erzielt werden: die 125 CCW-Vertragsstaaten verabschiedeten Leitprinzipien für den Umgang mit LAWS (11 Principles on Lethal Autonomous Weapons Systems). Damit liegen erstmals politische Vorgaben vor, die zentrale Aspekte wie menschliche Zurechenbarkeit und Verantwortung, menschliche Kontrolle im Rahmen von Befehlsketten, und die volle Geltung internationalen Rechts für alle künftigen Waffensysteme umfassen. Die Leitprinzipien enthalten einen Großteil jener Vorschläge, die Deutschland und Frankreich gemeinsam im Rahmen einer politischen Erklärung bereits 2017 in die Verhandlungen eingebracht hatten. In den kommenden Jahren wird an der Operationalisierung der Leitlinien gearbeitet.

Kritiker bemängeln vor allem, dass die Leitlinien nicht rechtlich bindend seien und kein Verbot von LAWS enthielten. Insofern könnten sie höchstens ein erster Schritt sein. Allerdings bestünde die Gefahr, dass keine weiteren Schritte folgen werden. Sie sehen in der UN-Waffenkonvention zwar grundsätzlich den richtigen Rahmen für Verhandlungen bzgl. LAWS, doch angesichts des geltenden Einstimmigkeitsprinzips habe sich die CWW selbst in eine Sackgasse manövriert. Nur ein Dutzend Staaten untergrabe alle Bemühungen um eine effektive Regulierung. Sie sind zunehmend überzeugt, dass ein wirksames Verbot von LAWS nur außerhalb der UN-CCW erreicht werden kann. Dass dies durchaus ein erfolgversprechender Ansatz sein könnte, zeigen die Verbote von Landminen und Streumunitionen.