→Springe direkt zum Inhalt

Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag

Informationen zur Untersuchung

Autonome Waffensysteme

Themenbereich: Verschiedene Themen
Analyseansatz: TA-Projekt
Themeninitiative: Ausschuss für Bildung, Forschung und Technikfolgenabschätzung
Status: laufend
Bearbeitungsstand: Erstellung von externen Gutachten
Laufzeit: 2017 bis 2018

Thematischer Hintergrund

In der Robotik und bei der Forschung zu künstlicher Intelligenz (KI) wurden in den letzten Jahren beeindruckende Fortschritte erzielt, die auch vor dem militärischen Bereich nicht Halt machen. Unbemannte fliegende Systeme (sogenannte Drohnen) sind seit Langem fester Bestandteil militärischer Operationen. Auch für spezielle Einsätze am Boden (beispielsweise bei der Kampfmittelbeseitigung) oder im bzw. unter Wasser (z. B. zur Seeminenabwehr) kommen bereits unbemannte Systeme zum Einsatz. Wenngleich die Handlungsautonomie dieser – in Aufbau und Zielsetzung teils sehr unterschiedlichen – Systeme derzeit noch beschränkt ist und sich ihre Steuerung regelmäßig unter menschlicher Kontrolle befindet, so ist angesichts der intensiven Forschungs- und Entwicklungstätigkeit zu erwarten, dass der Grad der Autonomie von robotischen und KI-Systemen ansteigen und ihre militärische Nutzung deutlich zunehmen wird.

Der aktuell technisch erreichbare Autonomiegrad erlaubt es beispielsweise, dass eine Drohne selbsttätig ein bestimmtes Gebiet abfliegt, um Aufklärungsdaten zu sammeln und an eine Basisstation zu senden. Dort sind menschliche Operateure im Einsatz, die diese Daten auswerten und für komplexere Missionen bzw. einen möglichen Waffeneinsatz die letztendlichen Entscheidungen treffen (bei der Drohne Predator z. B. ein Pilot und zwei Sensorspezialisten).

Bei einem vollautonomen Waffensystem würden dagegen auch die Zielauswahl, die Unterscheidung zwischen Kombattanten und Zivilisten, die Angriffsentscheidung und schließlich der Waffeneinsatz selbsttätig durch das System ohne menschliche Einwirkung erfolgen. Das militärische Interesse an einer gesteigerten Autonomie speist sich vor allem aus zwei entscheidenden Vorteilen: Zum einen kann ein autonomes System auch bei Abbruch der Kommunikationsverbindung mit der Basisstation weiter agieren, zum anderen erlaubt sie schnellere Reaktionszeiten in Gefechtssituationen, da die Verzögerungen durch die Funkübertragung von Sensordaten bzw. Steuerbefehlen und durch den Abwägungsprozess des menschlichen Operateurs bis zum Einsatzbefehl wegfallen. Der Steigerung der Autonomie militärischer Systeme einschließlich von Waffensystemen wird daher in strategischen Überlegungen einiger Schlüsselakteure eine hohe Priorität eingeräumt.

Diese Entwicklung wird unter ethischen Gesichtspunkten kontrovers diskutiert, vor allem mit Bezug auf vollautonome bewaffnete Systeme: Im Vordergrund der Debatte steht die Frage, inwieweit es ethisch vertretbar ist und politisch zulässig sein soll, Maschinen im Gefecht autonom über Leben und Tod von Menschen entscheiden zu lassen. Vor diesem Hintergrund forderten 2015 in einem offenen Brief über 20.000 Personen, darunter viele KI-Forscher und bekannte Persönlichkeiten wie Stephen Hawking und Elon Musk, ein Verbot offensiver autonomer Waffen. Auch Menschenrechtsorganisationen (z. B. koordiniert Human Rights Watch die Kampagne »Stop Killer Robots« eines Netzwerks nationaler und internationaler NGOs) und die Bundesregierung (laut Koalitionsvertrag) drängen auf eine Ächtung dieser Waffensysteme.

Ziel und Vorgehensweise

Bereits 2011 hat das TAB eine Bestandsaufnahme und Folgenabschätzung zur militärischen Nutzung unbemannter Systeme vorgelegt (TAB-Arbeitsbericht Nr. 144 »Stand und Perspektiven der militärischen Nutzung unbemannter Systeme«), jedoch nicht mit besonderem Fokus auf den autonomen Kampfeinsatz. Darauf aufbauend sollen in dem neuen TA-Projekt drei Themenbereiche untersucht werden: technische Aspekte, ethische Fragestellungen und internationale Politikfragen.

Technische Aspekte: Es soll untersucht werden, wie sich der technologische Reifegrad und die Entwicklungsperspektiven autonomer Waffensysteme gegenüber dem Stand von 2011 weiterentwickelt haben. Darauf gestützt sollen die 2011 im TAB-Bericht getroffenen Einschätzungen mit dem Schwerpunkt auf (voll)autonome Kampfeinsätze aktualisiert und ergänzt werden.

Ethische Fragestellungen: Im Hinblick auf die sehr unterschiedlichen Autonomiegrade und Einsatzzwecke unbemannter militärischer Systeme sollen deren ethische Implikationen differenziert diskutiert werden. Dabei soll auf die Anschlussfähigkeit zu lebenspraktischen bzw. rechtlichen Problemstellungen besonderer Wert gelegt werden, beispielsweise hinsichtlich Fragen der Verantwortung und Haftbarkeit sowie in Bezug auf das humanitäre Völkerrecht bzw. die Menschenrechte.

Internationale Politikfragen: Es soll untersucht werden, welche sicherheitspolitischen Implikationen eine mögliche Verfügbarkeit autonomer Waffensysteme nach sich ziehen könnte. Beispielsweise ist zu befürchten, dass die Entscheidung, einen Konflikt mit Waffen auszutragen, leichter gefällt wird, wenn anstelle menschlicher Soldaten autonome Waffensysteme ins Feld geführt werden können. Dies könnte destabilisierend wirken und Kriege wahrscheinlicher werden lassen. Aus rüstungskontrollpolitischer Perspektive stellt sich die zentrale Frage, welche Handlungsmöglichkeiten Deutschland auf internationaler Ebene besitzt, um die angestrebte Ächtung lethaler autonomer Waffen voranzubringen.

Stand der Projektbearbeitung

Die drei genannten Themenbereiche werden derzeit durch je ein externes Gutachten erschlossen. Aufbauend auf den Ergebnissen der Gutachten ist in einer anschließenden Projektphase eine thematische Vertiefung vorgesehen, die dezidiert auf den Beratungsbedarf des Bundestages abgestimmt werden soll. Absehbar werden hier auch Fragen des humanitären Völkerrechts eine wichtige Rolle einnehmen.

Zum Seitenanfang