→Springe direkt zum Inhalt

Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag

Informationen zur Vergabe von Gutachten

Autonome Waffensysteme

Die Einreichungsfrist für Angebote ist abgelaufen.

Thematischer Hintergrund

In der Robotik und bei der Forschung zu künstlicher Intelligenz (KI) wurden in den letzten Jahren beeindruckende Fortschritte erzielt (für einen Überblick TAB-Arbeitsbericht Nr. 167 »Technologien und Visionen der Mensch-Maschine-Entgrenzung«), die auch vor dem militärischen Bereich nicht Halt machen. Unbemannte fliegende Systeme (sogenannte Drohnen) sind seit Langem fester Bestandteil militärischer Operationen. Auch für spezielle Einsätze am Boden (beispielsweise bei der Kampfmittelbeseitigung) oder im bzw. unter Wasser (z.B. zur Seeminenabwehr) kommen bereits unbemannte Systeme zum Einsatz. Wenngleich die Handlungsautonomie dieser – in Aufbau und Zielsetzung teils sehr unterschiedlichen – Systeme derzeit noch beschränkt ist und sich ihre Steuerung regelmäßig unter menschlicher Kontrolle befindet, so ist angesichts der intensiven Forschungs- und Entwicklungstätigkeit zu erwarten, dass der Grad der Autonomie von robotischen und KI-Systemen ansteigen und ihre militärische Nutzung deutlich zunehmen wird.

Das militärische Interesse an einer gesteigerten Autonomie speist sich vor allem aus drei entscheidenden Vorteilen: Ein autonomes System kann auch bei Abbruch der Kommunikationsverbindung mit der Basisstation weiter agieren. Des Weiteren erlaubt sie schnellere Reaktionszeiten in Gefechtssituationen, da die Verzögerungen durch die Funkübertragung von Sensordaten bzw. Steuerbefehlen und durch den Abwägungsprozess des menschlichen Operateurs bis zum Einsatzbefehl wegfallen. Schließlich kann das Leben der eigenen Soldaten geschützt werden, wenn Kampfhandlungen verstärkt an autonom agierende Systeme delegiert werden. Der Steigerung der Autonomie militärischer Systeme einschließlich von Waffensystemen wird daher in strategischen Überlegungen einiger Schlüsselakteure eine hohe Priorität eingeräumt.

Diese Entwicklung wird unter ethischen Gesichtspunkten kontrovers diskutiert, vor allem mit Bezug auf vollautonome bewaffnete Systeme: Im Vordergrund der Debatte steht die Frage, inwieweit es ethisch vertretbar ist und politisch zulässig sein soll, Maschinen im Gefecht autonom über Leben und Tod von Menschen entscheiden zu lassen. Vor diesem Hintergrund forderten 2015 über 20.000 Personen, darunter viele KI-Forscher und bekannte Persönlichkeiten wie Stephen Hawking und Elon Musk, in einem offenen Brief ein Verbot offensiver autonomer Waffen.

Auch Menschenrechtsorganisationen (z.B. koordiniert Human Rights Watch die Kampagne »Stop Killer Robots« eines Netzwerks nationaler und internationaler Nichtregierungsorganisationen) und die Bundesregierung (laut Koalitionsvertrag) drängen auf eine Ächtung dieser Waffensysteme. Auf der Ebene der Vereinten Nationen sind autonome Waffensysteme bereits seit 2014 Gegenstand eines informellen Expertenaustauschs im Rahmen des Übereinkommens über das Verbot oder die Beschränkung des Einsatzes bestimmter konventioneller Waffen (CCW), die übermäßige Leiden verursachen oder unterschiedslos wirken können. Auf der Fünften Überprüfungskonferenz der CCW, die im Dezember 2016 stattfand, wurde darüber beraten, ob formale Verhandlungen über eine Ächtung solcher Waffen vorbereitet werden sollen.

Bereits 2011 hat das TAB eine Bestandsaufnahme und Folgenabschätzung zur militärischen Nutzung unbemannter Systeme vorgelegt (TAB-Arbeitsbericht Nr. 144 »Stand und Perspektiven der militärischen Nutzung unbemannter Systeme«), jedoch nicht mit besonderem Fokus auf den autonomen Kampfeinsatz. Darauf aufbauend sollen im neuen TA-Projekt drei Themenbereiche untersucht werden: technische Aspekte, ethische Fragestellungen und internationale Politikfragen.

Leistungsbeschreibung der zu vergebenden Gutachten

Im Rahmen des TA-Projekts »Autonome Waffensysteme« sollen bis zu drei Gutachten vergeben werden. Möglich ist die Einreichung von Angeboten für jeweils ein Themenfeld, aber auch die Kombinationen von Themenfeldern.

Die nachfolgenden Hinweise stellen die inhaltlichen Schwerpunkte für die Erstellung von Gutachtenangeboten dar. Ergänzung, Änderung oder Konkretisierung der Untersuchungsaspekte sind durchaus möglich und sollten ggf. zwischen TAB und potenziellen Auftragnehmern im Rahmen der Angebotserstellung abgestimmt werden. Die Gutachten zu den drei Themengebieten sollen eng miteinander verzahnt werden. Hierfür soll u.a. zu Beginn eine gemeinsame Arbeitsdefinition entwickelt werden, was genau unter autonome Waffen zu fassen ist. Die Bereitschaft der Gutachter zur engen Kooperation mit dem TAB und untereinander wird vorausgesetzt.

Themenfeld 1: Technologien für autonome Waffensysteme – Stand und Perspektiven

Der Bearbeitungsaufwand sollte etwa 5 Personenmonate betragen.

Es soll untersucht werden, wie sich der technologische Reifegrad und die Entwicklungsperspektiven autonomer Waffensysteme gegenüber dem Stand weiterentwickelt haben, der im TAB-Bericht (2011) erfasst wurde. Dazu sollen vorwiegend Strategiepapiere (z.B. Roadmaps), Forschungs- und Entwicklungsprogramme und -projekte der verschiedenen Länder herangezogen werden. Neben den USA soll ein Schwerpunkt auf den Entwicklungen in Deutschland und Europa gelegt werden.

Folgende Arbeitsschritte sind vorzusehen:

  • Literatur auswerten,
  • aktuellen Stand der Technikentwicklung und des Autonomisierungsgrades unterschiedlicher Waffensysteme dokumentieren,
  • relevante FuE-Akteure beschreiben,
  • Entwicklungslinien aufzeigen,
  • in einer prospektiven Analyse mittelfristige Perspektiven im Hinblick auf Einsatzfähigkeit, Wirtschaftlichkeit etc. autonomer Waffensysteme beleuchten.

Themenfeld 2: Ethische Fragestellungen im Kontext autonomer Waffensysteme

Der Bearbeitungsaufwand sollte etwa 2 bis 3 Personenmonate betragen.

Es existiert bereits eine recht umfangreiche Fachliteratur zu ethischen Fragestellungen in der Robotik im Allgemeinen, aber auch speziell zu autonomen Waffensystemen. Hier wird meist die Ausgangsfrage zugrunde gelegt, ob bzw. unter welchen Bedingungen die Entscheidung über Leben und Tod von Menschen einem technischen Gerät überlassen werden kann. Im Hinblick auf die sehr unterschiedlichen Autonomiegrade und Einsatzzwecke unbemannter militärischer Systeme sollen deren ethische Implikationen differenziert diskutiert werden. Dabei soll auf die Anschlussfähigkeit zu lebenspraktischen bzw. rechtlichen Problemstellungen besonderer Wert gelegt werden, beispielsweise hinsichtlich zu Fragen der Verantwortung und Haftbarkeit sowie in Bezug auf das humanitäre Völkerrecht bzw. die Menschenrechte.

Folgende Arbeitsschritte sind vorzusehen:

  • Literatur auswerten,
  • nationale und internationale wissenschaftliche, politische und öffentliche Debatte um ethische Fragestellungen autonomer Waffensysteme charakterisieren,
  • Verbindungen zu politikrelevanten und rechtlichen Fragen aufzeigen.

Themenfeld 3: Sicherheitspolitische Implikationen und Möglichkeiten der Rüstungskontrolle autonomer Waffensysteme

Der Bearbeitungsaufwand sollte etwa 3 bis 4 Personenmonate betragen.

Es soll untersucht werden, welche sicherheitspolitischen Implikationen eine mögliche Verfügbarkeit autonomer Waffensysteme nach sich ziehen könnte. Beispielsweise ist zu befürchten, dass die Entscheidung, einen Konflikt mit Waffen auszutragen, leichter gefällt wird, wenn an Stelle menschlicher Soldaten autonome Waffensysteme ins Feld geführt werden können. Dies könnte destabilisierend wirken und Kriege wahrscheinlicher werden lassen. Auch wäre eine Eskalation in Krisen bzw. Konfliktsituationen durch technische Fehler und extrem verkürzte Reaktionszeiten zu befürchten. Darüber hinaus könnte ein Rüstungswettlauf angeheizt werden, da viele – und nicht nur staatliche – Akteure danach streben könnten, sich die militärischen Vorteile autonomer Waffensysteme zunutze zu machen. Es soll analysiert werden, welche Auswirkungen militärstrategische Roadmaps, Visionen u. a. im Hinblick auf autonome Waffensysteme auf sicherheitspolitische Überlegungen bzw. Positionen der verschiedenen Akteure haben und welche Dynamiken hier u.U. ausgelöst werden.

Folgende Arbeitsschritte sind vorzusehen:

  • relevante sicherheitspolitische Akteure auf nationaler und internationaler Ebene und deren Positionen beschreiben,
  • eruieren, welche rüstungskontrollpolitisch relevanten Aktivitäten im Gange bzw. in Planung sind,
  • Voraussetzungen für eine Regulierung autonomer Waffensysteme im Rahmen eines internationalen Regimes (Abkommen etc.) analysieren,
  • Handlungsmöglichkeiten Deutschlands auf internationaler Ebene skizzieren.

Termine

  • Abgabefrist für alle Angebote ist der 02.05.2017.
  • Mit der Bearbeitung der Gutachten soll voraussichtlich ab dem 03.07.2017 begonnen werden.
  • Die Vorlage der Gutachten muss bis zum 30.10.2017 erfolgen.

Die Gutachtenvergabe und -erstellung innerhalb der vorgesehenen Zeiträume erfolgt vorbehaltlich der rechtzeitigen Beauftragung durch den Deutschen Bundestag.

Hinweise zur Angebotserstellung

Angebote zur Gutachtenerstellung können für eines oder beide o.g. Themenfelder abgegeben werden. Aus den Angeboten muss klar hervorgehen, welcher Arbeitsaufwand und welche Kosten (ggf. für die einzelnen Themenfelder) kalkuliert werden. Bei mehreren Auftragnehmern wird die Bereitschaft zur intensiven Kooperation untereinander vorausgesetzt. Ebenfalls wird die Bereitschaft zur intensiven Diskussion und Kooperation mit dem TAB/UFZ vorausgesetzt.

Der finanzierbare Bearbeitungsaufwand liegt je Themenfeld bei etwa 3 bis 4 Personenmonaten.

Bei der Erarbeitung der Angebote sind die »Hinweise für Gutachter« zu beachten. Insbesondere muss die Kompetenz der Anbietenden aus den Angeboten hervorgehen, und es müssen die beabsichtigte Vorgehensweise und der erforderliche Bearbeitungsaufwand verdeutlicht werden.

Bitte senden Sie uns bis zur oben genannten Abgabefrist eine elektronische Version Ihres vollständigen und unterschriebenen Angebots zusammen mit dem Formblatt PDF [0,04 MB] (s. a. Hinweise für Gutachter) an unsere E-Mail-Adresse . Sie erhalten sodann eine Eingangsbestätigung von uns.

Zum Seitenanfang