Im Rahmen des TA-Projekts "Potenziale und Risiken des Einsatzes von KI-Agenten" soll ein Kurzgutachten erstellt werden, das insbesondere die datenschutzrechtlichen, und verbraucherrechtlichen Aspekte von KI-Agenten sowie Haftungsfragen beleuchtet. Der Fokus soll dabei auf Anwendungen in den Bereichen Arbeitswelt und Handel sowie zur Beeinflussung der politischen Meinungsbildung liegen. 

Thematischer Hintergrund

KI-Agenten bezeichnen eine Technologie, die auf der Fusion von agentischer KI und großen Sprachmodellen beruht. Die Systeme agieren (teil)autonom, indem sie selbstständig und unabhängig von der Interaktion mit einem Nutzer bzw. einer Nutzerin Aufgaben lösen und Ausgaben produzieren. Solche Systeme können relevante Informationen im Netz, auf Servern oder Festplatten suchen und diese speichern sowie mit externen Systemen oder anderen KI-Agenten interagieren.

KI-Agenten erleben derzeit eine rasante Entwicklung und bergen das Potenzial, die Art und Weise, wie Arbeit organisiert wird, grundlegend zu verändern. Sie bergen Potenziale und Risiken für die politische Meinungsbildung. Außerdem stellt ihre Nutzung eine Herausforderung für das Verbraucherrecht und den Datenschutz dar. Durch die Fortschritte im Bereich multimodaler KI und Reinforcement Learning sowie die Entwicklung von domänenspezifischen Agentensystemen dürfte sich die Autonomisierung in den kommenden Jahren stark weiterentwickeln.

Leistungsbeschreibung des zu vergebenden Kurzgutachtens

Das Gutachten soll auf Basis der aktuellen Rechtslage, laufender Gesetzgebungs- und regulatorischer Entwicklungen sowie einschlägiger Literatur und Erfahrungsberichte zum einen die Reichweite bestehender KI-Regularien mit Blick auf Anwendungen der agentischen KI untersuchen und zum anderen Governance-Modelle und Handlungsoptionen insbesondere für den deutschen Gesetzgeber herausarbeiten. Dabei können folgende Kernfragen im Fokus stehen:

Reichweite bestehender KI‑Regularien

• Welche Anwendungen der agentischen KI sind Hochrisiko-Systeme nach der KI-Verordnung?
• Welche Anwendungen sind am Arbeitsplatz, im Handel und bei der Beeinflussung von Diskursen verboten?
• Unter welchen Bedingungen ist die Nutzung von KI-Agenten zulässig?
  • Unter welchen Bedingungen dürfen KI-Agenten am Arbeitsplatz eingesetzt werden?
  • Unter welchen Bedingungen dürfen KI-Agenten Preisverhandlungen durchführen, Bestellungen vornehmen und Verträge annehmen?
  • Unter welchen Bedingungen dürfen KI-Agenten auf sozialen Medien eigenständig agieren?
• Welche Entscheidungen dürfen KI-Agenten eigenständig treffen? Wo sind menschliche Freigaben erforderlich?
• Welche Schadensarten können entstehen, wenn KI-Agenten am Arbeitsplatz, im Handel oder zur Beeinflussung von Online-Diskursen eingesetzt werden?
• Wer haftet für Fehler eines KI-Agenten? Inwiefern unterscheidet sich das je nach Anwendungskontext?
• Inwiefern decken geltende Regularien Schadensarten ab, die KI-Agenten verursachen können? Welche Rechtsbereiche sind von der Nutzung von KI-Agenten betroffen? Ist die Nutzung von KI-Agenten in diesen Rechtsgebieten jeweils ausreichend abgedeckt?
• Inwiefern decken aktuell geltende Regularien Schadensarten ab, die nicht auf einmalige Ereignisse zurückzuführen sind (z. B. kumulative, systemische, langfristig sich entfaltende Schäden)?

Handlungsbedarf

• Welche rechtlichen Unsicherheiten und Haftungsfragen sind vom Gesetzgeber noch zu klären?
• Welche rechtlichen und organisatorischen Governancemodelle wären denkbar, um die Risiken der verbreiteten Nutzung von KI-Agenten ausreichend zu berücksichtigen? Welche Rolle spielen dabei Standardisierung und Aufsicht?
• Welche Handlungsoptionen stehen dem europäischen und dem deutschen Gesetzgeber zur Verfügung?

Bearbeitungsaufwand und Termine

Der vergütbare Bearbeitungsaufwand für die Gutachtenerstellung wird mit bis zu vier Personenmonaten veranschlagt.

• Abgabetermin für die Angebote ist der 03.08.2026
• Mit der Bearbeitung der Gutachten soll voraussichtlich am 01.10.2026 begonnen werden.
• Das Gutachten muss bis zum 30.11.2026 fertiggestellt sein.

Die Gutachtenvergabe und -erstellung zu den genannten Terminen erfolgen vorbehaltlich der rechtzeitigen Zustimmung bzw. Mittelbewilligung durch den Deutschen Bundestag.

Hinweise zur Angebotserstellung

Aufgabe des TAB ist es, eingehende Angebote zu sichten und wissenschaftlich zu bewerten sowie dem Deutschen Bundestag Vorschläge zur Gutachtenvergabe zu unterbreiten. Das TAB ist Ansprechpartner für alle projektspezifischen wissenschaftlichen Fragen und zuständig für die Prüfung und Abnahme Ihres Gutachtens. Die Bereitschaft zur intensiven Diskussion und engen Kooperation mit dem TAB wird vorausgesetzt.

Da der vorgesehene Zeitrahmen für die Erstellung der Gutachten keine langwierige Erschließung der Themen zulässt, wird erwartet, dass die Anbieter bereits über eine ausgewiesene Expertise im Feld verfügen und möglichst auf eigene Vor- und laufende Arbeiten zurückgreifen können.

Qualitative und formale Anforderungen an das Gutachtenangebot und Hinweise zur vergleichenden Bewertung der eingereichten Angebote

Um die Qualität der Gutachtenangebote (auch vergleichend) seitens des TAB bzw. des Deutschen Bundestages bewerten zu können, sind qualitative Kriterien bei der Angebotserstellung zu berücksichtigen bzw. zu erfüllen; diese Kriterien werden gleichwertig bei der Bewertung berücksichtigt:

• Aus dem Angebot muss die besondere fachliche Kompetenz der Anbietenden sowie auch des konkret eingesetzten wissenschaftlichen Personals insgesamt im hier nachgefragten Themenfeld ausführlich, deutlich, fundiert und transparent hervorgehen und belegt werden. Anzuführen sind insbesondere die relevanten wissenschaftlichen und Forschungserfahrungen und/oder sonstigen hervorragenden Kompetenzen (inkl. Anerkennungen und Erfolge) im Themenfeld sowohl in der Breite als auch in der Tiefe. Nachzuweisen ist dies in der Regel durch die Darlegung von verantwortlich durchgeführten Projekten, themenrelevanten Tätigkeiten und (wissenschaftlichen) Beratungsleistungen sowie den Nachweis von themenrelevanten Publikationen (z.B. peer-reviewed).
• Betrachtet und bewertet wird auch die Qualität der inhaltlichen und formalen Aufbereitung des Angebots insgesamt. Notwendig ist eine klare Strukturierung des Angebots. Ausführlich und nachvollziehbar müssen die beabsichtigte Vorgehensweise bei der Erstellung des Gutachtens und der notwendige und vorgesehene Bearbeitungsaufwand verdeutlicht und begründet werden. Relevant ist zudem die (möglichst vollständige) Beachtung bzw. Adressierung der in der Bekanntmachung angeführten Bearbeitungsaspekte.
• Bewertet wird zudem die Beschreibung des beabsichtigten methodischen Vorgehens zwecks Generierung bzw. Aufbereitung der für das Gutachten relevanten wissenschaftlichen Expertisen und Arbeitsergebnisse. Die gewählte Methodik bzw. die besondere Eignung des methodischen Vorgehens muss nachvollziehbar dargelegt und überzeugend begründet werden. Transparent nachvollziehbar und begründet müssen zudem die inhaltliche Zuordnung und die zeitlichen Abläufe der jeweiligen Arbeitsschritte bzw. Arbeitspakete sein.
• In die Bewertung der Gutachtenangebote fließt schließlich auch der Preis des jeweiligen Angebots ein.

Bitte beachten Sie bei der Erstellung Ihres Angebots die Hinweise zu Pflichtangaben. Senden Sie uns zunächst eine elektronische Version Ihres Angebots zusammen mit dem ausgefüllten Formblatt (Word-Dokument zum Ausfüllen) an unsere E-Mail-Adresse buero-tab-beim-bundestag.de. Unserer Erfahrung nach bedürfen detaillierte Angebote häufig einer schriftlichen, formalen und kalkulatorischen Überarbeitung. Sollten wir Ihr Angebot nach unserer Prüfung in die engere Wahl ziehen und dem Deutschen Bundestag zur Vergabe vorlegen wollen, werden wir Sie ggf. um eine entsprechende Modifizierung und anschließend um die erneute elektronische Übersendung des Angebots bitten.

Sollte es zu einer Zusammenarbeit zwischen Ihnen und dem TAB kommen, wird diese auf der Grundlage eines Vertrages zwischen dem Deutschen Bundestag und Ihnen erfolgen. 

Weitere Informationen und Downloads

• Formblatt für Gutachtenangebot  (Word-Dokument zum Ausfüllen)
• Hinweise zu Pflichtangaben
• Zur Projektseite