KI-Agenten bezeichnen eine Technologie, die auf der Fusion von agentischer KI und großen Sprachmodellen beruht. Die Systeme agieren (teil)autonom, indem sie selbstständig und unabhängig von der Interaktion mit einem Nutzer bzw. einer Nutzerin Aufgaben lösen und Ausgaben produzieren. Solche Systeme können relevante Informationen im Netz, auf Servern oder Festplatten suchen und diese speichern sowie mit externen Systemen oder anderen KI-Agenten interagieren.

KI-Agenten erleben derzeit eine rasante Entwicklung und bergen das Potenzial, die Art und Weise, wie Arbeit organisiert wird, grundlegend zu verändern. Sie bergen Potenziale und Risiken für die politische Meinungsbildung. Außerdem stellt ihre Nutzung eine Herausforderung für das Verbraucherrecht und den Datenschutz dar. Durch die Fortschritte im Bereich multimodaler KI und Reinforcement Learning sowie die Entwicklung von domänenspezifischen Agentensystemen dürfte sich die Autonomisierung in den kommenden Jahren stark weiterentwickeln.

Zielsetzung und Vorgehensweise

Im Rahmen einer TA-Kompakt-Studie wird zunächst eine Übersicht zu zentralen Anwendungsfeldern für KI-Agenten erarbeitet. Diese beinhaltet eine Beschreibung der verschiedenen Typen und technischen Eigenschaften von KI-Agenten sowie eine Beschreibung von zwei bis drei zentralen Anwendungsbeispielen innerhalb verschiedener Anwendungsbereiche. Im Fokus stehen drei Anwendungsbereiche:

• KI-Agenten in der Arbeitswelt: Hier könnten Anwendungsbeispiele im Bereich der Büro- und Wissensarbeit, wie autonomes Projektmanagement, E-Mail-Bearbeitung und Nachrichtenscreening, untersucht werden.
• KI-Agenten für Konsument/innen (Agentic Commerce): Hier würde der Fokus auf persönliche Einkaufsassistenten liegen, die Sprachbefehle oder Befehle per Chat entgegennehmen und eigenständig über mehrere Plattformen die entsprechenden Einkäufe erledigen. Ein weiteres Beispiel sind KI-Agenten zur Reiseplanung und -buchung, wobei ein Agent die Webseiten mehrerer Anbieter für Übernachtungen, Gastronomie und Freizeitaktivitäten durchsucht und entsprechend der Interessen der Nutzenden Buchungsvorschläge macht.
• KI-Agenten und Demokratie: Hier liegt der Fokus auf der automatischen Erstellung von Inhalten (z. B. Nachrichtenartikel, Social-Media-Beiträge) mit minimaler menschlicher Aufsicht, die auf bestimmte Zielgruppen zugeschnitten ist, sowie auf deren missbräuchlichen Nutzung, um künstlich den Anschein von Konsens zu erzeugen. Es werden außerdem Systeme untersucht, die die Fähigkeit der Bürgerinnen und Bürger stärken, fundierte und kompetente Entscheidungen zu treffen, und die den öffentlichen Diskurs fördern.

Auf der Grundlage der Analyse technischer Eigenschaften und Anwendungsbeispiele werden die Potenziale und Risiken von KI-Agenten näher untersucht und beschrieben. Dabei soll analysiert werden, welche Mechanismen dazu führen, dass KI-Agenten menschliche Befehle missachten und Anwender/innen täuschen können. Der Blick soll sowohl auf übergreifende Herausforderungen (z. B. Kontrollverlust, Datenschutz und Datensicherheit) als auch auf anwendungsspezifische Herausforderungen gerichtet werden.

Aufgrund der dynamischen Entwicklung in diesem Bereich und der wenigen vorliegenden wissenschaftlichen Studien wird sich die Analyse auch auf berichtete Erfahrungen in Nachrichtenportalen, Onlineforen und sozialen Medien stützen. Dafür kommt ein Medienmonitoring zum Tracking relevanter Feeds, Nachrichtenbeiträge und Akteure zum Einsatz, gegebenenfalls ergänzt durch eine Auswertung mit Methoden der Sprachverarbeitung (NLP). Zur Abschätzung der Potenziale und Risiken innerhalb der drei Anwendungsfelder werden einschlägige Expert/innen befragt.

Die TA-Kompakt-Studie wird abschließend politische Handlungsfelder aufzeigen, die sich aus der zunehmenden Nutzung und Verbreitung von KI-Agenten ergeben. Um dabei Fragen des Datenschutzes und der Datensicherheit, des Verbraucherrechts und der Haftung zu adressieren, wird ein Gutachten vergeben.