Teil 1 (20 Minuten): Was sind Agenten? Verständliche Einführung mit Analogien und Beispielen
Zeit: ca. 20 Minuten
In der KI bezeichnet der Begriff "Agent" ein System, das in einer Umgebung handelt, Informationen aus dieser Umgebung aufnimmt und zielgerichtet Entscheidungen trifft. Wichtige Merkmale sind Autonomie (Handeln ohne dauernde menschliche Steuerung), Wahrnehmung (Sensorsicht), Handlungsmöglichkeiten (Aktuatoren oder Schnittstellen) und Zielorientierung. Diese grundlegende Beschreibung findet sich in der etablierten KI-Literatur und Lehrbüchern (siehe Quellen).
Eine einfache Analogie: Stellen Sie sich eine Putzfrau vor, die Sie beauftragen, eine Wohnung sauber zu machen. Ein reiner Chatbot ist vergleichbar mit einem Telefonat, in dem Sie die Putzfrau instruieren und sie nur redet. Ein Agent hingegen ist die tatsächlich handelnde Person: er betreten die Wohnung, entscheidet vor Ort, welche Zimmer priorisiert werden müssen, benutzt Staubsauger und Eimer und berichtet über abgeschlossene Schritte. Der Agent kann also handeln, seinen Plan an Beobachtungen anpassen und mehrere Teilschritte ausführen.
Kontrast: Ein Chatbot ist in erster Linie auf die Erzeugung von Text oder Dialog fokussiert. Er beantwortet Fragen, führt Gespräche oder liefert Informationen. Ein Agent dagegen verbindet oft Sprach- oder Textfähigkeiten mit externen Aktionen: zum Beispiel das Ausführen von Suchanfragen, das Ausfüllen eines Formulars, die Steuerung eines Roboters oder das Aufrufen einer API. Manche Agenten nutzen Sprachmodelle als Kern, erweitern diese aber um "Werkzeuge" (APIs, Datenbanken, Robotersteuerungen), mit denen sie aktiv in der Welt wirken können.
Beispiel 1 — Reisebuchungs-Agent: Sie sagen "Buche mir Hin- und Rückflug nach Berlin nächste Woche, möglichst günstig." Ein Agent zerlegt dies in Schritte: (1) Datenquellen abfragen (Flug-APIs), (2) Verfügbarkeiten filtern, (3) Preise vergleichen, (4) Buchung durchführen, (5) Bestätigung schicken. Dabei kann er auf dem Weg Zwischenentscheidungen treffen (z. B. Alternativen vorschlagen) und Fehler behandeln (z. B. Zahlung fehlgeschlagen).
Beispiel 2 — Lokaler Desktop-Agent: Ein Agent kann lokal gespeicherte Dateien indexieren, auf eine Nutzerfrage relevante Dokumente öffnen, daraus Informationen extrahieren und anschließend strukturierte Aktionen ausführen (z. B. ein Formular ausfüllen). Der Unterschied zum bloßen Chat liegt darin, dass der Agent Zustandsänderungen vornimmt und nicht nur kommuniziert.
Hinweise zur Terminologie: Die Begriffe "intelligenter Agent" oder "autonomer Agent" werden in der Fachliteratur verwendet; die genaue Ausprägung variiert je nach Anwendung (Softwareagent, Roboteragent, webbasiertes Agentensystem). Diese Begriffe werden in Lehrbüchern zur KI beschrieben (siehe Quellen).
Teil 2 (20 Minuten): Tiefer einsteigen — Fachbegriffe und Funktionsweise
Zeit: ca. 20 Minuten
Grundbegriffe
Sensoren und Aktuatoren: Sensoren liefern Beobachtungen über den Zustand der Umgebung; Aktuatoren verändern diesen Zustand. Bei Softwareagenten entsprechen Sensoren z. B. APIs, Dateien oder Nutzereingaben, Aktuatoren sind API-Aufrufe, Datenbank-Updates oder Steuerbefehle an ein Gerät.
Zustand (state): Die interne Repräsentation des Wissens, das der Agent über seine Umgebung hat. Vollständige Beobachtbarkeit heißt, der Agent kann den vollen Zustand kennen; in vielen realen Aufgaben ist die Beobachtung partiell, was zu Unsicherheit führt.
Policy und Planner: Eine Policy ist eine Funktion, die aus einem Zustand eine Aktion auswählt. Ein Planner (Planer) hingegen konstruiert eine Folge von Aktionen, um ein Ziel zu erreichen. Manche Agenten arbeiten rein reaktiv nach festen Policies; andere führen explizite Planung durch — etwa Suche nach Aktionsfolgen in einem Zustandsraum. Beide Konzepte sind Kernelemente klassischer KI (Planung, Suchverfahren).
Belohnung und Utility (bei RL): In lerngerichteten Agenten wird Verhalten oft durch eine Belohnungsfunktion definiert. Reinforcement Learning (RL) sucht Policies, die langfristige Belohnungen maximieren; das ist die Grundlage vieler autonomer Steuerungsaufgaben.
Wie plant ein Agent mehrere Arbeitsschritte?
Planungsansätze lassen sich vereinfacht folgendermaßen kategorisieren:
- Symbolische Planung und Suche: Der Agent modelliert Zustände und Aktionen explizit und sucht mittels Algorithmen (z. B. Tiefensuche, Breitensuche, heuristische Suche) nach einer Aktionsfolge, die das Ziel erreicht. Diese Methoden sind gut fundiert in der KI-Literatur.
- Hierarchische Planung und Task-Decomposition: Große Aufgaben werden in Teilaufgaben zerlegt; auf jeder Ebene werden Pläne erzeugt. Das reduziert Komplexität.
- Reinforcement Learning: Anstatt explizit zu planen, lernt der Agent durch Interaktion eine Policy, die in vielen Situationen gute Sequenzen von Aktionen hervorbringt. RL eignet sich besonders, wenn Modell und Belohnung klar formuliert sind.
- Kombinierte Ansätze: In vielen modernen Systemen werden symbolische Planung, Suchverfahren und lernbasierte Komponenten kombiniert. Insbesondere bei Agenten, die Sprachmodelle nutzen, dient das Modell oft als "Reasoner" zur Erzeugung und Bewertung von Zwischenplänen; diese Pläne werden dann durch Tool-Aufrufe (APIs) ausgeführt. Frameworks für praktische Agenten ermöglichen, dass Sprachmodelle schrittweise vorgehen, Zwischenergebnisse prüfen und ggf. neu planen.
Praktische Architektur eines modernen Software-Agenten
Typische Bausteine eines LLM-gestützten Agenten sind: (1) Schnittstelle zur Nutzeranfrage, (2) Planungs-/Reasoning-Modul (z. B. das Sprachmodell, ergänzt um Prompting-Strategien oder Chain-of-Thought), (3) Tool-Manager mit registrierten Werkzeugen (APIs, Datenbanken, Systembefehle), (4) Zustandsspeicher (Kontext, Logs), (5) Überwachungs- und Sicherheitslayer (Prüfung von Ausgaben, Berechtigungskontrolle). Dokumentationen und Implementierungen von Agenten-Frameworks zeigen genau dieses Muster in der Praxis.
Begriffe aus der Praxis
- Tool Use: Die Fähigkeit eines Modells oder Agenten, externe Funktionen bzw. APIs aufzurufen. (Siehe Dokumentation zu Agenten-Frameworks und zu Werkzeug-Integrationen.)
- Looping/Interaction Loop: Der Agent führt Aktion → Beobachtung → Planungsschritt → Aktion aus; das kann mehrere Iterationen umfassen, bis ein Ziel erreicht ist oder ein Abbruchkriterium erfüllt ist.
- Partielle Beobachtbarkeit & Unsicherheit: Wenn der Agent die Welt nicht vollständig sieht, muss er mit Wahrscheinlichkeiten und konservativen Annahmen arbeiten; das erschwert Planung.
Was leisten große Sprachmodelle (LLMs) beim Planen — und wo sind ihre Grenzen?
LLMs sind gut darin, plausible Sequenzen von Schritten zu generieren und beim Zerlegen von Problemen in Teilaufgaben zu helfen. In Kombination mit Werkzeugen lassen sich so praktisch nützliche Agenten bauen. Gleichzeitig sind LLMs nicht per se verlässliche Planer im Sinne eines formalen Suchverfahrens: sie können Fehler produzieren, Orte und Fakten erfinden oder unpassende Aktionen vorschlagen. Deshalb ist in vielen Anwendungen eine zusätzliche Validierung, Verifikations- oder Rückversicherungsschicht erforderlich.
Relevante Grundlagenliteratur und technische Übersichten zu diesen Punkten finden sich in klassischer KI-Literatur und in der aktuellen Dokumentation zu Tool-Nutzung und Agenten-Frameworks (vgl. Quellen).
Teil 3 (10 Minuten): Konkrete Anwendungen, Grenzen und kleine Denkaufgaben
Zeit: ca. 10 Minuten
Konkrete Anwendungsbeispiele
1) Automatisierte Geschäftsprozesse: Ein Agent überwacht eingehende Rechnungen, extrahiert Daten, validiert gegen Bestellungen und löst Zahlungen aus. Vorteil: Entlastung manueller Routine. Erforderlich sind jedoch klare Prüfregeln und Audit-Logs.
2) Persönliche Assistenz (Desktop oder Mobil): Kalendereinträge, E‑Mails zusammenfassen, Termine koordinieren und Buchungen vornehmen. Nutzen entsteht bei komplexen, laufenden Aufgaben und persistentem Kontext.
3) Forschungs- und Analyseassistent: Ein Agent durchsucht Datenbanken, extrahiert relevante Papiere, fasst Ergebnisse zusammen und stellt eine vorläufige Gliederung für einen Bericht bereit. Wichtig ist transparentes Zitieren der Quellen.
Grenzen und Risiken (kompakt)
- Fehlerkaskaden: Wenn ein Agent eine fehlerhafte Aktion ausführt (z. B. falsche Zahlung), können Folgefehler groß sein. Deshalb sind Rücksetz- und Prüfmechanismen notwendig.
- Sicherheitsrisiken: Agenten, die externen Code ausführen oder API-Zugriff haben, öffnen Angriffsflächen. Spezifische Gefährdungen sind beispielsweise Manipulation durch Eingaben (Prompt Injection) oder Missbrauch von Berechtigungen. Solche Risiken werden in technischen Leitfäden zur KI-Risikoabschätzung behandelt.
- Privatsphäre und Datenzugriff: Agenten, die auf sensible Daten zugreifen, benötigen sorgfältige Zugriffssteuerung und Protokollierung.
- Übervertrauen und mangelnde Nachvollziehbarkeit: Agenten können Entscheidungen treffen, die für Nutzer plausibel klingen, aber nicht korrekt sind. Transparenz über Quellen, Entscheidungswege und Unsicherheiten ist wichtig.
Diese Risikoarten und Maßnahmen zur Risikominimierung sind Gegenstand von Richtlinien und Rahmenwerken für den verantwortungsvollen Einsatz von KI-Systemen.
Kleine Denkaufgaben zum Vertiefen (für Selbststudium)
1) Zerlegen Sie die Aufgabe "Organisiere ein eintägiges Kundenevent" in mindestens fünf Teilschritte, und überlegen Sie für jeden Schritt, welche Informationen der Agent benötigt und welche externen Werkzeuge (APIs, Kalenderzugriff, Buchungssysteme) erforderlich wären. Wo entstehen Risiken?
2) Nehmen Sie das Beispiel einer Agentenaktion mit Zahlung (z. B. Flugbuchung). Welche Prüfungen und Rückversicherungsschritte müssten implementiert werden, damit ein einmaliger Fehler nicht zu finanziellen Schäden führt?
3) Nennen Sie drei Szenarien, in denen ein einfacher Chatbot ausreichend ist, und drei Szenarien, in denen ein Agent deutlich vorteilhafter wäre. Begründen Sie jeweils kurz.
Bei diesen Übungen sollten Sie jeweils dokumentieren, welche Annahmen Sie treffen (Vollständigkeit der Informationen, Rechte des Agenten, Zuverlässigkeit von Tools). Solche Annahmen bestimmen maßgeblich, ob ein Agent sinnvoll und sicher einsetzbar ist.