Wer verantwortet den Agenten? Zuständigkeiten in agentischen Systemen

Ein AI-Agent kategorisiert eingehende Dokumente, beantwortet Anfragen, stößt Folgeprozesse an. Wochenlang läuft das gut, bis die erste Fehlentscheidung Außenwirkung entfaltet: eine falsch zugeordnete Rechnung, eine unpassende Antwort an einen Kunden. Dann steht die Frage im Raum, die vorher niemand gestellt hat: Wer ist eigentlich zuständig?

Der Fachbereich verweist auf die IT, die IT auf den Anbieter, der Anbieter auf die Konfiguration. Diese Szene wiederholt sich derzeit in vielen Organisationen, und sie hat eine gemeinsame Ursache. Die Verantwortung für agentische Systeme wurde bei der Einführung nicht explizit geregelt, weil das System ja funktionierte. Verantwortung wird aber nicht dann gebraucht, wenn alles läuft, sondern genau dann, wenn etwas schiefgeht.

Automatisierung verschiebt Verantwortung, sie löscht sie nicht

Wenn ein Mensch eine Aufgabe erledigt, sind Handlung und Verantwortung in einer Person vereint. Ein Agent trennt beides: Die Handlung liegt beim System, die Verantwortung muss ausdrücklich zugewiesen werden. Geschieht das nicht, diffundiert sie. Jeder Beteiligte kann plausibel begründen, warum die Zuständigkeit woanders liegt, und alle haben ein bisschen recht.

Der praktikabelste Ausgangspunkt ist eine einfache Frage: Wer hat diese Entscheidung verantwortet, bevor sie automatisiert wurde? Diese Rolle bleibt der fachliche Anker. Die Sachbearbeiterin, die früher Rechnungen zuordnete, oder ihre Führungskraft verantwortet weiterhin, dass Rechnungen richtig zugeordnet werden. Was sich ändert, ist die Art der Arbeit: von der Ausführung zur Definition der Regeln und zur Kontrolle der Ergebnisse. Wer Automatisierung als Abgabe von Verantwortung versteht, hat das Modell falsch aufgesetzt.

Drei Rollen, die besetzt sein müssen

In der Praxis genügen für die meisten agentischen Systeme drei klar benannte Rollen:

Rolle	Verantwortet	Typische Frage
Fachlicher Eigentümer	Was der Agent tun darf und die Qualität der Ergebnisse	Ist diese Entscheidung fachlich richtig?
Technischer Betrieb	Verfügbarkeit, Änderungen, Zugriffe, Überwachung	Läuft das System so, wie es konfiguriert wurde?
Freigebende	Einzelfallentscheidungen oberhalb der Autonomiegrenze	Gebe ich diese konkrete Aktion frei?

In kleinen Organisationen kann eine Person mehrere Rollen tragen. Entscheidend ist nicht die Anzahl der Köpfe, sondern dass die Rollen benannt und angenommen sind. Der häufigste Fehler ist, den fachlichen Eigentümer in der IT anzusiedeln. Die IT kann beurteilen, ob das System läuft. Ob seine Entscheidungen fachlich richtig sind, kann nur der Fachbereich beurteilen, und genau dort gehört die Eigentümerschaft hin.

Entscheidungsprotokolle als Grundlage

Verantwortung ohne Rekonstruierbarkeit ist eine leere Formel. Wer für die Ergebnisse eines Agenten einstehen soll, muss nachvollziehen können, was der Agent entschieden hat und warum. Jedes agentische System braucht deshalb ein Entscheidungsprotokoll mit einem klaren Minimalinhalt:

• der Auslöser: welche Eingabe oder welches Ereignis die Entscheidung angestoßen hat
• die Grundlage: welche Daten, Dokumente oder Regeln herangezogen wurden
• die Entscheidung selbst und die daraus ausgeführte Aktion
• gegebenenfalls die Person, die freigegeben hat, mit Zeitpunkt

Wichtig ist die doppelte Lesbarkeit: maschinell auswertbar für den Betrieb, verständlich für den Fachbereich. Ein Protokoll, das nur Entwickler lesen können, erfüllt seinen Zweck nicht, denn die fachliche Kontrolle liegt nicht bei den Entwicklern.

Wenn etwas schiefgeht: Prozess statt Schuldsuche

Fehler werden passieren. Das ist keine pessimistische Annahme, sondern eine Planungsgrundlage. Der Unterschied zwischen Organisationen, die gut mit agentischen Systemen arbeiten, und solchen, die daran scheitern, liegt selten in der Fehlerquote. Er liegt darin, was nach einem Fehler geschieht.

Ein belastbarer Ablauf hat vier Schritte: die Wirkung des Fehlers eingrenzen und wo nötig den Agenten anhalten, den Schaden korrigieren, die Ursache anhand des Protokolls verstehen, und schließlich die Regel oder die Autonomiegrenze anpassen. Aus dem IT-Betrieb lässt sich dabei eine Haltung übertragen, die sich dort seit Jahren bewährt: die Auswertung ohne Schuldzuweisung. Wer nach jedem Vorfall zuerst fragt, wer schuld ist, bekommt bald keine Fehlermeldungen mehr, sondern stille Umgehungen. Wer fragt, welche Regel oder welcher Prozess den Fehler möglich gemacht hat, verbessert das System.

Governance leichtgewichtig halten

Auf die erste Fehlentscheidung folgt oft die Überkorrektur: ein Gremium, ein mehrseitiges Formular, wochenlange Freigabewege für jede Anpassung. Das Ergebnis ist vorhersehbar. Governance, die schwerer wiegt als der Nutzen des Systems, wird umgangen, und die Organisation ist am Ende schlechter dran als ohne Regeln.

Leichtgewichtig heißt konkret: ein kurzes Dokument pro Agent, das Zweck, Grenzen, die drei Rollen und den Eskalationsweg festhält. Protokollierung, die automatisch mitläuft statt manuell gepflegt zu werden. Und ein regelmäßiger, kurzer Review der Entscheidungen und Vorfälle statt eines ständigen Gremiums. Die Governance darf mit der Kritikalität wachsen. Ein Agent, der interne Dokumente vorsortiert, braucht weniger Aufsicht als einer, der mit Kunden kommuniziert oder Zahlungen anstößt.

Fazit

Agentische Systeme löschen Verantwortung nicht, sie verlangen, dass sie neu und ausdrücklich verteilt wird. Drei benannte Rollen, ein Entscheidungsprotokoll, das Fachbereich und Betrieb lesen können, ein Fehlerprozess ohne Schuldreflex und eine Governance, die zur Kritikalität des Systems passt: Mehr braucht es am Anfang nicht, weniger allerdings auch nicht. Wer diese Fragen vor der Einführung beantwortet, erspart sich die unangenehmere Variante, sie nach dem ersten Vorfall unter Druck beantworten zu müssen.