Ich habe das vergangene Jahr damit verbracht, an Gesprächen über den Einsatz von KI mit Banken, Versicherern, Systemintegratoren und digital-nativen Herausforderern teilzunehmen. Praktisch jede Art von Unternehmen, die man nennen kann, und mit allen habe ich eine Version dieses Gesprächs geführt. Es läuft meist gleich ab. Jemand, der die KI-Governance verantwortet, erklärt uns, was die Agenten bereits im produktiven Einsatz tun. Die Anwesenden nicken. Und dann, irgendwann mittendrin, sieht man, wie der Raum still erkennt, dass niemand darin eine eigentlich recht einfache Frage tatsächlich beantworten kann: Wenn dieses System morgen etwas falsch macht, wer ist dafür verantwortlich, und gegen welche Regel wurde verstoßen?
Diese Frage, nicht die Leistungsfähigkeit des Modells, wird darüber entscheiden, wie viele der aktuellen KI-Agenten-Programme tatsächlich überleben. Gartner prognostiziert, dass mehr als 40 % der agentischen KI-Projekte bis Ende 2027 eingestellt werden, und die genannten Gründe lauten nicht „die Technologie hat nicht funktioniert“. Es sind steigende Kosten, unklarer geschäftlicher Nutzen und unzureichende Risikokontrollen. Der dritte Grund ist derjenige, den niemand auf die Kickoff-Folie schreiben möchte.
Wir haben begonnen, das fehlende Element eine Agentische Prozessgrundlage zu nennen. Das ist nicht das, was die Branche derzeit als KI-Governance verkauft, denn der Großteil dieses Angebots dreht sich noch immer um Dokumentation, und Dokumentation war nie wirklich das Problem.
Alle geben denselben Rat, und er ist nicht ganz richtig
Nimmt man an genügend solcher Gespräche teil, hört man immer wieder dieselbe Empfehlung: Prozesse abbilden, Arbeitsabläufe dokumentieren, der KI mehr Kontext geben. Nichts davon ist grundsätzlich falsch. Es reicht nur nicht aus, und die Lücke zeigt sich erst, wenn sie bereits zum Problem geworden ist.
Eine Prozessabbildung zeigt, was in einem Arbeitsablauf geschieht. Sie sagt nicht, was dabei schiefgehen könnte, wessen Aufgabe es ist, das zu verhindern, oder welche Vorschrift die betreffende Kontrolle eigentlich erfüllen soll. Ich habe gute Engineering-Teams erlebt, die wunderschön detaillierte Prozessdiagramme erstellt haben (der Art, die man stolz einem Vorstand zeigen würde), und die einem Agenten dann genau diesen Prozess übergeben haben, ohne die geringste Ahnung, welcher Schritt eine zweite Unterschrift benötigte oder welcher Dollarbetrag eine routinemäßige Transaktion zu etwas Meldepflichtigem machte. Das Diagramm war korrekt. Es war nur nicht darauf ausgelegt, die entscheidende Frage zu beantworten.
Die Lücke ist also nicht Transparenz, jedenfalls nicht in dem Sinne, den die meisten Menschen damit meinen. Es ist, genauer gesagt, Risiko- und Compliance-Kontext. Und fast niemand, mit dem ich spreche, baut das absichtlich auf. Die meisten Unternehmen stolpern erst hinein, wenn überhaupt, nachdem bereits etwas schiefgelaufen ist.
Ich habe dies unter zwei verschiedenen Bezeichnungen angepriesen gehört, und beide verdienen es, genannt zu werden, weil keine für sich allein zum Ziel führt.
Prozessintelligenz, die Mining– und Analyseseite dieses Marktes, zeigt, was in einem Arbeitsablauf tatsächlich geschehen ist: wo die Engpässe liegen, wo sich Ausnahmen häufen, wie lange Dinge wirklich dauern, wenn man das abzieht, was die Dokumentation behauptet. Das ist zweifellos nützlich, und ich stelle das nicht infrage. Aber es ist eine Beschreibung von Verhalten, keine Zuweisung von Verantwortung. Es sagt einem, dass der Prozess bei Schritt vier langsam ist. Es sagt einem nicht, wer für Schritt vier verantwortlich sein soll oder was ausfällt, wenn dieser Schritt übersprungen wird.
Und Prozesskontext, das neuere Angebot, dasjenige, das ich selbst verwendet habe, bedeutet in der Regel nur, dass der Agent vor dem Handeln mehr Informationen über den Prozess erhält. Das klingt nach Fortschritt, bis man bemerkt, dass diese Informationen immer noch nicht sagen, wer für den dritten Freigabeschritt verantwortlich ist, an welche Kontrolle er gebunden ist oder was passiert, wenn er falsch ausgeführt wird.
Beide verschaffen ein intelligenteres Bild des Prozesses. Keines von beiden liefert für sich allein eine geregelte Antwort darauf, wer verantwortlich ist und was ausfällt. Das ist die eigentliche Lücke, und sie ist enger und weniger glanzvoll, als es beide Bezeichnungen vermuten lassen.
Wie man es auch nennt, es muss auf derselben Ebene arbeiten wie der Agent. Die meisten Governance-Tools für Unternehmen sehen nur die Spitze der Prozesshierarchie, nicht den darin vergrabenen Schritt, an dem der Agent handelt.
Die vier Ebenen einer Agentischen Prozessgrundlage
Beobachtet man genügend solcher Einführungen, zeichnet sich ein Muster ab. Unternehmen, die das richtig machen, bauen in der Regel vier Dinge auf, in dieser Reihenfolge. Das sind die vier Ebenen einer Agentischen Prozessgrundlage:
Transparenz. Transparenz über Risiken und Kontrollen. Wo das Risiko in einem Prozess liegt und wer dafür verantwortlich ist.
Priorisierung. Risikoadjustierte Priorisierung. Wohin ein Agent überhaupt zuerst gelenkt werden sollte, simuliert unter realen Risiko- und Kontrollbedingungen, bevor irgendetwas in die Produktion gelangt.
Kontext. Risikokontext zur Laufzeit. Die spezifischen Risiken, Kontrollen und verantwortlichen Eigentümer, die an den genauen Schritt gebunden sind, den ein Agent gerade ausführen will, bereitgestellt in dem Moment, in dem er ihn ausführt.
Optimierung. Konformität mit der genehmigten Basislinie, sodass Abweichungen als Abweichung erkannt werden, statt als Prüfungsfeststellung.
Die Reihenfolge ist entscheidend, denn jede Ebene baut auf der vorherigen auf. Man kann eine Prioritätenliste nicht risikoadjustieren, ohne ein Risikoregister, an dem man sich orientiert. Man kann einem Agenten keinen Laufzeitkontext geben, den man nie schriftlich festgehalten hat. Und man kann Konformität nicht prüfen, ohne eine genehmigte Basislinie, an der man sich orientiert. Eine Ebene zu überspringen, untergräbt still jede folgende Ebene. Das sind vier unterschiedliche, aufeinanderfolgende Fähigkeiten, nicht vier Arten, dasselbe zu beschreiben.
Transparenz ist die erste, und sie bedeutet, einen Ort zu haben, an dem man tatsächlich nachschlagen kann, wo das Risiko liegt und wer dafür verantwortlich ist. Kein Diagramm, sondern eher etwas wie ein Risikoregister mit zugeordneten Namen. Die meisten Unternehmen verfügen bereits über diese Informationen. Sie sind nur über Tabellen, Prüfungsordner und den Kopf der einen Person verstreut, die seit fünfzehn Jahren dabei ist und sich erinnert, warum eine bestimmte Kontrolle existiert. Nichts davon kann ein Agent abfragen, bevor er handelt, was faktisch bedeutet, dass nichts davon irgendetwas schützt. Es lohnt sich, klar zu sagen, wie weit die meisten Unternehmen hier zurückliegen: Die State-of-AI-Umfrage von McKinsey aus November 2025, die fast 2 000 Organisationen umfasste, ergab, dass nur 23 % Agenten in auch nur einer einzigen Geschäftsfunktion skalierten, während weitere 39 % noch experimentierten. Das sind sehr viele Unternehmen, die Agenten in Prozesse einsetzen, deren Risikoprofil nirgendwo festgehalten wurde, wo ein Agent es finden könnte.
Priorisierung kommt an zweiter Stelle: Disziplin darüber, wohin man einen Agenten überhaupt zuerst lenkt. Das sollte kein Popularitätswettbewerb um den Prozess sein, der am einfachsten zu automatisieren erscheint. Es sollte bedeuten, tatsächlich zu simulieren, wie sich der Agent innerhalb dieses Prozesses verhalten würde, unter seinen realen Risiko- und Kontrollbedingungen, bevor irgendetwas davon die Produktion berührt. Ich sehe immer wieder Teams, die das überspringen und direkt zu dem greifen, was am sichtbarsten ist, statt zu dem, was tatsächlich zählt, und dann taucht das, wofür sie nicht simuliert haben (ein Ausnahmepfad, den niemand markiert hatte, ein regulatorischer Schwellenwert, drei Schritte tiefer verborgen), nach dem Go-live auf, zum denkbar ungünstigsten Zeitpunkt, um es zu entdecken.
Kontext kommt an dritter Stelle, und er ist es, der einen Agenten tatsächlich vor Ärger bewahrt, sobald er live ist: ihm die spezifischen Risiken, Kontrollen und verantwortlichen Eigentümer zu geben, die an den genauen Schritt gebunden sind, den er gerade ausführen will, genau in dem Moment, in dem er ihn ausführt, und nicht ein größeres Dokument, das er selbst interpretieren muss. Die eigentliche Antwort, bereits ausgearbeitet. Hier liegt auch die tatsächliche Sorge der Menschen, die diese Programme leiten. Die KPMG-Umfrage Global AI Pulse aus dem Frühjahr 2026, die mehr als 2 100 leitende Führungskräfte in 20 Ländern erfasste, ergab, dass fast drei von vier Personen einigermaßen oder sehr besorgt über Datensicherheit, Datenschutz und Risiko sind. Das ist die am höchsten eingestufte Sorge der gesamten Umfrage, noch vor Kosten, noch vor Talenten, noch vor fast allem anderen, worüber Menschen offen sprechen. Ich erinnere mich an ein Gespräch mit dem internen KI-Team einer digital-nativen Bank, das dies selbst manuell aufgebaut hatte, weil ihnen niemand eine Version davon angeboten hatte. Als ich fragte, warum sie nicht einfach auf einen Anbieter gewartet hätten, blieb mir die Antwort im Gedächtnis: Niemand sonst schien das eigentliche Problem zu lösen, das nie „dem Agenten mehr Informationen geben“ war. Es war „ihm die richtige Information geben, mit einem Namen daran“.
Optimierung kommt an vierter Stelle: im Nachhinein prüfen, ob das, was tatsächlich geschehen ist, mit dem übereinstimmt, was geschehen sollte. Konformität, mit anderen Worten. Die Ausführung mit der genehmigten Risikobasislinie vergleichen und Abweichungen erkennen, bevor sie zu einer Prüfungsfeststellung werden, statt danach. Ich hatte vor Kurzem ein Gespräch mit jemandem aus einer wesentlich älteren Institution, der Art mit einem internen Standardhandbuch von über hundert Seiten, der beschrieb, jeden Monat echte Stunden damit zu verbringen, neue Prozessarbeit manuell mit diesem Handbuch abzugleichen. Dann bat diese Person, fast hoffnungsvoll, als Erste dabei zu sein, falls das jemals automatisiert würde. Diese Bitte sagt einiges aus. Wenn die erfahrensten Compliance-Mitarbeiter sich freiwillig melden, um etwas zu testen, das es noch gar nicht gibt, ist das kein Nice-to-have irgendwo auf einer Roadmap. Das ist ein Rückstand, um den sich noch niemand gekümmert hat.
Selbst die klügsten Teams tappen in diese Falle
Das ist der Teil, der mich ein wenig überrascht hat, ehrlich gesagt. Der Fehler, dem ich am häufigsten begegne, kommt nicht von Unternehmen, die hinterherhinken. Er kommt von den fortschrittlichsten Teams im Raum, denen, die gleichzeitig fünf oder sechs KI-Initiativen jonglieren und fest davon überzeugt sind, Governance bereits gelöst zu haben, weil sie Dokumentation gelöst haben.
Man hört eine Version davon: Warum sollte ich all das brauchen, wenn ich einfach ein Allzweckmodell bitten kann, mir aus einer einfachen Beschreibung ein Prozessdiagramm zu zeichnen? Ein berechtigter Einwand, der aber am Kern vorbeigeht. Fragt man dasselbe Modell, wer den dritten Freigabeschritt verantwortet oder welche Version einer Kontrolle an dem Tag tatsächlich in Kraft war, an dem eine Entscheidung getroffen wurde, hat es keine Antwort. Ein Abbild eines Prozesses ist nicht dasselbe wie ein geregelter Nachweis darüber, wer dafür verantwortlich ist. Monatelang bemerkt niemand den Unterschied. Dann stellt ein Regulator oder ein interner Prüfer die Frage direkt, und plötzlich ist das die einzige Sache, die im Raum noch zählt.
Was ein wenig ironisch ist: Die Teams, die am ehesten annehmen, dass dies bereits geregelt ist, sind meist diejenigen mit dem größten Risiko, wenn es nicht so ist. Sich sicher bei seinem KI-Stack zu fühlen und tatsächlich Rechenschaft darüber ablegen zu können, was er tut, sind zwei verschiedene Dinge, und ich glaube nicht, dass genug Menschen, die diese Programme leiten, diesen Unterschied bereits erkannt haben.
Wohin sich das entwickelt
Wenn ich wetten müsste, würde ich sagen, dass sich das Gespräch über KI-Governance im nächsten Jahr ziemlich deutlich verschiebt, weg von „haben wir eine Strategie“ hin zu „wer zeichnet verantwortlich, wenn der Agent einen Fehler macht“. Ich denke, es wandert von einer in einem Compliance-Deck vergrabenen Folie zu etwas, das Prüfungsausschüsse routinemäßig hinterfragen, ungefähr so, wie es die Cybersicherheit vor etwa einem Jahrzehnt getan hat. Vorstände haben nicht angefangen, nach der Reaktion auf Sicherheitsverletzungen zu fragen, weil CISOs bessere Folien erstellt haben. Sie haben angefangen zu fragen, weil eine Handvoll sehr öffentlicher Vorfälle es rücksichtslos erscheinen ließ, nicht zu fragen. Ich denke, KI-Verantwortlichkeit befindet sich auf demselben Weg, nur schneller, weil der Einführungszyklus schneller ist.
Unternehmen, die diese vier Ebenen jetzt aufbauen, bevor ein Vorstandsmitglied oder ein Regulator sie dazu zwingt, werden das nächste Jahr damit verbringen, zu liefern. Diejenigen, die warten, werden es damit verbringen, zu erklären, nachdem bereits etwas passiert ist, warum ein Modell, das genau wie vorgesehen funktioniert hat, eine Entscheidung getroffen hat, die niemand wirklich verteidigen kann.
Ich denke immer noch an diese Governance-Verantwortliche, mitten im Satz, wie sie beobachtete, dass ihr eigenes Team erkannte, dass niemand sagen konnte, wer verantwortlich wäre, wenn ihr Agent den nächsten Fall falsch entscheidet. Das wird dieses Jahr in sehr viel mehr Räumen passieren. Die Unternehmen, die bereits eine Antwort haben, werden es gar nicht bemerken. Alle anderen werden auf die harte Tour herausfinden, dass die nächsten KI-Ausfälle keine Modellausfälle sein werden. Es werden Verantwortlichkeitsausfälle im Gewand eines Modells sein.
Daniel Hughes leitet den Vertrieb für Nordamerika und Japan bei iGrafx, wo er mit Banken, Versicherern und Technologieunternehmen an KI-Agenten-Risiko und Prozess-Governance arbeitet.
Häufig gestellte Fragen
Eine Agentische Prozessgrundlage ist die Risiko- und Compliance-Ebene, die ein KI-Agent benötigt, bevor ihm zugetraut werden kann, innerhalb eines geregelten Prozesses zu handeln. Sie besteht aus vier aufeinanderfolgenden Ebenen: Transparenz, Priorisierung, Kontext und Optimierung. Gemeinsam legen sie fest, wo das Risiko liegt und wer es verantwortet, wohin ein Agent überhaupt zuerst gelenkt werden sollte, was der Agent im Moment des Handelns wissen muss, und ob das Geschehene mit dem Genehmigten übereinstimmt.
Gartner prognostiziert, dass mehr als 40 % der agentischen KI-Projekte bis Ende 2027 eingestellt werden, mit Verweis auf steigende Kosten, unklaren geschäftlichen Nutzen und unzureichende Risikokontrollen. Der dritte Grund ist derjenige, der Programme still zum Erliegen bringt. Ein Team, das nicht sagen kann, wer verantwortlich ist, wenn ein Agent etwas falsch macht, wird nicht die Erlaubnis erhalten, diesen Agenten auf einen wirklich wichtigen Prozess anzusetzen, sodass das Programm nie über die Pilotphase hinauskommt.
Die Verantwortlichkeit muss zugewiesen werden, bevor der Agent handelt, nicht erst im Nachhinein geklärt werden. In den meisten Organisationen ist das nicht der Fall. Der Risikoverantwortliche für einen bestimmten Prozessschritt existiert irgendwo in einer Tabelle, einem Prüfungsordner oder im Gedächtnis einer einzelnen Person, von denen keines ein Agent abfragen kann, bevor er handelt. Den verantwortlichen Eigentümer für jeden Schritt zu benennen und diesen Eintrag zur Laufzeit verfügbar zu machen, ist das, was aus der Entscheidung eines Agenten eine Entscheidung macht, die die Organisation gegenüber einem Regulator oder einem internen Prüfer verteidigen kann.
Prozessintelligenz zeigt, was in einem Arbeitsablauf tatsächlich geschehen ist: wo sich Engpässe bilden, wo sich Ausnahmen häufen, und wie lange Schritte wirklich dauern, wenn man das abzieht, was die Dokumentation behauptet. Das ist eine Beschreibung von Verhalten. Eine Agentische Prozessgrundlage ergänzt dies um die Zuweisung von Verantwortlichkeit, das heißt, welches Risiko für einen bestimmten Schritt gilt, welche Kontrolle ihn regelt, und wer für das Ergebnis verantwortlich ist. Prozessintelligenz sagt, dass ein Schritt langsam ist. Eine Agentische Prozessgrundlage sagt, wer verantwortlich ist, wenn er übersprungen wird.