KI-Governance im Einkauf: Vertrauen schaffen, bevor Agenten handeln

KI-Agenten im Einkauf sollten nicht bloß Erkenntnisse liefern und warten, bis jemand handelt. Sie sollen Lieferanten empfehlen, Workflows genehmigen, Risiken aufdecken, Bestellungen erstellen, Rechnungen gegen Vertragsbedingungen validieren und nachgelagerte Aktionen über den gesamten S2P-Prozess hinweg auslösen.

Verantwortliche im Einkauf wollen etwas, das automatisieren, Zusammenhänge erkennen, als Meistertaktiker agieren und, was für dieses Thema besonders wichtig ist, handeln kann. Sobald ein Agent handeln statt nur informieren kann, verändert sich das Gespräch über Governance grundlegend.

KI-Governance im Einkauf ist das Kontrollsystem, das definiert, worauf KI-Agenten zugreifen können, was sie tun dürfen, wann Menschen Aktionen genehmigen müssen und wie jede Entscheidung überwacht und geprüft wird.

Wenn Sie das falsch angehen, erhalten Sie autonome Agenten, die ohne Grundregeln operieren. Wenn Sie es richtig angehen, erhalten Sie ein Einkaufsteam mit einem ernstzunehmenden Wettbewerbsvorteil.

Dies ist der zweite Artikel einer dreiteiligen Serie zu agentischer KI im Einkauf. Er behandelt, was Governance im Unternehmensmaßstab tatsächlich erfordert, warum menschliche Verantwortlichkeit strukturell verankert sein muss, und was KI-Einführungen, die skalieren, von solchen unterscheidet, die ins Stocken geraten.

Autonomie ohne Governance ist nur Risiko

Es gibt einen bedeutenden Unterschied zwischen einem Analytics-Tool, das eine Ausgabenanomalie aufzeigt, und einem KI-Agenten, der die Anomalie identifiziert, ermittelt, welche Verträge betroffen sind, die beteiligten Lieferanten kennzeichnet und einen Korrekturworkflow anstößt. Das eine ist eine Reporting-Funktion. Das andere ist eine Handlung im Namen des Unternehmens.

Wenn KI-Agenten im Einkauf eine Bestellung genehmigen, einen Lieferanten für ein Vergabe empfehlen oder Preise anhand vordefinierter Parameter verhandeln, steht operativ und finanziell einiges auf dem Spiel. Bemerkenswert ist, dass Unternehmensverträge für agentische KI zunehmend wie Outsourcing-Vereinbarungen aussehen. Das ergibt Sinn, denn sie delegieren Handlung, nicht Analyse.

Die meisten Einkaufsverantwortlichen haben die Frage, ob KI-Agenten eingesetzt werden sollen, bereits hinter sich gelassen. Die schwierigere Frage ist, wie man ihnen innerhalb der Unternehmensgrenzen vertrauen kann, wie man Agenten genug Spielraum gibt, um nützlich zu sein, während gleichzeitig genug Kontrolle erhalten bleibt, um rechenschaftspflichtig zu sein.

Das ist ein Governance-Problem, und die meisten Organisationen haben noch keine gute Antwort darauf.

Was Governance für KI-Agenten tatsächlich bedeutet

Der Begriff Governance wird in der Einkaufstechnologie oft unpräzise verwendet. In diesem Kontext hat der Begriff jedoch eine spezifische Bedeutung: Es ist ein Betriebsmodell, das fest in die Arbeitsweise der Agenten eingebettet ist. Kein Richtliniendokument. Keine Compliance-Checkliste. Etwas, das kontinuierlich und automatisch auf Plattformebene durchgesetzt wird.

Es gibt hierbei vier Säulen, die richtig umgesetzt werden müssen:

Zugriffskontrolle

Definiert, was jeder Agent sehen kann. Ein Agent, der im Namen eines Category Managers arbeitet, sollte sehen, wozu dieser Category Manager berechtigt ist. Seine Kategorien, seine Lieferanten, seine Verträge. Rollenbasierte Zugriffskontrollen für KI-Agenten sollten die Berechtigungsstrukturen widerspiegeln, die bereits für menschliche Nutzer gelten. Wenn Ihre KI-Einkaufsimplementierung dies nicht auf Plattformebene durchsetzt, wird jeder Agent zu einem potenziellen Risiko für Datenexposition.

Entscheidungsgrenzen

Definieren, was der Agent eigenständig tun darf. Kann er eine Bestellung unterhalb eines bestimmten Schwellenwerts genehmigen? Kann er einen Lieferanten empfehlen, aber nicht auswählen? Kann er einen Drei-Wege-Abgleich bei einer Rechnung durchführen, aber muss Ausnahmen eskalieren? Dies müssen durchsetzbare Beschränkungen sein, keine Richtlinien. Ohne klare Grenzen ist Autonomie nur eine unkontrollierte Ausführung.

Prüfbarkeit

Definiert die Nachverfolgbarkeit von Aktionen und Überlegungen der KI. Jede Agentenaktion, jeder abgerufene Datenpunkt, jedes aufgerufene Tool, jede getroffene Entscheidung sollte protokolliert werden. Und nicht nur das Ergebnis. Die Überlegungskette. Wenn ein CFO oder Prüfer fragt, warum der Agent einen bestimmten Lieferanten empfohlen hat, muss die Antwort nachvollziehbar sein. Nicht „das Modell hat entschieden…“, sondern eine konkrete Kette aus Daten, Logik und Berechtigungen.

Kontinuierliche Evaluierung

Definiert, was nach der Einführung passiert. Ein Agent, der am ersten Tag gut funktioniert, kann sich verschlechtern, wenn sich Daten verändern, Richtlinien weiterentwickeln oder sich Grenzfälle häufen. Governance ist kein Tor, das man einmal passiert. Es ist ein fortlaufendes Monitoring von Genauigkeit und Performance.

Menschliche Verantwortung gehört ins Fundament, nicht in die Einstellungen

Hier wird es konkret.

Manche Anbieter behandeln Governance als Konfiguration. Sie geben Ihnen Regler für Autonomiestufen, Umschalter für Human-in-the-Loop-Genehmigungen, Dashboards für das Monitoring.

Das klingt auf den ersten Blick vernünftig. Aber es legt die gesamte Last auf den Kunden, die richtigen Einstellungen zu finden, sie zu pflegen, wenn sich Prozesse ändern, und für die Konsequenzen geradezustehen, wenn etwas schiefgeht.

Nach einem Governance-Versagen lautet die Frage „Warum haben Sie es so konfiguriert?“ statt „Warum hat die Plattform das zugelassen?“.

Es gibt ein besseres Modell. Machen Sie menschliche Verantwortlichkeit strukturell. Jede Agentenaktion ist von Design her einer namentlich benannten Person zugeordnet. Wenn ein Agent in einer Chat-Konversation operiert, erbt er die Berechtigungen des Nutzers, der ihn aufgerufen hat, und kann diese nicht überschreiten.

Wenn er autonom in einem Workflow oder im Hintergrund läuft, hat er weiterhin einen verantwortlichen Nutzer, dessen Berechtigungsgrenze er befolgt und auf den er bei Human-in-the-Loop-Entscheidungen zurückgreift. Es gibt keinen Modus, in dem der Agent ohne eine für das Ergebnis verantwortliche Person operiert.

In der Praxis zeigt sich das auf drei Autonomiestufen:

1. Assist: Der Agent übernimmt Recherche, Analyse und Empfehlungsarbeit. Der Mensch prüft und entscheidet. Ein Agent könnte für ein Sourcing-Event die drei besten Lieferanten mit vollständiger Scoring-Begründung aufzeigen. Der Category Manager trifft die Entscheidung.
2. Ausführung: Der Agent handelt innerhalb von Regeln und Parametern, die ein Mensch bereits genehmigt hat. Das AP-Team legt Toleranzen für den Drei-Wege-Abgleich und Schwellenwerte für Ausnahmen fest. Der Agent verarbeitet alles, was innerhalb dieser Toleranzen liegt. Ausnahmen gehen an eine Person. Die Parameter sind menschliche Entscheidungen. Die Verarbeitungsgeschwindigkeit ist der Beitrag des Agenten.
3. Orchestrierung: Der Agent koordiniert mehrstufige Workflows mit menschlichen Kontrollpunkten an kritischen Stellen. Tritt ein Risiko bei einem Lieferanten auf, zeigt der Agent betroffene Verträge auf, identifiziert alternative Lieferanten und entwirft einen Maßnahmenplan. Der Einkaufsverantwortliche prüft und genehmigt jede Stufe, bevor der Agent zur nächsten übergeht.

Auf jeder Stufe ist jemand verantwortlich. Bei gesteuerter Autonomie geht es nicht darum, Menschen aus dem Einkauf zu entfernen. Es geht darum, ihnen Hebelwirkung zu verschaffen und gleichzeitig die Kontrolle zu behalten. Genau das unterscheidet agentische KI im Einkauf, die tatsächlich skaliert, von agentischer KI, die ins Stocken gerät, weil die Führungsebene ihr nicht vertraut.

Warum KI-Agenten ohne Nachvollziehbarkeit keine Zukunft haben

Einkaufsentscheidungen betreffen Ausgaben, Margen, Lieferantenbeziehungen, vertragliche Verpflichtungen, ESG-Verpflichtungen und regulatorische Compliance.

Wenn ein KI-Agent eine Entscheidung in einem dieser Bereiche trifft oder beeinflusst, muss die Organisation verstehen, warum. „Die KI hat entschieden“ wird in einer Quartalsprüfung, einem Compliance-Audit oder einem Lieferantenstreit nicht standhalten.

Was standhält, ist ein klarer Transparenzstandard:

Erklärbare Ergebnisse. Empfehlungen, Risikokennzeichnungen und Lieferanten-Scores sollten mit den Datenpunkten, dem Kontext und der Begründung geliefert werden, die zu ihnen geführt haben. Kein generischer Konfidenzwert. Eine Erklärung in Einkaufsbegriffen: Gesamtkostenaufschlüsselung, Risikosignale, Leistungshistorie, Vertragskonformitätsstatus.

Nachvollziehbare Entscheidungsketten. Jeder Schritt in der Überlegung des Agenten sollte protokolliert werden: welche Daten abgerufen wurden, welche Tools aufgerufen wurden, welcher Kontext angewendet wurde, welche Berechtigungen die Aktion regelten. Die vollständige Kette, keine nachträgliche Zusammenfassung.

Aktionsprotokolle mit echtem Kontext. Nicht nur, was der Agent getan hat, sondern wann, in wessen Namen, unter welchen Berechtigungen und gegen welchen Datenstand. Das ist der Audit-Trail, den Compliance und Rechtsabteilung tatsächlich benötigen.

Reproduzierbarkeit. Wird eine Entscheidung infrage gestellt, sollte die Organisation die Überlegungskette des Agenten mit denselben Eingaben wiederholen und prüfen können, ob das Ergebnis reproduzierbar ist. Ist es nicht reproduzierbar, ist es nicht prüfbar. Und ist es nicht prüfbar, hält es einer Überprüfung nicht stand.

Definierte Eskalationspfade. Stößt ein Agent auf Mehrdeutigkeit, widersprüchliche Daten oder eine Entscheidung außerhalb seiner Grenzen, sollte er nicht raten oder standardmäßig die wahrscheinlichste Antwort wählen, sondern mit vollständigem Kontext an die richtige Person eskalieren.

So gestalten Sie KI-Agenten, denen Ihr Team vertrauen kann So entstehen KI-Agenten, denen Ihr Team vertrauen kann

Governance endet nicht mit der Einführung. Ein KI-Agent ist keine Software, die Sie einmal konfigurieren und dann laufen lassen. Es ist eine Fähigkeit, die kontinuierliches Management benötigt, und die meisten Organisationen unterschätzen das.

Der Lebenszyklus ist unkompliziert:

1. Aufbauen oder konfigurieren: Beginnen Sie mit vorgefertigten Funktionen oder konfigurieren Sie Agenten für spezifische Workflows. Einkaufsteams sollten definieren können, was Agenten tun. IT sollte die zentrale Kontrolle über Berechtigungen, Datenzugriff und LLM-Auswahl behalten. Beide müssen einbezogen werden, und keiner sollte zum Flaschenhals werden.
2. Genauigkeit testen: Bevor ein Agent Produktionsdaten berührt, testen Sie ihn. Wie hoch ist die Genauigkeitsrate beim Rechnungsabgleich? Wie gut stimmt die Lieferantenempfehlung mit der tatsächlichen Kategorienstrategie überein? Tests vor der Produktion sind keine Best Practice. Sie sind das absolute Minimum.
3. Mit Grundregeln einführen: Die erste Einführung sollte konservativ beginnen: verpflichtende menschliche Genehmigung für hochwertige Aktionen, engere Entscheidungsgrenzen, als Sie zunächst für nötig halten, verstärktes Monitoring. Sie können die Grundregeln lockern, sobald sich Vertrauen aufgebaut hat. Sie können den Schaden nicht rückgängig machen, der entsteht, wenn Sie zu schnell vorgehen.
4. Kontinuierlich überwachen: Die Genauigkeit kann sich verschlechtern, wenn sich Lieferantenmärkte verändern, Kategorienstrategien weiterentwickeln oder die Datenqualität schwankt. Der Agent, der im ersten Quartal gut funktionierte, braucht im dritten Quartal möglicherweise eine Neukalibrierung. Kontinuierliches Monitoring macht KI-Orchestrierung im Einkauf auf Dauer vertrauenswürdig.
5. Verfeinern und iterieren: Passen Sie basierend auf Leistungsdaten an: engere oder breitere Grenzen, neue Skills, aktualisierte Schwellenwerte, erweiterten oder eingeschränkten Datenzugriff. Das ist keine einmalige Übung. Die besten KI-Einführungen sind jene, bei denen das Team die Agentenleistung so behandelt wie die Lieferantenleistung: als etwas, das aktiv gemanagt wird.

Es geht nicht darum, die gesamte Agentenentwicklung in der IT zu zentralisieren. Es geht darum, Einkaufsteams echte Werkzeuge zu geben, um Fähigkeiten aufzubauen und zu verfeinern, während der Governance-Rahmen sicherstellt, dass nichts aus dem Ruder läuft.

Der Einkauf kennt die Workflows. Die IT kennt die Sicherheits- und Compliance-Anforderungen. Die Plattform sollte beiden dienen, ohne einen der beiden warten zu lassen.

Agenten-Wildwuchs: Wie zu viele KI-Agenten zum Sicherheitsrisiko werden

Es gibt eine Governance-Dimension, die in den meisten Gesprächen über Einkaufs-KI komplett übersehen wird.

Viele Anbieter reagieren auf den Boom agentischer KI, indem sie einfach immer mehr Agenten auf den Markt bringen.

• Ein Sourcing-Agent.
• Ein Vertrags-Agent.
• Ein Lieferantenrisiko-Agent.
• Ein Rechnungs-Agent.
• Ein Ausgabenanalyse-Agent.

Jeder mit eigenen Datenverbindungen, eigenem Berechtigungsmodell, eigenem Audit-Trail (oder dem Fehlen eines solchen) und eigenen Governance-Anforderungen.

Selbst innerhalb einer einzelnen S2P-Suite ist das ein Governance-Problem. Wenn fünf oder zehn Agenten jeweils unterschiedliche Zugriffsbereiche, unterschiedliche Entscheidungsgrenzen und unterschiedliche Verantwortlichkeitsstrukturen haben, wird Governance zu einem Flickenteppich.

Wer ist verantwortlich, wenn sich der Sourcing-Agent und der Risiko-Agent widersprechen? Wessen Berechtigungen gelten, wenn ein Agent einen anderen auslöst? Wie prüfen Sie eine Entscheidungskette, die drei verschiedene Agenten mit drei verschiedenen Protokollen durchläuft?

Es wird schlimmer, wenn diese Agenten auf fragmentierten Daten aufsetzen, was bei den meisten der Fall ist. Jetzt haben Sie mehrere Agenten, die unabhängige Entscheidungen aus partiellen Sichten derselben zugrunde liegenden Realität treffen.

Jeder wird einzeln gesteuert, aber niemand steuert die Interaktionen zwischen ihnen. In dieser Lücke leben Governance-Versagen.

Die Alternative ist architektonisch. Ein einzelner Agent mit Zugriff auf die gesamte Plattform, gesteuert von einem einzigen Berechtigungsmodell, protokolliert in einem einzigen Audit-Trail. Ein Verantwortlichkeitsmodell und ein Berechtigungsrahmen. Eine Stelle, an der Sie nachsehen, wenn Sie eine Entscheidung prüfen müssen. Nicht weil Einfachheit ein Selbstzweck ist, sondern weil Governance im großen Maßstab Konsistenz erfordert und Agenten-Wildwuchs das Gegenteil von Konsistenz ist.

Fünf Governance-Fragen, die jeder CPO stellen sollte

Bevor Sie in einen KI-Agenten für den Einkauf investieren, bewerten Sie Governance mit derselben Sorgfalt, die Sie auch bei den Fähigkeiten anwenden. Diese fünf Fragen zeigen Ihnen, ob eine Einführung auf Skalierung oder auf Stillstand ausgelegt ist:

1. Kann ich sehen, auf welche Daten jeder Agent zugreift?

Wenn Sie den Datenbereich für jeden Agenten nicht definieren und prüfen können, können Sie keine Data Governance durchsetzen. Jeder Agent sollte innerhalb einer klar definierten, berechtigungsbasierten Grenze operieren.

2. Hat jede Agentenaktion eine namentlich benannte, verantwortliche Person?

Nicht „kann ein Mensch es überprüfen, wenn er möchte“. Ist eine bestimmte Person jedes Mal standardmäßig für das Ergebnis verantwortlich? Es sollte keinen Modus geben, in dem der Agent ohne diese Verantwortlichkeit operiert.

3. Ist jede Aktion protokolliert und prüfbar?

Der Audit-Trail sollte erfassen, was der Agent getan hat, wann, in wessen Namen, mit welchen Daten und mit welcher Begründung. Lückenhafte Protokolle sind lückenhafte Governance.

4. Kann ich die Genauigkeit vor der Einführung testen?

Agenten sollten gegen reale Einkaufsszenarien testbar sein, bevor sie Produktionsdaten berühren. Wenn der Anbieter Tests vor der Einführung nicht unterstützen kann, sagt das etwas darüber aus, wie das Produkt entwickelt wurde.

5. Können Einkaufsteams Agenten aufbauen oder anpassen, ohne Schatten-KI zu schaffen?

Der Einkauf braucht die Möglichkeit, KI-Fähigkeiten zu verfeinern und zu erweitern. Aber wenn das außerhalb eines durch Governance geregelten Rahmens geschieht, ohne überwachten Datenzugriff oder Audit-Trail, haben Sie eine Schatten-KI. Die Plattform sollte gleichzeitig Empowerment und Kontrolle ermöglichen.

Fallstudie: Wie Körber KI mit Governance an erster Stelle skaliert

Körber, der globale Technologiekonzern, führt ein erfolgreiches Pilotprojekt mit Ivaluas IVA durch, mit einem Ansatz, der Governance von Anfang an in den Mittelpunkt stellt.

Ihr Modell ist aufschlussreich. Statt KI top-down einzuführen und Governance später zu klären, lud Körber Nutzer ein, Anwendungsfälle vorzuschlagen, validierte jeden gegen die Governance-Anforderungen und skaliert nur, was dem Standard entspricht. Es ist ein Einführungsmuster, das auf Vertrauen statt auf Vorgaben aufbaut.

„Beim Thema KI betrachten wir die Dinge konsequent aus der Perspektive der Menschen – nie rein technisch. Für uns ist entscheidend, dass wir unsere Organisation zu einem KI-fähigen Unternehmen weiterentwickeln.“ — Michael Schuermann, EXECUTIVE VICE PRESIDENT, Körber

Governance ist nicht das, was die KI-Einführung verlangsamt. Sie ist das, was die Einführung dauerhaft macht. Wenn Nutzer darauf vertrauen, dass die Plattform Grenzen durchsetzt, Aktionen protokolliert und menschliche Verantwortlichkeit wahrt, engagieren sie sich. Fehlt dieses Vertrauen, wehren sie sich, egal wie gut die Technologie ist.

Vollständige Körber-Fallstudie lesen.

Fazit: Ohne Governance keine skalierbare KI

Governance ist keine Einschränkung, sondern die Voraussetzung dafür, dass KI erfolgreich skaliert. Governance ist keine Einschränkung. Sie ist der Grund, warum KI skaliert. Ohne sie werden Einkaufsverantwortliche Agenten nicht zutrauen, zu handeln. Und ohne dieses Vertrauen findet keine Einführung statt, und die Investition zahlt sich nicht aus.

Die Organisationen, die das richtig angehen, sind diejenigen, die jederzeit nachweisen können, dass jede KI-Aktion autorisiert, verantwortet, prüfbar und richtlinienkonform war. Dieser Nachweis ist es, der aus einem Pilotprojekt eine Unternehmenseinführung macht.

---