Die Vertrauensfrage: Warum Enterprise AI an den Daten scheitert – nicht an den Modellen

Zwei Drittel der Unternehmen weltweit haben mit KI-Agenten experimentiert. Doch weniger als jedes zehnte Unternehmen hat sie mit messbarem Nutzen skaliert. Eine aktuelle McKinsey-Analyse verdeutlicht damit die Lücke zwischen Pilotprojekt und produktivem Einsatz. Sie zu schließen, ist eine der großen Herausforderungen der KI-Transformation.

Mit der Leistungsfähigkeit der Modelle hat die Lücke wenig zu tun, denn große Sprachmodelle  sind heute für die meisten Anwendungen in Unternehmen ausgereift genug. Beim Skalieren rückt vielmehr eine wesentliche, oft unterschätzte Komponente in den Vordergrund: eine verlässliche Datengrundlage. Fehlt diese, stoßen Unternehmen im Skalierungsprozess früher oder später an ihre Grenzen – acht von zehn Unternehmen bestätigen dies laut der McKinsey-Studie.  Besonders kritisch wird das, wenn ein Agent selbstständig Entscheidungen fällt, Empfehlungen ausspricht oder Prozesse anstößt.

Viviane Minz Vice President API Products & Ecosystems bei Statista

Trifft ein Agent autonom eine Preisempfehlung, eine Lieferkettenentscheidung oder eine Risikobewertung, stellen sich zwei Fragen: Auf welcher Basis hat er entschieden? Und ist diese Basis vertrauenswürdig? Der Grund liegt in einer Verschiebung der Kontrollinstanzen: Denn wo früher Analyst:innen, Controller:innen oder Einkäufer:innen jedes Ergebnis prüften, kann bei automatisierten Abläufen nicht mehr jeder Schritt einzeln kontrolliert werden. Die Prüfung muss deshalb vorgelagert und in der Architektur selbst verankert sein, bevor eine Entscheidung fällt, auf die eine mögliche Handlung folgt.

Zwei Konzepte zeigen, wie das in der Praxis gelingen kann.
Der erste Ansatz: Datenquellen standardisiert anbinden und ihre Herkunft nachvollziehbar machen. KI-Agenten müssen häufig Informationen aus technisch unterschiedlichen Systemen abrufen. Bisher glich das einem Restaurantbesuch ohne Kellner: Für jede Küche brauchte die KI eine andere Speisekarte; Entwickler:innen bauten für jede Verbindung eine eigene, maßgeschneiderte Schnittstelle. Genau hier setzt der offene, digitale Standard Model Context Protocol (MCP) an – der universelle Kellner samt einheitlicher Speisekarte. Der Vorteil: Die KI muss die technischen Details der Quellsysteme nicht kennen. Sie kommuniziert mit dem MCP-Server, der Anfragen übersetzt, Informationen abruft und sie dem Agenten passgenau serviert. Für die Wirtschaft bedeutet das den Durchbruch zur Modularität: Neue Datenquellen lassen sich künftig ohne Programmieraufwand an bestehende KI-Systeme andocken. Das spart Unternehmen Millionen an Entwicklungskosten und macht zudem transparent, woher eine Information, die einer Entscheidung zugrunde liegt, stammt.

Doch Zugang allein reicht nicht. Verlässliche KI-Anwendungen brauchen Daten mit überprüfbarem Kontext. Ruft ein Agent etwa den Wert 4,2 Prozent ab, muss er wissen, was gemessen wurde, für welchen Zeitraum und nach welcher Definition. Auch die Quelle selbst spielt eine entscheidende Rolle. Bei Markt- und Unternehmensdaten kommen weitere Fragen hinzu: Handelt es sich um einen Ist-Wert oder eine Prognose? Welche Währung liegt zugrunde? All diese Informationen sind im KI-gestützten Arbeitsalltag keine Fußnote, sondern entscheidender Kontext. Das gilt für interne Kennzahlen ebenso wie für externe Wirtschafts- und Marktdaten, die als zusätzliche Validierung und Einordnung genutzt werden. Erst mit diesem überprüfbaren Kontext werden Daten zur verlässlichen Grundlage, auf die KI-Agenten ihre Empfehlungen und Entscheidungen stützen können.

Das zweite Konzept betrifft die dynamische Datenqualitätsprüfung im operativen Betrieb. Denn ein Agent ist kein Produkt, das man einmal testet und dann laufen lässt.  Unternehmensdaten verändern sich, Märkte verschieben sich, Modelle werden aktualisiert. Statt die Datenqualität einmalig vor dem Projektstart zu prüfen und auf dauerhafte Stabilität zu setzen, braucht es laufende Qualitätsprüfungen – in der Fachsprache »Evals«. Automatisierte Tests gleichen Antworten, Quellen und Zwischenschritte mit einem geprüften Referenzstandard ab. Weicht ein Ergebnis, ein logischer Zwischenschritt oder eine genutzte Datenquelle von diesem validierten Qualitätskorridor ab, schlägt das System Alarm und blockiert den Prozess. Fehlentscheidungen können so abgefangen werden, bevor sie bei Kund:innen, in der Logistikkette oder in der Bilanz landen.

Beide Mechanismen – MCP für die standardisierte Anbindung und Evals für die permanente Qualitätsüberwachung – werden zur betriebswirtschaftlichen Pflicht im KI-Umfeld. Ein produktiver Agent muss jederzeit belegen können, welche Daten er verwendet hat, woher sie stammen und ob sie zum Zeitpunkt der Entscheidung gültig waren. Zugang, Kontext und Prüfung legen den Grundstein, um KI skalierbar und in Produktivsystemen einsetzbar zu machen.

Ob Unternehmen KI erfolgreich skalieren oder in der Pilotphase steckenbleiben, hängt kaum vom Sprachmodell ab. Entscheidend ist, ob ihre Datenbasis den Anforderungen autonomer KI standhält. Für Unternehmen lautet die Frage deshalb nicht mehr, ob sie KI-Agenten einsetzen, sondern ob sie lückenlos nachweisen können, worauf sich diese Systeme stützen, wenn niemand mehr hinschaut.

Text Viviane Minz, Vice President API Products & Ecosystems bei Statista