Banken, Versicherungen und Behörden gelten als langsam, wenn es um neue Technologien geht. Dabei können gerade sie viel gewinnen, wenn KI-Agenten Teile der Softwareentwicklung übernehmen. Dafür müssen Regeln und Verantwortung von Anfang an im System verankert sein. Tobias Kilga, Head of BU Product, Data & AI bei SQUER, über den Konflikt zwischen Tempo und Kontrolle.
Tobias Kilga, Head of BU Product, Data & AI
Vor welchen besonderen Herausforderungen stehen regulierte Unternehmen?
Sie müssen jede Änderung begründen und belegen können, gegenüber Revision, Aufsicht und oft auch gegenüber Kund:innen. Ich habe vor SQUER jahrelang die Konzern-IT eines stark regulierten Medizintechnikherstellers geleitet und kenne das aus Sicht des Kundenunternehmens. Dazu kommen gewachsene Systemlandschaften, in denen fachliches Wissen nur noch im Code oder in den Köpfen einzelner Leute steckt. Und der Druck wächst, schneller zu werden, weil Fachkräfte fehlen und Kund:innen digitale Angebote erwarten. Viele lösen den Konflikt zwischen Tempo und Kontrolle, indem sie Freigaben verlängern. Das kostet Zeit, und Fehler fallen trotzdem erst spät auf. Mit KI wird der Konflikt schärfer, weil die Umsetzung plötzlich sehr schnell geht und die Prüfung nicht mithält.
Governance gehört in das System, nicht ans Ende einer Freigabekette. Nur so können Teams mit KI schneller arbeiten, ohne die Kontrolle abzugeben.
Ist die digitale Transformation in erster Linie ein Hardware-, Software- oder Mindset-Thema?
Am ehesten ist sie eine Frage der Organisation. Hardware und Software lassen sich kaufen oder bauen, und auch ein offenes Mindset hilft wenig, wenn niemand entscheiden darf. Mit KI-Agenten wird diese Frage sehr konkret. Welche Entscheidungen darf ein Agent selbst treffen, wo braucht er eine Freigabe, und wer trägt die Verantwortung? Wer das offen lässt, hat am Ende schnelle Agenten und langsame Freigaben.
Warum ist der Einsatz von KI auch in regulierten Branchen so wichtig?
Weil bei ihnen viel IT-Kapazität in Wartung und Modernisierung alter Systeme steckt. Agenten können dort viel übernehmen, etwa Wissen aus altem Code herausarbeiten, Tests ergänzen und Migrationen vorbereiten. Eine Studie des Stanford Digital Economy Lab beschreibt einen Versicherer, der ein Altsystem neu geschrieben hat. Veranschlagt waren 5.000 Stunden mit sieben Leuten, gebraucht wurden 600 Stunden mit drei. Ein gut aufgesetztes agentisches System dokumentiert seine Arbeit vollständiger als die meisten manuellen Prozesse, was bei jeder Prüfung hilft.
Wie verändert sich der Entwicklungsprozess, wenn KI-Agenten mitarbeiten?
Früher war das Schreiben von Code der teure Teil. Heute ist es das Verstehen: Was soll das System leisten, welche Regeln gelten, woran erkennen wir, dass es richtig funktioniert? Ein Agent setzt eine Anforderung in Minuten um, egal ob sie gut oder schlecht ist. Wir stecken deshalb mehr Zeit in Intents und Akzeptanzkriterien vor der Umsetzung und in automatisierte Prüfungen danach.
Warum ist Intent Engineering die Voraussetzung dafür, KI in der Entwicklung zu skalieren?
Einzelne Entwickler:innen mit einem Coding-Assistenten kommen mit unscharfen Vorgaben zurecht, weil sie nachfragen und mitdenken. Mit zehn Agenten parallel geht das nicht mehr. Jede Unschärfe in der Anforderung vervielfacht sich. Intent Engineering sorgt dafür, dass die Absicht hinter einer Änderung strukturiert und überprüfbar vorliegt, bevor gebaut wird. Dann arbeiten Agenten verlässlicher, und Menschen können die Ergebnisse gegen ein festgelegtes Ziel prüfen. Laut Stanford AI Index 2026 sind die Gewinne dort am größten, wo Aufgaben klar abgegrenzt sind und Qualität messbar ist.
Foto: Unsplash/Getty Images
Wie messen Sie den wirtschaftlichen Wert (ROI) von KI-Agenten im Entwicklungsalltag?
Gegen eine klassische Schätzung, die wir vor dem Start gemeinsam mit den Kund:innen festlegen, messen wir Kosten und Durchlaufzeit bis zur Produktion, einschließlich der Rechenkosten der Agenten. Dazu kommen Fehler, Nacharbeit und die fachliche Abnahme, weil schnell gebauter Code ohne Abnahme nichts wert ist. Langfristig zeigt sich der Wert für mich daran, ob das Kundenunternehmen danach selbst schneller weiterbauen kann.
Wenn Agenten in Echtzeit Code generieren und integrieren: Wie verändert sich die Fehlerkultur?
Ein Agent kann denselben Fehler in kurzer Zeit an vielen Stellen wiederholen. Je später man ihn findet, desto teurer wird er. Wir prüfen deshalb laufend und automatisiert, bei jeder Änderung. Wenn ein Agent etwas falsch umsetzt, fragen wir zuerst, welcher Kontext gefehlt hat, und verbessern dann den Intent oder die Leitplanken. Ein Fehler wird damit zum Hinweis auf fehlenden Kontext, über den das Team offen spricht. So lernt das System mit, und derselbe Fehler wird mit jeder Runde unwahrscheinlicher.
Was ist die künftige Rolle des Menschen in diesem System?
Menschen legen fest, was gebaut wird und warum. Sie gestalten die Leitplanken und tragen die Verantwortung für das Ergebnis. Fachexpert:innen werden wichtiger, weil ihr Wissen direkt in die Intents einfließt. In unseren Projekten ist ihre Zeit heute oft der eigentliche Engpass. Entwickler:innen arbeiten stärker als Architekt:innen und Prüfer:innen, Routinearbeit nimmt ab. Unternehmen sollten deshalb in Weiterbildung investieren und Rollen wie den Intent Engineer schaffen.
Was können regulierte Unternehmen konkret tun, um jetzt zu starten?
Mit einem kleinen Vorhaben anfangen, das trotzdem zählt, etwa einem Altsystem, das ohnehin modernisiert werden muss, oder einem Prozess mit viel manueller Prüfung in der Dokumentenverarbeitung. Vorher festlegen, woran man Erfolg misst. Dann Fachbereich, Entwicklung und Compliance an einen Tisch holen und die Intents gemeinsam erarbeiten. Parallel braucht es eine technische Umgebung mit festen Regeln für Daten, Modelle und Freigaben, in der Agenten sicher arbeiten können. Erst nach den ersten Iterationen ausweiten.
Was tut SQUER ganz konkret für die Kund:innen?
Meistens beginnen wir mit einem Workshop von ein bis zwei Tagen bei den Kund:innen, in dem wir mit Fachbereich, IT und Compliance klären, welches Problem zuerst gelöst wird und welche Vorgaben gelten. Danach arbeiten unsere Intent Engineers und Harness Engineers im Tandem mit Leuten der Kund:innen. Den Einstieg bildet ein klar abgegrenzter Pilot zum Festpreis mit vorher vereinbarten Kriterien. Verfehlen wir sie, tragen wir die Mehrkosten. Am Ende gehört die Software Factory den Kund:innen, und ihre eigenen Leute können damit Software bauen und ändern. Wissen, das vorher in wenigen Köpfen oder im alten Code steckte, liegt dann als Intent vor, den andere prüfen, übernehmen und weiterentwickeln können.
Wie hat KI die Unternehmenskultur bei Ihnen verändert?
Am deutlichsten beim Lernen. Mit einem eigenen Werkzeug messen wir, wie sicher unsere Leute mit KI arbeiten, und mit einem Bootcamp für KI-native Entwicklung schließen wir die Lücken, die wir dabei sehen. Auch die Teams außerhalb der Technik arbeiten inzwischen mit KI. Verändert hat sich außerdem, wie wir über Fehler sprechen. Mit Agenten wird schneller sichtbar, was nicht funktioniert, und dann muss es auch früh auf den Tisch. Ich halte diplomatische Unschärfe für aufgeschobene Kosten.
Wie wird der konsequente Einsatz von KI diese Branchen verändern?
Die Zeit von der Idee bis zum produktiven System wird kürzer. Wenn Agenten einen großen Teil der Umsetzung übernehmen, verliert das Wie an Gewicht, und die Frage, warum wir etwas bauen, wird wichtiger. Banken, Versicherungen und Behörden werden Software deshalb in kleineren, überprüfbaren Schritten planen, und wer seine fachliche Absicht aufschreiben kann, reagiert schneller auf neue Vorschriften und Wünsche der Kund:innen. Wie schnell das geht, weiß ich nicht. Dass es kommt, sehe ich in jedem Projekt.
Weitere Informationen unter: squer.io
Schreibe einen Kommentar