Risikofaktor künstliche Intelligenz: Wer haftet, wenn Algorithmen versagen?

Ein KI-System lehnt einen Kreditantrag ab, obwohl alle Bonitätskriterien erfüllt sind. Eine automatisierte Bilderkennung übersieht einen Tumor auf einer Röntgenaufnahme. Oder ein Algorithmus sortiert im Rekrutierungsprozess systematisch geeignete Kandidat:innen aus. Solche Fälle sind längst keine Zukunftsmusik mehr. Mit jedem neuen Anwendungsgebiet stellt sich dieselbe Frage: Wer trägt die Verantwortung, wenn die KI einen Schaden verursacht?

Die Implementierung von künstlicher Intelligenz in Unternehmen hat die experimentelle Phase längst überschritten. Algorithmen bewegen heute Millionen. Doch mit der technologischen Autonomie verschieben sich die rechtlichen Leitplanken. Es entsteht eine neue Dynamik von Rechtsfällen, die das klassische Haftungsrecht und die Corporate Governance vor Herausforderungen stellt. Aus einer technischen Frage wird ein strategisches Risiko für die Geschäftsleitung.

Der Irrtum vom rechtsfreien Raum

Verursacht ein herkömmliches Softwareprogramm einen Schaden, lässt sich die Ursache meist auf einen Programmierfehler oder eine Fehlbedienung zurückführen. Bei modernen, auf Deep Learning basierenden KI-Systemen greift diese Logik zu kurz. Das Phänomen der «Black Box» – also der Umstand, dass selbst Entwickler:innen das Zustandekommen einer Entscheidung nicht mehr im Detail nachvollziehen können – hebelt bewährte Argumentationsmuster aus.

Zwar hat die Schweiz kein eigenständiges KI-Gesetz, wer aber glaubt, sich in einem rechtsfreien Raum zu bewegen, irrt. Das Schweizer Privatrecht folgt dem Prinzip der Technologieneutralität. Seine Generalklauseln sind so offen formuliert, dass sie auch auf KI anwendbar sind. Fehler der Maschine gelten nicht als höhere Gewalt, sondern als Teil des eigenen Betriebsrisikos.

Besteht ein Vertragsverhältnis, haftet das Unternehmen gemäss Obligationenrecht (Art. 97 OR), ausser es beweist, dass es keinerlei Verschulden trifft. Fehlt hingegen ein Vertrag, greift gegenüber Dritten die Verschuldenshaftung (Art. 41 OR). Die entscheidende Frage lautet hierbei, ob den Verantwortlichen bei der Auswahl, dem Training oder der Überwachung des Systems eine Sorgfaltspflichtverletzung vorzuwerfen ist.

Weil dieser Nachweis im Alltag extrem anspruchsvoll ist, rückt das Produktehaftpflichtgesetz (PrHG) in den Fokus. Dieses begründet zwar eine verschuldensunabhängige Haftung der Hersteller, schliesst aber reine Vermögensschäden aus und birgt eine massive juristische Unsicherheit: Die Qualifikation von autonomer Software als «Produkt» ist in der Schweizer Rechtslehre umstritten und vom Bundesgericht bis heute nicht abschliessend geklärt.

Warum der Mensch die letzte Instanz bleibt

Angesichts dieser unklaren Haftungslage wird KI-Governance zur Chefsache. Denn gemäss Art. 716a OR trägt der Verwaltungsrat die unübertragbare Pflicht zur Oberleitung des Unternehmens sowie zum Risikomanagement. Wer den KI-Einsatz im Betrieb nicht strategisch überwacht, verletzt seine aktienrechtliche Sorgfaltspflicht und riskiert die persönliche Organhaftung.

Eine solide KI-Governance braucht messbare Fakten und klare Strukturen. Kernstück ist ein systematisches KI-Inventar, das drei Fragen beantwortet: Welche Systeme nutzen wir? In welche Prozesse greift die KI ein? Und mit welchen Daten wurde sie gefüttert? Nur wer diesen digitalen Überblick behält, schützt sich vor Kontrollverlust und teuren Haftungsfallen.

Bei der Risikoklassifizierung setzt der europäische EU AI Act faktisch auch für Schweizer Unternehmen den globalen Standard. Systeme, die Personalentscheidungen treffen, Bonitäten prüfen oder kritische Infrastrukturen steuern, fallen unter die Kategorie «Hochrisiko». Sie verlangen zwingend nach einem kontinuierlichen Risikomanagement, lückenloser Protokollierung und – als wichtigstem Pfeiler – einer effektiven menschlichen Überwachung. Die Letztverantwortung darf niemals an ein System delegiert werden. Es braucht stets die qualifizierte Mitarbeiterin oder den qualifizierten Mitarbeiter, die oder der eine KI-Entscheidung übersteuern kann.

Vom Code zur Kontrolle: Datenqualität als Fundament

Ein oft unterschätzter Aspekt der Governance ist die Qualität und Herkunft der Trainingsdaten. Voreingenommene oder fehlerhafte Daten führen unweigerlich zu diskriminierenden oder falschen Ergebnissen. Verweigert ein System aufgrund fehlerhafter Datensätze fälschlicherweise Finanzierungen oder führt ein verzerrtes Profiling zur Diskriminierung ganzer Personengruppen, drohen nicht nur Reputationsschäden, sondern handfeste Klagen wegen Verletzung des Gleichbehandlungs- oder Datenschutzrechts.

Unternehmen müssen daher lückenlos nachweisen können, woher die Daten stammen, ob Urheberrechte geklärt sind und wie die Datenbereinigung kontrolliert wird. Wer rechtlich auf der sicheren Seite sein will, muss die Biografie einer KI genau kennen: von der Datenbeschaffung bis zum fertigen Programm.

Der Weg zur Haftungssicherheit

Rechtliche Risiken entstehen selten durch die Technologie an sich, sondern dort, wo Unternehmen KI-Systeme implementieren, ohne die internen Kontrollprozesse anzupassen. Wer künstliche Intelligenz als reines Effizienztool betrachtet und die rechtlichen Rahmenbedingungen vernachlässigt, geht unkalkulierbare Risiken ein.

Ein rechtssicherer Einsatz erfordert das Zusammenspiel von Technik und Recht: Haftungsrisiken müssen durch Verträge mit Softwareanbietern minimiert und gleichzeitig durch klare Governance-Strukturen im Betrieb kontrolliert werden. Für Führungskräfte gilt eine einfache Regel: Jede Investition in KI-Technologie erfordert eine korrespondierende Investition in die Kontrollsysteme, die sie steuern. Nur so bleibt ein Unternehmen langfristig handlungs- und haftungssicher.