KI-Regulierung in der Arbeitswelt: Wie frei sind Schweizer Unternehmen?

Es sind die grossen Fragen, mit denen es Unternehmen zu tun bekommen, die mit bestimmten KI-Tools arbeiten – bis hin zu den grundlegenden Menschenrechten. Am 27. März 2025 unterzeichnete Bundesrat Albert Rösti im Namen der Schweiz das «Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit» in Strassburg. Anderthalb Jahre lang hatte sich die Schweiz an dessen Entwicklung beteiligt.

Bereits im März 2026 reichte Nationalrat Fabian Molina eine Interpellation zur «Umsetzung der KI-Konvention des Europarats in der Schweiz» ein. Darin stellt er infrage, ob der Bundesrat den der Konvention zugrunde liegenden Werten mit der gebotenen Ernsthaftigkeit folge: «Besonders besorgniserregend ist die Ausklammerung des Privatsektors.» Tatsächlich schreibt das Bundesamt für Kommunikation in einer Pressemitteilung aus dem Februar 2025, in den Geltungsbereich der KI-Konvention fielen «in erster Linie» staatliche Akteure. Darüber hinaus bestehe die Möglichkeit zu Selbstdeklarationsvereinbarungen oder Branchenlösungen.

Auch der weitere Textverlauf klingt alles andere als nach strenger Regulierung. So verfolge die Schweiz mit der Ratifizierung der Konvention drei wesentliche Ziele: die «Stärkung des Innovationsstandorts Schweiz», die «Wahrung des Grundrechtsschutzes inklusive der Wirtschaftsfreiheit» sowie die «Stärkung des Vertrauens der Bevölkerung in KI». Aus Unternehmensperspektive erscheinen diese Ziele vergleichsweise komfortabel. Dennoch müssen Schweizer Unternehmen über die Konvention hinausgehende Fallstricke berücksichtigen.

Was der EU AI Act für Schweizer Unternehmen bedeutet

Es ist wohl keine Ausnahme, dass unternehmerische Aktivitäten nicht an den Schweizer Grenzen enden. Insbesondere die EU ist als relevante Kollaborations- und Exportpartnerin zu betrachten. Sobald aber auch nur einzelne Schritte eines Geschäfts in der EU stattfinden, kommt der EU AI Act zum Tragen. Dieser unterteilt den unternehmerischen Einsatz von KI-Anwendungen in vier Kategorien:

• Verbotene KI-Praktiken: Hierunter fallen vor allem solche Anwendungen, die ohne menschliche Überprüfung Einzelpersonen aufgrund ihres Verhaltens oder ihrer biometrischen Daten bezüglich ihrer Fähigkeiten oder zukünftigen Verhaltensweisen einsortieren.
• Hochriskante KI-Systeme: Hier spielen vor allem zwei Anwendungsfälle eine Rolle. Einerseits geht es um KI-Systeme, die als Bauteile innerhalb kritischer Infrastruktur verwendet werden. Andererseits betrifft dieser Bereich die automatisierte Verarbeitung personenbezogener Daten.
• KI-Modelle für allgemeine Zwecke: In diese Kategorie fallen beispielsweise Chatbots und Textgeneratoren.
• KI-Anwendungen mit kleinem Risiko: Tools wie Spamfilter oder KI-gestützte Unterhaltung für den reinen Privatgebrauch werden als ungefährlich eingestuft.

Unabhängig davon, in welcher dieser vier Kategorien sich Unternehmen bewegen, müssen sie bei jeglicher Interaktion mit der EU Risikomanagement betreiben, um das Risiko ihres jeweiligen Anwendungsfalls korrekt einschätzen zu können. Insbesondere wenn sie personenbezogene Daten verwenden, ist eine Datenschutz-Folgeabschätzung (DSFA) geboten. Aber auch wenn die verwendeten KI-Systeme eher ungefährlich sind, muss ein Unternehmen Nutzende darüber informieren, dass sie mit einer KI interagieren.

In jedem Fall müssen kritische Entscheidungen innerhalb eines Unternehmens laut AI Act grundsätzlich von Menschen getroffen werden. Wer auf dem Weg zur Lösung KI verwendet, muss dies sorgfältig dokumentieren und die jeweilige Entscheidung nachvollziehbar darstellen. Ein immer wieder aufgeführtes Beispiel stellt hier der Einstellungsprozess neuer Mitarbeitender dar.

KI im Recruiting und die Schweizer Regularien

«Die Roboter kommen – und sie stellen ein», titelt Lea Schlenker im März 2023 auf dem Blog der Kalaidos Fachhochschule Schweiz. Dabei bezieht sie sich auf die in mehreren grossen Unternehmen gelebte Praxis in der ersten Phase von Einstellungsprozessen. In der EU bewegt sich diese seit Inkrafttreten des AI Acts, das sich jedoch noch bis in den August 2026 erstreckt, zwischen hochriskanten und verbotenen Anwendungen. Gerade in Bezug auf Diskriminierung kann der Einsatz von KI im Bewerbungsverfahren aber auch in der Schweiz dazu führen, dass Unternehmen sich auf dünnem Eis bewegen, denn Diskriminierung ist auch hierzulande verfassungsrechtlich verboten.

Im Vorbereitungszeitraum des AI Acts sagte Prof. Dr. Nadja Braun Binder, die im Beirat von AlgorithmWatch CH sitzt, im Rahmen eines Interviews in Bezug auf das Schweizer Recht: «Eine Lücke, der wir uns widmen müssen, ist das Problem der Diskriminierung. Denn viele KI-Systeme nutzen Daten, in denen es zum Beispiel eine historisch bedingte Voreingenommenheit gibt.»

Ein Fall aus den 2010er-Jahren gibt ihr Recht. Damals hatte Amazon eine Bewerbungssoftware entwickelt, die Lebensläufe von Frauen aussortiert hatte.

Für den Privatsektor fehlt in der Schweiz laut AlgorithmWatch die Regulierung von Diskriminierung in solchen Fällen. In einem Positionspapier fordert die Organisation im unter anderem, ein «Diskriminierungsverbot für Private» einzuführen. Dies würde unter anderem eine Regulierung des Einsatzes von Algorithmen beinhalten, die Bewerbende für eine Stelle aussortieren. Eignen würde sich hier laut AlgorithmWatch beispielsweise ein allgemeines Gleichbehandlungsgesetz. Damit bläst die Organisation ins gleiche Horn wie die Eidgenössische Kommission gegen Rassismus RKR, die im Juni 2025 ein «Manifest für ein allgemeines Gleichbehandlungsgesetz» veröffentlichte.

Für Unternehmen bedeutet das umgekehrt, dass ihnen in der Schweiz, verglichen mit der EU, gewisse Freiräume zur Verfügung stehen, beispielsweise wenn sie für den Einstellungsprozess KI-Tools einsetzen. Noch. Die Bestrebungen, dies zu ändern, sind in Politik und Zivilgesellschaft unverkennbar.