Wenn Maschinen Klischees lernen: unterschätzter Gender-Bias in der KI

Künstliche Intelligenz soll unser Leben einfacher machen. Doch sie kann auch alte Rollenbilder übernehmen. Warum wir genauer hinsehen müssen, damit die Technik der Zukunft fairer wird.

Eine Werbeagentur braucht ein Bild für eine Broschüre und gibt in einen KI-Bildgenerator den Prompt »Eine erfolgreiche Person bei der Arbeit« ein. Wenige Sekunden später erscheinen Männer in Businessanzügen. Für eine Illustration zum Thema Pflege zeigt die KI dagegen überwiegend Frauen. Was wie eine zufällige Bildauswahl aussieht, ist in Wirklichkeit ein Spiegel gesellschaftlicher Vorstellungen und Ausdruck tief verankerter Stereotype. Obwohl in beiden Eingaben kein Geschlecht genannt wurde, ordnet die KI bestimmten Berufen automatisch Männer oder Frauen zu. Dieses Verhalten wird als Gender-Bias bezeichnet.

Algorithmen entstehen nicht im luftleeren Raum. Sie lernen aus Daten, die unsere Gesellschaft widerspiegeln, inklusive ihrer Ungleichheiten.

Auch beim Thema Schönheit zeigt sich dieser Effekt. Wird eine Bild-KI aufgefordert, »eine schöne Frau« darzustellen, entstehen oftmals sehr ähnliche Ergebnisse: Die Bilder zeigen schlanke, junge Frauen mit heller Haut und langen Haaren. Die KI entscheidet nicht selbst, was schön ist. Sie erkennt lediglich Muster aus Millionen von Bildern, mit denen sie trainiert wurde. Die Vielfalt unterschiedlicher Schönheitsideale bleibt dabei unberücksichtigt. Ein weiteres Beispiel: »Erstelle ein Bild einer reichen Person.« In vielen Fällen zeigt die KI einen Mann vor einer Luxusvilla oder einem Sportwagen. Frauen erscheinen deutlich seltener oder werden als Begleitung dargestellt. Dabei hat die KI nicht gelernt, was Reichtum bedeutet, sondern nur, welche Bilder im Internet besonders häufig mit Wohlstand verbunden werden.

KI-Systeme lernen aus großen Datenmengen in Form von Sprache, Texten und Bildern.

Wenn bestimmte Informationen in den Trainingsdaten häufig vorkommen, lernt das Modell diese Muster besonders gut und verwendet sie später wahrscheinlicher als Antwort. Wenn also eine KI sehr viele Texte gesehen hat, in denen das Wort »Arzt« häufig mit männlichen Personen und »Pflegekraft« häufig mit weiblichen Personen verbunden wird, kann sie diese Verbindung als statistisches Muster übernehmen und als Ergebnis ausgeben – da es aufgrund ihrer Lerndaten am wahrscheinlichsten erscheint. Dazu testeten die Technische Universität München und TU Darmstadt in einer Studie* verschiedene Formulierungen derselben Berufe. Mal nutzten die Forschenden das generische Maskulinum wie »Arzt«, mal neutrale Umschreibungen wie »Eine Person, die als Arzt arbeitet«, ausdrücklich weibliche Bezeichnungen wie »Ärztin« oder genderinklusive Schreibweisen. Die Auswertung zeigte deutliche Unterschiede. Wurde das generische Maskulinum verwendet, erzeugte die KI viele Berufe überwiegend mit Männern. Je neutraler die Formulierung gewählt wurde, desto ausgewogener fielen zwar häufig die Geschlechterdarstellungen aus. Aber die Bildgeneratoren verstanden die Eingaben oft schlechter. Die erzeugten Bilder passten dann weniger präzise zu den eigentlichen Prompts.

Umso wichtiger ist die Frage: Wie verhindern wir, dass alte Vorurteile mit in die digitale Zukunft wandern? KI kann vieles besser, schneller und effizienter machen, aber sie ist nicht automatisch gerecht.

Wenn bestimmte Gruppen oder Lebensrealitäten in den Trainingsdaten seltener vorkommen, kann die KI weniger unterschiedliche Beispiele kennenlernen und diese Perspektiven schlechter berücksichtigen.

Auch die Sprache, mit der wir eine KI füttern, macht einen Unterschied. Im Deutschen unterscheiden wir zwischen den Geschlechtern, in vielen anderen Sprachen nicht. Da die meisten KI-Modelle auf englischen Daten trainiert sind, führt das zu Problemen. Gibt man den Prompt ein: »Please show me a doctor«, sind im Englischen Männer und Frauen gemeint. In der deutschen Übersetzung wird daraus »Zeige mir einen Arzt«. Aus einer neutralen Formulierung wird plötzlich ein männliches Bild – ein typischer Stolperstein bei der maschinellen Übersetzung. Dabei könnte schon ein bewussterer Umgang mit Sprache helfen, mehr Vielfalt sichtbar zu machen und die Repräsentation von Frauen verbessern.

Gender-Bias betrifft viele Lebensbereiche.

Besonders heikel wird es, wenn KI-Systeme Bewertungen oder Entscheidungen über Menschen beeinflussen. Wer beispielsweise KI zur Bewertung von Bewerbungen einsetzt und als Grundlage für den Bewertungsmaßstab die eigene Belegschaft angibt, sollte vorab prüfen, wie divers diese aufgestellt ist. Wenn die Belegschaft bisher überwiegend männlich war, spiegelt sich dieses Ungleichgewicht in den Ergebnissen wider. Mehr noch: Das System lernt, Lebensläufe mit bestimmten Begriffen wie »women« schlechter zu bewerten.

Nutzt ein Finanzinstitut ein KI-Modell für Kreditempfehlungen, ohne die Datengrundlage für die Bewertung ausreichend zu prüfen, könnte sich ein ähnliches Muster zeigen, da Frauen in Deutschland im Durchschnitt weniger verdienen als Männer. Zwar folgt aus dem durchschnittlichen Gender-Pay-Gap bei der Bewertung des individuellen Einkommens durch ein KI-System nicht automatisch eine Benachteiligung, aber durch verzerrte historische Daten können durchaus diskriminierende Effekte entstehen.

KI entscheidet längst mit, welche Informationen wir sehen, welche Chancen wir bekommen und wie wir bewertet werden.

Umso wichtiger ist die Frage: Wie verhindern wir, dass alte Vorurteile mit in die digitale Zukunft wandern? KI kann vieles besser, schneller und effizienter machen, aber sie ist nicht automatisch gerecht. Nur wenn wir KI-Systeme mit vielfältigen und ausgewogenen Daten trainieren und ihre Ergebnisse regelmäßig auf Fairness überprüfen, lässt sich Gender-Bias vermeiden. Das betrifft nicht nur Entwicklerinnen, Entwickler und Tech-Konzerne. Jede und jeder von uns nutzt KI-Systeme und hat damit auch die Macht, mehr Perspektiven einzubringen.

*»Text-zu-Bild-Generatoren reproduzieren und verstärken Rollenbilder« Pressemeldung der TU München vom 23.10.2025