Dieser Text ist kein isolierter Essay. Er ist aus dem Schreiben an einem Buch entstanden, das sich mit den gesellschaftlichen Folgen künstlicher Intelligenz beschäftigt. Während ich an einem Kapitel über Sprache, Macht und algorithmische Entscheidungen arbeitete, wurde mir klar, dass der klassische Gender Gap durch KI nicht einfach verschwindet, sondern ein Software-Update bekommt. Es zeigte sich auf einmal das Gender Bias durch KI.
Denn der Gender Gap ist längst nicht mehr nur eine Frage von Lohnunterschieden, Führungspositionen oder der bekannten Beobachtung, dass eine Frau mit drei Kindern im Lebenslauf offenbar eine organisatorische Belastung darstellt, während ein Mann mit drei Kindern erstaunlicherweise als belastbar, bodenständig und verantwortungsbewusst gelten kann. Mit KI verschiebt sich das Problem auf eine weitere Ebene: Es geht darum, welche Daten als normal gelten, welche Menschen statistisch sichtbar sind, welche Perspektiven ein Modell für selbstverständlich hält – und welche Korrekturen Anbieter anschließend darüberlegen, damit aus historischer Verzerrung wenigstens eine zeitgemäßere historische Verzerrung wird.
Das Ergebnis ist nicht zwangsläufig weniger Bias. Manchmal bekommen wir lediglich moderneren Bias.
Der Gender Gap vor KI
Bevor generative KI in Büros, Bewerbungsverfahren, Personalabteilungen und Medienredaktionen einzog, existierte der Gender Gap bereits. Frauen verdienten weniger, arbeiteten häufiger in Teilzeit, übernahmen einen größeren Anteil unbezahlter Carearbeit, waren in Führungspositionen unterrepräsentiert und wurden in zahlreichen Branchen systematisch übersehen, übergangen oder übertönt.
Das war keine Naturkatastrophe, bei der man morgens überrascht feststellen musste, dass über Nacht sämtliche Vorstandsetagen männlich geworden waren. Es war das Ergebnis historischer, kultureller und institutioneller Entwicklungen. In meinem Beitrag „Alte, weiße Männer – Schimpfwort oder logische Konsequenz?“ habe ich beschrieben, wie Männer durch jahrtausendelange Rollenverteilung stärker in öffentliches Sprechen, politische Entscheidungen, Wissenschaft und Debatten eingebunden waren. Expertise braucht Zeit, Sichtbarkeit ebenfalls. Und Zeit sowie Öffentlichkeit standen historisch nicht allen Menschen im gleichen Umfang zur Verfügung.
Der Gender Gap war also kein Unfall, sondern ein System. Und Systeme lassen sich hervorragend automatisieren.
Wenn Bias zum Feature wird
KI-Systeme lernen aus Daten. Das ist ihre Stärke und gleichzeitig eine ihrer konstruktiven Schwächen, denn Daten dokumentieren nicht die Welt, wie sie sein sollte. Sie dokumentieren überwiegend die Welt, wie sie war – beziehungsweise jenen Ausschnitt davon, den irgendjemand für dokumentierenswert hielt.
Ein Recruiting-Algorithmus, der aus historischen Einstellungsdaten lernt, lernt zunächst nicht, wer für eine Stelle objektiv am besten geeignet ist. Er lernt, wer in der Vergangenheit eingestellt wurde. Wenn über Jahrzehnte überwiegend Männer eingestellt wurden, kann daraus statistisch eine erstaunlich elegante Erkenntnis entstehen: Männer werden häufig eingestellt.
Maschinell betrachtet ist das vollkommen korrekt. Gesellschaftlich betrachtet hält sich der Erkenntnisgewinn in Grenzen.
Darin steckt das Problem. Diskriminierung muss weder absichtlich noch ideologisch motiviert sein, um wirksam zu werden. Es genügt, historische Verteilungen als Prognosegrundlage zu verwenden und anschließend Statistik mit Wahrheit zu verwechseln. Der Bias verschwindet dadurch nicht, er bekommt lediglich eine Nachkommastelle.
Die Maschine kennt keine Normalität. Sie berechnet eine.
Noch interessanter wird das Problem, wenn wir den Blick über den klassischen Gegensatz zwischen Männern und Frauen hinaus erweitern. Denn auch LGBTQ+-Personen tauchen in Trainingsdaten keineswegs gleichmäßig auf. Hier entsteht eine Verzerrung, die in zwei entgegengesetzte Richtungen wirken kann – und damit sehr schön zeigt, warum die schlichte Frage, ob eine KI eine bestimmte Gruppe „bevorzugt“ oder „benachteiligt“, häufig schon zu grob gestellt ist.
In historischen, juristischen, medizinischen, administrativen, religiösen oder institutionellen Textbeständen dominieren über lange Zeit klassische Geschlechter-, Familien- und Rollenmodelle. Gleichgeschlechtliche Beziehungen, trans Personen, nichtbinäre Lebensentwürfe oder andere Formen geschlechtlicher und sexueller Identität fehlen dort häufig, erscheinen nur am Rand oder werden ausdrücklich als Abweichung behandelt. Ein Modell, das daraus statistische Normalität ableitet, bekommt zwangsläufig eine ziemlich klare Botschaft: Normal ist zunächst einmal, was häufig dokumentiert wurde.
Das Problem daran dürfte offensichtlich sein. Historische Häufigkeit ist keine normative Legitimation. Sonst müsste man konsequenterweise auch Monarchie, Kinderarbeit und Rauchen im Büro als besonders überzeugende gesellschaftliche Konzepte betrachten; sie kommen in historischen Quellen schließlich ausgesprochen häufig vor.
In regulatorischen, rechtlichen oder institutionellen Kontexten können LGBTQ+-Personen deshalb statistisch unterrepräsentiert oder semantisch überproportional mit Ausnahmefällen, Abweichungen und Sonderregelungen verbunden sein. Das ist eine Form der Verzerrung. Es gibt allerdings noch eine zweite – und die läuft nahezu in die entgegengesetzte Richtung.
Von unsichtbar zu erstaunlich allgegenwärtig
Wer aktuelle Werbung, Lifestyle-Medien, Streamingproduktionen, soziale Netzwerke, Modefotografie, Unternehmenskommunikation oder bestimmte Teile zeitgenössischer Popkultur betrachtet, kann einen deutlich anderen Eindruck gewinnen. Hier sind LGBTQ+-Identitäten häufig besonders sichtbar.
Dafür gibt es nachvollziehbare Gründe. Minderheiten mussten Sichtbarkeit überhaupt erst erkämpfen, Unternehmen möchten Diversität demonstrieren, Medien suchen unterscheidbare Geschichten und Figuren, Plattformen bevorzugen Inhalte, die Aufmerksamkeit erzeugen, und aktivistische Kommunikation ist definitionsgemäß sichtbarer als eine schweigende gesellschaftliche Mehrheit. Der durchschnittliche heterosexuelle Familienvater, der morgens um 7:13 Uhr sein Kind in die Schule fährt, anschließend acht Stunden Excel-Tabellen bearbeitet und abends darüber nachdenkt, ob der Rasen am Wochenende gemäht werden müsste, erzeugt kulturell nun einmal nur begrenzte Erregung. Statistisch existiert er trotzdem.
Für ein KI-System entsteht daraus ein interessantes Problem: Die Häufigkeit, mit der Gruppen in bestimmten Medien dargestellt werden, entspricht nicht automatisch ihrem Anteil an der Bevölkerung. Wer Sichtbarkeit mit Prävalenz verwechselt, erhält deshalb erneut ein verzerrtes Modell gesellschaftlicher Wirklichkeit – diesmal allerdings in die andere Richtung.
LGBTQ+ kann in einem historischen Rechtskorpus nahezu verschwinden und in einem zeitgenössischen Lifestyle-Korpus überproportional sichtbar sein. Beides sind reale Daten, beides kann statistisch korrekt verarbeitet werden, und trotzdem verweisen beide Datensätze auf vollkommen unterschiedliche Gesellschaften.
Die KI hat also mehrere Normalitäten
Für generative KI ist diese Gleichzeitigkeit besonders interessant. Ein Sprachmodell besitzt schließlich kein eigenes soziologisches Verständnis davon, welche Bevölkerungsgruppen wie häufig vorkommen sollten. Es verarbeitet Muster, Gewichtungen und Kontextbeziehungen sowie jene Regeln, Präferenzen und Sicherheitsmechanismen, mit denen Anbieter sein Verhalten während und nach dem eigentlichen Training beeinflussen.
Damit existiert nicht einfach der Bias eines Modells. Es existieren verschiedene Verzerrungsebenen, die sich teilweise verstärken und teilweise gegenseitig korrigieren können. Historische Trainingsdaten können traditionelle Rollenbilder übergewichten, aktuelle Internetdaten können besonders sichtbare gesellschaftliche Gruppen überrepräsentieren, kuratierte Trainingsdaten können bestimmte Verzerrungen abschwächen, nachgelagerte Modellanpassungen können Diversität bewusst stärker abbilden, und Sicherheits- oder Moderationsregeln setzen zusätzliche normative Grenzen.
Am Ende entsteht ein System, dessen gesellschaftliches Bild aus verschiedenen Zeiten, Milieus und Korrekturschichten zusammengesetzt ist: ein bisschen viktorianisches Rollenverständnis, ein bisschen LinkedIn-Diversity-Workshop, ein bisschen TikTok und darüber eine Sicherheitsarchitektur aus dem Silicon Valley. Was sollte dabei schon schiefgehen?
Das Problem ist nicht Diversität
An dieser Stelle ist eine Unterscheidung notwendig, weil die Debatte sonst innerhalb weniger Minuten zuverlässig dort landet, wo im Internet fast alle Debatten irgendwann landen: bei zwei Gruppen, die einander erklären, dass die jeweils andere Gruppe die Zivilisation zerstört.
Das Problem besteht nicht darin, dass LGBTQ+-Personen sichtbar werden. Historische Unsichtbarkeit wird schließlich nicht dadurch besser, dass man sie konserviert. Problematisch wird es dort, wo ein KI-System seine statistische oder kuratierte Repräsentation implizit als Abbild gesellschaftlicher Wirklichkeit präsentiert.
Wenn bei der Generierung von Bildern, Beispielen, Geschichten oder Rollenprofilen bestimmte Minderheiten bewusst häufiger dargestellt werden, kann das aus Gründen gesellschaftlicher Repräsentation sinnvoll sein. Wenn der Nutzer daraus jedoch unbewusst Rückschlüsse auf reale Häufigkeiten zieht, wird aus Repräsentation plötzlich Statistik. Umgekehrt gilt dasselbe: Wenn historische medizinische oder juristische Daten bestimmte Gruppen kaum enthalten, darf daraus nicht folgen, dass diese Gruppen für medizinische, rechtliche oder gesellschaftliche Fragestellungen irrelevant wären.
Die relevante Frage lautet deshalb nicht, ob genug Diversität vorhanden ist, sondern welche Art von Aussage das System gerade macht. Eine statistische Aussage folgt anderen Kriterien als eine normative, eine repräsentative anderen als eine historische, eine medizinische anderen als eine ästhetische. Ein Modell, das diese Ebenen vermischt, kann bei jeder einzelnen davon ausgesprochen plausibel klingen und trotzdem ein bemerkenswert unklares Bild der Wirklichkeit erzeugen.
Sprache als Verstärker
Sprachmodelle sind für diese Dynamik besonders anfällig, weil sie aus Texten lernen – und Texte enthalten nicht nur Informationen, sondern gesellschaftliche Rollenbilder. „Der Arzt“, „der Ingenieur“ oder „der Manager“ waren über lange Zeit sprachliche Standards. Frauen erschienen häufig als markierte Variante: Ärztin, Ingenieurin, Managerin. LGBTQ+-Identitäten wiederum wurden in vielen historischen Textbeständen entweder gar nicht genannt oder ausdrücklich markiert.
Sprache beschreibt Normalität deshalb nicht nur, sie produziert sie auch. In meinem Beitrag „Sprache als Kommunikationsmittel“ habe ich beschrieben, wie Sprache neben Information immer auch Distinktion erzeugt. Wer wird genannt? Wer muss zusätzlich erklärt werden? Wer darf einfach Mensch sein und wer bekommt zunächst ein Adjektiv?
Ein Sprachmodell übernimmt diese Muster aus seinen Daten, anschließend versuchen wir, sie ihm durch Training und Regelwerke wieder abzugewöhnen – und wundern uns gelegentlich darüber, dass das Ergebnis ein wenig synthetisch wirkt.
Die unsichtbare Carearbeit
Eine der tiefgreifendsten Verzerrungen betrifft weiterhin Carearbeit. Pflege, Erziehung, Haushaltsorganisation und emotionale Unterstützung sind gesellschaftlich unverzichtbar, wirtschaftlich aber erstaunlich talentiert darin, in Statistiken zu verschwinden. Frauen leisten einen erheblichen Anteil dieser Arbeit, in klassischen Produktivitätsdaten erscheint sie jedoch kaum.
Ein Algorithmus misst bevorzugt, was sich zählen lässt und was auch gezählt wird: Arbeitsstunden, abgeschlossene Tasks, Umsatz, Anwesenheit oder Zielerreichung. Dass jemand morgens einen dementen Elternteil versorgt, mittags einen Termin beim Kinderarzt organisiert und am Nachmittag einen Konflikt im Team entschärft, ist für viele Kennzahlensysteme ungefähr so relevant wie die Luftfeuchtigkeit auf dem Firmenparkplatz – nicht weil diese Tätigkeiten unwichtig wären, sondern weil niemand eine passende Spalte dafür angelegt hat.
KI verschärft dieses Problem, wenn sie aus solchen Daten Produktivität, Zuverlässigkeit oder Karrierepotenzial ableitet. Dann wird nicht nur gemessen, was sichtbar ist, sondern das Sichtbare schleichend zur Definition dessen, was zählt. Ausgerechnet jene Tätigkeiten, ohne die Gesellschaft und Unternehmen ziemlich schnell ausgesprochen ungemütliche Orte würden, verschwinden ausgerechnet in jenen Systemen, die uns erklären sollen, wer besonders leistungsfähig ist.
Recruiting und die Illusion der Objektivität
Recruiting-Systeme versprechen seit Jahren, menschlichen Bias zu reduzieren: keine müden Personalverantwortlichen, keine Sympathieentscheidungen, keine unbewussten Vorurteile, sondern nur Daten. Das klingt beruhigend, bis man fragt, woher diese Daten kommen.
Ein Recruiting-Algorithmus ist nicht objektiv, sondern historisch. Er lernt aus Entscheidungen, die Menschen in der Vergangenheit getroffen haben, und diese Entscheidungen waren nicht neutral. Wenn Männer häufiger in technische Berufe eingestellt wurden, Frauen häufiger in Teilzeit arbeiteten oder Führungspositionen überwiegend männlich besetzt waren, findet ein lernendes System darin zunächst keine gesellschaftliche Schieflage. Es findet Korrelationen.
Noch bemerkenswerter wird die Konstruktion dadurch, dass die langfristigen Ergebnisse solcher Entscheidungen häufig gar nicht systematisch zurückgeführt werden. Wie lange bleibt eine eingestellte Person? Wie entwickelt sich ihre tatsächliche Leistung? Wie verändert sie ein Team? Welche Personen wurden abgelehnt, obwohl sie möglicherweise hervorragende Mitarbeiter gewesen wären? Solche Informationen fehlen häufig oder werden zumindest nicht in einer Qualität zurückgeführt, die eine belastbare Bewertung der ursprünglichen Entscheidung ermöglichen würde.
Für einen Ingenieur besitzt diese Konstruktion einen gewissen Unterhaltungswert. Regelungstechnisch betrachtet verfügt das System über einen Ausgang, aber für die relevante langfristige Zielgröße nicht über eine belastbare Rückführung. Die Analogie zum PID-Regler macht das Problem anschaulich: Ein Integralanteil kann langfristige Regelabweichungen nur berücksichtigen, wenn diese Abweichungen überhaupt gemessen werden. Wer lediglich zurückmeldet, dass eine Stelle erfolgreich besetzt wurde, trainiert deshalb kein System für gute Personalentscheidungen, sondern eines für Stellenbesetzung.
Das ist ungefähr so, als würde man die Qualität eines Autos danach bewerten, wie zuverlässig es den Parkplatz des Autohauses verlassen hat. Technisch messbar, nur möglicherweise nicht die interessanteste Zielgröße.
Die Maschine lernt damit aus der Vergangenheit, wird aber kaum an der Zukunft gemessen. Sie kann dieselben Muster reproduzieren, ohne jemals herauszufinden, ob diese Muster langfristig sinnvoll waren. Besonders elegant wird das Problem dadurch, dass die algorithmische Empfehlung anschließend objektiver wirkt als die menschliche Entscheidung, aus der ihre Trainingsdaten überhaupt erst entstanden sind. Vorurteile verschwinden so nicht zwingend aus dem Prozess. Sie werden lediglich von der Personalabteilung in die Datenpipeline verlagert.
Wenn aus Statistik Moral wird
Beim Thema Gender und LGBTQ+ kommt eine weitere Ebene hinzu, denn Anbieter generativer KI liefern keine bloßen Statistikmaschinen aus. Sie liefern Produkte aus, und Produkte brauchen Regeln. Sie müssen Gesetze beachten, Risiken begrenzen, gesellschaftliche Erwartungen berücksichtigen und auf Konflikte reagieren. Modelle werden deshalb nachtrainiert, gefiltert, ausgerichtet und mit Verhaltensregeln versehen.
Das ist unvermeidbar, aber keineswegs neutral. Sobald ein Anbieter festlegt, welche Formulierungen bevorzugt, welche Darstellungen vermieden und welche Perspektiven besonders berücksichtigt werden sollen, verändert er das gesellschaftliche Modell, das beim Nutzer ankommt. Das kann historische Verzerrungen korrigieren, neue Verzerrungen erzeugen oder – was vermutlich der interessantere Fall ist – beides gleichzeitig tun.
Ein Modell könnte beispielsweise in medizinischen Trainingsdaten trans Personen unterrepräsentieren, weil entsprechende Daten historisch fehlen, und gleichzeitig in generierten Lifestyle-Beispielen LGBTQ+-Personen überproportional häufig darstellen, weil Diversität bei der Modellausrichtung bewusst berücksichtigt wird. Dasselbe System wäre dann gleichzeitig unterrepräsentativ und überrepräsentativ – je nach Prompt, Domäne, Datengrundlage und nachgelagerter Steuerung.
Wer anschließend fragt, ob diese KI nun „woke“ oder „diskriminierend“ sei, stellt deshalb möglicherweise schon die falsche Frage. Sie kann unterschiedliche Verzerrungen gleichzeitig enthalten, nur eben an unterschiedlichen Stellen. Das ist intellektuell unbefriedigender als ein sauber benannter Bösewicht, beschreibt technische Systeme aber vermutlich besser.
Das eigentliche Problem: Der Nutzer sieht die Gewichtung nicht
Damit kommen wir zum Kern des Problems. Der Nutzer erhält eine Antwort, normalerweise aber keine Information darüber, aus welcher Art von Normalität diese Antwort entstanden ist.
War die Antwort des Modells deskriptiv, also an statistischer Häufigkeit orientiert? War sie normativ, also daran, wie gesellschaftliche Verhältnisse nach bestimmten Wertvorstellungen sein sollten? War sie repräsentativ kuratiert, damit gesellschaftliche Minderheiten nicht erneut unsichtbar werden? Oder reproduziert sie schlicht die Häufigkeitsverteilung ihrer Trainingsdaten?
Diese Unterschiede sind erheblich. Bei einem Werbemotiv ist eine bewusst diverse Darstellung etwas anderes als bei einer epidemiologischen Risikoeinschätzung. Bei einer Romanfigur ist Repräsentation etwas anderes als bei der Berechnung einer medizinischen Prävalenz. Bei einem historischen Text ist die damalige gesellschaftliche Normalität relevant, bei einer arbeitsrechtlichen Empfehlung interessiert dagegen die heutige Rechtslage.
Eine KI müsste deshalb viel häufiger nicht nur Antworten liefern, sondern erkennen und transparent machen, welche Art von Normalität sie gerade voraussetzt. Das wäre allerdings weniger komfortabel, und Komfort ist bekanntlich die Disziplin, in der wir besonders gern erkenntnistheoretische Probleme lösen.
Für wen gilt diese Antwort?
Besonders deutlich wird das in Medizin, Ergonomie, Psychologie und Arbeitswelt. Viele historische Datensätze orientieren sich stark am männlichen Körper oder an binären Geschlechtermodellen. Gleichzeitig können geschlechtsspezifische Unterschiede medizinisch relevant sein.
Die richtige Reaktion eines KI-Systems kann deshalb weder darin bestehen, solche Unterschiede aus politischer Vorsicht zu ignorieren, noch darin, jede Person zwanghaft einer traditionellen Kategorie zuzuordnen. Ein brauchbares System müsste erkennen, wann eine Information für die konkrete Frage relevant ist und wann nicht.
Bei einer medizinischen Fragestellung können biologisches Geschlecht, Hormonstatus, Alter, Körpergewicht, Medikation oder andere körperliche Faktoren relevant sein. Bei einer Bewerbung um eine Stelle sollten dieselben Informationen möglicherweise überhaupt keine Rolle spielen. Das klingt kompliziert, weil es kompliziert ist. Die Wirklichkeit hat leider weiterhin keinen Diversity-Schieberegler.
Gerade hier wäre es sinnvoll, wenn KI häufiger nachfragen würde. Nicht aus bürokratischer Höflichkeit, sondern weil eine Antwort ohne Kenntnis der relevanten Zielgruppe fachlich falsch sein kann. Ein System, das medizinische Empfehlungen aus überwiegend männlich geprägten Daten ableitet und gleichzeitig so tut, als seien diese Aussagen universell, löst das Genderproblem nicht durch geschlechtsneutrale Sprache. Es versteckt es nur etwas eleganter.
Neurodiversität macht das Problem noch schöner
Noch komplexer wird die Sache dort, wo Geschlecht, Gender und Neurodiversität zusammentreffen. Frauen mit ADHS oder Autismus wurden historisch häufig später erkannt, weil diagnostische Modelle lange stärker an männlichen Erscheinungsformen orientiert waren. Ein KI-System, das solche historischen Daten übernimmt, kann diese Unterdiagnostik reproduzieren.
Ein System, das anschließend versucht, den Bias durch stärkere Gewichtung anderer Erscheinungsformen auszugleichen, kann wiederum neue Fehlklassifikationen erzeugen. Das ist keine Argumentation gegen Korrektur, sondern gegen die Vorstellung, gesellschaftliche Verzerrungen ließen sich mit einem Parameter namens Fairness = true beheben.
Menschen besitzen schließlich die ausgesprochen unpraktische Eigenschaft, gleichzeitig mehreren statistischen Gruppen anzugehören. Eine lesbische Frau ist nicht entweder Frau oder lesbisch, ein trans Mann nicht ausschließlich trans, eine neurodivergente nichtbinäre Person nicht wahlweise neurodivergent oder nichtbinär. Merkmale überlagern sich, Lebensrealitäten verändern ihre Bedeutung, und dieselbe Eigenschaft kann je nach Kontext hochrelevant oder vollkommen bedeutungslos sein.
Für Datenbanken ist das lästig, aus einer einfachen Tabelle werden Matritzen und Permutationen. Für Menschen ist es jedoch ziemlich normal.
Was erhalten bleiben muss
Die Antwort auf den Gender Gap kann deshalb weder darin bestehen, historische Verteilungen als natürliche Ordnung zu behandeln, noch darin, gesellschaftliche Wirklichkeit algorithmisch so lange nachzukorrigieren, bis sie unseren aktuellen Vorstellungen einer gelungenen Unternehmensbroschüre entspricht.
Wir brauchen Systeme, die zwischen statistischer Häufigkeit, gesellschaftlicher Repräsentation und normativer Bewertung unterscheiden können. Historische Daten müssen als historische Daten erkennbar bleiben, unterrepräsentierte Gruppen dürfen nicht deshalb verschwinden, weil frühere Gesellschaften sie schlechter dokumentiert haben, und Überrepräsentation in bestimmten Medien darf umgekehrt nicht unbemerkt zur vermeintlichen Bevölkerungsstatistik werden. Dort, wo Geschlecht, Gender oder sexuelle Orientierung für eine konkrete Fragestellung keine Rolle spielen, sollte ein System daraus wiederum auch keine machen.
Das klingt beinahe banal, bis man versucht, es technisch umzusetzen. Denn plötzlich müsste ein KI-System nicht mehr nur Wahrscheinlichkeiten berechnen, sondern verstehen, welche Grundgesamtheit, welcher historische Kontext und welche normative Ebene für eine Aussage überhaupt relevant sind. Spätestens dort wird aus dem hübschen Versprechen der „objektiven KI“ eine etwas weniger hübsche erkenntnistheoretische Baustelle.
Ein kleiner Gegenentwurf
Die praktische Antwort besteht deshalb weder in einem KI-Verbot noch in einer weiteren Runde ideologischer Grabenkämpfe. Wir brauchen zunächst bessere Fragen an die Systeme und vor allem Systeme, die erkennen, wann solche Fragen überhaupt notwendig sind.
Welche Population liegt einer Aussage zugrunde? Sind bestimmte Gruppen im verwendeten Wissen unterrepräsentiert? Handelt es sich um eine statistische Beschreibung oder um eine bewusst diverse Darstellung? Ist Geschlecht für diese konkrete Antwort medizinisch, juristisch oder fachlich relevant? Welche historischen Verzerrungen könnten die Daten enthalten? Und wurde das Ergebnis durch normative Vorgaben des Anbieters beeinflusst?
Ein gutes KI-System müsste solche Fragen nicht erst beantworten, nachdem ein besonders hartnäckiger Nutzer sie gestellt hat. Es müsste Unsicherheit, fehlende Repräsentativität und die Relevanz unterschiedlicher Zielgruppen selbst erkennen und dort nachfragen, wo eine pauschale Antwort fachlich nicht belastbar wäre.
Vielleicht wäre das sogar eine sinnvollere Form von Alignment: nicht die Illusion einer vollkommen ausgewogenen Maschine, sondern ein System, das erkennt, wann seine Vorstellung von Normalität auf unsicherem Boden steht.
Fazit: Normalität ist kein Trainingsparameter
Der Gender Gap verschwindet durch KI nicht, und auch die gesellschaftlichen Konflikte um LGBTQ+, Geschlechterrollen, Repräsentation und Gleichstellung verschwinden nicht. Sie werden mathematisiert – und damit weder objektiver noch automatisch gerechter.
Historische Daten können Frauen und LGBTQ+-Personen unsichtbar machen. Moderne Medien können bestimmte Minderheiten überproportional sichtbar machen. Anbieter können versuchen, das eine durch das andere zu korrigieren. Ein Sprachmodell kann aus all diesen Schichten anschließend eine Antwort erzeugen, die vollkommen selbstverständlich klingt.
Gerade diese Selbstverständlichkeit ist problematisch, denn eine Gesellschaft besteht nicht aus einem einzigen Datensatz. Was im Melderegister häufig ist, muss kulturell nicht besonders sichtbar sein. Was in der Werbung sichtbar ist, muss statistisch nicht häufig sein. Was historisch selten dokumentiert wurde, muss gesellschaftlich nicht bedeutungslos sein. Und was statistisch ungewöhnlich ist, ist deshalb noch lange nicht falsch, krank, minderwertig oder unerwünscht.
KI müsste diese Unterschiede auseinanderhalten und dort transparent machen, wo sie es nicht zuverlässig kann. Wir Nutzer müssten im Gegenzug aufhören, jede sprachlich geschmeidige Antwort mit einem neutralen Blick auf die Wirklichkeit zu verwechseln.
Sonst bekommen wir am Ende vielleicht tatsächlich eine diskriminierungsfreie, diverse und vollkommen ausgewogene künstliche Gesellschaft.
Nur dummerweise nicht die, in der wir leben.
