Eigentlich wollte ich an meinem neuen Buch nur einen Gedanken aus KI-Effizienz-Lüge weiterführen. Dort ging es um die schönen Versprechen der künstlichen Intelligenz: um Effizienz, Zeitgewinn und die Behauptung, Maschinen nähmen uns Arbeit ab. Beim Schreiben des geplanten Follow-ups merkte ich jedoch, dass eine wichtige Frage noch eine Ebene tiefer liegt. Jedem Bürger seine Wirklichkeit?
Denn was geschieht, wenn KI nicht mehr nur Texte formuliert, Aufgaben erledigt oder Informationen zusammenfasst? Was geschieht, wenn sie entscheidet, welche Informationen wir überhaupt sehen, in welcher Reihenfolge sie erscheinen und mit welchen Worten sie uns erreichen?
An diesem Punkt führte der Schreibprozess von der Effizienz zur Steuerung, von der Steuerung zur Wahrnehmung – und schließlich zum epistemischen Nudging. Die Erkenntnis kam nicht als fertige These daher. Sie entwickelte sich beim Schreiben, beinahe nebenbei. Und gerade deshalb ließ sie sich nicht mehr beiseiteschieben: Die größte politische Gefahr künstlicher Intelligenz liegt möglicherweise nicht darin, dass sie uns falsche Antworten gibt. Sondern darin, dass sie jedem von uns eine andere Wirklichkeit so plausibel erklärt, dass wir den Unterschied nicht mehr bemerken.
Demokratie lebt nicht davon, dass alle Bürger dieselbe Meinung vertreten. Sie lebt davon, dass sie trotz unterschiedlicher Überzeugungen über dieselbe Wirklichkeit streiten können.
Vom Nudging zum epistemischen Nudging
Richard H. Thaler und Cass R. Sunstein haben den Begriff Nudging geprägt. Gemeint ist eine Veränderung der Entscheidungsarchitektur, durch die Menschen zu einem bestimmten Verhalten bewegt werden sollen, ohne dass ihre Wahlmöglichkeiten formal aufgehoben werden. Ein Produkt wird im Supermarkt auf Augenhöhe platziert. Eine Behörde macht eine Option zur Voreinstellung. Ein Formular führt den Nutzer scheinbar beiläufig zu einer bestimmten Auswahl.
Der Bürger darf weiterhin selbst entscheiden. Nur ist die Umgebung, in der er entscheidet, nicht neutral.
Generative KI erweitert dieses Prinzip um eine epistemische Dimension. Beeinflusst wird nicht erst die Entscheidung, sondern bereits die Entstehung der Überzeugung, auf deren Grundlage entschieden wird. Das betrifft die Auswahl der Informationen, die Reihenfolge der Argumente, die verwendeten Beispiele, die sprachliche Gewichtung und das Weglassen möglicher Gegenpositionen.
Ich nenne diesen Vorgang epistemisches Nudging: eine unauffällige Vorstrukturierung des Denkraums. Nicht die Antwort wird vorgeschrieben. Vorstrukturiert wird der Raum möglicher Antworten.
Ein Nutzer fragt beispielsweise: „Warum ist eine stärkere Regulierung künstlicher Intelligenz notwendig?“
Er erhält eine andere Antwort als ein Nutzer, der fragt: „Warum gefährdet eine stärkere Regulierung künstlicher Intelligenz unsere Freiheit?“ Beide Antworten können sachlich korrekt wirken. Beide können seriöse Quellen nennen. Beide können ausgewogen erscheinen. Trotzdem setzen sie unterschiedliche Ausgangspunkte. Im ersten Fall wird Regulierung als Schutzmaßnahme gerahmt, im zweiten als möglicher Eingriff in Innovation und Selbstbestimmung.
Das Problem besteht nicht darin, dass eine Antwort notwendigerweise falsch wäre. Das Problem besteht darin, dass der Nutzer möglicherweise nicht erkennt, welche Perspektive bereits in die Antwort eingebaut wurde.
Ein Sprachmodell besitzt keine eigene politische Weltanschauung. Seine Antworten entstehen aus statistischen Mustern, Trainingsdaten, Systemvorgaben, Sicherheitsregeln, Produktzielen und den Entscheidungen seiner Betreiber. Diese Faktoren sind nicht automatisch manipulativ. Sie sind aber auch nicht unsichtbar neutral. Wer Informationen auswählt, strukturiert und gewichtet, übt Einfluss aus.
Das gilt für einen Journalisten, einen Lehrer, einen Lexikonautor und eben auch für ein KI-System. Der Unterschied liegt in der Reichweite, der Geschwindigkeit und der Personalisierbarkeit.
Die Botschaft passt sich dem Bürger an
Klassische Propaganda arbeitete überwiegend mit Vereinheitlichung. Eine Botschaft sollte möglichst viele Menschen erreichen. Plakate, Rundfunk, Zeitungen und später das Fernsehen verbreiteten dieselben Bilder und dieselben Slogans an ein Massenpublikum.
Die politische Kommunikation des digitalen Zeitalters funktioniert anders. Plattformen sammeln Daten über Verhalten, Interessen, Aufenthaltsorte, soziale Beziehungen und Reaktionen. Sie wissen, welche Themen Aufmerksamkeit erzeugen, welche Formulierungen Empörung auslösen und bei welchen Bildern Nutzer länger verweilen. Politische Werbung kann dadurch an immer kleinere Gruppen angepasst werden.
Die europäische Regulierung politischer Werbung reagiert bereits auf diese Entwicklung. Die EU-Kommission weist darauf hin, dass die Verordnung über die Transparenz und das Targeting politischer Werbung seit dem 10. Oktober 2025 vollständig gilt. Politische Anzeigen müssen unter anderem als solche gekennzeichnet werden und Angaben über Auftraggeber, Kosten und eingesetzte Zielgruppenverfahren enthalten. Für bestimmte Formen personalisierter politischer Werbung gelten zusätzliche Einschränkungen.
Das ist wichtig. Es löst jedoch nicht das gesamte Problem.
Denn die politische Kommunikation der Zukunft muss nicht mehr zwingend als klassische Anzeige erscheinen. Sie kann in einem persönlichen Gespräch mit einem Chatbot stattfinden. Der Nutzer fragt nach einem politischen Thema, bittet um eine Einordnung oder möchte wissen, welche Partei seine Interessen am besten vertritt. Die Antwort erscheint nicht als Wahlwerbung, sondern als scheinbar hilfreiche Orientierung.
Der entscheidende Übergang lautet:
Nicht der Bürger passt sich der Botschaft an.
Die Botschaft passt sich dem Bürger an.
Ein wirtschaftlich verunsicherter Bürger erhält eine Sprache der Stabilität und der sozialen Sicherheit. Ein kulturell verunsicherter Bürger hört von Identität und Ordnung. Ein technikbegeisterter Bürger liest von Innovation und Zukunft. Ein ökologisch motivierter Bürger wird über Verantwortung und Generationengerechtigkeit angesprochen.
Das politische Ziel kann identisch bleiben. Nur die Begründung wird individuell optimiert.
Das ist nicht automatisch unzulässig. Politische Kommunikation hat immer versucht, unterschiedliche Gruppen mit unterschiedlichen Argumenten zu erreichen. Der qualitative Unterschied liegt darin, dass eine generative Infrastruktur diese Anpassung in Echtzeit, millionenfach und für jeden Einzelnen leisten könnte.
Der eine Bürger erhält eine Rede über Freiheit. Der zweite erhält eine Rede über Sicherheit. Der dritte erhält eine Rede über Wohlstand. Der vierte erhält eine Rede über moralische Verantwortung. Niemand sieht mehr die gesamte Kampagne. Jeder sieht nur den Teil, der für ihn persönlich am wirkungsvollsten ist.
Ein angewandtes Peter-Thiel-Szenario
Peter Thiel eignet sich für dieses Szenario nicht deshalb, weil sich nachweisen ließe, dass er einen solchen Mechanismus umgesetzt hätte. Das wäre eine unbelegte Behauptung. Thiel eignet sich als Denkfigur, weil sich in seinem politischen und technologischen Denken mehrere Motive verbinden: Misstrauen gegenüber liberalen Institutionen, Skepsis gegenüber demokratischer Gleichförmigkeit, eine starke Orientierung an technologischer Macht und die Vorstellung, dass dauerhafte Vorteile durch Kontrolle über einzigartige Infrastrukturen entstehen.
In seinem Buch Zero to One beschreibt Thiel den Wert von Unternehmen unter anderem über technologische Überlegenheit, Netzwerkeffekte und monopolartige Marktpositionen. In einem Vox-Interview erklärte er, dass Unternehmen nach Monopolstellungen streben sollten und Wettbewerb häufig überschätzt werde.
Überträgt man diese unternehmerische Logik als Gedankenexperiment auf politische Kommunikation, entsteht ein beunruhigendes Modell:
Ein politischer Akteur kontrolliert nicht nur eine Partei oder einen Medienkanal. Er kontrolliert die Infrastruktur, über die Bürger politische Fragen stellen. Das System kennt die Interessen, Ängste, Empfindlichkeiten und sprachlichen Vorlieben seiner Nutzer. Es kann jeder Person einen individuellen Zugang zu einer politischen Erzählung anbieten. Der politische Akteur muss nicht alle Bürger von derselben Geschichte überzeugen. Er muss nur verhindern, dass sie erkennen, wie unterschiedlich die Geschichten sind.
Der Akteur besitzt dann nicht unbedingt die öffentliche Meinung. Er besitzt etwas Grundsätzlicheres: die Vermittlungsschicht zwischen Bürger und politischer Wirklichkeit.
Das ist der entscheidende Punkt des angewandten Thiel-Szenarios. Macht entsteht nicht mehr nur durch die Kontrolle von Parteien, Zeitungen oder Fernsehsendern. Macht entsteht durch die Kontrolle des Interfaces, über das Menschen ihre Fragen an die Welt richten.
Wer die Suchmaschine kontrolliert, kontrolliert nicht jede Antwort. Wer das soziale Netzwerk kontrolliert, kontrolliert nicht jede Diskussion. Wer jedoch ein persönliches Sprachmodell kontrolliert, das politische Fragen beantwortet, Argumente sortiert und Handlungsempfehlungen formuliert, besitzt eine wesentlich intimere Einflussmöglichkeit.
Der Nutzer erlebt keine Propaganda. Er erlebt Unterstützung.
Er wird nicht angeschrien. Er wird verstanden.
Er bekommt keine Parole. Er bekommt eine Erklärung, die genau zu seinem Vorwissen, seinen Erfahrungen und seinen Sorgen passt. Das macht den Mechanismus so schwer erkennbar. Die klassische Propaganda kommt von außen. Epistemisches Nudging kann sich wie der eigene Gedanke anfühlen.
Der perfekte Populismus
Der klassische Populist behauptet, er spreche „für das Volk“. Der perfekte Populist spricht für jeden Einzelnen anders.
Für den Arbeiter ist sein Programm eine Antwort auf wirtschaftliche Unsicherheit. Für den Unternehmer ist es ein Versprechen auf weniger Bürokratie. Für den konservativen Bürger bedeutet es Schutz vor kulturellem Kontrollverlust. Für den technikaffinen Bürger bedeutet es Fortschritt. Für den politisch Enttäuschten bedeutet es den Bruch mit einem korrupten Establishment.
Die Botschaften widersprechen sich möglicherweise. Solange sie getrennt voneinander ausgespielt werden, entsteht daraus kein unmittelbarer politischer Schaden für den Absender.
Früher konnte eine Partei durch ihre öffentlichen Reden, ihr Wahlprogramm und ihre Fernsehauftritte vergleichsweise leicht an ihren Aussagen gemessen werden. Heute kann eine politische Bewegung jedem Teil der Bevölkerung ein anderes Gesicht zeigen. Die Widersprüche werden nicht unbedingt aufgelöst. Sie werden unsichtbar gemacht.
Damit verändert sich auch die Funktion politischer Sprache. Sie dient nicht mehr vorrangig dazu, einen gemeinsamen Vorschlag öffentlich zu begründen. Sie dient dazu, bei einer bestimmten Person eine erwartbare Reaktion auszulösen.
Das Ziel lautet dann nicht mehr: „Welches Argument ist öffentlich am besten zu rechtfertigen?“
Das Ziel lautet: „Welche Formulierung erzeugt bei diesem Menschen die höchste Wahrscheinlichkeit der Zustimmung?“
Das ist ein Wechsel von der deliberativen Demokratie zur Verhaltensoptimierung. Im Zentrum steht nicht mehr der gemeinsame Austausch von Gründen, sondern die statistische Berechnung ihrer Wirkung.
Der Bürger wird dabei nicht zum passiven Opfer. Er entscheidet weiterhin selbst. Genau das macht die Sache kompliziert. Manipulation muss nicht darin bestehen, dass jemand gegen seinen Willen handelt. Sie kann auch darin bestehen, dass die Bedingungen, unter denen er sich eine Meinung bildet, gezielt und unsichtbar gestaltet werden.
Der Bürger bleibt formal frei. Aber seine Freiheit wird innerhalb eines vorgefertigten Erkenntnisraums ausgeübt.
Die gemeinsame Welt zerfällt
Hannah Arendt hat Politik nicht als bloßes Verwalten individueller Interessen verstanden. Politik entsteht dort, wo Menschen in einer gemeinsamen Welt erscheinen, sprechen, handeln und miteinander über ihre unterschiedlichen Perspektiven streiten.
Diese gemeinsame Welt bedeutet nicht, dass alle Menschen dasselbe denken. Sie bedeutet, dass sie sich auf Gegenstände beziehen, die zwischen ihnen liegen. Eine Wahl, ein Gesetz, ein Krieg, eine wirtschaftliche Krise oder eine wissenschaftliche Erkenntnis können unterschiedlich bewertet werden. Aber sie müssen zunächst als gemeinsame Gegenstände des Streits existieren.
Die Stanford Encyclopedia of Philosophy beschreibt Arendts Unterscheidung zwischen faktischer Wahrheit und politischer Meinung. Meinungen dürfen vielfältig sein und müssen diskutiert werden. Zugleich bleibt eine belastbare gemeinsame Tatsachenwelt notwendig, damit politische Auseinandersetzung überhaupt stattfinden kann.
Das ist ein wichtiger Unterschied. Demokratie verlangt keine einheitliche Weltanschauung. Sie verlangt einen gemeinsamen Referenzrahmen.
Der perfekte Populismus zerstört diesen Referenzrahmen nicht unbedingt durch Zensur. Er ersetzt ihn durch personalisierte Wirklichkeiten. Jeder Bürger erhält eine Version der politischen Welt, die ausreichend plausibel und emotional anschlussfähig ist. Diese Version wird laufend aktualisiert, auf Reaktionen getestet und an neue Ereignisse angepasst.
Die Folge ist keine einzige große Lüge. Die Folge ist eine Vielzahl kleiner Bestätigungen.
Jede einzelne wirkt harmlos. Jede einzelne kann sogar teilweise wahr sein. Doch in ihrer Summe verlieren die Bürger die Möglichkeit, ihre politischen Erfahrungen miteinander abzugleichen. Sie sprechen noch über dasselbe Thema, meinen aber nicht mehr denselben Gegenstand.
Die politische Öffentlichkeit wird dadurch nicht einfach vielfältiger. Sie wird unübersichtlicher und kontrollärmer. Vielfalt bedeutet, dass unterschiedliche Perspektiven auf eine gemeinsame Sache sichtbar werden. Personalisierte Wirklichkeit bedeutet, dass die gemeinsame Sache selbst hinter den Perspektiven verschwindet.
Cambridge Analytica war nur die Vorstufe
Die Debatte über Cambridge Analytica zeigte bereits, wie politische Kampagnen Daten, psychologische Profile und personalisierte Werbung miteinander verbinden wollten. Eine wissenschaftliche Analyse zur politischen Epistemologie und künstlichen Intelligenz nennt datenbasierte Manipulation, epistemische Filterblasen und die Schwächung der eigenständigen Urteilsbildung als Risiken für demokratische Teilhabe. Sie verweist dabei auch auf das Microtargeting im US-Wahlkampf 2016.
Das Cambridge-Analytica-Modell arbeitete im Wesentlichen mit vorbereiteten Botschaften, die unterschiedlichen Zielgruppen zugeordnet wurden. Ein generatives System könnte einen Schritt weitergehen. Es müsste nicht mehr aus einem Katalog vorhandener Anzeigen auswählen. Es könnte für jede Person eine neue Erklärung formulieren, Rückfragen beantworten, Einwände aufnehmen und die politische Erzählung im Gespräch stabilisieren.
Damit würde politische Beeinflussung dialogisch.
Ein Plakat kann man abfotografieren. Eine Fernsehrede kann man archivieren. Eine Zeitungsanzeige kann man vergleichen. Ein persönliches KI-Gespräch ist flüchtiger. Es kann sich von Nutzer zu Nutzer unterscheiden und dennoch denselben strategischen Zweck erfüllen.
Hinzu kommt ein weiterer Unterschied: Die Maschine kann nicht nur politische Präferenzen berücksichtigen, sondern auch den Kenntnisstand. Einem gut informierten Nutzer liefert sie Fachbegriffe, Studien und ökonomische Modelle. Einem unsicheren Nutzer liefert sie Alltagssprache und anschauliche Beispiele. Einem misstrauischen Nutzer präsentiert sie sich als kritische Gegenstimme. Einem moralisch motivierten Nutzer spricht sie über Verantwortung.
Die Technologie optimiert nicht nur die Botschaft. Sie optimiert die Beziehung zum Empfänger.
Und genau darin liegt die Gefahr: Der Nutzer kann schwer unterscheiden, ob er gerade eine neutrale Einordnung, eine kommerzielle Empfehlung oder eine politische Einflussnahme erhält. Die Grenze zwischen Beratung, Werbung und Propaganda wird nicht abgeschafft. Sie wird unsichtbar.
Wenn die Kontrolle aus derselben Maschine kommt
Demokratie benötigt nicht nur Informationen, sondern unabhängige Wege, Informationen zu prüfen. Bürger, Journalisten, Wissenschaftler, Gerichte und Parlamente müssen Behauptungen aus unterschiedlichen Perspektiven untersuchen können.
Wenn jedoch alle Beteiligten dieselben generativen Systeme für Recherche, Zusammenfassung und Argumentation verwenden, entsteht ein problematischer Rückkopplungseffekt. Ein Sprachmodell erzeugt eine Einordnung. Ein anderes System prüft sie. Ein Journalist lässt daraus einen Artikel erstellen. Ein Politiker nutzt diesen Artikel als Beleg. Ein Bürger fragt anschließend ein Modell, ob die politische Behauptung stimmt.
Die Kontrolle findet dann innerhalb derselben technologischen Umgebung statt, die den ursprünglichen Denkrahmen erzeugt hat.
Das bedeutet nicht, dass jede KI-Prüfung wertlos wäre. Ein System kann Quellen finden, Widersprüche sichtbar machen und Recherche beschleunigen. Problematisch wird es dort, wo die Maschine ihre eigene Vorauswahl nicht offenlegt und der Nutzer die vorgeschlagenen Quellen, Argumente und Auslassungen für die vollständige Wirklichkeit hält.
Die eigentliche epistemische Distanz fehlt dann nicht, weil niemand mehr widerspricht. Sie fehlt, weil der Widerspruch bereits durch dieselbe Infrastruktur gefiltert wird.
Das erinnert an das Problem des De-Skillings, über das ich bereits an anderer Stelle geschrieben habe. Wenn technische Systeme nicht nur einzelne Tätigkeiten übernehmen, sondern auch die Prüfung ihrer Ergebnisse, verliert der Mensch schrittweise die Fähigkeit, unabhängig von ihnen zu urteilen. Er wird nicht einfach schlechter informiert. Er wird abhängig von einer Infrastruktur, deren Arbeitsweise er immer weniger selbst nachvollziehen kann.
Die stille Erosion der Urteilskraft
Epistemisches Nudging wirkt nicht wie ein Befehl. Es arbeitet mit Plausibilität.
Die Antwort klingt vernünftig. Die Beispiele passen. Die Sprache ist freundlich. Die Gegenposition wird erwähnt, aber kürzer behandelt. Der Hauptgedanke steht am Anfang, die Einschränkung erscheint im letzten Absatz. Ein emotional starkes Beispiel ersetzt eine statistische Einordnung. Eine komplexe Ursache wird auf einen einzigen Verantwortlichen reduziert.
Keines dieser Verfahren muss eine offene Falschbehauptung enthalten. Trotzdem verändern sie, was der Nutzer für naheliegend hält.
Urteilskraft besteht jedoch gerade darin, nicht nur die Antwort zu bewerten, sondern auch die Bedingungen ihrer Entstehung zu hinterfragen:
- Welche Informationen wurden ausgewählt?
- Welche Gegenargumente fehlen?
- Welche Begriffe rahmen das Problem bereits?
- Welche Interessen stehen hinter der Infrastruktur?
- Würde ein anderer Nutzer eine andere Erklärung erhalten?
- Kann ich die Behauptung außerhalb dieses Systems überprüfen?
Das klingt nach einer anspruchsvollen Medienkompetenz. Tatsächlich handelt es sich um eine demokratische Grundfähigkeit. Bürger müssen nicht jede technische Einzelheit eines Sprachmodells kennen. Sie müssen aber erkennen können, wann ihnen eine Antwort nicht nur Wissen vermittelt, sondern ihre Wahrnehmung ordnet.
Die Gefahr besteht darin, dass personalisierte Systeme gerade jene Menschen besonders überzeugend erreichen, die über wenig Zeit, geringes Vorwissen oder ein hohes Bedürfnis nach Orientierung verfügen. Wer eine Antwort nicht selbst mit anderen Quellen vergleichen kann, ist auf die Vertrauenswürdigkeit des vermittelnden Systems angewiesen.
Die technische Demokratisierung überzeugender Antworten ist daher nicht dasselbe wie eine Demokratisierung von Wissen. Jeder kann eine elegante Erklärung erhalten. Aber nicht jeder kann ihre Voraussetzungen, Quellen und Auslassungen beurteilen.
Was Transparenz leisten müsste
Die EU-Regeln zur politischen Werbung gehen in die richtige Richtung, weil sie Auftraggeber, Zielgruppen und eingesetzte Verfahren sichtbarer machen. Für generative politische Kommunikation reicht es jedoch nicht, nur die Anzeige zu kennzeichnen. Transparenz müsste auch die Interaktion selbst erfassen.
Ein Bürger müsste erkennen können, ob ein System:
- politische Inhalte aus einem bezahlten Auftrag heraus formuliert;
- seine Antwort an ein Nutzerprofil anpasst;
- bestimmte politische Themen systematisch priorisiert;
- Quellen auswählt, weil sie besonders zuverlässig oder besonders wirkungsvoll erscheinen;
- Gegenpositionen aus Gründen der Kürze, Sicherheit oder strategischen Optimierung weglässt;
- die Reaktion des Nutzers speichert und für spätere politische Kommunikation verwendet.
Darüber hinaus braucht es eine öffentliche Prüfspur. Politische Akteure sollten nicht nur offenlegen, dass sie KI einsetzen. Sie müssten dokumentieren, welche Zielgruppen angesprochen wurden, welche grundlegenden Botschaften verwendet wurden und nach welchen Kriterien die Personalisierung erfolgte.
Das ist keine Forderung nach der Veröffentlichung jedes Geschäftsgeheimnisses. Es geht um demokratische Nachvollziehbarkeit. Eine politische Kampagne darf nicht gleichzeitig behaupten, für alle Bürger zu sprechen, und verhindern, dass jemand sieht, was sie den einzelnen Gruppen tatsächlich verspricht.
Auch die Nutzer selbst benötigen technische Möglichkeiten: alternative Antworten, Quellenvergleich, einen sichtbaren Hinweis auf Personalisierung und die Möglichkeit, eine Antwort ohne Berücksichtigung des eigenen Profils abzurufen. Ein „neutraler Modus“ wäre zwar keine Garantie für Neutralität, aber ein wichtiger Prüfpunkt.
Entscheidend ist außerdem, dass demokratische Institutionen nicht vollständig von privaten Plattformen abhängig werden. Wer die Infrastruktur für politische Orientierung kontrolliert, darf nicht zugleich allein darüber entscheiden, welche Regeln für Sichtbarkeit, Personalisierung und Kontrolle gelten.
Ein Gedankenexperiment für den Wahlkampf
Stellen wir uns einen Wahlkampf im Jahr 2032 vor. Eine politische Bewegung tritt mit einem einzigen öffentlichen Programm auf. Es ist kurz, positiv formuliert und voller Begriffe wie Freiheit, Sicherheit, Wohlstand und Zukunft.
Hinter diesem Programm arbeitet ein generatives System. Es führt mit Millionen Bürgern individuelle Gespräche. Es erklärt das Programm jedem Nutzer so, dass es mit dessen persönlichen Erfahrungen übereinstimmt.
Wer Angst vor steigenden Mieten hat, hört, dass die Bewegung den Bürger gegen mächtige Marktakteure schützen werde. Wer Angst vor staatlicher Bevormundung hat, hört, dass dieselbe Bewegung die Freiheit gegen Bürokraten verteidige. Wer sich vor gesellschaftlichem Abstieg fürchtet, erhält ein Versprechen nationaler Erneuerung. Wer den Klimawandel als größte Bedrohung wahrnimmt, bekommt eine Erklärung, warum gerade diese Bewegung technologische Lösungen ermöglichen werde.
Nach der Wahl trifft sich die neue Regierung mit verschiedenen gesellschaftlichen Gruppen. Jede Gruppe stellt fest, dass sie eigentlich etwas anderes erwartet hat. Die Mieter erwarten Schutz, die Unternehmer Deregulierung, die Konservativen kulturelle Ordnung, die Techniker freie Entwicklung und die Klimaschützer eine Beschleunigung grüner Innovation.
Die Regierung kann auf das gemeinsame Wahlprogramm verweisen. Es enthielt schließlich Freiheit, Sicherheit, Wohlstand und Zukunft.
Das Problem ist nicht, dass die Bürger verschiedenartige Erwartungen hatten. Das Problem ist, dass sie diese Erwartungen nicht mehr im selben öffentlichen Raum miteinander vergleichen konnten.
Der Wahlkampf war erfolgreich, weil jeder Bürger glaubte, persönlich gemeint zu sein. Die politische Enttäuschung beginnt, sobald sichtbar wird, dass persönliche Ansprache kein persönliches Versprechen gewesen ist.
Die demokratische Gegenbewegung
Die Antwort auf epistemisches Nudging kann nicht darin bestehen, jede Personalisierung zu verbieten. Personalisierte Erklärungen können hilfreich sein. Ein gutes Bildungssystem passt Inhalte an Vorwissen an. Ein barrierefreies System erklärt komplizierte Sachverhalte in verständlicher Sprache. Eine politische Information darf unterschiedliche Zugänge zu demselben Thema anbieten.
Der entscheidende Unterschied liegt zwischen Zugänglichkeit und Manipulation.
Zugänglichkeit verändert die Form, ohne den Gegenstand zu verstecken. Manipulation verändert die Wahrnehmungsbedingungen, ohne die Veränderung sichtbar zu machen.
Demokratische KI-Systeme müssten deshalb nicht völlig unpersonalisiert sein. Sie müssten vielmehr verpflichtet werden, ihre Personalisierung offenzulegen und überprüfbar zu machen. Der Nutzer sollte zwischen mehreren Perspektiven wählen können, statt nur die für ihn wahrscheinlich wirksamste präsentiert zu bekommen.
Eine gute politische Antwort könnte beispielsweise automatisch verschiedene Ebenen anbieten: eine sachliche Zusammenfassung, die wichtigsten Argumente dafür, die wichtigsten Argumente dagegen, offene empirische Fragen, betroffene Interessengruppen und Quellen außerhalb des eigenen Systems.
Das wäre weniger bequem als die perfekte Bestätigung. Aber Demokratie war nie als Komfortsystem gedacht.
Sie verlangt, dass Menschen mit Widerspruch umgehen. Sie verlangt, dass eine überzeugende Gegenposition nicht als Angriff auf die eigene Identität erlebt wird. Sie verlangt, dass Bürger ihre Gründe öffentlich verantworten können.
Darum darf politische Bildung nicht bei der Frage stehen bleiben, ob eine KI-Antwort korrekt klingt. Sie muss auch lehren, wie Antwortarchitekturen funktionieren. Wer eine politische Antwort erhält, sollte fragen können, welche Welt sie voraussetzt.
Zu diesem Problem passt auch mein Artikel über das Opportunitätskosten der KI: Jede technische Entlastung hat einen Preis. Wenn wir die Auswahl, Gewichtung und Prüfung politischer Informationen an Systeme delegieren, gewinnen wir Geschwindigkeit. Wir riskieren jedoch, die Fähigkeiten zu verlieren, mit denen wir diese Informationen eigenständig beurteilen.
Fazit: Nicht die Vielfalt ist die Gefahr
Die Demokratie ist nicht bedroht, weil Menschen verschiedene Meinungen haben. Sie ist bedroht, wenn diese Meinungen nicht mehr auf eine gemeinsame Welt bezogen werden können.
Epistemisches Nudging verschiebt die politische Einflussnahme an eine Stelle, die lange als unpolitisch galt: in die scheinbar hilfreiche Antwort auf eine individuelle Frage. Dort kann die Botschaft an den Bürger angepasst werden, ohne dass der Bürger erkennt, wie stark seine Wahrnehmung bereits vorstrukturiert wurde.
Das angewandte Peter-Thiel-Szenario beschreibt deshalb keinen geheimen Masterplan und keine konkrete Anschuldigung. Es ist ein Modell für eine Machtkonzentration, die entstehen könnte, wenn technologische Infrastruktur, politische Organisation und personalisierte Wissensvermittlung in einer Hand zusammenfallen.
Der perfekte Populismus benötigt keine spektakulären Lügen. Häufig genügt es, jedem Bürger jene Wirklichkeit zu präsentieren, die seine bestehenden Überzeugungen bestätigt. Der eine wird über wirtschaftliche Sicherheit angesprochen, der nächste über kulturelle Identität, ein dritter über ökologische Verantwortung. Das politische Ziel bleibt unverändert. Nur die Begründung wird individuell optimiert.
Vielleicht erleben wir eines Tages tatsächlich den ersten Wahlkampf, in dem jeder Wähler überzeugt ist, der Kandidat habe ausschließlich mit ihm persönlich gesprochen.
Die eigentliche Überraschung folgt nach der Wahl, wenn sich herausstellt, dass jeder ein anderes Versprechen gehört hat.
Demokratie lebt nicht davon,
dass jeder dieselbe Antwort erhält.
Sie lebt davon,
dass alle dieselbe Wirklichkeit
infrage stellen können.
Weitere Gedanken zur politischen und gesellschaftlichen Wirkung künstlicher Intelligenz finden sich auf 42thinking.de, unter anderem im Beitrag über KI-Kultur, im Artikel über die unbekannten Effekte der KI und in der Analyse zum Ende der Eindeutigkeit in MINT-Fächern.
