Verwaltung und KI: Wenn der Staat den Bürger zum Vorgang macht

Man sitzt an einem Buch. Genauer gesagt: Man sitzt am Kapitel „Öffentliche Verwaltung“ innerhalb eines Buchprojekts, das den reißerischen Titel KI-Support-Lüge¹ trägt, und man denkt sich: Verwaltung und KI – das ist doch trocken. Behörden, Bescheide, Aktenzeichen. Wer will darüber schon lesen, wenn es um künstliche Intelligenz geht? KI im Gesundheitswesen, KI in der Schule, KI im Journalismus – das sind Themen, bei denen man sofort ein Bild hat. Aber Verwaltung? Das ist der Bereich, den man assoziiert mit Wartezimmern, Formularen in dreifacher Ausfertigung und Sachbearbeitern, die um 15 Uhr schon Feierabend haben.

Und dann fängt man an zu schreiben. Und merkt, dass man nicht über Behördenformulare schreibt, nicht über digitale Akten, nicht über den naheliegenden Traum von der papierlosen Verwaltung. Sondern über eine Frage, die viel tiefer sitzt: Verwandelt der Staat, der seine Verwaltung digitalisiert und mit KI ausrüstet, schrittweise den Bürger in einen Vorgang? Und wenn ja: Hört dann der Rechtsstaat auf, dem Menschen zu begegnen – und beginnt, nur noch seinen Fall zu bearbeiten?

Das ist der Moment, in dem das Schreiben aufhört, Routine zu sein. Und anfängt, unbequem zu werden.

Der Staat ist kein Unternehmen – und KI macht den Unterschied nicht ungeschehen

Der erste Irrtum, dem man beim Schreiben begegnet, klingt plausibel. Wenn Verwaltung effizienter wird, ist das doch gut für alle. Schnellere Bearbeitung, kürzere Wartezeiten, weniger Papierkram. Wer könnte dagegen sein? Und wenn KI dabei hilft, Anträge zu priorisieren, Risiken einzuschätzen oder Bescheide vorzuformulieren – wo liegt das Problem?

Das Problem liegt nicht in der Effizienz. Das Problem liegt in der stillen Verschiebung dessen, was als gute Verwaltung gilt. Ein Unternehmen wird an Produktivität, Kosten und Marktanteilen gemessen. Eine öffentliche Verwaltung wird an Rechtssicherheit, Gleichbehandlung, Verhältnismäßigkeit und dem Vertrauen der Bürger gemessen. Effizienz gehört zu ihren legitimen Zielen – sie ist aber niemals ihr eigentlicher Zweck. Diese Unterscheidung ist nicht akademisch. Sie ist der Riss, durch den der Schiffsbohrwurm in die Verwaltung eindringt.

Im Buch arbeiten wir mit dem Bild des Schiffsbohrwurms – jenes maritimen Tierchens, das Schiffe nicht von außen zerstört, sondern von innen aushöhlt. Der Rumpf bleibt stehen, die Takelage steht, das Deck ist plan – und trotzdem fault der Kiel. Genau das passiert, wenn betriebswirtschaftliche Maßstäbe schrittweise die Kriterien staatlichen Handelns definieren. Bearbeitungszeiten, Fallzahlen, Kosten pro Antrag lassen sich leicht messen und optimieren. Rechtsstaatlichkeit, Gerechtigkeit oder gesellschaftliches Vertrauen entziehen sich einer solchen Quantifizierung. Nicht weil sie unwichtig wären, sondern weil sie andere Zielgrößen darstellen. Werkzeuge beginnen dadurch unmerklich zu definieren, was als gute Verwaltung gilt – ein Prozess, den ich bereits im Artikel über den digitalen Schiffsbohrwurm beschrieben habe.

Der automatisierte Staat entsteht nicht durch Roboter – sondern durch Gewöhnung

Der automatisierte Staat entsteht nicht erst dann, wenn Algorithmen eigenständig Verwaltungsakte erlassen. Er entsteht bereits dort, wo Bewertungen, Priorisierungen oder Entscheidungsvorschläge zunehmend von algorithmischen Systemen vorbereitet werden. Die rechtliche Verantwortung verbleibt beim Menschen, wie dies auch der EU AI Act für Hochrisiko-Anwendungen ausdrücklich fordert. In der Verwaltungspraxis besteht jedoch die Gefahr, dass die formale Letztentscheidung des Menschen und die tatsächliche Steuerungswirkung algorithmischer Vorbewertungen auseinanderfallen. Der Mensch entscheidet formal weiterhin – orientiert sich dabei aber zunehmend an einer bereits technisch vorstrukturierten Bewertung².

Das klingt harmlos. Es ist es nicht. Denn was ursprünglich als Entscheidungshilfe gedacht war, entwickelt sich leicht zum erwarteten Regelfall. Wer von einer KI-Empfehlung abweicht, muss seine Entscheidung häufig besonders ausführlich begründen. Wer ihr folgt, kann sich scheinbar auf die Technik berufen. Dadurch verschiebt sich die institutionelle Beweislast. Nicht mehr die algorithmische Empfehlung muss ihre Angemessenheit rechtfertigen, sondern der Mensch seine Abweichung. Das ist ein leiser, aber wirkmächtiger Wandel: Der Kompetenzverlust entsteht nicht trotz funktionierender Systeme, sondern wegen ihres dauerhaften Erfolgs.

Dieser Effekt wird durch eine Entwicklung verstärkt, die bislang kaum beachtet wird. Öffentliche Verwaltung stützt sich traditionell auf Gesetze, Rechtsprechung, Kommentare, Verwaltungsvorschriften und wissenschaftliche Fachliteratur. Diese Quellen begründen nicht nur einzelne Entscheidungen. Sie prägen zugleich die fachlichen Maßstäbe, nach denen Verwaltungsmitarbeiter Sachverhalte bewerten und ihr Ermessen ausüben. Generative KI-Agents treten nicht an die Stelle der Rechtsquellen, sondern zwischen den Bearbeiter und die Quellen selbst. Statt Gesetze, Kommentare oder Urteile unmittelbar zu erschließen, greifen Sachbearbeiter zunehmend auf bereits verdichtete Zusammenfassungen und sprachliche Rekonstruktionen zurück. Kurzfristig spart dies Zeit. Langfristig verändert es die Art und Weise, wie fachliche Kompetenz entsteht.

Dieser Wandel besitzt eine statistische Eigendynamik. Originäre Fachliteratur wächst vergleichsweise langsam. KI-generierte Erläuterungen, Kommentare und Narrative lassen sich dagegen nahezu unbegrenzt erzeugen. Mit der Zeit werden diese Rekonstruktionen den digitalen Informationsraum mengenmäßig dominieren. Nicht weil sie fachlich überlegen wären, sondern weil sie sich nahezu kostenlos vervielfältigen lassen. Die Wahrscheinlichkeit steigt, dass Verwaltungsmitarbeiter häufiger auf Rekonstruktionen juristischen Wissens treffen als auf dessen eigentliche Quellen. Die lautesten Stimmen des Informationsraums müssen nicht mehr die fachlich fundiertesten sein. Das habe ich im Artikel über die unbekannten Effekte der KI beschrieben: Wenn KI-Modelle zunehmend mit ihrem eigenen Output trainieren, potenzieren sich Fehler und Verzerrungen.

Die eigentliche Gefahr besteht deshalb weniger in einzelnen fehlerhaften Antworten als in einer schleichenden Dequalifikation. Wer sich dauerhaft auf vorgefertigte Synthesen stützt, verliert allmählich die Fähigkeit, Gesetze, Kommentare und Urteile eigenständig zu erschließen, gegeneinander abzuwägen und ihre Tragweite im Einzelfall zu beurteilen. Fachliche Kompetenz entsteht nicht allein durch Informationen, sondern durch den Weg ihrer Erarbeitung. Wird dieser Weg dauerhaft verkürzt, verkürzt sich langfristig auch die Fähigkeit zum begründeten Widerspruch. Für einen demokratischen Rechtsstaat besitzt diese Entwicklung besondere Brisanz. Die eigentliche Ressource einer Verwaltung sind nicht ihre Informationssysteme, sondern ihre qualifizierten Widersprüche.

Dieser Effekt ist nicht auf die Verwaltung beschränkt. Ich habe ihn beim Schreiben über die Schule und KI beschrieben: Wenn Lehrkräfte zu Plagiatsdetektoren werden, verschiebt sich ihre Rolle. Genau so verschiebt sich im öffentlichen Dienst die Rolle der Sachbearbeiter – von eigenständig urteilenden Fachkräften zu Bestätigenden algorithmischer Vorschläge. Auch das Phänomen des De-Skilling ist hier dieselbe Struktur: Wer dauerhaft Aufgaben abgibt, verliert die Fähigkeit, sie zu beherrschen.

Vom Bürger zum Datensatz – die stillschweigende Reduktion

Der demokratische Rechtsstaat begegnet seinen Bürgern zunächst als natürliche Personen. Erst daraus entstehen Akten, Register und Datensätze. Daten dienen keinem Selbstzweck. Sie ermöglichen Verwaltung, dokumentieren staatliches Handeln und schaffen die Grundlage für nachvollziehbare Entscheidungen. Problematisch wird diese Entwicklung dort, wo sich das Verhältnis schrittweise umkehrt. Der Datensatz beschreibt den Menschen dann nicht mehr lediglich – er beginnt ihn zu repräsentieren. Aus einem Verwaltungsinstrument wird allmählich ein Menschenbild.

Der Bürger erscheint zunehmend als Kombination von Merkmalen, Wahrscheinlichkeiten und Risikoklassen, deren statistische Eigenschaften wichtiger werden als seine konkrete Lebenswirklichkeit. Algorithmische Systeme arbeiten nicht mit Personen, sondern mit Daten, statistischen Mustern und deren Repräsentationen. Sie erkennen Korrelationen, bilden Cluster, berechnen Wahrscheinlichkeiten und ordnen Menschen statistischen Gruppen zu. Statistik beschreibt Regelmäßigkeiten. Sie entscheidet jedoch niemals über den konkreten Menschen.

Zwischen Daten und Datensätzen besteht dabei ein wesentlicher Unterschied. Einzelne Daten beschreiben bestimmte Eigenschaften oder Ereignisse. Ein Datensatz bündelt sie zu einer strukturierten Beschreibung einer Person. Diese Beschreibung bleibt notwendigerweise unvollständig. Sie erfasst Adressen, Einkommen, Bildungsabschlüsse oder Verwaltungsverfahren – nicht jedoch Motive, Beziehungen, Lebensgeschichte oder persönliche Entwicklung. Je vollständiger ein Datensatz erscheint, desto leichter entsteht die Illusion, er beschreibe den Menschen vollständig.

Damit verändert sich unmerklich auch der Blick der Verwaltung. Sie begegnet dem Bürger immer seltener als individuellem Einzelfall und immer häufiger als Wahrscheinlichkeitsprofil. Nicht mehr allein die konkrete Biografie bestimmt den Verwaltungsprozess, sondern zunehmend die statistische Ähnlichkeit mit anderen Personen. Der Bürger wird nicht nach dem beurteilt, was er getan hat, sondern danach, was Modelle für wahrscheinlich halten. Zwischen Beschreibung und Zuschreibung entsteht eine neue Form algorithmischer Vorverurteilung.

Besonders folgenreich wird diese Entwicklung, wenn unterschiedliche Datenbestände miteinander verknüpft werden. Aus ursprünglich getrennten Informationen über Bildung, Gesundheit, Steuern, Sozialleistungen oder Mobilität entstehen umfassende digitale Personenmodelle. Deren Aussagekraft reicht weit über den ursprünglichen Erhebungszweck hinaus. Gleichzeitig verlieren Bürger zunehmend die Kontrolle darüber, in welchem Zusammenhang ihre Daten künftig interpretiert werden. Nicht der einzelne Datensatz verändert das Menschenbild, sondern seine algorithmische Verknüpfung.

Dabei wird häufig übersehen, dass Identifikation und Identität nicht dasselbe sind. Ein Datensatz kann eine Person eindeutig identifizieren. Daraus folgt jedoch nicht, dass er ihre Identität beschreibt. Menschen verändern Überzeugungen, Lebensumstände und Verhalten. Sie lernen, scheitern, korrigieren Irrtümer und beginnen neu. Rechtsstaatliche Verfahren tragen dieser Offenheit Rechnung. Sie entscheiden über konkrete Sachverhalte und individuelle Lebenslagen, nicht über statistische Durchschnittswerte. Damit verschiebt sich auch die Beweislast. Früher musste die Verwaltung begründen, weshalb sie von den Angaben eines Bürgers abwich. Künftig wächst die Gefahr, dass der Bürger nachweisen muss, weshalb sein konkreter Lebenssachverhalt nicht zu seinem statistischen Profil passt. Die Aura der Wahrscheinlichkeit verleiht algorithmischen Bewertungen eine Autorität, die ihnen sachlich nicht zukommt.

Deshalb genügt Datenschutz allein nicht. Datenschutz schützt Informationen. Demokratie muss darüber hinaus den Menschen schützen, auf den sich diese Informationen beziehen. Bürger benötigen nicht nur ein Recht auf Auskunft, Berichtigung oder Löschung personenbezogener Daten. Sie benötigen ebenso das Recht, algorithmischen Zuschreibungen wirksam zu widersprechen und als Person gehört zu werden. Datensouveränität entsteht nicht allein durch den Schutz von Daten, sondern ebenso durch die Möglichkeit, Herkunft, Verarbeitung und Verwendung personenbezogener Informationen nachvollziehen und korrigieren zu können.

Ermessen ist kein Systemfehler – es ist der Ort der Gerechtigkeit

Hier wird das Schreiben richtig interessant. Denn der moderne Rechtsstaat lebt von Regeln – und von dem bewussten Wissen, dass Regeln niemals ausreichen. Gesetze schaffen Rechtssicherheit und gewährleisten Gleichbehandlung. Kein demokratisches Gemeinwesen könnte dauerhaft funktionieren, wenn jede Entscheidung ausschließlich von persönlichen Einschätzungen einzelner Verwaltungsmitarbeiter abhinge. Standardisierte Verfahren besitzen einen hohen gesellschaftlichen Wert.

Ebenso grundlegend ist jedoch eine zweite Erkenntnis: Kein Gesetz kann die Wirklichkeit vollständig vorwegnehmen. Menschen unterscheiden sich in ihren Lebensgeschichten, ihren sozialen Umständen und den konkreten Situationen, in denen staatliche Entscheidungen getroffen werden. Deshalb kennt der Rechtsstaat bewusst Ermessensspielräume. Schon Aristoteles beschrieb mit der Epikie die Notwendigkeit, allgemeine Regeln im Einzelfall vernünftig anzuwenden, wenn ihre starre Befolgung dem eigentlichen Sinn des Gesetzes widersprechen würde.

Ermessen ist keine Ineffizienz. Es ist der institutionelle Zwischenraum, in dem Einzelfallgerechtigkeit überhaupt erst möglich wird. Wer Ermessen als Systemfehler betrachtet, als störende Ausnahme eines vermeintlich optimalen Standardprozesses, der hat den Rechtsstaat missverstanden. Sein Ziel besteht nicht darin, den Durchschnitt möglichst effizient zu verwalten, sondern jedem Bürger gerecht zu werden. John Rawls hat darauf hingewiesen, dass gerechte Institutionen nicht allein an formaler Gleichheit gemessen werden dürfen, sondern ebenso daran, ob ihre Entscheidungen unter fairen Bedingungen gerechtfertigt werden können. Der Rechtsstaat schützt deshalb nicht nur die Regel, sondern ebenso die begründete Ausnahme.

Im Synthozän gerät dieses Gleichgewicht zunehmend unter Druck. Algorithmische Systeme unterstützen Verwaltungen dabei, Anträge zu priorisieren oder Risiken einzuschätzen. Dagegen ist grundsätzlich nichts einzuwenden. Problematisch wird die Nutzung dort, wo statistische Regelmäßigkeiten schrittweise die individuelle Abwägung ersetzen. Was statistisch erwartet wird, erscheint als der richtige Regelfall. Das begründete Abweichen davon wird erklärungsbedürftig. Das erinnert an Goodharts Gesetz: Sobald eine Kennzahl selbst zum Ziel wird, verliert sie ihren Wert als Messgröße. Wenn die Bearbeitungszeit zum Maßstab wird, verschwindet die Qualität rechtlicher Begründung aus der Bewertung.

Vertrauen braucht Gesichter – nicht nur fehlerfreie Software

Der Rechtsstaat lebt nicht allein von richtigen Entscheidungen. Er lebt ebenso davon, dass seine Entscheidungen als legitim anerkannt werden. Diese Legitimität entsteht nicht ausschließlich durch Gesetze oder Verfahren. Sie beruht ebenso auf der Erfahrung, dass staatliches Handeln einer verantwortlichen Person zugerechnet werden kann. Wo niemand mehr erkennbar entscheidet, wird auch Verantwortung zunehmend ungreifbar.

Niklas Luhmann beschreibt Vertrauen als einen Mechanismus, der gesellschaftliche Komplexität reduziert, indem Menschen erwarten dürfen, dass andere verantwortungsvoll handeln. Anthony Giddens weist ergänzend darauf hin, dass moderne Institutionen zwar auf abstrakten Systemen beruhen, gesellschaftliches Vertrauen jedoch immer wieder an konkreten Personen erfahrbar wird. Für die öffentliche Verwaltung besitzt diese Unterscheidung besondere Bedeutung. Bürger vertrauen einer Behörde nicht deshalb, weil ihre Software fehlerfrei arbeitet. Sie vertrauen ihr, weil sie davon ausgehen dürfen, dass hinter einer Entscheidung identifizierbare Menschen stehen, die zuhören, nachfragen, begründen und im Zweifel auch Fehler eingestehen können.

Im Synthozän gerät diese personale Dimension zunehmend unter Druck. Digitale Verfahren, automatisierte Entscheidungen und generative KI-Agents schaffen neue Möglichkeiten, Verwaltungsprozesse effizienter zu gestalten. Gleichzeitig wächst die Versuchung, Verantwortung schrittweise hinter Verfahren, Plattformen oder algorithmischen Empfehlungen verschwinden zu lassen. Für den Bürger wird dadurch immer schwieriger zu erkennen, wer eine Entscheidung tatsächlich vorbereitet, getroffen oder freigegeben hat. Zunächst verschwindet lediglich die persönliche Unterschrift. Danach erklärt das System die Entscheidung. Schließlich erinnert sich niemand mehr daran, wer für die zugrunde liegenden Bewertungsmaßstäbe eigentlich verantwortlich ist. Die Organisation bleibt sichtbar. Das verantwortliche Gesicht verschwindet.

Das ist keine kosmetische Veränderung. Wer Ansprechpartner einspart, spart nicht nur Personalkosten. Er reduziert zugleich jene soziale Infrastruktur, auf der Kooperation, Akzeptanz und freiwillige Regelbefolgung beruhen. Langfristig können dadurch die Kosten für Widersprüche, Klagen, Kontrollen und gesellschaftliches Misstrauen steigen. Nicht jede Effizienzsteigerung reduziert tatsächlich die gesellschaftlichen Gesamtkosten. Das habe ich im Artikel über die Opportunitätskosten der KI ausführlicher behandelt: Die Rechnung für heute eingesparten Personalaufwand kommt morgen – nur an einem anderen Ort.

Das Verursacherprinzip und die Kosten der Verantwortungslosigkeit

Hier erhält das Verursacherprinzip, das dem Buch seinen Arbeitstitel gibt, eine neue Bedeutung. Wer personale Verantwortung durch technische Prozesse ersetzt, sollte nicht allein den Effizienzgewinn verbuchen dürfen, sondern ebenso die gesellschaftlichen Folgekosten tragen, die aus sinkendem Vertrauen entstehen. Vertrauen ist kein kostenlos verfügbares Gut. Es entsteht langsam, wächst durch wiederholte Erfahrungen verantwortlichen Handelns und kann sehr viel schneller verloren gehen, als es sich wieder aufbauen lässt.

Eine demokratische Verwaltung benötigt deshalb mehr als leistungsfähige Software. Sie benötigt Menschen, die bereit sind, mit ihrem Namen, ihrer Fachkompetenz und ihrer Integrität für staatliche Entscheidungen einzustehen. Technik kann Verantwortung unterstützen, dokumentieren und nachvollziehbarer machen. Sie darf jedoch niemals zu ihrem Ersatz werden. Ein Rechtsstaat bleibt nicht deshalb vertrauenswürdig, weil seine Systeme fehlerfrei erscheinen. Er bleibt vertrauenswürdig, weil verantwortliche Menschen ansprechbar, widerspruchsfähig und rechenschaftspflichtig bleiben.

Die unbequeme Frage nach den Krankheitsständen

Im Verlauf des Kapitels drängt sich eine Frage auf, die im Buch offen formuliert wird. Der öffentliche Dienst weist seit Jahren in vielen Bereichen vergleichsweise hohe krankheitsbedingte Fehlzeiten auf. Die Statistiken zeigen, dass Beschäftigte im öffentlichen Dienst überdurchschnittlich oft krankgemeldet sind – 2024 lagen die obersten Bundesbehörden mit durchschnittlich 15,2 Fehltagen über dem Bundesdurchschnitt von 14,8 Tagen, wie eine Bundestagsdrucksache belegt. Die verfügbaren Daten erlauben keine einfache Ursache-Wirkungs-Beziehung. Sollte dennoch geprüft werden, ob eine Arbeitsorganisation, die Verantwortung, Autonomie und fachliche Entscheidungsspielräume schrittweise reduziert, ihren Anteil an dieser Entwicklung besitzt?

Die Arbeits- und Organisationspsychologie würde eine solche Frage jedenfalls nicht vorschnell zurückweisen. Edward L. Ryan und Richard M. Deci zeigen, dass Kompetenz, Autonomie und Verantwortung zu den grundlegenden psychologischen Bedürfnissen beruflichen Handelns gehören. Wer dauerhaft überwacht, bestätigt und dokumentiert, anstatt eigenständig abzuwägen und zu entscheiden, erlebt seine Arbeit zunehmend als Ausführung vorgegebener Prozesse statt als verantwortliches staatliches Handeln. Der digitale Schiffsbohrwurm betrifft damit nicht nur die Qualität administrativer Entscheidungen, sondern ebenso Motivation, berufliche Identifikation und die psychische Gesundheit jener Menschen, die den Rechtsstaat täglich praktisch verwirklichen.

Der Bürger als Person – oder: Was eine souveräne Verwaltung bewahren muss

Die eigentliche Herausforderung besteht nicht darin, generative KI-Agents oder automatisierte Verfahren aus der Verwaltung fernzuhalten. Problematisch wird ihr Einsatz dort, wo sie schrittweise jene administrativen Arbeitsprozesse ersetzt, aus denen Rechtsstaatlichkeit überhaupt erst entsteht. Verwaltungsakte lassen sich automatisieren. Gerechtigkeit, Verantwortung und begründete Einzelfallentscheidungen nicht. Eine Verwaltung, die vor allem ihre Prozessgeschwindigkeit optimiert, riskiert langfristig die Erosion jener Kompetenzen, auf denen ihre demokratische Legitimation beruht.

Was also bedeutet staatliche Souveränität im Synthozän? Fünf Leitlinien lassen sich aus dem Kapitel ableiten:

Erstens: Recht vor Prozessgeschwindigkeit. Verwaltungsverfahren sollten nicht allein nach Bearbeitungszeiten, sondern ebenso nach der Qualität ihrer rechtlichen Begründung bewertet werden. Entscheidend ist nicht, wie schnell ein Bescheid erstellt wird, sondern ob seine Herleitung nachvollziehbar bleibt und individuelle Besonderheiten angemessen berücksichtigt werden. Das Onlinezugangsgesetz hat die Digitalisierung der Verwaltung vorangetrieben – aber digitale Verfügbarkeit bedeutet nicht automatisch rechtsstaatliche Qualität.

Zweitens: Ermessensspielräume schützen. Automatisierte Verfahren sollten dort enden, wo das Gesetz bewusst Ermessen vorsieht. Solche Entscheidungsspielräume sind keine organisatorischen Schwächen, sondern notwendige Voraussetzungen gerechter Einzelfallentscheidungen. Verwaltung benötigt bewusst geschützte Räume, in denen nicht statistische Wahrscheinlichkeiten, sondern menschliche Urteilskraft den Ausschlag geben.

Drittens: Personale Verantwortung sichtbar halten. Für jede hoheitliche Entscheidung muss jederzeit nachvollziehbar bleiben, wer sie fachlich vorbereitet, geprüft und verantwortet hat. Digitale Signaturen und dokumentierte Prozessketten erhöhen die Nachvollziehbarkeit. Sie ersetzen jedoch nicht die personale Verantwortung. Bürger müssen erkennen können, welcher Mensch bereit ist, Entscheidungen zu begründen und Einwände anzuhören.

Viertens: Den Bürger als Person bewahren. Verwaltung sollte technische Systeme konsequent darauf ausrichten, den unmittelbaren Kontakt zwischen Staat und Bürger zu unterstützen, nicht zu ersetzen. Wo Entscheidungen erhebliche Auswirkungen auf das Leben eines Menschen besitzen, müssen persönliche Anhörung, nachvollziehbare Begründung und wirksamer Widerspruch erhalten bleiben. Der Rechtsstaat begegnet keinem Datensatz. Er begegnet Menschen. Diese Unterscheidung habe ich auch im Artikel über das Ende der Eindeutigkeit behandelt: In einer Welt, in der Maschinen Antworten liefern, besteht die eigentliche Kompetenz des Menschen darin, die Qualität, die Voraussetzungen und die Geltungsgrenzen dieser Antworten beurteilen zu können.

Fünftens: Rechtsstaatliche Urteilskraft stärken. Aus- und Fortbildung sollten weiterhin die verantwortungsvolle Rechtsanwendung, Verhältnismäßigkeit und Ermessensausübung fördern. Kompetenz besteht künftig immer weniger darin, technische Systeme möglichst effizient zu bedienen, sondern darin, plausiblen Systemvorschlägen im Namen des Rechts begründet widersprechen zu können. Souveränität im Staatsdienst zeigt sich dort, wo der Mensch den algorithmischen Takt unterbrechen darf.

Fazit: Die Verwaltung ist noch nicht verloren

Ich saß also am Schreibtisch, an einem Kapitel über öffentliche Verwaltung und KI, und dachte, es wäre der trockenste Teil des Buches. Stattdessen wurde es einer der unbequemsten. Denn die Aspekte, die sich auf einmal ergeben haben – die schleichende Übertragung betriebswirtschaftlicher Maßstäbe auf staatliches Handeln, die Reduktion des Bürgers zum Datensatz, die Erosion des Ermessens, das Verschwinden personaler Verantwortung –, das sind keine Phänomene am Rand. Das ist der Rumpf.

Ein demokratischer Staat wird nicht daran gemessen, wie viele Verfahren er automatisiert oder wie schnell Anträge bearbeitet werden. Er wird daran gemessen, ob seine Institutionen auch künftig Menschen hervorbringen, die Gesetze eigenständig auslegen, Verantwortung übernehmen und begründet vom technisch Erwartbaren abweichen können. Technische Systeme dürfen staatliches Handeln unterstützen. Sie dürfen jedoch niemals seine Maßstäbe bestimmen. Ein Rechtsstaat verliert seine Souveränität nicht dadurch, dass er neue Werkzeuge nutzt. Er verliert sie dort, wo seine Werkzeuge beginnen zu definieren, was als gutes staatliches Handeln gilt.

Das Schiff ist noch nicht verloren. Aber man sollte vielleicht mal in den Maschinenraum schauen. Dort nagt etwas. Leise, beharrlich, von innen. Und die Brücke darüber sieht noch gut aus.

Wer nach diesem Artikel tiefer einsteigen will, findet weitere Gedanken auf 42thinking.de – etwa zum Zeugenschaftsjournalismus und der Erosion der Recherche oder zur Frage, warum Zukunft Erfahrung braucht und sich Kompetenz nicht automatisieren lässt. Das Buch KI-Support-Lüge – Warum Funktionieren kein Beweis für Verstehen ist erscheint 2026.