…oder: Warum Leonardo heute vermutlich einen Agenten zeichnen würde
Ausgangspunkt für diesen Text war ein LinkedIn-Beitrag von Klaus Eder, der eine bemerkenswert einfache Frage aufwirft: Warum akzeptieren wir beim Menschen seit Jahrhunderten, dass er nicht immer dasselbe Ergebnis liefert, während wir bei KI-Agenten plötzlich nervös werden, sobald identische Eingaben nicht zu identischen Ausgaben führen?
Vielleicht brauchen wir dafür ein neues Menschenbild. Leonardo da Vinci zeichnete um 1490 den vitruvianischen Menschen: den Menschen als geometrisch proportioniertes Wesen, eingeschrieben in Kreis und Quadrat. Für das KI-Zeitalter wäre eine kleine Aktualisierung angebracht. Ich schlage den nichtdeterministischen Menschen vor. Man zeichnet dieselbe Figur noch einmal, nur steht der linke Arm diesmal etwas anders, weil der Mensch schlecht geschlafen hat, das Frühstück ausfiel und ihm auf dem Weg zur Arbeit jemand die Vorfahrt nahm.
Und plötzlich wird aus einer vermeintlichen Schwäche ein ziemlich interessantes erkenntnistheoretisches Problem.
Gleicher Input, gleicher Output – wirklich?
In der klassischen Softwareentwicklung ist Determinismus zunächst ein ausgesprochen nützliches Konzept: Unter definierten Voraussetzungen führt dieselbe Eingabe durch dieselbe Verarbeitung zum selben Ergebnis. Wenn meine Software heute aus 17 und 25 die Zahl 42 errechnet und morgen 43, habe ich keinen besonders kreativen Algorithmus entwickelt, sondern vermutlich einen Fehler.
Bei generativer KI wird es komplizierter. Sprachmodelle erzeugen Ausgaben probabilistisch; zusätzlich können selbst bei theoretisch deterministischer Decodierung technische Effekte der Inferenz dazu führen, dass Wiederholungen nicht zwingend bitidentisch ausfallen. Nichtdeterminismus ist hier also kein mystischer Hinweis darauf, dass die Maschine morgens schlechte Laune hat, sondern kann aus Sampling, numerischer Verarbeitung und Systemarchitektur entstehen.
Beim Menschen liegt das Problem allerdings noch eine Ebene tiefer: Was wäre überhaupt eine identische Eingabe?
Wenn ich einem Mitarbeiter am Montag und am Freitag dieselbe Frage stelle, habe ich eben gerade nicht zweimal denselben Input geliefert. Dazwischen liegen vier Tage Erfahrung. Vielleicht hat er mit einem Kollegen gesprochen, einen Artikel gelesen, einen Fehler gemacht, eine neue Information erhalten oder schlicht länger über die Sache nachgedacht. Sein interner Zustand hat sich verändert. Und während wir bei Software Inputs gern auf jene Variablen reduzieren, die unsere Schnittstellenspezifikation vorsieht, besitzt der Mensch die unangenehme Eigenschaft, Informationen aufzunehmen, die niemand in unserem Requirements Engineering vorgesehen hat.
Er hört den Tonfall einer Frage. Er sieht den Gesichtsausdruck seines Gegenübers. Er erinnert sich an eine ähnliche Situation vor zwölf Jahren. Er riecht Rauch, obwohl im Formular kein Feld smokeDetected=true vorgesehen war. Er merkt, dass der Kollege ungewöhnlich still ist. Er kennt die Vorgeschichte eines Konflikts. Und manchmal hat er schlicht Hunger.
Die Behauptung, ein Mensch liefere bei identischem Input unterschiedliche Ergebnisse, ist deshalb möglicherweise schon falsch gestellt. Beim Menschen können wir den Input praktisch niemals vollständig beschreiben.
Der Mensch hat keine API
Das passt erstaunlich gut zu Herbert Simons Konzept der begrenzten Rationalität. Menschliche Entscheidungen entstehen nicht unter Bedingungen vollständiger Information und unbegrenzter Rechenkapazität, sondern innerhalb einer konkreten Umwelt, mit begrenztem Wissen, begrenzter Zeit und einer individuellen Vorgeschichte. Neuere Arbeiten zur ökologischen Rationalität treiben diesen Gedanken noch weiter: Ob eine Entscheidung vernünftig ist, lässt sich nicht sinnvoll von der Umgebung trennen, in der sie getroffen wird.
Das macht den Menschen nicht automatisch irrational. Es bedeutet vielmehr, dass menschliches Denken ein offenes System ist. Wir verarbeiten nicht nur explizit übergebene Daten, sondern stehen permanent in Wechselwirkung mit unserer Umwelt.
Genau hier wird die Analogie zwischen Mensch und KI-Agent interessant, aber auch gefährlich. Klaus Eder hat meines Erachtens recht, wenn er darauf hinweist, dass wir KI nicht allein deshalb für bestimmte Aufgaben disqualifizieren sollten, weil sie Fehler machen kann. Schließlich haben Unternehmen ziemlich aufwendige Organisationsformen erfunden, um mit menschlicher Fehlbarkeit umzugehen: Vier-Augen-Prinzip, Freigaben, Kompetenzgrenzen, Stichproben, Eskalationen. Niemand verlangt vom neuen Controller mathematische Unfehlbarkeit, bevor er Excel öffnen darf.
Aber daraus folgt nicht, dass menschlicher und maschineller Nichtdeterminismus dasselbe wären.
Zwei Arten, nicht berechenbar zu sein
Der maschinelle Nichtdeterminismus entsteht innerhalb eines technisch definierten Systems. Selbst wenn dessen konkrete Ausgabe nicht vorhersehbar ist, bleiben Architektur, Datenzugänge, Kontextfenster, Werkzeuge und Systemgrenzen grundsätzlich beschreibbar. Man kann Temperatur verändern, Sampling beeinflussen, Berechtigungen begrenzen, Outputs validieren und deterministische Kontrollmechanismen um probabilistische Komponenten legen.
Der menschliche Nichtdeterminismus entsteht dagegen aus der fortlaufenden Kopplung eines biologischen, sozialen und biografischen Systems mit einer Welt, die sich ebenfalls permanent verändert. Das ist ein fundamentaler Unterschied.
Der Mensch besitzt etwas, worüber ich im Zusammenhang mit KI immer wieder stolpere: eine unmittelbare Beziehung zur Welt. Er verarbeitet nicht ausschließlich deren Repräsentationen. Genau diese Trennung zwischen Zeichen und Wirklichkeit beschäftigt mich auch im Artikel über Wilhelm von Ockham und das moderne KI-Problem. Ein Sprachmodell kann ausgezeichnet beschreiben, wie sich eine angespannte Besprechung anfühlt. Der Mensch sitzt darin.
Das klingt banal, wird aber entscheidend, sobald wir Determinismus zum Qualitätsmaßstab erheben. Denn dann vergleichen wir womöglich zwei Systeme anhand einer Eigenschaft, die für eines davon überhaupt nicht sinnvoll definiert ist.
Vielleicht ist Nichtdeterminismus gar nicht das Problem
In der Technik lieben wir reproduzierbare Ergebnisse aus gutem Grund. Ich möchte nicht, dass ein Airbag-Steuergerät gelegentlich eine kreative Interpretation der Beschleunigungssensoren entwickelt. Ebenso wenig möchte ich, dass eine KI einen Zahlungsbetrag nach Tagesform festlegt. Für bestimmte Funktionen ist deterministisches Verhalten keine Geschmacksfrage, sondern Systemanforderung.
Aber daraus folgt eben nicht, dass jede wertvolle Tätigkeit deterministisch sein muss.
Ein Strategiegespräch wäre ziemlich sinnlos, wenn alle Beteiligten bei gleichem Informationsstand zwangsläufig zur selben Schlussfolgerung kämen. Forschung lebt davon, dass Menschen dieselben Beobachtungen unterschiedlich interpretieren. Kreativität besteht gerade darin, dass aus Bekanntem etwas entsteht, das vorher nicht vollständig festgelegt war. Und selbst eine technische Fehleranalyse profitiert gelegentlich von jenem Kollegen, der sagt: „Moment, was ist eigentlich, wenn …?“ – obwohl dieses „wenn“ in keinem Prüfplan steht.
Wir haben uns nur daran gewöhnt, maschinelle Zuverlässigkeit und menschliche Qualität mit demselben Wortschatz beschreiben zu wollen.
Das führt zu einer hübschen Ironie: Jahrzehntelang versuchten Unternehmen, Menschen durch Prozesse möglichst deterministisch zu machen. Heute bauen wir probabilistische Maschinen und entdecken plötzlich, dass wir organisatorische Verfahren benötigen, um mit deren Nichtdeterminismus umzugehen. Willkommen zurück beim Vier-Augen-Prinzip, diesmal mit GPU.
Der neue vitruvianische Mensch
Vielleicht sollte unser nichtdeterministischer Mensch deshalb tatsächlich neben Leonardos berühmtem Vorbild stehen. Nicht perfekt eingeschrieben in Kreis und Quadrat, sondern umgeben von Umwelt, Sprache, anderen Menschen, Erinnerungen, Wahrnehmungen, Erfahrungen und Rückkopplungen. Sein Denken findet nicht ausschließlich in ihm statt, sondern entsteht aus der Wechselwirkung zwischen ihm und seiner Welt.
Und genau deshalb halte ich die Frage „Ist ein KI-Agent deterministisch?“ für weniger interessant als die Frage: Wo benötigen wir Determinismus, wo benötigen wir belastbare Ergebnisse trotz Nichtdeterminismus – und wo ist Variabilität sogar Teil der gewünschten Funktion?
Das ist letztlich auch eine Testfrage. Schon beim Thema KI als Testobjekt wird sichtbar, dass wir probabilistische Systeme nicht sinnvoll ausschließlich mit den Erwartungen klassischer Softwareprüfung traktieren können. Entscheidend ist nicht immer, ob zweimal exakt derselbe Output entsteht, sondern ob die Ergebnisse innerhalb definierter Grenzen fachlich richtig, sicher und beherrschbar bleiben.
Beim Menschen machen wir das übrigens längst so. Niemand erwartet, dass ein Arzt zweimal denselben Satz sagt, ein Ingenieur zweimal exakt dieselbe Argumentation formuliert oder ein Geschäftsführer am Dienstag dieselbe Entscheidung trifft wie drei Monate zuvor. Wir erwarten etwas Anspruchsvolleres: dass seine Entscheidung unter den jeweiligen Umständen nachvollziehbar, kompetent und verantwortbar ist.
Vielleicht sollten wir bei KI-Systemen also tatsächlich etwas vom Menschen lernen.
Nur bitte nicht den Menschen anschließend nach den Kriterien einer Maschine bewerten. Das wäre ausgerechnet im Zeitalter künstlicher Intelligenz eine bemerkenswert deterministische Dummheit.
