In unserem gemeinsam mit Thomas Schulte verfassten Buch KI-Erkenntnis-Lüge beschäftigen wir uns mit einem fundamentalen Problem künstlicher Intelligenz: der fehlenden Bindung zwischen Welt und Wort. Sprachmodelle operieren mit Zeichen, statistischen Beziehungen und abstrakten Strukturen, ohne dass ihre Begriffe zwangsläufig auf einer eigenen Erfahrung der Wirklichkeit beruhen. Der Mensch hingegen entwickelt sein Verständnis der Welt durch Wahrnehmung, Erfahrung, körperliche Interaktion und die fortwährende Auseinandersetzung mit den Folgen seines Handelns.
Bislang habe ich diese fehlende Weltbindung vor allem als erkenntnistheoretisches Problem betrachtet. Doch möglicherweise liegt gerade darin eine Fähigkeit, die unser bisheriges Verhältnis zur künstlichen Intelligenz grundlegend verändern könnte. Nicht weil die Maschine die Welt besser versteht, sondern weil sie Lösungsräume erschließen kann, die unserem erfahrungsgebundenen Denken weitgehend verschlossen bleiben.
Ein Beitrag in Spektrum der Wissenschaft über KI-generierte Experimente liefert dafür einen bemerkenswerten Anlass. Der Physiker Mario Krenn beschreibt, wie KI-Systeme experimentelle Anordnungen entwickeln, deren Leistungsfähigkeit sich überprüfen lässt, deren Wirkprinzipien Wissenschaftler aber teilweise nicht mehr vollständig erklären können.
Damit verändert sich eine Rolle, die wir bislang für selbstverständlich hielten. Der Mensch ist nicht mehr ausschließlich derjenige, der einer Maschine eine Aufgabe stellt, ihre Ergebnisse bewertet und anschließend verwendet. Er könnte zunehmend zum Bindeglied zwischen einer maschinell erschlossenen Welt mathematischer Möglichkeiten und jener physikalischen Wirklichkeit werden, in der sich diese Möglichkeiten bewähren müssen.
Wenn die Maschine Lösungen findet, die niemand bestellt haben kann
In der experimentellen Physik suchen Forscher nach Anordnungen, die bestimmte Eigenschaften besitzen. Sie entwickeln Hypothesen, entwerfen Experimente und verbessern ihre Konstruktionen anhand theoretischer Überlegungen und praktischer Erfahrungen. KI-gestützte Suchverfahren können diese Arbeit ergänzen, indem sie riesige Kombinationsräume untersuchen und Lösungen finden, die menschlichen Erwartungen widersprechen.
Bei der Optimierung von Gravitationswellendetektoren entstanden auf diese Weise Entwürfe, deren simulierte Leistungsfähigkeit vielversprechend ist, deren entscheidende Eigenschaften aber selbst nach intensiver Analyse nicht vollständig verstanden werden.
Das ist zunächst kein Beweis für eine überlegene maschinelle Intelligenz. Ein Optimierungsalgorithmus kann eine leistungsfähige Konfiguration finden, ohne eine kausale Theorie darüber zu besitzen, warum sie funktioniert. Ebenso wenig ersetzt eine erfolgreiche Simulation die experimentelle Bestätigung unter realen Bedingungen.
Dennoch verschiebt sich etwas Entscheidendes: Der Mensch muss nicht mehr zwingend zuerst verstehen, um anschließend etwas konstruieren zu können. Er kann eine Konstruktion erhalten, ihre Eigenschaften überprüfen und erst danach versuchen, das zugrunde liegende Prinzip zu begreifen.
Damit wird die traditionelle Reihenfolge wissenschaftlicher Arbeit keineswegs vollständig umgekehrt, aber um eine ausgesprochen unbequeme Variante erweitert: Erst kommt das Ergebnis, dann die Erklärung. Und falls die Erklärung ausbleibt, bleibt immerhin das Ergebnis. Die Wissenschaft bekommt gewissermaßen ein Produkt geliefert, dessen Bedienungsanleitung noch geschrieben werden muss.
Die menschliche Intuition als Erkenntnisbremse
Menschen denken nicht unabhängig von ihrer Erfahrung. Wir entwickeln Vorstellungen davon, welche Zusammenhänge plausibel sind, welche Konstruktionen funktionieren könnten und welche Lösungswege sich vermutlich nicht lohnen. Diese Intuition ist eine gewaltige Leistung unseres Gehirns, weil sie uns erlaubt, mit begrenzter Zeit und begrenzten Ressourcen handlungsfähig zu bleiben.
Allerdings ist sie zugleich eine Einschränkung. Wer aus Erfahrung weiß, wie ein Experiment normalerweise aufgebaut wird, sucht bevorzugt innerhalb vertrauter Strukturen. Wer eine physikalische Theorie verinnerlicht hat, betrachtet neue Probleme durch deren begriffliche Ordnung. Selbst wissenschaftliche Kreativität beginnt häufig bei dem, was wir bereits kennen.
Eine KI muss sich nicht an diese Gewohnheiten halten. Ihre Suche kann Kombinationen berücksichtigen, die Menschen für unästhetisch, unpraktisch oder schlicht abwegig halten würden. Sie muss keinen wissenschaftlichen Ruf verteidigen und auch keinem Kollegen erklären, weshalb sie ausgerechnet diesen absurden Aufbau für eine gute Idee hält.
Das macht die fehlende Weltbindung zum möglichen Vorteil. Die Maschine ist nicht zwangsläufig klüger, aber sie ist auch nicht auf dieselbe Weise voreingenommen. Ihre mathematischen und algorithmischen Beschränkungen bleiben bestehen, nur sind es eben andere als unsere.
Vielleicht besteht der eigentliche Fortschritt deshalb nicht darin, dass KI menschliches Denken immer besser imitiert, sondern darin, dass sie gerade dort nützlich wird, wo sie es nicht tut.
Wer ist schuld, wenn der Mensch nicht mehr mitkommt?
Damit stellt sich eine Frage, die man in unserer zunehmend zertifikatsverliebten Gesellschaft vermutlich bald einem zuständigen Kompetenzzentrum überantworten wird: Wer trägt die Verantwortung dafür, dass der Mensch das Ergebnis seiner eigenen Maschine nicht mehr versteht?
Ist der Mensch intellektuell unzureichend ausgestattet? Hat er die KI schlecht trainiert? Hätte die Maschine anhand ihrer umfangreichen Trainingsdaten erkennen müssen, dass menschliches Denken nicht beliebig skalierbar ist? Oder war bereits der Prompt falsch, weil er stillschweigend voraussetzte, dass jede gefundene Lösung auch menschlich erklärbar sein müsse?
Die Antwort liegt möglicherweise in einer falschen Aufgabenstellung. Wer eine Maschine auffordert, eine technische Lösung zu optimieren, verlangt damit noch keine verständliche Erklärung. Mathematische Leistungsfähigkeit, physikalische Realisierbarkeit und menschliche Nachvollziehbarkeit sind unterschiedliche Anforderungen, die keineswegs automatisch gemeinsam erfüllt werden.
Wir könnten also künftig ausdrücklich verlangen, dass KI nicht nur Lösungen findet, sondern zugleich deren Erklärbarkeit berücksichtigt. Allerdings würden wir damit unter Umständen genau jene Suchräume wieder einschränken, deren Erschließung wir uns von ihr erhoffen.
Das wäre eine ausgesprochen menschliche Form der Innovation: Wir bauen eine Maschine, damit sie unsere Denkgrenzen überwindet, und versehen sie anschließend mit der Auflage, diese Grenzen gefälligst einzuhalten.
Wenn Erkenntnis und Verstehen auseinanderfallen
Genau hier liegt für mich die eigentliche Brisanz. Wissenschaft war bislang nicht bloß eine Maschine zur Produktion richtiger Vorhersagen. Ihr Anspruch bestand darin, Zusammenhänge zu erklären, Ursachen zu suchen und aus Einzelbeobachtungen übertragbares Wissen zu gewinnen. Ein funktionierender Aufbau ist deshalb noch keine Theorie über den Aufbau.
Mehr noch: Ein Lösungsansatz, den wir nicht nachvollziehen können, gilt nach menschlichen Erkenntnismaßstäben zunächst als fragwürdig, mitunter sogar als falsch. Nicht unbedingt, weil er objektiv falsch wäre, sondern weil wir seine Richtigkeit nicht hinreichend begründen können. Wir verwechseln dabei gelegentlich die Grenzen unseres Verständnisses mit den Grenzen der Wirklichkeit. Was wir nicht erklären können, darf offenbar auch nicht funktionieren. Die Natur hat sich an diese wissenschaftliche Höflichkeitsregel allerdings noch nie besonders zuverlässig gehalten.
Historisch befinden wir uns damit in durchaus prominenter Gesellschaft. Die Himmelsmechanik liefert ein eindrucksvolles Beispiel dafür, wie lange Beobachtungen in bestehende Weltbilder hineingezwängt wurden, bevor neue Erklärungsmodelle eine andere Sicht ermöglichten. Das geozentrische Weltbild war keineswegs frei von mathematischer Raffinesse. Mit immer ausgefeilteren Konstruktionen ließen sich Planetenbewegungen beschreiben und teilweise erstaunlich brauchbare Vorhersagen treffen. Erst mit Kopernikus, Kepler und schließlich Newton entstand schrittweise ein theoretischer Zusammenhang, der die beobachteten Bewegungen auf einer neuen Grundlage erklärte. Auch Newtons Gravitationstheorie war damit nicht das letzte Wort, wie Einstein später eindrucksvoll demonstrierte.
Die Planeten hatten ihre Bahnen währenddessen nicht geändert, nur weil wir unsere Erklärungen austauschten. Sie kreisten bemerkenswert unbeeindruckt von der jeweils gültigen Lehrmeinung weiter. Falsch waren nicht ihre Bewegungen, sondern unsere Vorstellungen davon, weshalb sie sich so bewegten.
Wenn KI künftig häufiger Lösungen hervorbringt, die wir empirisch bestätigen, aber nicht mehr konzeptionell nachvollziehen können, entsteht eine merkwürdige neue Kategorie: verifiziertes Nichtverstehen. Wir wissen, dass etwas unter den geprüften Bedingungen funktioniert, können aber nicht erklären, weshalb. Und womöglich fehlen uns sogar die Begriffe, um die entscheidenden Zusammenhänge überhaupt angemessen zu formulieren.
Vielleicht ist das kein Scheitern künstlicher Intelligenz, sondern ein ziemlich präziser Spiegel unserer Erwartungen an sie. Wir haben Maschinen gebaut, die sich nicht in derselben Weise an die Welt binden müssen wie wir, und entdecken nun verblüfft, dass sie dadurch Denkwege finden können, die nicht mehr an unsere Weltbindung anschlussfähig sind. Anschließend verlangen wir eine Erklärung, die sich gefälligst in unsere vorhandenen Denkmodelle einfügt. Im Grunde erwarten wir von der KI, dass sie wissenschaftliche Revolutionen vorbereitet, dabei aber bitte den jeweils gültigen Lehrplan berücksichtigt.
Gefunden ist noch lange nicht verstanden
Diese Unterscheidung sollte allerdings nicht erst im wissenschaftlichen Diskurs beginnen, sondern bereits bei der öffentlichen Berichterstattung. Wenn eine KI eine bislang unbekannte Lösung findet, deren Funktionsweise noch nicht verstanden wurde, ist das zunächst ein bemerkenswertes Forschungsergebnis, aber keineswegs automatisch ein gelöstes wissenschaftliches Problem. Selbst eine erfolgreiche experimentelle Bestätigung belegt zunächst nur, dass der Ansatz unter bestimmten Bedingungen funktioniert. Ob er sich verallgemeinern lässt, welche Grenzen er besitzt und welche bislang unentdeckten Abhängigkeiten seine Leistungsfähigkeit bestimmen, bleibt möglicherweise offen.
Gerade die Presse sollte deshalb vorsichtiger mit Schlagzeilen umgehen, nach denen KI wissenschaftliche Rätsel gelöst, neue Naturgesetze entdeckt oder menschliche Forscher übertroffen habe. Zwischen einer maschinell gefundenen Konfiguration, einem reproduzierbaren experimentellen Ergebnis und einer wissenschaftlich verstandenen Lösung liegen erkenntnistheoretische Unterschiede, die sich nicht dadurch beseitigen lassen, dass man sie in einer Überschrift weglässt.
Wer eine noch unverstandene Lösung bereits als endgültigen Durchbruch verkauft, verwechselt den Fund eines Schlüssels mit dem Verständnis des Schlosses. Dass sich damit mehr Aufmerksamkeit erzeugen lässt, macht die Aussage nicht richtiger.
Das schmälert die Leistung der KI keineswegs. Im Gegenteil: Gerade die Tatsache, dass sie Ergebnisse hervorbringen kann, die wir noch nicht erklären können, macht diese Forschung so interessant. Aber wissenschaftliche Redlichkeit verlangt, zwischen gefunden, überprüft und verstanden zu unterscheiden. Andernfalls laufen wir Gefahr, ausgerechnet durch den Einsatz künstlicher Intelligenz jene intellektuelle Sorgfalt aufzugeben, die Wissenschaft überhaupt erst von bloßer Ergebnisproduktion unterscheidet.
Vielleicht braucht die Wissenschaftsberichterstattung künftig eine neue Kategorie: „KI hat etwas gefunden – wir wissen allerdings noch nicht genau, was.“ Das klingt weniger spektakulär als die nächste wissenschaftliche Revolution, wäre aber gelegentlich erheblich näher an der Wahrheit. Und möglicherweise sogar die interessantere Nachricht.
Der Mensch als Bindeglied zwischen zwei Erkenntniswelten
Vielleicht sollten wir deshalb unsere Rolle grundsätzlich anders betrachten. Nicht mehr ausschließlich als Nutzer einer intelligenten Maschine, sondern als Vermittler zwischen unterschiedlichen Formen der Informationsverarbeitung und Erkenntnisgewinnung.
Die KI erschließt mathematische Möglichkeiten, untersucht Kombinationen und identifiziert erfolgversprechende Strukturen. Der Mensch bringt diese Ergebnisse mit der physikalischen Welt in Verbindung, prüft ihre Gültigkeit, untersucht ihre Grenzen und entscheidet über ihre praktische Verwendung. Im Idealfall entwickelt er aus einer zunächst unverständlichen Lösung sogar eine neue Theorie.
Der Mensch wäre damit nicht überflüssig, sondern würde eine andere Funktion übernehmen. Seine Aufgabe bestünde zunehmend darin, zwischen maschineller Optimierung, empirischer Wirklichkeit und menschlicher Bedeutung zu vermitteln.
Allerdings sollten wir diese neue Rolle nicht romantisieren. Auch Maschinen können über Sensoren, Messgeräte und automatisierte Experimente unmittelbar mit der physikalischen Welt gekoppelt werden. Die Weltbindung ist also kein exklusives menschliches Eigentum. Entscheidend bleibt vielmehr, wer Ergebnisse in einen überprüfbaren Zusammenhang einordnet, ihre Grenzen erkennt und Verantwortung für die Folgen übernimmt.
Hier liegt der Unterschied zwischen einem funktionierenden Resultat und wissenschaftlicher Erkenntnis. Eine Konstruktion kann erfolgreich sein, ohne dass wir ihre Funktionsweise vollständig verstehen. Eine Simulation kann beeindruckende Ergebnisse liefern, ohne dass ihre Annahmen der Realität standhalten. Und eine KI kann eine korrekte Antwort erzeugen, ohne deshalb über jenes Verständnis zu verfügen, das wir Menschen mit dieser Antwort verbinden.
Die von Lisa Messeri und M. J. Crockett in Nature beschriebene Illusion des Verstehens wird damit zu einer zentralen Gefahr: Wir könnten immer mehr wissenschaftliche Ergebnisse produzieren und gleichzeitig immer weniger davon tatsächlich durchdringen.
Vom Beherrscher zum Übersetzer
Vielleicht ist das die eigentliche Zumutung künstlicher Intelligenz. Nicht dass sie uns irgendwann überflüssig macht, sondern dass sie uns zwingt, unser Selbstverständnis als denkende Wesen zu überarbeiten.
Wir haben uns daran gewöhnt, Werkzeuge zu entwickeln, deren Funktionsweise wir zumindest grundsätzlich erklären können. Nun entstehen Systeme, die Ergebnisse hervorbringen, deren Zustandekommen wir nicht mehr vollständig rekonstruieren können. Die Maschine wird dadurch nicht automatisch zum Wissenschaftler, aber der Mensch verliert möglicherweise sein bisheriges Monopol auf die Entdeckung komplexer Lösungswege.
Das muss keine Niederlage sein. Es könnte vielmehr der Beginn einer neuen Arbeitsteilung werden, in der menschliche Urteilskraft gerade deshalb wichtiger wird, weil sie nicht mehr mit maschineller Rechenleistung konkurrieren muss.
Der Mensch wäre dann nicht mehr bloß Nutzer, Auftraggeber oder gelegentlich ratloser Empfänger maschineller Ergebnisse. Er würde zum Bindeglied zwischen Möglichkeit und Wirklichkeit, zwischen Funktion und Bedeutung, zwischen berechnetem Erfolg und verantwortbarer Anwendung.
Vielleicht ist die fehlende Weltbindung der KI also tatsächlich Fluch und Segen zugleich. Der Segen besteht darin, dass sie unsere gedanklichen Grenzen überschreiten kann. Der Fluch beginnt dort, wo wir nicht mehr erkennen können, auf welcher Seite dieser Grenze eigentlich die Erkenntnis liegt.
Eine gewisse Ironie lässt sich dabei kaum übersehen: Nachdem wir jahrhundertelang versucht haben, die Welt so zu erklären, dass sie in unseren Verstand passt, bauen wir nun Maschinen, die uns möglicherweise vorführen, wie wenig die Welt auf diese Passform angewiesen ist.
Wir haben Maschinen geschaffen, um uns das Denken zu erleichtern, und entdecken nun, dass sie uns möglicherweise zu einer anspruchsvolleren Form des Denkens zwingen. Ob wir dieser Aufgabe gewachsen sind, lässt sich allerdings nicht durch einen besseren Prompt beantworten. Und ein Zertifikat dürfte ausnahmsweise ebenfalls wenig helfen.
