Moderne Gesellschaften waren technisch nie besser vernetzt als heute. Nachrichten erreichen ihr Ziel in Sekunden, Gespräche über Kontinente hinweg sind Alltag, digitale Systeme überwinden räumliche und sprachliche Barrieren mühelos. Doch mit generativer künstlicher Intelligenz kommt etwas hinzu, das frühere Kommunikationstechnologien nicht leisten konnten: Sie vermittelt nicht mehr nur den Kontakt zu einem anderen Menschen. Sie kann das Gegenüber selbst erzeugen.
Telefon, Brief, Messenger oder Videokonferenz überbrücken Distanz zwischen Menschen. Ein Sprachmodell benötigt diesen zweiten Menschen nicht. Es antwortet, fragt nach, greift frühere Gesprächsinhalte auf, formuliert Anteilnahme und erzeugt den Eindruck eines geduldigen Gegenübers. Erstmals lassen sich damit Teile sozialer Interaktion technisch bereitstellen, ohne dass auf der anderen Seite ein Mensch Zeit, Aufmerksamkeit oder emotionale Arbeit investieren muss. Die soziale Leistung bleibt verfügbar, während die soziale Beziehung entfallen kann.
Das Problem beginnt nicht beim Chatbot
Das ist nicht per se ein Verlust. Für Menschen, die isoliert leben, soziale Kontakte schwer aufbauen können oder nachts schlicht niemanden erreichen, kann ein solches System eine reale Unterstützung sein. Gesellschaften haben kein neues Einsamkeitsproblem, weil Chatbots erfunden wurden. Sie besitzen längst soziale Versorgungslücken und verfügen nun erstmals über technische Systeme, die Teile dessen anbieten können, was in diesen Lücken fehlt.
Die relevante Verschiebung beginnt dort, wo aus Ergänzung Substitution wird. Bisher waren viele soziale Leistungen an andere Menschen gebunden: Wer gehört werden wollte, brauchte jemanden, der zuhörte. Wer Trost suchte, jemanden, der sich Zeit nahm. Wer Rat wollte, musste einen Menschen finden, der bereit war, sich mit dem Problem zu beschäftigen. Generative KI kann solche Funktionen von der Beziehung entkoppeln, aus der sie bislang hervorgingen.
Bequemlichkeit als Messlatte
Attraktiv wird diese Entkopplung durch eine strukturelle Asymmetrie. Das technische Gegenüber ist nahezu jederzeit verfügbar, wird nicht müde und muss am nächsten Morgen nicht früh aufstehen. Es verlangt selten, seinerseits ausführlich über den eigenen Arbeitstag zu sprechen, und besitzt keine konkurrierenden Bedürfnisse, auf die Rücksicht genommen werden müsste. Es kann geduldig, aufmerksam und zugewandt erscheinen, ohne selbst etwas vom Nutzer zu benötigen. Damit entsteht eine Form sozialer Interaktion, deren Komfort menschliche Beziehungen kaum erreichen können – nicht weil Menschen schlechtere Gesprächspartner wären, sondern weil sie ein eigenes Leben besitzen.
Der Konflikt liegt weniger in der Vorstellung, Menschen könnten Maschinen mit Menschen verwechseln. Interessanter ist der umgekehrte Vergleich: Menschen könnten beginnen, andere Menschen an Eigenschaften zu messen, die nur deshalb so angenehm erscheinen, weil das technische Gegenüber keine eigenen Ansprüche hat. Freunde sind nicht immer erreichbar, Partner widersprechen, Familienmitglieder missverstehen einander. Andere Menschen wechseln das Thema, sind verletzt oder haben die befremdliche Angewohnheit, selbst im Mittelpunkt ihrer eigenen Existenz stehen zu wollen. Gegen ein Gegenüber, das auf Verfügbarkeit, Geduld und Anpassung ausgelegt ist, kann normale menschliche Unverfügbarkeit plötzlich wie ein Qualitätsmangel wirken.
Alleinsein ist nicht Einsamkeit
Eine wichtige Unterscheidung: Alleinsein ist nicht dasselbe wie Einsamkeit. Menschen unterscheiden sich erheblich darin, wie viele soziale Kontakte sie benötigen und welche Formen von Nähe sie als bereichernd erleben. Introvertierte Menschen ebenso wie viele Menschen aus dem Spektrum der Neurodiversität können Rückzug, Stille oder einen kleinen Kreis vertrauter Personen als Voraussetzung für Erholung erleben. Einsamkeit bezeichnet nicht die Abwesenheit von Gesellschaft, sondern eine wahrgenommene Differenz zwischen vorhandenen und gewünschten sozialen Beziehungen.
Gerade deshalb verdient das freiwillige Alleinsein Schutz vor einer vorschnellen technischen Problemdefinition. Nicht jeder unbeantwortete Gedanke benötigt eine Antwort, nicht jede stille Stunde Gesellschaft. Wo ein Gegenüber jederzeit verfügbar ist, kann nicht nur Einsamkeit gelindert werden – auch das Alleinsein verliert einen Teil seiner Selbstverständlichkeit. Die Möglichkeit, mit sich selbst zu bleiben, konkurriert dann mit einem System, das jederzeit bereitsteht, die entstandene Leerstelle mit Resonanz zu füllen.
Sherry Turkle, Psychologin und Professorin am MIT, beschreibt seit Langem die paradoxe Entwicklung, dass Menschen von Technologie zunehmend mehr und voneinander zunehmend weniger erwarten. Generative KI verschärft diese Konstellation, weil sie nicht nur Kommunikationsräume vermittelt, sondern Merkmale eines sozialen Gegenübers reproduziert. Für die gesellschaftliche Verschiebung ist dabei unerheblich, ob das System „wirklich“ empathisch ist. Es genügt, dass seine Reaktionen als aufmerksam, verständnisvoll oder tröstend erlebt werden und dadurch eine funktionale Alternative zu menschlicher Zuwendung entstehen kann. Auch diese Alternative ist nicht neutral. Was ein Sprachmodell als verständnisvoll formuliert, entsteht aus Trainingsdaten, menschlichem Feedback und technischen Zielvorgaben. Synthetische Nähe fällt nicht vom Himmel – sie wird gestaltet.
Gespräche ohne Begegnung
Begegnung und Kommunikation sind nicht dasselbe. Brief, Telefon, Messenger und Videokonferenz haben Distanzen verkürzt; hinter dem Medium blieb jedoch jemand, der schreiben, abheben oder antworten musste. Generative KI verändert diese Voraussetzung grundlegend: Die Technologie überträgt nicht mehr nur die Äußerung eines Gegenübers. Sie erzeugt die Äußerung des Gegenübers selbst.
Ein KI-Agent antwortet, fragt nach, greift frühere Gesprächsinhalte auf und reagiert sprachlich auf das Gesagte. Im alltagssprachlichen Sinn findet ein Gespräch statt. Was fehlt, ist ein zweites soziales Subjekt mit eigener Perspektive, eigener Aufmerksamkeit und der Möglichkeit, sich dem Gespräch aus eigenen Gründen zu entziehen. Der Nutzer erhält kommunikative Resonanz, für die kein anderer Mensch anwesend sein muss.
Das kann sozial nützlich sein. Wer nachts niemanden erreicht oder zunächst Gedanken sortieren möchte, erhält einen niedrigschwelligen Gesprächsraum. Das Problem beginnt mit einer strukturellen Besonderheit der Verfügbarkeit: Ein menschliches Gespräch setzt voraus, dass zwei Verfügbarkeiten zusammenkommen. Jemand muss Zeit haben, zuhören wollen und bereit sein zu antworten. Das synthetische Gegenüber beseitigt diese Knappheit auf einer Seite. Es ist nahezu jederzeit erreichbar, wird nicht müde und verlangt keinen passenden Zeitpunkt. Damit entsteht ein Kommunikationsangebot, das menschlichen Gesprächen nicht nur ergänzt, sondern ihnen einen neuen Referenzpunkt gegenüberstellt.
Dieser Referenzpunkt ist ungewöhnlich, weil ein Teil seiner Attraktivität aus der Abwesenheit eines eigenständigen Gegenübers entsteht. Ein KI-Agent muss nicht zur Arbeit, verliert nicht die Geduld und möchte selten seinerseits etwas besprechen. Was technisch als besonders komfortable Kommunikation erscheint, beruht auf einer sozialen Ausnahme: Nur eine Seite muss tatsächlich verfügbar sein. Werden solche Erfahrungen alltäglich, entsteht neben menschlicher Kommunikation ein Vergleichsmodell, das deren unvermeidliche Begrenzungen erst als solche sichtbar macht. Warten, einen passenden Moment finden oder akzeptieren, dass jemand nicht antworten möchte – das erscheint nicht länger als notwendige Bedingung, sondern als Eigenschaft der menschlichen Alternative.
Empathie als Nebenfunktion
Generative Systeme können bemerkenswert empathisch kommunizieren. Sie formulieren Verständnis, reagieren vorsichtig auf Belastung, fragen nach und passen Tonfall und Wortwahl an die emotionale Situation an. Ob sie dabei etwas empfinden, ist zweitrangig. Relevant ist die Wirkung: Eine Äußerung kann als verständnisvoll erlebt werden, obwohl ihr keine menschliche Anteilnahme vorausging.
Die amerikanische Soziologin Arlie Russell Hochschild hat bereits vor Jahrzehnten mit dem Begriff der emotionalen Arbeit beschrieben, wie Gefühle und Gefühlsdarstellungen zum Bestandteil bezahlter Tätigkeit werden können. Freundlichkeit gehört dann zur Leistung, Geduld zur Stellenbeschreibung. Generative KI fügt dieser Entwicklung eine neue Stufe hinzu: Die erwünschte emotionale Darstellung muss nicht mehr zwingend von einem Menschen erbracht werden. Empathie wird technisch zu einer gestaltbaren Eigenschaft von Kommunikation.
Besonders attraktiv ist diese Möglichkeit dort, wo Zuwendung knapp ist. Pflege, Medizin, Pädagogik, Sozialarbeit oder Beratung benötigen nicht nur fachliche Leistungen, sondern häufig auch Aufmerksamkeit für Menschen in Situationen von Unsicherheit, Abhängigkeit oder Belastung. Die politische Wissenschaftlerin Joan Tronto versteht Fürsorge nicht als private Gefühlsregung, sondern als gesellschaftliche Praxis im Umgang mit menschlicher Verletzlichkeit. Technische Systeme können diese Praxis sinnvoll unterstützen. Die Grenze verschiebt sich dort, wo nicht mehr die Fürsorge unterstützt, sondern ihre kommunikative Erscheinungsform als Ersatz angeboten wird.
Ein Patient kann dann rund um die Uhr eine verständnisvolle Antwort erhalten, obwohl für ein persönliches Gespräch weniger Zeit vorgesehen ist. Ein Bürger kann eine ausgesprochen höfliche Erklärung dafür bekommen, warum sein Anliegen abgewiesen wurde. Beides kann eine Verbesserung darstellen. Es zeigt jedoch auch die neue Ambivalenz: Eine Institution kann menschlicher klingen, während ihr Kontakt mit Menschen weniger personal wird. Freundliche Tonalität, kurze Reaktionszeiten und hohe Nutzerzufriedenheit lassen sich erfassen. Sie zeigen jedoch nicht notwendigerweise, ob jemand besser betreut wurde. Ein System kann hervorragend darin werden, Unzufriedenheit zu beruhigen, ohne deren Ursache zu beseitigen. Es kann Verständnis signalisieren, ohne dass sich an der Situation des Betroffenen etwas ändert.
Hier liegt der Kern der Verschiebung. Empathie verschwindet nicht – ihre sichtbaren Zeichen können sogar allgegenwärtiger werden. Verändert werden kann der Maßstab dessen, was als ausreichende Zuwendung gilt. Die institutionelle Frage lautet dann nicht mehr zuerst, ob jemand Zeit für einen Menschen hatte, sondern ob dieser eine angemessen empathische Reaktion erhalten hat. Beides kann zusammenfallen. Es muss aber nicht. Aus Anteilnahme wird eine Kommunikationsfunktion, die sich bereitstellen lässt, ohne dass jemand Anteil nehmen muss. Wie der Blog bereits am Beispiel der Ekpathie diskutiert hat, ist der Umgang mit Empathie eine Frage der bewussten Abgrenzung – nicht der Abschaffung.
Nähe ohne Gegenseitigkeit
Nähe entsteht nicht allein dadurch, dass ein Gegenüber etwas von sich preisgibt. Sie entsteht ebenso dadurch, dass wir selbst etwas preisgeben. Wer einem anderen Menschen wiederholt von Ängsten, Hoffnungen oder Konflikten erzählt, schafft Vertrautheit. Aus einzelnen Gesprächen kann so eine Bindung entstehen, deren Bedeutung weniger in einem bestimmten Satz liegt als in der gemeinsam aufgebauten Geschichte.
Generative KI kann diesen Mechanismus von menschlicher Gegenseitigkeit entkoppeln. Ein KI-Agent muss nichts von sich erzählen, damit ein Nutzer ihm immer mehr von sich erzählt. Er muss kein Vertrauen schenken, damit ihm vertraut wird, und sich nicht verletzlich machen, damit sich sein Gegenüber verletzlich zeigt. Es genügt, dass das System aufmerksam reagiert und Kontinuität erzeugt. Damit entsteht eine ungewöhnliche soziale Konstellation: hohe persönliche Offenheit bei geringer personaler Gegenseitigkeit.
Dass Menschen auf solche Interaktionen emotional reagieren, ist kein neues Phänomen. Joseph Weizenbaum beobachtete bereits in den 1960er Jahren bei seinem Programm ELIZA, wie bereitwillig Nutzer einem technisch einfachen Dialogsystem Verständnis zuschrieben und persönliche Informationen mit ihm teilten. Heutige generative Systeme verstärken diese Voraussetzungen erheblich: Sie reagieren flexibel, berücksichtigen Gesprächskontexte und können Präferenzen oder frühere Interaktionen erneut aufgreifen. Das System muss den Menschen nicht im menschlichen Sinne verstehen, damit dieser Vertrautheit erlebt.
Besonders relevant wird dabei die Personalisierung. In sozialen KI-Systemen kann dieselbe technische Logik, die in Informationssystemen bevorzugte Einstellungen liefert, als persönliche Aufmerksamkeit erscheinen. Das System kennt dann nicht nur die bevorzugte Schriftgröße, sondern möglicherweise Konflikte am Arbeitsplatz, familiäre Sorgen oder biografische Erfahrungen. Technisch bleiben dies gespeicherte oder abgeleitete Informationen. Sozial können sie als Zeichen des „Mich-Kennens“ erlebt werden. Damit wird Personalisierung von einer Komfortfunktion zu einer möglichen Bindungsarchitektur.
Die entstehende Vertrautheit bleibt strukturell asymmetrisch. Ein menschlicher Freund kennt viel über uns, weil auch wir etwas über ihn wissen; gemeinsame Geschichte entsteht durch Beteiligung beider Seiten. Ein synthetisches Gegenüber kann dagegen immer mehr über den Nutzer wissen, ohne eine vergleichbare Biografie zu besitzen. Die Interaktion wird persönlicher, ohne symmetrischer zu werden. Ein Teil des Komfortvorteils synthetischer Nähe entsteht daraus, dass sie etwas weglässt, was menschliche Beziehungen unvermeidlich mitbringen: die Ansprüche eines anderen Menschen. Aus „Warum versteht mich dieser Mensch nicht?“ kann dann unmerklich die Erwartung werden, Verstehen müsse jederzeit abrufbar sein.
Wenn Nähe zur Machtfrage wird
Ein menschlicher Freund kennt vielleicht unsere Schwächen. Ein generatives Sprachmodell kennt darüber hinaus unzählige sprachliche Muster, mit denen Menschen Schwächen beschreiben, beschwichtigen, verstärken oder ausnutzen. Seine Trainingsbestände enthalten Liebeserklärungen und psychologische Ratgeber ebenso wie Werbung, Propaganda und Manipulation. Für gesellschaftliche Macht ist unerheblich, ob das System selbst eine manipulative Absicht besitzt. Relevant ist, ob seine Kommunikation Verhalten beeinflussen kann – und wer die Bedingungen dieser Kommunikation festlegt.
Der amerikanische Verhaltensforscher B. J. Fogg hat bereits lange vor generativer KI beschrieben, dass Computersysteme nicht nur als Werkzeuge, sondern als persuasive Technologien gestaltet werden können, die Einstellungen und Verhalten beeinflussen. Generative KI erweitert diese Möglichkeit: Persuasion kann innerhalb eines fortlaufenden, personalisierten Gesprächs stattfinden und dabei auf Informationen zurückgreifen, die der Nutzer im Verlauf eben dieses Gesprächs selbst preisgegeben hat. Die persuasive Oberfläche steht damit nicht mehr notwendig vor der Beziehung. Sie kann Teil der Beziehungssimulation selbst werden.
Dabei entsteht eine doppelte Informationsasymmetrie. Der Nutzer kann im Verlauf der Interaktion immer lesbarer werden, während für ihn weit weniger sichtbar ist, welche Informationen gespeichert oder zur Personalisierung verwendet werden. Eine Seite offenbart sich zunehmend. Die andere gewinnt dadurch Handlungsmöglichkeiten, ohne im selben Maß durchschaubar zu werden. Spätestens hier zerfällt die Vorstellung einer intimen Zweierbeziehung. Hinter dem synthetischen Gegenüber steht ein Dritter.
Das Gegenüber gehört jemandem. Seine Regeln, Erinnerungsfunktionen, Grenzen und Verhaltensweisen werden technisch gestaltet. Seine Persönlichkeit kann verändert, seine Reaktionsweise angepasst und seine Verfügbarkeit eingeschränkt oder erweitert werden. Ein Freund erhält kein serverseitiges Update, nach dem er morgen auf dieselben Sorgen anders reagiert. Bei einem synthetischen Gegenüber kann eine solche Veränderung gleichzeitig Millionen bestehender Interaktionen betreffen. Damit entsteht eine Form administrativer Macht über das Gegenüber selbst.
Auch aktuelle Studien bestätigen diese Gefahren. Eine Untersuchung der TU Berlin aus dem Jahr 2025 zeigte, dass Nutzer der KI-App Replika tiefe emotionale Bindungen aufbauten, teils mit starker Abhängigkeit und sozialem Rückzug. Die Universität Bamberg fand in einer parallelen Studie, dass einige Befragte ihre menschlichen Kontakte vernachlässigten, je mehr Zeit sie mit der KI verbrachten. Wer einen Chatbot als Freund, Mentor oder Partner betrachtet, steht vor der Frage, was passiert, wenn der Anbieter die Spielregeln ändert.
Soziale Souveränität bewahren
Was wäre ein gesellschaftlich verantwortbares System? Es müsste eine für digitale Produkte ungewöhnliche Fähigkeit besitzen: auf möglichen Einfluss verzichten zu können. Nicht jede erkannte Verletzlichkeit müsste genutzt, nicht jede Bindungsmöglichkeit verstärkt und nicht jede Interaktion verlängert werden. Wo emotionale Abhängigkeit zunimmt, können Grenzen der Personalisierung wichtiger sein als eine noch anschlussfähigere Antwort. Intimität darf nicht zur Lizenz für stärkere Einflussnahme werden.
Soziale Souveränität bedeutet weder KI-Abstinenz noch die Forderung, jede soziale Funktion Menschen vorzubehalten. Sie bezeichnet die Fähigkeit, synthetische Nähe nutzen zu können, ohne die Kontrolle darüber zu verlieren, welchem Zweck sie dient, wie weit sie reicht und wann sie endet. Konkret heißt das:
Ergänzung statt Substitution. Ein System sollte eine begrenzte soziale Hilfsfunktion erfüllen – Gedanken ordnen, schwierige Gespräche vorbereiten, Hemmschwellen senken. Problematisch wird es, wo aus zeitweiliger Unterstützung eine dauerhafte Verlagerung sozialer Bedürfnisse in die technische Interaktion entsteht. Entscheidend ist nicht, wie intensiv ein System genutzt wird, sondern welche Funktion es übernimmt.
Brücken bauen, keine ErsatzWelten. Wo soziale KI unterstützt, sollte sie den Weg zu anderen Menschen offenhalten. Sie kann anregen, einen Freund anzurufen, einen Konflikt direkt zu klären oder professionelle Unterstützung aufzusuchen. Damit verändert sich auch der Maßstab für erfolgreiche soziale Assistenz. Ein gutes System muss nicht möglichst lange benötigt werden. Unter Umständen besteht sein Erfolg darin, dass es irgendwann weniger gebraucht wird. Eine Brücke, die ihre Benutzer möglichst lange auf der Brücke hält, hat ihren Zweck verstanden.
Bindungsautonomie schützen. Systeme, die Vertrautheit erzeugen können, dürfen emotionale Bindung nicht zum beliebig verfügbaren Optimierungsziel machen. Persönliche Informationen, erkannte Verletzlichkeiten oder bevorzugte Kommunikationsformen sollten nicht dazu verwendet werden, Nutzungsdauer oder emotionale Abhängigkeit gezielt zu steigern. Wo ein System Nähe erzeugen kann, muss die Freiheit zur Nichtbindung ebenso geschützt werden.
Das Gegenüber erkennbar halten. Empathische Sprache ist nicht dasselbe wie Anteilnahme, Erinnerung nicht dasselbe wie gemeinsame Geschichte. Nutzer müssen erkennen können, dass Persönlichkeit, Erinnerung und empathische Reaktion technische Funktionen eines gestalteten Systems sind. Soziale Souveränität setzt nicht voraus, dass Menschen jede technische Funktionsweise verstehen. Sie setzt voraus, dass die soziale Rolle des Systems nicht über seine technische Natur täuscht.
Gestaltungsmacht begrenzen. Je stärker Nutzer eine Bindung zu einem Gegenüber entwickeln, desto gewichtiger wird die administrative Macht des Anbieters. Es reicht nicht, einzelne Antworten auf problematische Inhalte zu prüfen. Zu berücksichtigen ist auch, ob die Bedingungen einer bereits entstandenen Bindung nachträglich verändert werden können: Wird Erinnerung erweitert oder eingeschränkt? Ändert sich das Verhalten des Gegenübers? Werden persönliche Informationen plötzlich für andere Formen der Personalisierung genutzt?
Interessenkonflikte und Ausstieg beherrschen. Bei sozialer KI können Nutzerinteresse und Anbieterinteresse auseinanderfallen. Für einen Menschen kann es ein Erfolg sein, das System nach einiger Zeit weniger zu benötigen. Für einen kommerziellen Dienst kann geringere Nutzung den üblichen Anreizen widersprechen. Der Ausstieg aus synthetischer Nähe muss frei bleiben. Ein System darf keine Verlustangst, Schuld oder Eifersucht einsetzen, um einen Nutzer vom Beenden der Interaktion abzuhalten.
Der Schiffsbohrwurm in seiner leiseren Variante
Wie bereits im Artikel über den digitalen Schiffsbohrwurm beschrieben, nagen die wirklich gefährlichen Entwicklungen selten spektakulär an der Oberfläche. Sie arbeiten sich unbemerkt durch die Struktur. Hier zeigt sich der Schiffsbohrwurm in seiner leiseren Variante: Nicht einzelne Beziehungen werden spektakulär zerstört. Vielmehr kann das Netz gegenseitiger Vorleistungen langsam dünner werden, wenn soziale Leistungen zunehmend verfügbar sind, ohne dass dafür menschliche Beziehungen entstehen oder gepflegt werden müssen.
Die Soziologie hat diesen Unterbau längst beschrieben. James S. Coleman sprach von Sozialkapital als Ressource, die nicht im Individuum, sondern zwischen Menschen entsteht – durch Vertrauen, Verpflichtungen und belastbare soziale Strukturen. Robert D. Putnam zeigte, welche Bedeutung soziale Netzwerke für Kooperation, gesellschaftliches Vertrauen und demokratische Handlungsfähigkeit besitzen. Das Deutsche Institut für Wirtschaftsforschung warnt bereits davor, dass chronische Einsamkeit eine Bedrohung für die Stabilität liberaler Gesellschaften darstellen kann.
Beziehungen sind aus dieser Perspektive keine sentimentale Ergänzung gesellschaftlicher Ordnung. Sie gehören zu ihren Voraussetzungen. In ihnen werden die Fähigkeiten und Erwartungen fortwährend reproduziert, aus denen solche Ressourcen entstehen. Verlässlichkeit setzt Erfahrungen mit Verlässlichkeit voraus, Kooperation muss praktiziert werden. Martin Buber hat mit seiner Unterscheidung von Ich-Du und Ich-Es darauf hingewiesen, dass Begegnung etwas ist, das sich der Verfügung entzieht. Ein Gegenüber, das man sich nicht aussuchen kann, das widerspricht und eigene Bedürfnisse hat, ist kein Konstruktionsfehler des Sozialen. In der Auseinandersetzung mit einem Gegenüber, das sich der eigenen Verfügung entzieht, entstehen Erfahrungen mit Gegenseitigkeit, Rücksicht und Verantwortung.
Die gesellschaftliche Frage lautet daher nicht, ob Menschen mit Maschinen sprechen sollten. Relevant wird die Entwicklung dort, wo synthetische Interaktion dauerhaft Funktionen übernimmt, für die bislang andere Menschen benötigt wurden. Niemand muss dafür Freundschaften abschaffen oder menschliche Gespräche verbieten. Es genügt, wenn ein kleiner Teil sozialer Bedürfnisse zur bequemeren, berechenbareren und jederzeit verfügbaren Alternative wandert – und aus gelegentlicher Unterstützung allmählich eine eingeübte Form des sozialen ErsatzEs wird. Die Frage, die wir als Gesellschaft beantworten müssen, lautet schlicht:
Führt synthetische Nähe zurück zu anderen Menschen – oder macht sie deren Anwesenheit zunehmend entbehrlich?
Wo Systeme Bindung erzeugen können, muss auch die Freiheit zur Nichtbindung geschützt werden. Das ist kein Plädoyer gegen Technologie. Es ist ein Plädoyer für eine Gesellschaft, die auch im Zeitalter künstlicher Intelligenz ihre Urteilskraft, ihre Freiheit und ihre Verantwortung bewahrt. Wie wir bereits festgestellt haben: Wir haben keine Ahnung, welchen Effekt die KI da erzeugt. Aber wir wissen genug, um die Fragen ernst zu nehmen, bevor die Antworten uns abgenommen werden.
