Das Trolley-Problem, ein ethisches Gedankenexperiment, wird häufig herangezogen, um die moralischen Herausforderungen autonomer Fahrassistenzsysteme (ADAS) zu illustrieren. [1]
Doch bei genauer Betrachtung zeigt sich, dass dieses Dilemma in der Praxis für ADAS-Systeme kaum eine Rolle spielt.
Warum das so ist, und welche technischen und systematischen Aspekte entscheidend sind, wird in diesem Artikel beleuchtet.
Was ist das Trolley-Problem?
Das Trolley-Problem ist ein philosophisches Gedankenexperiment, das erstmals von Philippa Foot formuliert wurde.
McGeddon, lizenziert unter CC BY-SA 4.0. [6]
Die zentrale Frage lautet: Sollte man aktiv eingreifen und eine Person opfern, um fünf zu retten, oder passiv bleiben und das größere Unheil geschehen lassen?
Dieses Dilemma wird oft auf autonome Fahrzeuge übertragen, mit der Annahme, dass sie in ähnlich moralisch komplexen Situationen Entscheidungen treffen müssen. Doch diese Übertragung greift zu kurz.
Verbindung Trolley-Problem und autonomes Fahren
Anschauliches und emotionales Gedankenexperiment
Das Trolley-Problem ist ein bekanntes philosophisches Dilemma, das leicht verständlich ist und starke emotionale Reaktionen hervorruft.
Die Vorstellung, dass ein autonomes Fahrzeug entscheiden muss, ob es eine Gruppe von Menschen oder einen einzelnen Passanten gefährdet, wirkt unmittelbar greifbar. Dadurch lässt sich die Diskussion über ethische Fragestellungen auch für ein breites Publikum öffnen.
Übertragung von menschlichen Dilemmata auf Maschinen
Das Trolley-Problem spiegelt die moralischen Entscheidungen wider, die ein Mensch in extremen Situationen treffen könnte. Da autonome Systeme potenziell Entscheidungen in kritischen Momenten treffen müssen, wird oft angenommen, dass diese Systeme in vergleichbare moralische Dilemmata geraten könnten.
Medienwirksamkeit und vereinfachte Narrative
Die Diskussion über autonome Fahrzeuge wird in der Öffentlichkeit häufig stark vereinfacht. Das Trolley-Problem bietet ein klar umrissenes Szenario, das sich gut für Schlagzeilen eignet und ethische Fragen plakativ ins Zentrum stellt. Dies macht es für Journalisten, Politiker und andere Stakeholder zu einem beliebten Diskussionspunkt.
Sorge vor Kontrollverlust durch autonome Systeme
Das Trolley-Problem wird oft herangezogen, um die Sorge zu verdeutlichen, dass autonome Systeme Entscheidungen treffen könnten, die für Menschen schwer nachvollziehbar oder unethisch erscheinen.
Die Diskussion über das Problem reflektiert also auch ein allgemeines Unbehagen gegenüber der „Entscheidungsgewalt“ von Maschinen.
Vermeintliche Relevanz in der Systementwicklung
Einige Entwickler und Ethiker haben das Trolley-Problem genutzt, um Fragen der Programmierung und ethischen Ausrichtung autonomer Systeme zu diskutieren.
Es wird oft gefragt: Sollte ein System so programmiert werden, dass es den „größten Schaden“ minimiert? Solche Szenarien erscheinen zunächst praxisnah, obwohl sie bei genauer Betrachtung meist unrealistisch sind.
Wann greift das Trolley-Problem bei ADAS-Systemen überhaupt?
Das Trolley-Problem setzt voraus, dass eine Entscheidung zwischen zwei oder mehr schädlichen Optionen getroffen werden muss. Im Kontext von autonomem Fahren tritt ein solches Szenario nur unter zwei Bedingungen auf:
- Überschreiten der fahrphysikalischen Grenzen
Ein Unfall ist unvermeidbar, weil Bremsen oder Ausweichen nicht mehr möglich ist. - Unvorhersehbare Situationen
Ein plötzliches, unvorhersehbares Ereignis, wie ein Kind, das unerwartet auf die Straße läuft, lässt keine Zeit für präventive Maßnahmen.
In beiden Fällen stellt sich die Frage: Kann oder sollte ein autonomes System eine moralische Entscheidung treffen? Die Antwort liegt in der technischen Analyse.
Fall A: Überschreiten der fahrphysikalischen Grenzen
Was sind fahrphysikalische Grenzen?
Der Kamm’sche Kreis ist ein wichtiges Konzept in der Fahrdynamik und beschreibt die maximalen Kräfte, die zwischen Reifen und Fahrbahn übertragen werden können. Er stellt grafisch dar, wie die verfügbare Haftreibung zwischen Längs- und Querkräften aufgeteilt werden kann.
Der Kamm’sche Kreis hilft Ingenieuren und Fahrern, die Grenzen der Fahrzeugdynamik zu verstehen und einzuschätzen. Er verdeutlicht, warum beispielsweise starkes Bremsen in einer Kurve zum Verlust der Bodenhaftung führen kann, da die verfügbare Haftreibung bereits für die Querbeschleunigung genutzt wird.
Mit dem Kamm’schen Kreis lassen sich Effekte wie Überbremsen und Übersteuern, also der Verlust gezielter Fahreingriffe erklären.
Wenn ein ADAS-System in eine Situation gerät, in der die fahrphysikalischen Grenzen überschritten werden, handelt es sich um ein Versagen des Systems. Die Gründe hierfür können wie folgt analysiert werden:
1. Systematischer Fehler oder E/E-Fehler
Wenn ein Fahrzeug überhaupt in eine Situation gerät, in der die Brems- oder Ausweichmöglichkeiten vollständig ausgeschöpft sind, deutet dies auf einen grundlegenden Fehler hin. Dies könnte ein:
- Systematischer Fehler1 oder
- E/E-Fehler (Elektrik/Elektronik, z. B. Sensor- oder Aktuatorausfall) sein. [4]
Beides würde auf eine Fehlkonstruktion oder unzureichende Prozesse in der Entwicklung hindeuten. In der Endkonsequenz handelt es sich um menschliches Versagen.
2. Unzureichende Sensorik und Situationsanalyse
Wenn ein ADAS-System Gefahren wie Blitzeis, Bodenunebenheiten oder andere fahrphysikalische Risiken nicht korrekt erkennt, ist dies ein Problem der Sensorik oder der Situationsanalyse2. Solche Schwächen fallen in den Bereich der funktionalen Sicherheit und Robustheit gemäß ISO 214483. [2][5]
In beiden Fällen handelt es sich nicht um ein ethisches Dilemma, sondern um technische Defizite4, die durch verbesserte Systeme verhindert werden können.
Fall B: Unvorhersehbare Situationen
In Situationen, die weder Mensch noch Maschine vorhersehen können, stellt sich keine moralische Frage im klassischen Sinne. Weder der Mensch noch ein autonomes System wäre in der Lage, eine bewusste Entscheidung zu treffen. [3]
Ein Beispiel: Ein Kind läuft plötzlich auf die Straße, während ein entgegenkommendes Fahrzeug eine Ausweichbewegung unmöglich macht. Hier liegt die Ursache des Unfalls außerhalb des Handlungsspielraums des Systems.
Entscheidend ist, dass ADAS-Systeme in solchen Fällen schneller und effizienter reagieren können als ein Mensch. Sie können:
- Blitzschnell bremsen, um den Aufprall zu minimieren.
- Die verfügbare Zeit optimal nutzen, um eine Kollision zu vermeiden, wenn es physikalisch möglich ist.
Selbst wenn eine „Entscheidung“ zwischen zwei Optionen erforderlich wäre, könnte diese durch rein physikalische Optimierung (z. B. Maximierung der Bremswirkung) getroffen werden, ohne dass eine moralische Abwägung notwendig wird.
Fazit: Warum das Trolley-Problem irrelevant ist
Das Trolley-Problem setzt voraus, dass ein System in der Lage ist, bewusste moralische Entscheidungen zu treffen. ADAS-Systeme hingegen operieren auf der Grundlage von physikalischen und technischen Parametern.
- Wenn ein ADAS-System in eine Situation gerät, in der die fahrphysikalischen Grenzen überschritten werden, handelt es sich um einen technischen Fehler, der durch bessere Entwicklung und Validierung vermeidbar ist.
- In unvorhersehbaren Situationen kann auch ein menschlicher Fahrer keine moralische Entscheidung treffen. ADAS-Systeme reagieren hier schneller und effizienter und minimieren so die Folgen eines Unfalls.
Das Trolley-Problem ist daher kein relevantes Konzept für die Entwicklung und Bewertung von ADAS-Systemen. Stattdessen sollten der Fokus und die Diskussion auf die technische Sicherheit, Robustheit und Prävention gelegt werden.