MIT und Motional entwickeln ein System, das die Entscheidungen selbstfahrender Autos in nachvollziehbare Konzepte übersetzt.

Das neue System CW-Net erklärt, warum ein autonomes Fahrzeug bremst oder ausweicht, indem es verständliche Konzepte wie nähert sich stehendem Fahrzeug verwendet. In Streckentests und einer Simulationsstudie sagten Sicherheitsfahrer das Fahrzeugverhalten damit zuverlässiger voraus.

Forscher von MIT und dem Fahrzeugtechnik-Unternehmen Motional haben mit dem Concept-Wrapper Network, kurz CW-Net, eine Methode entwickelt, die die interne Entscheidungslogik von KI-Fahrplanern in nachvollziehbare Begriffe übersetzt, etwa nähert sich stehendem Fahrzeug oder ist nahe an Radfahrer. Die Erklärungen verändern dabei nicht die eigentliche Fahrleistung des Systems. In Tests auf einer privaten Teststrecke und in einer größeren Simulationsstudie mit fahrfremden Nutzern konnten Sicherheitsfahrer mit diesen Erklärungen das Verhalten des Fahrzeugs genauer vorhersagen als ohne.

Autonome Fahrzeuge werden heute meist von tiefen neuronalen Netzen gesteuert, deren interne Logik für Ingenieure und Aufsichtsbehörden schwer nachvollziehbar ist. Genau das erschwert die Fehlersuche, wenn ein Fahrzeug unerwartet bremst oder stehen bleibt. CW-Net soll Ingenieuren bei der Fehlersuche während des Betriebs helfen und langfristig die Sicherheitsvalidierung sowie das Vertrauen von Fahrern und Passagieren stärken.

Die Studie erschien in Nature und stellt einen ersten Praxisnachweis dar, keine fertige Serienlösung. Offen bleibt, ob Aufsichtsbehörden solche konzeptbasierten Erklärungen als Bestandteil von Zulassungsverfahren akzeptieren und wie sich das Verfahren auf große Flotten skalieren lässt.

Diese Meldung wurde automatisch aus der genannten Quelle erstellt und vor der Veröffentlichung maschinell geprüft. Das Bild ist ein Symbolbild und zeigt weder den Vorgang noch eine reale Person. Wie diese Zeitung entsteht