Wegen zahlreicher Unfälle wurde dem Robotaxi-Unternehmen Cruise in San Francisco das Fahren verboten. In einer Untersuchung kommt nun heraus: Es drohten noch ganz andere Gefahren.

Seit Monaten machen die fahrerlosen Taxi von Cruise Schlagzeilen, von blockierten Krankenwagen bis zu Unfällen. Nachdem eines der Fahrzeuge im Oktober einen Passanten überfahren hatte, zog Kalifornien die Reißleine – und entzog dem Unternehmen in seinem wichtigsten Markt San Francisco die Lizenz. Doch die Probleme sind offenbar noch größer, als bisher bekannt.

Das geht aus internen Dokumenten hervor, die dem auf Leaks spezialisierten Magazin "The Intercept" zugespielt wurden. Demnach haben die selbstfahrenden Taxen große Probleme, Kinder als solche zu erkennen. Auch Baugruben im Boden werden einfach ignoriert – selbst wenn sich Arbeiter darin befinden. Und das alles, obwohl öfter Menschen in die automatische Fahrt eingreifen müssen, als bisher bekannt war.Interview mit Autodesigner 14.21

Kinder nicht erkannt

Dass die Wagen Kinder eigentlich als solche erkennen sollten, ist dem Unternehmen durchaus bewusst. Den internen Unterlagen zufolge sorgten sich die Techniker durchaus über die besonderen Herausforderungen der kleinsten Verkehrsteilnehmer, etwa unvorhersehbares Verhalten, ein plötzliches Rennen auf die Straße oder überraschende Stürze. 

Darauf angemessen reagieren können die Wagen aber offensichtlich nur unzureichend – weil die künstliche Intelligenz am Steuer Kinder schlicht nicht zuverlässig von Erwachsenen unterscheiden kann. "Cruise-Wagen nehmen unter Umständen keine besondere Rücksicht auf Kinder", heißt es dem Magazin zufolge in den internen Unterlagen.

Die Folgen waren auch in Tests und Simulationen spürbar. "Wir können anhand der Simulatiosn-Ergebnisse nicht ausschließen, dass der Wagen das Kind getroffen hätte", heißt es in einem Ergebnis-Bericht. In einem anderen wurde ein Dummy in der Größe eines Kleinkindes zwar erkannt, aber trotzdem mit dem Seitenspiegel gestreift – mit 45 km/h. Zumindest in Testszenarien sollen die Wagen zudem Kinder gelegentlich schlicht aus den Augen verloren und alleine deshalb keine Rücksicht mehr genommen haben.10: Hohe Messlatte Gallery - 3271351c4e359637

Cruise bestreitet Vorwürfe

Damit konfrontiert, wies das Unternehmen die Vorwürfe aber zurück. "Es ist unzutreffend zu behaupten, dass unsere autonomen Fahrzeuge Kinder nicht erkennen oder mit besonderer Rücksicht behandeln", so ein Sprecher. Die Roboter würden Kinder durchaus als eigene Gefahr erkennen und behandeln. Man rechne mit etwa einem Unfall mit Kindern auf 300 Millionen gefahrener Kilometer, so Kommunikations-Chef Erik Moser. "Bisher hat es keine Unfälle mit Kindern im Straßenverkehr gegeben."

Trotzdem lassen die Enthüllungen CEO Kyle Vogt nicht gerade im besten Licht dastehen. Erst im August hatte er gegenüber der "New York Times" über einen Fall beklagt, in dem eine 71-Jährige mit ihrem Auto ein vierjähriges Mädchen tödlich verletzt hatte – und behauptet, dass selbstfahrende Autos solche Risiken senken würden.

Fehlende Erfahrung

Den Unterlagen zufolge sollen die Probleme auch deshalb entstehen, weil die Wagen bisher kaum Gelegenheit hatten, sich mit der besonderen Gefahr auseinanderzusetzen. "Wir haben sehr wenig Kontakt mit sehr verletzlichen Verkehrsteilnehmern", heißt es in einem Dokument in Bezug auf den Begriff, mit dem man intern Kinder umschreibt. Die selbstlernenden Algoritmen können also entsprechend schlecht den Umgang mit ihnen lernen.

Ein Grund dafür ist ausgerechnet eine Sicherheitsmaßnahme: Um die Gefahren für andere Verkehrsteilnehmer zu senken, durfte Cruise in San Francisco zunächst nur nachts seine Dienste ohne Fahrer anbieten. Und dann sind natürlich kaum Kinder auf der Straße. Eine im August angekündigte Maßnahme dürfte daher nicht zur Lösung beitragen: Nur Wochen nach der Freigabe für den Tagesverkehr hatte das Unternehmen angekündigt, seine Dienste weiter vor allem Nachts anzubieten.

Kein Auge für Baugruben

Eine Mangel an Gefahrenbewusstsein an anderer Stelle ist davon nicht betroffen: Löcher im Boden sind für Cruise-Taxen offenbar kaum wahrnehmbar – selbst wenn es sich um große Baugruben handelt. Auch das ist seit mindestens einem Jahr bekannt, so "The Intercept".

Dabei handelt es sich nicht nur um ein Problem in Testszenarien. In mindestens einem Fall soll ein Cruise-Fahrzeug sogar die Absperrung einer Baustelle durchfahren haben – während die Arbeiter in der Baugrube es mit Winken von der Einfahrt in die Grube abzuhalten versuchten. Ein von dem Fahrzeug gespeichertes Video dokumentierte den Vorfall, es sei daraus aber nicht ersichtlich, ob der Wagen tatsächlich vor der Grube zum stehen kommen konnte.

Dass die Cruise-Fahrzeuge ein Problem mit Absperrungen haben, ist bekannt. Bereits mehrfach hatten sich Robotaxis in San Francisco in abgesicherte Notfall-Stellen gelenkt und Absperrbänder einfach durchfahren, hatte erst im Sommer die Feuerwehr-Chefin der Stadt geklagt.

Mehr menschliche Eingriffe als bekannt

Die Entscheidung, alle fahrerlosen Fahrten einzustellen, wirkt angesichts dieser bisher nicht bekannten Probleme durchaus angemessen. Erst am Wochenende hatte CEO Vogt in einem Forum eingestanden, dass die Wagen auch in ungefährlichen Situationen mehr Hilfe benötigen, als bisher bekannt. Alle vier bis sechs Kilometer würden die Cruise-Taxen demnach in der Zentrale anfragen, um eine Situation einschätzen zu lassen. "Zwei bis vier Prozent der Fahrten werden Remote gesteuert", erklärte der Post bei "Hacker News". Gegenüber "CNBC" bestätigte das Unternehmen die Echtheit des Posts.

Quellen:The Intercept,CNBC, Hacker News