Waymo: US-Behörden ermitteln nach Schulbus-Vorfällen

Die US-Verkehrssicherheitsbehörde NTSB hat eine formelle Untersuchung gegen den Roboterauto-Pionier Waymo eingeleitet. Grund sind zahlreiche Vorfälle in Austin, Texas, bei denen die fahrerlosen Taxis nicht für Schulbusse mit Warnblinklicht stoppten – ein klarer Rechtsverstoß. Die Ermittlungen stellen die Zuverlässigkeit der KI-Systeme in kritischen Alltagssituationen infrage.

Doppelte Bundes-Ermittlungen erhöhen Druck

Die NTSB gab die Untersuchung am Freitag bekannt. Sie konzentriert sich auf mindestens 24 dokumentierte Verstöße im laufenden Schuljahr, bei denen Waymo-Fahrzeuge haltende Schulbusse illegal passierten. Dies verstößt gegen Verkehrsgesetze, die zum Schutz von Kindern erlassen wurden. Die NTSB schickt eigene Ermittler nach Austin.

Parallel läuft bereits eine Prüfung der Straßenverkehrsbehörde NHTSA, die seit Oktober 2025 den Vorfall untersucht. Während die NHTSA mögliche Sicherheitsmängel und Rückrufe bewertet, sucht die NTSB nach der wahrscheinlichen Unfallursache. Ihre Ergebnisse haben erhebliches Gewicht für künftige Regulierungen. Ein Vorbericht wird in 30 Tagen erwartet.

Software-Update brachte keine Lösung

Die Vorfälle häuften sich, obwohl der Alphabet-Konzerntochter das Problem bekannt war. Die Schulbehörde in Austin bat Waymo sogar, den Roboter-Taxidienst zu Schulzeiten auszusetzen. Das Unternehmen lehnte ab und setzte stattdessen auf ein freiwilliges Software-Update im Dezember, das über 3.000 Fahrzeuge betraf.

Passend zum Thema KI‑Sicherheit und Regulierung: Seit August 2024 gelten neue EU‑Regeln für KI‑Systeme. Wer KI in sicherheitskritischen Anwendungen wie autonomem Fahren einsetzt, muss Kennzeichnungspflichten, Risikoklassen und umfassende Dokumentationsanforderungen beachten, sonst drohen Bußgelder. Der kostenlose Umsetzungsleitfaden zur EU‑KI‑Verordnung erklärt praxisnah, wie Sie KI-Systeme korrekt klassifizieren, Nachweise vorbereiten und rechtssicher handeln. KI‑Verordnung: Umsetzungsleitfaden herunterladen

Doch selbst nach diesem Update meldeten Schulbeamte mindestens vier weitere Verstöße. Diese Wiederholungsfälle veranlassten die NTSB zum Einschreiten. Es ist das erste Mal, dass die Behörde, die normalerweise schwere Verkehrsunfälle untersucht, eine Untersuchung gegen Waymo einleitet.

Waymo verweist auf eigene Sicherheitsstatistik

Waymo betonte in einer Stellungnahme, dass aus den Vorfällen keine Kollisionen oder Verletzungen resultierten. Sicherheitschef Mauricio Peña erklärte, die Fahrzeuge bewältigten wöchentlich tausende Begegnungen mit Schulbussen sicher. Das System verbessere sich kontinuierlich.

Das Unternehmen kooperiere transparent mit den Behörden und sei überzeugt, dass seine Technologie in diesen Situationen sicherer sei als menschliche Fahrer. Waymo verweist auf Studien, wonach seine Fahrzeuge deutlich seltener in Unfälle mit Verletzten verwickelt seien.

Nagelprobe für die gesamte Roboterauto-Branche

Die doppelten Ermittlungen gegen einen Marktführer wie Waymo markieren einen Wendepunkt für die gesamte Branche. Der Fokus auf Schulbusse offenbart eine zentrale Schwachstelle der KI-Systeme: das korrekte Interpretieren und Reagieren auf komplexe, soziale Verkehrssignale – wie das Stopp-Schild eines Schulbusses.

Branchenbeobachter sehen weitreichende Folgen. Die Ergebnisse werden neue Maßstäbe für Sicherheit und Transparenz setzen. Die Vorfälle unterstreichen die immense Herausforderung, alle denkbaren Grenzfälle im öffentlichen Straßenverkehr zu programmieren. Für Waymo wird es entscheidend sein, eine dauerhafte Lösung vorzulegen, die Behörden und Öffentlichkeit überzeugt – besonders mit Blick auf die geplante Expansion in weitere Städte.

PS: Die laufenden Untersuchungen gegen Waymo zeigen, wie schnell KI‑Projekte regulatorisch unter Druck geraten können. Wer KI-Systeme entwickelt oder einsetzt, sollte vorbereitet sein: Der kostenlose Leitfaden zur EU‑KI‑Verordnung fasst Pflichten, Übergangsfristen und konkrete Handlungs‑Schritte zusammen – ideal für Unternehmen und Entwickler, die KI verantwortungsvoll betreiben wollen. Jetzt kostenlosen KI‑Leitfaden sichern