Wer hat das Steuer im Griff?

So stellt man sich ein Lab im Silicon Valley vor. Tische und Regale, übersät mit Rechnern, Elektronik, Drohnen; Charts und Diagramme bedecken die Wände; in den Ecken Roboter. Aber Ledersofas à la Wohngemeinschaft und eine riesige Küche beweisen, dass in Roland Siegwarts Zürcher ETH-Institut für Autonome Systeme und Robotik noch immer die Menschen im Mittelpunkt stehen. Wir wollen mit ihm und dem Verhaltensökonomen Andreas Staub vom Zürcher Beratungsunternehmen Fehr Advice über das trendigste Thema der Mobilitätsbranche sprechen: Wann werden wir in autonomen Fahrzeugen die Hände vom Steuer lassen können? Und wie wird künstliche Intelligenz unsere Mobilität und damit die Gesellschaft verändern?

Tesla-Chef Elon Musk hat für 2020 autonome Taxis angekündigt. Würden Sie mitfahren? 

Andreas Staub: Auf Teststrecken, die das Taxi kennt, ja. Aber wenn man es irgendwo einsetzen würde und das Datenmaterial der Steuerung unverändert bliebe, müsste ich mir das überlegen.

Roland Siegwart: Hätte der Tesla Laser-Sensoren, und gäbe es digitale Karten des Gebiets, dann könnte man das Risiko schon eingehen.

Die Technik scheint also bereit zu sein. Welche Rolle spielt künstliche Intelligenz (KI) dabei?

R. S.: Moment! Nebel, Schnee, Regen – wenn es für uns schwierig wird mit der Wahrnehmung, wirds auch fürs Auto schwierig. Und wir müssen ihm noch beibringen, Objekte zu erkennen.

A. S.: Das bedingt die Verarbeitung einer Unmenge neuer Daten. Dazu nutzt man Lernalgorithmen, also KI.

Autonome Autos erschliessen sich ihre Umgebung also selbst? 

R. S.: Sie verfügen über digitale Modelle ihrer Umwelt. Sie wissen genau, wo sie sind, wo sie fahren dürfen und wo nicht. Prinzipiell sind sie regelbasierte Systeme: Der Regler hält das Auto in der Mitte der Strasse und
weiss, dass man die rechte Spur benutzt.

Welchen Sinn hat überhaupt autonomes Fahren?

A. S.: Der Verkehr wird effizienter, und es wird massiv weniger Unfälle geben. Menschliches Fehlverhalten ist der Hauptverursacher von Staus und rund 90 Prozent der tödlichen Unfälle.

R. S.: Autonome Fahrzeuge ermöglichen neue Mobilitätsmodelle. Man könnte sie zum Beispiel bevorzugen, um die gleiche Infrastruktur besser zu nutzen: Mit mindestens drei Leuten im Auto darf man auf die Überholspur – sonst nicht. Autonome Autos können auch schnell dorthin geschickt werden, wo sie gerade gebraucht werden.

Wie gut funktioniert die Objekterkennung schon? 

R. S.: Wir haben das beste heute existierende neuronale Netzwerk, das auf die Erkennung von Strassen, Bäumen, Häusern, Trottoirs und Menschen trainiert wurde, mit Schafen und Pferden auf der Strasse konfrontiert, die vorher nicht gelernt wurden. Das System hat nicht bemerkt, dass da etwas Unbekanntes ist und es besser stoppen sollte. Pferde und Schafe wurden einfach als Strasse klassifiziert. Das heisst: Bei der zuverlässigen Erkennung und Beurteilung von unbekannten Situationen stecken wir noch mitten in der Forschung. Ein Plastiksack auf der Strasse? Da muss ich keine Vollbremsung machen. Beim Schaf schon.

Agieren autonome Autos ähnlich wie Menschen?

R. S.: Algorithmen sind oft nach Konzepten gebaut, die auch Menschen nutzen. Wenn eine Person plötzlich auf die Strasse springt,  wirkt beim Auto wie beim Menschen der Bremsreflex.

A. S.: Auch das Auto lernt aus Erfahrung, aber viel konsequenter. Menschen können den gleichen Fehler mehrfach machen oder bauen schlechte Gewohnheiten wie Fahren unter Alkohol auf. Bei der Maschine kann man davon ausgehen, dass sie Fehler nur einmal macht. 

R. S.: Im Gegensatz zu Menschen können autonome Fahrzeuge über direkte Vernetzung ihre Erfahrung auch einfach mit anderen Fahrzeugen teilen.

Wie stehts mit Verkehrsregeln?

R. S.: Ein einfaches Beispiel: Ein Lieferwagen steht zum Ausladen halb auf der Strasse, die Mittellinie ist voll durchgezogen. Da wartet niemand ab, sondern fährt vorbei, wenn Platz ist. Ein heutiges autonomes Auto bleibt stur stehen. Es hält sich immer an die Regeln. Es muss lernen, sie manchmal sinnvollerweise zu missachten.

Kann man dem Lernprozess der KI Grenzen setzen?

R. S.: Ein System lernt nur auf Basis der Daten, die wir vorgeben. Was es auf den Strassen einer US-Stadt gelernt hat, kann es in europäischen Städten nicht umsetzen, weil sie anders strukturiert sind. Autonome Autos würden am Central keine Unfälle bauen, sondern den Verkehr blockieren, weil es eng ist, viele kreuz und quer unterwegs sind und ihnen der Freiraum fehlt.

Kann sich KI verselbständigen?

A. S.: Wieso sollten nicht morgen Autos so intelligent sein, dass sie selbst einen Taxidienst anbieten? Sie lassen sich ab und zu waschen und laden und agieren autonom. Nun gut, bis dahin werden wohl noch 100 Jahre vergehen.

R. S.: Noch sind wir in der Kommandozentrale, und ich hoffe, wir bleiben drin. Eine Maschine hat noch nie einen Selbstverwirklichungstrieb entwickelt.

A. S.: Die Systeme heute sind One-Trick-Ponys. Sie können Schachspielen oder Katzen erkennen oder sogar operieren. Ansonsten sind sie dumm. Was darüber hinausgeht, ist Fantasie. Spannend, aber Fantasie.

Aber Algorithmen entwickeln sich doch sicher weiter?

R. S.: Die Algorithmen gibt es seit gut 30 Jahren, ohne grosse Fortschritte. Aber die Menge der zugrunde liegenden Daten hat sich massiv erhöht, ebenso die verfügbare Rechenleistung.

A. S.: Viel wichtiger ist eine gesellschaftliche Frage: Welches Verhalten der Maschinen wollen wir eigentlich? Wenn ein autonomes Auto aus der Schweiz nach Frankreich fährt, unterliegt es dort anderen sozialen Normen? Es wird sich in anderen kulturellen Kontexten anders verhalten müssen.

Inwiefern?

A. S.: Durch KI steht der Mensch noch viel deutlicher im Mittelpunkt. Damit die Maschine sich so verhält, wie wir das für richtig befinden, müssen wir selbst uns erst einmal darüber klar werden, was wir für richtig halten. Soll der autonome Bus in die Seniorengruppe, die Kinderschar oder samt Passagieren in die Mauer fahren, wenn der Unfall unvermeidlich ist? Darauf geben soziale Gruppen individuelle Antworten. Aber wir brauchen eine Antwort der Gesellschaft. Die wichtige Erkenntnis der aktuellen KI-Forschung sind nicht neue Algorithmen, sondern dass wir uns mit menschlichem Verhalten beschäftigen müssen.

Wer ist schuld beim Unfall – Auto oder Fahrer? 

A. S.: Nehmen wir an, wir haben beide ein selbst fahrendes Auto, direkt ab Werk. Sie fahren damit zwei Jahre, und ich auch. Es kann sein, dass sich mein Auto danach anders verhält als Ihres. Wer ist dann beim Unfall verantwortlich? Der Autobauer? Oder ich? Denn das Auto hat ja von mir gelernt.

Was sagen die Versicherungen?

R. S.: Ihnen ist das gleich. Es muss nur klar definiert sein. Wenn ein Auto technisch ausfällt, tritt heute schon der Hersteller dafür ein. Es könnte sein, dass die Hersteller die Besitzer bleiben und den Service selbst anbieten.

Wird noch Raum zum Selberfahren bleiben?

R. S.: Das Einfachste wäre ein festgelegter Tag X – und schon gibt es nur noch autonome Fahrzeuge. Der Mischverkehr von autonomen und fahrergesteuerten Autos ist schwierig, weil erstere das oft eigenwillige Verhalten von Menschen kaum voraussehen können.

A. S.: Wenn der Begriff «autonomes Fahren» die Beschneidung der Autonomie des Menschen impliziert, wird die Politik dafür sorgen, dass man uns das Auto nicht wegnehmen wird. Man wird noch selber fahren dürfen.

R. S.: Ich bin überzeugt, dass wir in 30 Jahren diskutieren werden, ob Menschen noch fahren sollen. Autonome Autos werden viel sicherer sein.

Diskutiert die Schweiz über KI?

A. S.: Ich vermisse eine Diskussion zur Zukunft des Wirtschaftsstandorts Schweiz. Ich spüre zu wenig Energie für den Einsatz von KI, aber ich würde mir eine Leaderposition für die Schweiz wünschen.

R. S.: Zustimmung. Autonome Technologien sind hoch komplexe Systeme, und darin war die Schweiz immer gut. Wir haben die richtigen Hochschulen und die richtige Industrie. Und wir haben schon viel geschafft, im Gegensatz zu anderen Ländern. Nehmen wir den autonomen Bus in Sion – in anderen Ländern wäre er noch nicht möglich.

Sollten wir mehr Tests wagen?

A. S.: Definitiv.

R. S.: Ich glaube nicht. Grundsätzlich sind weltweit schon viele Testfahrzeuge unterwegs. Aber viele Fragen sind noch offen. Wir müssen sie beantworten, ohne zu grosse Risiken einzugehen. Es gibt nicht einmal Klarheit, wie man autonome Autos zulassen soll.

A. S.: Einverstanden. Aber wenn man autonome Autos als Teil der Gesellschaft will, dann wird man Akzeptanz nicht nur aus dem Labor schaffen können. Man könnte in einem begrenzten Stadtquartier oder Dorf rein autonomes Fahren einmal ausprobieren.

Also: Tests im realen Verkehr.

R. S.: In den USA kommt auf 100 Millionen gefahrene Kilometer ein tödlicher Unfall. Für den Nachweis, dass Fahrzeuge autonom sicherer unterwegs sind, müsste man 300 Millionen Kilometer ohne Unfall fahren. Das wären Hunderte Fahrzeuge – jahrelang unterwegs, um ihre Sicherheit zu beweisen. Simulationen sind der einfachere Weg.

A. S.: Aber ohne Praxistests sieht der Mensch den Sinn nicht. Für viele ist der Besitz wichtig. Wozu teilen? Zweitens überschätzt er sich. Wir sehen uns ja alle als Super-Autofahrer …

R. S.: Zumindest die Männer.

A. S.: … genau (lacht). Und drittens können wir Risiken nicht adäquat einschätzen. Bei Maschinen gilt Null-Fehler-Toleranz. Bei einem Unfall mit einem autonomen Auto herrscht maximaler Aufruhr. Aber samstags nach dem Ausgang hat es zahllose alkoholisierte Fahrer auf der Strasse. Wo ist das Risiko höher?

Wie kann dann Akzeptanz für autonome Autos entstehen?

R. S.: Ich glaube, dass die Menschen schnell auf solche Technologien anspringen. Eines Tages werden wir keine Privatfahrzeuge mehr haben, sondern nur noch autonome Taxis, die bei gleichem Komfort umweltschonender und preisgünstiger unterwegs sind. Dazu sind aber gesellschaftliche Entscheidungen in diese Richtung nötig.

A. S.: In dieser Vision habe ich aber das gleiche Auto wie mein Nachbar. Das ist für viele eine Katastrophe, wenn sie sich nicht mehr über den grossen Chlapf unterscheiden können.

R. S.: Meine Studierenden sind schon darüber hinweg. Sie nutzen immer das bestgeeignete Verkehrsmittel – Uber, Flugzeug, Zug, Mietwagen.

Könnten unausgereifte Systeme auf die Strasse kommen?

R. S.: Ganz klar, ja.

A. S.: Die Einführung von Assistenten auf Level 1 und 2 (siehe Box) war einfach. Auf Level 3 agieren Mensch und Maschine aber abwechselnd. Dabei kann man Fehler nicht verhindern.

R. S.: Manche Experten – ich gehöre dazu – sagen, Level 3 ist gefährlich, das sollte man eigentlich nicht zulassen. Nicht, solange man noch immer parat sein muss, um innerhalb von zehn Sekunden übernehmen zu können.

A. S.: Die Akzeptanz ist auch nicht gegeben. Ich setze mich doch nicht in ein selbst fahrendes Auto und hocke dann angespannt hinter dem Steuer. Da kann ich ja gleich selbst fahren.

Weckt die Autoindustrie zu hohe Erwartungen?

A. S.: Zurzeit buchstabiert man wieder zurück; Stand heute soll autonomes Fahren ab 2030 plus möglich sein.

R. S.: Viele Firmen haben mit dem Versprechen des autonomen Fahrens ihr Businessmodell getrieben. Von der Idee bis zur Markteinführung braucht neue Technologie typischerweise aber zehn Jahre. Das geht nicht schneller.

Also: Ab wann werden wir autonom fahren?

A. S.: Frühestens in zehn Jahren.

R. S.: Wenn ich so alt werde wie mein Vater, dann hoffe ich, dass mich schon autonome Fahrzeuge zu den Enkeln chauffieren werden.

Wie alt wurde Ihr Vater?

R. S.: Über 90. Wir haben also noch rund 30 Jahre Zeit dafür.