Wer übernimmt die Verantwortung?

Seit fast zwei Jahren kurven auf den Strassen von Sion zwei autonome Shuttles der Postauto AG herum. Mit mehreren Sensoren nehmen sie ihre Umgebung wahr und steuern durch die Gassen der Altstadt. Nur Ausweichen können sie bisher noch nicht. Darum geht es manchmal ohne HIlfe nicht mehr weiter und eine Pilotin an Bord muss das Steuer in die Hand nehmen.

In allen anderen Fällen ist der Bus auf sich alleine gestellt. Algorithmen entscheiden, welche Geschwindigkeit angemessen ist und ob ein Abbiegen sicher ist. Überall auf der Welt gibt es mittlerweile unterschiedlich selbstständige Autos und Busse. Manche brauchen wie die Shuttles in Sion noch viel Überwachung, andere fahren auf der Autobahn schon völlig ohne Kontrolle. In den letzten Jahren führte das zu mehreren tödlichen Unfällen, weil die Algorithmen versagten oder die Aufsichtspflicht der FahrerInnen verletzt wurde. So übersahen die Sensoren eines Tesla im Mai 2016 einen weissen Lastwagen und ein Testfahrzeug von Uber im März 2018 eine Fussgängerin.

Sicherheit, Dilemmas und die Frage der Verantwortung

Wenn Maschinen plötzlich autonom werden, selber Entscheidungen fällen und in einer mit Menschen geteilten Welt agieren, stellen sich unweigerlich ethische Fragen. Wie sicher sind selbstfahrende Fahrzeuge? Wie entscheiden sie in Konfliktsituationen? Wie werden die Daten weiterverwendet? Solche schwerwiegenden Fragen müssen beantwortet werden, bevor wir selbstfahrende Fahrzeuge auf die Strasse lassen. Denn sobald eine gewisse Stufe der Autonomie erreicht ist, müssen wir darauf vertrauen, dass die autonomen Systeme angemessene und ethische Entscheidungen fällen. Auch in Konfliktsituationen. Dies vor allem, weil autonome Systemen fast immer auch lernende Maschinen sind, die unvorhergesehene Prinzipien und Verhaltensmuster entwickeln können.

Doch es gibt auch noch weitere Aspekte, die durch die fortschreitende Autonomisierung tangiert werden. Denn es drohen Arbeitsverluste in der Logistikbranche und eine radikale Transformation des Individualverkehrs. Auch hier müssen vernünftige Zukunftsstrategien entwickelt werden, damit die Innovation nicht im Blindflug voranschreitet.

Grundsätzlich können autonome Systeme jedoch auch die Sicherheit erhöhen. Denn sie eliminieren menschliche Faktoren wie Unaufmerksamkeit oder Überforderung. Ein selbstfahrendes Fahrzeug wird niemals müde und übersieht nichts. So schätzen Befürworterinnen, dass eine Reduktion der tödlichen Unfälle um 90% möglich sein könnte. Das ist auch dringend nötig, denn Menschen erwarten, dass mindestens 75% der Unfälle durch autonome Fahrzeuge verhindert werden.

Trotzdem können wir nicht darauf hoffen, dass niemals Fehler oder Unfälle geschehen. Darum ist es nötig, zu klären, wer bei einem unweigerlich eintretenden Unfall die ethische Verantwortung trägt. Ist es die Fahrerin, der Hersteller, der Anbieter, die Programmiererin, die Zulassungsstelle oder vielleicht gar das Fahrzeug selbst? Zumindest rechtlich liegt die Verantwortung heute immer noch bei der Fahrerin, denn fast alle Autos sind noch nicht vollständig autonom. Aber es wird viel komplizierter, wenn Fahrzeuge einmal fast oder ganz autonom sind.

Wer haftet bei Unfällen?

Wie sieht die Zukunft aus? Bereits heute sind wir für die Fehler eines unverschuldet defekten Geräts nicht verantwortlich. Wenn die Bremsen meines Autos aufgrund eines Konstruktionsfehlers versagen, haftet der Hersteller. Bei selbstfahrenden Fahrzeugen ziehen sich diese jedoch meistens aus der Verantwortung. So müssen Fahrerinnen und Fahrer immer ihre Hände am Steuer halten, auch wenn der Autopilot aktiviert ist.

Die Unfälle zeigen, dass die technischen Fähigkeiten der autonomen Autos bereits heute überschätzt werden. Hier müssen diejenigen Firmen aktiv werden, welche selbstfahrende Fahrzeuge entwickeln und zu Testzwecken auf die Strasse bringen. Dies meint auch Melinda Lohmann in einem Artikel in der NZZ: «Dies erscheint gerechtfertigt, zumal der Hersteller durch eine sorgfältige Produktentwicklung und Produktbeobachtung die Risiken minimieren kann und in erheblichem Masse von der Vermarktung des Produkts profitiert.»

Doch es gibt auch noch weitere Aspekte, die durch die fortschreitende Autonomisierung tangiert werden. Denn es drohen Arbeitsverluste in der Logistikbranche und eine radikale Transformation des Individualverkehrs. Auch hier müssen vernünftige Zukunftsstrategien entwickelt werden, damit die Innovation nicht im Blindflug voranschreitet. Einen Ansatz dazu bietet die «Charta Automaticar» der mobilitätsakademie. Diese fordert zum Beispiel ein «umfassendes Risikomanagement seitens der Industrie, eine kontinuierliche Weiterentwicklung regulatorischer Rahmenbedingungen, eine intensive sozialwissenschaftliche Erforschung und gesellschaftspolitische Diskussion sämtlicher Aspekte und Wirkungen selbstfahrender Fahrzeuge».