Wie sicher ist es, sicher genug zu sein?

Als ich letzte Woche nach Las Vegas ging, ging ich weder in den Club, noch spielte ich, noch nahm ich an der Show teil. Dies sind die Aktivitäten einer anderen Reise. Diesmal habe ich an der car IQ Systemsicherheitskonferenz teilgenommen. Ich traf Ingenieure, Automanager und Computerprogrammierer, die die gleichen Bedenken hinsichtlich selbstfahrender Autos teilten: Wie sicher ist es?

Unternehmen wie Uber und Tesla führen autonome Technologien schneller ein, als es der Industrie und den Bürgern lieb ist.

Dadurch erzwingen sie die Einführung dieser Systeme und stiften ein Wettrüsten in der Fahrzeugtechnologie an. Es reicht nicht mehr aus, den ergonomischsten Getränkehalter zu haben, wenn Ihr Auto nicht mit der fortschrittlichen Fahrerassistenztechnologie eines Wettbewerbers mithalten kann. Aber die Einführung dieser Technologie auf so aggressive Weise bereitet vielen Sorgen. Wie bei vielen hochmodernen Innovationen wird es Verluste und Kosten geben.

Ihre Aufgabe in Las Vegas bestand also darin, den Standard für eine akzeptable Sicherheit in der Zukunft festzulegen.

Aufrichtige Menschen, ernüchternde Statistiken

Standards setzen

Überbrückung von Lücken

Aufrichtige Menschen, ernüchternde Statistiken

Es war beeindruckend zu sehen, wie ernsthaft sich diese Leute um die Fahrzeugsicherheit kümmern und das nicht nur aus haftungsrechtlicher Sicht. Es war beruhigend zu erfahren, mit welchen Problemen sie sich befassten. Dies waren sehr kluge Leute, die sich sehr um sie kümmerten und die Mittel hatten, alle notwendigen Vorkehrungen zu treffen. Aber das Thema ist komplex und wird sich wahrscheinlich im Laufe der Zeit weiterentwickeln. Es gab jedoch einige Ansatzpunkte.

Erstens gibt es weltweit etwa 1,3 Millionen fahrzeugbedingte Todesfälle pro Jahr. Irgendwie ist das akzeptabel geworden. Wenn dieser Standard auf einen anderen Sektor der Gesellschaft übertragen würde, wäre das empörend. Wenn zum Beispiel jedes Jahr 1,3 Millionen Menschen durch Flugzeugabstürze sterben würden, würde niemand fliegen. Doch irgendwie geben wir Teenagern die Schlüssel für ein Auto und stellen fest, dass das nur der Preis des Erwachsenwerdens ist. Wenn wir uns die Unfälle pro gefahrener Meile ansehen, haben aktuelle autonome Testfahrzeuge und abenteuerlustige Besitzer von Autos mit fortschrittlichen Fahrerassistenzfunktionen gezeigt, dass die Technologie nur halb so riskant ist wie von Menschen gesteuerte Autos. Das bedeutet, dass ein autonomes Fahrzeug doppelt so weit fährt, bevor es zu einem tödlichen Unfall kommt, als ein Mensch.

Ist das gut genug? Nicht nach denen auf der Konferenz und wahrscheinlich nicht nach den Durchschnittsbürgern. Irgendwie ist ein Roboterauto, das Sie halb so wahrscheinlich tötet wie ein von Menschen angetriebenes Auto, nicht sicher genug.

Standards setzen

Um dahin zu gelangen, wo wir etwas als akzeptabel sicher betrachten, müssen wir unsere Risikotoleranz finden. Zum Beispiel wollen wir nicht, dass autonome Fahrzeuge nur sicherer sind als der Durchschnittsfahrer, denn dazu gehören betrunkene Fahrer, abgelenkte Fahrer, junge Fahrer, alte Fahrer und aggressive Fahrer. Der Standard muss sein, wie viel sicherer autonomes Fahren ist als gute Fahrer. Wenn wir die oben genannten Unterkategorien von Fahrern eliminieren, bleiben etwa zehn Prozent der Verkehrstoten weltweit, die „guten Fahrern“ passieren, d. h. Menschen, die nicht betrunken, abgelenkt, neu, unfähig oder unangemessen gefahren sind.

Um zu bestimmen, wie viel sicherer autonome Fahrzeuge sein müssten als gute Fahrer, um tolerierbar zu sein, ist es hilfreich, sich andere Sicherheitsstandards anzusehen. Wie sicher muss beispielsweise Wasser sein, um als sicher zu gelten? Wenn Wissenschaftler von Teilen pro Million eines bestimmten Elements sprechen, geht es den Durchschnittsmenschen verloren. Aber wenn uns gesagt wird, dass diese Verschmutzungsgrade einen von 100.000 Menschen oder einen von einer Million im Laufe des Lebens töten werden, scheint das in den Vereinigten Staaten akzeptabel zu sein. Diese Zahlen bestimmen oft unsere Umweltverschmutzungs- und Sicherheitsstandards.

Wenn Sie dies in die Statistiken zu Fahrzeugtoten einbeziehen, kann dies dazu beitragen, einen sichereren Standard zu schaffen. Damit autonome Fahrzeuge wirklich als sicher akzeptiert und massenhaft eingeführt werden, müssen sie hundertmal sicherer sein als ein gut fahrender Mensch. Wenn dies erreicht werden sollte, und die meisten auf der Konferenz schlugen vor, dass die Technologie sehr nah ist, würde dies bedeuten, dass die jährlichen Todesfälle, sobald sie implementiert sind, von 1,3 Millionen pro Jahr auf 1.300 sinken würden, wenn alle Autos ohne Piloten gefahren würden. Mit einem solchen automatisierten System würde dies Dinge wie tödliche Unfälle mit Trunkenheit am Steuer eliminieren.

Überbrückung von Lücken

Wir wissen jedoch, dass es bei der Einführung der autonomen Fahrtechnologie keine einfache Umstellung geben wird. Menschliche Piloten werden neben Roboterautos koexistieren, und jedes selbstfahrende Fahrzeug, das in einen Unfall verwickelt ist oder einen Unfall verursacht, wird viel mehr Tinte abbekommen als seine menschlichen Gegenstücke. Diese Aufmerksamkeit wird unsere Einführung der fahrerlosen Technologie zweifellos verstärken. Aber wir müssen auch erkennen, dass mit der Verzögerung Opportunitätskosten verbunden sind.

Wenn die fahrerlose Technologie einfach doppelt so sicher wird wie der Mensch, dann kann man mit Fug und Recht sagen, dass die Hälfte der Menschenleben, die durch Verkehrstote ums Leben kamen, vielleicht überlebt hätten, wenn wir umgestellt hätten. Das Problem bei dieser Mathematik ist, dass es keine Haftung für Technologie gibt, die keine Leben gerettet hat. Es ist für Menschenleben reserviert, die durch die Technologie verloren gegangen sind. Dies fügt dem Widerstand eine weitere Ebene hinzu, da wir uns langsam immer wohler mit der Software fühlen, die unsere Autos fährt.

Halten Sie also Ihre Fackeln und Mistgabeln bereit, denn autonom fahrende Fahrzeuge kommen. Es wird Unfälle geben und es wird Opfer geben. Aber bevor Sie ein autonomes Auto in Brand setzen oder die Reifen zerstechen, denken Sie daran, dass es gute, gewissenhafte und sehr kluge Leute gibt, die unermüdlich daran arbeiten, sich gegen alle Eventualitäten abzusichern.

Aber wie bei Menschen wissen wir, dass nichts narrensicher ist. Zumindest jetzt noch nicht.

Jerry Mooney ist Professor für Sprache und Kommunikation am College of Idaho und Autor von History Yoghurt & der Mond. Folgen Sie ihm auf Twitter: @JerryMooney

Whiteboard-Foto: Sarah Ruddat, Direktorin des Auto IQ-Programms