Ralf Krauter: Ende vergangener Woche hat der Bundestag ein Gesetz verabschiedet, das regelt, wie intensiv Kollege Computer Autofahrern künftig unter die Arme greifen darf. Es geht um Fahrerassistenzsysteme der nächsten Generation, die selbstständig bremsen, die Spur halten oder sie wechseln, um zu überholen, und zwar ohne dass der Mensch auf dem Fahrersitz dabei überhaupt noch die Hände am Steuer haben muss. Stattdessen könnte der künftig im Internet surfen oder E-Mails checken und müsste die Kontrolle über seinen Wagen erst dann wieder übernehmen, wenn der elektronische Beifahrer ihn dazu auffordert. Ebnet dieses Gesetz des Bundesverkehrsministers nun den Weg in die Zukunft vollständig autonom fahrender Autos? Oder ist das nur ein Trippelschritt auf dem Weg dahin? Darüber habe ich vor einer Stunde mit dem Technikphilosophen Prof. Armin Grunwald vom Karlsruher Zentrum für Technologie gesprochen, der das Büro für Technikfolgenabschätzung beim deutschen Bundestag leitet.
Ich wollte von ihm wissen, ob heutige Fahrerassistenzsysteme schon so ausgereift sind, dass er beim Autofahren die Hände vom Steuer nehmen würde. Etwa, um E-Mails zu lesen.
Armin Grunwald: Also heute würde ich das nicht tun. Es gibt wohl Autos, wo man es scheinbar schon tun kann, ich habe selber noch nicht in einem solchen gesessen. Heute ist das Fahren schon stark unterstützt durch Technik, aber so, dass man sagen könnte, das Fahrzeug fährt von alleine, das ist noch Zukunftsmusik.
"Hoffnungen typische Unfallursachen aus der Welt zu schaffen"
Krauter: Aber das ist ja genau die Zukunftsmusik, die das jetzt verabschiedete Gesetz des Verkehrsministers adressieren soll und da den rechtlichen Rahmen dafür ebnen soll.
Grunwald: Das ist wahr, und hier gibt es einige große Argumente, warum man das möchte, dass diese Technik überhaupt erst mal entwickelt wird. Das ist natürlich zum einen ein ökonomisches Argument, die Automobilindustrie ist für Deutschland sehr wichtig, und wenn es weltweit einen Trend hierzu gibt, dann will man natürlich auch dabei sein. Es gibt aber auch das große Argument mit der Ethik, mit den vielen Verkehrsunfällen. Wir haben immer noch etwa 3.500 Verkehrstote pro Jahr in Deutschland, Tausende von Schwerstverletzten, unglaublich viele Unfälle, und wenn es gelingen könnte – und da bestehen ja durchaus realistische Hoffnungen mit automatisiertem Fahren –, einige der typischen Unfallursachen aus der Welt zu schaffen, wie Betrunkene am Steuer, Aggressivität, Abgelenktwerden und so weiter, dann ist das durchaus auch ein ethisches Argument für diese Technologie.
"Der Mensch ist ein schlechter Überwacher"
Krauter: Im Gesetz steht ja, dass der Fahrer, der also dann künftig zum Beispiel E-Mails schreiben dürfte, während er auf der Autobahn unterwegs ist und das Lenkrad loslassen darf, dass der dann mit einer bestimmten Zeitreserve gewarnt werden müsste. Wenn es zum Beispiel eine Fehlfunktion bei seinen Assistenzsystemen gibt, dann müsste er wieder die Kontrolle übernehmen. Aber über welchen Zeithorizont reden wir da eigentlich in dieser kritischen Übergangsphase? Schon bei fünf Sekunden mit Tempo 120 ist so ein Wagen ja 150 Meter weit gerast, da kann ziemlich viel schiefgehen, oder?
Grunwald: Ja, ganz genau, und manchmal werden auch zehn Sekunden genannt, und wenn Sie mal langsam von eins bis zehn zählen und sich vorstellen, Sie fahren irgendwo oder auch im Stadtverkehr, wenn Sie da recht langsam fahren, ist das trotzdem viel zu lange für eine unerwartete Notfallsituation. Das geht nur, wenn die Technik so gut entwickelt ist, dass solche Notfallübergabesituationen überhaupt nicht mehr vorkommen. Das heißt also, die Technik, der Computer muss immer über sich selbst Bescheid wissen, muss über die Verkehrssituation Bescheid wissen und sofort erkennen, wenn das automatische System vielleicht die Kontrolle, die Sicherheit nicht mehr gewährleisten könnte. Dann muss sofort ein sogenannter sicherer Zustand hergestellt werden, das heißt, das Fahrzeug muss abgebremst werden und rechts ranfahren. Man kann den Menschen nicht dazu verdonnern, dauernd neben dem Computer zu sitzen und aufzupassen, denn dann hätte er nichts davon, weil dann dürfte er gar nichts anderes mehr machen. Und zweitens sagt man auch, sagen die Psychologen, der Mensch ist ein schlechter Überwacher. Wenn er nur dasitzen und überwachen muss, dann wird er das nur sehr nachlässig tun. Die Technik – und das ist ganz harte Anforderung in diesem Gesetz – muss es schaffen, die Notfallübergabe an den Menschen unnötig zu machen. Das ist die Herausforderung.
"Es muss alles aufgezeichnet werden"
Krauter: Der Verkehrsminister Alexander Dobrindt hat gesagt, wenn der Computer fährt, dann haftet auch der Hersteller, wenn das Auto einen Unfall bauen sollte. Kritiker warnen jetzt aber, am Ende könnte der Schwarze Peter dann vielleicht doch wieder beim Fahrer landen, eben weil die Hersteller im Zweifel die besseren Anwälte haben. Sehen Sie diese Gefahr auch?
Grunwald: Eigentlich nicht. Voraussetzung ist aber, dass die Technik sehr genau die Unterscheidung trifft, wer ist jetzt gerade zuständig. Es muss immer, zu jeder Millisekunde, klar sein, ist der menschliche Fahrer in der Verantwortung oder hat die Maschine übernommen. Dazwischen muss hin- und hergeschaltet werden, es muss dokumentiert werden, wer wann die Zuständigkeit hatte, und dann ist auch eigentlich klar, wo die Haftung liegt. Da nützen auch die teuren Anwälte nichts, wenn klar ist, dass der Computer da einen Fehler gemacht hat oder so etwas.
Krauter: Und wer sozusagen dann das Steuer in der Hand hält, das würde die Black Box registrieren, die vorgeschrieben werden soll für solche automatisiert fahrenden Autos.
Grunwald: Genau, es muss alles aufgezeichnet werden, vor allen Dingen natürlich aus den eben genannten rechtlichen Gründen, aber auch zum Beispiel im Falle irgendwelcher Probleme, dass man genau nachvollziehen kann, woher das Problem gekommen ist, um es dann in einer nächsten Version der Software zum Beispiel beheben zu können.
Krauter: Sie selbst sind ja auch Mitglied der Ethikkommission für autonomes und vernetztes Fahren, die im Sommer Empfehlungen in Sachen hoch automatisiertes Fahren vorlegen soll. Da geht es dann wirklich um komplett selbstfahrende Autos auch. Wie weit sind die denn von der Praxis entfernt?
Grunwald: Da muss man jetzt schauen, welche Anwendungsfelder man sich vor Augen führt. Wenn ich mir einen komplexen Stadtverkehr in, ich sag mal, Neapel vorstelle, wo alles durcheinander fährt und gleichzeitig, da ist die autonome Technik noch sehr weit von entfernt. Aber wenn Sie ein Auto zum Beispiel am Eingang eines Parkhauses abgeben und das Auto sucht sich selbst einen Parkplatz, und wenn Sie es wiederhaben wollen, schicken Sie dem Auto eine SMS und es kommt von selbst zurück zum vereinbarten Einsteigort, dann dürfte das relativ bald gehen. Oder Kolonnenverkehr auf der Autobahn: Die Autobahn ist ein relativ einfaches System für den Verkehr – kein Gegenverkehr, keine Kinder –, und da kann man mit Abstandshaltern, mit einer mäßigen Geschwindigkeit praktisch Kolonnenfahren umsetzen, das ist praktisch schon heute möglich.
"Eine hohe Herausforderung an die Informatik"
Krauter: Die beeindruckenden Fortschritte bei den richtig autonom fahrenden Autos, die wurden ja unter anderem möglich durch das sogenannte Deep Learning. Da geht es also um selbst lernende Algorithmen, die zum Beispiel bei dem Google-Chaos auch zum Einsatz kommen, bei denen die Programmierer am Ende aber gar nicht mehr 100-prozentig genau wissen, wie sich der Autopilot in kritischen Situationen verhalten wird. Wie verhindert man, dass so eine selbst lernende Maschine eventuell eine falsche Verkehrsregel lernt, die dann unter Umständen vielleicht tödliche Folgen für andere hat?
Grunwald: Das ist ein ganz, ganz wichtiger Punkt. Lernen ist ja nicht automatisch positiv, sondern das kann eben auch, wie Sie sagen, eine schlechte Entwicklung gelernt werden. Dazu wird es notwendig sein, dass die Computerindustrie, die solche Programme entwickelt, auch Prüfprogramme entwickelt. Es kann zum Beispiel sein, dass immer, wenn ein vollautonomes Fahrzeug gestartet wird, zunächst einmal eine Verbindung, eine Internetverbindung zum Prüflabor hergestellt wird, und dort wird mal schnell eine Softwareprüfung gemacht, ob das Programm in Ordnung ist – eine hohe Herausforderung an die Informatik, an die Algorithmenhersteller, aber solche Überprüfungen werden sein müssen.
Krauter: Über automatisierte und autonome Autos und die juristischen und ethischen Fragen, die sie aufwerfen, sprach ich mit dem Technikphilosophen Prof. Armin Grunwald vom KIT, dem KarIsruher Institut für Technologie.
Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. Der Deutschlandfunk macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.
