From the magazine recht 2/2015 | S. 109-110 The following page is 109

Law & Robots «Im Auto sind jetzt schon alle Cyborgs» Workshop am 12. März 2015 an der Juristischen Fakultät Basel

Die Technikentwicklung der letzten zehn Jahre hat uns den serienmässigen Einbau von Einparkhilfen gebracht, Autopiloten sind auf dem Vormarsch, und die Diskussion um Chancen und Risiken selbstfahrender Fahrzeuge ist in Gang. Nicht nur in den Rechts- und Technikwissenschaften, sondern auch in der Zivilgesellschaft wirkt die Idee vom autonomen Auto als Katalysator der Grundsatzdiskussion über den Einsatz von Robotern im Alltag. Im März 2015 analysierte ein von Prof. Dr. Sabine Gless und Prof. Dr. Herbert Zech organisierter Workshop an der Universität Basel genau diese Schnittstelle von Mensch und Technik am Beispiel autonomer Fahrzeuge unter verschiedenen Gesichtspunkten: Ein erstes Panel beschäftigte sich mit Haftungskonzepten beim Einsatz autonomer Autos – ausgehend von der Prämisse, dass der Rechtssicherheit eine Schlüsselrolle für die gesellschaftliche Nutzung von Innovationen zukommt. Probleme der Standardisierung und der Versicherbarkeit von Haftungsrisiken, die aus der Interaktion von Menschen mit Robotern entstehen, waren Gegenstand des zweiten Panels, während das dritte Panel grundsätzliche und disziplinüberschreitende Aspekte der Automatisierung im Strassenverkehr beleuchtete.

Auf Sicherheitsrisiken in Zusammenhang mit autonomem Fahren wies in eindrücklicher Weise Dr. Dominik Hermann von der Universität Hamburg hin. Er erläuterte das Missbrauchspotenzial, das sich aus der Möglichkeit der Täuschung der Verkehrszeichenerkennung eines autonomen Fahrzeugs und der Manipulation der zur Orientierung verwendeten zentimetergenauen Karten ergeben kann. Er wies aber gleichzeitig auf die zahlreichen Vorteile hin, welche die Autonomisierung der Fahrzeuge bereit hält, namentlich die Möglichkeit der Unfallverhütung durch automatische Gefahrenerkennung und Kommunikation unter den autonomen Fahrzeugen. Insgesamt betonte Dominik Herrmann abschliessend noch einmal die erheblichen datenschutzrechtlichen Probleme, die sich aus der Technologie an sich ergeben, unter anderem der Verwendung zahlreicher Kameras an den Fahrzeugen, sowie aus der Notwendigkeit einer Kommunikation untereinander.

Prof. Claus-D. Müller-Hengstenberg und Prof. Dr. Stefan Kirn von der Universität Hohenheim verdeutlichten den Unterschied zwischen Automation und Autonomik und dessen Einfluss auf Haftungsfragen. Bei der Automation hat ein System vordefinierte Verhaltenseigenschaften (z.B. ein Roboter setzt in einer Fertigungsstrasse gewisse Teile zusammen), Umwelteinflüsse sind kontrollierbar. Bei einem Schaden stellen sich aufgrund der Vorhersehbarkeit der Verhaltensweisen des automatisierten Systems kaum neue haftungsrechtliche Probleme. Bei der Autonomik dagegen trifft «Künstliche Intelligenz» (KI) u.a. aufgrund von selbständig erhobenen Sensorendaten Entscheidungen. Darin liegt der grosse Vorteil der Roboterautos, sie können in gewissem Masse intelligent und zielorientiert handeln und lernen. Dadurch werden sie aber auch unberechenbar; im schlimmsten Fall kann dies dazu führen, dass sich das autonome System trotz einwandfreier Funktion für den Produzenten oder Benutzer unvorhersehbar verhält. Entsteht durch solches, unvorhersehbares KI-Verhalten ein Schaden, stellen sich schwierige Haftungsfragen: Unsere Rechtsordnung geht von der grundsätzlichen Verantwortung des Menschen hinter der Maschine aus. Entscheidet ein autonomes System aber selbständig, ist nicht mehr der Mensch Entscheidungsträger, womit sich die Frage stellt, wofür er dann noch haften soll.

Die Gedanken zur Haftung im Zusammenhang mit hochautomatisierten oder autonomen Systemen, insbesondere autonomen Kraftfahrzeugen, griff daraufhin Prof. Dr. Klaus Vieweg von der Universität Erlangen auf, der in seinem Referat die allgemeine Frage behandelte, wie Recht auf grundlegende technische Neuerungen reagieren soll. Dabei wies er darauf hin, dass aufgrund rasanten technischen Fortschritts immer wieder rechtliche Lücken entstehen, die zeitnah geschlossen werden müssen. Um eine Antwort darauf zu finden, wie das Recht auf technische Neuerungen wie autonome Fahrzeuge reagieren soll, gebiete es sich, interdisziplinär vorzugehen und sich auch an der Vergangenheit zu orientieren. Eindrucksvolle Beispiele dazu erläuterte Prof. Dr. Vieweg anhand des Reichshaftpflichtgesetzes von 1871, des Produkthaftungsgesetzes von 1989 und des Gentechnikgesetzes von 1990.

Prof. Dr. Wolfgang Wohlers von der Universität Basel beleuchtete die strafrechtlichen Probleme, die sich aus der zukünftigen Benutzung autonomer Fahrzeuge im Strassenverkehr ergeben werden: Wer soll etwa bestraft werden, wenn ein autonomes Fahrzeug bei der selbständigen Parkplatzsuche einen Fussgänger überfährt? Eine Bestrafung des Fahrzeugs selbst, als «ePerson» wäre denkbar, würde aber eine Änderung des geltenden Rechts voraussetzen. Hier würde sich die Frage stellen, ob dem Fahrzeug selbst ein Schuldvorwurf gemacht werden könnte bzw. ob dieses überhaupt in der Lage wäre, eine Strafe als Übel wahrzunehmen. In den Fokus strafrechtlicher Haftung im Zusammenhang mit autonomen Fahrzeugen dürften deshalb der Halter oder der Hersteller des Fahrzeugs rücken. Vorbilder einer Halterhaftung finden sich bereits im geltenden Recht, so etwa in Art. 93 und 95 f. SVG sowie in Art. 6 OBG. Die strafrechtliche Produktverantwortlichkeit des Herstellers nach geltendem Recht setzt stets Vorsatz oder Fahrlässigkeit voraus. Hier können sich Probleme mit der Handlungsmacht des Herstellers ergeben, wenn z.B. ein Mangel erst nach der Auslieferung des Fahrzeugs auftritt. Zu denken ist schliesslich auch an die Möglichkeit einer strafrechtlichen Haftung Dritter, die in das System des autonomen Fahrzeugs eingreifen und Fehlfunktionen verursachen.

Im Kontext der Entwicklung autonomer Systeme stellt sich auch ganz grundsätzlich die Frage nach der Ersetzbar- Aus der Zeitschriftrecht 2/2015 | S. 109–110 Es folgt Seite № 110keit menschlicher Handlungen durch autonome Systeme und den damit einhergehenden Folgen. Prof. Dr. Michael Decker vom Karlsruher Institut für Technologie (KIT) erläuterte verschiedene Bereiche, in denen der Mensch durch Roboter ersetzt wird oder ersetzt werden kann. Auf diesen Gebieten eröffnen sich Diskussionen um die Folgen der Technikentwicklung. So wirken sich z.B. ökonomisch eingesetzte Roboter auf den Arbeitsmarkt aus: Autonome Fahrzeuge könnten etwa Taxi- oder Fahrdienste eines Tages überflüssig machen. Weiter griff Professor Decker auch die Diskussion um die sogenannten Moral Machines auf: Können Maschinen moralische Entscheidungen treffen bzw. können ihnen ethische Gesichtspunkte einprogrammiert werden? Soll Moral überhaupt auf Regeln basieren, damit sie in einen Softwarecode übersetzt werden kann? Vorgelagert wäre dann die Frage, von welchen moralischen oder ethischen Ansichten der Roboter auszugehen hätte. Anschaulich ist in diesem Kontext das Gedankenexperiment des unvermeidlichen Unfalls, bei dem eine Kollision aus physikalischen Gründen nicht vermieden werden kann, das Fahrzeug aber zumindest eine optimale Kollision herbeiführen kann. Die Frage ist dann, ob das autonome Fahrzeug das Optimum aus rein wissenschaftlicher Sicht ermitteln soll oder ob und inwiefern auch moralische Gesichtspunkte berücksichtigt werden sollen (z.B. der Schutz von Kindern).

Prof. Dr. Monika Dommann von der Universität Zürich gab der Diskussion eine literarische Note und richtete den Blick auf die Vergangenheit. Sie stellte die Frage, ob die heute als neu deklarierten Probleme der «digitalen Revolution» überhaupt neu sind. Ihre Erläuterungen führten eindrücklich vor Augen, dass Rechtstexte für die Geschichtswissenschaft Quellen sind, etwa um die Veränderung der Mentalität, den Wandel von Ideen und die Entstehung und Veränderung von Wissen zu untersuchen. Bezogen auf die Automobilität zeigt sich, dass die Menschen schon bei deren erstem Aufkommen zunächst verängstigt waren und ihnen die ersten Autos wie wilde Wesen vorkamen, die – ähnlich einem durchgehenden Pferd – grossen Schaden anrichten könnten. Begegnet wurde diesen Ängsten etwa durch die eingangs des 20. Jahrhunderts etablierte Haftpflicht von Fahrzeughaltern, auch wenn primär die Lenker für allfällige Schäden haften mussten, da es ihnen oblag, das Automobil und seine Gefahren zu kontrollieren.

Die demgegenüber eher futuristisch anmutende Thematik der Veränderung des Verhältnisses zwischen Mensch und Maschine, deren Annäherung als ein gemeinsamer Akteur und die Bedeutung dieser Veränderung und Annäherung für die Rechtswissenschaften behandelte Prof. Dr. Susanne Beck von der Universität Hannover. Aus ihrer Sicht wird sich die Tätigkeit des Autofahrens in naher Zukunft dahin gehend verändern, dass der Mensch, statt alleinige Kontrolle über das Fahrzeug zu haben, mit der eigentlich fahrenden Maschine interagieren wird. Der Handlungsbereich des Menschen wird abnehmen, während die Entscheidungsbefugnis der Maschine zunehmen wird. Die heute bestehenden Konzepte der Handlung, der Verantwortlichkeit und der Rechtspersönlichkeit werden damit in Zukunft Änderungen erfahren. Dies wirft wiederum unterschiedliche Fragen auf: Wer verantwortet etwa eine mögliche fehlerhafte Entscheidung einer Maschine? Der Nutzer, alle Beteiligten, die Maschine oder das Mensch-Maschine-System? Die mögliche Verantwortlichkeit einer Maschine oder eines Mensch-Maschine-Systems würde eine Veränderung der bestehenden Konzepte von Rechtspersonen bedingen. Dabei würden sich Fragen nach der Möglichkeit, der Sinnhaftigkeit und den Bedingungen eines solchen Status für Maschinen stellen. Bei diesen möglichen Veränderungen sind aber stets auch die Auswirkungen auf die Gesellschaft zu bedenken, weshalb es wichtig ist, eine angemessene rechtliche Lösung zu finden.

Gesamtheitliche, und vor allem durch datenschutzrechtliche und ethische Überlegungen unterfütterte Betrachtungsweisen der Daten-getriebenen Automatisierung führte Prof. Dr. Dr. Dirk Helbing von der ETH Zürich in eindrücklicher Weise in die Diskussion ein. Er zeigte die Gefahr der Unterregulierung von Bereichen wie Datennutzung, digitale Technologien und künstliche Intelligenz auf, die aufgrund des enormen Wachstums des digitalen Sektors besteht. Aus seiner Sicht drängt sich eine präventive Kontrolle des Datengebrauchs in diesen Bereichen auf, um zu verhindern, dass der Mensch und seine Anliegen hinter den Maschinen verschwinden. So werden bei der Internetnutzung bereits heute im Hintergrund haufenweise Daten erhoben und gespeichert, die anschliessend teilweise verkauft werden. Dadurch wird der Mensch zunehmend gläsern, ohne dies bewusst zu reflektieren. Aufgrund seines enormen Wachstums fordert der digitale Sektor als vierter Wirtschaftssektor ohnehin die übrigen Wirtschaftssektoren heraus, indem Arbeitsplätze verschwinden, ohne dass im gleichen Umfang neue geschaffen werden. All dies zeige, dass die Gesellschaft zeitnah und mit der nötigen Weitsicht reagieren muss, um den Herausforderungen der Daten-getriebenen Automatisierung gewachsen zu sein. Der Workshop war ein eindrücklicher interdisziplinärer Beginn für eine solche Debatte.

  1. * BLaw Pablo Schumacher und BLaw Alexander Schorro, Universität Basel.
Melden sie sich für den recht-Newsletter an und bleiben Sie informiert.