Wenn Ethik zum Programm wird: Eine risikoethische Analyse moralischer Dilemmata des autonomen Fahrens

Abstract

Wie sollen sich autonome Fahrzeuge verhalten, wenn ein Unfall nicht mehr abwendbar ist? Die Komplexität spezifischer moralischer Dilemmata, die in diesem Kontext auftreten können, lässt bewährte ethische Denktraditionen an ihre Grenzen stoßen. Dieser Aufsatz versteht sich als Versuch, neue Lösungsperspektiven mithilfe einer risikoethischen Sichtweise auf die Problematik zu eröffnen und auf diese Weise deren Relevanz für die Programmierung von ethischen Unfallalgorithmen aufzuzeigen. Im Zentrum steht dabei die Frage, welche Implikationen sich aus einer Auffassung von Dilemma-Situationen als risikoethische Verteilungsprobleme im Hinblick auf die Zulässigkeit von entsprechenden Risikoübertragungen ergeben. Dabei wird zunächst eine risikoethische Interpretation des zugrundeliegenden Entscheidungsproblems skizziert, welches durch seine dilemmatische Struktur eine besondere Risikokonstellation begründet. Ausgehend von den Positionen von Sven Ove Hansson und Julian Nida-Rümelin wird für einen deontologisch-risikoethischen Ansatz argumentiert, der auf Individualrechten einerseits und einer interpersonell gerechten Verteilung der entstehenden Schadensrisiken anderseits basiert. Diese beiden Kriterien werden für den Anwendungskontext des autonomen Fahrens konkretisiert. Zum einen wird in Bezug auf das erste Kriterium argumentiert, dass individuelle Rechte genau dann als angemessen gewahrt gelten können, wenn die resultierenden Risikoübertragungen auf die Einzelnen in ihrer absoluten Höhe jeweils zumutbar sind ( absolutes Prinzip ). Zum anderen werden Schwierigkeiten skizziert, die sich hinsichtlich der konkreten Umsetzung des zweiten Kriteriums der Verteilungsgerechtigkeit ( relatives Prinzip ) ergeben. In diesem Zusammenhang werden beispielsweise ethische Herausforderungen in Bezug auf einen möglichen Vorteilsausgleich, das Prinzip der Schadensminimierung sowie individuell unterschiedliche Ausgangsbedingungen der persönlichen Schadensreduktion kritisch in den Blick genommen. How should self-driving cars react in cases of unavoidable collisions? The complexity of specific dilemma situations that might arise in the context of autonomous driving pushes well-established ethical traditions of thought to their limits. This paper attempts to open up new opportunities for approaching this issue. By reframing the underlying decision problem from the perspective of ethics of risk, it is argued that the latter is highly relevant for the programming of ethical crash algorithms. The paper’s main contribution lies in providing an interpretation of dilemma situations as ethical problems of risk distribution as well as an outline of the resulting implications in terms of the permissibility of imposing these risks. Initially, moral dilemmas are shown to constitute a particularly challenging risk constellation. Drawing upon the positions of Sven Ove Hansson and Julian Nida-Rümelin, the paper makes the case for a deontological approach based on individual rights on the one hand and a fair distribution of the resulting risks of damage on the other hand. These two criteria are applied to and further elaborated in the context of self-driving car dilemmas. With regard to the first criterion, it is argued that individual rights could be considered to be adequately safeguarded if, and only if, the resulting levels of risk imposition on the individual are acceptable ( absolute principle ). Besides, some difficulties that emerge in the context of the second criterion of distributive justice ( relative principle ) are outlined. At this point, various ethical challenges such as the compensation of potential benefits, the principle of harm minimisation, and fundamental differences in individuals’ possibilities of reducing personal harm are critically examined.