Künstliche Intelligenz, Bias und Versicherungen – Eine technische und rechtliche Analyse

Abstract

Künstliche Intelligenz (KI) kann in der datengetriebenen Versicherungswirtschaft erhebliche Effizienzgewinne mit sich bringen. Das gilt auch für den Einsatz von KI im Verhältnis zu potenziellen Kunden, Versicherungsnehmern und Begünstigten von Versicherungsleistungen. KI trägt jedoch das Risiko eines Bias, eines systematischen Prognosefehlers, und damit der Diskriminierung, in sich. Dieser interdisziplinäre Beitrag untersucht aus Sicht der Informatik die Gefahr eines Bias und ihre Ursachen. Darauf aufbauend wird aus juristischer Sicht erörtert, inwieweit bei Bias die Diskriminierungsverbote eingreifen und welche Rechtsfolgen sie haben. Eine anschließende Analyse der technischen Vermeidbarkeit von Bias führt zu der juristischen Frage, wie das Versicherungsaufsichtsrecht sicherstellt, dass Bias soweit wie möglich verhindert wird. Abschließend wird die Bedeutung des EU-Entwurfs einer KI-Verordnung für die Vermeidung von Bias beleuchtet. Wie man mit der in diesem Beitrag angenommenen Unvermeidbarkeit von Bias informationstechnologisch und versicherungsrechtlich umzugehen hat, ist eine der wichtigen, in weiterer interdisziplinärer Forschung zu klärenden Fragen.Artificial intelligence (AI) can bring significant efficiencies to the data-driven insurance industry. This is also true for the use of AI in relation to potential customers, policyholders, and beneficiaries. However, AI carries the risk of bias, a systematic forecasting error, and thus of discrimination. This interdisciplinary article examines the risk of bias and its causes from the perspective of computer science. Based on this, it discusses from a legal point of view the extent to which non-discrimination law applies in the case of bias and what the legal consequences are. The subsequent analysis of whether and how data scientists can technically eliminate bias leads to the legal question of how insurance supervisory law ensures that bias is avoided as far as possible. Finally, we examine the implications of the EU draft of an AI regulation for the avoidance of bias. How to cope with the assumed inevitability of bias is one of the important questions that future interdisciplinary research of information technology and insurance law has to solve.