Artificial intelligence as a challenge for the law: the example of “Doctor Algorithm”

Abstract

Society increasingly relies on algorithms to improve decisions with the aid of artificial intelligence. This is particularly true in the field of medicine where, based on algorithms, ever increasing volumes of data are to be analysed and provide the basis for tailored medical treatment. This leads to the question of how the law should react to the adoption of such algorithm-based decisions. Will new regulatory approaches be required if algorithms are employed for treatment decisions, or can one resort to the basic principles applied to determine the standard of medical treatment? Who will be liable if the use of algorithms leads to malpractice, in particular if it is the programming of the algorithms that has caused the fault?Die Gesellschaft verlässt sich zunehmend auf Algorithmen, um mithilfe künstlicher Intelligenz Entscheidungen zu verbessern. Dies gilt insbesondere in der Medizin, wo immer größere Datenmengen analysiert werden und als Grundlage passgenauer Behandlungen dienen. Für das Recht stellt sich vor diesem Hintergrund die Frage, wie es auf den Einzug solcher algorithmenbasierter Entscheidungen in den ärztlichen Behandlungsalltag reagieren soll. Bedarf es neuer rechtlicher Regelungsansätze beim Einsatz von Algorithmen für ärztliche Behandlungsentscheidungen oder lassen sich hierfür die Grundsätze heranziehen, die schon seit jeher für die Festlegung des ärztlich geschuldeten Behandlungsstandards gelten? Und wer soll haftungsrechtlich verantwortlich sein, wenn es beim Einsatz von Algorithmen zu Behandlungsfehlern kommt, insbesondere wenn die Algorithmen selbst fehlerhaft programmiert gewesen sind?