Moralische Maschinen

Abstract

Informationstechnischen Systemen wird oft zugeschrieben, Entscheidungen treffen zu können, dabei findet eine Berechnung statt. Menschen folgen moralischen Gesetzen -- oder eben nicht. Ein informationstechnisches System muss den einprogrammierten Gesetzen folgen, so wie der Mensch den zahlreichen Naturgesetzen unterworfen ist. Wenn es eingesetzt wird, um zentrale Bereiche des menschlichen Zusammenlebens zu kontrollieren, zu steuern, zu beobachten oder zu messen, dann muss stets mitgedacht werden, dass es nur auf den kontrollierbaren, steuerbaren, beobachtbaren und den messbaren Bereich Zugriff hat. Doch anstatt sich nun aus diesen unkontrollierbaren, nicht steuer- oder beobachtbaren Domänen des gesellschaftlichen Zusammenlebens zurückzuziehen, wird die soziale Sphäre weitestgehend maschinenlesbar, also berechenbar gestaltet. Der unberechenbare Mensch wird zum Störfaktor, ebenso wie die unberechenbare Sphäre der Moral. Moralische Maschinen sind ein ethisches Gedankenexperiment. Anhand einiger Beispiele soll argumentiert werden, dass es zwar prinzipiell unmöglich ist, moralisch handelnde Maschinen zu erschaffen, wir es aber dennoch versuchen sollten, weil die Beschäftigung mit diesem Thema zwar nicht die informationstechnischen Systeme moralischer macht, wohl aber ihre Schöpferinnen und Schöpfer.