Im Zuge der voranschreitenden Digitalisierung der Rechtsordnung und der Möglichkeit, an Stelle eines menschlichen Pendants innerhalb eines behördlichen Verfahrens, ein digitales Entscheidungsorgan zu schaffen, stellt sich die Frage, wie weitgehend Algorithmen wesentliche Entscheidungen, wie zum Beispiel des Erlass eine benachteiligenden Verwaltungsaktes, oder eine belastende richterliche Entscheidung konkret treffen sollten. Sollte es bei wesentlichen, also insbesondere grundrechtsrelevanten Entscheidungen einen zumindest korrigierend und die konkreten Umstände einbeziehenden „Menschenvorbehalt“, also zusätzlich, oder ähnlich zum Richter-oder Gesetzesvorbehalt, geben? Sollte ein Mensch schlussendlich die jeweilige Entscheidung betrachten und untersuchen, ob sie nicht nur rechtmäßig, sondern auch inhärent gerecht und somit nicht inhuman ist? Dies ist eine ethisch und verfassungsrechtlich stark umstrittene Frage. In diesen Fall bejaht Prof. Dr. Ferdinand Kirchhof, ehemaliger Vizepräsident des Bundesverfassungsgerichts (BVerfG), in einem Interview mit Legal Tribune Online (LTO), das Erfordernis eines Menschenvorbehalts und mahnt vor einer allzu starken Digitalisierung ohne Menschenvorbehalt und letztlich vor einer grundsätzlichen Unmenschlichwerdung des Rechts. Hierbei warnt er vor allem vor einer Verwässerung des Grundgesetzes (GG), durch das Einfügen neuer scheinbar innovativ wirkender Ideen und stellt heraus, dass insbesondere die Digitalisierung vorantreibende „Global Player“, welche grenzüberschreitend arbeiten, erhebliche Marktmacht besäßen, demnach eine große Informationsmacht und als Folge desse eine den Staaten ähnliche Gewaltausübung über Menschen innehätten, wobei sie jedoch keinem ethischen Wertekompass, anders als demokratische und moderne Verfassungsstaaten, folgen und somit durchaus eine Gefahr für jene Staaten und für die somit betroffenen Menschen darstellen könnten. Auf solche Tatsachen müsse eine freiheitliche Verfassung wie das GG Antworten finden, insbesondere, weil das GG territorial begrenzt sei und somit der Schutzauftrag des GG in der Regel an der deutschen Grenze ende, Global Player jene Grenze überwinden und in einer anderen, weniger schützenden, oder gar keinen Rechtsordnung an sich agieren könnten, sodass sie ihre Verhaltensregeln selbst schaffen. Als mögliche Regulierungslösung hierbei käme eine modernere Ausgestaltung des Telekommunikations-und Medienrechts durch einfachgesetzliche Kodifikation in Betracht, insbesondere da Art. 10 I GG primär nur den Staat zum Kommunikationsgeheimnis verpflichte. Insbesondere sei, so Kirchhof, eine europarechtliche Lösung, auf Grund des grenzüberschreitenden Bezuges, zur besseren Inpflichtnahme jener Global Player, erforderlich.Insbesondere regt Kirchhof an, bei wesentlichen Entscheidungen, auch im Verhältnis zwischen Privaten, wie es die EU-Grundrechtecharta (Art. 27 ff. EuGrChr) bereits vorsehe, wie bei der unmittelbaren Verpflichtung von Arbeitgebern und Unternehmen, Art. 10 I GG entsprechend anzuwenden und neu zu interpretieren, sodass hierbei auch verfassungsrechtlich ein Menschenvorbehalt gewährleistet wäre. Dies sei insbesondere erforderlich, auf Grund des zunehmenden Einsatzes von Algorithmen, welche nicht nach Recht und Gerechtigkeit zu entscheiden pflegen, sondern auf Grund von mathematischen Gesetzen, welche einerseits nicht einem jedermann verständlich, oder offengelegt seien, als auch andererseits nicht in irgendeiner Hinsicht, wie auch deren Schöpfer, demokratisch legitimiert und somit auch nicht grundsätzlich zu Grundrechtseingriffen befugt. Überall, wo voluntative Wertungen (Erlass eines Verwaltungsaktes; Strafmaßentscheidungen) getroffen würden, sei ein menschliches und somit wertend-moralisches Handeln, und/oder eine demokratische Legitimation erforderlich. In jenen Wertungsfällen sollte zwingend ein Menschenvorbehalt bestehen, also die Entscheidung durch ein fühlendes, moralisch handelndes Wesen gefällt werden.

Das Interview:https://www.lto.de/recht/hintergruende/h/interview-ferdinand-kirchhof-bverfg-digitalisierung-gg-algorithmen-art-10/

Zur ethischen Frage digitalisierter Entscheidungsprozesse (an Hand des Beispiels des automatisierten Fahrens):https://www.youtube.com/watch?v=ixIoDYVfKA0&t=28s