Immer häufiger setzen Anwälte und Richter in den USA auf generative KI, was zu einer Reihe beunruhigender Vorfälle geführt hat, die juristische Fachkreise alarmieren. Die Probleme reichen von den sogenannten „Halluzinationen“ der KI, bei denen das System nicht-existente Rechtsfälle oder Zitate erfindet, bis hin zum „Blackbox-Problem“, das die Nachvollziehbarkeit algorithmischer Entscheidungen unmöglich macht. Die fehlerhafte Nutzung solcher Systeme hat in den USA bereits zu Sanktionen gegen Anwälte geführt und die Frage aufgeworfen, wie eine Justiz, die auf Transparenz und Verlässlichkeit basiert, mit dieser Technologie umgehen soll.
Das europäische Modell: Die KI-Verordnung (KI-VO)
Während die US-Justiz mit diesen Herausforderungen ringt, bietet das europäische Recht eine klare Antwort: Die KI-Verordnung (KI-VO). Die Gesetzgebung stuft KI-Systeme nach ihrem Risikopotenzial ein. Der Einsatz von KI im Rechtswesen – beispielsweise zur Vorhersage von Rückfallquoten oder zur Unterstützung richterlicher Entscheidungen – fällt klar in die Kategorie der Hochrisiko-KI-Systeme. Für diese gelten strenge Auflagen:
- Datenqualität und -governance: Hochrisiko-Systeme müssen mit hochwertigen, repräsentativen und fehlerfreien Daten trainiert werden, um systematische Verzerrungen (Bias) zu minimieren.
- Transparenz und Nachvollziehbarkeit: Entwickler sind verpflichtet, eine detaillierte technische Dokumentation bereitzustellen, um die Ergebnisse nachvollziehbar zu machen.
- Menschliche Aufsicht: Trotz aller technischer Hilfsmittel bleibt die Verantwortung beim Menschen. Die KI-VO fordert eine effektive menschliche Aufsicht, die sicherstellt, dass eine endgültige Entscheidung nicht unkritisch von einem Algorithmus übernommen wird.
Das US-Modell: Ein fragmentierter Ansatz
Anders als die EU, die einen umfassenden Rechtsrahmen mit der KI-VO geschaffen hat, verfolgen die USA einen fragmentierten Ansatz. Anstatt ein einziges Gesetz zu erlassen, setzen die Vereinigten Staaten auf eine Mischung aus Präsidialerlassen (Executive Orders), freiwilligen Richtlinien und sektorspezifischen Regulierungen bestehender Behörden wie der Federal Trade Commission (FTC).
Der Kernunterschied liegt in der regulierungspolitischen Philosophie:
- EU: Die KI-VO folgt einem Top-Down-Ansatz und einem Risikomanagement. Das Ziel ist, frühzeitig Leitplanken zu setzen, um Grundrechte zu schützen und das Vertrauen in die Technologie zu stärken, auch wenn Kritiker befürchten, dies könnte die Innovation bremsen.
- USA: Die US-Regulierung ist reaktiver und wettbewerbsorientierter. Sie verlässt sich darauf, dass bestehende Gesetze und nachgelagerte rechtliche Schritte die problematischen Fälle adressieren. Ein prominentes Beispiel ist der Fall Mata v. Avianca, Inc., in dem ein Gericht Sanktionen gegen Anwälte verhängte, die in einem Schriftsatz von einer KI erfundene Zitate verwendeten. Das Gericht begründete die Sanktionen mit der Verletzung der Federal Rule of Civil Procedure 11, die die Sorgfaltspflicht von Anwälten bei der Prüfung von Schriftsätzen vorschreibt. Hier setzt die Regulierung nicht bei der Technologie selbst an, sondern bei ihrer verantwortungsvollen Nutzung durch Juristen.
Der Vergleich zeigt, dass beide Rechtssysteme zwar die Risiken von KI im Rechtswesen erkannt haben, sie jedoch mit unterschiedlichen strategischen Ansätzen begegnen: Die EU setzt auf präventive, umfassende Regulierung, während die USA einen flexibleren, marktorientierten Weg einschlagen, der sich stärker an der Praxis orientiert.
Quellen:
Das Beitragsbild sowie der Beitragstext wurden mithilfe von KI-Systemen generiert, wobei die Kontrolle über das Ergebnis bei natürlichen Personen lag. Sämtliche Eingaben in KI-Systemen verfolgten Zwecke der wissenschaftlichen Forschung.