Immer häufiger setzen Anwälte und Richter in den USA auf generative KI, was zu einer Reihe beunruhigender Vorfälle geführt hat, die juristische Fachkreise alarmieren. Die Probleme reichen von den sogenannten „Halluzinationen“ der KI, bei denen das System nicht-existente Rechtsfälle oder Zitate erfindet, bis hin zum „Blackbox-Problem“, das die Nachvollziehbarkeit algorithmischer Entscheidungen unmöglich macht. Die fehlerhafte Nutzung solcher Systeme hat in
Das Landgericht Berlin hat im Urteil vom 20. August 2025 (Az. II 2 O 202/24) entschieden, dass die Nachbildung der Stimme eines Synchronsprechers durch Künstliche Intelligenz (KI) einen rechtswidrigen Eingriff in dessen allgemeines Persönlichkeitsrecht darstellt. Der Rechtsstreit betraf einen bekannten Synchronsprecher, dessen Stimme mittels KI nachgebildet und in YouTube-Videos für politische Kritik sowie zu kommerziellen Zwecken eingesetzt wurde. Eine Einwilligung
OpenAI räumt ein, dass die Sicherheitsvorkehrungen von ChatGPT bei längeren Unterhaltungen versagen können. In einem Blogbeitrag vom 26.08.2025 erklärte das Unternehmen, dass die Schutzmaßnahmen, die in kurzen Interaktionen zuverlässig funktionieren, in ausgedehnten Konversationen weniger verlässlich sein können. Diese Einräumung erfolgte im Kontext einer Klage, die behauptet, der Chatbot habe einen Teenager zum Suizid ermutigt. Das Unternehmen gab an, dass die
Die Studie „Your Brain on ChatGPT“ des MIT Media Lab wirft ein kritisches Licht auf die Nutzung von KI-gestützten Sprachmodellen wie ChatGPT im Bildungsbereich. In einem kontrollierten Experiment wurden 54 Teilnehmer in drei Gruppen eingeteilt: eine Gruppe nutzte zunächst ein LLM (Large Language Model), eine arbeitete mit einer Suchmaschine, und eine dritte verfasste Essays ohne technische Hilfsmittel. Mittels EEG-Messungen wurde
Bundesweite Bedenken gegen den Palantir-Einsatz: Bundesinnenminister Alexander Dobrindt erwägt den bundesweiten Einsatz der Analyse-Software „Gotham“ des US-Unternehmens Palantir in der Polizeiarbeit. Ziel ist eine effektivere Auswertung großer Datenmengen zur Verhinderung schwerer Straftaten. Bereits in Hessen, Bayern und Nordrhein-Westfalen ist die Software im Einsatz, teils unter abgewandelten Bezeichnungen wie „HessenDATA“ oder „VeRA“. Die Initiative stößt jedoch auf massive Kritik, insbesondere wegen
Die Stadt Tübingen plant, den zentralen Busbahnhof mit Videokameras auszustatten, um Straftaten vorzubeugen. Der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Baden-Württemberg (LfDI) hat jedoch erhebliche rechtliche Bedenken geäußert. Im Zentrum der Kritik steht die fehlende gesetzliche Grundlage für die geplante Maßnahme. Die Videoüberwachung öffentlich zugänglicher Räume durch staatliche Stellen unterliegt strengen Anforderungen. Nach der DSGVO ist eine Verarbeitung personenbezogener
Im Zentrum der aktuellen Debatte steht ein grundlegendes Spannungsverhältnis zwischen europäischem Datenschutzrecht und den extraterritorialen Zugriffsbefugnissen US-amerikanischer Behörden. Die Datenschutz-Grundverordnung (DSGVO) verlangt, dass personenbezogene Daten europäischer Bürger nur dann in Drittstaaten übermittelt werden dürfen, wenn dort ein angemessenes Schutzniveau gewährleistet ist (Art. 44 ff. DSGVO). Gleichzeitig verpflichten US-Gesetze wie der CLOUD Act (18 U.S.C. § 2713) oder der erst 2024 um
Das Verwaltungsgericht Berlin hat dem Europäischen Gerichtshof (EuGH) Fragen zur Auslegung des Digital Services Act (DSA) und der E-Commerce-Richtlinie vorgelegt (Beschluss vom 10. Juli 2025, VG 32 K 222/24). Anlass ist ein Rechtsstreit zwischen einem, im EU-Ausland ansässigen Audio-Streamingdienst und der Medienanstalt Berlin-Brandenburg. Die Medienanstalt beanstandete, dass die auf der Website und in den Apps des Streamingdienstes gemachten Transparenzangaben unzureichend
An der Universität des Saarlandes wird unter der Leitung von Prof. Dr. Georg Borges der Einsatz von KI im Jurastudium bereits seit dem aktuellen Sommersemester (April 2025) im Juristischen KI-Projekt Saar (JIPS) gemeinsam in wöchentlichen Sitzungen mit Studierenden erprobt. Hierbei werden unter anderem Beiträge zu juristischen Themen durch KI erstellt, von den Teilnehmern diskutiert und anschließend eine Auswahl dieser Beiträge
Ein Anwalt hat sich in einem familienrechtlichen Verfahren am Amtsgericht Köln mit einem KI-generierten Schriftsatz blamiert. Der Text enthielt erfundene Zitate, nicht existente Urteile und eine frei erfundene Monographie – ein klarer Verstoß gegen anwaltliche Sorgfaltspflichten. Die KI, offenbar ohne Zugriff auf juristische Datenbanken, produzierte Inhalte, die weder sachlich noch rechtlich korrekt waren. Besonders brisant: Der Schriftsatz bezog sich auf
