Mit der zunehmenden Nutzung von LLM-Chatbots und der Veröffentlichung von LLM-Browsern gewinnt auch das Thema der „Prompt Injection“ an Bedeutung. Hierbei gelingt es einer Person, Anweisungen an das LLM-System in Dokumente oder Bilder einzuschleusen, die das LLM-System tatsächlich ausführt. Dies kann gerade bei unachtsamer Nutzung zu unerwünschten Verhalten und Informationsabfluss führen. Dabei ist das Problem von „Injection“ keinesfall neu. Bereits
Das Erfordernis nach einer KI-Kompetenz bei der Auseinandersetzung mit KI ist in Art. 4 der KI-VO verankert. Insgesamt unterstreicht Artikel 4 die zentrale Rolle menschlicher Kompetenz im sicheren und verantwortungsvollen Umgang mit KI.Dieser Artikel verpflichtet Anbieter und Betreiber von KI-Systemen dazu, sicherzustellen, dass ihr Personal über ausreichende Kenntnisse, Fähigkeiten und ein fundiertes Verständnis im Umgang mit KI verfügt. Dabei sind
Seit dem 26. März 2025 ist die neue Funktion „AI-Overview“ von Google auch in Deutschland verfügbar. Anstelle einer bloßen Liste von Webseitenlinks zeigt Google nun im oberen Drittel der Suchergebnisse automatisch eine generierte KI-Zusammenfassung an, welche direkt auf die Nutzeranfrage eingeht und diese beantwortet. Diese Overviews greifen in Echtzeit auf Inhalte von Webseiten zu, um die benötigten Informationen zu extrahieren und
Der Einsatz von Künstlicher Intelligenz in Unternehmen nimmt stetig zu und betrifft mittlerweile nahezu alle Unternehmensbereiche – von der Personalverwaltung über den Kundenservice bis hin zur Datenanalyse. Mit dieser Entwicklung gehen jedoch erhebliche datenschutzrechtliche Herausforderungen einher, insbesondere im Hinblick auf die Nutzung offener KI-Systeme. Diese bergen Risiken wie unkontrollierten Datenabfluss, die Übermittlung personenbezogener Daten in Drittstaaten sowie die potenzielle Verwendung
Die europäische KI-Verordnung (Verordnung [EU] 2024/1689) ist am 1. August 2024 in Kraft getreten. Ihre Vorschriften gelten ab dem 2. August 2026. Bereits bis zum 2. August 2025 müssen die Mitgliedstaaten ihre nationalen Aufsichts- und Marktüberwachungsbehörden benennen, um die Durchführung der Verordnung sicherzustellen. Vor diesem Hintergrund sieht der Referentenentwurf vom 11. September 2025 für ein Gesetz zur Marktüberwachung und Innovationsförderung
KI-gestützte Cyber-Bedrohungen sind die größten Herausforderungen für Cybersicherheitsexperten im Jahr 2026. Die internationale Fachorganisation ISACA (früher „Information Systems Audit and Control Association“) untersucht regelmäßig, welche technologischen Trends IT‑ und Cybersicherheitsverantwortliche besonders beschäftigen. In ihrer am 21. Oktober 2025 veröffentlichten „Tech Trends & Priorities Pulse Poll“ wertete ISACA die Einschätzungen europäischer IT‑ und Cybersicherheitsexperten zum Jahr 2026 aus. Demnach betrachten 59 Prozent der Befragten KI‑gestützte Cyber‑Bedrohungen und Deepfakes als
Mit dem Inkrafttreten des Digital Services Act (DSA) stellt sich die Frage, wie dessen Vorgaben mit der Datenschutz-Grundverordnung (DSGVO) harmonieren. Der Europäische Datenschutzausschuss (EDSA) hat hierzu jetzt Leitlinien veröffentlicht, die Unternehmen helfen sollen, beide Regelwerke rechtskonform umzusetzen. Die Leitlinien sind Gegenstand einer öffentlichen Konsultation bis zum 31. Oktober 2025. Die Vorsitzende des EDSA, Anu Talus, erklärte hierzu, dass diese Leitlinien
Ausgangspunkt ist ein Bewerbungsverfahren bei der Quirin Privatbank, in dessen Verlauf eine HR-Mitarbeiterin versehentlich vertrauliche Angaben des Bewerbers – darunter seine Gehaltsvorstellungen – an einen unbefugten Dritten weiterleitete. Der Betroffene sah darin eine Verletzung seiner beruflichen Reputation und verlangte zum einen die Unterlassung weiterer Rechtsverstöße, zum anderen Schadensersatz für den erlittenen immateriellen Schaden. Vor diesem Hintergrund hatte der EuGH in
Am 6. September 2023 reichte der französische Abgeordnete Philippe Latombe Klage gegen die Europäische Kommission (Rechtssache T-553/23) mit dem Ziel ein, die Angemessenheitsentscheidung zum EU-US Data Privacy Framework (DPF) aufzuheben. Latombe kritisierte unter anderem die fehlende Übersetzung der Entscheidung in alle EU-Amtssprachen, unzureichende Garantien gegen Massenüberwachung, mangelnden Rechtsschutz sowie fehlende Regelungen zu automatisierten Entscheidungen und Datensicherheit. Das Gericht wies die
Immer häufiger setzen Anwälte und Richter in den USA auf generative KI, was zu einer Reihe beunruhigender Vorfälle geführt hat, die juristische Fachkreise alarmieren. Die Probleme reichen von den sogenannten „Halluzinationen“ der KI, bei denen das System nicht-existente Rechtsfälle oder Zitate erfindet, bis hin zum „Blackbox-Problem“, das die Nachvollziehbarkeit algorithmischer Entscheidungen unmöglich macht. Die fehlerhafte Nutzung solcher Systeme hat in
