Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) und die Landesmedienanstalt Saarland (LMS) haben das gemeinsame Forschungsprojekt PABeLA-II gestartet. Ziel ist es, die Auswirkungen KI-basierter Sprachmodelle auf Journalismus und öffentliche Meinungsbildung zu untersuchen sowie Risiken durch irreführende oder erfundene Informationen besser erkennbar zu machen. Gefördert wird das Vorhaben von der Staatskanzlei des Saarlandes und dem Ministerium für Wirtschaft, Innovation, Digitales und Energie mit insgesamt 160.000 Euro.
Im Mittelpunkt des Projekts stehen sogenannte Large Language Models (LLMs), die als Grundlage zahlreicher KI-Anwendungen dienen. Sie können unter anderem Fragen beantworten, Texte verfassen und Informationen zusammenfassen. Allerdings besteht das Risiko, dass solche Systeme Quellen unzutreffend wiedergeben, erfundene Belege anführen oder bestimmte Perspektiven nicht ausreichend berücksichtigen. Da KI-Dienste zunehmend als eigenständige Informationsquellen genutzt werden, gewinnt die Frage nach der Zuverlässigkeit ihrer Antworten auch für die Medienvielfalt und die demokratische Meinungsbildung an Bedeutung.
PABeLA-II knüpft an das Vorgängerprojekt PABeLA-I an, in dessen Rahmen bereits ein umfangreicher Prüfkriterienkatalog für KI-basierte Dienste entwickelt wurde. Einzelne Kriterien, beispielsweise zur Erkennung diskriminierender Inhalte, konnten bereits in technische Prüfverfahren überführt werden. Auf dieser Grundlage sollen nun insbesondere Kriterien zur Überprüfung journalistischer Quellen und ihrer Ausgewogenheit weiterentwickelt werden.
Dazu ist der Aufbau eines repräsentativen Testdatensatzes vorgesehen. Mit statistischen, regelbasierten und KI-gestützten Verfahren sollen die Antworten der untersuchten Systeme anhand festgelegter Kriterien ausgewertet werden. Dabei steht insbesondere im Vordergrund, ob angegebene Quellen tatsächlich existieren, korrekt wiedergegeben werden und unterschiedliche Perspektiven angemessen berücksichtigen. Die Ergebnisse sollen Schwachstellen der KI-Dienste aufzeigen und eine systematische Bewertung möglicher Manipulationsrisiken ermöglichen.
Langfristig soll das entwickelte Prüfinstrument die Medienaufsicht und Medienpolitik dabei unterstützen, Transparenz-, Vielfalts- und Manipulationsrisiken von KI-Systemen fundierter einzuschätzen. Damit verfolgt das Projekt nicht nur ein technisches, sondern auch ein gesellschaftliches Ziel: den Schutz vor KI-basierter Desinformation und die Sicherung einer vielfältigen öffentlichen Meinungsbildung. Die Projektlaufzeit ist bis April 2027 vorgesehen. Die gewonnenen Erkenntnisse sollen anschließend insbesondere für die praktische Medienregulierung nutzbar gemacht werden.
Quellen:
Landesmedienanstalt Saarland (22.10.2026): Projekt zur Bewertung von KI-basierten Manipulationsrisiken und Schutz vor Desinformation
Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI): PABeLA – Prüflabor zur automatisierten Bewertung LLM-basierter KI-Systeme