In einem aktuellen c’t-Podcast warnt die Technik-Ethikerin Anita Klingel vor den Gefahren, die der Einsatz von Künstlicher Intelligenz (KI) in der öffentlichen Verwaltung mit sich bringen kann, insbesondere im Hinblick auf mögliche Machtübernahmen durch undemokratische Kräfte. Angesichts der bevorstehenden Bundestagswahl und des Erstarkens rechtsradikaler Parteien fordert Klingel die Entwicklung von „Faschismus-resistenten“ digitalen Systemen. Sie betont, dass bisher zu wenig über den Schutz solcher Systeme nachgedacht wird.
Als Beispiel nennt Klingel ein System für deutsche Schulen, das Schülern mit Migrationshintergrund hilft, Mathematik-Textaufgaben in ihre Muttersprache zu übersetzen. Dieses System speichert die Muttersprache jedes Schülers in einer Datenbank. Klingel warnt, dass solche sensiblen Daten in den Händen migrationsfeindlicher Parteien missbraucht werden könnten, etwa zur gezielten Diskriminierung. Sie schlägt vor, solche Datenbanken so zu gestalten, dass bestimmte Felder bei Bedarf schnell gelöscht werden können, um Missbrauch zu verhindern.
Klingel verweist auf die USA, wo sensible Daten, die ursprünglich mit guter Absicht erhoben wurden, nach einem Machtwechsel missbraucht werden könnten. Sie fordert daher, bereits bei der Entwicklung digitaler Systeme mögliche Machtwechsel und deren Konsequenzen zu berücksichtigen, um den Missbrauch von KI-Systemen durch undemokratische Kräfte zu verhindern.
Quelle: