Informatiker des saarländischen Helmholtz-Zentrums haben darauf aufmerksam gemacht, dass ChatGPT und andere KI-basierte Sprachmodelle gefährliche Sicherheitslücken aufweisen und dadurch leicht für Phishing- und andere Angriffe genutzt werden können.
Hintergrund ist, dass ChatGPT nicht zwischen Daten und Befehlen unterscheidet und so auch ohne besondere Programmierkenntnisse über sog. „prompt injections“ schädliche Anweisungen ins Programm geschleust werden können.
Die Informatiker fordern daher möglichst schnell einen klaren Rechtsrahmen für KI von der EU, also konkret einen schnellen Erlass der KI-Verordnung.
Quellen:
- https://www.saarbruecker-zeitung.de/saarland/saarland-informatiker-finden-sicherheitsluecke-bei-chatgpt_aid-88337939 (Bezahlcontent hinter Paywall)
- https://www.sr.de/sr/home/nachrichten/panorama/cispa_cybersicherheitsexperten_entdecken_schwachstellen_von_bing_chat_100.html
- https://www.pressreader.com/germany/saarbruecker-zeitung/20230412/281827173049573