Israelischen Forschern ist es gelungen, die Antworten von Chat-KIs durch einen Seitenkanalangriff zu rekonstruieren. Die Daten sind mithilfe von TLS gesichert und für Lauscher ist daher nur als verschlüsselter Datenmüll sichtbar. Den Forschern ist es aber gelungen, aus diesem verschlüsselten Datenmüll Rückschlüsse zu ziehen, ohne die zugrunde liegende Verschlüsselung zu knacken.
Sprach-KIs übermitteln einzelne Wörter und die eingesetzte Verschlüsselung ersetzt immer ein Zeichen durch ein anderes (Stream Cipher). Somit kann auch ohne Kenntnis über den Inhalt durch die Größe der Datenpakete ermittelt werden, wie lang die Wörter sind. Da KIs typische Muster in der Kommunikation aufweisen, konnten die Forscher die eingesetzten KIs mit diesen Daten anreichern, um aus den Paketlängen den Gesprächsinhalt zu rekonstruieren. Die Ergebnisse waren in 29 % der Fälle exakt und in ungefähr 55 % der Fälle sinngemäß korrekt. Hier wurden teilweise lange Wörter falsch erraten, der Gesprächsinhalt war jedoch richtig.
Diese Rekonstruktion erfolgt nur mit den Antworten, nicht mit den Eingaben der Benutzer, da diese am Stück gesendet werden und nicht als einzelne Wörter. Hilfreich gegen solche Angriffe ist, wenn keine einzelnen Wörter übermittelt werden, wie beispielsweise bei Bard oder aber Padding, das Auffüllen von Datenpaketen auf eine Mindestlänge.
Quellen: