Die OWASP Foundation, die bereits durch verschiedene „TOP 10“ Listen der häufigsten Schwachstellen in verschiedenen Anwendungen bekannt ist, hat nun auch die finale Version der „OWASP Top 10 for Large Language Model Applications“ heraus gegeben.
Die Liste enthält typische Angriffsvektoren gegen generative Modelle, die in der jüngeren Vergangenheit auch bereits bei bekannten Anwendungen zu beobachten waren, z.B. Prompt Injection bei ChatGPT.
Neben der Definition enthält die Veröffentlichung auch Beispiele und Empfehlungen, wie die Schwachstellen oder deren Ausnutzung verhindert oder begrenzt werden können.
Link: https://owasp.org/www-project-
Vollständige Publikation: https://owasp.org/www-project-