Daniel Kelley, ein Phishing Experte von Slashnext, berichtet in einem aktuellen Blogbeitrag von einem neuen KI-Tool namens WormGPT, das speziell für bösartige Aktivitäten entwickelt worden sei, indem es Cyberkriminelle dabei unterstützen soll, überaus überzeugende und strategisch gerissene Phishing-Mails zu erstellen.
Das KI-Tool basiert auf dem Sprachmodell GPT-J, das vor zwei Jahren entwickelt worden sei, um eine offene Alternative zu dem damals aktuellen GPT T-3 von OpenAI zu sein. Für das Training der KI soll ihr Entwickler vornehmlich Malware-bezogene Datensätze herangezogen haben. Details zum Ursprung halte er jedoch unter Verschluss.
Im Gegensatz zu ChatGPT kennt das Tool keine ethischen Grenzen und Einschränkungen. Ein großes Problem dabei ist, dass die Einstiegsschwelle durch solche KI-Tools weiter gesenkt wird. Laut Kelley gehe selbst in den Händen von unerfahrenen Akteuren von WormGPT eine „erhebliche Bedrohung“ aus.
Quellen:
- https://www.golem.de/news/chatbot-fuer-cyberkriminelle-wormgpt-generiert-aeusserst-ueberzeugende-phishing-mails-2307-175894.html
- https://www.heise.de/news/Textgenerator-WormGPT-soll-kaum-erkennbare-Phishing-Mails-erstellen-9217865.html
- https://slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/