Neue KI-Chatbots unterstützen Cyberkriminelle

WormGPT bekommt Gesellschaft. Der Chatbot, der Cyberkriminelle dabei unterstützt, möglichst überzeugende Phishing-Mails zu verfassen, ist seit Mitte Juli 2023 bekannt. Sicherheitsforschern von Slashnext zufolge scheint es nun zum Trend unter Hackern geworden zu sein, generative Chatbots für kriminelle Machenschaften zur Hilfe zu holen. So tauchte beispielsweise ein Bot namens FraudGPT auf, wie "Bleeping Computer" berichtet. Ausserdem gebe es Hinweise auf die Entwicklung mindestens eines weiteren Tools, das sich auf Googles Sprachmodell Bard stützt.

Beide Chatbots stammen von ein und derselben Person, wie es weiter heisst. Der Entwickler oder die Entwicklerin, in Hackerforen unter dem Pseudonym Canadiankingpin12 aktiv, sei tief in die Bereitstellung von Chatbots für bösartige Zwecke involviert, von Phishing und Social Engineering über das Ausnutzen von Schwachstellen bis hin zum Erstellen von Malware. Für das Training der Chatbots kämen primär Datensätze aus dem Darknet zum Einsatz.

Eines der Bard-basierten Modelle soll den Namen "Darkbart" tragen. Die Person hinter dem Sprachmodell soll ausserdem noch einen zweiten Bot namens "Darkbert" anbieten. Letzterer sei eigentlich von südkoreanischen Forschern entwickelt und ebenfalls mit Darknet-Daten gefüttert worden, allerdings mit dem Ziel, Cyberkriminalität zu bekämpfen, statt sie zu unterstützen. Canadiankingpin12 könnte diese Variante ausnutzen und als sein oder ihr eigenes Werk verkaufen.

Laut Slashnet stünde Darkbert nur Akademikerinnen und Akademikern eines bestimmten Instituts inklusive entsprechender E-Mail-Adresse zur Verfügung. Solche Adressen würden aber in Hackerforen schon ab rund 3 US-Dollar angeboten - keine grosse Hürde also für aktive oder aspirierende Cyberkriminelle.

Sowohl Darkbart als auch dessen "Bruder" Darkbert sollen in Echtzeit auf Daten aus dem Internet zugreifen können, schreibt "Bleeping Computer". Zudem würden die Bots über eine nahtlose Integration von Google Lens verfügen. Nutzer könnten damit dem Chatbot beispielsweise Informationen aus abfotografierten Texten übermitteln.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.