OpenAI sperrt ChatGPT-Accounts von staatsnahen Hackern

OpenAI hat ChatGPT-Accounts von mutmasslichen Bedrohungsakteuren geschlossen. Mitte Februar ging es zunächst um fünf Accounts. Diese hätten staatsnahen Akteuren gehört, die mithilfe der KI-Dienste von OpenAI versucht hätten, böswillige Cyberaktivitäten durchzuführen, teilt OpenAI mit. Den Akteuren hinter den mittlerweile gesperrten Accounts schreiben OpenAI und Microsoft Verbindungen zu China, Iran, Nordkorea und Russland zu. 

Diese Akteure hätten OpenAI-Dienste genutzt, um ihre Softwareentwicklung zu automatisieren, nach frei verfügbaren Informationen zu suchen und technische Dokumentationen zu übersetzen. Einige hätten ChatGPT & Co. für Social-Engineering-Techniken verwendet - insbesondere, um Inhalte für Phishing-Kampagnen zu erstellen. 

Am 21. Februar gab OpenAI weitere Account-Schliessungen bekannt, ohne jedoch anzugeben, wie viele. In diesen Fällen hätten Bedrohungsakteure mit Verbindungen zu China und Nordkorea die Dienste von OpenAI zwecks Überwachung und Manipulation missbraucht. 

In einem Fall habe ein Bedrohungsakteur mit Verbindungen zu China die Tools von OpenAI genutzt, um auf Social Media Daten über China-kritische Stimmen zu sammeln und diese an chinesische Sicherheitsdienste zu übermitteln. In einem weiteren Fall hätten User mit angeblichen Verbindungen zu Nordkorea Dienste wie ChatGPT verwendet, um auf bestimmte Stellenausschreibungen zugeschnittene Bewerbungsunterlagen für fiktive Bewerber zu erstellen - mit dem Ziel, sich auf betrügerische Weise einen Job bei westlichen Unternehmen zu verschaffen.  

Dass generative KI nicht nur Chancen, sondern auch erhebliche Risiken für die Cybersicherheit mit sich bringt, zeigte eine Studie des Bundesamts für Rüstung Armasuisse - mehr dazu lesen Sie hier. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.