OpenAI sperrt ChatGPT-Accounts von staatsnahen Hackern
ChatGPT-Entwickler OpenAI hat Konten mutmasslicher staatlicher oder staatsnaher Bedrohungsakteure entfernt. Das Unternehmen geht davon aus, dass hinter diesen Accounts Hackergruppen mit Verbindungen zu China, Iran, Nordkorea und Russland stehen.
OpenAI hat ChatGPT-Accounts von mutmasslichen Bedrohungsakteuren geschlossen. Mitte Februar ging es zunächst um fünf Accounts. Diese hätten staatsnahen Akteuren gehört, die mithilfe der KI-Dienste von OpenAI versucht hätten, böswillige Cyberaktivitäten durchzuführen, teilt OpenAI mit. Den Akteuren hinter den mittlerweile gesperrten Accounts schreiben OpenAI und Microsoft Verbindungen zu China, Iran, Nordkorea und Russland zu.
Diese Akteure hätten OpenAI-Dienste genutzt, um ihre Softwareentwicklung zu automatisieren, nach frei verfügbaren Informationen zu suchen und technische Dokumentationen zu übersetzen. Einige hätten ChatGPT & Co. für Social-Engineering-Techniken verwendet - insbesondere, um Inhalte für Phishing-Kampagnen zu erstellen.
Am 21. Februar gab OpenAI weitere Account-Schliessungen bekannt, ohne jedoch anzugeben, wie viele. In diesen Fällen hätten Bedrohungsakteure mit Verbindungen zu China und Nordkorea die Dienste von OpenAI zwecks Überwachung und Manipulation missbraucht.
In einem Fall habe ein Bedrohungsakteur mit Verbindungen zu China die Tools von OpenAI genutzt, um auf Social Media Daten über China-kritische Stimmen zu sammeln und diese an chinesische Sicherheitsdienste zu übermitteln. In einem weiteren Fall hätten User mit angeblichen Verbindungen zu Nordkorea Dienste wie ChatGPT verwendet, um auf bestimmte Stellenausschreibungen zugeschnittene Bewerbungsunterlagen für fiktive Bewerber zu erstellen - mit dem Ziel, sich auf betrügerische Weise einen Job bei westlichen Unternehmen zu verschaffen.
Dass generative KI nicht nur Chancen, sondern auch erhebliche Risiken für die Cybersicherheit mit sich bringt, zeigte eine Studie des Bundesamts für Rüstung Armasuisse - mehr dazu lesen Sie hier.
Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.
Update: OpenAI tüftelt an automatischem KI-Kill-Switch
So stärkt der Kanton Waadt die Digitalisierung der Verwaltung
Wieso das HR bei der KI-Transformation eine Schlüsselrolle spielt
KI-Nutzung in Unternehmen steigt - doch der finanzielle Nutzen stagniert
TrendAI ernennt gleich zwei Designated Seller of Record in Europa
Nvidia übernimmt Hugging Face für fast 13 Milliarden US-Dollar
Infomaniak gewinnt Green Business Award
Exxas wächst auf über 10'000 Nutzer und baut sein Partnernetzwerk aus
OpenAIs neues Sprachmodell nutzt Computer präziser und befolgt Beschränkungen besser
