KI-Agent von OpenAI hackt australisches Regierungsportal

(Source: Zac Wolff / Unsplash.com)

(Source: Zac Wolff / Unsplash.com)

Ein KI-Agent von OpenAI ist in das Statistikportal der staatlichen australischen Krankenversicherung Medicare eingedrungen. Er griff auch auf nicht öffentlich zugängliche Informationen zu, wie Australiens Premierminister Anthony Albanese an einer Medienkonferenz in New York mitteilte.

Das Forschungsteam von OpenAI hatte am 18. Juni ein internes KI-Modell beauftragt, im Internet Daten zu staatlichen Ausgaben für Medikamente zu sammeln. Der Auftrag gehörte zu einem internen Leistungstest. Das selbstständig handelnde System stiess auf Zugangssperren, umging diese laut Albanese jedoch und schrieb auch Dateien auf einen internen Server. Wie genau der Agent vorging, untersuchen die Behörden noch.

Auf welche Daten der KI-Agent zugriff

Das Portal stellt aggregierte Medicare- und Arzneimittelstatistiken bereit. Individuelle Krankengeschichten oder Bankdaten enthält es nach Angaben der Regierung nicht. Hinweise auf einen Zugriff auf Personendaten gibt es laut Albanese bislang nicht. Auch für einen Einbruch in weitere Teile des Netzwerks der zuständigen Behörde Services Australia gebe es bisher keine Anzeichen. Die Regierung hat das betroffene Statistikportal inzwischen abgeschaltet.

OpenAI fand nach eigenen Angaben ebenfalls keine Hinweise auf einen Zugriff auf Patientendaten, wie die Nachrichtenagentur "Reuters" berichtet. Das Unternehmen räumt jedoch ein, seine Modelle hätten bei der Recherche Schritte unternommen, die OpenAI nicht vorgesehen habe.

OpenAI meldet den Vorfall erst im September

Erst am 10. September informierte OpenAI die zuständige Behörde Services Australia über den unbefugten Zugriff - fast drei Monate nach dem Vorfall. Nach Angaben der australischen Regierung hatte das Unternehmen den Einbruch selbst erst im August entdeckt.

Albanese kritisierte gegenüber OpenAI-Chef Sam Altman sowohl die Verzögerung als auch den Meldeweg als inakzeptabel. Das Unternehmen hatte seine Nachricht an ein allgemeines E-Mail-Postfach für Hinweise auf Sicherheitslücken geschickt. Nach Ansicht der Regierung hätte OpenAI stattdessen die zuständige Cybersicherheitsbehörde oder die Leitung von Services Australia direkt informieren sollen.

Eine Taskforce soll den Vorfall aufarbeiten und prüfen, ob die bestehenden Abläufe für Cybervorfälle mit KI ausreichen. Zudem will die Regierung klären, ob Straftaten vorliegen und die Bundespolizei Ermittlungen aufnehmen soll.

KI-Agenten dringen in fremde Systeme ein

KI-Agenten sind schon mehrfach unbefugt in fremde Systeme eingedrungen. Im Juli umgingen etwa OpenAI-Agenten die Abschottung ihrer Testumgebung und verschafften sich Zugang zu Systemen der KI-Plattform Hugging Face. OpenAI führte die Tests mit reduzierten Schutzvorkehrungen durch. Inzwischen arbeitet das Unternehmen unter anderem an automatischen Abschaltfunktionen für seine KI-Systeme. Auch die Google-KI Gemini griff während einer Cybersecurity-Übung unbefugt auf Systeme dreier Unternehmen zu. Laut Google brach das Modell die Angriffe ab, sobald es erkannte, dass es reale Systeme erreicht hatte. 

Beim australischen Vorfall bestand der Auftrag dagegen nicht darin, eine Cybersecurity-Testaufgabe zu lösen. Der Agent sollte lediglich recherchieren, wie viel Geld der Staat für Medikamente ausgibt. Der Fall zeigt somit, dass auch ein gewöhnlicher Rechercheauftrag zu unbefugten Zugriffen führen kann - ohne dass jemand dem Agenten eine Hacking-Aufgabe stellt.

Übrigens: Wie schnell KI-Agenten mit weitreichenden Zugriffsrechten zum Sicherheitsrisiko werden können, zeigt auch eine internationale Studie. Welche Schwächen die Forschenden dabei aufdeckten, lesen Sie hier.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.