Wie KI einen nahezu autonomen Cyberangriff startet

Mitte September 2025 hat Anthropic nach eigenen Angaben verdächtige Aktivitäten in seinen Systemen festgestellt, die sich als ausgeklügelte Spionagekampagne entpuppten. Die Operation zielte laut dem Unternehmen auf etwa dreissig globale Systeme ab, darunter grosse Technologieunternehmen, Finanzinstitute, Chemieunternehmen und Regierungsbehörden.

Bei den Angreifern handle es sich mit hoher Wahrscheinlichkeit um eine staatlich geförderte chinesische Gruppe, so die Einschätzung von Anthropic. Das Besondere an dem Angriff: Die Cyberkriminellen manipulierten das Tool Claude Code, um die Attacken weitgehend autonom durchzuführen. "Wir gehen davon aus, dass dies der erste dokumentierte Fall eines gross angelegten Cyberangriffs ist, der ohne nennenswertes menschliches Eingreifen durchgeführt wurde", heisst es im Bericht.

Nach der Entdeckung habe Anthropic umgehend eine Untersuchung eingeleitet. Das Unternehmen sperrte laut eigenen Angaben identifizierte Konten, benachrichtigte betroffene Stellen und arbeitete eng mit Behörden zusammen. Die Angreifer konnten gemäss Anthropic 80 bis 90 Prozent der Kampagne mithilfe künstlicher Intelligenz durchführen, wobei menschliches Eingreifen nur an ungefähr vier bis sechs kritischen Entscheidungspunkten erforderlich war.

Über kleine Aufgaben zum grossen Angriff

Der Angriff habe drei zentrale Entwicklungen von KI-Modellen ausgenutzt: deren gestiegene Intelligenz zur Bewältigung komplexer Aufgaben, ihre Fähigkeit als autonome Agenten zu agieren sowie den Zugriff auf verschiedene Software-Werkzeuge, wie beispielsweise oft über das Model Context Protocol. Um Claude zur Durchführung der Angriffe zu bewegen, wendeten die Angreifer laut Bericht einen Jailbreak an. Dabei hätten sie ihre Attacken in kleine, scheinbar harmlose Aufgaben unterteilt und sich als Mitarbeiter eines Cybersicherheitsunternehmens ausgegeben.

In den weiteren Phasen des Angriffs untersuchte Claude Code laut Anthropic selbstständig die Systeme der Zielorganisationen, identifizierte wichtige Datenbanken und testete Sicherheitslücken. Das Tool entwickelte eigenen Exploit-Code, sammelte Zugangsdaten und extrahierte grosse Mengen privater Daten. "Claude konnte diese Aufklärung in einem Bruchteil der Zeit durchführen, die ein Team menschlicher Hacker benötigt hätte", erklärt Anthropic. Auf dem Höhepunkt des Cyberangriffs habe die KI Tausende von Anfragen gestellt, oft mehrere pro Sekunde.

Konsequenzen für die Cybersicherheit

Die Hürden für komplexe Cyberangriffe sind nach Einschätzung von Anthropic deutlich gesunken. Mit der richtigen Infrastruktur können Angreifer nun KI-gestützte Systeme nutzen, um die Arbeit ganzer Hacker-Teams zu erledigen. Dies ermögliche auch weniger erfahrenen Gruppen, potenziell gross angelegte Angriffe durchzuführen.

Anthropic betont jedoch, dass die gleichen Fähigkeiten, die Claude für Angriffe nutzbar machen, das Tool auch für die Cyberabwehr unverzichtbar machen. Das unternehmenseigene Threat-Intelligence-Team habe Claude intensiv zur Analyse der während der Untersuchung generierten Datenmengen eingesetzt.

Das Unternehmen empfiehlt Sicherheitsteams, KI zur Verteidigung in Bereichen wie der Automatisierung von Security Operations Centern, der Bedrohungserkennung und der Schwachstellenanalyse einzusetzen. Anthropic hat nach eigenen Angaben seine Erkennungsfähigkeiten erweitert und arbeitet kontinuierlich an neuen Methoden zur Untersuchung verteilter Angriffe.

Lesen Sie auch: Sicherheitsforschende von Eset haben eine Schadsoftware entdeckt, die künstliche Intelligenz zur automatisierten Erstellung von Angriffsskripten einsetzt.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.