KI-Agent legt AWS-Dienst für 13 Stunden lahm

(Source: Amazon)

(Source: Amazon)

Ein internes KI-Werkzeug von Amazon Web Services (AWS) hat im Dezember 2025 einen Dienst für rund 13 Stunden lahmgelegt, wie die "Financial Times" (Paywall) berichtet. Der KI-Agent löschte und erstellte dabei selbstständig eine Produktionsumgebung. Der Ausfall betraf einen AWS-Dienst, mit dem die Kundschaft ihre Cloud-Kosten analysiert.

Mehrere von der britischen Tageszeitung zitierte Mitarbeitende geben an, das Tool habe gehandelt, ohne dass ein Mensch den Eingriff zuvor bestätigte. Dieses Vorgehen verstosse gegen die etablierten Sicherheitsprotokolle für Live-Systeme. Der Vorfall sei bereits der zweite innerhalb weniger Monate, in den interne KI-Werkzeuge von Amazon verwickelt waren.

Agent mit weitreichender Handlungsfreiheit

Bei dem fraglichen Werkzeug handelt es sich um Kiro, einen Programmierassistenten, den AWS im Juli 2025 einführte. Im Gegensatz zu klassischen Assistenten, die lediglich Code vorschlagen, agiert Kiro als agentisches System. Es kann technische Aktionen auf Basis menschlicher Befehle direkt ausführen.

Beim Vorfall im Dezember schätzte das Tool offenbar, die beste Lösung für ein erkanntes Problem sei es, die betreffende Umgebung zu löschen und neu zu erstellen. Diese Aktion führte es aus, ohne dass eine zweite Fachperson sie prüfte - ein für kritische Systeme normalerweise vorgeschriebener Schritt.

Gegenüber der "Financial Times" erklärte Amazon, Kiro erfordere standardmässig für jede Aktion eine explizite Freigabe. Der Konzern stuft den Vorfall denn auch als "Problem bei der Kontrolle von Zugriffsberechtigungen und nicht als grundlegenden Fehler des KI-Tools" ein. Die beteiligte Fachperson habe über weitreichende Zugriffsrechte verfügt.

Amazon beschwichtigt zudem, der Ausfall im Dezember sei ein "äusserst begrenztes Ereignis" gewesen. Nur ein einziger AWS-Dienst sei betroffen gewesen, und dies ausschliesslich in einigen Regionen in China. Ein zweiter, späterer Vorfall habe keinen kundennahen Dienst betroffen. Der Konzern bestreitet, dass es sich um ein spezifisches KI-Problem handle. Vergleichbare Pannen könnten auch mit traditionellen Werkzeugen oder bei menschlichen Eingriffen passieren.

Anhaltende Bedenken im Unternehmen

Dennoch äussern laut "Financial Times" einige AWS-Mitarbeitende Bedenken über die weitreichende Autonomie, die man diesen Werkzeugen gewährt. Sie berichten, die KI-Assistenten erhielten teilweise dieselben weitreichenden Berechtigungen wie menschliche Fachkräfte, ohne dass jedoch eine systematische Gegenprüfung stattfinde.

Amazon hat nach eigenen Angaben seither die internen Kontrollen verschärft. Das Unternehmen schreibe nun obligatorische Gegenprüfungen durch Kolleginnen und Kollegen (Peer-Reviews) vor und schule die Teams zusätzlich.

Inwiefern autonome KI-Agenten ein Geschäftsrisiko darstellen, zeigt der jüngste "Cyber Pulse Report" von Microsoft - mehr dazu lesen Sie hier. 

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.