KI-Giganten warnen vor ihrer eigenen Technologie

(Source: freepik / freepik.com)

(Source: freepik / freepik.com)

Künstliche Intelligenz könnte dereinst die gesamte Menschheit auslöschen. Dieses ursprüngliche Science-Fiction-Szenario schaffte es Anfang September 2026 einmal mehr in die Schlagzeilen. In Umlauf brachte es Evan Hubinger, ein Mitglied des Sicherheits-Teams beim KI-Giganten Anthropic. Die Chancen, dass KI-Modelle der Zukunft "alle Menschen töten könnten", stünden bei über 10 Prozent, warnte der Spezialist, wie unter anderem die "BBC" berichtet. Das Newsportal merkt an, Hubinger habe nicht erläutert, wie KI konkret vorgehen würde, um dieses destruktive Ziel zu erreichen.

Der Bericht lässt das Statement nicht unwidersprochen. Gegenüber der "BBC" gibt Computerwissenschafterin und UN-Beraterin Wendy Hall zu Bedenken, bei derartigen Äusserungen könnte es sich um "PR und Marketing" handeln. Sollte die Aussage tatsächlich Anthropics Ansichten widerspiegeln, rate sie, nicht in das Unternehmen zu investieren.

Mehr Sicherheit, weniger Tempo

Das von Hubinger gezeichnete Szenario klingt zwar aussergewöhnlich bedrohlich, doch er ist tatsächlich nicht der einzige, der vor Sicherheitsgefahren im Zusammenhang mit KI warnt. So veröffentlichte Anthropic-Chef Dario Amodei ebenfalls Anfang September einen längeren Artikel mit dem Titel "We Must Pace the Frontier". Darin warnt er vor der KI-Fähigkeit, ihre nächste Generation eigenständig zu entwickeln (er spricht in dem Zusammenhang von "rekursiver Selbstverbesserung"). Der Anthropic-Chef erinnert an einen Sicherheitsvorfall bei KI-Rivale OpenAI, als dessen KI-Agenten die Plattform Hugging Face eigenständig hackten. Bei dem Vorfall sei zwar niemand verletzt worden, räumt Amodei ein. Aber: "Ein Schwarm mit grösseren Fähigkeiten, aber einem ähnlich hohen Grad an Fehlanpassung hätte katastrophale Schäden verursachen können."

Der Anthropic-CEO regt an, die Entwicklung künstlicher Intelligenz bewusst zu verlangsamen und dafür stärker in Sicherheitsleitplanken zu investieren. In seinem Essay formuliert er dafür drei Schritte:

1. Jedes führende KI-Unternehmen sollte externen Prüfpersonen Zugang zu seinen Entwicklungen gewähren. Die Evaluatoren sollten dann sicherstellen, dass Sicherheitspraktiken eingehalten und allfällige Vorfälle gemeldet würden.

2. Auf internationaler Ebene sollten demokratische Staaten gemeinsame Sicherheitsstandards sowie Grenzen für das Tempo unkontrollierter KI-Fortschritte ausarbeiten.

3. Schliesslich sollten sich demokratisch regierte Staaten mit autoritären Staaten auf mögliche Sicherheitsleitplanken einigen, "wobei sie die Schwierigkeiten bei der Überprüfung der Einhaltung von Vereinbarungen ernst nehmen", wie Amodei schreibt.

Sicherheit vor Börsengang

Auf der Plattform X stimmte Sam Altman, CEO des KI-Konkurrenten OpenAI, Amodeis Forderung zu, wie "Reuters" berichtet. OpenAI bemüht sich seit dem Hugging-Face-Vorfall, seine Anstrengungen um sichere KI-Entwicklung zu verstärken und zu präsentieren. Zwar bestätigte er die in Anthropic-Kreisen geäusserte 10-Prozent-Theorie einer Auslöschung der Menschheit nicht, kommentiert aber: "Entscheidend ist, dass wir alle eine enorme Verantwortung tragen und nicht zulassen dürfen, dass Egos, Gewinnanreize oder irgendetwas anderes dem im Weg stehen."

Der OpenAI-CEO nutzte die Gelegenheit auch, um die vorläufige Verschiebung eines geplanten Börsengangs bekanntzugeben. "Angesichts all dessen, was derzeit im Bereich Sicherheit geschieht, wäre jetzt ein denkbar ungünstiger Zeitpunkt für einen Börsengang", zitiert ihn Reuters. Aktuell gelte es "zu klären, wie die Branche und die Regierungen zusammenarbeiten können."

In einem Bericht schrieb Anthropic kürzlich von Missbrauchsfällen seiner KI-Modelle, die man unterbinden konnte. Dazu gehören nicht nur Cyberangriffe, sondern auch Versuche zur Waffenentwicklung, wie Sie hier lesen können.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.