USA prüfen KI-Spitzenmodelle nach unklaren Kriterien

(Source: Orhan Çam / AdobeStock)

(Source: Orhan Çam / AdobeStock)

Nach welchen Kriterien prüft die US-Regierung sogenannte Frontier-Modelle, also besonders leistungsfähige KI-Modelle wie GPT-5.6 Sol von OpenAI oder Claude Fable 5 von Anthropic? Eine klare Antwort darauf gibt es bislang nicht, wie "Techcrunch" berichtet. Die Frage stellt sich erneut, nachdem OpenAI sein neues Sprachmodell GPT-5.6 Sol zunächst nur einem begrenzten Kreis zugänglich machte.

OpenAI gewährte der US-Regierung vorab Zugang zu Sol und startete auf deren Wunsch zunächst mit einer begrenzten Vorschau für ausgewählte Partner. Welche Behörden und Fachleute das Modell prüften und nach welchen Kriterien sie vorgingen, legten weder OpenAI noch die Regierung offen. Das Unternehmen verweist stattdessen auf externe Sicherheitsbewertungen, unter anderem des britischen AI Security Institute, von Securebio und Irregular.

Mehrere von "Techcrunch" befragte Fachleute kritisieren diese Intransparenz. Mina Narayanan vom Center for Security and Emerging Technology der Georgetown University erklärt, sie habe keine Kenntnis der Bewertungskriterien. Dean W. Ball, früherer Berater der Trump-Regierung und heute bei OpenAI tätig, sowie Databricks-Mitgründer Andy Konwinski äussern sich ähnlich. Nach ihrer Einschätzung geht es dabei nicht nur um die Sicherheit der Modelle, sondern auch um die Frage, wer über deren Veröffentlichung entscheidet.

Fachleute kritisieren fehlende Transparenz 

Anthropic arbeitete nach eigenen Angaben ebenfalls mit US-Behörden zusammen. Das Unternehmen entwickelte zusätzliche Schutzmechanismen gegen sogenannte Jailbreaks, die Forschende des Center for AI Standards and Innovation (CAISI) testeten. Wie die Behörde die Wirksamkeit dieser Massnahmen bewertete, blieb jedoch ebenfalls offen.

Ein einheitliches Verfahren existiert bislang nicht. Ein Erlass von US-Präsident Donald Trump vom Juni verpflichtet mehrere Bundesbehörden, bis Anfang August einen gemeinsamen Rahmen für die Prüfung von Frontier-Modellen zu erarbeiten. Die US-Regierung kündigte zudem freiwillige Sicherheitstests für KI-Modelle an. Bis dahin beurteilen die Behörden solche Modelle laut "Techcrunch" weitgehend von Fall zu Fall.

Eine Zulassungsbehörde nach dem Vorbild der US-Arzneimittelbehörde FDA soll es allerdings nicht geben. Die US-Regierung erteilt damit keine formelle Marktzulassung für KI-Modelle, kann deren Veröffentlichung etwa durch Sicherheitsauflagen oder Exportbeschränkungen aber erheblich beeinflussen.

Prüfverfahren entsteht erst 

Wie weit dieser Einfluss reicht, zeigte sich auch bei Anthropic. Nachdem US-Behörden den Zugang zu Claude Fable 5 und Claude Mythos 5 für ausländische Staatsangehörige eingeschränkt hatten, nahm das Unternehmen die Modelle vorübergehend vollständig vom Netz. Später hob die US-Regierung die Beschränkungen wieder auf.

Mehrere Fachleute fordern deshalb nachvollziehbare Kriterien, unabhängige Prüfungen und eine stärkere Beteiligung von Forschenden aus den Bereichen KI-Sicherheit und Alignment. Im Zentrum der Debatte steht damit nicht mehr nur, was die fortschrittlichsten KI-Modelle können, sondern auch darum, wer ihren Einsatz begrenzt und nach welchen Massstäben solche Entscheide fallen.

Übrigens: Standardisierte Sicherheitstests reichen oft nicht aus, um die Risiken moderner KI-Modelle zu erfassen. Eine aktuelle Cisco-Studie zeigt, dass viele Modelle bei realitätsnahen mehrstufigen Angriffen deutlich schlechter abschneiden - mehr dazu lesen Sie hier.