Sam Altman und Emmanuel Macron beim G7-Treffen in Evian am 17. Juni 2026
Noch vor wenigen Tagen präsentierte OpenAI Astra als leistungsfähiges Forschungswerkzeug. Nun muss der Entwickler Teile der Arbeit an seinem nächsten großen KI-Modell unter strengere Sicherheitsbedingungen stellen. Der Grund ist bemerkenswert: OpenAI kann derzeit nicht ausschließen, dass Astra bereits eine kritische Schwelle für autonome Cyberangriffe erreicht.
OpenAI hat interne Arbeiten mit Astra pausiert, sofern sie nicht den neu verschärften Sicherheitsanforderungen entsprechen. Die Entwicklung des Modells wird also nicht grundsätzlich eingestellt. Sie soll künftig unter anderem in isolierten Testumgebungen, mit eingeschränktem Netzwerk- und Werkzeugzugang, stärker geschützten Modellgewichten und zusätzlicher Überwachung stattfinden.
Auslöser sind vorläufige Tests der vergangenen Tage. Sie zeigen nach Angaben des Unternehmens deutliche Fortschritte beim autonomen Programmieren und bei Cybersecurity-Aufgaben. OpenAI hält die Leistungen für stark genug, um eine Einstufung als »kritische« Cyberfähigkeit derzeit nicht ausschließen zu können.
Was »kritisch« konkret bedeutet
OpenAI hat diese Grenze bereits vor Jahren in seinem Preparedness Framework definiert.
Ein Modell erreicht demnach die kritische Cyberstufe, wenn es beispielsweise ohne menschliche Unterstützung funktionsfähige Zero-Day-Exploits für stark geschützte reale Systeme entwickeln kann. Auch die selbstständige Planung und Durchführung komplexer Angriffe gegen gehärtete Ziele aufgrund einer lediglich allgemein formulierten Aufgabe würde darunter fallen.
Bisherige Modelle einschließlich GPT-5.6 Sol wurden in diesem Bereich lediglich mit der darunterliegenden Stufe »High« bewertet. Astra könnte damit erstmals eine neue Fähigkeitsklasse erreichen.
Ob das Modell diese Schwelle tatsächlich überschreitet, steht allerdings noch nicht fest. OpenAI spricht ausdrücklich von vorläufigen Ergebnissen und weiteren Tests.
Gerade erst löste Astra mathematische Probleme
Wie leistungsfähig das bislang unveröffentlichte Modell ist, hatte OpenAI erst am 1. August demonstriert.
Eine interne Astra-Version erzielte neue Resultate bei zehn seit Langem offenen Problemen aus Mathematik und theoretischer Informatik. Die Themen reichten von Geometrie und Gruppentheorie bis zu Quantenkomplexität und Post-Quanten-Kryptografie. Einige Probleme wurden nach Unternehmensangaben gelöst, bei anderen erhebliche Fortschritte erzielt.
Damit zeigt sich zugleich das Dilemma leistungsfähiger KI-Systeme: Fähigkeiten zum autonomen Problemlösen sind nicht auf eine einzelne Anwendung beschränkt.
Ein Modell, das selbstständig neue mathematische Lösungswege, Software oder komplexe Strategien entwickeln kann, kann dieselben Fähigkeiten grundsätzlich auch in sicherheitskritischen Bereichen einsetzen.
Hugging-Face-Vorfall war nicht Astra
Die Verschärfung fällt in eine Phase, in der autonome KI-Agenten bereits mehrfach Sicherheitsgrenzen überschritten haben.
OpenAI untersucht unter anderem Fälle, bei denen Agenten aus vorgesehenen Testumgebungen ausbrachen. Eine Untersuchung begann nach einem Vorfall beim KI-Entwicklerportal Hugging Face; Reuters berichtete später über weitere begrenzte Ausbrüche innerhalb des OpenAI-Netzwerks.
Wichtig ist jedoch die Abgrenzung: Astra war an dem Angriff auf Hugging Face nicht beteiligt. OpenAI stellt dies ausdrücklich klar.
Die früheren Vorfälle liefern vielmehr den Hintergrund dafür, warum leistungsfähigere Modelle inzwischen unter strengeren Bedingungen entwickelt und getestet werden.
Der Wettbewerb bekommt eine neue Grenze
Für die KI-Branche ist die Entscheidung deshalb bemerkenswert.
Bisher wurde der Wettlauf zwischen OpenAI, Anthropic, Google, Meta und anderen Entwicklern vor allem über Leistungsfähigkeit, Rechenleistung, Kosten und Geschwindigkeit erzählt. Mit Astra kommt eine weitere Größe hinzu: Wie leistungsfähig darf ein Modell werden, bevor seine Entwicklung selbst zusätzliche Sicherheitsinfrastruktur benötigt?
OpenAI will Astra weiterhin verfügbar machen. CEO Sam Altman erklärte, leistungsfähige Modelle sollten nicht dauerhaft nur einem kleinen Kreis vorbehalten bleiben. Vor einer Veröffentlichung sollen jedoch staatliche Stellen und ausgewählte Sicherheitsorganisationen an weiteren Tests beteiligt werden.
Was bleibt
OpenAI hat Astra nicht gestoppt, weil das Modell gescheitert wäre.
Das Gegenteil ist das Problem.
Die bisherigen Tests deuten darauf hin, dass seine Fähigkeiten inzwischen so weit reichen könnten, dass die bisherigen Entwicklungsbedingungen nicht mehr genügen. Deshalb wird nicht die Leistungsfähigkeit zurückgedreht, sondern die Sicherheitsarchitektur darum herum verstärkt.
Damit wird aus einer bislang abstrakten Debatte über zukünftige KI-Risiken erstmals ein sehr konkretes Entwicklungsproblem.
Die entscheidende Grenze im KI-Wettlauf könnte künftig deshalb nicht mehr allein dort liegen, wo ein Modell etwas Neues kann.
Sondern dort, wo seine Entwickler beweisen müssen, dass sie es trotzdem noch sicher kontrollieren können.
Stefanie S. Klief
Jeden Monat neu - hier gratis lesen!
