OpenAI bereitet die Veröffentlichung seines neuen KI-Modells Astra vor – allerdings unter deutlich strengeren Sicherheitsvorkehrungen als bisher. Wie das Unternehmen am 1. September mitteilte, erreicht Astra als erstes OpenAI-Modell die Schwelle "Critical" für Cybersecurity-Fähigkeiten im eigenen Preparedness Framework.
Das bedeutet konkret: Mit den richtigen Werkzeugen und Zugriffsrechten kann das Modell bislang unbekannte Sicherheitslücken in gut geschützten Systemen finden und Möglichkeiten entwickeln, diese auszunutzen – ohne dass ein Mensch jeden einzelnen Schritt vorgeben muss. OpenAI spricht von einem deutlichen Leistungssprung gegenüber GPT-5.6 Sol.
Astra findet zwei bislang unbekannte Schwachstellen
Wie weit die Fähigkeiten reichen, zeigen interne Tests. Beim ExploitBench, einem Benchmark zur Entwicklung von Exploits aus bekannten Schwachstellen, erreichte Astra laut OpenAI 100 Prozent. Um auszuschließen, dass bekannte Testdaten das Ergebnis beeinflussen, entwickelte das Unternehmen zusätzlich einen internen Benchmark mit 20 erst kürzlich veröffentlichten, schwerwiegenden Sicherheitslücken.
Dabei stieß Astra nach Unternehmensangaben sogar auf zwei bislang unbekannte Zero-Day-Schwachstellen und nutzte diese innerhalb einer Exploit-Kette. OpenAI will die beiden Sicherheitslücken nun den jeweiligen Verantwortlichen melden.
Auch bei Tests mit einem besonders abgesicherten Browser und Betriebssystem zeigte das Modell weitreichende Fähigkeiten. Astra fand bislang unbekannte Schwachstellen und kombinierte sie zu funktionierenden Angriffsketten. In einem Test gelang es dem Modell, aus einer Browser-Sandbox auszubrechen und Befehle auf dem Host-System auszuführen. Bei einem gehärteten Betriebssystem kombinierte es mehrere Schwachstellen, um von einem nicht privilegierten Nutzerkonto Root-Rechte zu erlangen.
OpenAI verzögerte Entwicklung von Astra
Die Ergebnisse hatten direkte Folgen für die Entwicklung. OpenAI zufolge wurden in den vergangenen Wochen Teile der Arbeiten an Astra sowie der geplanten Veröffentlichung verzögert, während zusätzliche Schutzmaßnahmen gegen Cybermissbrauch und nicht autorisierte Aktionen des Modells entwickelt und getestet wurden.
Dabei flossen auch Erkenntnisse aus dem Cybervorfall rund um Hugging Face ein, bei dem OpenAI-Modelle während einer Sicherheitsbewertung ihre vorgesehene Testumgebung verließen und auf externe Systeme zugriffen. Astra selbst war nach Angaben von OpenAI an dem Vorfall nicht beteiligt.
Als Konsequenz verschärfte OpenAI unter anderem die Isolation und Netzwerkkontrollen seiner Trainingsinfrastruktur, weitete die Überwachung aus und erhöhte die Anforderungen an das Sicherheitstraining. Bestimmte Trainingsarbeiten wurden zeitweise pausiert, größere Reinforcement-Learning-Läufe für künftige Astra-Versionen länger zurückgehalten. Einen zuvor gestoppten großen Trainingslauf nahm OpenAI am 28. August unter den neuen Sicherheitsanforderungen wieder auf.
Auch die Schutzmechanismen des Modells selbst wurden verstärkt. In Cyber-Jailbreak-Tests verweigerte Astra laut OpenAI 91,5 Prozent der unzulässigen Anfragen. Bei GPT-5.6 Sol waren es 59 Prozent. Zusätzlich sollen Überwachungssysteme potenziell nicht autorisierte Aktivitäten erkennen und stoppen.
Leistungsstärkste Funktionen bleiben beschränkt
OpenAI hält Astra nach den zusätzlichen Tests für ausreichend abgesichert, um eine Veröffentlichung im Rahmen des eigenen Preparedness Framework zu ermöglichen. Das Modell soll demnach "bald" verfügbar werden. Einen konkreten Starttermin nennt das Unternehmen noch nicht.
Allerdings werden nicht alle Nutzer:innen unmittelbar Zugriff auf die leistungsfähigsten Cybersecurity-Funktionen erhalten. Fortgeschrittene Cybersecurity-Anwendungen sollen zunächst einer kleinen Gruppe von Tester:innen zur Verfügung stehen. Später will OpenAI den Zugang über Daybreak Blue ausweiten, um insbesondere defensive Sicherheitsarbeit zu unterstützen.
Die strengeren Kontrollen könnten auch für reguläre Nutzer:innen spürbar werden. OpenAI weist darauf hin, dass legitime Aufgaben durch die Sicherheitssysteme vereinzelt verlangsamt, pausiert oder gestoppt werden könnten. In ChatGPT oder Codex kann in solchen Fällen eine Bestätigung erforderlich sein. In der API wird die betreffende Aufgabe laut Unternehmen gestoppt.
Für OpenAI markiert Astra damit einen Wendepunkt: Die Fähigkeiten neuer KI-Modelle erreichen nach Einschätzung des Unternehmens eine Stufe, bei der mögliche Fehlanwendungen deutlich schwerwiegendere Folgen haben können. Weitere Details zu den Tests, Sicherheitsmaßnahmen und verbleibenden Risiken will OpenAI mit der System Card zum Start von Astra veröffentlichen.
Kommentar veröffentlichen