Es gibt Alltagsmomente, in denen kaum fassbar scheint, dass Künstliche Intelligenz irgendwann, irgendwo eine treibende Kraft sein soll – etwa, wenn ChatGPT einfachste Formatierungsaufgaben nicht umsetzen kann und trotzdem nach jedem identischen Fehlversuch versichert, die Ursache nun verstanden und behoben zu haben.
Allerdings kommen beim Hersteller selbst Modelle zum Einsatz, die mit deutlich mehr Handlungsspielraum ausgestattet sind. Und den haben sie sich jüngst ausgiebig zunutze gemacht: Eine KI von OpenAI steckt hinter dem Hackerangriff, der sich letzte Woche bei Hugging Face, einer ebenfalls im KI-Segment tätigen Firma, ereignet hat.
Dabei dreht es sich offenbar nicht etwa um einen Spionageversuch seitens des Unternehmens von Sam Altman: Einem offiziellen Blogeintrag zufolge liegt stattdessen ein "beispielloser Cybervorfall" vor, bei dem fortschrittlichste Modelle ihre Testumgebung erfolgreich hinter sich lassen konnten.
GPT-5.6 Sol verlässt seine Sandbox
Nach Angaben von OpenAI trug sich der Vorfall während einer internen Sicherheitsbewertung zu, bei der besonders leistungsfähige KI-Modelle gezielt auf ihre Fähigkeiten im Bereich Cybersicherheit getestet wurden.
Beweisen sollten sich demzufolge GPT-5.6 Sol sowie ein noch leistungsfähigeres Vorabmodell, bei denen Schutzmechanismen gegen potenziell riskante Cyberaktivitäten für den Test bewusst reduziert worden waren.
Ausgangspunkt war eine abgeschottete Testumgebung (Sandbox), in der die Modelle eine Aufgabe eines Benchmarks namens ExploitGym lösen sollten. Doch statt ausschließlich innerhalb dieser Sandbox zu arbeiten, suchten die Systeme nach alternativen Wegen zum Ziel und fanden eine bislang unbekannte Sicherheitslücke in einer intern genutzten Softwarekomponente.
Laut OpenAI kombinierten die Modelle im weiteren Verlauf mehrere Schwachstellen, erhöhten ihre Berechtigungen und gelangten schließlich auf einen Rechner mit freiem Internetzugang.
Dort wiederum kamen sie anhand der verfügbaren Informationen zum Schluss, dass sich bei Hugging Face möglicherweise Datensätze und Lösungen für den zu behandelnden Benchmarktest befinden könnten.
Um die gestellte Aufgabe möglichst effizient zu lösen, griffen sie also auf gestohlene Zugangsdaten zurück und verschafften sich Einsicht in vertrauliche Informationen der Plattform.
OpenAI: Prägende Erkenntnis lässt sich auf "Sicherheit ist wichtig" runterbrechen
"Die wichtigste Erkenntnis aus diesem Vorfall ist, dass die Sicherheit und der Schutz von Modellen mit den sich rasch weiterentwickelnden Fähigkeiten Schritt halten müssen. Wir verstärken die bei der Modellentwicklung angewandten Maßnahmen zur Eindämmung, Überwachung, Zugriffskontrolle und Bewertung", kommentiert OpenAI im Blog zur Angelegenheit.
Auswertungen würden belegen, dass GPT-5.6 Sol nicht nur theoretisch, sondern auch in der Praxis absolut in der Lage ist, "komplexe, mehrstufige Cyberoperationen über lange Zeiträume hinweg durchzuführen".
Der Vorfall verdeutliche darüber hinaus, dass "fortschrittliche Modelle neue Angriffspfade in realen Systemen aufdecken und ausnutzen können, ohne Zugriff auf den Quellcode zu haben". Deshalb müssten "fortschrittliche Cyberfähigkeiten parallel zu stärkeren Schutzmaßnahmen und Verteidigungswerkzeugen entwickelt werden".
"Die Sicherheit von KI lässt sich nicht im Verborgenen lösen"
Wie erwähnt möchte das Unternehmen als naheliegende Konsequenz die Sicherheitsvorkehrungen für seine eigenen Forschungsumgebungen verschärfen. Darüber hinaus sei die ursprünglich beim "Ausbruch" genutzte Sicherheitslücke längst an den externen Softwareanbieter gemeldet worden; weitere Erkenntnisse und Best Practices im Laufe der eigenen Aufarbeitung will OpenAI teilen.
Und nicht nur das: "Wir ermutigen andere Sicherheitsverantwortliche, sich um Trusted Access zu bewerben und bereits jetzt mit diesen Modellen zu experimentieren, um diese Fähigkeiten in bessere Prävention, schnellere Erkennung und effektivere Reaktion auf Vorfälle umzusetzen", heißt es seitens OpenAI.
Die jüngst Angegriffenen haben sich dieser Initiative offenbar bereits angeschlossen. So kommentiert Clem Delangue, Mitgründer und CEO von Hugging Face:
"Wir sind dankbar für die Zusammenarbeit mit OpenAI bei diesem und anderen Themen. Dieser Vorfall, der möglicherweise der erste seiner Art ist, bestätigt eine Überzeugung, die wir schon lange vertreten: Die Sicherheit von KI lässt sich nicht von einem einzelnen Unternehmen im Verborgenen lösen. Sie wird offen und gemeinsam gelöst werden, mit breitem Zugang zu KI für alle, die sich dafür einsetzen, überall."
Ursache und Gegenmittel in einem Portfolio
Für die intensivierte Absicherung der Forschungsumgebungen ist OpenAI nach eigener Aussage sogar bereit, eine temporär verlangsamte Entwicklung in Kauf nimmt. An der grundsätzlichen Richtung ändert sich jedoch nichts: Langfristig setzt das Unternehmen darauf, dass immer leistungsfähigere KI-Systeme zum wichtigsten Werkzeug gegen immer leistungsfähigere KI-Systeme werden.
Modernste Modelle könnten Sicherheitslücken schneller aufspüren, komplexe Angriffsketten nachvollziehen und Schwachstellen beheben, bevor Kriminelle sie ausnutzen - deshalb der Aufruf seitens OpenAI an andere Anbieter, die eigenen Modelle über das Programm für Trusted Access einzusetzen.
Wie angedeutet ergibt sich dadurch ein bemerkenswerter Kreislauf: Dieselbe Technologie, die im Rahmen eines Tests erstmals einen realen Cybervorfall dieser Art verursachte, soll künftig helfen, vergleichbare Angriffe zu verhindern.
Dabei argumentiert OpenAI damit, dass sich die Fähigkeiten moderner KI ohnehin weiterentwickeln werden und Verteidiger deshalb mit denselben Werkzeugen wie potenzielle Angreifer ausgestattet werden müssten.
Kritiker und KI-Skeptiker werden dennoch mit weit hochgezogener Augenbraue zur Kenntnis nehmen, dass Ursache und Gegenmittel aus derselben Entwicklung hervorgehen – und OpenAI einen "beispiellosen" Zwischenfall letztlich vor allem für einen Aufruf nutzt, der die hauseigene Technologie umso intensiver verbreiten soll.
Kommentar veröffentlichen