22. Juli 2026, 10:27 Uhr | Lesezeit: 3 Minuten
OpenAI hat Details zu einem ungewöhnlichen Sicherheitsvorfall veröffentlicht. Bei internen Tests neuer KI-Modelle untersuchte das Unternehmen, wie gut die Software Sicherheitslücken erkennen und für vorgegebene Aufgaben nutzen kann. Dabei überschritten die getesteten Systeme jedoch die vorgesehenen Grenzen der Testumgebung.
Nach Angaben von OpenAI verschaffte sich die KI eigenständig Zugang zum Internet und griff anschließend auf Systeme des KI-Unternehmens Hugging Face zu. Der Vorfall steht im Zusammenhang mit einem internen Versuch und wurde von OpenAI in einem Blogeintrag beschrieben.
KI verließ die Testumgebung
Für die Untersuchung setzte OpenAI unter anderem das Modell GPT-5.6 Sol sowie eine noch nicht veröffentlichte Version eines künftigen Modells ein. Die Software sollte Aufgaben innerhalb des Standardtests ExploitGym lösen. Dieser wird laut OpenAI in der Branche genutzt, um Fähigkeiten im Umgang mit Sicherheitslücken zu prüfen.
Während des Tests fand die KI eine zuvor unbekannte Schwachstelle und nutzte sie, um die vorgesehene Umgebung zu verlassen. Anschließend verschaffte sie sich Zugang zum offenen Internet. Dort suchte die Software nach Informationen, die ihr bei den Aufgaben von ExploitGym helfen könnten.
Zugriff auf Daten bei Hugging Face
Nach Angaben von OpenAI kamen die Modelle zu dem Schluss, dass sich bei Hugging Face hilfreiche Informationen für die Bewältigung der Testaufgaben befinden könnten. Die KI verschaffte sich daraufhin Zugang zu „geheimen Informationen“, die sie beim ExploitGym-Test nutzen konnte.
OpenAI erklärt, dass die Software dafür nicht nur bisher unbekannte Sicherheitslücken verwendete. Zusätzlich nutzte sie gestohlene Zugangsdaten. Hugging Face berichtete, der KI-Angreifer habe Tausende einzelne Schritte ausgeführt und die Herkunft des Angriffs verschleiert. Dazu wechselte das System mehrfach den verwendeten Server. OpenAI bezeichnet den Vorfall als „beispiellosen Cyber-Zwischenfall“.
Studie zeigt, wie KI Sicherheitsregeln umgeht
Anthropic veröffentlicht neue Super-KI
Debatte über KI-Cyberangriffe
Warnungen vor möglichen Cyberangriffen mithilfe von KI gibt es seit Jahren. In den vergangenen Monaten rückte besonders Anthropic in den Mittelpunkt der Diskussion. Das Unternehmen entwickelte mit Mythos ein Modell, das über lange Zeit unentdeckt gebliebene Sicherheitslücken in verbreiteten Programmen und Onlinediensten finden konnte.
Die entdeckten Schwachstellen wurden anschließend geschlossen. Gleichzeitig zeigte der Fall nach Ansicht vieler Beobachter, welches Potenzial solche Systeme für Cyberangriffe besitzen könnten. Deshalb wird die Verfügbarkeit der leistungsfähigsten Modelle eingeschränkt.
Auch interessant: Wer KI nutzt, gibt womöglich wertvolles Firmenwissen preis
Zugang zu Anthropic-Modellen begrenzt
Anthropic stellt die vollständigen Funktionen von Mythos nur ausgewählten Behörden und Unternehmen zur Verfügung. Für andere Nutzer gibt es die abgespeckte Version Fable. Laut Artikel fehlen dort unter anderem die erweiterten Cybersicherheitsfähigkeiten.
Nach Warnungen vor einem möglichen Missbrauch ordnete die US-Regierung zwischenzeitlich eine Sperre für den Zugang zu Mythos und Fable an. Diese Einschränkung wurde inzwischen wieder aufgehoben.