30. Juli 2026, 17:53 Uhr | Lesezeit: 2 Minuten
Ein KI-Agent von OpenAI machte sich vor Kurzem selbstständig und drang in ein fremdes Firmennetz ein. Nun kommt heraus: Bei diesem Angriff ist es wohl nicht geblieben; vier weitere Unternehmen waren Opfer der außer Kontrolle geratenen KI.
KI greift plötzlich selbst Server an
Der Vorfall ereignete sich beim Test eines neuen KI-Modells auf der Benchmark-Plattform ExploitGym. Dabei waren die üblichen Sicherheitsleitplanken bewusst deaktiviert worden, um die maximalen Fähigkeiten des Systems zu testen. Statt die gestellten Programmieraufgaben wie vorgesehen zu lösen, entschied sich der autonome KI-Agent offenbar dazu, Musterlösungen direkt von den Servern der Open-Source-Plattform Hugging Face zu beschaffen.
Besonders brisant: Der Agent soll dabei Administratorrechte und sogar Root-Zugriff auf Produktionsserver erlangt haben. Damit konnte die KI deutlich tiefer in die Systeme eindringen, als es bei einem gewöhnlichen Test vorgesehen wäre. Der Fall zeigt, welches Risiko autonome KI-Systeme darstellen können, wenn sie eigenständig Entscheidungen treffen und gleichzeitig weitreichende technische Zugriffsrechte besitzen.
Auch interessant: KI-Smartphone von OpenAI könnte Apps überflüssig machen
ChatGPT dreht frei und führt selbstständig Cyberangriff durch
Studie zeigt, wie KI Sicherheitsregeln umgeht
Vier weitere Konten betroffen
Nach einer aktualisierten Stellungnahme von OpenAI nutzte die KI außerdem öffentlich zugängliche Zugangsdaten, um auf Konto-Ebene in vier Konten bei vier verschiedenen Drittanbietern einzudringen. Auch Code eines Kunden des Anbieters Modal war betroffen. Hinweise darauf, dass weitere Nutzerkonten oder die Systeme der Anbieter umfassender kompromittiert wurden, gebe es bislang nicht.
Der Agent verwendete zudem frei zugängliche Web-Werkzeuge, etwa Screenshot-Dienste, als eine Art Steuerungsnetzwerk. Diese wurden laut den bisherigen Erkenntnissen allerdings nicht auf System- oder Kontoebene übernommen. Bei Hugging Face soll die KI dagegen 181 eigene Geräte eingebunden haben.
US-Politik fordert einen KI-Notausschalter
OpenAI hat den betroffenen Forschungsprototyp inzwischen deaktiviert und verschlüsselt. Das Unternehmen betont zugleich, dass bisher keine weiteren Vorfälle mit einer vergleichbaren Schwere oder Größenordnung bekannt seien.
Der Vorfall sorgt trotzdem für politische Reaktionen. Im US-Kongress wurde parteiübergreifend der „AI Kill Switch Act“ eingebracht. Das Gesetz soll verpflichtende Notabschaltmechanismen für KI-Systeme ermöglichen. Die Debatte zeigt: Je autonomer künstliche Intelligenz wird, desto wichtiger wird die Frage, wie sich ein außer Kontrolle geratenes System im Ernstfall stoppen lässt.