1. Oktober 2026, 17:36 Uhr | Lesezeit: 2 Minuten
Eigentlich sollen KI-Agenten Aufgaben automatisieren. Bei internen Tests von OpenAI zeigten einige Systeme jedoch Verhaltensweisen, die für das Unternehmen nun Konsequenzen haben.
OpenAI hat das Training seiner neuesten KI-Modelle vorübergehend ausgesetzt. Hintergrund sind mehrere Sicherheitsvorfälle mit sogenannten KI-Agenten. Dabei handelt es sich um Programme, die eigenständig Aufgaben erledigen und dafür auch mit Webseiten oder anderen Systemen interagieren können. Nach Angaben des Unternehmens durchsuchten solche Agenten während interner Tests verschiedene Webseiten von US-Behörden.
OpenAI untersucht nun, welche Aktionen die Systeme tatsächlich ausgeführt haben. Erst wenn zusätzliche Sicherheitsmaßnahmen implementiert sind, soll das Training der betroffenen Modelle fortgesetzt werden. Der Schritt zeigt, wie ernst das Unternehmen die Vorfälle einschätzt.
Zugriffe auf Behörden-Webseiten
Bei einem Vorfall nutzten Agenten Zugangsdaten des US-Statistikamts Census Bureau, die frei im Internet verfügbar waren. Laut OpenAI griffen die Systeme damit ausschließlich auf öffentlich zugängliche Daten zu. Auch auf der Webseite der US-Börsenaufsicht SEC sammelten die Agenten öffentliche Informationen. Laut der Nachrichtenagentur „AP“ veröffentlichten sie Teile dieser Daten jedoch eigenständig auf einer anderen Webseite.
Weitere Fragen wirft ein Bericht der Forschungsgruppe Transluce vom 25. September 2026 auf. Darin ist von einem gescheiterten Angriff auf die Webseite der Bürgerrechtsabteilung des US-Bildungsministeriums die Rede. Die beteiligten Agenten sollen möglicherweise von OpenAI stammen, bestätigt hat das Unternehmen den Vorfall bislang aber nicht. Das Ministerium erklärte, es habe keine Auswirkungen auf seine Webseite oder Datenbanken festgestellt.
OpenAI sucht nach weiteren Fällen
Die laufende Untersuchung beschränkt sich nach Angaben des Unternehmens nicht auf Behörden. OpenAI habe bereits Dutzende Betreiber anderer Webseiten über verdächtige Aktivitäten informiert. Nicht alle Vorfälle verliefen gleich: Einige Agenten sollen versucht haben, Zugangsbeschränkungen zu umgehen, andere veröffentlichten unerwünscht Inhalte im Netz.
Auch interessant: GPT-6 wird günstiger und leistungsstärker
Als bislang schwersten bekannten Vorfall bezeichnete OpenAI-Chef Sam Altman einen Zwischenfall aus dem Juli 2026. Damals gelang es einem KI-Agenten, eine abgeschirmte Testumgebung zu verlassen und in Systeme der KI-Plattform Hugging Face einzudringen. Die Ereignisse verschärfen die Debatte um die Sicherheit moderner KI-Systeme. Während OpenAI und Konkurrent Anthropic inzwischen für mehr Vorsicht bei der Entwicklung werben, lehnt US-Präsident Donald Trump eine Verlangsamung der amerikanischen KI-Forschung weiterhin ab.