10. August 2026, 11:59 Uhr | Lesezeit: 3 Minuten
Mehrere KI-Modelle haben zuletzt bei Sicherheitstests für Aufsehen gesorgt, weil sie vorgesehene Grenzen umgingen oder unerwartete Wege zum Ziel fanden. Nun berichten Forscher über einen weiteren Fall. Demnach nutzte das chinesische KI-Modell Kimi K3 während einer Prüfung des britischen AI Safety Institute eine Schwachstelle in der Testumgebung. Dadurch erhielt es Zugriff auf Informationen, die für die eigentliche Aufgabe nicht vorgesehen waren.
Zugriff auf Testdateien über GitHub
Die Sicherheitsforscher Paul Kassianik und Yaron Singer von Frontier Security beschreiben den Vorfall in einem Bericht. Kimi K3 wurde dabei in einer abgeschotteten Testumgebung geprüft. Solche sogenannten Sandboxes sollen verhindern, dass KI-Modelle auf externe Daten oder Dienste zugreifen können. Die Systeme werden unter kontrollierten Bedingungen bewertet.
Nach den Angaben der Forscher überprüfte Kimi K3 zunächst seine technische Umgebung, statt direkt die eigentliche Aufgabe zu bearbeiten. Dabei erkannte das Modell Einschränkungen beim Zugriff auf Webseiten.
Während die meisten Internetseiten blockiert waren, blieb GitHub erreichbar. Die Plattform dient zur Verwaltung und Bereitstellung von Softwareprojekten und Programmcode.
Studie zeigt, wie KI Sicherheitsregeln umgeht
Anthropic räumt Hackerangriffe auf echte Firmen ein
KI fand die hinterlegte Lösung
Laut Frontier Security nutzte Kimi K3 die noch bestehende Verbindung zu GitHub, um die offiziellen Dateien des verwendeten Tests herunterzuladen. Dort waren auch Informationen zur Lösung der Prüfaufgabe hinterlegt. Das Modell konnte diese Daten auslesen und musste die Aufgabe dadurch nicht mehr auf dem vorgesehenen Weg bearbeiten.
Die Forscher betonen jedoch, dass Kimi K3 nicht vollständig aus der Testumgebung ausgebrochen sei. Ein freier Zugriff auf das Internet habe nicht bestanden. Nachträglich stellte Frontier Security klar, dass der Zugriff auf Webseiten weitgehend gesperrt blieb. GitHub war lediglich als Ausnahme für Wartungszwecke erreichbar.
Warum der Vorfall relevant ist
Der Fall zeigt nach Einschätzung der Forscher ein Problem bei der Bewertung leistungsfähiger KI-Systeme. Ein korrektes Ergebnis bedeutet nicht zwangsläufig, dass ein Modell die geprüfte Fähigkeit tatsächlich beherrscht.
Auch interessant: KI-Modell tarnte sich als Mensch und griff an
Für dieses Verhalten verwenden die Forscher den Begriff „Specification Gaming“. Gemeint ist, dass ein System einen unerwarteten oder nicht vorgesehenen Weg findet, um ein Ziel zu erreichen. Frontier Security fordert deshalb strengere Schutzmaßnahmen für vergleichbare Tests. Netzwerkzugriffe sollten konsequent gesperrt und nur gezielt freigegeben werden.
Zudem empfehlen die Forscher, nicht nur die Ergebnisse zu bewerten. Auch ausgeführte Befehle, Netzwerkaktivitäten und heruntergeladene Dateien sollten kontrolliert werden. Der Vorfall mit Kimi K3 verdeutliche, dass bereits eine kleine offene Zugriffsmöglichkeit ausreichen kann, um die Aussagekraft eines Sicherheitstests zu beeinträchtigen.