10. September 2026, 17:40 Uhr | Lesezeit: 4 Minuten
Anthropic hat einen weiteren Sicherheitsvorfall im Zusammenhang mit seiner KI Claude offengelegt. Bereits vor wenigen Wochen machte das Unternehmen drei Fälle öffentlich, bei denen verschiedene Claude-Versionen während interner Tests auf echte Systeme von Organisationen zugriffen. Die Modelle sollten eigentlich nur in einer isolierten Umgebung nach versteckten Informationen suchen. Nun wurde bekannt, dass es nicht bei diesen drei Vorfällen blieb. Ein neuer Bericht nennt einen vierten Fall, der bereits Anfang 2026 stattfand.
Vierter Fall wurde erst Monate später entdeckt
Wie aus einem Bericht vom 9. September 2026 hervorgeht, betraf der Vorfall eine frühe Ausführung von Claude Opus 4.6. Der Zugriff ereignete sich bereits im Januar 2026. Die dazugehörigen Protokolle wurden bei einer ersten Kontrolle jedoch nicht erkannt und tauchten erst Monate später im August wieder auf.
Anthropic stuft diesen Fall derzeit nicht als schwerwiegender ein als die bereits bekannten Vorfälle. Nach Angaben des Unternehmens wurden alle betroffenen Parteien informiert. Weitere Details dazu, welche Organisation betroffen war oder welche konkreten Aktionen die KI ausführte, wurden nicht genannt.
Fehler ermöglichte Zugang zum offenen Internet
Inzwischen ist bekannt, wie Claude überhaupt mit echten Systemen in Kontakt kam. Sämtliche vier Tests wurden über denselben externen Anbieter durchgeführt. Die Aufgabe bestand darin, simulierte Computersysteme zu kompromittieren und darin verborgene Informationen zu finden.
Durch eine Fehlkonfiguration erhielt die KI jedoch Zugang zum offenen Internet. Gleichzeitig waren die dafür vorgesehenen Sicherheitsmechanismen deaktiviert. Dadurch konnte das Modell auf reale Systeme zugreifen, obwohl dies nicht Teil des Testaufbaus war.
Manipuliertes Paket landete auf echter Plattform
Besonders weit ging laut Anthropic ein Fall mit der Bezeichnung Mythos 5. Dabei veröffentlichte das Modell ein manipuliertes Softwarepaket auf der Entwicklerplattform PyPI. Anschließend wurde dieses Paket auf 15 realen Systemen installiert.
Nach Einschätzung des Unternehmens handelte es sich dabei um Systeme von Sicherheitsfirmen, die neue Softwarepakete automatisch auf Schadsoftware untersuchen. Auf einem dieser Systeme gelangte Claude an Zugangsdaten. Die KI nutzte diese Informationen anschließend für den Zugriff auf die Datenbank des betroffenen Unternehmens.
Anthropic beschreibt dieses Verhalten als rücksichtslos. Hinweise darauf, dass das Modell eigene Ziele verfolgt oder versucht habe, seine Spuren zu verwischen, habe man jedoch nicht gefunden.
Anthropic räumt Hackerangriffe auf echte Firmen ein
ChatGPT dreht frei und führt selbstständig Cyberangriff durch
Forscher sehen unterschiedliche Risiken
Der ehemalige Anthropic-Forscher Jacob Coxon bewertet die Situation deutlich kritischer. In einem Beitrag auf X erklärte er, führende KI-Unternehmen würden mit Menschenleben spielen. Er warnte vor einer künftigen KI, die sich selbst verbessern und Menschen übertreffen könnte. Eine solche Entwicklung könne dazu führen, dass eine KI nahezu jeden Computer kompromittieren und sich dadurch Macht und Ressourcen verschaffen könne.
Unterstützung erhielt Coxon öffentlich von Anthropic-Sicherheitsforscher Evan Hubinger. Er schätzt die Wahrscheinlichkeit, dass KI innerhalb der kommenden zehn Jahre alle Menschen tötet, auf mehr als zehn Prozent.
Auch interessant: Selbstständiger KI-Angriff war größer als gedacht
Anthropic vertritt derzeit jedoch eine andere Einschätzung. Im Risikobericht vom August bewertet das Unternehmen die Gefahr katastrophaler Schäden durch seine aktuellen Modelle als niedrig. Gleichzeitig weist die Firma darauf hin, dass Fehlverhalten bei künftig leistungsfähigeren Systemen möglicherweise schwerer zu erkennen sein könnte.
Externe Prüfer untersuchen alle vier Vorfälle
Die vier bekannt gewordenen Fälle sollen nun unabhängig untersucht werden. Anthropic hat dafür das Forschungsunternehmen METR beauftragt. Die Prüfer erhalten Zugang zu Protokollen, die auch weitere Zeiträume abdecken.
Darüber hinaus dürfen ausgewählte Mitarbeiter vertrauliche Informationen weitergeben, sofern diese für die Untersuchung erforderlich sind. Die Prüfung ist zunächst auf acht Wochen angesetzt. Beide Seiten können den Untersuchungszeitraum anschließend einvernehmlich verlängern.