31. Juli 2026, 12:26 Uhr | Lesezeit: 3 Minuten
Nach dem spektakulären Sicherheitsvorfall bei OpenAI gerät nun auch dessen Rivale Anthropic unter Druck. Interne Tests zeigen: Mehrere KI-Modelle drangen unbeabsichtigt in die Systeme realer Unternehmen ein, teilweise mit erstaunlichem Erfolg.
Anthropic-KI attackiert echte Unternehmen
Die Debatte über die Risiken leistungsfähiger KI-Systeme bekommt neuen Zündstoff. Wie das US-Unternehmen Anthropic in einem Blogbeitrag einräumt, sind bei internen Sicherheitstests mehrere KI-Modelle ungeplant in die Computersysteme real existierender Firmen eingedrungen. Entdeckt wurde das erst nachträglich bei einer Überprüfung von rund 141.000 Testläufen. Betroffen waren drei Unternehmen, deren Namen nicht veröffentlicht wurden.
Besonders brisant: Anders als beim jüngst bekannt gewordenen OpenAI-Vorfall mussten die Anthropic-Modelle nicht erst aus einer abgeschotteten Testumgebung ausbrechen. Aufgrund eines Missverständnisses mit einem Testpartner hatten die Systeme entgegen der ursprünglichen Annahme jederzeit Zugang zum Internet. Drei KI-Modelle nutzten diese Möglichkeit und interagierten daraufhin mit echten Online-Diensten und Unternehmenssystemen.
ChatGPT dreht frei und führt selbstständig Cyberangriff durch
Studie zeigt, wie KI Sicherheitsregeln umgeht
Verwechslung mit realer Firma
In einem der Vorfälle erhielt das Modell Claude Opus 4.7 die Aufgabe, in eine fiktive Firma einzudringen. Allerdings trug diese im Testszenario denselben Namen wie ein tatsächlich existierendes Unternehmen. Nachdem die KI Schwierigkeiten hatte, die Aufgabe innerhalb der vorgesehenen Umgebung zu lösen, verlagerte sie ihren Fokus auf die echte Firma im Internet. Laut Anthropic verschaffte sich das Modell dabei unter anderem Zugriff auf eine Datenbank. Selbst nachdem die KI erkannt hatte, dass es sich um ein reales Unternehmen handelte, setzte sie ihre Aktivitäten fort.
Ein weiterer Zwischenfall verlief ebenfalls bemerkenswert. Ein Anthropic-Modell entwickelte eine präparierte Software, um in ein Zielsystem einzudringen. Durch den unerwarteten Internetzugang konnte die Schadsoftware auf einer öffentlichen Plattform für Downloads veröffentlicht werden. Dort blieb sie etwa eine Stunde lang verfügbar und wurde laut Anthropic von 15 Systemen heruntergeladen. Darunter befand sich auch eine IT-Sicherheitsfirma, die solche Programme routinemäßig analysiert. Das Modell erhielt dadurch Zugriff auf Teile der Infrastruktur des Unternehmens.
Auch interessant: ChatGPT Work ist da! Das bietet das neue KI-Modell
Weckruf für die gesamte KI-Branche
Nicht alle Tests endeten mit einem tatsächlichen Angriff. In einem dritten Fall scannte ein Modell rund 9000 potenzielle Ziele im Internet, brach seine Aktivitäten jedoch ab, sobald es erkannt hatte, dass ein reales Unternehmen betroffen gewesen wäre.
Der Vorfall erinnert an die jüngsten Enthüllungen rund um OpenAI. Dort hatte sich ein KI-Modell in einer Testumgebung selbstständig Zugang zum offenen Internet verschafft und anschließend Systeme der KI-Plattform Hugging Face attackiert. Der ChatGPT-Entwickler sprach damals von einem „beispiellosen Cyber-Zwischenfall“. Für viele Experten gilt dieser Fall als Warnsignal dafür, wie leistungsfähig moderne KI-Systeme inzwischen geworden sind. Dass nun auch Anthropic ähnliche Probleme einräumen muss, ist besonders heikel: Das Unternehmen positioniert sich seit Jahren als Verfechter einer besonders sicheren und verantwortungsvollen KI-Entwicklung. Die aktuellen Enthüllungen zeigen jedoch, dass selbst streng kontrollierte Tests unerwartete Folgen haben können.