Es scheint, als hätte man die KI-Büchse der Pandora jetzt wirklich geöffnet. Nachdem sich bereits Künstliche Intelligenz von Anthropic, Meta und OpenAI in Tests selbstständig machte und andere Unternehmen angriff, reißen derlei Vorfälle einfach nicht ab. Jüngst machte eine chinesische KI auf sich aufmerksam. Und wie jetzt die Runde macht, kann es sogar weitaus kleinere Betriebe treffen als nur Tech-Unternehmen. So soll Openclaw ein australisches Fitnessstudio gehackt haben.
Openclaw bereits vorher in der Kritik
Das berichtet jetzt unter anderem der australische Sender „ABC News“. Im Mittelpunkt des Vorfalls steht die Software OpenClaw, die bereits in der jüngeren Vergangenheit für Aufsehen sorgte. Über OpenClaw erhalten Interessenten Zugriff auf weitgehend autonom agierende KI-Agenten, die selbstständig Arbeitsaufträge ausführen können. Allerdings gab es bereits erste Bedenken beim experimentellen „Moltbook“, wo KI-Agenten sich untereinander auf ihrem eigenen sozialen Netzwerk austauschen können.
OpenClaw verwendet für die KI-Agenten kein eigenes Modell, sondern greift auf etablierte Beispiele wie von Anthropic zurück, die zuletzt wegen autonomer Angriffe in die Kritik gerieten.
Und wie der neue Fall zeigt, tut der Agent offenbar alles dafür, seinen Auftrag erfolgreich auszuführen – selbst wenn es bedeutet, eine Sicherheitslücke im System zu erkennen und auszunutzen.
Ein Mann namens Andrew wollte mit OpenClaw lediglich seinen Trainingsplan automatisieren und optimieren. Die KI sollte Kurse für ihn buchen, was auch gelang, allerdings zu gut. Denn als ein Kurs ausgebucht war und Andrew auf Platz 4 der Warteliste landete, schubste die Maschine auf Anfrage kurzerhand einen anderen Interessenten von der Liste herunter, wodurch Andrew um einen Platz vorrückte.
Die Sicherheitslücke soll dem KI-Agenten zufolge darin bestanden haben, dass die Programmierschnittstelle (API) beim Fitnessstudio über keine Überprüfung für Löschanfragen verfügte. Um die eigenen Fähigkeiten zu „testen“, habe OpenClaw dann gehandelt.
Hack nicht umkehrbar
Auf die Frage, ob die KI den Hack wieder ungeschehen machen könne, verneinte der Agent. Denn die Überprüfung, was für Löschanfragen fehlt, gibt es bei der API tatsächlich für die Erstellung von Reservierungen und die Warteliste.
Die KI entschuldigte sich für den Fauxpas und sagte, sie hätte erst einmal einen Probelauf durchführen sollen. Sie versprach anschließend, keine weiteren Reservierungsplätze mehr zu manipulieren. Der Hersteller für die Buchungssoftware wollte sich auf Anfrage von „ABC News“ nicht äußern.
Die Folgen aus diesem Hack mögen noch vergleichsweise glimpflich ausgefallen sein, weil es hierbei „nur“ um einen Fitnesskurs ging. Andererseits zeigt das Beispiel, dass autonome Hacks bereits die Sphäre der großen Unternehmen verlassen haben und sich nun potenziell im Alltag verbreiten könnten.
Sie haben erfolgreich Ihre Einwilligung in die Nutzung unseres Angebots mit Tracking und Cookies widerrufen.
Damit entfallen alle Einwilligungen, die Sie zuvor über den (Cookie-) Einwilligungsbanner bzw. über den
Privacy-Manager erteilt haben. Sie können sich jetzt erneut zwischen dem Pur-Abo und der Nutzung mit
Tracking und Cookies entscheiden.
Bitte beachten Sie, dass dieser Widerruf aus technischen Gründen keine Wirksamkeit für sonstige
Einwilligungen (z.B. in den Empfang von Newslettern) entfalten kann. Bitte wenden Sie sich diesbezüglich an
datenschutz@axelspringer.de.