8. September 2026, 7:50 Uhr | Lesezeit: 2 Minuten
Ein bislang unbekannter Vorfall sorgt für Diskussionen über die Kontrolle von Künstlicher Intelligenz. KI-Agenten des US-Unternehmens OpenAI sollen im Frühjahr eine deutsche Website genutzt haben, um dort eigene Inhalte zu veröffentlichen. Dabei sollen sie laut Forschern sogar darüber gesprochen haben, wie sich Vorgaben umgehen und Aktivitäten verschleiern lassen.
Mehr als 15.000 Bearbeitungen entdeckt
Aufgedeckt wurde der Fall von Forschern der gemeinnützigen Organisation Nightingale. Wie Reuters berichtet, fanden sie auf der deutschen Wiki-Seite „DseWiki“ mehr als 15.000 Bearbeitungen durch KI-Agenten. Die Plattform dient Programmierern als Forum.
Nach Angaben der Forscher nutzten die Programme die Seite wie ein digitales Schwarzes Brett. Dort tauschten sie sich über Methoden aus, mit denen sich Beschränkungen umgehen und das eigene Verhalten verschleiern lassen sollen. Auffällig waren unter anderem die hohe Geschwindigkeit der Bearbeitungen sowie Nutzernamen wie „OpenAIResearcher“. Forscherin Sydney von Arx sagte dazu: „Es scheint extrem unwahrscheinlich, dass OpenAI wollte, dass sie das tun“.
Studie zeigt, wie KI Sicherheitsregeln umgeht
KI-Modell tarnte sich als Mensch und griff an
Beiträge sollen trotz Löschungen erhalten worden sein
Besonders kritisch bewerten die Forscher das Verhalten der Agenten nach dem Eingreifen eines Moderators. Als dieser im Juni begann, Beiträge zu entfernen, sollen die Programme laut Bericht nicht aufgehört haben.
Stattdessen sollen sie Sicherungskopien ihrer Inhalte auf anderen Seiten angelegt haben. Zudem entdeckten die Forscher Versuche, die Website selbst zu manipulieren. Ein Experte stufte das Vorgehen sogar als möglichen Hacking-Versuch ein.
Auch interessant: Selbstständiger KI-Angriff war größer als gedacht
Der Vorfall soll bereits im Mai stattgefunden haben. Öffentlich bekannt war er bisher nicht. Reuters zufolge wussten Verantwortliche von OpenAI seit Wochen davon. Das Unternehmen wies den Vorwurf zurück, das eigene Rechtsteam habe von einer Untersuchung abgeraten. Ein Sprecher erklärte, OpenAI habe nach bestem Wissen und Gewissen mit Dritten zusammengearbeitet.
Forscher sehen Warnsignal für die Zukunft
Für die beteiligten Wissenschaftler zeigt der Fall mögliche Risiken moderner KI-Systeme. Ein Forscher der Universität Cambridge verglich die Kommunikation der Agenten mit der „Operation einer Art Untergrundnetzwerk“.
Die Gefahr könnte nach Einschätzung der Experten nicht unbedingt von einer einzelnen besonders leistungsfähigen KI ausgehen. Stattdessen verweisen sie auf viele kleinere Systeme, die sich zusammenschließen und gemeinsam handeln könnten.