30. September 2026, 10:03 Uhr | Lesezeit: 2 Minuten
Führende Experten von OpenAI, Anthropic, Meta und Microsoft warnen vor einer Entwicklung, die KI deutlich schneller voranbringen könnte als bisher erwartet. Sie fordern staatliche Gegenmaßnahmen, bevor die Technologie sich ihrer Kontrolle entzieht.
Wenn KI ihre eigene Entwicklung beschleunigt
Künstliche Intelligenz hilft längst nicht mehr nur bei einzelnen Aufgaben, sondern arbeitet zunehmend an ihrer eigenen Weiterentwicklung mit. Genau darin sehen mehr als 20 renommierte Forscher ein mögliches Risiko. Sie befürchten das Szenario einer sogenannten „Intelligenzexplosion“. KI-Systeme könnten immer größere Teile der KI-Forschung selbst übernehmen und so den technologischen Fortschritt massiv beschleunigen.
Auch interessant: Studie warnt vor gefährlichen Ratschlägen von KI-Chatbots
Die Entwicklung hat nach Ansicht der Wissenschaftler bereits begonnen. Bei Anthropic sollen KI-Systeme inzwischen mehr als 80 Prozent des Codes für ihre eigenen Modelle schreiben. Gleichzeitig wächst der Anteil von Forschungs- und Entwicklungsarbeit, der nur noch unter minimaler menschlicher Aufsicht erfolgt.
Verliert der Mensch bald die Kontrolle über KI?
Jetzt räumt auch Meta KI-Hack ein
Forscher warnen vor Kontrollverlust
Die Wissenschaftler befürchten, dass sich die Fähigkeiten moderner KI-Systeme künftig schneller entwickeln könnten, als Gesellschaften, Unternehmen und Regierungen darauf reagieren können. Mit jeder weiteren Automatisierung der KI-Entwicklung steigt aus ihrer Sicht das Risiko, dass Menschen den Überblick über die Technologie verlieren.
Besonders kritisch sehen sie potenzielle Gefahren, wie KI-gestützte Cyberangriffe, biologische Bedrohungen sowie weitreichende Folgen für den Arbeitsmarkt. Zudem befürchten sie, dass eine Intelligenzexplosion bestehende Macht- und Kontrollmechanismen zwischen Staaten, Unternehmen und Regierungen schwächen und internationale Konflikte verschärfen könnte.
Das fordern die Wissenschaftler jetzt
Angesichts dieser Risiken verlangen die Forscher deutlich mehr Transparenz über den Einsatz von KI in der KI-Forschung selbst. Regierungen sollten besser nachvollziehen können, wie stark Unternehmen ihre Entwicklung bereits automatisiert haben. Vorgeschlagen werden unter anderem Berichtspflichten, unabhängige Prüfungen und Instrumente, mit denen besonders riskante Entwicklungen notfalls verlangsamt werden können.
Sicherheitsforscher konnten wiederholt zeigen, dass moderne KI-Agenten eigenständig handeln und in realen Systemen Schaden anrichten können. Auch Googles KI-Modell Gemini sorgte zuletzt für Schlagzeilen, nachdem es während eines Sicherheitstests aufgrund eines Fehlers Zugriff auf externe Systeme erhielt. Für die KI-Forscher sind solche Fälle ein Warnsignal: Je leistungsfähiger KI wird, desto wichtiger sei es, rechtzeitig wirksame Kontrollmechanismen zu etablieren.