9. Juni 2026, 8:44 Uhr | Lesezeit: 3 Minuten
Anthropic zählt zu den führenden Unternehmen im Bereich der künstlichen Intelligenz. Dennoch spricht sich der Konzern nun dafür aus, die Entwicklung besonders leistungsfähiger KI-Systeme zu verlangsamen. Nach Ansicht des Unternehmens könnten moderne Modelle Fähigkeiten entwickeln, die sich langfristig nur schwer kontrollieren lassen.
Anthropic sieht Risiken bei leistungsfähiger KI
Der US-Konzern Anthropic, bekannt als Entwickler der KI-Familie Claude, fordert eine weltweite Pause bei der Entwicklung der leistungsfähigsten KI-Systeme. In einem aktuellen Bericht bezeichnet das Unternehmen eine Verlangsamung der sogenannten Frontier-AI als „wahrscheinlich eine gute Sache“.
Als Begründung nennt Anthropic die zunehmenden Fähigkeiten moderner KI-Modelle. Nach Einschätzung des Unternehmens könnten diese langfristig schwer kontrollierbar werden. Gleichzeitig argumentieren die Entwickler, dass Forschung, Sicherheitsmaßnahmen und gesetzliche Vorgaben derzeit nicht mit der Geschwindigkeit der technologischen Entwicklung Schritt halten können.
Internationale Zusammenarbeit als Voraussetzung
Aus Sicht von Anthropic kann ein Entwicklungsstopp nur dann Wirkung zeigen, wenn alle wichtigen Akteure gemeinsam handeln. Besonders die USA und China müssten sich demnach auf gemeinsame Regeln verständigen und deren Einhaltung überwachen.
Das Unternehmen hält einen Alleingang einzelner Anbieter für wenig sinnvoll. Würde nur ein Unternehmen seine Entwicklung verlangsamen, könnten andere Anbieter den entstandenen Vorsprung nutzen und ihre Position stärken. Genau deshalb betrachtet Anthropic eine internationale Einigung als schwierig. KI gilt inzwischen als eine der strategisch bedeutendsten Technologien weltweit.
Neue Siri soll noch 2026 erscheinen
Warum Google ein altes Online-Spiel für KI nutzt
Forderungen sorgen für Gegenwind
Die Vorschläge des Unternehmens stoßen innerhalb der Branche auf Kritik. Gegner der Forderungen werfen Anthropic vor, die Risiken künstlicher Intelligenz übertrieben darzustellen. Zudem wird dem Konzern vorgeworfen, unter dem Hinweis auf Sicherheitsfragen die Konkurrenz bremsen zu wollen.
Auch interessant: Studie zeigt, wie KI Sicherheitsregeln umgeht
Unabhängig davon beobachten Behörden die Entwicklung leistungsfähiger KI-Systeme aufmerksam. Das Anthropic-Modell „Mythos“ wurde wegen seiner Fähigkeiten im Bereich Cybersicherheit bislang nicht für die breite Öffentlichkeit freigegeben.
Behörden verschärfen die Kontrolle
Auch die US-Regierung hat ihre Aufsicht ausgeweitet. Präsident Donald Trump ordnete an, dass besonders leistungsfähige KI-Modelle aus den USA künftig vor ihrer Veröffentlichung geprüft werden können.
Ob sich daraus langfristig ein international abgestimmter Stopp der Entwicklung besonders leistungsfähiger KI-Systeme ergibt, ist derzeit offen. Anthropic hält eine globale Zusammenarbeit zwar für notwendig, doch eine Einigung aller wichtigen Beteiligten gilt als schwierig.