22. September 2026, 11:05 Uhr | Lesezeit: 3 Minuten
Künstliche Intelligenz kann Arbeit beschleunigen, aber auch schwerwiegende Fehler verursachen. Wie brisant solche Fehlentscheidungen werden können, zeigt ein nun bekannt gewordener Vorfall beim US-Militär. Eine fehlerhafte Auswertung durch einen Chatbot führte zu der Annahme, dass ein chinesischer Frachter Material für ein Atomwaffenprogramm transportiere. Die Reaktion hätte fatal ausfallen können.
Der Vorfall ereignete sich im Frühjahr 2026 während des Kriegs mit dem Iran. Laut „CNN“ hieß es in einem Geheimdienstbericht, dass ein chinesischen Frachter im Nahen Osten als verdächtig eingestuft wurde. Bewaffnete Soldaten sollten das Schiff entern, außerdem waren Militärflugzeuge der USA bereits gestartet. Erst kurz vor dem geplanten Einsatz fiel auf, dass die Grundlage für die Einschätzung fehlerhaft war. Welche Ladung sich tatsächlich an Bord befand, wird im Bericht nicht genannt.
Wie die falsche Einschätzung zustande kam
Nachvollziehen lässt sich jedoch, wie die fehlerhafte Information entstand. Ein Analyst des US Special Operations Command Pacific auf Hawaii nutzte einen Chatbot, um die Ladeliste eines Frachters auszuwerten. Welches KI-System dabei eingesetzt wurde, ist nicht bekannt.
Während der Analyse verknüpfte das System öffentlich verfügbare Informationen mit geheimen Erkenntnissen aus der Überwachung von Funk- und Datenverkehr. Dabei interpretierte die KI die Daten falsch und kam zu einem unzutreffenden Ergebnis. Der Fehler blieb zunächst unentdeckt und löste den Alarm aus.
Anschließend verwendete der Analyst die KI erneut. Das System überführte die Ergebnisse in die übliche Form eines Geheimdienstberichts. So wurde die fehlerhafte Einschätzung innerhalb des Militärs weitergegeben. Eine Quelle von CNN beschrieb das fertige Dokument später als komplett falsch.
Firmen haften für ihre KI-nder
Wenn die Nutzung von KI-Chatbots gefährlich werden kann
US-Militär setzt trotz Vorfall weiter auf KI
Trotz des Beinahe-Zwischenfalls will das US-Militär weiterhin verstärkt auf künstliche Intelligenz setzen. Die Technik soll dabei helfen, große Datenmengen auszuwerten, Ziele auszuwählen und Entscheidungen auf dem Schlachtfeld schneller zu treffen.
Auch interessant: Amerika hat jetzt Waffen im Orbit
Gleichzeitig gibt es laut „CNN“ Unterschiede bei den verwendeten Systemen und Sicherheitsstandards. Verschiedene Bereiche des Militärs arbeiten demnach mit eigenen Lösungen. Einheitliche Regeln zur Überprüfung der Ergebnisse fehlen nach Angaben des Senders.
KI-Halluzinationen offenbar kein Einzelfall
Der Vorfall soll zudem kein Einzelfall sein. Einer Quelle zufolge treten vergleichbare KI-Halluzinationen auch in anderen Bereichen der US-Geheimdienste auf. Mehrere Gesprächspartner berichteten, dass insbesondere jüngere Analysten dazu neigten, den Ergebnissen der Systeme zu stark zu vertrauen.
Gegenüber dem Magazin „Daily Beast“ wollte das US-Verteidigungsministerium den konkreten Fall aus Gründen der Einsatzsicherheit nicht kommentieren. Das Ministerium erklärte jedoch, Geheimdienstinformationen sorgfältig zu prüfen und neue Technologien verantwortungsvoll einzusetzen.