6. Oktober 2026, 17:52 Uhr | Lesezeit: 2 Minuten
Sie vertraute einer KI ihre Gedanken an – und löste damit einen Polizeieinsatz aus! Eine 30-jährige Frau aus Bonita Springs in Florida hatte einen Chatbot wie ein persönliches Tagebuch genutzt. Darin soll sie gedroht haben, das örtliche Sheriff-Büro zusammenzuschießen. Am nächsten Tag legte sie nach: Sie habe eine neue Waffe bekommen. Die Polizei rückte an – und nahm die 30-Jährige zu Hause fest!
Auf die Spur der Frau kam die Polizei durch einen Hinweis des Claude-Anbieters Anthropic. Wie mehrere Medien übereinstimmend berichten, hatten automatische Sicherheitssysteme die Drohungen erkannt und die Nachrichten an Mitarbeiter weitergeleitet. Diese sahen sich die Aussagen genauer an und schalteten die Behörden ein.
Wie privat sind KI-Chats?
Wie viel Privates Nutzer einer KI anvertrauen, zeigt eine von Proton beauftragte Umfrage unter rund 4000 KI-Nutzern aus Deutschland, Frankreich, Großbritannien und den USA: Hierzulande haben 68 Prozent der Befragten bereits sensible Themen mit einem Chatbot besprochen – etwa psychische Belastungen, Beziehungsprobleme oder Geldsorgen.
Dass sie so offen reden, liegt für viele Befragte am einfachen Zugang und am Gefühl, nicht beurteilt zu werden. Doch beim Schutz ihrer Geheimnisse bleiben Zweifel: Mehr als 40 Prozent der befragten KI-Nutzer in Deutschland haben wenig oder gar kein Vertrauen darin, dass die Unternehmen ihre sensiblen Informationen schützen.
Völlig unbegründet sind diese Sorgen nicht: Zwar verlangen Anthropic, ChatGPT-Anbieter OpenAI und Google mit Gemini bei gewöhnlichen Behördenanfragen eine gültige rechtliche Anordnung, etwa einen Gerichtsbeschluss. Doch um drohende Todesfälle oder schwere Verletzungen zu verhindern, sehen die Regeln Ausnahmen vor: Dann können Daten auch ohne vorherigen Gerichtsbeschluss bei der Polizei landen.
Auch interessant: KI stiehlt erstmals Unternehmensdaten im Alleingang
Bis zu 15 Jahre Haft
Für die 30-Jährige aus Florida geht es nun vor Gericht: Ihr wird eine schriftliche oder elektronische Drohung mit einer Massenschießerei zur Last gelegt. Ein Gerichtstermin ist für November angesetzt. Bei einer Verurteilung drohen ihr bis zu 15 Jahre Gefängnis und bis zu 10.000 US-Dollar (ca. 8900 Euro) Geldstrafe.