29.03.2023, 15:15 Uhr | Lesezeit: 3 Minuten

Die EU-Polizeibehörde Europol hat den populären Chatbot ChatGPT auf Gefährdungsszenarien untersucht und warnt nun vor dem Missbrauchspotenzial.

Europol untersucht ChatGPT

In einem Bericht sind mehrere Anwendungsfälle identifiziert, in denen bösartige Akteure Künstliche Intelligenz (KI) für kriminelle Zwecke missbrauchen können. Konkret hat sich Europol dabei mit ChatGPT befasst, das auf dem „Large Language Model“ (LLM; dt. „großes Sprachmodell“) GPT basiert. GPT, entwickelt von OpenAI, ist mit Milliarden von Datenpunkten trainiert, um natürliche Sprache verstehen und generieren zu können. Nicht nur kann ChatGPT kohärente und objektiv wirkende Antworten auf fast alle Fragen liefern – selbst wenn diese inkorrekt oder unvollständig sind. Der Chatbot ist mit der richtigen Aufforderung sogar in der Lage, selbst Code für viele gängige Programmiersprachen zu schreiben.

Zwar verbessert OpenAI stetig Sicherheitsvorkehrungen, um zu verhindern, das Kriminelle diese Fähigkeiten missbrauchen können. Diese finden jedoch immer neue Wege, ChatGPT trotzdem Ergebnisse produzieren zu lassen. Europol sagt dazu: „Während die Fähigkeiten von LLMs (Large Language Models) wie ChatGPT aktiv verbessert werden, liefert die potenzielle Ausnutzung dieser Arten von AI-Systemen durch Kriminelle einen düsteren Ausblick.“

Welche Gefahr geht von ChatGPT aus?

In der Analyse von ChatGPT haben die Europol-Experten drei Felder erkannt, in denen das Missbrauchspotenzial der KI besonders besorgniserregend ist: Betrug, Desinformation und Cyberkriminalität.

• Betrug: Betrug in Form von Phishing ist ein weit verbreitetes Problem, das sich durch die Verwendung von ChatGPT noch verschlimmern könnte. Zwar gibt es Ausnahmen, aber die Mehrzahl der Phishing-Versuche mit gefälschten E-Mails und Webseiten lässt sich vor allem anhand sprachlicher Ungereimtheiten oft schnell erkennen. ChatGPT kann Europols Analyse zufolge jedoch die Sprache von Gruppen wie etwa Unternehmen imitieren und somit und gefälschte Inhalte dadurch noch authentischer erscheinen lassen.
• Desinformation: Mit Desinformationen sind Propaganda und Fake News gemeint. Die schnelle Anfertigung von echt wirkenden Texten und Reden macht es noch einfacher, Desinformationen großflächig zu verbreiten.
• Cyberkriminalität: Cyberkriminalität bezieht sich in Europols Analyse explizit auf klassische Hacker-Angriffe mit bösartig angefertigtem Code. Demnach könne ChatGPT selbst für Kriminelle ohne Vorwissen einfachen Code schreiben, der als Basis für Angriffe nutzbar ist. In dem detaillierten Bericht erklärt Europol zudem, wie die Akteure ChatGPTs Sicherheitsvorkehrungen umgehen können. Zwar erkennt die KI, wenn jemand sie dazu auffordert, bösartigen Code zu schreiben – allerdings nur, wenn es sich dabei um einen zusammenhängenden Befehl handelt. Teilt man den Befehl in einzelne Schritte auf, lassen sich die Sicherheitsvorkehrungen umgehen.

In dem Bericht wird außerdem ein weiterer Weg angesprochen, wie sich ChatGPT für kriminelle Zwecke missbrauchen lässt. Dadurch dass Informationen leichter zugänglich sind, könnte das „terroristische Aktivitäten vereinfachen, wie zum Beispiel Finanzierung von Terrorismus und anonymes Filesharing“.

Mehr zum Thema

Konkurrenz für ChatGPT Google Bard startet in Deutschland – so können Sie den Chatbot testen

Zugriff auf sensible Daten Sicherheitslücke in Millionen iPhones entdeckt! Was Nutzer wissen müssen 

Infizierte Apps sofort löschen! Diese Malware-Kampagnen bedrohen derzeit Android-Geräte und iPhones

Quellen

• Europol: „The criminal use of ChatGPT – a cautionary tale about large language models“ (aufgerufen am 29. März 2023)
• Europol: „ChatGPT. The impact of Large Language Models on Law Enforcement“ (aufgerufen am 29. März 2023)