22. August 2026, 16:28 Uhr | Lesezeit: 5 Minuten
Viele Menschen haben vermutlich mit der Vorstellung von ChatGPT Ende November 2022 ersten Kontakt mit einem KI-System gehabt. Dabei gab es schon weit davor immer wieder Versuche, KI-Tools zu testen. Im März 2016 startete Microsoft seinen KI-Chatbot Tay auf der Plattform Twitter, heute X. Warum das KI-Experiment bereits nach 16 Stunden wieder beendet war, erzählt TECHBOOK in diesem Artikel.
Es ist der 23. März 2016, ein Mittwoch, als Microsoft seinen KI-Chatbot via Twitter öffentlich vorstellt. Dabei handelt es sich um einen weiblichen Avatar, der unter dem Namen TayTweets mit der Twitter-Community kommuniziert.
„Tay war von technischer Seite ein spannendes Experiment. Allerdings fing es nach relativ kurzer Zeit damit an, problematische Inhalte zu produzieren. Das waren beispielsweise Rassismus und Hassrede“, erinnert sich Anna Kruspe, Informatikprofessorin an der Hochschule für angewandte Wissenschaften München (HM), die sich schon seit Jahren mit KI-Systemen beschäftigt.
Microsoft reagierte damals auf die für das Unternehmen überraschende Radikalisierung des eigenen KI-Chatbots kopflos. Offenbar war niemand im verantwortlichen Entwicklungsteam auf so eine Situation vorbereitet. Über die Gründe, warum Tay in die Abgründe von Hate Speech abtauchte, kann man bis heute nur spekulieren.
Kein Vergleich zu heutigen KI-Systemen
„Microsoft hat nie sehr detaillierte Informationen zur technischen Struktur von Tay veröffentlicht. Es gab zu dieser Zeit noch nicht die heutigen Architekturen und technischen Voraussetzungen, sodass vermutlich eine andere Form von neuronalen Netzen zum Einsatz gekommen ist. Diese waren deutlich schwächer darin, längere Gesprächsverläufe im Zusammenhang zu verstehen“, beschreibt Kruspe die technischen Unterschiede zu heutigen Systemen.
Was sich im Rückblick nachvollziehen lässt, ist, wie stark Tay auf polarisierende und problematische Postings aus der Twitter-Community reagierte. Im Grunde eine Entwicklung, wie sie sich heute auf vielen Social-Media-Plattformen zeigt. Emotionalisierende Postings und extreme Positionen sorgen für Aufmerksamkeit und Reichweite. Selbst eine Maschine wie Tay war dagegen offensichtlich nicht resistent genug.
„Um die Reaktion des KI-Chatbots besser zu verstehen, wäre es für die Interpretation wichtig, mehr über die Technik dahinter zu erfahren. Wenn die Inputdaten problematisch sind, ist das Risiko hoch, dass der Output auch problematisch wird“, erklärt Anna Kruspe von der Hochschule München.
Heutige KI-Systeme setzen auf Filter
Glücklicherweise hat die KI-Forschung heute ein besseres Verständnis dafür, wie sich KI-Modelle zähmen lassen. „Heutige Chatbots werden in der Regel nicht unmittelbar und ungefiltert aus User-Inputs dynamisch umtrainiert, wobei höchstwahrscheinlich Chatverläufe auch für die jeweils nächsten Versionen zum Training genutzt werden. Allerdings halten sich heutige KI-Anbieter bei den technischen Details ebenso bedeckt wie damals Microsoft. Sehr wahrscheinlich kommen in den heutigen KI-Systemen automatische Filter zum Einsatz, die auf Hate Speech und andere Formen der radikalen Äußerung reagieren“, gibt die KI-Expertin einen Einblick in den heutigen Entwicklungsstand.
Filter klingen zunächst gut. Allerdings reagieren diese nur auf offensichtliche extreme Äußerungen, also wenn jemand seinen Hass auf alles und jeden offen herausposaunt. Problematisch bleibt es bei subtileren Formen des Rassismus oder Extremismus.
„In der Forschung versuchen wir unter anderem aufzudecken, ob KI-Systeme bestimmte Bevölkerungsgruppen systematisch negativer darstellen, und Methoden zu entwickeln, mit denen man das beheben kann. Solche Probleme fallen erst einmal viel weniger auf als Tays offensichtlicher Rassismus, können aber langfristig gefährlich werden“, betont Anna Kruspe, Informatikprofessorin an der HM.
KI könnte die Menschheit auslöschen
Diese drei Firmen halten das Internet am Laufen
Tay-Entwickler unterschätzten das Potenzial von Hate Speech
Das KI-Experiment von Microsoft mit Tay war nach 16 Stunden und mehr als 96.000 Tweets beendet. Wobei das Unternehmen nur eine Woche nach dem ersten Anlauf einen weiteren Versuch startete, den es allerdings wegen derselben Probleme noch schneller wieder stoppen musste.
Eines hat dieser vor 10 Jahren gescheiterte KI-Versuch nach Ansicht von Anna Kruspe deutlich gezeigt, „nämlich was passiert, wenn KI-Anbieter Entwicklungen unterschätzen“. Microsoft hatte nicht mit der Zerstörungswut mancher User auf Twitter gerechnet. Zudem war das Unternehmen nicht darauf vorbereitet, wie stark und schnell extreme Postings das eigene KI-System aus dem Gleichgewicht bringen können.
Heute ist sehr viel mehr darüber bekannt, wie extreme Positionen eine ganze Plattform in eine bestimmte Richtung treiben können. Dafür ist wiederum Twitter, seit der Übernahme durch Elon Musk in X umbenannt, das prominenteste Beispiel.
Auch interessant: Warum Höflichkeit OpenAI Millionen US-Dollar kostet
Heute gibt es andere Hürden bei KI-Systemen
Anbieter heutiger KI-Systeme stehen vor unterschiedlichsten Hürden. Ein wesentlicher Aspekt ist, die enormen Kosten im Blick zu behalten, um die ständig wachsende KI-Nachfrage zu befriedigen. Zwar bemühen sich KI-Anbieter, die Qualität der Trainingsdaten hochzuhalten, dieser Punkt steht auf der Prioritätenliste allerdings weiter hinten.
KI-Forscherinnen wie Anna Kruspe von der Hochschule für angewandte Wissenschaften München schauen an dieser Stelle besonders genau hin, um auf ungewünschte Entwicklungen hinzuweisen: „Heutige KI-Modelle lernen aus riesigen Mengen an Internetdaten, in denen Vorurteile bereits eingebettet sind, nur viel subtiler. Diese können sich zum Beispiel darin zeigen, dass bei Bewerbungen oder Kreditvergabe bestimmte Gruppen benachteiligt werden, ohne dass es jemand bemerkt.“
Der Tay-Account von Microsoft auf X existiert bis heute. Allerdings ist dieser seit dem Frühjahr 2016 verstummt.