13.12.2023, 08:30 Uhr | Lesezeit: 4 Minuten
Die Europäische Union (EU) will Regeln für den Einsatz von Künstlicher Intelligenz (KI) einführen. Dafür ist ein neues Gesetz geplant; doch was steht da eigentlich genau drin?
Auch wenn KI schon länger in diversen Bereichen zum Einsatz kommt, machte die Sichtbarkeit in diesem Jahr dank Programmen wie ChatGPT einen enormen Sprung. Generative KI-Lösungen werden seither flächendeckend genutzt. Das bringt viele Vorteile mit sich, aber auch Nachteile – gerade im Urheberbereich. Wohl auch deswegen will die EU nun klare Regeln für die Nutzung solcher Programme einführen, die sie im sogenannten AI Act zusammenfasst. Darauf haben sich Unterhändler des Europaparlaments und der EU-Staaten in den Verhandlungen geeinigt.
Das steht im AI Act
Hinter dem Begriff AI Act steht eine Vereinbarung, die die EU selbst als weltweit erstes Gesetz dieser Art bezeichnet. Das Ziel: Klare Regeln für den Umgang mit KI. Das scheint vor allem im Licht der jüngsten Entwicklungen um generative KI nötig zu sein.
Mittels generativer KI ist es möglich, anhand von großen Datensätzen neue Inhalte zu berechnen und somit zu „generieren“. Das ist mit Text möglich, aber auch mit Bild, Video und Audio. ChatGPT etwa berechnet anhand unzähliger Datensätze wahrscheinliche Antworten auf Textnachrichten. Deshalb zählt die Anwendung zu den sogenannten Basismodellen. Im Gegensatz zu enger gefassten Modellen sind diese in der Lage, mit riesigen Datenmengen trainiert zu werden, um die Erkenntnisse dann später auf andere Anwendungsfälle zu übertragen.
Zwar ist der unmittelbare Boom um vergleichbare KI-Anwendungen neu, die Problematik dahinter ist es aber keinesfalls. Tatsächlich hatte die EU-Kommission bereits im April 2021 ein entsprechendes Gesetz vorgeschlagen. Bei den Verhandlungen ging es deshalb auch ganz grundsätzlich darum, ob man bereits Basismodelle regulieren soll oder erst die nachfolgende Anwendung. Nun hat man sich auf die Definition sogenannter Risikoklassen und gewisse Auflagen für KI-Systeme geeinigt.
Zum Thema: Was steckt hinter der deutschen KI-Hoffnung von Aleph Alpha?
Was bedeutet das konkret?
Welche Auflagen das genau sind, bemisst sich am konkreten Einsatzgebiet der Systeme und an der eingesetzten Rechenleistung. Je weitgreifender und in diesem Sinne „risikoreicher“ die Folgen, desto größer die Auflagen.
Als hochriskant gelten etwa Systeme, die Anträge von Arbeitslosen prüfen. Solche Anwendungen müssen laut AI Act künftig die Qualität der Daten gewährleisten, mit denen die KI trainiert wird. Das soll anhand „technischer Dokumentation“ erfolgen. Bestimmte Gruppen dürften nicht bereits durch diese Trainingsdaten benachteiligt werden. Finale Entscheidungen müssen zudem immer von Menschen getroffen werden; die KI darf lediglich bei der Auswertung von Daten unterstützen.
Es gibt außerdem Bereiche, in denen KI-Systeme explizit nicht zum Einsatz kommen dürfen. Das betrifft etwa den Aufbau eines Sozialkreditsystems wie in China, aber auch die Gesichtserkennung an öffentlichen Plätzen. Diese ist nur in absoluten Ausnahmefällen gestattet.
Zudem müssen Entwickler künftig alle KI-generierten Inhalte deutlich als solche kennzeichnen. Ebenfalls muss im Zweifel ein Nachweis erbracht werden, dass das Urheberrecht in allen Punkten eingehalten wurde. Verstoßen Unternehmen gegen diese Auflagen, droht eine Strafe. Diese bemisst sich an der Höhe des Jahresumsatzes.
Handys, Tablets und Digitalkameras EU stimmt über einheitliche Ladeanschlüsse für Elektronik-Geräte ab
EU-Kommission legt Vorschlag vor Einheitliche Ladekabel für Handy, Tablet und Co. rücken näher
Gilt ab sofort! Einfach erklärt: Was bedeutet die neue DSGVO?
Wann kommt der AI Act?
Aktuell handelt es sich lediglich um einen Vorschlag der Unterhändler von Europaparlament und den EU-Mitgliedstaaten. Sowohl das eigentliche Parlament als auch die Staaten selbst müssen dem Entwurf noch offiziell zustimmen.
Zwar hatten vor allem Deutschland, aber auch Frankreich und Italien zuletzt Bedenken geäußert, dass man mit zu starker Regulierung Wettbewerbsnachteile in Kauf nehmen müsse. Eine Zustimmung zum AI Act gilt allerdings dennoch als so gut wie gesetzt.
Zunächst würde der AI Act natürlich nur in der EU gelten. Die Hoffnung ist aber, dass vergleichbare Gesetze weltweit eingeführt werden. Mit dem Inkrafttreten des Gesetzes soll zudem eine KI-Behörde innerhalb der EU-Kommission gebildet werden.