KI-Gesetz der EU endgültig beschlossen Von Stella Venohr, dpa

21.05.2024 10:43

Die EU-Länder haben den finalen Haken gesetzt. Es sei das weltweit
erste Gesetz dieser Art und könne einen globalen Standard setzen,
heißt es. Doch kann es mit der Technik Schritt halten?

Brüssel (dpa) - Die EU-Staaten haben schärfere Regeln für Künstlich
e
Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten
am Dienstag in Brüssel den Plänen zu, mit denen unter anderem
bestimmte KI-Anwendungen ganz verboten werden, wie die Länder
mitteilten. Es sei das weltweit erste Gesetz dieser Art und könne
einen globalen Standard für die Regulierung von KI setzen. 

Kein «Social Scoring» wie in China

Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen
Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme
möglichst transparent, nachvollziehbar, nicht diskriminierend und
umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme
von Menschen überwacht werden und nicht nur von anderen Technologien.

Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021
zurück. Systeme, die als besonders risikoreich gelten und
beispielsweise in kritischen Infrastrukturen oder im Bildungs- und
Gesundheitswesen eingesetzt werden, müssen künftig strenge
Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte
verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise
die Bewertung von sozialem Verhalten («Social Scoring»). Damit werden
in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt.
Auch eine Emotionserkennung am Arbeitsplatz und in
Bildungseinrichtungen soll es in der EU nicht geben.

Betroffen sind vor allem Anbieter und Betreiber von KI-Systemen

Auch die Gesichtserkennung im öffentlichen Raum - also zum Beispiel
durch Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich

nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und
andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im
öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie
Menschenhandel oder Terrorismus zu verfolgen.

Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln,
anbieten oder nutzen. Dies betrifft öffentliche und private Akteure
sowohl innerhalb als auch außerhalb der EU. 

«Regulierungsarbeit beginnt jetzt erst»

Der Digitalverband Bitkom kritisierte, dass das nun beschlossene
KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und den
anderen EU-Ländern beginne die Regulierungsarbeit jetzt erst, sagte
Verbandspräsident Ralf Wintergerst. Ob KI in Deutschland und Europa
einen Schub erhalte oder vor allem vor neue Hindernisse gestellt
werde, hänge entscheidend davon ab, wie dieser Rahmen ausgestaltet
werde und die Regelungen in Deutschland umgesetzt würden.

Bundesdigitalminister Volker Wissing räumte am Dienstag ein, dass der
Gesetzgeber bei einer so sich schnell verändernden Technologie wie KI
dauerhaft gefordert sei. «Wir können nicht erwarten, dass wir mit
einer Regulierung die Zukunftsfragen abschließend klären», sagte der

FDP-Politiker. «Deswegen war ich immer dafür, dass wir schnell uns
auf den Weg der Regulierung machen, aber auch den Mut haben,
kontinuierlich nachzusteuern.» Wichtig sei, dass die
Innovationsfreundlichkeit der Regulierung immer im Blick behalten
werde.

Bei Verstößen drohen Geldstrafen

Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im
Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei
Jahre nach dem Inkrafttreten sollen sie dann gelten.

Wenn Unternehmen die Vorschriften nicht einhalten, müssen die
Mitgliedstaaten Sanktionen beschließen. Dies können Geldstrafen sein.
Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können

sich bei nationalen Behörden beschweren. Diese können dann
Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.