EU setzt Regeln für den Umgang mit KI in Kraft

01.02.2025 12:30

Der AI Act der EU ist weltweit das erste staatenübergreifende
Gesetzeswerk zum Einsatz von Künstlicher Intelligenz. Nach einer
Übergangsphase werden nun etliche Regeln scharf gestellt.

Brüssel (dpa) - In der Europäischen Union werden am Sonntag neue
Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft
gesetzt. Nach dem KI-Gesetz der EU (AI Act) sind von diesem Stichtag
an KI-Systeme verboten, die «unannehmbare Risiken» für die
Sicherheit, Gesundheit oder Grundrechte darstellen, außer wenn es um
die «nationale Sicherheit» geht. 

So untersagt die EU den Einsatz von KI-Programmen, die eine Bewertung
nach sozialem Verhalten vornehmen. Bei dem sogenannten Social Scoring
werden etwa die Bürger in China in Verhaltenskategorien eingeteilt
und belohnt oder bestraft. In der EU soll es auch keine
Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
geben.

Lange Verbotsliste

Nicht erlaubt sind weiterhin manipulative KI-Systeme, die
betrügerische Techniken anwenden, um das Verhalten von Menschen zu
beeinflussen. In diese Gruppe fällt etwa sprachgesteuertes Spielzeug,
das Kinder zu einem gefährlichen Verhalten verleitet.

Auf der Verbotsliste der EU stehen auch KI-Systeme, die die Schwäche
von Menschen oder Gruppen ausnutzen. Dazu gehören auch automatisierte
«Robo-Calls», die zum Betrug älterer Menschen eingesetzt werden
können.

Die Gesichtserkennung im öffentlichen Raum - zum Beispiel durch
Videoüberwachung an öffentlichen Plätzen - soll ebenfalls
grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen:
Polizei und andere Sicherheitsbehörden sollen eine solche
Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie
Menschenhandel und Terrorismus verfolgen zu können.

Stichtag 2. Februar

Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI
entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos
bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen
Anforderungen gerecht zu werden. Ziel der neuen Verordnung ist nach
Darstellung der EU-Kommission nicht nur der Schutz der Rechte der
Verbraucherinnen und Verbraucher. Man wolle auch sicherstellen, dass
KI verantwortungsvoll eingesetzt werde.

Anbieter und Betreiber von KI-Systemen müssen nun auch sicherstellen,
dass alle Personen, die mit der Entwicklung oder dem Betrieb von
KI-Systemen befasst sind, über ein ausreichendes Maß an
«KI-Kompetenz» verfügen.

Kritik aus der Wirtschaft

Der Branchenverband Bitkom kritisierte das KI-Gesetz, weil es keine
Rechtssicherheit biete. Es sei unklar, für welche Anwendungen das
gesetzliche Verbot tatsächlich gelte, sagte Susanne Dehmel, Mitglied
der Bitkom-Geschäftsleitung. «Die Politik hat beim AI Act hohe
Anforderungen und enge Fristen für die Unternehmen aufgestellt, hat
selbst aber ihre Hausaufgaben nicht gemacht.» Das Risiko würden nun
die Unternehmen tragen, die KI entwickeln oder einsetzen. «Während in
den USA mit dreistelligen Milliardenbeträgen KI ausgebaut werden soll
und in China extrem leistungsfähige Sprachmodelle veröffentlicht
werden, werfen wir in Deutschland und Europa den KI-Unternehmen
Knüppel zwischen die Beine.»

«Europa droht KI-Abseits»

Die Präsidentin der EU-Kommission, Ursula von der Leyen, und die
Präsidentin der Europäischen Zentralbank, Christine Lagarde, räumten

in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit
Europas in Gefahr sei. «Während sich eine globale Revolution der
künstlichen Intelligenz entfaltet, könnte die EU ins Abseits
geraten.» 

Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um
im technologischen Wettlauf aufzuholen, schrieben von der Leyen und
Lagarde. In der EU gebe es pro eine Million Einwohner fast so viele
Absolventen von MINT-Fächern (Mathematik, Informatik,
Naturwissenschaften und Technik) wie in den Vereinigten Staaten.
«Dieses Talent bringt eine Menge Ideen hervor: Der Anteil Europas an
den weltweiten Patentanmeldungen liegt nahe bei dem der Vereinigten
Staaten.»