Neue EU-Regeln fordern Transparenz von ChatGPT & Co.

01.08.2025 04:15

Woher weiß die KI das? Neue EU-Vorgaben zwingen KI-Anbieter,
offenzulegen, womit sie ihre Modelle trainiert haben. Manchen Autoren
und Künstlern geht das nicht weit genug.

Brüssel (dpa) - ChatGPT, Gemini und andere Anbieter von KI-Modellen
müssen sich ab morgen an neue EU-Regeln halten. Dann gelten
spezifische Transparenzpflichten für KI-Modelle mit allgemeinem
Verwendungszweck («General-Purpose AI») - also Systeme, die
vielseitig einsetzbar sind und etwa Texte schreiben, Sprache
analysieren oder programmieren können. 

Die Betreiber müssen künftig etwa offenlegen, wie ihre Systeme
funktionieren und mit welchen Daten sie trainiert wurden. Besonders
leistungsstarke Modelle, die potenziell auch eine Gefahr für die
Allgemeinheit darstellen könnten, sollen zudem
Sicherheitsvorkehrungen protokollieren müssen. Grundlage der neuen
Vorgaben ist das EU-KI-Gesetz («AI Act»), das im Mai 2024 beschlossen
wurde. 

Verbände kritisieren fehlenden Schutz geistigen Eigentums

Durch die neuen Regeln soll unter anderem das Urheberrecht gestärkt
werden. Die Entwickler müssen nun etwa berichten, welche Quellen sie
für ihre Trainingsdaten genutzt und ob sie Internetseiten automatisch
ausgelesen haben. Zudem sollen sie angeben, welche Maßnahmen zum
Schutz von Urheberrechten ergriffen wurden. Für Rechteinhaber soll es
nach den Vorgaben der EU eine Kontaktstelle bei den Unternehmen
geben. 

Mehrere nationale und internationale Bündnisse von Autoren, Künstlern
und Verlegern beklagen in einer gemeinsamen Mitteilung, dass die
Gesetzgebung geistiges Eigentum nicht genug schütze. Aus Sicht der
Initiative Urheberrecht blieben die Maßnahmen wirkungslos, da etwa
eine Verpflichtung zur Nennung konkreter Datensätze, Domains oder
Quellen fehle. 

EU-Kommission kann Geldstrafen verhängen - Google besorgt

Private Klägerinnen und Kläger könnten auch jetzt schon auf Grundlage

des KI-Gesetzes gegen Anbieter klagen. Das neue Europäische Amt für
Künstliche Intelligenz setzt die Regeln allerdings erst später durch:
Das EU-KI-Amt kontrolliert neue Modelle ab August 2026. Modelle, die
vor dem 2. August 2025 auf den Markt kamen, kontrolliert es ab August
2027. Bei Verstößen drohen dann Geldstrafen von bis zu 15 Millionen
Euro oder drei Prozent des gesamten weltweiten Jahresumsatzes.

Zur Orientierung für die Branche hatte die Kommission in den
vergangenen Wochen neben rechtlichen Leitlinien auch einen
freiwilligen Verhaltenskodex vorgelegt. Anbieter, die sich dem Kodex
anschließen, könnten nach Einschätzung der Kommission von höherer
Rechtssicherheit und geringerem Verwaltungsaufwand profitieren.
Google, Entwickler der KI Gemini, kündigte in einer Mitteilung
bereits an, unterzeichnen zu wollen. Gleichzeitig sei man besorgt,
dass das KI-Gesetz Innovationen ausbremsen könne, hieß es in einer
Mitteilung.