EU-Verbot für sexualisierte Deepfake-KI bekommt grünes Licht

29.06.2026 14:39

Bikini-Bilder auf X oder gefälschte Nacktbilder von Stars:
Sexualisierte Deepfakes haben schon viel Schaden angerichtet. Die EU
will nun nicht mehr nur die Tat, sondern auch das Werkzeug verbieten.

Brüssel (dpa) - In der EU sind KI-Anwendungen zur missbräuchlichen
Erstellung sexualisierter Deepfakes künftig verboten. Die
Mitgliedsländer gaben der neuen Regel, die ab dem 2. Dezember 2026
gelten soll, grünes Licht. Der Schritt galt nach der Einigung mit dem
Europaparlament als Formalie. Das KI-Amt der EU soll das Verbot
federführend durchsetzen. 

Bei Deepfakes werden mit Hilfe Künstlicher Intelligenz täuschend echt
wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt.
Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben
den Nutzenden auch die Anbieter der entsprechenden digitalen
Werkzeuge ins Visier nimmt. 

Was genau verboten sein soll

In dem neuen Gesetz soll genau definiert sein, was sexualisierte
Inhalte sind und was nicht. Das Verbot zielt demnach auf
KI-Anwendungen ab, die etwa die Erstellung von realistischen Bildern
oder Videos vom Intimbereich erlauben - insbesondere von Genitalien,
dem Anus, Po oder entblößten weiblichen Brüsten sowie von sexuell
eindeutigen Handlungen.

Satirische Karikaturen sollen also ausgenommen bleiben. Auch
nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und
auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue
Verbot soll aber explizit auch auf das Erstellen von Inhalten
abzielen, die sexuellen Kindesmissbrauch darstellen.

Verpflichtende Wasserzeichen für KI kommen später

Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst
zusätzliche Pflichten ersparen und auch die Anwendung von Künstlicher
Intelligenz in der Wirtschaft erleichtern. An Teile des Gesetzes, die
das Europäische KI-Amt ursprünglich bereits ab August durchsetzen
sollte, müssen sich die Firmen hinter ChatGPT, Claude und Co. jetzt
erst ab Dezember 2026 halten. Spätestens dann sollen die Anbieter
KI-Inhalte etwa deutlich als solche kennzeichnen - generierte Bilder
und Videos müssten sie also etwa mit Wasserzeichen markieren.