EU-Parlament stimmt zu: Verbot für sexualisierte Deepfake-KI

16.06.2026 13:34

Was dürfen ChatGPT, Grok und Co.? Und wer ist verantwortlich, wenn
mit Hilfe von KI pornografische Deepfakes erstellt werden? Die EU hat
über neue Regeln abgestimmt.

Straßburg (dpa) - Das Europaparlament hat einem Verbot von
KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden
können, zugestimmt. Eine große Mehrheit von 423 Abgeordneten stimmte
in Straßburg für eine entsprechende Änderung des europäischen
KI-Gesetzes. 57 lehnten sie ab, 174 Parlamentarier enthielten sich.
Nun fehlt noch die formelle Zustimmung der EU-Staaten. Das Verbot
würde dann ab 2. Dezember 2026 federführend vom KI-Amt der EU
durchgesetzt werden, das vor zwei Jahren geschaffen wurde.

Bei Deepfakes werden mit Hilfe Künstlicher Intelligenz täuschend echt
wirkende Bild-, Video- oder Tonaufnahmen manipuliert oder erzeugt.
Das neue Verbot soll die bisherigen Regeln ergänzen, indem es neben
den Nutzenden auch die Anbieter der entsprechenden digitalen
Werkzeuge ins Visier nimmt. Die an den Verhandlungen beteiligten
Abgeordneten hatten betont, dass das Verbot nicht dazu führen soll,
die Erstellung oder Manipulation von Bildern übermäßig stark
einzuschränken. 

Was genau verboten sein soll 

Dafür soll in dem neuen Gesetz genau definiert sein, was
sexualisierte Inhalte sind und was nicht. Das Verbot zielt demnach
auf KI-Anwendungen ab, die etwa die Erstellung von realistischen
Bildern oder Videos vom Intimbereich erlauben - insbesondere von
Genitalien, dem Anus, Po oder entblößten weiblichen Brüsten sowie von

sexuell eindeutigen Handlungen. 

Satirische Karikaturen sollen also ausgenommen bleiben. Auch
nicht-einvernehmliche Bikini-Bilder, wie sie von Grok erstellt und
auf X verbreitet wurden, könnten demnach erlaubt bleiben. Das neue
Verbot soll aber explizit auch auf das Erstellen von Inhalten
abzielen, die sexuellen Kindesmissbrauch darstellen. 

Verpflichtende Wasserzeichen für KI kommen später

Weitere Änderungen am KI-Gesetz sollen der KI-Branche zunächst
zusätzliche Pflichten ersparen und auch die Anwendung von Künstlicher
Intelligenz in der Wirtschaft mit Regelvereinfachungen erleichtern.
An Teile des Gesetzes, die das Europäische KI-Amt ursprünglich
bereits ab August durchsetzen sollte, müssen sich die Firmen hinter
ChatGPT, Claude und Co. jetzt erst ab Dezember 2026 halten.
Spätestens dann sollen die Anbieter KI-Inhalte etwa deutlich als
solche kennzeichnen - generierte Bilder und Videos müssten sie also
mit Wasserzeichen markieren.