EU erhöht Druck auf Musks X wegen KI-Bildern von Kindern

08.01.2026 17:51

Sexualisierte Kinderbilder und Hitler-Lob: Der KI-Chatbot Grok auf
der Online-Plattform X sorgt für Skandale. Die EU-Kommission stellt
daher nun eine neue Forderung an Elon Musks Firma.

Brüssel (dpa) - Die EU geht nach sexualisierten KI-Bildern von
Kindern auf der Online-Plattform X einen nächsten Schritt bei
Ermittlungen gegen das Unternehmen von Elon Musk. Die Europäische
Kommission habe die US-Firma aufgefordert, interne Dokumente zur
künstlichen Intelligenz Grok nicht zu vernichten, sondern bis Ende
des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran,
ob das Unternehmen sich an europäische Digitalgesetze halte. 

Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern,
freizügige Bilder von Menschen zu generieren. Auf der Plattform
finden sich etliche Beispiele, bei denen die KI unter normalen
Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der
Aufforderung nach.

Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte
sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter
«in sexualisierten Outfits» erstellt und geteilt zu haben. «Es
handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und
ich entschuldige mich für alle dadurch entstandenen Schäden», schrieb

Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf
Hitler schockiert.

EU verhängte im Dezember Strafe gegen X - weitere könnten folgen

Der EU-Kommissionssprecher betonte: «Wir haben beobachtet, wie Grok
antisemitische Inhalte und in jüngerer Zeit auch sexuelle
Darstellungen von Kindern generiert hat. Das ist illegal. Das ist
inakzeptabel.» Die EU-Kommission hatte von X Ende 2025 Auskünfte zu
Grok verlangt und nach eigenen Angaben über die Feiertage eine
Antwort erhalten. Diese werde nun analysiert.

Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel
der EU-Kommission und eher ein letztes Mittel. «Wir sind nicht hier,
um den Bürgern zu sagen, welche Plattform sicherer oder besser zu
verwenden ist», sagte der Sprecher.

Gegen Musks Plattform X laufen auf Grundlage europäischer
Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst
Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen
Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der
US-Firma könnten weitere Strafen drohen. So haben die europäischen
Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die
Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder
Desinformation zu tun.

EU-Digitalgesetze sorgen für Spannungen mit den USA

In Anbetracht der seit Jahren andauernden Ermittlungen halten
Kritiker der EU seit Längerem vor, ihre Digitalregeln nicht
konsequent genug durchzusetzen. Gleichzeitig behauptet die
US-Regierung von Präsident Donald Trump, Brüssel betreibe Zensur.

Washington verhängte kurz vor Weihnachten als Reaktion auf
europäische Maßnahmen Einreiseverbote gegen den früheren EU-Kommissar

Thierry Breton und andere Europäer. Breton ist ein Architekt der
EU-Digitalgesetze. Auch die Geschäftsführerinnen der gegen
Internet-Hetze eintretenden deutschen Beratungsstelle HateAid sind
betroffen.

Die Sanktionen könnten auch als Warnung an die EU-Kommission von
Ursula von der Leyen verstanden werden, die europäischen
Digitalgesetze weiter gegen US-Unternehmen anzuwenden. Die Brüsseler
Behörde drohte nach den Einreiseverboten wiederum mit
Vergeltungsmaßnahmen. Man verurteile die Entscheidung der Vereinigten
Staaten aufs Schärfste, hieß es. 

Ermittlungen gegen X auch in Frankreich 

Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen
X. Die ursprüngliche Ermittlung dreht sich um den Vorwurf, dass
Algorithmen in dem sozialen Netzwerk verändert worden sein sollen, um
rechtsextremen Inhalte mehr Aufmerksamkeit zu bescheren. Neu sind
jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller
Abbildungen. 

Laut Medienberichten hatten sich zwei französische Abgeordnete an die
Staatsanwaltschaft gewandt, nachdem Tausende sogenannte Deepfakes von
Grok erstellt worden waren. Deepfakes sind mit Hilfe von KI erstellte
Videos, Bilder oder Audio-Dateien, die täuschend echt wirken, es aber
nicht sind.

 Starmer empört - Bundesnetzagentur verweist an Brüssel und Dublin

Scharfe Kritik an X kommt auch aus Großbritannien. «Das ist eine
Schande. Es ist widerlich. Und es darf nicht toleriert werden», sagte
der britische Premierminister Keir Starmer mit Blick auf
Deepfake-Bilder von Kindern in wenig Kleidung dem Radiosender
Greatest Hits Radio.

Die Plattform müsse «sich zusammenreißen», entsprechendes Material

sofort entfernen und das Problem in den Griff bekommen. Der
britischen Medienaufsichtsbehörde Ofcom sicherte Starmer «volle
Unterstützung» zu. Die Behörde hatte am Montag X um dringende
Stellungnahme gebeten.

In Deutschland gibt es bisher keine vergleichbaren Ermittlungen gegen
Grok. Die Bundesnetzagentur verwies nach dpa-Anfrage auf die
Zuständigkeiten. Für X seien die Aufsichtsperson am Sitz des
Anbieters in der EU - im Fall von X also Irland - und die
EU-Kommission zuständig. Dorthin würden Hinweise zu rechtswidrigen
Inhalten weitergeleitet, hieß es.

EU-Kommission rechtfertigt eigene Präsenz auf X

Die Spitzenvertreter der EU posten selbst regelmäßig auf X. Die
EU-Kommission rechtfertigte die eigenen Aktivitäten: «Natürlich
beobachten wir auch, wo unsere Zielgruppe selbst am aktivsten ist. Es
ist wichtig für uns, unsere Botschaften an unser Zielpublikum zu
vermitteln», hieß es von der Behörde. Gleichzeitig versuche die
Kommission, den Online-Auftritt zu diversifizieren und auch in
anderen sozialen Netzwerken zu posten. 

Viele deutsche Organisationen, darunter das Bundeskriminalamt, das
Verteidigungsministerium sowie viele Hochschulen, hatten sich in der
Vergangenheit aufgrund der Entwicklungen von der Online-Plattform
zurückgezogen.