EU ermittelt gegen Musks X wegen sexualisierter KI-Bilder Von Niklas Treppner, dpa

26.01.2026 15:35

Digitales ausziehen von Frauen, Hitler-Lob und nationale Sperren: Das
Online-Portal von Elon Musk hat zuletzt für viele Skandale gesorgt -
und jetzt deshalb ein weiteres Verfahren vor der Brust.

Brüssel (dpa) - Nach dem Skandal um sexualisierte KI-Bilder von Elon
Musks Chatbot Grok leitet die EU-Kommission ein Verfahren gegen den
US-Konzern X ein. Die Brüsseler Behörde verdächtigt das Unternehmen
des Tech-Milliardärs laut Mitteilung, die Risiken bei der Einführung
seiner Künstlichen Intelligenz auf der Online-Plattform nicht richtig
bewertet und reduziert zu haben. 

X war in den vergangenen Wochen in die Kritik geraten, weil zunächst
alle Nutzerinnen und Nutzer den KI-Chatbot Grok auffordern konnten,
gepostete Bilder zu sexualisieren. Immer wieder befahlen Menschen der
KI etwa, Fotos zu manipulieren und Frauen in Bikinis zu kleiden. 

An Silvester entschuldigte sich Grok dafür, ein Bild von zwei Mädchen
im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu
haben. Bei der Untersuchung geht es laut EU-Kommission daher auch um
Bilder, die als Kindesmissbrauch gelten könnten. Im Sommer hatte Grok
bereits mit Lobpreisungen für Adolf Hitler schockiert. 

Erneut Spannungen zwischen EU und USA? 

EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU
werde die Verantwortung für Konsens und Kinderschutz nicht an
Tech-Unternehmen abgeben. «In Europa werden wir unvorstellbares
Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht
tolerieren», fügte die deutsche Politikerin hinzu. 

Nach der Deeskalation im Grönland-Konflikt nimmt die Brüsseler
Behörde mit diesem Schritt das Risiko in Kauf, die US-Regierung von
Donald Trump erneut zu verärgern. In Anbetracht der teilweise seit
Jahren andauernden Ermittlungen - auch gegen X - halten Kritiker der
EU gleichzeitig schon länger vor, ihre Digitalregeln nicht konsequent
genug durchzusetzen. 

Gegen Musks Online-Plattform laufen auf Grundlage europäischer
Digitalgesetze ohnehin bereits mehrere Untersuchungen - etwa wegen
der Moderation und des Risikomanagements illegaler Inhalte. Auch
gegen andere Tech-Riesen, wie etwa Meta oder Tiktok, laufen Verfahren
der EU-Kommission. Brüssel verkündete am Montag zudem, dass sich auch
Whatsapp künftig an die strengeren Digitalregeln für große
Online-Plattformen halten muss. 

US-Regierung hatte EU-Kommission zuletzt gedroht 

Anfang Dezember hatte die EU erstmals auf Grundlage des Gesetzes über
digitale Dienste (Digital Services Act, kurz DSA) gegen X eine Strafe
von 120 Millionen Euro wegen Transparenzmängeln verhängt. Washington
reagierte damals scharf, sprach von Zensur und verhängte
Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie
andere Europäer. 

Die heftige Reaktion konnte auch als Drohung in Richtung Brüssel
verstanden werden, keine weiteren Maßnahmen gegen die US-Tech-Riesen
zu ergreifen. Außenminister Marco Rubio schrieb zur Begründung der
Einreisesperren auf X, es würden gezielt amerikanische Plattformen
attackiert. Man sei bereit, die Liste zu erweitern, wenn es keine
Kurskorrektur gebe. Elon Musk selbst sprach sich dafür aus, die EU
abzuschaffen. 

Warum die EU-Kommission Grok nicht sperren will 

Das nun eröffnete Verfahren konzentriert sich laut Mitteilung darauf,
ob X das Risiko für «geschlechtsspezifische Gewalt und schwerwiegende
negative Folgen für das körperliche und geistige Wohlbefinden»
genügend eingeschränkt hat. 

Die Internetwächter in Brüssel kündigten neben der neuen Ermittlung
zudem an, eine seit Ende 2023 laufende Untersuchung zu erweitern.
Dabei gehe es auch um die Empfehlungen für Inhalte, die X seinen
Nutzer anzeigt. Diese basierten zunehmend auf der KI von X und
stellten ebenfalls Risiken dar. 

Von einer Strafe oder Sperre des Dienstes sah die EU-Kommission
zunächst ab: Eine Deaktivierung von Grok in der EU zu erwirken, sei
nicht das Ziel der EU-Kommission und eher ein letztes Mittel, hatte
ein Sprecher der Brüsseler Behörde in der Vergangenheit gesagt.
Indonesien und Malaysia hatten Grok als erste Länder weltweit Mitte
Januar vorübergehend gesperrt. 

Die Einleitung des Verfahrens auf Grundlage des Gesetzes über
digitale Dienste bedeutet noch keinen Nachweis eines Verstoßes.
Sollte X aber nicht einlenken oder entlastende Beweise liefern,
könnten Strafen durch die Europäische Kommission drohen. Sie wacht in
der EU über die Einhaltung der Digitalregeln. Wie lange das Verfahren
dauern wird, ist offen. 

X hat Chatbot bereits beschränkt 

Unter zunehmendem Druck wegen der übergriffigen Bilder - etwa von
Schwedens stellvertretender Ministerpräsidentin Ebba Busch - hatte
die US-Firma ihren Chatbot zuletzt eingeschränkt. «Die Bilderzeugung
und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt»,
antwortet der Chatbot inzwischen. Von Abonnenten erstellte Bilder
lassen sich aber auch weiterhin für alle öffentlich anzeigen. 

Der EU-Kommission und auch anderen Aufsichtbehörden auf der Welt
reichte dieser Schritt nicht. Es folgten weitere Einschränkungen. So
seien «technologische Maßnahmen» eingeführt worden, die die
Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie
Bikinis verhindern sollen, teilte X mit. Diese Beschränkung gelte
sowohl für kostenlose Accounts als auch für zahlende Nutzer. 

Die Brüsseler Internetwächter sehen in diesen Vorkehrungen einen
Erfolg ihres andauernden Dialogs mit der US-Firma. Die EU-Kommission
sei wahrscheinlich die einzige Behörde, die Antworten von X erhalten
habe, behauptet ein Sprecher. «X hat uns geantwortet, X hat sich mit
uns auseinandergesetzt, X hat zugehört, X hat Maßnahmen ergriffen.
Das ist schon ein ziemlicher Erfolg», sagte er. 

Der deutsche Bundesdigitalminister Karsten Wildberger begrüßte das
Vorgehen der EU-Kommission. Es sei inakzeptabel, dass Frauen und
Minderjährige wiederholt Opfer sexualisierter Bildmanipulationen
würden, während Plattformen untätig blieben. Alexandra Geese,
Grünen-Abgeordnete im Europaparlament, kritisierte hingegen: Das
Verfahren komme zu spät. «Der Schaden für Millionen von Frauen und
viele Kinder ist irreparabel», teilte Geese mit. 

Auch London und Paris ermitteln 

Auch die britische Medienaufsichtsbehörde Ofcom hatte Mitte Januar
eine offizielle Untersuchung gegen Musks Online-Plattform
eingeleitet. Der britische Premierminister Keir Starmer nannte die
Erzeugnisse der KI «widerlich». Die Pariser Staatsanwaltschaft
ermittelt seit Sommer 2025 wegen der möglichen Bevorzugung
rechtsextremer Inhalte, mutmaßlicher Holocaustleugnung und sexueller
Abbildungen gegen X.