Wie X-Nutzer mit Musks KI Frauen belästigen: «Bikini jetzt» Von Niklas Treppner, dpa

12.01.2026 15:55

Sexualisierte KI-Bilder von Kindern, wütende Regierungen und ein
Milliardär, der von Zensur spricht: Die Online-Plattform von Elon
Musk sorgt für Empörung - und erste nationale Sperren.

Brüssel/London (dpa) - «Ich wurde unfreiwillig von Elon Musks Grok
auf X ausgezogen», sagt die stellvertretende Ministerpräsidentin
Schwedens, Ebba Busch. «Meine Tochter ist neun. Ich möchte nicht,
dass ihr jemals so etwas passiert.»

Busch ist eine von vielen Betroffenen, die mit Hilfe von Elon Musks
Künstlicher Intelligenz auf der Online-Plattform X gegen ihren Willen
in wenig Kleidung dargestellt wurde. Ein Nutzer hatte dem KI-Chatbot
Grok auf X zu einem Foto von Busch am Rednerpult geschrieben: «@Grok
Bikini jetzt». 

Grok folgt dem Befehl, manipuliert das Foto und tauscht das blaue
Kleid der Amtsträgerin gegen einen Bikini aus. Zunächst für alle
sichtbar, verbreitet sich das Bild schnell. Inzwischen ist es
verschwunden. Stattdessen heißt es an gleicher Stelle: «Dieser Post
verstößt möglicherweise gegen die X-Regeln zu Missbrauch.»

Posts wie dieser alarmieren zahlreiche Behörden in aller Welt: Die EU
droht, in Großbritannien starten Untersuchungen und in Indonesien
sowie Malaysia wird der Dienst sogar gesperrt. 

Auch sexualisierte Bilder von Kindern erstellt 

Als X noch Twitter hieß, testeten Comedians dort Pointen und
Politiker verteilten Seitenhiebe. Fotos waren selten, Posts auf 140
Zeichen begrenzt. Wer lange nicht auf X war und nun dort scrollt,
dürfte überrascht sein: Viele Bilder von wenig bekleideten Frauen und
viele Beispiele offenbar männlicher Übergriffigkeit. 

Immer wieder weisen Nutzer die KI an, Frauen bildlich auszuziehen.
Lange gehorcht der KI-Chatbot den Befehlen, präsentiert freizügige
Bilder von Menschen - auch von Kindern. An Silvester entschuldigt
sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter
«in sexualisierten Outfits» erstellt und geteilt zu haben. Es sei ein
«Versagen unserer Sicherheitsvorkehrungen» gewesen, schreibt Grok. 

Inzwischen hat das US-Unternehmen reagiert. Bittet man Grok auf X,
ein Bild zu generieren oder zu bearbeiten, antwortet der Bot: «Die
Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten
beschränkt.» Von Abonnenten erstellte Bilder lassen sich aber auch
weiterhin für alle öffentlich anzeigen. 

London leitet Untersuchung ein 

Die Kritik und der Druck aus Europa auf das US-Unternehmen des
Milliardärs Musk wachsen daher weiter. Die britische
Medienaufsichtsbehörde (Ofcom) leitete wegen sexualisierter
Bilder - unter anderem von Kindern - eine offizielle Untersuchung
gegen X ein, wie sie am Montag mitteilte. Der britische
Premierminister Keir Starmer hatte die KI-generierten Bilder zuvor
als «widerlich» bezeichnet. 

Am Wochenende schoss Musk daraufhin gegen London. Er warf der
britischen Regierung etwa Zensur vor und nannte sie in einem Beitrag
«faschistisch». Sollte X tatsächlich gegen die britischen
Digitalgesetze verstoßen haben, könnte es laut Ofcom eine Geldstrafe
geben - im äußersten Fall auch eine gerichtlich angeordnete teilweise
oder komplette Sperrung. 

Europa vs. USA? Brüssel droht, auch Paris ermittelt

Zwar verurteilt die EU-Kommission die Möglichkeiten, die X Nutzenden
lässt. Von einer Sperre des Dienstes sah man aber zunächst ab: Eine
Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der
EU-Kommission und eher ein letztes Mittel, hatte ein Sprecher der
Brüsseler Behörde gesagt. 

Ausschließen wollen die europäischen Internetwächter gleichzeitig
nichts. EU-Kommissionspräsidentin Ursula von der Leyen hatte dem
«Spiegel» am Sonntag gesagt: «Wir werden den Schutz von Kindern und
die Frage der Einwilligung nicht an das Silicon Valley auslagern.
Wenn sie nicht handeln, werden wir es tun.»

Gegen Musks Plattform X laufen auf Grundlage europäischer
Digitalgesetze ohnehin mehrere Untersuchungen und Verfahren. Erst
Anfang Dezember hatte die EU gegen Musks Online-Plattform eine Strafe
von 120 Millionen Euro wegen Transparenzmängeln verhängt. Der
US-Firma könnten weitere Strafen etwa wegen illegaler Inhalte
drohen. 

Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen
X. Die ursprüngliche Ermittlung dreht sich um den Vorwurf,
rechtsextreme Inhalte seien gefördert worden. Neu sind jetzt auch
Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen. 

Indonesien und Malaysia sperren Grok 

Als erste Länder weltweit ziehen Indonesien und Malaysia am
Wochenende strikte Konsequenzen: Sie sperren den KI-Chatbot. Die
indonesische Digitalministerin Meutya Hafid erklärte, der Schritt
diene dem Schutz von Frauen, Kindern und der breiten Öffentlichkeit
vor der Verbreitung gefälschter pornografischer Inhalte, die mit
Hilfe von KI generiert würden. Am Sonntag hatte auch die malaysische
Kommunikations- und Multimedia-Kommission (MCMC) angekündigt, den
Zugang zu Grok vorübergehend zu sperren.

Musk selbst schrieb am Montag auf seiner Plattform: «Im Vergleich zu
anderen KI-Systemen ist Grok absolut zuverlässig. Und es wird noch
viel besser werden.» Ziel der KI sei es, stets neugierig nach der
tieferen Wahrheit zu suchen und Schönheit zu schätzen.

EU-Digitalgesetze sorgen für Spannungen mit den USA

In Anbetracht der seit Jahren andauernden Ermittlungen halten
Kritiker der EU seit längerer Zeit vor, ihre Digitalregeln nicht
konsequent genug durchzusetzen. Gleichzeitig behaupten die
US-Regierung von Präsident Donald Trump wie auch Musk, Brüssel
betreibe Zensur.

Washington verhängte kurz vor Weihnachten als Reaktion auf
europäische Maßnahmen Einreiseverbote gegen mehrere Europäer. Die
Sanktionen könnten auch als Warnung an die EU-Kommission von Ursula
von der Leyen verstanden werden, keine weiteren Maßnahmen zu
ergreifen. 

Schwedens Ministerin: Welt braucht weniger «Arschlöcher»

Die schwedische Politikerin Busch nimmt in einem Statement besonders
die Nutzer in die Verantwortung: «Wie wäre es, wenn wir zweimal
überlegen, bevor wir KI auf diese Weise einsetzen, und darauf achten,
was wir online teilen?», fragt sie in dem Video, das sie auf X nach
dem Eklat postet. «Die Welt braucht mehr gute Männer und Frauen und
weniger Arschlöcher», fügt sie hinzu.