KI-Angriffe: Brüssel fordert Infos von OpenAI und Anthropic

09.10.2026 15:09

Unkontrollierte Attacken von Künstlicher Intelligenz bereiten
Experten Sorgen. Die Vorfälle könnten für manchen Tech-Riesen
Konsequenzen haben. Die EU-Kommission warnt, mahnt und hat Fragen.

Brüssel (dpa) - Nach mehreren Cyberangriffen durch außer Kontrolle
geratene KI-Systeme hat die Europäische Kommission Auskünfte von
ChatGPT-Entwickler OpenAI und Claude-Entwickler Anthropic verlangt.
Das sagte die EU-Digitalkommissarin Henna Virkkunen der Deutschen
Presse-Agentur in einem Interview des Nachrichtenagentur-Netzwerks
European Newsroom (enr). Auch mehrere chinesische Firmen wurden
demnach verbindlich aufgefordert, weitere Informationen zu teilen. 

Zuvor hatte die EU-Kommission zwar bestätigt, Auskunftsersuchen an
mehr als 30 KI-Firmen gesendet zu haben, aber keine konkreten
Unternehmen genannt. Neben Bedenken wegen möglicher
Urheberrechtsverletzungen geht es dabei auch um Sicherheitsrisiken.
Eigenständige Hacking-Attacken durch KI-Modelle hatten die Sorgen um
Gefahren Künstlicher Intelligenz zuletzt hochkochen lassen.

EU-Digitalchefin warnt vor Terroristen mit KI-Modellen 

Sowohl OpenAI als auch Anthropic hatten einräumen müssen, dass ihre
Software in Testläufen ungeplant andere Unternehmen angegriffen
hatte. Einige Branchenvertreter selbst warnten, man könne nicht ganz
ausschließen, dass KI in der Zukunft die Menschheit auslösche. 

EU-Digitalchefin Virkkunen sagte nun, solche Aussagen könnten Teil
des Marketings sein. «Aber wenn ein Unternehmen sagt, dass sein
System sehr gefährlich ist, sollte es dieses meiner Meinung nach
natürlich nicht auf den Markt bringen.» 

Der weltweite Wettbewerb sei hart, und einige Unternehmen stünden
unter Druck. Es bestehe eindeutig die Gefahr, dass diese Unternehmen
Produkte auf den Markt brächten, die sie nicht ausreichend getestet
hätten, sagte die finnische Politikerin. «Derzeit konzentrieren sich
die Risiken hauptsächlich auf den Bereich der Cybersicherheit», sagte
Virkkunen. 

Sie warnte jedoch vor schwerwiegenderen Risiken in der Zukunft, etwa
die Möglichkeit, dass hochleistungsfähige KI-Modelle zur Entwicklung
biologischer Waffen eingesetzt werden oder in die Hände von
Terroristen gelangen könnten.

Brüsseler Behörde kontrolliert große Modelle

Das KI-Amt der EU-Kommission in Brüssel prüft seit August, ob große
Modelle ausreichend kontrolliert werden und keine Cyberangriffe auf
eigene Faust ausführen. Die Tech-Konzerne müssen entsprechende
Sicherheitsvorkehrungen treffen und etwaige Zwischenfälle sofort der
EU melden.

Bei Verstößen gegen das KI-Gesetz drohen empfindliche Strafen. Wenn
etwa Sicherheitsvorkehrungen mangelhaft sind, können bis zu 15
Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes fällig
werden - abhängig davon, welcher Betrag höher ist.