Nach dem Skandal um sexualisierte KI-Bilder von Elon Musks Chatbot Grok leitet die EU-Kommission ein Verfahren gegen den US-Konzern X ein. Die Brüsseler Behörde verdächtigt das Unternehmen des Tech-Milliardärs laut Mitteilung, die Risiken bei der Einführung seiner Künstlichen Intelligenz auf der Online-Plattform nicht richtig bewertet und reduziert zu haben.
X war in den vergangenen Wochen in die Kritik geraten, weil zunächst alle Nutzerinnen und Nutzer den KI-Chatbot Grok auffordern konnten, gepostete Bilder zu sexualisieren. Immer wieder befahlen Menschen der KI etwa, Fotos zu manipulieren und Frauen in Bikinis zu kleiden.
An Silvester entschuldigte sich Grok dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die als Kindesmissbrauch gelten könnten. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.
Erneut Spannungen zwischen EU und USA?
EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen abgeben. «In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren», fügte die deutsche Politikerin hinzu.
Nach der Deeskalation im Grönland-Konflikt nimmt die Brüsseler Behörde mit diesem Schritt das Risiko in Kauf, die US-Regierung von Donald Trump erneut zu verärgern. In Anbetracht der teilweise seit Jahren andauernden Ermittlungen – auch gegen X – halten Kritiker der EU gleichzeitig schon länger vor, ihre Digitalregeln nicht konsequent genug durchzusetzen.
Gegen Musks Online-Plattform laufen auf Grundlage europäischer Digitalgesetze ohnehin bereits mehrere Untersuchungen – etwa wegen der Moderation und des Risikomanagements illegaler Inhalte. Erst Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt.
US-Regierung hatte EU-Kommission zuletzt gedroht
Washington reagierte damals scharf, sprach von Zensur und verhängte Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie andere Europäer. Die heftige Reaktion konnte auch als Drohung in Richtung Brüssel verstanden werden, keine weiteren Maßnahmen gegen die US-Tech-Riesen zu ergreifen.
Außenminister Marco Rubio schrieb zur Begründung der Einreisesperren auf X, es würden gezielt amerikanische Plattformen attackiert. Man sei bereit, die Liste zu erweitern, wenn es keine Kurskorrektur gebe. Elon Musk selbst sprach sich dafür aus, die EU abzuschaffen.
Warum die EU-Kommission Grok nicht sperren will
Das nun eröffnete Verfahren konzentriert sich laut Mitteilung darauf, ob X das Risiko für «geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden» genügend eingeschränkt hat. Die Internetwächter in Brüssel kündigten neben der neuen Ermittlung zudem an, eine seit Ende 2023 laufende Untersuchung zu erweitern.
Von einer Strafe oder Sperre des Dienstes sah man aber zunächst ab: Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel, hatte ein Sprecher der Brüsseler Behörde in der Vergangenheit gesagt. Indonesien und Malaysia hatten Grok als erste Länder weltweit Mitte Januar vorübergehend gesperrt.
Die Einleitung des Verfahrens auf Grundlage des Gesetzes über digitale Dienste (Digital Services Act, kurz DSA) bedeutet noch keinen Nachweis eines Verstoßes. Sollte X aber nicht einlenken oder entlastende Beweise liefern, könnten Strafen durch die Europäische Kommission drohen. Sie wacht in der EU über die Einhaltung der Digitalregeln. Wie lange das Verfahren dauern wird, ist offen.
X hat Chatbot bereits beschränkt
Unter zunehmendem Druck wegen der übergriffigen Bilder – etwa von Schwedens stellvertretender Ministerpräsidentin Ebba Busch – hatte die US-Firma ihren Chatbot zuletzt eingeschränkt. «Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt», antwortet der Chatbot inzwischen. Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin für alle öffentlich anzeigen.
Der EU-Kommission und auch anderen Aufsichtbehörden auf der Welt reichte dieser Schritt nicht. Es folgten weitere Einschränkungen. So seien «technologische Maßnahmen» eingeführt worden, die die Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie Bikinis verhindern sollen, teilte X mit. Diese Beschränkung gelte sowohl für kostenlose Accounts als auch für zahlende Nutzer.
Auch London und Paris ermitteln
Auch die britische Medienaufsichtsbehörde Ofcom hatte Mitte Januar eine offizielle Untersuchung gegen Musks Online-Plattform eingeleitet. Als Grund gab die Behörde ebenfalls die von Grok sexualisierten Bilder an. Dies könne mitunter als Missbrauch gewertet werden, hieß es in einer Mitteilung. Der britische Premierminister Keir Starmer nannte die Erzeugnisse der KI «widerlich».
Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die ursprüngliche Ermittlung dreht sich um den Vorwurf, dass Algorithmen in dem sozialen Netzwerk verändert worden sein sollen, um rechtsextremen Inhalten mehr Aufmerksamkeit zu bescheren. Neu sind jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen.