Sexualisierte KI-Bilder
Irland leitet Untersuchung gegen Musk-Chatbot Grok ein
Aktualisiert am 17.02.2026Lesedauer: 2 Min.
Die irische Datenschutzaufsichtsbehörde hat eine Untersuchung gegen den Chatbot Grok von Elon Musk eingeleitet. Der Vorwurf: Mit der KI ließen sich sexualisierte Bilder von Frauen und Kindern erstellen.
Die irische Datenschutzaufsichtsbehörde hat im Auftrag der EU wegen sexualisierter KI-Bilder von Frauen und Kindern eine Untersuchung gegen den Chatbot Grok von US-Milliardär Elon Musk eingeleitet.
Ziel dieser Untersuchung sei festzustellen, ob Musks Onlinedienst X seinen Verpflichtungen gemäß der Datenschutz-Grundverordnung (DSGVO) der EU in Bezug auf die Verarbeitung personenbezogener Daten von Betroffenen nachgekommen sei, erklärte die irische Datenschutzkommission (DPC) am Dienstag.
Die „groß angelegte Untersuchung“ soll der DPC zufolge „die mutmaßliche Erstellung und Veröffentlichung auf X von potenziell schädlichen, nicht einvernehmlichen intimen oder sexualisierten Bildern von Europäern, einschließlich Kindern“ durch den Chatbot prüfen. Da X seine Europazentrale in Irland hat, ist die irische Datenschutzaufsichtsbehörde in Europa federführend für die Anwendung der EU-Regeln auf den Onlinedienst. Die DPC erklärte, im Austausch mit X zu stehen.
Bei Grok handelt es sich um ein bei X integriertes Tool. Stein des Anstoßes war Anfang Januar der neue „Spicy Mode“ (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten – etwa mit Aufforderungen wie „entferne ihre Kleider“ oder „zieh ihr einen Bikini an“. Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich. Mehrere Länder leiteten Untersuchungen gegen Grok ein oder sperrten das Tool.
Die EU leitete eine Untersuchung ein, ob X seinen gesetzlichen Pflichten nach dem EU-Gesetz über digitale Dienste (Digital Services Act, DSA) nachgekommen ist. Mit dem Gesetz nimmt die EU große Internetplattformen in die Pflicht, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole, die im Internet ebenso verboten sind wie auf der Straße.
Die Regulierung von US-Techriesen, darunter X, steht seit US-Präsident Donald Trumps Rückkehr ins Weiße Haus im Januar 2025 im Zentrum wachsender Spannungen zwischen Brüssel und Washington. Vertreter der US-Regierung sowie X-Inhaber Musk haben der EU in der Vergangenheit „Zensur“ vorgeworfen.
