Musks Firma Grok räumt Fehler wegen KI-Bildern ein

Anzügliche Fotos von Kindern

Musk-Firma Grok räumt Fehler an

Die KI-Firma Grok des X-Besitzers Elon Musk hat eine Schwachstelle bestätigt. Offenbar konnten freizügige Bilder von Minderjährigen erstellt werden.

Nach Kritik an der jüngsten Möglichkeit, freizügige Bilder unter anderem von Minderjährigen mit Hilfe Künstlicher Intelligenz (KI) zu erstellen, hat Elon Musks KI-Chatbot Grok Fehler eingeräumt. Es seien „Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt“ worden, hieß es in einem Post auf der Plattform X. Diese sollten nun „mit größter Dringlichkeit“ behoben werden. „Die Verbreitung von kinderpornografischem Material ist illegal und verboten“, stellte die KI fest. Der KI-Chatbot hatte mit der Generierung anzüglicher Fotos Empörung bei X-Nutzern und massive Kritik ausgelöst.

Nutzer können Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. „Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden“, schrieb Grok auf X.

In einem weiteren Post hieß es zur Erläuterung, dass es „vereinzelte“ Fälle gegeben habe, „in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten“ hätten.

Medienberichten zufolge sollen auch Frauen von sogenannten Deepfakes betroffen sein. Laut „Politico“ ermittelt die Pariser Staatsanwaltschaft inzwischen zur Verbreitung der sexualisierten Deepfakes. Demnach hatten zwei französische Abgeordnete an die Staatsanwaltschaft gewandt, nachdem Tausende Deepfakes von Grok erstellt worden waren.