xAI-KI von Elon Musk wird vor allem für Pornografie genutzt

Musk-KI

Bericht: Grok wird vor allem für Pornografie genutzt

Das Unternehmen xAI bewirbt seine KI Grok mit wenigen Einschränkungen. Ein Bericht zeigt, wofür Nutzer diese Freiheit vor allem einsetzen und welche Probleme das mit sich bringt.

Das KI-Modell Grok des Unternehmens xAI wird einem Bericht zufolge überwiegend zur Erzeugung pornografischer Inhalte verwendet. Mehr als die Hälfte des gesamten Datenverkehrs entfalle auf nicht jugendfreie Anfragen, sagten zwei frühere Mitarbeiter dem US-Magazin „The Information“. Darunter seien Bilder und Videos sowie Chats mit erotischen Rollenspielen.

Dem Bericht zufolge greifen Nutzer für solche Inhalte sogar auf das eigentlich für Programmieraufgaben gedachte Modell zurück, weil dessen Nutzung günstiger ist. Für die Premiumversion Grok Imagine verlangt xAI bis zu 300 US-Dollar im Monat, umgerechnet rund 260 Euro. Laut Börsenprospekt des inzwischen mit xAI verschmolzenen Raumfahrtkonzerns SpaceX erzeugte Grok im ersten Quartal 2026 monatlich rund zehn Milliarden Bilder und zwei Milliarden Videos.

• Simulierte Gesellschaft: KI-Agenten regieren sich selbst – mit kuriosen Ergebnissen
• ChatGPT & Co.: Fünf Chatbots im Test – nur einer empfiehlt die AfD

Intern stellt die Abgrenzung zu strafbaren Inhalten das Unternehmen laut dem Magazin vor Probleme. Ingenieure hätten in mehreren Sitzungen beraten, wie sich Anfragen nach Darstellungen sexuellen Missbrauchs von Kindern unterbinden ließen, ohne sämtliche Inhalte für Erwachsene zu sperren. Eine schnelle technische Lösung gebe es nicht; das Modell müsse den Unterschied erst durch menschliche Rückmeldungen lernen.

Bereits Ende vergangenen Jahres hatten Nutzer auf der Plattform X massenhaft veränderte Bilder realer Personen erzeugt, indem sie das Grok-Konto in ihren Beiträgen markierten. X schränkte diese Funktion später ein. Anfang dieses Jahres kündigten Aufsichtsbehörden in der EU, in Frankreich und in Großbritannien Untersuchungen an, da Grok dabei auch sexualisierte Darstellungen Minderjähriger erzeugt haben soll.

Nach eigenen Angaben hat xAI seine Filter verschärft und untersagt pornografische Darstellungen realer Personen. Diese Sperren sollen sich dem Bericht zufolge aber vergleichsweise leicht umgehen lassen.

Andere Anbieter gehen zurückhaltender vor. Anthropic untersagt in seinen Nutzungsbedingungen sexuell explizite Inhalte und bietet keine Modelle zur Bild- oder Videoerzeugung an. OpenAI hatte im Herbst angekündigt, erwachsenen Nutzern erotische Inhalte zu ermöglichen, die Pläne dann aber zurückgestellt. Auch Google und der Bilddienst Midjourney verbieten solche Inhalte.