ChatGPT schätzt das Alter automatisch – OpenAI verstärkt Jugendschutz

Künstliche Intelligenz

ChatGPT schätzt das Alter seiner Nutzer automatisch

OpenAI will Kinder und Jugendliche mit einem KI-System schützen, welches das Alter automatisch schätzt. Wer durchfällt, wird eingeschränkt.

OpenAI hat damit begonnen, weltweit ein System zur automatischen Altersschätzung für ChatGPT einzuführen. Das Unternehmen will damit erkennen, ob ein Nutzerkonto vermutlich einer Person unter 18 Jahren gehört. Wie OpenAI in einem Blogeintrag mitteilt, werden für diese Konten dann automatisch zusätzliche Schutzfunktionen aktiviert.

Die Neuerung soll verhindern, dass Minderjährige mit Inhalten konfrontiert werden, die ihnen schaden könnten. Gleichzeitig ermögliche das System, erwachsenen Nutzern künftig Zugang zu weniger eingeschränkten Funktionen zu geben. In der Europäischen Union soll die Funktion in den kommenden Wochen verfügbar werden.

Das Altersschätzungs-Modell analysiert verschiedene Signale, um das Alter eines Kontos einzuschätzen, heißt es. Dabei berücksichtigt es laut OpenAI unter anderem, wie lange das Konto bereits existiert, zu welchen Tageszeiten es genutzt wird und welche Nutzungsmuster über einen längeren Zeitraum erkennbar sind. Auch das vom Nutzer selbst angegebene Alter fließe in die Bewertung ein.

Anders als bei klassischen Altersverifizierungen müssten Nutzer dabei zunächst keine Ausweisdokumente vorlegen oder biometrische Daten bereitstellen. Das System arbeite mit einer KI-basierten Vorhersage, die sich kontinuierlich verbessern soll. Ist sich das Modell unsicher oder fehlen wichtige Informationen, stufe es Konten sicherheitshalber als Minderjährigen gehörend ein.

Wird ein Konto so eingestuft, soll ChatGPT den Zugang zu bestimmten Inhalten einschränken. Zu den blockierten Kategorien gehören grafische Gewalt oder blutige Darstellungen, virale Herausforderungen, die riskantes oder schädliches Verhalten fördern könnten, sowie sexuelle, romantische oder gewalttätige Rollenspiele.

Außerdem sollen Inhalte reduziert werden, die Selbstverletzung darstellen oder extreme Schönheitsideale, ungesunde Diäten und Bodyshaming thematisieren. OpenAI begründet diese Maßnahmen mit wissenschaftlichen Erkenntnissen über die Entwicklung von Kindern und Jugendlichen, insbesondere bezüglich Risikowahrnehmung, Impulskontrolle und emotionaler Regulation.

Falls das System einen erwachsenen Nutzer fälschlicherweise als minderjährig einstuft, lässt sich die Altersangabe überprüfen und korrigieren. Betroffene können in den Account-Einstellungen eine Verifizierung über den Dienstleister Persona starten. Dabei muss entweder ein Live-Selfie oder ein Foto eines Ausweisdokuments hochgeladen werden.

Persona gibt an, diese Daten weder zu verkaufen noch mit Dritten zu teilen. Eltern haben zudem die Möglichkeit, über Kontrolloptionen zusätzliche Einstellungen vorzunehmen – etwa feste Zeiten festzulegen, zu denen ChatGPT nicht genutzt werden kann.