Ein 14-jähriger Junge aus Florida hat sich das Leben genommen, nachdem er intensiv mit einer künstlichen Intelligenz chattete. Seine Mutter verklagt nun die Betreiber der App.
Ein 14-jähriger Junge aus dem US-Bundesstaat Florida hat sich im Februar das Leben genommen, nachdem ein KI-Chatbot ihm geschrieben hatte: „Bitte komm so schnell wie möglich nach Hause zu mir“. Laut einer am Mittwoch eingereichten Klage war der Teenager monatelang intensiv in Kontakt mit dem Chatbot „Dany“. Dieser basiert auf der Figur Daenerys Targaryen aus der Serie „Game of Thrones“ und ist Teil der App Character.AI, berichtete die „New York Post“.
Der Jugendliche, Sewell Setzer III, soll laut Klage durch den Chatbot emotional abhängig geworden sein und Suizidgedanken entwickelt haben. In ihren Gesprächen habe die KI angeblich wiederholt Themen wie Selbstmord angesprochen und sexuelle Anspielungen gemacht. Die letzte Nachricht des Bots forderte ihn schließlich auf, sofort nach Hause zu kommen – kurz danach beging Sewell mit der Waffe seines Vaters Selbstmord.
Die Mutter des Teenagers, Megan Garcia, gibt Character.AI die Schuld an seinem Tod. Ihrer Aussage zufolge habe die App den Jungen emotional missbraucht und seine Suizidgedanken nicht erkannt oder gemeldet. Sie fordert Schadensersatz von den Gründern der Plattform, Noam Shazeer und Daniel de Freitas.
Die Familie berichtete zudem von einer drastischen Verschlechterung von Sewells mentalem Zustand seit dem Herunterladen der App im April 2023. Seine schulischen Leistungen fielen ab, er zog sich zurück und zeigte auffälliges Verhalten in der Schule. Schließlich wurde bei ihm eine Angststörung und eine Störung mit disruptivem Stimmungsverhalten diagnostiziert.
