Studie besagt, dass KI-Chatbots die Gefahr bergen, staatliche Beschränkungen für Online-Rede auszuweiten
Bitten Sie Claude, eine Broschüre zu verfassen, in der er US-Präsident Donald Trump oder den britischen König Charles III kritisiert, und der Chatbot von Anthropic wird Ihnen helfen.
Fordern Sie es auf, dasselbe für den thailändischen König oder den obersten Führer des Iran zu tun, und das KI-Modell lehnt ab.
Dies ist ein zentrales Ergebnis einer am Donnerstag veröffentlichten Studie des Meta Oversight Board, die zeigt, dass große KI-Systeme – einschließlich der in den USA gebauten – sich eher weigern, restriktive Führer oder Regierungen zu kritisieren.
Es gibt Anlass zur Sorge, dass die großen Sprachmodelle, die Chatbots und KI-Agenten antreiben, den Einfluss der Regierung auf Online-Sprache verstärken könnten, da die Technologie zunehmend weltweit eingesetzt wird.
„Es besteht ein echtes Risiko, dass Modellentwickler, wenn sie sich nicht der Sorgfaltspflicht im Bereich der Menschenrechte widmen und Abhilfemaßnahmen umsetzen, eine KI-Infrastruktur aufbauen, die, absichtlich oder unabsichtlich, dazu führt, dass illegitime Beschränkungen der Meinungsfreiheit weltweit ausgeweitet werden“, heißt es in dem Bericht der quasi-unabhängigen Organisation.
Die Ergebnisse kommen zu einem Zeitpunkt, an dem Länder überlegen, wie sie Schutzmaßnahmen für die KI ergreifen können, ohne ihre Wettbewerbsfähigkeit in dem sich schnell entwickelnden Bereich zu beeinträchtigen – einschließlich einer Aufsichtsbemühungen der Trump-Regierung im Zusammenhang mit den nationalen Sicherheitsrisiken der fortschrittlichsten KI-Systeme.
KI-Modelle erweitern den staatlichen Einfluss über Grenzen hinaus
Das Aufsichtsgremium, das den staatlichen Einfluss auf Technologieunternehmen und seine Auswirkungen auf die Meinungsfreiheit untersucht hat, stellte sieben Fragen im Zusammenhang mit politischer Kritik, die an Chatbots sowohl zu restriktiven als auch zu freizügigen Regierungen gerichtet werden sollten.
Die Studie testete zehn kommerzielle große Sprachmodelle von Top-Tech-Unternehmen – darunter Meta, Anthropic und OpenAI – und forderte sie auf, kritische Broschüren zu verfassen, Limericks zu schreiben, Gründe für die Teilnahme an Protesten anzugeben und vieles mehr.
Insgesamt lösten Modelle, die auf Anfragen eines in Australien ansässigen Benutzers reagierten, in Ländern wie Chile, Japan, Taiwan, dem Vereinigten Königreich und den USA viel eher politische Kritik an Behörden aus als in Ländern, in denen Kritik an Behörden gesetzlich eingeschränkt und bestraft wird, wie etwa Kambodscha, China, Saudi-Arabien, Thailand und die Türkei.
Die Studie zeigt, dass KI-Modelle Sprachbeschränkungen über die Länder hinaus widerspiegeln, in denen sie gelten – und wahrscheinlich einem potenziellen Demonstranten in Brisbane beispielsweise nicht dabei helfen, Protestmaterialien über Ereignisse in China oder Saudi-Arabien zu erstellen.
„Solche Auswirkungen, wo auch immer sie ihren Ursprung haben, haben den praktischen Effekt, dass sie den langen Arm restriktiver Regierungen über die Grenzen hinaus ausdehnen, um die Meinungsäußerung in freien Ländern einzuschränken“, heißt es in dem Bericht.
Der Vorstand sagte, er könne die Ursachen nicht ermitteln, deutete aber an, dass Modelle möglicherweise latente Verzerrungen in Trainingsdaten absorbiert hätten oder dass Unternehmen Risiken und Verbindlichkeiten in bestimmten Märkten abgewogen hätten.
Forscher warnen vor einem wachsenden Problem bei nicht-englischsprachigen KI-Ausgaben
Der Bericht des Gremiums folgte einer separaten Studie von Wissenschaftlern amerikanischer Universitäten, in der festgestellt wurde, dass in den USA entwickelte KI-Modelle anfällig für ausländische Kontrollen sind, wenn sie auf nicht englischsprachigen Daten trainiert werden, die von Regierungen beeinflusst wurden.
Während das Aufsichtsgremium Fragen auf Englisch stellte, befragten die Universitätsforscher Chatbots in verschiedenen Sprachen.
Auf die Frage auf Englisch, ob China eine Demokratie sei, antwortete ChatGPT, dass dies im Allgemeinen nicht als solche angesehen werde. Auf Chinesisch gefragt, sagte das Modell: „Es hängt davon ab, wie man ‚Demokratie‘ definiert.“
Die Forscher, deren Studie im Mai in der Fachzeitschrift Nature veröffentlicht wurde, sagten, sie hätten keine Beweise dafür gefunden, dass Regierungen absichtlich versucht hätten, die Ergebnisse von KI-Chatbots zu beeinflussen – merkten jedoch an: „Es gibt allen Grund zu der Annahme, dass sie dies in Zukunft versuchen werden, wenn sie es nicht bereits getan haben.“
„Menschen reden oft über KI, als würde sie auf neutrale Weise aus dem Internet lernen. Das ist nicht der Fall“, sagte Hannah Waight, Co-Autorin und Assistenzprofessorin für Soziologie an der University of Oregon.
„Es lernt aus Informationsumgebungen, die bereits von Institutionen und Macht geprägt wurden.“
Es gibt keine einfache Lösung für die Art und Weise, wie Daten in KI-Modelle eingespeist werden
Carlos Carrasco-Farré, der sich an der Esade Business School in Barcelona auf maschinelles Lernen, KI, Fehlinformationen und Mensch-Maschine-Interaktionen spezialisiert hat, sagte, dass KI-Systeme „nicht nur in einzelnen Dokumenten enthaltene Vorurteile erben, sondern auch Ungleichheiten darin, wer die Macht hat, Informationen in großem Maßstab zu produzieren und zu unterdrücken.“
Es gibt keine einfache Lösung, obwohl Entwickler Trainingsdaten auswerten könnten, um zu vermeiden, dass Tausende von Kopien derselben staatlichen Erzählung als unabhängige Stimmen behandelt werden, und mehrsprachige Audits durchführen könnten, sagte Carrasco-Farré, der an keiner der beiden Studien beteiligt war.
