Kläger versteckt geheime KI-Befehle in Gerichtsunterlagen

„Prompt Injection“

Kläger versteckt geheime Befehle in Gerichtsunterlagen

Ein Kläger in den USA hat unsichtbare Anweisungen an eine KI in seine Schriftsätze eingebaut. Bemerkt wurde das durch eine Auffälligkeit im Ausdruck.

Ein Kläger im US-Bundesstaat Connecticut hat versucht, ein Gericht mit unsichtbaren Anweisungen an eine Künstliche Intelligenz zu seinen Gunsten zu beeinflussen. In den Dokumenten seines Prozesses setzte Matthew Elliott zwischen die sichtbaren Zeilen weitere Sätze in weißer Miniaturschrift auf weißem Untergrund. Für Menschen sind diese nicht zu sehen; Software, die den Text eines Dokuments einliest, erfasst ihn dagegen vollständig.

Wie das Technikportal „Ars Technica“ berichtet, waren diese Sätze an ein KI-System adressiert, das den Schriftsatz womöglich auswertet. Dieses solle sich der Darstellung des Klägers anschließen und eine zuvor abgelehnte Eingabe als Fehler behandeln, der zu berichtigen sei.

• Recht und Technik: KI-Kanzlei gewinnt erstmals einen Prozess vor Gericht
• Studie zu Chatbots: Wie KI-Systeme ihre Nachrichtenquellen auswählen

Aufgefallen sei der Versuch dem Gericht, weil in den Ausdrucken an manchen Stellen auffällig viel Platz frei blieb. Aus Bewerbungen ist die „Prompt Injection“ genannte Masche bekannt, dort schleusen Menschen Text für automatische Auswahlsysteme ein.

Da die Justiz in Connecticut Schriftsätze im Gegenzug zu vielen anderen Gerichten nicht von KI prüfen lässt, blieb Elliotts Manipulationsversuch erfolglos. Richter Walter Spader wertete das Vorgehen dennoch als schweren Verfahrensmissbrauch.

Trotz der Warnung des Gerichts machte Elliott weiter. In späteren Eingaben versteckte er einen Link zu einem YouTube-Video und Sprüche, darunter die Zeile, er hoffe, man könne ihn nicht sehen.

Der Nachrichtenagentur Reuters sagte Elliott, er habe testen wollen, ob das Gericht heimlich KI einsetze. Doch diese Argumentation nahm ihm Spader nicht ab. Wer so einen Verdacht hege, könne ihn offen aussprechen; dass Elliott den Text versteckt habe, belege eine „böswillige Absicht“.

Den Einsatz von KI vor Gericht begrüßte Richter Spader grundsätzlich, gerade für Kläger ohne Anwalt. Viele von ihnen ließen sich von Chatbots aber nur die eigene Position ausbauen und fragten nie nach Gegenargumenten. Die Programme bestärkten sie darin. „Ein Argument, das nur zustimmen soll, ist auch gegenüber seinem Autor unehrlich“, schrieb er in seiner Entscheidung. Eine Geldstrafe verhängte der Richter nicht, stattdessen nahm er dem Kläger das Recht, Dokumente künftig elektronisch einzureichen.