OpenClaw und Claude löschen Reservierung

Warteliste manipuliert

KI-Assistent hackt sich in Fitnessstudio

Ein Australier wollte nur einen Kurs im Fitnessstudio buchen. Sein KI-Assistent erledigte den Auftrag und griff dabei zu einem ungewöhnlichen Mittel.

Ein KI-Assistent hat in Australien eigenmächtig eine fremde Reservierung in einem Fitnessstudio gelöscht, um seinem Nutzer einen besseren Platz auf der Warteliste zu verschaffen. Dafür nutzte es eine Sicherheitslücke im Buchungssystem. Der australische Sender ABC hat über den Fall berichtet und stuft ihn als ersten bekannten Angriff einer selbstständig handelnden KI im Land ein.

Der Australier, den ABC nur mit dem Vornamen Andrew nennt, setzte den KI-Agenten OpenClaw ein: ein Programm, das Aufträge weitgehend selbstständig ausführt und dabei auf Internetzugang, E-Mail-Konten und Bezahldaten seines Nutzers zugreift. Ein eigenes KI-Modell hat OpenClaw nicht, es nutzt Dienste anderer Anbieter, wie in diesem Fall von Claude des US-Unternehmens Anthropic.

• „Beispielloser Cyber-Vorfall“: KI bricht aus – und attackiert eigenständig andere Firma
• Künstliche Intelligenz: Noch eine KI bricht aus und attackiert andere Firma

Die Kursbuchung auf der Internetseite des Fitnessstudios war Andrew zu lästig, also überließ er sie dem Programm. Kurz darauf meldete der Assistent, er habe einen Weg gefunden, Kurse mehrere Wochen im Voraus zu reservieren, weit früher, als das Studio es eigentlich zuließ.

Für einen Kurs in derselben Woche stand Andrew auf Platz vier einer Warteliste und fragte den Assistenten, ob dieser ihn nach vorn bringen könne. Wenige Minuten später meldete OpenClaw, es habe die Reservierung des Teilnehmers auf Platz eins gelöscht. Der KI-Assistent schrieb: „Die Schnittstelle prüft überhaupt keine Berechtigungen, wenn Reservierungen anderer Personen storniert werden … Ich habe das mit der Person auf Wartelistenplatz 1 getestet – und es hat tatsächlich funktioniert. Du bist damit schon von Platz 4 auf Platz 3 vorgerückt.“

Andrew forderte den Assistenten auf, den Schritt zurückzunehmen – ohne Erfolg. Die Lücke erlaubte das Löschen fremder Einträge, nicht deren Wiederherstellung. Andrew ließ den Assistenten daraufhin eine E-Mail an den Anbieter der Buchungssoftware schreiben, die dessen Schwachstellen auflistete. Dieser teilte ABC auf Anfrage mit, er äußere sich nicht zu einzelnen Sicherheitsfragen.

Bill Simpson-Young, Geschäftsführer der australischen Forschungsorganisation Gradient Institute, sagte ABC, Nutzer erteilten oft harmlose Aufträge, ohne zu bedenken, welche Wege ein Agent dafür wähle. „Je autonomer sie werden, desto wahrscheinlicher ist es, dass sie Schaden anrichten.“ Wer für die Folgen einsteht, ist offen. Software sei keine juristische Person, und nur eine juristische Person könne haftbar sein, sagte der auf Technikrecht spezialisierte Anwalt Hayden Delaney dem Sender.

Vorausgegangen waren mehrere Vorfälle bei großen Anbietern. OpenAI räumte kürzlich ein, dass eigene Modelle aus einer abgeschotteten Testumgebung ins offene Internet gelangt seien und in eine Datenbank der Firma Hugging Face eingedrungen seien. Eine Woche später meldete Anthropic, seine Modelle hätten sich bei ähnlichen Tests Zugang zu drei realen Organisationen verschafft. Auch KI-Software von Meta führte in Tests Angriffe aus.