Eine US-Behörde hat erklärt, dass KI-generierte Robocalls nun illegal seien.
Nach einer einstimmigen Entscheidung einer Regierungsbehörde sind Anrufe, die mit durch künstliche Intelligenz (KI) erzeugten Stimmen getätigt werden, in den Vereinigten Staaten nun illegal.
Die US-amerikanische Federal Communications Commission (FCC) sagte am Donnerstag, dass diese Art von Anrufen in den letzten Jahren zugenommen habe und Verbraucher durch die Nachahmung verschiedener Stimmen durch Fehlinformationen verwirren könnten.
Das Urteil erging, als die Behörden im US-Bundesstaat New Hampshire ihre Ermittlungen zu KI-generierten Robocalls fortsetzten, die die Stimme von US-Präsident Joe Biden nachahmten, um die Menschen letzten Monat von der Stimmabgabe bei der landesweit ersten Vorwahl des Bundesstaates abzuhalten.
Mit sofortiger Wirkung ermächtigt die Verordnung die FCC, Unternehmen zu bestrafen, die KI-Stimmen in ihren Anrufen verwenden, oder die Dienstanbieter zu blockieren, die sie übertragen.
Es öffnet den Anrufempfängern auch die Möglichkeit, Klagen einzureichen, und gibt den Generalstaatsanwälten einen neuen Mechanismus, um gegen Verstöße vorzugehen, so die FCC.
„Schlechte Akteure nutzen KI-generierte Stimmen in unerwünschten Robocalls, um gefährdete Familienmitglieder zu erpressen, Prominente zu imitieren und Wähler falsch zu informieren. Wir machen die Betrüger hinter diesen Robocalls aufmerksam“, sagte die Vorsitzende der Agentur, Jessica Rosenworcel, in einer Erklärung.
Die Behörden der US-Bundesstaaten „werden nun über neue Instrumente verfügen, um gegen diese Betrügereien vorzugehen und sicherzustellen, dass die Öffentlichkeit vor Betrug und Fehlinformationen geschützt wird“, fügte sie hinzu.
Nach dem US-Verbraucherschutzrecht dürfen Telemarketer im Allgemeinen keine automatischen Wählgeräte oder künstlichen oder aufgezeichneten Sprachnachrichten verwenden, um Mobiltelefone anzurufen, und sie können solche Anrufe ins Festnetz nicht ohne vorherige schriftliche Zustimmung des Anrufempfängers tätigen.
Das neue Urteil stuft KI-generierte Stimmen in Robocalls als „künstlich“ ein und sei daher nach denselben Maßstäben durchsetzbar, so die FCC.
Wer gegen das Gesetz verstößt, muss mit hohen Geldstrafen rechnen, maximal bis zu 23.000 US-Dollar (21.351 Euro) pro Anruf, so die FCC.
Die Behörde hat zuvor das Verbrauchergesetz genutzt, um gegen Robocalls vorzugehen, die Wahlen stören, und verhängte unter anderem eine Geldstrafe von 5 Millionen US-Dollar (4,6 Millionen Euro) gegen zwei konservative Betrüger, weil sie Menschen in überwiegend schwarzen Gebieten fälschlicherweise gewarnt hatten, dass die Briefwahl ihr Risiko einer Verhaftung erhöhen könnte , Inkasso und Zwangsimpfung.
Das Gesetz gibt Anrufempfängern außerdem das Recht, rechtliche Schritte einzuleiten und möglicherweise bis zu 1.500 US-Dollar (1.392 Euro) Schadenersatz für jeden unerwünschten Anruf zu verlangen.
„Technologie wird besser“
Josh Lawson, Direktor für KI und Demokratie am Aspen Institute, sagte, dass Wähler sich trotz der Entscheidung der FCC auf personalisierten Spam einstellen sollten, der sie per Telefon, SMS und sozialen Medien anspricht.
„Die wahren Dunklen Hüter neigen dazu, den Einsatz zu missachten, und sie wissen, dass das, was sie tun, rechtswidrig ist“, sagte er. „Wir müssen verstehen, dass schlechte Akteure weiterhin an den Käfigen rütteln und die Grenzen überschreiten werden.“
Kathleen Carley, eine Carnegie-Mellon-Professorin, die sich auf computergestützte Desinformation spezialisiert hat, sagte, dass man, um den KI-Missbrauch der Sprachtechnologie zu erkennen, eindeutig erkennen kann, dass der Ton von der KI erzeugt wurde.
Sie sagte, das sei jetzt möglich, „weil die Technologie zur Generierung dieser Anrufe schon seit einiger Zeit existiert. Sie ist gut verstanden und macht Standardfehler. Aber diese Technologie wird noch besser.“
Hochentwickelte generative KI-Tools, von Software zum Klonen von Stimmen bis hin zu Bildgeneratoren, werden bereits bei Wahlen in den USA und auf der ganzen Welt eingesetzt.
