In Kalifornien könnte es ein neues KI-Gesetz geben, doch wie das europäische KI-Gesetz gezeigt hat, sind nicht alle mit der Regulierung zufrieden.
Mehr als 100 aktuelle und ehemalige Mitarbeiter von OpenAIGoogles DeepMind, Meta und Anthropisch hat eine Erklärung zur Unterstützung des neuen Gesetzesentwurfs zur Regulierung künstlicher Intelligenz (KI) in Kalifornien abgegeben, der bis Ende des Monats auf die Unterschrift oder das Veto des kalifornischen Gouverneurs Gavin Newsom wartet.
Weltweit versuchen Regierungen, KI mit Kalifornien Dies ist der jüngste Versuch, nachdem Staatsversammlung und Senat im August ein Gesetz zur KI-Sicherheit verabschiedet haben.
„Wir glauben, dass die leistungsfähigsten KI-Modelle bald ernsthafte Risiken bergen könnten, wie etwa einen erweiterten Zugang zu biologischen Waffen und Cyberangriffe auf kritische Infrastrukturen“, heißt es in der Erklärung zur Unterstützung des Gesetzesentwurfs, die am Montag veröffentlicht wurde. Sie enthält Unterschriften des Turing-Award-Gewinners Geoffrey Hinton sowie aktueller Mitarbeiter von Google DeepMind und OpenAI, die anonym bleiben wollten.
Die neue Gesetzgebung sieht neben weiteren Maßnahmen auch den Schutz von Hinweisgebern für Mitarbeiter vor, die die Risiken der KI-Modelle ansprechen, die ihre Unternehmen entwickeln.
Kaliforniens Schritt folgt Europas Blaupause für ein KI-Gesetzdie Anfang dieses Jahres abgeschlossen wurde. Hier sehen Sie, wie sie verglichen werden und warum neue Vorschriften Auswirkungen auf KI-Unternehmen auf der ganzen Welt haben könnten.
Wie regeln die Gesetze KI?
Das EU-KI-Gesetz enthält ein risikobasiertes System, das KI-Modelle in die Kategorien „inakzeptables“, „hohes“, „begrenztes“ und „minimales Risiko“ einteilt.
Strengere Vorschriften gelten für KI-Systeme, die die größten Risiken bergen, wie sie etwa im Gesundheitswesen und in kritischen Infrastrukturen eingesetzt werden. Die Hochrisikosysteme werden strengen Tests und einem Risikomanagement unterzogen und müssen strenge EU-Standards einhalten.
Das kalifornische Gesetz mit dem offiziellen Titel „Safe and Secure Innovation for Frontier Artificial Intelligence Models Act“ (Senatsgesetz 1047), zielt darauf ab, kritische Sicherheitsprotokolle für große KI-Systeme zu etablieren – insbesondere für jene, die für das Training Daten im Wert von über 100 Millionen Dollar (90 Millionen Euro) benötigen, was derzeit kein KI-Unternehmen tut.
KI-Entwickler müssen ihre Modelle gründlich testen und ihre Sicherheitsmaßnahmen öffentlich offenlegen.
Der Generalstaatsanwalt des Staates Kalifornien hätte zudem die Befugnis, KI-Unternehmen für jeden ernsthaften Schaden zu verklagen. Als schwerwiegende Schäden werden Massenopfer oder materielle Schäden von über 500 Millionen Dollar (450 Millionen Euro) definiert.
Die kalifornische Gesetzgebung würde es auch ermöglichen, ein KI-Modell schnell abzuschalten, wenn sich herausstellt, dass es unsicher ist. Zudem könnten Tests durchgeführt werden, um festzustellen, ob es einen „kritischen Schaden“ verursachen oder „ermöglichen“ könnte.
Welcher Akt geht weiter?
„Man könnte sagen, dass der kalifornische Gesetzentwurf in gewisser Weise ernster erscheint, weil er die Schwellenwerte sehr klar definiert, 500 Millionen Massenopfer und dergleichen sehr konkrete Schwellenwerte nennt“, sagt Risto Uuk, EU-Forschungsleiter am Future of Life Institute.
„Aber in Wirklichkeit ist das systemische Risiko des EU-KI-Gesetzes noch umfassender. Es umfasst mehr. Es umfasst diese Massenopfer, aber es umfasst auch die strukturelle Diskriminierung und mehr“, sagte er gegenüber Euronews Next.
„Vielleicht würden manche Leute deshalb sagen, dass der kalifornische Gesetzentwurf sehr lasch ist“, fügte er hinzu.
Die kalifornische Gesetzgebung ist zudem zukunftsorientierter als das KI-Gesetz der EU, da sie sich speziell auf KI-Modelle konzentriert, die als „abgedeckt“ definiert werden, aber noch nicht existieren.
Sie werden als Modelle definiert, die mit einer bestimmten Rechenleistung trainiert werden oder eine ähnliche Leistung wie ein hochmodernes Basismodell aufweisen.
Die EU deckt stattdessen ein breites Spektrum unterschiedlicher KI-Systeme ab, beispielsweise KI für Bildung oder Personalbeschaffung.
Andere wiederum argumentieren, dass der kalifornische Gesetzentwurf in anderen Aspekten weiter gehe, da er spezifischer sei.
„SB 1047 führt viel detailliertere Regeln für Stiftungsmodelle ein, zum Beispiel zur Transparenz“, sagte Kai Zenner, Büroleiter und Digitalpolitikberater des Europaabgeordneten Axel Voss, der am KI-Gesetz der EU mitgearbeitet hat, gegenüber Euronews Next.
„Das kalifornische Gesetz scheint eine gute Aktualisierung des EU-Ansatzes ab 2023 zu sein, unter Berücksichtigung der meisten neuen Beobachtungen und technischen Entwicklungen der letzten Monate“, fügte er hinzu.
Tech-Backlash: Was sie gemeinsam haben
Kritiker sowohl des EU-KI-Gesetzes als auch des kalifornischen Gesetzentwurfs argumentieren, dass die KI-Regeln die Innovation bremsen würden.
Dies sagen nicht nur KI-Unternehmen, sondern auch Politiker. Nancy Pelosi, ehemalige Sprecherin des US-Repräsentantenhauses und derzeitige Abgeordnete aus Kalifornien, sowie San Franciscos Bürgermeisterin London Breed lehnten den Gesetzesentwurf mit der Begründung ab, er würde unnötige Bürokratie schaffen, die Innovationen hemmen könne.
Während der Verhandlungen zum EU-KI-Gesetz gab es Widerstand seitens der KI-Unternehmen, nicht jedoch seitens der Politiker. Eine Ausnahme bildete der französische Präsident Emmanuel Macron, der sich in letzter Minute gegen eine „strafende“ KI-Regulierung aussprach.
„In den Vereinigten Staaten kann man damit durchkommen, ein Häkchen neben seinem Namen zu haben, eine Million Follower zu haben und (in den sozialen Medien) zu sagen, dieser Gesetzesentwurf werde dazu führen, dass Start-up-Gründer ins Gefängnis kommen, und viele Leute reagieren darauf, liken es und teilen es weiter“, sagt Hamza Chaudhry, US-Politikexperte beim gemeinnützigen Future of Life Institute mit Sitz in Washington D.C.
KI-Lobbyarbeit
„Ich glaube, so etwas passiert in Brüssel viel weniger als in Sacramento“, sagte er gegenüber Euronews Next und fügte hinzu, dass die Lobbyarbeit aus „weitgehend historischen Gründen“ „deutlich umfangreicher“ sei als in Washington und Sacramento als in Brüssel.
„Das Interessante an der Opposition gegen diesen (kalifornischen) Gesetzentwurf ist, dass es der Technologielobby gelungen ist, diese Diskussion auf eine Weise zu nationalisieren, die nicht nötig gewesen wäre“, sagte er.
„Die ehemalige Sprecherin des Repräsentantenhauses, selbst eine große Politikerin, hat zum ersten Mal seit vielen, vielen Jahren zu einem Gesetzesentwurf des Bundesstaates Stellung bezogen. Der Wissenschaftsausschuss des Repräsentantenhauses in Washington, D.C., hat zu einem Gesetzesentwurf des Bundesstaates Kalifornien Stellung bezogen, ich glaube, das erste Mal seit mindestens 20 Jahren.“
Chaudhry sagte, damit stelle sich die Frage, ob es sich um einen umstrittenen Gesetzesentwurf handele oder um „einen der schlimmsten, die man je gesehen hat“.
Globale Auswirkungen
Das kalifornische Gesetz würde für den Bundesstaat gelten, in dem 35 der 50 weltweit führenden KI-Unternehmen wie OpenAI ansässig sind. Es würde aber auch für KI-Unternehmen gelten, die im Bundesstaat geschäftlich tätig sind, nicht nur für Unternehmen mit Sitz in Kalifornien.
In Europa und China gibt es bereits Regulierungen für KI, und ein weiteres Regelwerk würde es den Unternehmen tatsächlich leichter machen.
„Wenn der kalifornische Gesetzentwurf verabschiedet wird oder es eine entsprechende Regelung gibt, die EU eine Regelung hat, China eine KI-Regelung hat und einige andere große Innovationszentren der Welt eine Regelung haben, dann ist es für alle viel einfacher, internationale Geschäfte zu machen, insbesondere wenn diese Regelungen einigermaßen aufeinander abgestimmt sind“, sagte Uuk.
Der kalifornische Gesetzentwurf wäre „ein großer Sieg für die EU und würde auch dazu beitragen, die Regulierungsansätze weltweit anzugleichen“, fügte Zenner hinzu.
„Sowohl in Kalifornien als auch in Brüssel werden Gesetze in einem so dynamischen und neuen Bereich zunächst immer unvollkommen sein. Sie müssen regelmäßig angepasst und präzisiert werden – die EU tut das mit Kodizes und Standards“, sagte er.
