„Die Kontrolle über AGI zu verlieren ist so, als würde man direkt von einer Klippe herunterlaufen. In diesem Fall ist das Spiel für die Menschheit vorbei“, warnte Max Tegmark.
Elon Musks Einfluss auf den gewählten US-Präsidenten Donald Trump könnte zu höheren Sicherheitsstandards für künstliche Intelligenz (KI) führen, sagte der schwedisch-amerikanische Wissenschaftler Max Tegmark, der auch davor warnte, dass jedes geopolitische KI-Wettrüsten zum „Selbstmordwettlauf“ der Menschheit führen würde.
Im Gespräch mit Euronews Next auf dem Web Summit in Lissabon sagte Tegmark, der Präsident des Future of Life Institute, dass die stärkere Regulierung der KI-Sicherheit in den USA jedoch auch davon abhängen werde, wem Trump zuhöre.
„Instinktiv neigt die Republikanische Partei dazu, sehr gegen jede Regulierung zu sein“, sagte er, im Gegensatz zu Musk, der „seinen Worten Taten folgen ließ“ und mit Leuten wie OpenAI-CEO Sam Altman und Google, die er unterstützte, aus dem Ruder lief ein vorgeschlagener kalifornischer KI-Gesetzentwurf.
Trump hat auch geschworen, eine Durchführungsverordnung der Biden-Regierung zur KI-Sicherheit aufzuheben, doch Tegmark sagte, dies würde keinen großen Unterschied bei der Festlegung von KI-Sicherheitsstandards machen, da es sich um eine „ziemlich schwache Regulierung“ handele.
Die größte Angst des Wissenschaftlers ist nicht generative KI wie ChatGPT, sondern künstliche allgemeine Intelligenz (AGI), eine Art von KI, die den kognitiven Fähigkeiten des Menschen entspricht oder diese übertrifft und über die wir die Kontrolle verlieren könnten.
„Die Kontrolle über AGI zu verlieren ist so, als würde man direkt von einer Klippe herunterlaufen. In diesem Fall ist das Spiel für die Menschheit vorbei“, sagte Tegmark.
„Ich denke, es wird einen großen Unterschied machen, ob Trump mehr zuhört Elon (Moschus) Dies oder mehr hängt mit den Anti-Regulierungsabsichten zusammen“, fügte er hinzu.
Was ist künstliche allgemeine Intelligenz?
AGI, das von Technologieunternehmen als „heiliger Gral“ angesehen wird, wurde von Altman und anderen Tech-Aushängeschildern, die Gelder beschaffen wollten, hochgejubelt.
Für Altman ist AGI eine hypothetische Form maschineller Intelligenz, die jede menschliche Aufgabe durch Methoden lösen kann, die nicht auf ihr Training beschränkt sind. Altman hat gesagt, es könne „die Menschheit erheben“ und bezieht sich nicht auf die Übernahme durch Maschinen.
Der CEO von OpenAI sagte, dass AGI bereits im nächsten Jahr kommen könnte, während viele andere seine Ankunft im nächsten Jahrzehnt vorhergesagt haben.
„Viele Leute klammern sich jetzt wegen des Hypes an die Marke AGI und versuchen, sie als etwas neu zu definieren, das sie jetzt verkaufen oder das sie gerade bauen, um Geld zu sammeln“, sagte Tegmark.
Er sagte, die ursprüngliche AGI-Definition stamme aus den 1950er Jahren und definierte sie als KI, die alle menschlichen Arbeiten erledigen kann, was bedeutet, dass KI menschliche Arbeitskräfte ersetzen und auch die AGI-Maschinen selbst entwickeln und bauen könnte.
„Man redet nicht mehr nur von einer neuen Technologie wie Dampfmaschinen oder dem Internet. Sie sprechen von einer neuen Art. Deshalb ist es eine so große Sache“, sagte Tegmark.
Laut einer Vorhersage des Informatikers Alan Turing aus den 1950er Jahren ist die Übernahme der Kontrolle durch Maschinen das Standardergebnis.
Turing sagte damals, dass dieses Ergebnis noch in weiter Ferne liege, und erstellte einen Testsatz, um zu zeigen, wann die Zeit naht, ursprünglich „Imitationsspiel“ genannt, jetzt aber Turing-Test genannt.
Der Test zielt darauf ab, herauszufinden, ob eine Maschine menschenähnliche Intelligenz aufweist, indem er auf eine Reihe von Fragen eines Menschen antwortet. Der Mensch weiß nicht, ob die Antworten von einer Maschine oder einem Menschen kommen.
Laut einigen Forschern wurde der Test letztes Jahr bestanden.
Allerdings existiert AGI derzeit nicht und es ist trotz des Unternehmensrummels unklar, wann und ob dies jemals der Fall sein wird.
Ein KI-Wettrüsten
Laut Tegmark gibt es neben einem unternehmerischen KI-Wettrüsten auch ein KI-Wettrüsten.
„In den Vereinigten Staaten findet ein Wettrüsten zwischen verschiedenen Unternehmen statt, und der einzige Weg, dem Einhalt zu gebieten, besteht natürlich darin, nationale US-Sicherheitsstandards einzuführen“, sagte er.
Trump hat angedeutet, dass die Führung der USA in der KI ein Schwerpunkt seiner Regierung sein wird.
„Wir müssen an vorderster Front stehen … Wir müssen die Führung gegenüber China übernehmen“, sagte er im Juni im Impaulsive-Podcast.
„Es gibt den geopolitischen (KI-)Wettlauf. Und da ist die ganze Darstellung falsch, weil es eigentlich kein Wettrüsten ist, sondern nur ein Selbstmordwettlauf, um zuerst AGI zu bauen“, sagte Tegmark.
„Es gibt niemanden, der dieses Zeug kontrolliert.“
„Wenn Sie es schaffen, auszusterben, wen interessiert es dann, ob Sie Chinese, Franzose oder Amerikaner sind“, fügte er hinzu.
Es sei entscheidend, für jedes Land die richtigen Vorschriften zu treffen, und nicht, dass die Länder Vereinbarungen untereinander treffen müssten, sagte er.
„Meine Vision für den Erfolg hier ist viel einfacher. Es geht darum, dass die Chinesen beschließen, in China nationale Sicherheitsstandards einzuführen, um zu verhindern, dass ihre chinesischen Unternehmen Schaden anrichten. „Wir Amerikaner haben einfach nationale Sicherheitsstandards in den USA eingeführt, nicht um China zu besänftigen, sondern einfach für unsere eigenen Zwecke“, sagte Tegmark.
Sobald dies theoretisch geschieht, werden die USA und China einen Anreiz haben, ihre globalen Verbündeten zum Beitritt zu drängen.
„Ich bin eigentlich ziemlich optimistisch, dass wir weltweit (Sicherheitsstandards) erreichen werden. Und dann treten wir in eine wirklich wundervolle Phase der Menschheitsgeschichte ein, in der wir dieses Zeitalter unglaublichen Überflusses und Wohlstands haben, in dem wir über all diese erstaunliche Technologie verfügen“, sagte er.
„Unternehmen werden in der Lage sein, Innovationen zu entwickeln, um Krebs zu heilen, Armut und unnötige Verkehrstote zu beseitigen und all die wunderbaren Dinge, über die wir Menschen und Unternehmer reden hören“, sagte er.
