Die in diesem Artikel geäußerten Meinungen sind die des Autors und geben in keiner Weise die redaktionelle Position von Euronews wieder.
Wie die EU beim KI-Gesetz erfahren hat, braucht es Zeit, einen Kompromiss zwischen Innovation und Risiken zu finden. Aber die spezifischen Risiken des KI-gestützten Bioterrorismus können jetzt angegangen werden, schreiben Kevin Esvelt und Ben Mueller.
Die KI-Regulierung ist zu einem Bereich des zwischenstaatlichen Wettbewerbs geworden. Während die EU gerade eine Einigung über das KI-Gesetz erzielt hat, haben die USA zuvor eine weitreichende Durchführungsverordnung zu KI erlassen, und das Vereinigte Königreich hat führende Vertreter aus Politik und Industrie zum KI-Sicherheitsgipfel zusammengerufen.
In vielen dieser Diskussionen erhält ein Risiko mehr Aufmerksamkeit: KI-gestützter Bioterrorismus oder die Fähigkeit von Einzelpersonen, eine Katastrophe herbeizuführen, indem sie KI-Tools nutzen, um sich Zugang zu einem Pandemievirus zu verschaffen.
Wir haben kürzlich gezeigt, dass dies ein erwägenswertes Risiko ist. In einem informellen Experiment haben wir Einzelpersonen damit beauftragt, ein Open-Source-Modell in großer Sprache zu verwenden, bei dem alle Sicherheitsmaßnahmen entfernt wurden, um ihnen dabei zu helfen, einen Krankheitserreger zu finden, der eine Pandemie auslösen kann.
Innerhalb von drei Stunden identifizierten die Teilnehmer viele der Schritte, die erforderlich sind, um einen möglicherweise katastrophalen Ausbruch auszulösen.
Besonders besorgniserregend war, dass das Modell den Teilnehmern Hinweise gab, wie sie an die virale DNA – den Bauplan für die Entstehung des Krankheitserregers – gelangen und dabei bestehende Screening-Methoden umgehen konnten. Inwieweit aktuelle Modelle den Bioterrorismus unterstützen, indem sie Informationen zusammenfassen, die bereits online vorhanden sind, bleibt unklar.
Abgesehen von den aktuellen Möglichkeiten deuten die Ergebnisse jedoch darauf hin, dass mangels robuster Schutzmaßnahmen fortschrittlichere zukünftige Modelle böswilligen Personen möglicherweise optimierte und zugängliche Informationen darüber liefern könnten, wie sie auf einen Pandemievirus zugreifen, ihn erzeugen und ihn freisetzen können.
Eine Technologie, die böswilligen Akteuren offen steht
Die DNA-Konstrukte, die zum Aufbau eines Virus von Grund auf erforderlich sind, können online bestellt werden: Viele Anbieter von Gensynthesen stellen tausend Basenpaar-DNA-Stücke für weniger als 200 Euro her – etwas, wofür Forscher noch vor wenigen Jahrzehnten Tausende von Stunden brauchten und einen Nobelpreis verdienten .
Das Aufkommen der maßgeschneiderten Gensynthese ist heute eine Säule der Biowissenschaften und ermöglicht es Forschern neben vielen anderen Vorteilen, schnell an der Entwicklung mRNA-basierter Impfstoffe und Therapeutika zu arbeiten. Doch ebenso wie Fortschritte in der Gensynthese neue Entdeckungen und Behandlungen ermöglichen, kann die Technologie auch von böswilligen Akteuren missbraucht werden, um an pandemische Krankheitserreger zu gelangen.
Viele Unternehmen haben den wichtigen Schritt unternommen, Aufträge zu prüfen, um DNA von gefährlichen Krankheitserregern nachzuweisen.
Aber nicht alle tun es. Sprachbasierte KI-Modelle können Einzelpersonen bereits dabei helfen, solche Lücken zu erkennen und auszunutzen, um an die DNA pandemiefähiger Krankheitserreger zu gelangen.
Der CEO von Anthropic, einem führenden KI-Unternehmen, drückte diese Besorgnis aus und warnte kürzlich den US-Gesetzgeber, dass KI-Systeme der nächsten Generation innerhalb von zwei Jahren einen groß angelegten Bioterrorismus ermöglichen könnten, wenn keine entsprechenden Schutzmaßnahmen ergriffen würden.
Yoshua Bengio, einer der „Godfathers of AI“, äußerte ähnliche Bedenken. Während EU-Politiker über angemessene Reaktionen auf den rasanten Fortschritt der KI nachdenken, verdient eine einfache Leitplanke eine genauere Prüfung: eine gesetzliche Verpflichtung, alle Gensyntheseaufträge auf gefährliche Sequenzen zu überprüfen.
Weniger als einhundert hochspezialisierte Unternehmen bieten DNA-Synthesedienste an, was einen idealen politischen Hebel darstellt: Wenn die EU von Unternehmen verlangt, alle Bestellungen anhand einer aktuellen Datenbank bekannter Pandemieerreger zu überprüfen und „Know-Your-Customer“-Anforderungen umzusetzen, ist das schlecht Akteure haben keinen Zugriff mehr auf die Bausteine, die für die Auslösung der nächsten Pandemie erforderlich sind.
Argumente für ein obligatorisches Gensynthese-Screening
Die USA haben bereits Schritte unternommen, um die Gensynthese sicherzustellen. Die jüngste Regierungsverordnung zu KI verpflichtet staatlich finanzierte Einrichtungen, die neuen Richtlinien der Regierung zum Screening biologischer Synthesen zu befolgen.
Die EU selbst hat bislang keine Regelungen zu diesem Thema erlassen. Angesichts der wachsenden Gefahr von Bioterrorismus auf pandemischer Ebene wäre ein Mandat für ein Gensynthese-Screening ein erster, sinnvoller Schritt.
Anbieter, die über 80 % der Branche repräsentieren, befürworten Mandate. Andere haben berechtigte Bedenken hinsichtlich der potenziellen Kosten des Gensynthese-Screenings und machen sich Sorgen über mögliche Bedenken hinsichtlich des geistigen Eigentums, aber die bevorstehende Veröffentlichung kostenloser, die Privatsphäre wahrender Screening-Tools dürfte dieses Problem entschärfen.
Ein vorgeschriebenes Screening-System sollte mehrere Kriterien erfüllen. Bestellungen sollten zum Schutz der Privatsphäre verschlüsselt werden und einer Überprüfung unterzogen werden, die ausschließlich Gefahren mit vernachlässigbar wenigen Fehlalarmen erkennt, während autorisierten Laboren eine Möglichkeit geboten werden muss, zulässige DNA-Sequenzen nahtlos und ohne Verzögerungen zu erhalten.
Darüber hinaus sollten alle Screening-Systeme Bestellungen nachweislich anhand einer Datenbank mit gefährlichen Sequenzen überprüfen, die sofort aktualisiert wird, um neu identifizierte potenzielle pandemische Krankheitserreger zu erkennen, mit starken Anreizen, erstklassige Screenings zu verwenden, die durch „Red-Teaming“-Bemühungen ermittelt werden, die testen, wie Ohne Erkennung können leicht gefährliche Sequenzen erhalten werden.
Schließlich sollten neue DNA-Synthese- und -Assemblierungsgeräte, wie z. B. Tischsynthesegeräte, über ein integriertes Screening verfügen, das die oben genannten Kriterien erfüllt. Die Implementierung strenger Screening-Protokolle auf der Grundlage dieser Kriterien ist von entscheidender Bedeutung, um die weitreichenden Vorteile der Biotechnologie voll auszuschöpfen und sie gleichzeitig vor Missbrauch zu schützen.
Das Versprechen der Biologie wahren
Fortschritte sowohl in der Biotechnologie als auch in der künstlichen Intelligenz werden revolutionäre Fortschritte in den Biowissenschaften und der Medizin vorantreiben.
Die maßgeschneiderte Gensynthese ist ein wesentlicher Faktor für diese bemerkenswerten Vorteile. Aber der Schaden, der durch SARS-CoV-2, ein einziges, historisch mildes Pandemievirus, verursacht wird, zeigt, dass sein Missbrauch – der durch Fortschritte in der generativen KI wahrscheinlicher wird – Schaden in einem Ausmaß anrichten könnte, der alle diese Vorteile übersteigt.
Wie die Europäische Union mit dem KI-Gesetz erfahren hat, braucht es Zeit, einen Kompromiss zwischen der Förderung von Innovationen und der Reduzierung von Risiken zu finden.
Aber die spezifischen Risiken des KI-gestützten Bioterrorismus, die sowohl von Branchenführern als auch von Biosicherheitsexperten anerkannt werden, können jetzt angegangen werden.
Indem die Europäische Union ein Gensynthese-Screening vorschreibt, kann sie diese Risiken erheblich verringern und so das Versprechen einer immer weiter voranschreitenden Biotechnologie wahren.
Kevin Esvelt ist außerordentlicher Professor am Media Lab des Massachusetts Institute of Technology, wo er die Sculpting Evolution-Gruppe leitet. Er war Mitbegründer der SecureDNA Foundation, einer in der Schweiz ansässigen gemeinnützigen Organisation. Ben Mueller ist Forschungswissenschaftler am MIT und COO bei SecureBio, einer Organisation, die an Richtlinien und Technologien zum Schutz vor künftigen Pandemien arbeitet.
Bei Euronews glauben wir, dass jede Meinung zählt. Kontaktieren Sie uns unter view@euronews.com, um Pitches oder Einsendungen zu senden und an der Diskussion teilzunehmen.
