Veröffentlicht am
Die Europäische Kommission hat ihren Plan zur Bewältigung der Cybersicherheitsrisiken vorgestellt, die von modernster KI ausgehen, aber Brüssel hat außer Empfehlungen und dem Versuch, mit US-amerikanischen KI-Unternehmen einen frühzeitigen Zugang auszuhandeln, kaum etwas zu bieten.
Künstliche Intelligenz definiert die Cyber-Bedrohungslandschaft neu und ermöglicht es böswilligen Akteuren, kostengünstigere, skalierbarere und ausgefeiltere Operationen durchzuführen.
Kritiker halten es für einen typischen EU-Reflex, Papierkram zu erzeugen, anstatt komplizierte Probleme zu lösen, und hat einen Aktionsplan erstellt – einen Flickenteppich bestehender Regulierungsinstrumente und neuer Initiativen, die zu einer vermeintlich kohärenten Antwort zusammengefügt wurden.
„Diese fortschrittlichen KI-Modelle können jetzt innerhalb von Minuten oder Stunden Cyber-Exploits erstellen, und das zu einem Bruchteil der Kosten, die für die Entdeckung von Schwachstellen durch geschulte Menschen anfallen. Sobald diese Schwachstellen als Waffe eingesetzt werden, gefährden sie die Sicherheit unserer Infrastruktur und Gesellschaft“, sagte EU-Digitalchefin Henna Virkkunen am Dienstag im Europäischen Parlament bei der Vorstellung der Initiative.
Das leistungsstärkste KI-Modell von Anthropic, Mythos, war in der Lage, Schwachstellen in hochsensiblen Computersystemen der US-Regierung innerhalb weniger Stunden zu identifizieren, die für Hackerangriffe ausgenutzt werden konnten, teilten amerikanische Sicherheitsbehörden letzten Monat mit.
Diese beispiellosen Fähigkeiten und die möglicherweise katastrophalen Folgen, wenn sie in die falschen Hände geraten, veranlassten Washington, Exportkontrollen für die fortschrittlichen Modelle von Anthropic einzuführen. Diese Kontrollen wurden inzwischen vom US-Handelsministerium aufgehoben und der weltweite Zugriff auf die Modelle wiederhergestellt.
Europäische Behörden und die EU-Cybersicherheitsbehörde ENISA erhielten durch das Anthropic-Projekt Glasswing nach intensiver Lobbyarbeit aus Brüssel eingeschränkten Zugriff auf Mythos.
Der Plan verspricht einen europäischen Entwurf für einen strukturierten Zugang zu fortschrittlichen KI-Funktionen für die Cybersicherheit und hilft öffentlichen Behörden und privaten Unternehmen, Zugang zu diesen Modellen zu erhalten.
Nach Ansicht der Kommission mangelt es dem Verfahren, einer begrenzten Anzahl von Organisationen Erstzugang zu Tests zu gewähren, häufig an Transparenz – daher der Entwurf, der klären soll, wie europäische Akteure an KI mit fortschrittlichen Cyberfähigkeiten gelangen können.
Gleichzeitig macht die Initiative die Abhängigkeit der EU in diesem Bereich deutlich: Brüssel ist darauf beschränkt, den Zugang mit den USA auszuhandeln, wo die meisten Innovationen stattfinden.
„Unsere Abhängigkeit betrifft nicht in erster Linie KI-Modelle. Es geht um die Infrastruktur, auf die sie angewiesen sind. Europa verfügt über eine starke KI-Forschung, aber zu wenige Unternehmen, die an dieser Grenze tätig sind“, sagte Europaabgeordnete Aura Salla (Finnland/EVP) während der Plenardebatte.
Die Kommission sagt, dass ihr KI-Büro im Rahmen des Flaggschiff-KI-Gesetzes der Union mit spezialisierten Modellevaluatoren zusammenarbeiten wird, um die von den fortschrittlichsten KI-Modellen ausgehenden Risiken zu bewerten und zu mindern, bevor sie auf den EU-Markt gelangen.
Ob die Regeln vor der Markteinführung gelten, bleibt jedoch von Technologieunternehmen umstritten. Bisher haben führende KI-Labore wie OpenAI und Anthropic Modellbewertungen mit dem britischen AI Security Institute bevorzugt, da dieses über keine Regulierungsbefugnisse verfügt.
Der Plan enthält außerdem Leitlinien dazu, wie Unternehmen sich gegen KI-gestützte Cyberbedrohungen verteidigen können, indem sie die Behebung hackbarer Schwachstellen beschleunigen. Außerdem wird bewertet, wie kritische Infrastrukturen auf potenzielle Cyberangriffe vorbereitet sind.
„Es ist nicht mehr alles wie gewohnt. Ihre Software und IT-Systeme werden von Hackern getestet, unterstützt von den neuesten KI-Modellen. Hacker werden mit Lichtgeschwindigkeit agieren und versuchen, Sie aus dem Geschäft zu bringen“, sagte Bart Groothuis (Niederlande/Renew).
