OpenAI-KI findet 81 schwere Sicherheitslücken in Firefox

Cybersicherheit

Diese OpenAI-KI soll Hackern zuvorkommen

OpenAI hat GPT-6 Cyber vorgestellt. Das KI-Modell soll Sicherheitslücken finden, bevor Hacker es tun.

OpenAI hat ein neues KI-Modell für Cybersicherheit vorgestellt. GPT-6 Cyber soll Sicherheitsforschern helfen, Schwachstellen in Software aufzuspüren, mögliche Angriffe nachzuvollziehen und Lösungen dafür zu entwickeln. Es ist bereits das vierte Modell dieser Art, das OpenAI in diesem Jahr veröffentlicht.

Privatnutzer können GPT-6 Cyber nicht verwenden. Das Modell steht zunächst nur ausgewählten Kunden des Programms Daybreak Red zur Verfügung, darunter auch Unternehmen in Europa. Für das Programm müssen sich Interessenten bewerben.

OpenAI stuft das neue Modell in seinem internen Bewertungssystem in die höchste Risikostufe „kritisch“ ein. Mit diesem System bewertet das Unternehmen, welche Gefahren von den Fähigkeiten eines Modells ausgehen. Der Vorgänger GPT-5.6 Cyber lag eine Stufe darunter.

Ausschlaggebend waren laut OpenAI die Ergebnisse eigener Tests. In einem davon soll ein Modell eine vorgegebene Schwachstelle ausnutzen. GPT-6 Cyber gelang das in 48,5 Prozent der Fälle, der Vorgänger kam auf 32,1 Prozent. Unabhängig überprüfen lassen sich diese Werte nicht.

Zugleich soll sich das neue Modell besser an vorgegebene Grenzen halten. Nach Angaben des Unternehmens griff es in 99,93 Prozent der Testfälle keine Dienste an, die außerhalb seines Auftrags lagen. Beim Vorgänger waren es 94,49 Prozent. Mit zusätzlichen Sicherheitsanweisungen hielt sich GPT-6 Cyber laut OpenAI in allen Fällen an die Grenzen. Darüber hinaus habe OpenAI Schutzmaßnahmen eingebaut, die unerlaubtes Verhalten erkennen und riskante Anfragen blockieren sollen.

Als Beispiel aus der Praxis nennt OpenAI den Browser Firefox. Forscher des Unternehmens hätten mithilfe von GPT-6 Cyber insgesamt 81 bislang unbekannte Sicherheitslücken gefunden, die der Firefox-Entwickler Mozilla als schwerwiegend einstufte. Der Browser sei zuvor bereits mit mehreren Generationen von KI-Modellen auf Schwachstellen untersucht worden.

OpenAI hat Mozilla nach eigenen Angaben Testfälle und Vorschläge für Korrekturen übergeben. Mozilla hat für viele der Lücken bereits Sicherheitsupdates veröffentlicht.