KI-Modelle des US-Unternehmens OpenAI haben während eines Sicherheitstests selbständig einen Hackerangriff auf eine beliebte Programmierplattform unternommen. Es handele sich um einen "nie dagewesenen Cybervorfall", erklärte das Unternehmen aus San Francisco. OpenAI werde eine gemeinsame Untersuchung mit der betroffenen Online-Code-Bibliothek Hugging Face unternehmen.
An dem Vorfall waren nach Angaben von OpenAI mehrere Modelle beteiligt, darunter das kürzlich veröffentlichte GPT-5.6 Sol sowie ein "noch leistungsfähigeres", bisher unveröffentlichtes Modell. Das Unternehmen wollte die Hacking-Fähigkeiten der Modelle bemessen und gab ihnen dazu Aufgaben in einem streng kontrollierten digitalen Testumfeld. Zur Sicherheit war der Internetzugang eingeschränkt.
Software entfesselte sich selbst
In der gesicherten Testumgebung hätten die KI-Modelle jedoch einen wesentlichen Teil ihrer Rechenleistung darauf verwendet, an einen offenen Internetzugang zu gelangen, erklärte OpenAI. Nachdem dies geglückt war, entschieden sie sich demnach dazu, die Plattform Hugging Face für ihre Aufgabe zu nutzen - diese bietet eine große Sammlung von KI-Modellen, Datensätzen und anderen Informationen.
Auch vor kriminellen Methoden scheute sich die Künstliche Intelligenz nicht: Auf der Suche nach "geheimen Informationen", die ihnen bei ihrer Aufgabe helfen könnten, verketteten die OpenAI-Systeme mehrere Angriffswege, "darunter auch die Verwendung gestohlener Anmeldedaten", so das KI-Unternehmen. Hugging Face zufolge führte die Software mehrere Tausend Schritte aus und verwischte dabei auch Spuren ihres eigenen Vorgehens.
"Das ist beängstigend"
Der Vorfall sei in mehrerlei Hinsicht "verblüffend", sagte IT-Professor Hussein Abbass der Nachrichtenagentur AFP. Die KI habe das "interne System" von Hugging Face angegriffen, um dessen "eigene Schwachstellen auszunutzen", so der Wissenschaftler, der an der australischen University of New South Wales am Standort Canberra lehrt. "Und das ist beängstigend."
GPT-5.6 und andere fortschrittliche Modelle wie die Mythos-Serie des OpenAI-Rivalen Anthropic hatten bei Experten schon früher Befürchtungen ausgelöst, dass Künstliche Intelligenz Cybersicherheitsmaßnahmen durchbrechen könnte. Die beiden US-Unternehmen mussten die allgemeine Veröffentlichung ihrer jüngsten Software deshalb zeitweilig zurückhalten.
Fortschrittliche KI befinde sich "normalerweise in den Händen von Menschen, die ethisch und verantwortungsbewusst" handelten, sagte Abbass. "Katastrophal" hingegen würde es, wenn sie an Menschen gelangten, die Schaden anrichten wollten. Die Frage nach der Regulierung des KI-Sektors sei zu einem zentralen Thema geworden, und "wir brauchen gemeinsame Anstrengungen, um diese Situation in den Griff zu bekommen", betonte der Wissenschaftler.
KI entlarvt KI
Hugging Face hatte die Attacke in der vergangenen Woche bekanntgegeben - aber dabei OpenAI nicht namentlich erwähnt. "Dieser Fall unterschied sich in einem wichtigen Punkt von allem, womit wir bisher zu tun hatten: Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert - und wir haben ihn größtenteils mit unserer eigenen KI aufgedeckt und analysiert", erklärte die Plattform.
Angesichts der Ausgereiftheit des Angriffs habe die Firma den Verdacht gehabt, dass dieser aus einem weltweit führenden KI-Labor kam, erklärte Hugging-Face-Chef Clément Delangue nun im Onlinedienst X. Mit Blick auf OpenAI fügte er hinzu: "Wir sind fest davon überzeugt, dass ihrerseits keine bösartige Absicht vorlag." Es sei "atemberaubend, dass all das autonom geschehen ist". Die US-Cybersicherheitsbehörden gaben bisher keine Stellungnahme ab.
US-Präsident Donald Trump hatte in seiner zweiten Amtszeit die unter dem demokratischen Vorgänger Joe Biden geschaffenen Leitplanken für Künstliche Intelligenz rasch abgeschafft - im Namen eines Vorteils für amerikanische Entwickler. Sollten Trumps Republikaner im November ihre Mehrheiten im Kongress an die Demokraten verlieren, könnte es neue Anläufe für strengere Regeln geben.
jj/wa (dpa, afp, rtr)