Australischer Premier
Automatisierte KI-Agenten dürften sich weltweit zum ersten Mal unerlaubten Zugriff auf eine Regierungsseite verschafft haben. Australiens Premier Anthony Albanese berichtete am Mittwoch, dass ein KI-Agent von OpenAI unbefugt auf ein Medicare-Portal zugriff, das unter anderem Statistiken über Australiens staatliche Krankenversicherung bereitstellt. Albanese kritisierte den Vorgang am Rande der UNO-Generalversammlung scharf – dort wurde indes vor den Gefahren durch künstliche Intelligenz (KI) gewarnt.
Online seit heute, 7.46 Uhr
Bei Medicare handelt es sich um Australiens staatliche Krankenversicherung. Das betroffene Portal von Services Australia enthält laut Regierungsangaben unter anderem Informationen zu Ausgaben und anderen Statistiken. Der KI-Agent griff auf öffentliche und nicht öffentliche Dateien zu. Persönliche Informationen seien nach bisherigem Kenntnisstand nicht abgerufen worden, Einzelpersonen seien offenbar nicht betroffen, so Albanese.
Der Angriff könnte der weltweit erste auf eine Regierungsseite gewesen sein, wie die „New York Times“ einen Experten des Transluce-KI-Forschungslabors zitierte. Transluce analysiert derartige KI-Agenten-Vorfälle.
OpenAI meldete Angriff per Mail an öffentliches Postfach
Der Vorgang sei „inakzeptabel“, so Albanese. Der Regierungschef sagte am Rande der UNO-Vollversammlung, er habe bereits mit OpenAI-Chef Sam Altman gesprochen und dabei Australiens „äußerste Besorgnis“ über den Vorfall zum Ausdruck gebracht.
Zugleich habe er seine Enttäuschung darüber geäußert, dass es „viel zu lange“ gedauert habe, bis OpenAI die australische Regierung informiert habe: Der Vorfall habe sich bereits im Juni ereignet, sei aber erst im September den Behörden mitgeteilt worden – per E-Mail an ein öffentliches Postfach.
KI-Agent umging Sperren
Der Vorgang begann mit einer eigentlich harmlosen Aufgabe: Der KI-Agent sollte medizinische und gesundheitliche Statistiken recherchieren. Bei mehreren australischen Regierungsseiten bewegte er sich nach Angaben von Vizepremier Richard Marles so, wie es auch ein echter Nutzer tun würde. Beim Medicare-Portal wurden die angeforderten Informationen jedoch nicht herausgegeben – woraufhin der Agent den Zugang auf anderem Weg erlangte. „Der KI-Agent fand einen Weg, die Sperren zu umgehen, er wollte ein Nein gewissermaßen nicht akzeptieren“, sagte Albanese.
Wie viele Daten tatsächlich abgerufen wurden und auf welche Dateien der Agent zugreifen konnte, wird derzeit noch ermittelt. Eine forensische Untersuchung soll klären, was genau passiert ist und ob weitere Regierungssysteme betroffen waren.
OpenAI teilte mit, man habe bei einer internen Evaluierung Aktivitäten auf mehreren australischen Regierungsseiten und in Regierungsdiensten festgestellt. Die Modelle hätten dabei versucht, Antworten und verfügbare Statistiken zu Fragen über Australien zu finden. „Dabei haben unsere Modelle Aktionen ausgeführt, die wir nicht beabsichtigt hatten“, sagte ein Sprecher des Unternehmens.
Weitere Vorfälle beobachtet
Transluce beobachtete laut „New York Times“ noch weitere Vorfälle: So sollen KI-Agenten auch probiert haben, auf die Seite des Australian Institute of Health and Welfare zuzugreifen, dabei wurden aber keine Daten entwendet. Im Mai gab es erfolglose Zugriffsversuche auf die digitale Bibliothek der Uni New Mexico, kurz darauf und ebenfalls erfolglos Zugriffe auf ein US-Statistikportal mit Daten zur Arbeitslosigkeit.
Tech-Chefs warnen vor KI-Gefahr
Im Zuge der UNO-Generalversammlung am Mittwoch warnten führende Vertreter der Technologiebranche den Sicherheitsrat vor den wachsenden Gefahren durch KI. „Wenn sie schlecht verwaltet wird, glaube ich sogar, dass KI ein Risiko für die gesamte Menschheit darstellen könnte“, sagte der Chef des Entwicklers Anthropic, Dario Amodei.
Neben Amodei sprachen OpenAI-Chef Sam Altman und der Mitbegründer von Hugging Face, Clement Delangue. Altman forderte eine internationale Zusammenarbeit. Die wichtigsten Entscheidungen dürften nicht allein von Laboren in San Francisco getroffen werden, sondern müssten durch demokratische Prozesse gestaltet werden. Der kanadische KI-Pionier Yoshua Bengio bezeichnete die Gefahren als real und unmittelbar.
Regierungen weltweit ringen um die Frage einer Aufsicht über die sich rasant entwickelnden KI-Systeme. Die USA und China als dominierende Akteure sind sich uneins darüber, ob die Technologie globale Leitplanken benötigt oder weitgehend den Marktkräften überlassen werden sollte.
Trump gegen globales Kontrollsystem
US-Präsident Donald Trump hatte am Dienstag vor der UNO-Vollversammlung jegliche Versuche abgelehnt, ein globales Kontrollsystem für KI zu errichten. Die USA würden das Wachstum einer Technologie nicht bremsen, die größer als die Industrielle Revolution werde, sagte Trump. „Wir werden sie fördern, nicht zügeln.“ Das US-Justizministerium werde die Entwicklung jedoch genau beobachten.
Trump und der chinesische Präsident Xi Jinping treffen einander am Donnerstag in Washington. Sie wollen dabei über ein Meldesystem für KI-Vorfälle sprechen, die die nationale Sicherheit berühren.
Mehrere Staaten wollen Regulierung
Frankreichs Außenminister Jean-Noel Barrot sagte, er habe die Sitzung des Sicherheitsrat einberufen, weil KI den weltweiten Frieden und die Sicherheit vor ähnliche Herausforderungen stelle wie die Atomtechnologie. Barrot sprach sich deshalb für eine internationale KI-Rahmenvereinbarung aus.
Vor der UNO-Generaldebatte hatten 18 weitere Staats- und Regierungsspitzen verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle gefordert. Solche Systeme würden bei unzureichender Kontrolle „ernste Risiken für Sicherheit und Schutz“ bergen, hieß es in dem am Montag veröffentlichten Aufruf.