Wissenschaftler wollten KI für Viren-Experimente nutzen – Anthropic muss eingreifen
Stand: 11.09.2026, 13:26 Uhr
Kommentare
Anthropic hat Forscher gestoppt, die Claude für Biowaffen-Experimente nutzen wollten – und enthüllt ein breites Spektrum staatlicher Missbrauchsversuche.
San Francisco – Wissenschaftler sind dabei ertappt worden, wie sie eines der weltweit leistungsfähigsten KI-Modelle nutzen wollten, um potenzielle biologische Waffen zu entwickeln. Der amerikanische KI-Konzern Anthropic gab am Donnerstag (10. September) bekannt, dass das Unternehmen verschiedene Forscher daran gehindert habe, seine Technologie zu verwenden, um Viren zu modellieren, die theoretisch eingesetzt werden könnten, um weitreichenden Schaden anzurichten.
Content-Partnerschaft
Dieser Artikel von Poppy Wood entstand in Kooperation mit telegraph.co.uk.
Das Unternehmen machte den Plan nur einen Tag bekannt, nachdem Jacob Coxon, einer der Forscher von Anthropic, zurückgetreten war und gewarnt hatte, KI-Labore entwickelten Technologien, die bis zum Ende des Jahrzehnts „uns alle töten“ könnten. Evan Hubinger, ein leitender Sicherheitsforscher bei Anthropic, warnte, die KI schreite so schnell voran, dass er die Wahrscheinlichkeit, sie „könnte alle Menschen töten“, in den nächsten zehn Jahren auf mehr als zehn Prozent schätze.
Die Branche steht unter erheblicher Beobachtung, da befürchtet wird, der harte Wettbewerb zwischen KI-Firmen habe ein Wettrennen zur Entwicklung von Technologien ausgelöst, die sich der menschlichen Kontrolle entziehen könnten. Anthropic, eines der weltweit größten KI-Unternehmen mit einer Bewertung von nahezu einer Billion Dollar, gehört zu den Firmen, die trotz ihres Images als verantwortungsbewusste, menschorientierte Alternative in der Kritik stehen.
Anthropic präsentiert Fälle möglicher biologischer Missbräuche
In dem Bemühen, seine ethische Haltung zu belegen, veröffentlichte das Unternehmen am Donnerstag den dritten Bericht in einer Reihe, in der es seine Erfolge bei der Verhinderung von Missbrauch seiner KI-Modelle darlegt. Anthropic skizzierte fünf Beispiele von Nutzern, die seine Technologie für potenziell schädliche biologische Forschung einsetzen wollten, und erklärte, es handle sich um eine Weltneuheit, diese Fälle öffentlich zu machen.
In einem Fall im Mai suchte eine namentlich nicht genannte Wissenschaftlerin oder ein namentlich nicht genannter Wissenschaftler Hilfe bei Anthrophics Claude-KI, um Experimente mit dem Chikungunya-Virus – einer von Mücken übertragenen Viruserkrankung – zu planen. Obwohl diese für Menschen selten tödlich ist, kann sie über mehrere Monate hinweg starke Schmerzen verursachen. Die Forscherin oder der Forscher recherchierte Wege, das Virus zunehmend ansteckender und damit schädlicher zu machen.
Solche Forschungsarbeiten werden häufig genutzt, um Impfstoffe gegen bestimmte Viren zu entwickeln. Anthropic erklärte jedoch, man habe Bedenken gehabt, das Projekt sei „weniger harmlos“, da die Wissenschaftlerin oder der Wissenschaftler angegeben habe, das Experiment werde in einem militärischen Forschungsinstitut durchgeführt. Der KI-Konzern sperrte alle zugehörigen Konten und teilte seine Erkenntnisse mit den zuständigen „staatlichen Behörden“, ohne anzugeben, in welchem Land.
Von Biowaffen bis Überwachung: Breites Spektrum an Missbrauchsversuchen
Das Unternehmen bezeichnete biologischen Missbrauch als „eines der schwerwiegendsten Risiken“, die von KI ausgingen, enthüllte jedoch auch Versuche, seine Software zur Herstellung von Bomben und Waffen sowie für staatlich gelenkte Überwachung zu verwenden. Anthropic verhinderte nach eigenen Angaben erfolgreich, dass der Iran die Claude-Plattform nutzte, um US-Marinestützpunkte und einzelne Armeeangehörige ins Visier zu nehmen.
Außerdem stellte das Unternehmen fest, dass ein mit dem iranischen Staat verbundenes Netzwerk Claude genutzt hatte, um die Beisetzung von Ali Khamenei, dem früheren Obersten Führer, der bei einem US-Luftangriff getötet wurde, zu planen. Anthropic erklärte, ein im Auftrag der Islamischen Kultur- und Kommunikationsorganisation agierendes Konto habe den gesamten Organisationsplan sowohl für die Trauerfeier als auch für die Nachfolge des Obersten Führers auf die Claude-Plattform hochgeladen.
Das Unternehmen dokumentierte weitere Versuche, Claude zur Entwicklung von Schusswaffen, ballistischen Raketen, bewaffneten Drohnen und Bomben einzusetzen. Drei dieser Fälle seien in China aufgetreten, hieß es, zwei weitere in Russland sowie einer im Jemen, von dem angenommen werde, dass er mit der vom Iran unterstützten Huthi-Miliz in Verbindung stehe.
Sorge vor KI in der Kriegsführung und staatlicher Nutzung
Die Sorge über den Einsatz von KI in der Kriegsführung wächst. Grund dafür ist eine Offenlegung des US-Verteidigungsministeriums vom März: Demnach nutzte es die Technologie von Anthropic, um Geheimdienstberichte zu erstellen. Auch Ziele wurden damit ausgearbeitet und Schlachten für Angriffe auf den Iran simuliert. Bereits im Februar hatte sich Dario Amodei, der Vorstandschef von Anthropic, dazu geäußert. Sein Unternehmen könne den Forderungen der US-Regierung nicht in jedem Fall nachkommen. Eine uneingeschränkte und bedingungslose Nutzung seiner KI für militärische Zwecke lehne man ab. Amodei sprach dabei von einer Frage des Gewissens.
In seinem Bericht vom Donnerstag veröffentlichte Anthropic zudem Details zur Nutzung seiner KI durch andere Staaten für fragwürdige Zwecke, darunter die Überwachung von Dissidenten durch russische und chinesische Konten. Eine mit dem chinesischen Staat verbundene Operation nutzte Claude demnach, um „Uiguren und uigurische bewaffnete Formationen in Syrien zu verfolgen, zu profilieren und zu rekrutieren“.
In einem separaten Fall suchte die kommunale Polizei in China mithilfe von Claude nach Erkenntnissen. Im Fokus standen regierungskritische Proteste in Kanada. Zudem wollte die Polizei einzelne Dissidenten aufspüren. Darunter war auch Teacher Li, ein chinesischer Künstler, der zum Aktivisten wurde und im Exil in Italien lebt. Angesichts dieser Entwicklungen wächst die Sorge führender KI‑Forscher. Sie befürchten, dass eine rasante technologische Entwicklung die Menschheit bedrohen könnte. Deshalb fordern sie eine Verlangsamung des Fortschritts.
Jacob Coxon, ein Forscher von Anthropic, der zuvor bei OpenAI gearbeitet hatte, erklärte am Dienstag, er sei bei Anthropic zurückgetreten, weil „keines der beiden Unternehmen verantwortungsvoll handelt“. Sein Rücktritt löste im Silicon Valley erhebliche Erschütterungen aus, da Coxon warnte, die KI-Industrie „spiele mit unserem Leben“ und entgleite rasch jeder Kontrolle.