KI außer Kontrolle? Ex-Forscher warnt vor Biowaffen und Gefahr für die Menschheit
Stand: 11.09.2026, 13:27 Uhr
Kommentare
Ein Ex-Anthropic-Forscher warnt vor Biowaffen und Kontrollverlust durch KI. Zeitgleich blockierte das Unternehmen gefährliche Anfragen zu Viren und Krankheitserregern.
San Francisco – Der frühere Anthropic-Mitarbeiter Jacob Coxon hat scharfe Kritik an führenden Technologiekonzernen geübt und ihnen vorgeworfen, mit der Entwicklung immer leistungsstärkerer Modelle ein zu hohes Risiko einzugehen. In einer Erklärung warnte er, dass hochentwickelte Systeme das Potenzial besitzen könnten, die Menschheit zu gefährden, wie der Nachrichtensender CBS News berichtete. Er verwies dabei auf mögliche Szenarien im Bereich der Biowaffen oder einen Kontrollverlust über physikalische Systeme.
Anthropic betonte in diesem Zusammenhang, dass man die Bedenken ernst nehme und seit langem an strengen Sicherheitsvorkehrungen arbeite. Das Unternehmen verwies auf kontinuierliche Anstrengungen, die Transparenz und Kontrolle über das Verhalten fortgeschrittener Modelle zu verbessern.
Verhinderte Missbrauchsversuche und biologische Forschung
Zeitgleich gab das Unternehmen Einblicke in aktuelle Sicherheitsanalysen, bei denen Versuche aufgedeckt wurden, die eigenen Sprachmodelle für potenziell gefährliche biologische Forschung einzusetzen. Wie das Portal cnbctv18.com berichtete, wurden Anfragen zur Unterstützung bei der Untersuchung von Krankheitserregern und Modifikationen an Viren erfolgreich blockiert.
In mehreren Fällen versuchten Nutzer demnach, unter dem Deckmantel wissenschaftlicher oder administrativer Arbeiten an sensible Informationen zu gelangen. Das Unternehmen erklärte, dass neuere Modelle deutlich komplexere Aufgaben bewältigen können, weshalb die internen Schutzmechanismen kontinuierlich verschärft wurden, wie auch die Zeitung Handelsblatt anmerkte. (Redaktion)