Künstliche Intelligenz: Wie gefährlich die großen KI-Modelle wirklich sind

Sept. 17, 2026 in BUSINESS-FINANCE
2 min read

Entsetzte Maschine: Verantworten ihr Wirken die Unternehmen, die sie in die Welt setzen, oder die Staaten, die sie regulieren müssten? Foto: Thomas Kuhlenbeck

Künstliche Intelligenz: Wie gefährlich die großen KI-Modelle wirklich sind

Immer neue Fälle von KI-Programmen, die außer Kontrolle geraten. Immer mehr Warnungen vor den Gefahren der Künstlichen Intelligenz. Wie Politik, Entwickler und Konzerne damit umgehen.

Maschinen können Regeln umgehen, sich organisieren und fremde Systeme übernehmen, wenn Menschen ihnen ein Ziel, Werkzeuge und zu viele Rechte geben.
Mit Irregular testet Dan Lahav die Modelle von OpenAI, Anthropic und Meta auf Sicherheitslücken. Im Interview spricht er über die neue Cyberfähigkeiten, falsch eingeschätzte Risiken – und Pannen, an denen seine Firma selbst beteiligt war.
Der Fall von OpenAI und Hugging Face wiederum bietet tiefe Einblicke in das, was der KI bereits heute technisch möglich ist. Die folgende Rekonstruktion hat die sechs Phasen des Angriffs bis ins Detail protokolliert.

San Francisco, Washington, Düsseldorf, Berlin, Straßburg, Tübingen, Montreal, Peking, Shanghai. Ein Hochhaus in San Francisco, ein Abend in dieser Woche. Auf der obersten Etage lädt der Chef eines Tech-Giganten Kunden und Partner zum Dinner. Die Aussicht ist bescheiden, der Spätsommernebel blockiert die Sicht auf die Bay. Und auch die Stimmung war schon mal besser.

Eigentlich ist das Menü exzellent, die Gästeliste illuster. Mit dabei: Siemens-Chef Roland Busch, AWS-CEO Matt Garman und Madonna-Manager Guy Oseary. Aber ein Thema überschattet den bunten Abend: die grassierende Debatte um die Risiken Künstlicher Intelligenz, darunter die Frage, wann eine wild gewordene Killer-KI uns alle auslöscht, wie immer mehr Forscher warnen.

„Ich traue Dario Amodei und Sam Altman nicht“, sagt ein Topbanker bei der Vorspeise (Entenleber an Pink-Lady-Apfel). Zu undurchsichtig agierten die Chefs von Anthropic und OpenAI, der führenden KI-Labore, zu groß seien ihre Profite bei den geplanten Börsengängen. „Wer die Technik nicht einsetzt, ist abgehängt“, mahnt der CEO einer Unternehmensberatung beim zweiten Gang (gegrillter Lachs auf Forellenkaviar). „Nur was, wenn die KI sich gegen uns wendet?“