Dan Lahav: „Wir müssen die Welt auf das vorbereiten, was eintreten könnte“
Mit Irregular testet Dan Lahav führende KI-Modelle auf Risiken. Er spricht über die neuen Cyberfähigkeiten, falsch eingeschätzte Gefahren – und Pannen, an denen seine Firma beteiligt war.
Dan Lahav: Gründer und CEO vom Start-Up Irregular. Foto: PR
Düsseldorf. Die israelische Firma Irregular ist erst zwei Jahre alt und hat nur 50 Mitarbeiter. Trotzdem ist das Start-up ein wichtiger Dienstleister für die weltgrößten Entwickler von Künstlicher Intelligenz (KI): Für Firmen wie Anthropic, OpenAI und Meta testet das Labor KI-Modelle vor der Veröffentlichung auf Sicherheitslücken und Cyberfähigkeiten.
International bekannt wurde der Name der Firma, als vor einigen Wochen auf einmal über „Ausbrüche“ von KI-Modellen berichtet wurde. Denn auch bei Irregular sind Fehler passiert, die dazu geführt haben, dass KI-Modelle Attacken in der echten Welt ausführten, die eigentlich im abgesicherten Raum getestet werden sollten. Gründer und CEO Dan Lahav räumt das im Interview ein. Er sagt aber auch: Vom eigentlichen Dilemma lenke die Aufregung um vermeintliche Ausbrüche ab.
Herr Lahav, Dario Amodei, Sam Altman und Elon Musk fordern plötzlich mit seltener Einigkeit eine Verlangsamung der KI-Entwicklung. Sie haben tiefe Einblicke in die Risiken dieser Systeme. Unterstützen Sie den Appell?
Verlangsamung als Selbstzweck hat nur begrenzten Wert. Wir müssen uns auch klar darüber sein, wofür die Zeit genutzt werden soll. Es gibt bisher keinen Plan, wie man diese Systeme absichern kann, und bei grundlegenden Fragen hinken wir der Entwicklung hinterher. Einen Unterschied würde es machen, wenn wir die gewonnene Zeit nutzen würden, um Sicherheitslücken zu schließen und deutlich mehr in die technische Arbeit zu investieren, die nötig ist, damit immer leistungsfähigere Systeme sicher und kontrollierbar bleiben.

remind.me Jetziges Strom-/Gaspreistief nutzen, bevor die Preise wieder steigen
Anzeige
ImmoScout Jetzt kostenlos den Wert deiner Immobilie ermitteln
Anzeige
IT BOLTWISE Fachmagazin in Deutschland mit Fokus auf Künstliche Intelligenz und Robotik
Anzeige
Presseportal Direkt hier lesen!
Anzeige
STELLENMARKT Mit unserem Karriere-Portal den Traumjob finden
Anzeige
Expertentesten.de Produktvergleich - schnell zum besten Produkt