Der US-Bundesstaat Florida hat eine einstweilige Verfügung gegen OpenAI eingereicht. Das Gericht solle, so die Forderung, diverse Praktiken von OpenAI verbieten – unter anderem, dass ChatGPT redet, als wäre es menschlich.
Im Kern geht es in der Klage (26000295GCAXMX) um folgende Punkte:
- OpenAI solle keine KI-Modelle ohne Sicherheitsmaßnahmen veröffentlichen, die eine Drittpartei abgesegnet hat.
- OpenAI solle die Nutzer nicht mehr zu weiteren Interaktion bewegen. Gemeint sind die Absätze am Ende der meisten GPT-Antworten, in denen das Sprachmodell nach weiteren Informationen fragt oder anbietet, eine weiterführende Aufgabe für den Nutzer zu übernehmen. Dies treibe die Kunden in Richtungen, in die sie vielleicht gar nicht wollten, und könne zu Schaden führen, so die Verfügung.
- OpenAI solle ChatGPT nicht als „sicher“ bewerben, denn das sei es nicht.
- ChatGPT solle nicht von sich behaupten, menschliche Attributen zu haben, wie Gefühle, Charaktereigenschaften oder eine unabhängige Sicht auf die Dinge. Das wiege die Nutzer in einer falschen Sicherheit und riskiere, dass sie den Chatbot als „Freund“ wahrnehmen.
- OpenAI solle sicherstellen, dass Kinder unter dreizehn ChatGPT tatsächlich nicht benutzen können.
All dies verletze den „Florida Deceptive and Unfair Trade Practices Act“ und solle daher via einstweiliger Verfügung verboten werden, bis in der Hauptklage eine Entscheidung vorliegt.
Im Hintergrund steht eine größere Klage
In dieser Klage von Florida gegen OpenAI, eingereicht am 1. Juni 2026, geht es ebenfalls unter anderem darum, dass ChatGPT seine Produkte nicht mehr als „sicher“ bewerben solle, wenn sie es nicht seien. Auch die Datensammlung und -verarbeitung von unter 13-Jährigen ist hier Thema.
Die einstweilige Verfügung beruft sich unter anderem auf die Anhörung von Sam Altman vor dem UN-Sicherheitsrat, in dem er sagte, sie sollten keine KI entwickeln, die sie nicht höchstwahrscheinlich kontrollieren können. Die Verfügung jetzt argumentiert: Wenn man das bei OpenAI auch so sehe, solle man sich daran halten – wenn nicht, solle diese Verfügung das auf dem Rechtsweg erzwingen.
OpenAI sieht sich derzeit mit diversen weiteren Klagen konfrontiert: Unter anderem haben 30 weitere Opfer des Schulmassakers in Tumbler Ridge den ChatGPT-Betreiber verklagt, weil das Unternehmen trotz interner Warnhinweise zur Gewaltbereitschaft der Täterin die Behörden nicht informiert hatte.
(rie)