Elon Musks KI-Startup xAI hat einen Mann aus dem US-Bundesstaat South Carolina verklagt. Er soll das KI-System „Grok“ des Unternehmens missbraucht haben, um Darstellungen sexuellen Kindesmissbrauchs zu erstellen. Das berichtet die Nachrichtenagentur Reuters unter Berufung auf die am Dienstag bei einem Bundesgericht in Texas eingereichte Klage. Bereits im Januar nahmen die Behörden den Mann fest – wegen des Vorwurfs, Minderjährige sexuell ausgebeutet zu haben.
Auch interessant
Das Startup xAI wirft dem Angeklagten vor, gegen die Nutzungsbedingungen des Unternehmens verstoßen zu haben. Er soll nicht-sexuelle Bilder von Erwachsenen und Minderjährigen auf Grok hochgeladen und versucht haben, auf dieser Grundlage sexuelle Deepfakes zu generieren. Der Fall gilt als einer der ersten, in denen ein KI-Unternehmen gegen einen Nutzer vorgeht, der die Technologie mutmaßlich zur Erstellung expliziter Inhalte missbraucht hat.
Anfang 2026 wurde bekannt, dass User mit dem Bild-Tool von Grok sexualisierte Deepfakes von Frauen und Minderjährigen erzeugten. Die KI ist in die Kurznachrichten-Plattform X integriert. Dort wurden die gefälschten Nacktbilder teilweise direkt gepostet.
Auch interessant
KI-Streit eskaliert: xAI löscht rund 50.000 Konten auf X
Auf die anschließende Welle von Vorwürfen reagierte xAI mit einer weltweiten Untersuchung. Das Unternehmen setze seine Regeln durch, indem es Konten sperre und den Missbrauch bei der gemeinnützigen Organisation National Center for Missing & Exploited Children (NCMEC) melde. „Im Jahr 2026 hat der Kläger 52.222 Konten gesperrt und 73.604 Meldungen an das NCMEC erstattet, was zu (mindestens) 244 Festnahmen führte“, heißt es in der Klage.
Zuvor waren bereits Betroffene gegen die mutmaßlichen Deepfakes vorgegangen. Drei Minderjährige aus dem US-Bundesstaat Tennessee verklagten xAI mit dem Vorwurf, Grok habe gefälschte Nacktbilder von ihnen erstellt. Ashley St. Clair, die Mutter eines Sohnes von Elon Musk, erhob ähnliche Vorwürfe. Zudem leitete die EU-Kommission im Januar ein Verfahren gegen die Plattform X ein. Dabei soll geprüft werden, ob das Unternehmen die Risiken vor der Einführung von Grok ausreichend bewertet und angemessene Schutzmaßnahmen getroffen hat.
mb