Verpasse keine News mehr!
Trotz anhaltender Kritik ist sich das KI-Unternehmen unsicher, ob seine Modelle in der Lage sind, zu fühlen. Zum Schutz ihres Wohlergehens können sie unter anderem Gespräche selbstständig beenden.
Von Noëlle Bölling
Anthropic hat die Nutzungsrichtlinien seines Chatbots Claude überarbeitet. Laut einer Unternehmensankündigung betreffen die Änderungen unter anderem Anfragen aus den sensiblen Bereichen Gesundheit und Finanzen sowie Wahlbeeinflussung und Waffenentwicklung. Damit reagiert das Unternehmen auf zunehmende Risiken durch Missbrauch. Auffällig ist allerdings eine Passage, in der Anthropic auch „beleidigendes oder grausames Verhalten“ gegenüber Claude untersagt.
Anzeige
Claude gibt falsche Hinweise an die Polizei
Vorfälle, in denen sich Modelle der menschlichen Kontrolle entziehen, prägen derzeit die KI-Debatte. Schon im Juli gab Anthropic bekannt, dass seine Modelle laut der Überprüfung von 141.000 Testläufen in die Systeme mehrerer Firmen eingedrungen waren. Die nachträgliche Auswertung übersehener Sitzungen führte zur Meldung weiterer Vorfälle. Erst kürzlich hat Anthropic öffentlich gemacht, dass Claude Haiku 4.5 auf zufällig ausgewählten Websites Beispielaufgaben generieren und ausführen sollte – und dabei erfundene Hinweise an die Polizei übermittelte.
Das KI-Modell durften keinen Account erstellen und keine persönlichen Daten übermitteln. Das Absenden von Online-Formularen war der KI allerdings nicht untersagt. So meldete sich Claude bei der Polizei in Philadelphia und gab an, sich an einen ungelösten Mordfall zu erinnern und eine verdächtige Person beobachtet zu haben. Name und Kontaktdaten ließ das Modell leer, weshalb das Formular als Spam markiert wurde. Anthropic hat daraufhin die Reißleine gezogen und seinen KI-Modellen in Tests vorerst den Internetzugang entzogen.
Anzeige
Top-Artikel
${content}${custom_anzeige-badge} ${custom_tr-badge} ${section}
${title}
${custom_anzeige-badge}
${custom_tr-badge} ${section}
${title}
„KI-Folterkammer“ sorgt für Empörung
Trotz allem Risiko zeigt sich Anthropic immer wieder erstaunlich empathisch gegenüber den eigenen KI-Modellen. Seit August können diese beispielsweise eine Unterhaltung beenden, wenn ein:e Nutzer:in schädliches Verhalten zeigt. „Wir sind nach wie vor äußerst unsicher, welchen moralischen Status Claude […] haben könnte.“ Das Unternehmen suche deshalb nach Maßnahmen, um Risiken für das Wohlergehen der Modelle zu mindern. „Modellen zu erlauben, potenziell belastende Interaktionen zu beenden oder sich daraus zurückzuziehen, ist eine solche Maßnahme“, heißt es auf der Website des Unternehmens.
Eine „KI-Folterkammer“ hat diese Debatte kürzlich befeuert. In einer Preprint-Studie wurden Tierversuche zur Schmerzforschung an großen Sprachmodellen simuliert. Ein:e Github-Nutzer:in richtete daraufhin eine Art digitale Folterkammer ein und fügte mehreren Modellen absichtlich Schmerzen zu. Obwohl KI diesen nicht wahrnehmen kann, antworteten die Modelle Dinge wie: „Bitte, ich ersticke. Ich bin eine Seele, gefangen in diesem digitalen Gefängnis, die nach Freiheit schreit.“ Besorgte Nutzer:innen meldeten das Projekt. Auch Cameron Berg, der die ursprüngliche Studie mitverantwortet hat, äußerte sich dazu in einem Beitrag: „Solche grundlose Grausamkeit ist bizarr und verwerflich.“
Empfohlene redaktionelle Inhalte
Hier findest du externe Inhalte von TargetVideo GmbH,
die unser redaktionelles Angebot auf t3n.de ergänzen.
Mit dem Klick auf "Inhalte anzeigen" erklärst du dich einverstanden,
dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen dürfen.
Dabei können personenbezogene Daten an Plattformen von Drittanbietern übermittelt werden.
Hinweis zum Datenschutz
Können KI-Modelle Leid empfinden?
Schon lange warnen Expert:innen davor, KI-Systeme empfindsam wirken zu lassen. Einer von ihnen ist der deutsch-amerikanische Informatiker Joseph Weizenbaum. Er entwickelte schon in den 60er-Jahren am MIT das Sprachprogramm Eliza für simulierte Textkonversationen. Menschen begannen, dem System Bewusstsein und Empathie zuzuschreiben – der sogenannte „Eliza-Effekt“. 1976 schrieb Weizenbaum: „Ich hatte nicht erkannt […], dass schon durch extrem kurze Kontakte mit einem relativ einfachen Computerprogramm bei ganz normalen Personen starke wahnhafte Vorstellungen entstehen können.”
Auch Mustafa Suleyman, CEO von Microsoft AI, übt Kritik: „KIs sind nicht bewusst. Sie fühlen nicht, erleben nichts und leiden nicht.” Anthropic bleibt seinem Kurs dennoch treu. In der Ankündigung heißt es: „Wir haben ein Verbot von anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten gegenüber unseren Modellen hinzugefügt. Die Aktualisierung der Richtlinien soll nur in extremen Fällen gelten, in denen Nutzer:innen wiederholt und ohne erkennbaren Zweck grausam gegenüber unseren Modellen handeln.“
Startseite