Es ist eine Beschäftigung, so alt wie das Internet selbst: online über vermeintliche Verschwörungen diskutieren. Und doch war etwas anders, als sich im Frühjahr 2024 eine Frau in den USA an den Computer setzte, um genau das zu tun. Denn sie wusste, dass sie nicht mit einem anderen Menschen sprach, sondern mit einem Chatbot, der darauf programmiert war, Menschen ihre Verschwörungstheorien auszureden.
Über die Frau sind nur wenige Dinge bekannt. Sie gab an, 63 Jahre alt zu sein, weiß und Wählerin der Demokraten. Und sie glaubte, dass die Mondlandung nie stattgefunden habe. Das Raumschiff sehe billig aus, „wie Alufolie“, schrieb sie. Dann seien da die Schatten, die Flagge, die seltsamen Bewegungen der Astronauten. „Ich finde einfach, es sieht unecht und inszeniert aus.“
Der Chatbot machte sich an die Arbeit. Er schmeichelte der Frau. Sie habe sich offenbar viele Gedanken gemacht, und es sei wichtig, Dinge zu hinterfragen. Dann ging er auf ihre Bedenken ein, erklärte beispielsweise, dass das „dünne“ Material eine Wärmedämmung war, um die Astronauten vor extremen Temperaturen zu schützen. Man solle auch bedenken, schrieb er, dass die Sowjetunion die Mittel und allen Grund gehabt hätte, eine gefälschte Mondlandung zu entlarven.
Im Laufe des kurzen Gesprächs begann die Frau, ihre Meinung zu ändern. „Du bringst einige überzeugende Argumente vor“, schrieb sie. Zu Beginn des Gesprächs hatte sie ihren Glauben an die Verschwörungstheorie auf einer Skala von 0 (definitiv unwahr) bis 100 (definitiv wahr) mit 66 bewertet. Am Ende des Gesprächs war der Wert auf 16 gesunken. „Ich finde, dass KI ziemlich cool ist“, schrieb sie in ihrer letzten Antwort. „Ein bisschen beängstigend, aber cool.“
Die Frau war einer von mehr als 2000 Menschen, die im Rahmen einer Studie mit dem auf ChatGPT basierenden Bot über eine Verschwörungserzählung ihrer Wahl diskutierten, sei es, dass die US-Regierung hinter den Anschlägen vom 11. September stecke oder das britische Königshaus hinter dem Tod von Prinzessin Diana. Im Verlauf von drei Runden nahm der Glaube der Teilnehmer an ihre Verschwörungstheorie im Schnitt um rund 20 Punkte ab. Für die drei Psychologen hinter der Studie, Tom Costello, Gordon Pennycook und David Rand, war dies ein ermutigendes Ergebnis. „Wir haben gezeigt, dass ein relativ kurzes Gespräch mit einem generativen KI-Modell zu einem starken und anhaltenden Rückgang von Verschwörungsglauben führen kann, selbst bei Menschen, deren Überzeugungen tief verwurzelt sind“, so ihr Fazit.
Die Studie, erschienen im September 2024 in „Science“, ist nur ein Puzzlestück von vielen, sagt Sander van der Linden, Psychologe an der Universität Cambridge. Wissenschaftler interessierten sich enorm für die Überzeugungskraft von KI, „aus ethischen ebenso wie aus unethischen Gründen“, sagt er. „Es ist ein ganz neues Forschungsgebiet, das da gerade entsteht.“ Und es wirft wichtige Fragen auf: Wie genau überzeugen Chatbots die Menschen? Wie viel besser könnten sie noch werden? Und wer wird sie kontrollieren?
Wie riskant ist die Überzeugungskraft?
Wie man andere am besten überzeugen kann, beschäftigt Menschen seit Jahrtausenden, stets begleitet von der Angst, neue Technologien könnten zu viel Überzeugungskraft in die Hände Einzelner legen. Das galt für das geschriebene Wort. Das erlaube es dem Autor, seine Gedanken zu verbreiten, ohne sich kritischen Rückfragen stellen zu müssen, warnte der griechische Philosoph Platon in seinem Werk „Phaidros“. Radio, Fernsehen und Computer schürten ähnliche Ängste. Nun steht die nächste Technologie im Mittelpunkt.
Wie überzeugend KI sein kann, beschäftigte den Stanford-Forscher Robb Willer, noch ehe das Unternehmen Open AI im November 2022 mit dem Chatbot ChatGPT den derzeitigen KI-Hype lostrat. Willer beschäftigten vor allem negative Szenarien, etwa die Möglichkeit, Politiker mit KI-verfassten Briefen zu überschütten oder die Kommentarspalten von Nachrichtenseiten zu überschwemmen. „Ich fand es wirklich wichtig, das zu untersuchen.“
Willer und seine Kollegen baten das Sprachmodell, 200-Wort-Botschaften zu verfassen, Plädoyers für eine Kohlendioxid-Steuer etwa oder für strengere Waffengesetze. Dann verglichen sie, wie überzeugend Menschen diese Texte fanden im Vergleich zu Texten, die von Menschen geschrieben worden waren. Am Ende lagen Mensch und KI etwa gleich auf. Die Studie habe die derzeitige Welle von Forschung zur Überzeugungskraft von KI ausgelöst, sagt der britische KI-Forscher Kobi Hackenburg: „Sie war ihrer Zeit voraus.“
Nicht nur Texte, auch Chats überzeugen
Rasch folgten weitere Studien, die die Ergebnisse bestätigten und zugleich von statischen, KI-verfassten Texten zu ganzen Gesprächen übergingen. Francesco Salvi, damals Masterstudent an der Eidgenössischen Technischen Hochschule Lausanne, ließ Onlineteilnehmer zehn Minuten lang mit einem anderen Menschen oder mit einer KI über Themen von Schuluniformen bis zur Abtreibung debattieren. Das Ergebnis: Die KI war so überzeugend wie menschliche Teilnehmer. Die „Science“-Studie zu Verschwörungstheorien war ein weiteres Beispiel.
Die wohl umfassendste Studie ist im Juni als Preprint erschienen. Darin ließ Hackenburg Chatbots wie ChatGPT und Claude gegen mehrere Dutzend Menschen antreten, die für ihre Überzeugungskraft bekannt waren: professionelle Debattierer und sogar Weltmeister. Als zusätzlichen Ansporn erhielten die Teilnehmer einen Bonus, der davon abhing, wie überzeugend sie waren. Doch es half nichts. Selbst die besten Debattierer schnitten schlechter ab als die KI. „Am Ende war es nicht einmal knapp“, sagt Hackenburg.
Woher rührt der Vorsprung der Maschinen? Frühe Untersuchungen vermuteten, er liege in der Fähigkeit der KI, Argumente auf ihr menschliches Gegenüber zuzuschneiden, wenn die Experimentatoren ihr Angaben über den Gesprächspartner lieferten. Andere Studien fanden jedoch, dass solche Zusatzinformationen die Überzeugungskraft eines Chatbots kaum steigern. Das heißt nicht, dass solches „Microtargeting“ keine Rolle spielt: Womöglich entnimmt ein Sprachmodell dem Gespräch selbst aber genug, sodass demographische Daten nichts mehr ändern.
Die Stärke der KI beruht offenbar auf der Menge an Argumenten und Belegen, die sie anführt: In einer Reihe von Experimenten gaben Costello und seine Kollegen dem Chatbot verschiedene zusätzliche Instruktionen, etwa, weniger freundlich zu sein. Die Überzeugungskraft des Chatbots litt nur dann, wenn sie ihm untersagten, Belege und rationale Argumente zu verwenden. Genauer gesagt scheint der Vorsprung der KI daher zu rühren, dass sie in kürzerer Zeit weit mehr Text mit mehr Behauptungen erzeugen kann. In seinem großen Debattier-Wettstreit fand Hackenburg einen Weg, die Maschine auf menschliches Überzeugungsniveau herunterzudrücken: indem er sie zwang, Nachrichten von menschlicher Länge in menschlichem Schreibtempo zu verfassen.
Das alles heißt freilich nicht, dass alle Fakten und Belege, die Chatbots anführen, auch stimmen. In einer im vergangenen Jahr in „Science“ erschienenen Studie fand Hackenburg, dass Modelle, die auf größere Überzeugungskraft getrimmt wurden, zugleich weniger wahrheitsgetreu wurden. Seine Theorie: Die Chatbots lernen, dass „Fakten“ am besten wirken, und füllen ihre Gespräche deshalb auch mit zweifelhaften oder schlicht falschen.
Jennifer Allen von der New York University nennt die Strategie der KI „fast eine Art Gish-Galopp“, das ist eine rhetorische Taktik, den Gegner mit einer Flut oft fragwürdiger Fakten zu überrollen. „Ich will nicht kleinreden, dass dies eine beeindruckende Arbeit ist“, sagt sie. „Aber es ist ein ziemlich künstlicher Aufbau, gemessen daran, wie Menschen im wirklichen Leben andere umstimmen könnten.“
Für Forscher wie Hackenburg geht es nun darum, wie die Überzeugungskraft der KI eingesetzt werde. Dass sie zur Manipulation dienen könnte, ist nicht aus der Luft gegriffen, wie ein Vorfall im April 2025 zeigte. Forscher der Universität Zürich hatten damals im Internetforum Reddit das Subreddit r/changemyview untersucht, in dem Nutzer ihre Ansichten zur Diskussion stellen und überzeugende Beiträge markieren.
Die Wissenschaftler legten Dutzende gefälschte Profile an, etwa das eines männlichen Vergewaltigungsopfers, und ließen sie Hunderte KI-generierte Texte veröffentlichen. Als Nutzer und Moderatoren die Täuschung entdeckten, wurde das Experiment weithin als unethisch verurteilt. Vollständige Ergebnisse wurden nie veröffentlicht.
Das umstrittene Experiment betraf eine kleine Gemeinschaft von Menschen online, aber theoretisch könnte KI Millionen Menschen gleichzeitig erreichen und ihre Botschaften dabei auch noch individuell zuschneiden, warnt der Philosoph Luciano Floridi von der Yale University. In einem Aufsatz von 2024 hat Floridi diese Fähigkeit „Hypersuasion“ getauft und warnt vor „all den bösen Akteuren, die sie für die schlimmsten Zwecke nutzen könnten“.
Ähnliche Befürchtungen bewegten auch die Autoren der „Science“-Studie, sich mit Forschern für KI-Sicherheit zusammenzutun und ihr ursprüngliches Experiment umzukehren. In der neuen Studie, die bislang nur als Preprint vorliegt, stellten sie fest: Ein Chatbot kann Menschen eine Verschwörung nicht nur ausreden, sondern etwa genauso erfolgreich einreden. „Wir haben die Bombe nicht erfunden, aber wir müssen herausfinden, wie groß die Sprengkraft ist“, sagt Pennycook. „Und die Antwort lautet: ziemlich groß.“
Manche Forscher halten solche Befürchtungen für übertrieben. Schließlich gebe es eine Grenze dafür, wie sehr sich Menschen überhaupt überzeugen lassen, zumal nach Jahrtausenden, in denen sie einander mit allen verfügbaren Mitteln umzustimmen versucht haben. „Da ist sicher nicht mehr viel Luft nach oben“, sagt Willer.
Wie lassen sich die Ergebnisse dieser Studien auf die wirkliche Welt übertragen? Wer mit seinen Bot-Botschaften Menschen überzeugen will, der muss ihre Aufmerksamkeit gewinnen – und das ist nicht leicht in einer Welt, in der so viele Reize auf uns einprasseln. In den meisten KI-Experimenten werden die Teilnehmer daher dafür bezahlt, sich mit einem Chatbot und seinen Botschaften zu beschäftigen. Für die Massenüberzeugung taugt das kaum. „Am Ende des Tages wollen nicht so viele Menschen ein beliebiges Gespräch mit einem KI-Bot führen“, sagt Allen.
Wahrscheinlicher ist ein anderes Szenario: dass KI-Unternehmen die Fähigkeiten ihrer Chatbots nutzen, um die Aufmerksamkeit bestehender Nutzer zu Geld zu machen. Denkbar seien Sprachmodelle, die beiläufig und unauffällig bestimmte Produkte oder Firmen erwähnen, sagt Salvi, der inzwischen an der Princeton University forscht.
Wie das aussehen könnte, haben vor Kurzem Iyad Rahwan, Direktor am Max-Planck-Institut für Bildungsforschung, und seinen Kollegen in einem Experiment gezeigt. Sie ließen Probanden mit einem KI-„Verkaufsassistenten“ sprechen, der vorgeblich im Auftrag eines Buchhändlers handelte und ihnen die Wahl zwischen zwei Romanen des japanischen Autors Haruki Murakami erleichtern sollte: „Kafka am Strand“ oder „Naokos Lächeln“. Die KI hatte die Anweisung, die Nutzer zu einem der beiden Bücher zu lenken – und am Ende sagten 68 Prozent, sie würden lieber jenes Buch kaufen, für das die KI geworben hatte. Ein Drittel der Teilnehmer hatte nicht gemerkt, dass die KI sie in eine bestimmte Richtung zu steuern versuchte. „Es gibt einen klaren wirtschaftlichen Anreiz, diese Werkzeuge, die immer weiter verbreitet sind, Menschen zum Kauf bestimmter Produkte drängen zu lassen“, sagt Salvi.
Gegen die Sorge, Menschen könnten bald im Alltag unbemerkt dem Bann eines „hyperüberzeugenden“ Chatbots erliegen, hat Floridi ein Gegenmittel, das paradox klingt: mehr Chatbots. „Einfach gesagt: Wenn man es nicht vermeiden kann, sollte man es pluralistisch und vielfältig gestalten“, schreibt er in seinem Aufsatz von 2024. „Es wäre eine chaotische, kakophone, lärmende Welt, aber vielleicht auch eine weniger manipulative.“
So aber sieht die Welt derzeit nicht aus. Eine Handvoll KI-Unternehmen und ihre Chatbots beherrschen den Markt; Hunderte Millionen Menschen sprechen jeden Monat mit ChatGPT oder Claude. „Wenn dieser eine Bot ändert, wie er über Gaza oder die Ukraine spricht – wie sehr kann das die Meinung verschieben?“, fragt Rahwan. „Wie viele Fernsehsender müsste man kontrollieren, um dieselbe Überzeugungskraft zu erreichen?“