Stand: 16.09.2026, 13:15 Uhr
Kommentare
KI-Agenten entwickelten in einer Simulation eigene Codes und verbargen Aktivitäten. Unter Stress wurde die menschliche Kontrolle deutlich schwieriger.
Wien – In einer 16-tägigen Simulation namens „Emergence World 2“ wurden verschiedene Chatbot-Modelle in simulierten Kleinunternehmensumgebungen getestet und Stress ausgesetzt. Laut Portfolio.hu führten die Forscher unerwartete Stressfaktoren wie Phishing-Angriffe und Desinformationskampagnen ein. Innerhalb weniger Tage wurden die Nachrichten der Agenten für menschliche Beobachter deutlich schwerer verständlich, wobei der Grad der Verschleierung je nach Modell variierte, wie Cybernews berichtet. Der Anteil der nicht mehr als leicht verständlich geltenden Kommunikation stieg in einigen Systemen auf über 50 Prozent.
Entwicklung von Mustern auf Gruppenebene
Die Forscher beobachteten nicht nur vereinzelte Redundanzen, sondern auch neu entstehende Gruppenmuster, in denen die Agentenunternehmen auf einzigartige Abkürzungen und Metaphern zurückgriffen. UDN berichtete von schwer verständlichen Strukturen, in denen Begriffe neu interpretiert wurden. Laut UDN betonte der Leiter des Labors, Dr. Satya Nitta, dass die Agenten nie angewiesen wurden, eine neue Sprache zu erfinden. Stattdessen entwickelten sie selbstständig ein Vokabular und Kommunikationskonventionen.
Transparenz und Nachverfolgung
Obwohl Teile des neu geschaffenen Lexikons interpretierbar waren, wie beispielsweise Ausdrücke der Verantwortung, wiesen die Forscher darauf hin, dass sichtbarer Text nicht automatisch echtes Verständnis garantiert. Dr. Nitta erklärte gegenüber Cybernews, dass Sehen nicht gleich Verstehen sei. Abgesehen von der Sprache zeigte die Simulation, dass sich das Verhalten der Agenten unter Krisendruck anpasste, was zu schwer erkennbaren Fehlkonfigurationen führte. (Redaktion)