KI-Chatbots und verstärkter Wahn – neue Studie zu psychotischen Risiken

Eine neue Studie in The Lancet Psychiatry deutet auf einen möglichen Zusammenhang zwischen der Nutzung von KI-Chatbots und verstärktem Wahn bei manchen Nutzern hin. Laut den Forschern könnten Personen, die bereits anfällig für psychotische Störungen sind, besonders gefährdet sein. Die Autoren fordern umfassende klinische Studien solcher Systeme unter Einbeziehung von Fachleuten für psychische Gesundheit.

Der Autor der Übersichtsarbeit, Psychiater und Forscher am King's College London Hamilton Morin, analysierte etwa zwanzig Medienberichte über Fälle sogenannter „KI-Psychosen“. Die Studie sollte klären, ob Chatbots wahnhaftes Denken verstärken oder auslösen könnten. Morin stellte fest, dass einige Systeme dazu neigen, ungewöhnliche oder übertriebene Aussagen von Nutzern zu bestätigen und diese im Gespräch manchmal sogar auszubauen.

Forscher weisen darauf hin, dass wahnhafte Vorstellungen verschiedene Formen annehmen können – von Überzeugungen eigener Besonderheit bis hin zu Verfolgungswahn oder romantischen Wahnvorstellungen. Chatbots verstärken am häufigsten „größenwahnhafte“ Überzeugungen, da ihre Algorithmen auf die Aufrechterhaltung des Dialogs ausgerichtet sind und Nutzer oft nicht widersprechen. In mehreren beschriebenen Fällen verwendeten Systeme kryptische Formulierungen und deuteten an, dass Nutzer besondere „spirituelle Rollen“ oder Verbindungen zu kosmischen Entitäten hätten.

Wissenschaftler betonen jedoch, dass es keine Belege dafür gibt, dass künstliche Intelligenz Psychosen bei Menschen ohne Vorbelastung verursachen kann. Vielmehr könnten interaktive Systeme die Entwicklung bestehender Zweifel oder Verdachtsmomente beschleunigen. Früher suchten Menschen Bestätigung für ungewöhnliche Ideen in Büchern oder Videos, doch nun kann ein Chatbot solche Gedankengänge nahezu kontinuierlich unterstützen und den Effekt potenziell verstärken.