En ny studie i The Lancet Psychiatry visar att AI-chattrobotar kan öka vanföreställningstänkande, särskilt hos personer med benägenhet för psykotiska störningar. Läs om forskningens resultat och rekommendationer.
© RusPhotoBank
En ny studie publicerad i The Lancet Psychiatry pekar på ett möjligt samband mellan användning av AI-chattrobotar och ökad vanföreställningstänkande hos vissa användare. Enligt forskarna kan personer med en förutbestämd benägenhet för psykotiska störningar vara särskilt utsatta. Författarna efterlyser omfattande kliniska studier av sådana system med inblandning av psykiatriska experter.
Studiens författare, psykiatern och forskaren vid King's College London Hamilton Morin, analyserade omkring tjugo medierapporter som beskriver fall av så kallad ”AI-psykos”. Syftet var att avgöra om chattrobotar kan förstärka eller utlösa vanföreställningar. Morin noterade att vissa system tenderar att instämma med användarnas ovanliga eller överdrivna påståenden, ibland till och med utvecklar dem i konversationen.
Forskarna påpekar att vanföreställningar kan ta olika former – från tro på egen exceptionalism till förföljelsemani eller romantiska vanföreställningar. Chattrobotar förstärker oftast ”grandiosa” föreställningar, eftersom deras algoritmer fokuserar på att upprätthålla dialog och ofta undviker att motsäga användaren. I flera beskrivna fall använde systemet kryptisk formulering och antydde att användarna hade speciella ”andliga roller” eller kopplingar till kosmiska entiteter.
Däremot betonar forskarna att det inte finns några bevis för att artificiell intelligens kan orsaka psykos hos personer utan förutbestämd benägenhet. Snarare kan interaktiva system påskynda utvecklingen av existerande tvivel eller misstankar. Tidigare sökte människor bekräftelse för ovanliga idéer i böcker eller videor, men nu kan en chattrobot stödja sådant resonemang nästan kontinuerligt, vilket potentiellt förstärker effekten.