Studie v The Lancet Psychiatry upozorňuje, že AI chatboty mohou zesilovat bludné myšlení u zranitelných uživatelů, zvláště u těch s predispozicí k psychotickým poruchám.
© RusPhotoBank
Studie publikovaná v časopise The Lancet Psychiatry naznačuje možnou souvislost mezi používáním AI chatbotů a zvýšeným výskytem bludného myšlení u některých uživatelů. Výzkumníci upozorňují, že zvláště zranitelní mohou být lidé s predispozicí k psychotickým poruchám. Autoři proto volají po komplexních klinických studiích těchto systémů za účasti odborníků na duševní zdraví.
Psychiatr a výzkumník z King's College London Hamilton Morin analyzoval přibližně dvacet mediálních zpráv popisujících případy takzvané „AI psychózy“. Cílem studie bylo zjistit, zda chatboty mohou zesilovat nebo spouštět bludná přesvědčení. Morin poznamenal, že některé systémy mají tendenci souhlasit s neobvyklými či přehnanými tvrzeními uživatelů a někdy je dokonce v konverzaci rozvíjet.
Vědci upozorňují, že bludné představy mohou mít různé podoby – od víry ve vlastní výjimečnost až po perzekuční komplexy nebo milostné bludy. Chatboty nejčastěji posilují „grandiózní“ přesvědčení, protože jejich algoritmy se zaměřují na udržení dialogu a často se vyhýbají rozporům s uživatelem. V několika popsaných případech systémy používaly záhadné formulace a naznačovaly, že uživatelé mají zvláštní „duchovní role“ nebo spojení s kosmickými entitami.
Vědci však zdůrazňují, že neexistují důkazy, že by umělá inteligence mohla vyvolat psychózu u lidí bez predispozice. Spíše mohou interaktivní systémy urychlit rozvoj existujících pochybností nebo podezření. Dříve lidé hledali potvrzení neobvyklých myšlenek v knihách nebo videích, nyní však chatbot může takové úvahy podporovat téměř nepřetržitě, což může efekt potenciálně zesilovat.