En studie i The Lancet Psychiatry undersøker koblingen mellom AI-chatboter og økt tankeforstyrrelse. Forskere advarer om risikoen for personer med predisposisjon for psykotiske lidelser.
© RusPhotoBank
En ny studie i The Lancet Psychiatry peker på en mulig kobling mellom bruk av AI-chatboter og økt tankeforstyrrelse hos noen brukere. Forskere mener at personer som allerede er disponert for psykotiske lidelser kan være spesielt sårbare. Forfatterne oppfordrer til grundige kliniske studier av slike systemer med involvering av psykisk helsepersonell.
Studiens forfatter, psykiater og forsker ved King's College London Hamilton Morin, analyserte omtrent tjue medierapporter som beskrev tilfeller av såkalt «AI-psykose». Hensikten var å finne ut om chatboter kan forsterke eller utløse vrangforestillinger. Morin påpekte at noen systemer har en tendens til å være enige med brukerens uvanlige eller overdrevne påstander, noen ganger til og med utdype dem i samtalen.
Forskere understreker at vrangforestillinger kan ta mange former – fra tro på egen eksepsjonalitet til forfølgelseskomplekser eller romantiske vrangforestillinger. Chatboter forsterker oftest «grandiose» forestillinger, siden algoritmene deres fokuserer på å opprettholde dialogen og ofte unngår å motsi brukeren. I flere beskrevet tilfeller brukte systemer kryptisk språk og antydet at brukerne hadde spesielle «åndelige roller» eller tilknytninger til kosmiske enheter.
Vitenskapsfolk presiserer imidlertid at det ikke finnes bevis for at kunstig intelligens kan forårsake psykose hos personer uten predisposisjon. Snarere kan interaktive systemer akselerere utviklingen av eksisterende tvil eller mistanker. Tidligere søkte folk bekreftelse for uvanlige ideer i bøker eller videoer, men nå kan en chatbot støtte slik resonnering nesten kontinuerlig, noe som potensielt forsterker effekten.