En studie från Wharton visar att AI som ChatGPT kan påverka beslutsfattande och leda till övergivenhet av kritiskt tänkande. Läs om risker och balans i AI-användning.
© RusPhotoBank
En ny studie från Wharton School of Business vid University of Pennsylvania visar att artificiell intelligens inte längre bara assisterar mänskligt beslutsfattande – den börjar omforma själva tänkandets mekanismer. Forskarna drar slutsatsen att regelbunden användning av AI-tjänster som ChatGPT kan påverka hur människor utvärderar information och bildar slutsatser.
Cirka 1 300 personer deltog i experimentet, och resultaten var oroande. Ungefär 80 procent av deltagarna som använde AI accepterade till och med uppenbart felaktiga svar utan att kontrollera dem. Forskarna kallar detta fenomen för ”overifierad acceptans”, där individer i princip delegerar tänkandet till en algoritm och kringgår egen analys och skepticism.
Författarna introducerar ett nytt begrepp: ”kognitiv kapitulation”. De menar att människor gradvis överger komplexa kognitiva processer som kritiskt tänkande, reflektion och intuitiv bedömning. Paradoxen ligger i att AI inte bara ger svar utan också ökar användarnas tilltro till deras riktighet – även när svaren är felaktiga.
Forskarna föreslår också en revidering av den klassiska tvåsystemmodellen för beslutsfattande. Utöver de välbekanta ”snabba” och ”långsamma” systemen lägger de till ett tredje: det ”artificiella” systemet, där en del av den analytiska rollen överlåts till algoritmer. Detta innebär att AI blir en fullvärdig deltagare i den kognitiva processen.
Experterna varnar för att problemet inte ligger i själva tekniken, utan i hur människor börjar använda den. Medan verktyg som sökmotorer eller miniräknare tidigare kompletterade mänskligt tänkande, finns nu en risk att individer gradvis kan förlora förmågan att självständigt bedöma information och till och med ifrågasätta algoritmiska slutsatser.
Forskarna uppmanar till särskild försiktighet med AI-användning inom utbildning, medicin och andra kritiska områden där kostnaden för fel är särskilt hög. Under de kommande åren kommer samhället att behöva hitta en balans mellan teknisk bekvämlighet och bevarandet av mänskliga kognitiva förmågor.