Uusi tutkimus osoittaa, että tekoälyn säännöllinen käyttö voi muokata ihmisen ajattelun mekaniikkaa. Tutkijat varoittavat kognitiivisesta antautumisesta ja luottamuksesta väärään tietoon.
© RusPhotoBank
Pennsylvanian yliopiston Wharton School of Business -koulun uusi tutkimus osoittaa, että tekoäly ei enää vain avusta ihmisten päätöksentekoa – se alkaa muokata itse ajattelun mekaniikkaa. Tutkijat totesivat, että säännöllinen tekoälyn palveluiden käyttö, kuten ChatGPT, voi vaikuttaa siihen, miten ihmiset arvioivat tietoa ja muodostavat johtopäätöksiä.
Kokeessa osallistui noin 1 300 ihmistä, ja tulokset herättivät huolta. Noin 80 prosenttia tekoälyä käyttäneistä osallistujista hyväksyi selvästikin väärät vastaukset ilman tarkistusta. Tutkijat kutsuvat tätä ilmiötä ”tarkistamattomaksi hyväksymiseksi”, jossa yksilöt luovuttavat ajatteluprosessin algoritmille ohittaen oman analyysinsä ja epäilynsä.
Tutkijat esittelevät uuden käsitteen: ”kognitiivinen antautuminen”. He väittävät, että ihmiset hylkäävät vähitellen monimutkaisia kognitiivisia prosesseja, kuten kriittistä ajattelua, pohdintaa ja intuitiivista arviointia. Paradoksi piilee siinä, että tekoäly ei vain tarjoa vastauksia vaan myös lisää käyttäjien luottamusta niiden oikeellisuuteen – vaikka ne olisivat väärin.
Tutkijat ehdottavat myös klassisen päätöksenteon kahden järjestelmän mallin tarkistamista. Tutut ”nopean” ja ”hitaan” järjestelmien lisäksi he esittävät kolmannen: ”keinotekoinen” järjestelmä, jossa osa analyyttisesta roolista siirretään algoritmeille. Tämä tarkoittaa, että tekoälystä on tulossa täysivaltainen osallistuja kognitiiviseen prosessiin.
Asiantuntijat varoittavat, että ongelma ei ole itse teknologiassa vaan siinä, miten ihmiset alkavat käyttää sitä. Kun työkalut kuten hakukoneet tai laskimet aiemmin täydensivät ihmisen ajattelua, nyt on riski, että yksilöt voivat vähitellen menettää kyvyn arvioida tietoa itsenäisesti ja jopa kyseenalaistaa algoritmien johtopäätökset.
Tutkijat kehottavat erityiseen varovaisuuteen tekoälyn käytössä koulutuksessa, lääketieteessä ja muissa kriittisissä aloilla, joissa virheen hinta on erityisen korkea. Tulevina vuosina yhteiskunnan on löydettävä tasapaino teknologisen mukavuuden ja ihmisen kognitiivisten kykyjen säilyttämisen välillä.