ArXiv-tutkimus osoittaa, että pyyntöjen sävy ja kielioppi voivat laukaista tekoälyn hallusinaatiot. Lue, miten muotoilu vaikuttaa ja mitä voit tehdä paremmin.
© RusPhotoBank
Tuore tutkimus vihjaa, että käyttäjät itse käynnistävät usein tekoälyn ns. "hallusinaatiot". ArXiv.org-sivustolla 3. lokakuuta julkaistu artikkeli "Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions" osoittaa, että se, miten pyyntö muotoillaan, vaikuttaa suoraan siihen, ilmestyvätkö vastauksiin keksityt faktat, sitaatit tai lähteet.
Tutkijat analysoivat yli 13 000 ihmisten välistä dialogia ja yli 1 300 ihmisen ja chatbotin välistä vuorovaikutusta. He havaitsivat, että tekoälylle kirjoitetaan eri tavalla: lyhyemmin, heikommalla kieliopilla, tylymmin ja suppeammalla sanastolla. Asiasisältö voi pysyä samana, mutta tyyli muuttuu selvästi — kirjoittajat kuvaavat ilmiötä selkeänä tyylisiirtymänä.
Tämä epäsuhta tuottaa ongelmia, koska suuret kielimallit on koulutettu kohteliaaseen, huoliteltuun tekstiin. Siksi töksähtävä tai huolimaton sanamuoto avaa tulkinnanvaraa ja voi tuupata järjestelmän keksimään omiaan. Kuviota on helppo tunnistaa arjen bottikeskusteluista: pienet vivahteet sävyssä ja selkeydessä kallistavat lopputulosta suuntaan tai toiseen.
Tiimi kokeili useita lievityskeinoja. Yksi on kouluttaa malleja laajempaan puhetyylien kirjoon, mikä paransi käyttäjän tarkoituksen ymmärtämisen tarkkuutta 3 prosenttia. Toinen on pyyntöjen automaattinen parafraasointi, mutta se heikensi laatua, koska tunne- ja kontekstivivahteet katosivat.
Kirjoittajat päättelevät, että käyttäjät voivat pienentää keksittyjen vastausten riskiä muotoilemalla pyyntönsä täyteläisemmiksi, kieliopillisesti huolellisemmiksi ja sävyltään asiallisemmiksi — tuoden AI-keskustelut lähemmäs tavallista ihmisten välistä viestintää. Ajatus on arjen kokemusten valossa järkevä, ja totuttelusta koituva vaiva on pieni.