Cum modul în care scrii promptul poate induce halucinații în răspunsurile AI

Un nou studiu arată că, de multe ori, chiar utilizatorii declanșează „halucinațiile” din răspunsurile AI. Publicată pe 3 octombrie pe arXiv.org, lucrarea „Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions” susține că felul în care este formulat un prompt influențează direct apariția faptelor inventate, a citărilor sau a surselor fabricate în răspunsurile modelelor.

Cercetătorii au analizat peste 13.000 de dialoguri între oameni și mai mult de 1.300 de interacțiuni între oameni și chatboți. Au observat că, atunci când li se adresează unui sistem AI, oamenii scriu altfel: mai pe scurt, cu gramatică mai șubredă, mai abrupt și cu un vocabular mai restrâns. Substanța poate rămâne aceeași, dar stilul se schimbă vizibil — un „shift” de stil clar, cum îl descriu autorii.

Această nealiniere devine problematică deoarece modelele de limbaj mari sunt antrenate pe texte politicoase și bine formate. În consecință, formulările tăioase sau neglijente pot fi ambigue și împing sistemul să inventeze detalii. Este un tipar familiar oricui a dialogat cu un bot: mici schimbări de ton sau de claritate pot înclina balanța rezultatului.

Posibile soluții

Echipa a testat câteva remedii. Unul este antrenarea modelelor pe o plajă mai largă de stiluri de vorbire, ceea ce crește cu 3% acuratețea înțelegerii intenției utilizatorului. O altă abordare este parafrazarea automată a prompturilor, însă această variantă a redus calitatea, pentru că se pierd nuanțele emoționale și contextuale.

Concluzia principală

Autorii conchid că utilizatorii pot diminua riscul răspunsurilor inventate dacă își formulează solicitările mai amplu, mai gramatical și mai politicos — aducând conversația cu AI mai aproape de dialogul obișnuit dintre oameni. Un obicei mărunt, dar care chiar merită reținut.