Une étude montre que des prompts ambigus poussent les LLM à halluciner. Conseils pour rédiger des requêtes claires et polies, réduire les erreurs des chatbots.
© RusPhotoBank
Une nouvelle étude avance que les utilisateurs provoquent eux-mêmes, bien souvent, les « hallucinations » de l’IA. Publié le 3 octobre sur arXiv.org, l’article « Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions » affirme que la manière dont un prompt est formulé influence directement l’apparition, dans les réponses des modèles, de faits, de citations ou de sources fabriqués.
Les chercheurs ont passé au crible plus de 13 000 dialogues entre humains et plus de 1 300 échanges entre humains et chatbot. Ils ont constaté que face à un système d’IA, les gens écrivent autrement: plus brièvement, avec une grammaire plus lâche, un ton plus abrupt et un vocabulaire plus restreint. Le fond peut rester identique, mais la forme change nettement — les auteurs parlent d’un net basculement stylistique.
Ce décalage pose problème, car les grands modèles de langage sont entraînés sur des textes polis et bien formés. Des formulations abruptes ou négligées se lisent de façon ambiguë et peuvent pousser le système à inventer. Une mécanique familière à quiconque échange avec des bots: de légers écarts de ton ou de clarté suffisent à faire dévier le résultat.
L’équipe a testé plusieurs remèdes. Former les modèles à une palette plus large de styles de langage améliore de 3 % la précision avec laquelle ils comprennent l’intention de l’utilisateur. Autre option: la paraphrase automatique des prompts, mais cette approche a dégradé la qualité, les nuances émotionnelles et contextuelles se perdant en chemin.
Les auteurs concluent que les utilisateurs peuvent réduire le risque de réponses inventées en rédigeant des prompts plus complets, plus soignés sur le plan grammatical et plus courtois — en rapprochant les échanges avec l’IA d’une conversation humaine ordinaire. Une habitude modeste, qui vaut la peine d’être adoptée.