Wie unklare Prompts KI-Modelle zu Halluzinationen verleiten

Eine neue Studie legt nahe, dass Nutzerinnen und Nutzer Halluzinationen von KI-Systemen häufig selbst auslösen. In einer am 3. Oktober auf arXiv.org veröffentlichten Arbeit mit dem Titel "Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions" führen die Forschenden aus, dass die Formulierung einer Eingabe direkt beeinflusst, ob in KI-Antworten erfundene Fakten, Zitate oder Quellen auftauchen.

Analysiert wurden mehr als 13.000 Dialoge zwischen Menschen und über 1.300 Interaktionen zwischen Menschen und Chatbots. Dabei zeigte sich: Sobald Menschen eine KI adressieren, schreiben sie anders – knapper, grammatikalisch schwächer, rauer im Ton und mit engerem Wortschatz. Die inhaltliche Aussage bleibt oft gleich, doch der Stil verschiebt sich deutlich – eine klare Stilverlagerung, wie das Team betont.

Zum Problem wird das, weil große Sprachmodelle überwiegend an höflich formulierten, gut strukturierten Texten trainiert sind. Unpräzise oder brüsk klingende Eingaben öffnen Interpretationsspielräume und können das System in Richtung frei erfundener Details schubsen. Wer mit Bots arbeitet, kennt das Muster: Schon kleine Änderungen in Ton oder Klarheit kippen das Ergebnis – wenig überraschend, aber aufschlussreich.

Mögliche Lösungen

Das Team testete mehrere Gegenmittel. Eine Option: Modelle zusätzlich auf ein breiteres Spektrum von Sprachstilen trainieren. Das erhöhte die Treffsicherheit beim Erfassen der Nutzerabsicht um 3 Prozent. Weniger erfolgreich war eine automatische Paraphrasierung von Prompts – sie schwächte die Antwortqualität, weil emotionale und kontextuelle Nuancen verloren gingen.

Die Quintessenz

Die Autorinnen und Autoren raten, das Risiko erfundener Antworten zu senken, indem Prompts vollständiger, grammatikalisch sauberer und höflicher formuliert werden – also näher an normaler zwischenmenschlicher Kommunikation. Klingt simpel und ist eine kleine Gewohnheit, die sich lohnt.