Yeni arXiv araştırması, yapay zekâ halüsinasyonlarının kullanıcı istemlerinin üslubuyla tetiklendiğini ortaya koyuyor. Net ve nazik istemler riski azaltıyor.
© RusPhotoBank
Yeni bir çalışma, yapay zekâ “halüsinasyonlarının” çoğu zaman bizzat kullanıcılar tarafından tetiklendiğini ortaya koyuyor. 3 Ekim’de arXiv.org’da yayımlanan “Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions” başlıklı makale, bir istemin nasıl ifade edildiğinin, yapay zekâ yanıtlarında uydurma olguların, alıntıların ya da kaynakların ortaya çıkmasını doğrudan şekillendirdiğini belirtiyor.
Araştırmacılar 13.000’den fazla insan-insan diyaloğunu ve 1.300’ü aşkın insan-bot etkileşimini inceledi. İnsanlar bir yapay zekâya seslendiklerinde farklı yazdıklarını gözlemlediler: daha kısa, dilbilgisi açısından daha gevşek, daha sert ve daha sınırlı bir kelime dağarcığıyla. İçerik aynı kalsa bile üslup belirgin biçimde değişiyor; yazarların açık bir tarz kayması diye nitelediği bir durum.
Bu uyumsuzluk sorun yaratıyor; çünkü büyük dil modelleri nazik ve iyi yapılandırılmış metinlerle eğitiliyor. Pek de şaşırtıcı olmayan biçimde, sert ya da özensiz ifadeler belirsizliğe yol açabiliyor ve sistemi bir şeyler uydurmaya itebiliyor. Günlük bot sohbetlerinden çoğunun tanıyacağı üzere, tonda ya da açıklıkta küçük oynamalar bile sonucu kolayca eğip bükebiliyor.
Ekip birkaç çareyi test etti. Bunlardan biri, modelleri daha geniş bir konuşma üslubu yelpazesiyle eğitmek; bu yaklaşım kullanıcı niyetini anlama doğruluğunu yüzde 3 artırıyor. Bir diğeri, istemleri otomatik olarak yeniden yazmak; kulağa pratik gelse de bu yöntem, duygusal ve bağlamsal nüanslar kaybolduğu için kaliteyi düşürdü.
Yazarlar, uydurma yanıt riskini azaltmanın yolunun daha kapsamlı, dilbilgisel olarak düzgün ve nezaketli istemler yazmaktan geçtiği görüşünde; böylece yapay zekâ sohbetleri sıradan insan konuşmasına biraz daha yaklaşır. Basit görünen bu alışkanlık, edinmeye değer.