Yapay zekâ ile anonim kullanıcıların kimlik tespiti: Büyük dil modelleri tehdidi

Zürih'teki İsviçre Federal Teknoloji Enstitüsü'nden araştırmacılar, Anthropic uzmanlarıyla iş birliği içinde, modern büyük dil modellerinin artık takma adlar ardında gizlenen kullanıcıların gerçek kimliklerini kitlesel ölçekte tespit edebildiğini iddia etti. Hakem değerlendirmesinden geçmemiş bir çalışmaya göre, internetteki geleneksel "anonimlik koruması" hızla etkinliğini yitiriyor.

Bir deneyde bilim insanları, forumlardaki kullanıcı yayınlarını ve profillerini analiz eden, bunları açık verilerle karşılaştıran bir yapay zekâ aracı geliştirdi. Hacker News ve Reddit gibi platformlardan alınan metinlere dayanarak sistem, vakaların yaklaşık üçte ikisinde gerçek kimlikleri belirlemeyi başardı. Bu tür bir çalışma bir insanın el ile saatler sürecekken, model bunu otomatik ve geniş ölçekte gerçekleştirdi.

Yöntem, forum yorumlarından LinkedIn profillerine ve anonim röportajlara kadar farklı veri kaynaklarını eşleştirirken bile etkili oldu. Hatta yapay zekâ kullanımına ilişkin anket yanıtları gibi tarafsız metinler bile modelin bazı durumlarda belirli bireyleri tespit etmesine olanak sağladı. Bir kullanıcı ne kadar aktif şekilde görüş paylaşırsa, algoritmanın aramayı daraltması o kadar kolaylaştı.

Yazarlar, gerçek kişilerin kimliklerini açıklamadıklarını ve sistemin yeteneklerini güvenli bir şekilde değerlendirmek için özel mekanizmalar geliştirdiklerini vurguluyor. Yine de çalışmanın sonucu endişe verici: dijital ayak izlerinin önceki "belirsizliği" artık koruma sağlamıyor. Bilim insanlarına göre, kullanıcıların, platformların ve düzenleyicilerin yapay zekâ çağında gizlilik anlayışlarını yeniden değerlendirmesi gerekiyor, aksi takdirde internet anonimliği ciddi tehditlerle karşılaşabilir.