Studie visar att stora språkmodeller avslöjar användares identiteter bakom pseudonymer i två tredjedelar av fallen. Anonymitet på internet hotas i AI-eran.
© RusPhotoBank
Forskare från det schweiziska Federal Institute of Technology Zurich, tillsammans med experter från Anthropic, hävdar att moderna stora språkmodeller redan kan avslöja användares riktiga identiteter bakom pseudonymer i stor skala. En ännu ej granskad studie visar att den konventionella anonymiteten på internet snabbt förlorar sin skyddande funktion.
I ett experiment skapade forskarna en AI-agent som analyserade användares inlägg och profiler på forum och jämförde dem med öppna data. Utifrån texter från plattformar som Hacker News och Reddit lyckades systemet identifiera riktiga identiteter i ungefär två tredjedelar av fallen. En människa skulle behöva timmar för att göra detta manuellt, medan modellen utförde det automatiskt och i stor skala.
Metoden visade sig effektiv även när den matchade olika datakällor, från forumkommentarer till LinkedIn-profiler och anonyma intervjuer. Även neutrala texter, som svar på enkäter om AI-användning, kunde i vissa fall leda modellen till specifika individer. Ju mer aktivt en användare delade åsikter, desto lättare var det för algoritmen att begränsa sökningen.
Författarna betonar att de inte avslöjade riktiga personers identiteter och utvecklade särskilda mekanismer för att säkert utvärdera systemets förmågor. Trots detta är studiens slutsats oroande: den tidigare "oskärpan" i digitala fotspår garanterar inte längre skydd. Enligt forskarna behöver användare, plattformar och reglerande organ ompröva sin syn på integritet i AI-eran, annars kan anonymiteten på internet möta allvarliga hot.