Forskning viser at moderne språkmodeller kan avsløre virkelige identiteter til anonyme brukere på forum som Reddit og Hacker News. Les om bekymringene for personvern i KI-tiden.
© RusPhotoBank
Forskere fra ETH Zürich har samarbeidet med spesialister fra Anthropic, og de hevder at moderne språkmodeller allerede kan avsløre den virkelige identiteten til brukere som skjuler seg bak pseudonymer i stor skala. Ifølge en studie som ennå ikke har gjennomgått fagfellevurdering, er den konvensjonelle anonymiteten på internett i ferd med å miste sin effekt.
I et eksperiment laget forskerne en KI-agent som analyserte brukeres innlegg og profiler på forum, og sammenlignet dem med åpne data. Basert på tekster fra plattformer som Hacker News og Reddit, klarte systemet å fastslå virkelige identiteter i omtrent to tredjedeler av tilfellene. Slikt arbeid ville tatt en menneskelig bruker timer å gjøre manuelt, mens modellen utførte det automatisk og i stor skala.
Metoden viste seg effektiv selv når den matchet ulike datakilder, fra forumkommentarer til LinkedIn-profiler og anonyme intervjuer. Til og med nøytrale tekster, som svar på spørreundersøkelser om KI-bruk, gjorde det mulig for modellen i noen tilfeller å peke ut konkrete personer. Jo mer aktivt en bruker delte meninger, jo lettere var det for algoritmen å innskrenke søket.
Forfatterne understreker at de ikke avslørte identiteten til ekte personer, og utviklet spesielle mekanismer for å vurdere systemets evner på en trygg måte. Likevel er studiens konklusjon bekymringsfull: den tidligere «uklarheten» i digitale fotavtrykk garanterer ikke lenger beskyttelse. Ifølge forskerne må brukere, plattformer og myndigheter revurdere sin forståelse av personvern i KI-tiden, ellers kan anonymiteten på internett stå overfor alvorlige trusler.