Onderzoek toont dat grote taalmodelen echte identiteiten kunnen achterhalen van anonieme gebruikers. Leer hoe dit werkt en wat het betekent voor online privacy.
© RusPhotoBank
Onderzoekers van het Zwitserse Federale Instituut voor Technologie in Zürich, samen met specialisten van Anthropic, stellen dat moderne grote taalmodelen nu al op grote schaal de echte identiteiten kunnen achterhalen van gebruikers die zich achter pseudoniemen verschuilen. Volgens een studie die nog niet door vakgenoten is beoordeeld, verliest de conventionele 'anonimiteitsbescherming' op internet snel aan effectiviteit.
In een experiment ontwikkelden wetenschappers een AI-agent die gebruikerspublicaties en -profielen op forums analyseerde en deze vergeleek met openbare gegevens. Op basis van teksten van platforms zoals Hacker News en Reddit slaagde het systeem erin om in ongeveer tweederde van de gevallen de werkelijke identiteiten vast te stellen. Voor een mens zou dit werk uren duren om handmatig uit te voeren, terwijl het model het automatisch en op grote schaal deed.
De methode bleek effectief, zelfs bij het matchen van verschillende gegevensbronnen, van forumreacties tot LinkedIn-profielen en anonieme interviews. Zelfs neutrale teksten, zoals antwoorden op enquêtes over AI-gebruik, stelden het model in sommige gevallen in staat specifieke individuen te identificeren. Hoe actiever een gebruiker zijn of haar mening deelde, hoe gemakkelijker het voor het algoritme was om de zoektocht te verfijnen.
De auteurs benadrukken dat ze de identiteiten van echte personen niet hebben onthuld en speciale mechanismen hebben ontwikkeld om de mogelijkheden van het systeem veilig te evalueren. Desalniettemin is de conclusie van de studie zorgwekkend: de vroegere 'vaagheid' van digitale voetafdrukken biedt geen garantie meer voor bescherming. Volgens de wetenschappers moeten gebruikers, platforms en regelgevers hun begrip van privacy in het AI-tijdperk heroverwegen, anders kan de anonimiteit op internet ernstig onder druk komen te staan.