Studie ukazuje, že moderní jazykové modely dokážou identifikovat skutečné identity uživatelů skrývajících se za pseudonymy. Zjistěte, jak AI ohrožuje soukromí a co to znamená pro ochranu dat.
© RusPhotoBank
Vědci ze Švýcarského federálního technologického institutu v Curychu ve spolupráci s odborníky z Anthropic tvrdí, že moderní rozsáhlé jazykové modely už dokážou hromadně odhalit skutečné identity uživatelů skrývajících se za pseudonymy. Podle studie, která ještě neprošla recenzním řízením, konvenční "ochrana anonymity" na internetu rychle ztrácí na účinnosti.
V experimentu vytvořili vědci umělou inteligenci, která analyzovala uživatelské příspěvky a profily na fórech a porovnávala je s otevřenými daty. Na základě textů z platforem jako Hacker News a Reddit dokázal systém určit skutečné identity přibližně ve dvou třetinách případů. Člověku by podobná práce trvala hodiny ručního úsilí, zatímco model ji provedl automaticky a ve velkém měřítku.
Metoda se ukázala jako účinná i při porovnávání různých zdrojů dat, od komentářů na fórech po profily na LinkedIn a anonymní rozhovory. Dokonce i neutrální texty, jako odpovědi v průzkumech o používání AI, umožnily modelu v některých případech identifikovat konkrétní osoby. Čím aktivněji uživatel sdílel své názory, tím snazší pro algoritmus bylo zúžit vyhledávání.
Autoři zdůrazňují, že neprozradili identity skutečných lidí a vyvinuli speciální mechanismy pro bezpečné vyhodnocení schopností systému. Přesto je závěr studie znepokojivý: dřívější "nejasnost" digitálních stop už nezaručuje ochranu. Podle vědců musí uživatelé, platformy a regulátoři přehodnotit své chápání soukromí v éře umělé inteligence, jinak by mohla být internetová anonymita vážně ohrožena.