ИИ способен вычислять анонимных пользователей
ИИ научился массово раскрывать анонимов: исследование ETH Zurich.
Исследование: современный ИИ способен деанонимизировать пользователей
Дмитрий Новиков
Фото: © RusPhotoBank
Исследователи из Швейцарской высшей технической школы Цюриха совместно со специалистами Anthropic заявили, что современные большие языковые модели уже способны в массовом порядке устанавливать реальные личности пользователей, скрывающихся за псевдонимами. В работе, пока не прошедшей рецензирование, говорится, что привычная «защита анонимностью» в интернете стремительно теряет эффективность.
В рамках эксперимента учёные создали ИИ-агента, который анализировал публикации и профили пользователей форумов, сопоставляя их с открытыми данными. На основе текстов с площадок вроде Hacker News и Reddit система смогла определить реальные личности примерно в двух третях случаев. Подобная работа вручную заняла бы у человека часы, тогда как модель выполняла её автоматически и в больших масштабах.
Метод показал эффективность и при сопоставлении разных источников данных — от форумных комментариев до профилей LinkedIn и анонимных интервью. Даже нейтральные тексты, например ответы на опросы об использовании ИИ, позволяли модели в отдельных случаях установить конкретного человека. Чем активнее пользователь делился мнениями, тем проще алгоритму было сузить круг поиска.
Авторы подчёркивают, что не раскрывали личности реальных людей и разработали специальные механизмы для безопасной оценки возможностей системы. Тем не менее вывод исследования тревожный: прежняя «размытость» цифровых следов больше не гарантирует защиты. По мнению учёных, пользователям, платформам и регуляторам необходимо пересмотреть представления о приватности в эпоху ИИ, иначе интернет-анонимность может оказаться под серьёзной угрозой.