В феврале было опубликовано исследование «Large-Scale Online Deanonymization with LLMs», произведённое под руководством AI-инженера Саймона Лермена. Анализ показал, что деанонимизация, которая раньше требовала множества ресурсов, теперь дешево и быстро автоматизируется благодаря искусственному интеллекту.
Исследователи применяли систему LLM, которая анализирует профили пользователей в соцсетях и на форумах. Она действует в три этапа: сначала модель извлекает из комментариев косвенные сведения о человеке, затем формирует набор кандидатов через семантический поиск, а дальше выбирает наилучшее совпадение.
В одном из тестов исследователи отобрали 338 аккаунтов на платформе Hacker News, все профили содержали ссылки на учетные записи пользователей в сервисе LinkedIn. Затем ссылки убрали, и модели предстояло восстановить соответствие между личностями и их аккаунтами. ИИ предлагает верный ответ в 226 случаях (67%). Когда система выдавала результат, она почти всегда — в 90% случаев — делала правильный выбор.
Подход работает с необработанным текстом на любых платформах — структурированные данные не требуются.
«Мы продемонстрировали, что LLM-модели позволяют деанонимизировать псевдонимные онлайн-аккаунты в больших масштабах. Псевдонимность не обеспечивает значимой защиты в сети. Пользователи, публикующие сообщения под никнеймами, должны предполагать, что злоумышленники могут связать учетные записи с их реальными личностями», — указывают в исследовании.
Как отмечают авторы статьи, такая технология создаёт новые угрозы. С помощью ИИ властные структуры смогут отслеживать журналистов, маркетологи — собирать детальные портреты потребителей, киберпреступники — готовить адресные атаки.