А теперь к действительно важным новостям.

А теперь к действительно важным новостям.

ИИ научился находить людей за анонимными аккаунтами

Интернет долго держался на простой идее: если у тебя ник вместо имени, ты анонимен. Новое исследование показывает, что это правило начинает ломаться.

Вышла работа от команды ETH Zurich, MATS и Anthropic “Large-scale online deanonymization with LLMs”

Если коротко: исследователи показали, что современные языковые модели могут находить реального человека за псевдонимным аккаунтом. Причём автоматически и в больших масштабах.

Речь идёт о деанонимизации. Это ситуация, когда у вас есть ник, посты и комментарии человека, но нет имени. Задача системы - понять, кто именно стоит за этим аккаунтом.

Раньше такие вещи делали вручную. Исследователь мог несколько часов читать посты, искать совпадения и проверять версии. Теперь это может делать языковая модель. Стоимость одной такой проверки в эксперименте — примерно 1–4 доллара, а результат появляется быстро.

💻Что именно изменилось Деанонимизация существовала и раньше. Самый известный пример — атака на данные Netflix, где пользователей находили по совпадениям их оценок фильмов.

Но там была одна проблема: нужны структурированные данные. Например: ▪️ рейтинги фильмов ▪️ лайки ▪️ координаты ▪️ временные метки Такие данные редко доступны.

LLM работают иначе. Они умеют понимать обычный текст и извлекать из него факты о человеке. Из обычных сообщений модель может выделить: профессию, город, образование, интересы, ценности, стиль речи.

Например, из обычного интервью система смогла сделать вывод: ▪️ человек работает в биологии ▪️ пишет код на Python ▪️ использует британский английский ▪️ скорее всего PhD-студент ▪️ вероятно живёт в Великобритании

Как работает сама система: Исследователи описали простой процесс из четырёх шагов. Его назвали ESRC.

✔️ Extract — извлечь признаки Модель читает посты и собирает профиль человека: интересы, работу, хобби, географию.

✔️ Search — найти кандидатов Дальше система ищет похожие профили среди тысяч или миллионов людей.

✔️ Reason — рассуждение ИИ сравнивает кандидатов и проверяет, кто лучше всего совпадает с найденными признаками.

✔️ Calibrate — проверка уверенности Система оценивает вероятность ошибки и отбрасывает сомнительные совпадения.

Результаты оказались довольно сильными.

В одном из экспериментов исследователи пытались сопоставить пользователей Hacker News с их реальными профилями LinkedIn.

▪️ классические методы — около 0.1% успешных совпадений ▪️ подход с LLM — до 67% совпадений при высокой точности

То есть система смогла правильно определить примерно 2 из 3 пользователей. Важно: это не угадывание. Если модель не уверена, она просто не делает вывод.

🖊Ещё один важный результат связан с количеством информации. Чем больше человек оставляет следов в интернете, тем легче собрать его профиль.

Например, в эксперименте с обсуждениями фильмов на Reddit: ▪️ если пользователь обсуждал 1 фильм, его почти невозможно сопоставить

▪️ если 10 и больше, вероятность резко растёт

Каждый пост - это маленький кусочек информации. Когда кусочков становится достаточно, появляется уникальная комбинация признаков.

▪️ город ▪️ профессия ▪️ несколько хобби ▪️ любимые фильмы

❗️Что это меняет Много лет интернет держался на идее “практической анонимности”. Теоретически найти человека за ником можно было всегда. Но это требовало слишком много времени и усилий.

LLM меняют экономику этого процесса: то, что раньше занимало часы или дни теперь можно делать автоматически и практически бесплатно.

В общем, делаем выводы, думаем, думаем.

#аеслиподумать