In the Weights: как искусственный интеллект оценивает значимость личности

Традиционный поиск в Google перестал быть единственным способом узнать информацию о человеке. В эпоху нейросетей значимость персоны все чаще определяется тем, насколько хорошо ее «помнят» языковые модели. Новый проект под названием In the Weights предлагает измерить этот показатель, анализируя внутренние параметры нейросетей.

Принцип работы платформы

Авторы проекта Томас Димсон и Джоуи Флинн создали инструмент, который оценивает, насколько глубоко информация о человеке интегрирована в память искусственного интеллекта. В данном контексте веса — это численные параметры, формируемые в процессе обучения модели, которые определяют ее способность воспроизводить знания без обращения к поисковым системам в реальном времени.

Сервис работает по следующему алгоритму:

• Запрос отправляется к ряду популярных нейросетей, включая GPT, Claude, Gemini, Llama и Grok.
• Система просит модель предоставить до 10 фактов о конкретном человеке с кратким описанием.
• Полученные данные кластеризуются, после чего каждому пользователю присваивается балл силы, отражающий степень осведомленности ИИ.

Оценка цифрового следа

Результаты тестирования показывают, что популярные персоны набирают высокие баллы. Например, в верхней части рейтинга часто фигурируют звезды кино и известные деятели культуры. Система также позволяет отследить, какие модели способны узнавать человека, а какие склонны к галлюцинациям, ошибочно интерпретируя имена или путая их с другими личностями.

Зачем нужен подобный анализ

Создатели сервиса отмечают, что классический поиск по имени в интернете становится менее актуальным по мере перераспределения пользовательского трафика в сторону больших языковых моделей. Идея проекта заключается в том, чтобы наглядно показать, как биографические данные миллионов людей оказываются закодированы в массивах чисел внутри нейронных сетей.

Разработчики планируют развивать платформу, изучая причины, по которым разные модели в рамках одной серии дают различающиеся ответы. Также в планах исследование предвзятости алгоритмов и анализ того, почему некоторые люди с высоким общественным вкладом до сих пор слабо представлены в «памяти» нейросетей.

Проект уже привлек внимание аудитории своим необычным подходом и ретро-дизайном в стиле классических видеоигр Nintendo, предлагая пользователям взглянуть на свое цифровое присутствие через призму машинного разума.

* — деятельность компании Meta* (владеет Facebook*, Instagram*) запрещена на территории РФ