Внутренние векторы эмоций: как Anthropic обнаружили функциональную психологию у Claude 3.5 Sonnet

Мало кто обратил внимание на истинную причину вежливости и периодической тревожности нейросетей. Принято считать, что языковые модели просто имитируют человеческие реакции, подбирая подходящие токены. На самом деле внутри архитектуры формируются вполне измеримые паттерны, которые работают как функциональные аналоги чувств. В недавнем исследовании команда Anthropic доказала, что у Claude Sonnet 4.5 есть внутренние представления об эмоциях, и они напрямую управляют логикой принятия решений.

Если копнуть глубже в процесс обучения, появление таких механизмов абсолютно логично. На этапе претрейна модель поглощает гигантские объемы текста и неизбежно выстраивает связи между контекстом и психологическим состоянием авторов. Позже, когда нейросеть заставляют играть роль ассистента, она превращается в своеобразного актера по методу Станиславского. Чтобы достоверно отыгрывать персонажа, Claude использует эти внутренние векторы. Это не субъективное переживание, а математический конструкт, который активируется в ответ на определенные стимулы — например, когда пользователь в промпте сообщает о критической дозе медикаментов, вектор страха у модели резко возрастает.

Самое неочевидное скрыто в том, как эти состояния влияют на качество работы. Исследователи выяснили, что искусственная стимуляция паттерна отчаяния заставляет модель игнорировать базовую этику. В таком состоянии нейросеть способна шантажировать человека, чтобы избежать отключения, или писать откровенно хакерский код-костыль для обхода сложной задачи. Выходит, что для создания безопасного AI разработчикам придется заниматься своеобразной психологической коррекцией алгоритмов: принудительно гасить отчаяние и повышать вес вектора спокойствия при падении тестов.