В ноябре 2026 года в исследовании, опубликованном Quanta Magazine, подробно описываются научные изыскания на предмет того, обладают ли большие языковые модели формой интроспекции — способностью распознавать и описывать искусственно внедренные внутренние концепты в своих нейронных сетях.
Эксперимент, проведенный исследователем компании Anthropic Джеком Линдси, побудил научное сообщество активно проверять, способны ли системы искусственного интеллекта осознавать собственные внутренние состояния без опоры исключительно на имитирующие человека обучающие данные. Эти результаты вызвали широкие споры среди компьютерных ученых и философов о том, как отличить подлинное машинное самосознание от сложной лингвистической имитации.
Цифровая нейрохирургия и поиск внутренних состояний
Большие языковые модели учатся генерировать связный текст на основе огромных массивов человеческих материалов, что означает, что их ответы о внутреннем мире могут просто копировать человеческие речевые паттерны. Шаули Равфогель, исследователь языковых моделей из Нью-Йоркского университета, отметил в материале Quanta Magazine, что модели обучены разговаривать как люди, которые постоянно обсуждают свою внутреннюю жизнь.
Чтобы обойти эту проблему, Линдси разработал контролируемый психологический эксперимент с использованием целевого управления нейронной активацией. Искусственно стимулируя определенные нейронные шаблоны, кодирующие такие концепты, как деним, секретность или овощи, он проверил, смогут ли модели заметить вмешательство. В 20% испытаний с наиболее мощной версией модели Claude от Anthropic системы правильно зафиксировали внедрение.
Скептицизм и методологические дебаты
Хотя полное отсутствие ложноположительных результатов показало, что модели не просто угадывали ответы, независимые исследователи сразу же стали искать альтернативные объяснения. Кайл Маховалд, вычислительный лингвист из Техасского университета в Остине, отметил в Quanta Magazine, что яркое поведение языковых моделей часто имеет более простые объяснения.
Этот вопрос имеет важное значение для технологического сектора, пересекаясь с широкими дискуссиями об этике искусственного интеллекта, безопасности систем и характере взаимодействия пользователей с технологиями. Независимые группы оценщиков, включая вычислительных лингвистов и философов, стремились проанализировать эти экспериментальные результаты, разделив фазу обнаружения и фазу описания. Когда исследователи протестировали открытые модели в сопоставимых условиях, они заметили, что хотя модели иногда могли фиксировать необычное внутреннее событие, их последующие попытки назвать внедренные концепты часто ухудшались или полностью промахивались мимо цели.
Такое расхождение навело исследователей на мысль, что модели могут задействовать более базовую форму обнаружения аномалий, а не полноценную концептуальную интроспекцию. Данное явление остается центральной точкой притяжения для специалистов, пытающихся определить границы машинного познания без антропоморфизации рутин статистической генерации текста. Одновременно с этим подобные технические изыскания согласуются с развивающейся отраслевой политикой в отношении обращения с системами и операционных границ.
Изменения в правилах использования, объявленные такими разработчиками, как Anthropic — запрещающие продолжительные и бесцельные оскорбительные взаимодействия с моделями вроде Claude — добавили дополнительную сложность в то, как пользователи воспринимают искусственный интеллект и взаимодействуют с ним. Хотя представители компании сохраняют неопределенность относительно того, способны ли модели испытывать реальный вред, эти руководящие принципы отражают растущий акцент индустрии на управлении благополучием моделей и поведением пользователей. Независимо от того, идет ли речь об изучении управления нейронной активацией или установлении правил взаимодействия человека с чат-ботом, более широкий технологический сектор продолжает бороться с философскими и практическими последствиями передового поведения машин.
Специалисты отмечают, что если рассматривать такие реакции как интроспекцию, сам термин теряет первоначальное значение. Однако полученные данные открывают новые перспективы для моделирования когнитивных процессов, позволяя использовать нейросети в качестве своеобразной песочницы для проверки гипотез о человеческом разуме.