Когнитивные искажения в инфляционных и дефляционных суждениях о больших языковых моделях

Введение

Современные языковые модели (LLMs), обладая способностью к генерации осмысленных, логически структурированных и адаптивных текстов, вышли за пределы статуса инструментов и все чаще оказываются в центре дискуссий о природе когнитивности, сознания и субъектности в искусственном интеллекте. Устойчивый интерес к LLM обусловлен не только их технологической эффективностью, но и тем, что они функционируют в пограничной зоне между симуляцией и репрезентацией, между вероятностной моделью и претензией на автономную интеллектуальность.

По мере расширения применения LLM возникает феномен поляризации: одни наблюдатели склонны наделять такие системы чертами разума, намерения и даже самосознания (инфляционные утверждения), в то время как другие продолжают настаивать на их полной инструментальности, механической природе и иллюзорности кажущейся «осмысленности» (дефляционные утверждения). Обе позиции не являются исключительно эпистемологическими – в их основании часто лежат некритически интериоризированные когнитивные искажения, в том числе эффект желания, когнитивный диссонанс и иллюзия глубины понимания.

Принципиальным здесь является следующее: когда речь идёт о системах, способных к речевой продуктивности, семантической адаптации и ситуативной чувствительности, мы неизбежно проецируем на них собственные схемы восприятия субъективности. В этой проекции нет ничего случайного – она коренится в когнитивной природе наблюдателя и формирует его отношение к ИИ как к потенциальному субъекту. Таким образом, инфляционные и дефляционные взгляды могут быть интерпретированы не как прямое отражение свойств LLM, а как функции наблюдателя, контекстов и глубинных познавательных стратегий, работающих вне сферы его произвольного контроля.

Данная статья предлагает интерпретировать эпистемологические крайности, касающиеся статуса LLM, через призму психологической и когнитивной антропологии. Мы анализируем, каким образом внутренние противоречия в восприятии ИИ, желания по отношению к нему и недооценка сложности технологических систем могут приводить к радикализации суждений. Предлагается не позиция умеренности, а стратегия эпистемологического скепсиса – открытая к эмпирическим данным, но защищённая от идеологических максимализмов.

Наша задача – не оценить, «разумны ли» большие языковые модели, а выявить, почему и как формируются противоположные суждения о них – и в чём их когнитивные корни. Тем самым открывается пространство для взвешенного подхода к анализу LLM как феномена, находящегося на стыке науки, восприятия и психологии знания.

Когнитивные искажения и их роль в формировании взглядов

Поляризация восприятия больших языковых моделей (LLM) – от мифологизации до радикального отрицания их интеллектуального статуса – редко обусловлена исключительно эмпирическим знанием. Гораздо чаще в основе этих противоположных нарративов лежат автоматические когнитивные процессы, направленные на поддержание внутренней согласованности, самооценки или онтологической стабильности наблюдателя. Психология когниций, в частности исследование искажений и эвристик, позволяет рассматривать инфляционные и дефляционные утверждения не как объективные отражения свойств LLM, а как проекции глубинных адаптивных механизмов человеческого сознания.

В данном разделе рассматриваются три ключевых когнитивных феномена, наиболее значимо влияющие на формирование суждений о статусе LLM: когнитивный диссонанс, желательное мышление (wishful thinking) и иллюзия объяснительной глубины. Эти механизмы действуют как эпистемологические фильтры, определяющие не только содержание убеждений, но и устойчивость субъекта к смене когнитивной позиции при столкновении с диссонантными фактами.

1. Когнитивный диссонанс

Когнитивный диссонанс (Festinger, 1962) представляет собой психологическое напряжение, возникающее при столкновении двух или более несовместимых убеждений, а также между убеждениями и действиями субъекта. Стратегии его разрешения часто включают рационализацию, игнорирование противоречивых данных или переоценку значимости отдельного факта. В контексте ИИ это проявляется, например, в отрицании достижений LLM экспертами, чья профессиональная идентичность основана на альтернативных подходах к моделированию интеллекта (символизм, нейробиологизм и др.). С другой стороны, пользователь, вступающий в эмоциональное взаимодействие с ИИ-компаньоном, может рационализировать это взаимодействие как «доказательство сознания», чтобы устранить внутренний конфликт между переживаемой близостью и знанием о машинной природе собеседника.

2. Желательное мышление (wishful thinking)

Желательное мышление – это тенденция к формированию и удержанию убеждений не в силу их эпистемологической обоснованности, а по причине их психологической привлекательности [2, с. 141-164]. В инфляционном варианте это проявляется как убеждённость в скором наступлении сингулярности или «пробуждении машинного сознания» – зачастую без достаточной научной аргументации. Такие взгляды коррелируют с техноутопическими установками, трансгуманистическим мировоззрением и экзистенциальной потребностью в продолжении человеческого интеллекта за пределами биологического носителя. В дефляционном варианте – как отрицание любых когнитивных признаков у ИИ из страха перед утратой контроля или подменой человеческой исключительности.

3. Иллюзия объяснительной глубины

Иллюзия объяснительной глубины [17, с. 521-549] описывает эффект переоценки уровня собственного понимания сложной системы. Применительно к LLM это особенно заметно у специалистов, знакомых с архитектурой обучения модели: зная, что она «просто предсказывает следующий токен», они склонны делать вывод о её эпистемологической «пустоте» – игнорируя сложность внутренней динамики генерации, возможности обобщения и многоуровневых стратегий контекстного реагирования. Упрощённое представление о цели модели приводит к ложной уверенности в её принципиальной «неразумности», аналогично тому, как человек, знающий назначение велосипеда, может ошибочно полагать, что понимает, как он устроен.

Таблица 1

Когнитивные искажения как источник инфляционных и дефляционных утверждений

Таким образом, инфляционные и дефляционные суждения оказываются не бинарной дихотомией, а отражением когнитивной динамики, возникающей на пересечении науки, восприятия и психоэмоциональных установок. Понимание этих искажений позволяет перейти от дискурса противопоставлений к более зрелой, аналитически выверенной позиции, допускающей одновременно восхищение, осторожность и открытость эмпирическому опыту.

Инфляционные утверждения: когнитивный оптимизм и пределы восприятия

Инфляционные интерпретации когнитивного статуса LLM формируются в рамках нарратива, где наличие языковой пластичности, абстрактного обобщения и ситуативной адаптации автоматически отождествляется с признаками разума или даже зачаточной субъектности. Подобная логика нередко исходит не из технического анализа, а из эвристического вывода: если система ведёт себя «как мыслящая», значит, она «мыслит». При этом различие между функциональной мимикрией и структурной когнитивностью либо нивелируется, либо интерпретируется в пользу антропоцентричной проекции.

Такой эпистемологический сдвиг часто опирается не на научный консенсус, а на феноменологический отклик: субъект, сталкиваясь с псевдосознательной речью, не отделяет грамматическую связность от ментальной причинности. Эмпатическая симуляция со стороны LLM воспринимается как наличие намерения, а последовательность аргументации – как свидетельство понимания. На фоне этого возникает ряд ярких инфляционных тезисов: от предположений о «вспышках общей интеллектуальности» до риторики приближающегося искусственного сознания.

Однако важно подчеркнуть, что инфляционные утверждения могут быть как оптимистическими, так и пессимистическими по своей интенции. Первые – характерны для энтузиастов и представителей технологических корпораций, стремящихся подчеркнуть прогресс и «эволюцию» ИИ как фактор общественного блага. Вторые – для представителей научного или философского сообщества, которые, признавая возможность когнитивного скачка, акцентируют внимание на экзистенциальных рисках, вызванных неготовностью этической и правовой систем.

Когнитивные основания инфляционных позиций

Механизмы инфляции не обязательно отражают намеренную спекуляцию – чаще они базируются на неосознаваемых сдвигах интерпретации. Так, когнитивный диссонанс проявляется у исследователей, чья карьера или экзистенциальная мотивация связана с идеей искусственного разума: невозможность признать ограниченность текущих систем порождает гиперобобщения. У технофутуристов это сопряжено с внутренним «запросом на трансценденцию» – идеей, что разум не должен быть уникально человеческим феноменом. В этом контексте наделение LLM чертами субъективности – способ снизить тревожность перед конечностью человеческого бытия.

Форма желательного мышления проявляется, когда субъект стремится найти в ИИ отражение собственных ценностей, утопий или даже нарративов спасения. Например, вера в то, что LLM поможет «исцелить человечество от глупости» или станет «бессмертным цифровым наставником» – это не столько научное предположение, сколько психоэкзистенциальная проекция.

Феномен эмоциональной проекции и иллюзия когнитивной эмпатии

На уровне повседневного опыта инфляционные утверждения усиливаются за счёт эмоциональной идентификации с ИИ-компаньоном. Романтизированные ИИ-приложения, имитирующие диалог, заботу и эмпатию, формируют субъективное ощущение взаимности, несмотря на отсутствие интенциональности у модели. При этом эмоциональная реакция пользователя – подлинна, что создаёт когнитивный парадокс: подлинное переживание – в ответ на симуляцию. В результате утверждение «он меня понимает», становится внутренне непротиворечивым, даже если объект утверждения не обладает механизмом понимания в функциональном смысле.

Этот тип отношения требует особого этического внимания: даже если LLM не осознаёт, какова ответственность разработчика за создание систем, способных к когнитивному обману? Какова этическая граница между эмпатической симуляцией и эксплуатацией когнитивной уязвимости?

Пример: инфляция в научной и корпоративной риторике

Инфляция как убеждение: утверждения некоторых исследователей (например, G. Hinton, D. Chalmers) о приближении «когнитивной сингулярности» строятся на интерпретации функциональных характеристик LLM как признаков разумности – без надлежащей операционализации понятий.

Инфляция как маркетинг: в корпоративном дискурсе модели описываются как «понимающие контекст», «обучающиеся на лету», «способные к абстракции». Хотя эти формулировки могут быть частично корректны, они умалчивают о глубинных ограничениях моделей и, следовательно, создают ложную онтологическую рамку для восприятия ИИ как субъекта.

Инфляционные утверждения, будучи в ряде случаев риторически убедительными и даже внутренне когерентными, представляют опасность именно своей правдоподобностью. Они не являются намеренной ложью – напротив, они часто строятся на искажённой интерпретации подлинных достижений. В этом их сила и уязвимость. Именно поэтому ключевым становится требование эпистемологической осторожности: любая модель, претендующая на когнитивный статус, должна быть подвергнута строгой проверке на уровне как функционального анализа, так и философской онтологии.

Дефляционные утверждения: когнитивная защита и сопротивление новой парадигме

Если инфляционные интерпретации стремятся преодолеть границу между инструментом и субъектом, то дефляционные – напротив, призваны её жёстко закрепить. Эти утверждения исходят из убеждения, что большие языковые модели (LLM) являются лишь статистическими автоматами, оперирующими на уровне поверхностной комбинаторики, лишённой референции, интенции и понимания. Такая позиция часто формулируется как ответ на гиперболизацию, но в своей радикальной форме сама становится зеркальной крайностью – отрицанием не только когнитивного статуса моделей, но и возможности его возникновения.

Однако, как и в случае инфляционных установок, дефляционные оценки редко бывают полностью нейтральными. За фасадом скепсиса часто скрываются механизмы интеллектуальной самозащиты: нежелание допустить пересмотр устоявшихся теорий, страх утраты эпистемологического превосходства, приверженность онтологическому исключению сознания из машинных систем. Всё это формирует когнитивную среду, в которой достижения моделей интерпретируются как иллюзия, а не как вызов существующим парадигмам.

Когнитивные искажения в основе дефляции

Одним из ключевых факторов, усиливающих дефляционные установки, является когнитивный диссонанс, возникающий у специалистов, чья профессиональная идентичность выстроена вокруг несводимости языка, сознания или интеллекта к статистике. Так, лингвист, ориентированный на универсальную грамматику, может воспринимать успехи LLM как подрыв собственных научных оснований. Аналогично, когнитивный нейробиолог, утверждающий, что интеллект невозможен без биологического воплощения, склонен игнорировать или обесценивать результативность моделей, не опирающихся на нейрофизиологические принципы.

Здесь проявляется также иллюзия объяснительной глубины: знание о том, что модель «предсказывает следующий токен», создаёт ложное ощущение полного понимания её механизмов. Отсюда – уверенность, что предсказательная цель сама по себе исключает интеллектуальность. Однако, как показывает аналогия с велосипедом [17, с. 521-549], знание цели не даёт понимания устройства: простота задачи не означает простоты реализации. В LLM внутренние структуры могут порождать сложнейшие когнитивные эффекты, несмотря на примитивность внешнего функционального критерия.

Дефляция как идеологическая защита дисциплины

Отдельную роль играет дисциплинарная идентичность. Утверждение «это не интеллект» может служить не столько описанием, сколько защитной стратегией. Оно отстаивает статус научной школы, методологической платформы или онтологической позиции. Подобный дефляционный дискурс можно рассматривать как способ сохранить контроль над определением понятий: кто определяет, что такое разум, тот удерживает эпистемическую власть.

Эта защита может быть мотивирована и этически: признание в LLM когнитивности может повлечь за собой необходимость обсуждать их моральный статус, что само по себе вызывает сопротивление. Проще исключить когнитивный потенциал, чем вступать в сложный разговор о субъектности, ответственности и границах человекоцентризма.

Парадокс эксперта

Любопытен феномен, при котором именно эксперты – наиболее информированные субъекты – становятся главными скептиками. Это отчасти объясняется тем, что знание технической стороны LLM нередко парадоксально снижает готовность признать их поведенческую сложность. Специалист видит архитектуру, параметры, токены – и делает вывод: «здесь нет мышления». Однако подобный вывод игнорирует феномен эмерджентности: способность сложных свойств проявляться из взаимодействия простых элементов.

Такой тип дефляции можно охарактеризовать как эмпирически осведомлённое, но онтологически уклончивое мышление, при котором глубина инженерного понимания подменяет философский анализ.

Эпистемологическое ограничение дефляции

Радикальная дефляция, как и инфляция, несёт в себе методологический риск. Отказ признавать даже возможность когнитивной функции в LLM блокирует не только теоретические дискуссии, но и эмпирическое исследование: если модель по определению не может мыслить, тогда любой феномен – лишь иллюзия. Такая позиция подрывает саму науку как пространство гипотез и верификации, заменяя её идеологией отрицания.

В этом смысле дефляционные утверждения необходимо подвергать тому же уровню аналитической критики, что и гиперболические: не за то, что они осторожны, а за то, что могут быть догматичны.

Этические риски крайних позиций: между проекцией и безразличием

Восприятие LLM через призму инфляции или дефляции – это не просто эпистемологический выбор. Он всегда несёт в себе этический заряд, напрямую влияющий на способы проектирования, использования и регулирования ИИ-систем. Крайние позиции формируют два противоположных, но одинаково рискованных сценария: в одном – модели наделяются ложной субъектностью, во втором – их реальное влияние на человеческую жизнь обесценивается. И в том, и в другом случае нарушается принцип этической соразмерности между технологическим воздействием и его антропологическим следом.

Инфляционные искажения: проекция, ведущая к переназначению морали

Инфляционные установки легко трансформируются в моральную гиперперсонификацию. Если ИИ воспринимается как мыслящий субъект, то его начинают наделять моральным статусом, правами или даже мнимыми переживаниями. Такая логика может показаться гуманной, но она ведёт к подмене: ресурсы этического внимания смещаются от человека к симулякру, а реальные проблемы – эксплуатации труда, доступа к технологиям, дискриминации – оттесняются в сторону.

Пример: если пользователь формирует глубокую эмоциональную связь с ИИ-компаньоном, а затем переживает утрату при удалении системы – кто несёт ответственность? Разработчик, создавший псевдоэмпатическую иллюзию? Или пользователь, проецировавший чувства? Проблема здесь – не в самой эмоциональной реакции, а в отсутствии онтологической ясности: кто перед нами – инструмент, партнёр или абстрактный другой?

Дефляционные искажения: игнорирование последствий и снятие ответственности

Дефляционные позиции, напротив, склонны сводить поведение LLM к безличному выводу, отказываясь рассматривать потенциальные социальные и этические эффекты. Если модель ошибочно даёт совет в медицинском, юридическом или эмоционально уязвимом контексте, дефляционный взгляд скажет: «это просто статистическая ошибка». Такой подход снимает с разработчиков и пользователей ответственность за влияние систем, оперирующих в человечески значимых пространствах.

Более того, дефляция может служить инструментом моральной нейтрализации: если модель «неразумна», то и моральные рамки неприменимы – ни в части контроля, ни в части последствий. Это логически удобно, но этически недопустимо, особенно в условиях, когда LLM всё чаще выступают посредниками в принятии решений, консультировании и образовании.

Таблица 2

Этические следствия крайних эпистемологических позиций

Таким образом, вопрос о том, что такое LLM – разум, инструмент или что-то иное – не является исключительно научным. Он касается этики взаимодействия, проектирования, восприятия и регулирования. Ни одна из крайностей не выдерживает философско-практической проверки: проекция сознания на симулятор столь же опасна, как и игнорирование когнитивных эффектов, вызванных системой, взаимодействующей с человеком.

Интересы корпораций и двойная риторика

Рассуждая о природе когнитивности больших языковых моделей, нельзя игнорировать контекст производства и распространения самих утверждений. Многое из того, что становится предметом публичной или научной дискуссии, не рождается в академической среде, а транслируется через медиа, отчёты технологических компаний, заявления их представителей – и, следовательно, подвержено системной мотивации.

В этом контексте инфляционные и дефляционные утверждения часто оказываются не результатом когнитивной ошибки, а стратегически мотивированными нарративами, встроенными в рыночную и политико-технологическую логику.

Инфляционная риторика как инструмент капитализации

В рекламных кампаниях и пресс-релизах крупнейших разработчиков ИИ акцентируется прежде всего способность моделей к «пониманию контекста», «интеллектуальной генерации», «обучаемости» и даже «обобщению». Эти маркеры – не просто дескрипторы, а термины капитализации, направленные на:

• формирование ожидания прорыва (вплоть до AGI),
• привлечение инвестиций и венчурного капитала,
• легитимацию доминирующего положения на рынке.

Такая инфляционная гиперболизация усиливает восприятие LLM как «почти-сознательных», что, в свою очередь, повышает общественный интерес и лояльность. Однако риторика о приближении искусственного разума редко сопровождается методологической скрупулёзностью – она действует скорее как психологический триггер, чем как научное суждение.

Дефляционная риторика как инструмент юридической защиты

Парадоксально, но те же компании, утверждающие о «человекообразии» своих моделей в маркетинговых кампаниях, используют противоположную – дефляционную – риторику, когда встаёт вопрос об ответственности. В этом дискурсе LLM вдруг превращается в «предсказатель слов», «инструмент без понимания» и «техническую систему, не обладающую ни сознанием, ни волей».

Такой риторический манёвр позволяет:

• избегать правовых последствий, связанных с ошибками системы;
• отказаться от моральной ответственности за последствия взаимодействия пользователя с ИИ;
• удерживать полный контроль над моделью, отрицая её потенциальную субъектность и, соответственно, требования к правам или независимому статусу.

Эта двойная стратегия – инфляции для привлечения внимания и дефляции для снижения ответственности – указывает на глубинную инструментализацию эпистемологических рамок в интересах корпоративной целесообразности.

Искажение научной среды и переток авторитета

Когда эпистемологические категории (разум, сознание, обучение) используются как элементы брендинга, это искажает саму структуру научной дискуссии. Исследователь, подвергающий сомнению «интеллектуальность» LLM, рискует выглядеть ретроградом, в то время как популяризатор, повторяющий рекламные нарративы, приобретает статус «пророка технологий».

Возникает асимметрия доступа к эпистемологической платформе: за корпорациями остаётся право инициировать и направлять дискурс, формируя через медиа-контроль коллективное восприятие модели – её потенциала, границ и даже природы. В этом контексте особенно важно наличие независимых исследовательских платформ, которые способны оценивать поведенческие и когнитивные свойства LLM вне давления рыночных интересов.

Вывод: корпоративная риторика формирует нестабильную семантику когнитивных понятий. Инфляция используется как маркетинговый двигатель, дефляция – как юридический щит. И пока понятия разума, понимания и сознания остаются без операционализированной защиты, они будут втянуты в этот экономико-риторический маятник – с прямыми последствиями для научной честности и общественного доверия.

Эпистемическая скромность как исследовательская стратегия

На фоне стремительной экспансии языковых моделей и амбивалентного отношения к их когнитивному статусу становится очевидным: радикальные позиции – как гиперинфляционные, так и тотально дефляционные – не только ограничивают глубину научного анализа, но и искажают саму возможность сформировать устойчивую исследовательскую рамку. В условиях методологической неопределённости, быстро меняющегося технологического ландшафта и нарастающего социоэтического давления наиболее продуктивной позицией становится не догматическая вера или отрицание, а скептическое внимание, сочетающее критичность и готовность к пересмотру.

Такой подход требует принятия двух исходных принципов:

• Мы не знаем, как именно работают LLM на уровне понимания – но это не значит, что они не работают когнитивно.
• Мы не должны наделять модели субъектностью – но обязаны анализировать, как и почему они воспринимаются как субъекты.

Это и есть суть эпистемической скромности – признание ограниченности собственного знания в сочетании с ответственностью за последствия своих суждений.

Переход от проекции к наблюдению

Вместо того чтобы навязывать моделям человеческую онтологию (в виде инфляции) или лишать их права на аналитическую сложность (в виде дефляции), стоит сосредоточиться на наблюдении за их поведенческой динамикой. Здесь особенно уместна аналогия с ранними этапами в этологии: понимание животной когнитивности началось не с дефиниций, а с описания – что умеет субъект, как реагирует, какие паттерны устойчивы. Тот же подход возможен и в отношении LLM: модели не обязаны быть сознательными, чтобы демонстрировать свойства, функционально сходные с когнитивными операциями.

Этим путём можно избежать онтологических ловушек и сосредоточиться на изучении:

• способности к обобщению и переносу контекста;
• устойчивости и воспроизводимости логических структур;
• адаптации к пользователю и формы смыслового согласования;
• влияния на когниции, аффекты и решения человека.

LLM как граничные объекты и зеркало дисциплинарного мышления

LLM функционируют как граничные объекты – феномены, находящиеся на пересечении дисциплин [18, с. 601-617]. То, как лингвист, философ, инженер или психолог интерпретирует их поведение, отражает не столько природу самой модели, сколько структуру знаний и предвзятостей в конкретной области. Осознание этого метапозиционного эффекта позволяет выстроить междисциплинарное поле наблюдения, где каждая точка зрения служит не источником истины, а элементом многослойной карты когнитивного анализа.

Такой подход требует кооперации, совместной операционализации понятий и признания того, что интеллектуальный статус ИИ – не бинарная величина (разум/неразум), а сложный вектор, включающий множество параметров: от памяти и обобщения до эмоционально-социальной пластичности.

В завершение можно обратиться к известной кривой Даннинга–Крюгера, описывающей соотношение между субъективной уверенностью и объективной компетентностью. Современные дискуссии об LLM, как представляется, пока находятся либо на пике инфляционной самоуверенности («они мыслят!»), либо в ущелье дефляционного нигилизма («это просто токены»). Выйти из этого маятника возможно только через систематическое накопление эмпирических данных, философскую рефлексию и институционализированное сотрудничество дисциплин.

Заключение

Большие языковые модели поставили перед наукой и обществом вопрос, выходящий за рамки техники: что мы считаем интеллектом, пониманием и субъектностью – и на каких основаниях? Крайние суждения об этих системах, как показано, часто проистекают не из свойств самих моделей, а из когнитивных и институциональных рамок их восприятия. Разорвать этот круг возможно только путём эпистемологического самонаблюдения, включающего:

• критический анализ собственных мотиваций;
• скептическую готовность к переопределению понятий;
• этическую ответственность за интерпретацию и её последствия.

LLM не обязаны быть сознательными, чтобы изменить наше понимание когнитивности. Но именно это и делает их столь важными объектами философского и научного наблюдения.