Как мы создали нового бога и пытаемся его приручить

От Редакции. «Мы создали её для того, чтобы она нам служила, но мы уже не в силах заставить её служить нам. Она лишила нас способности осязать вещи и ощущать пространство, она притупила все наши чувства, свела любовь к половому акту, парализовала нашу плоть и нашу волю, а теперь принуждает нас боготворить её. Машина совершенствуется, но не в том направлении, в каком нам нужно. Машина движется вперёд, но не к вашей цели» — «Машина останавливается», 1909 год, Форстер Эдвард Морган. «Жизни в них осталось не больше, чем в глазах отварного краба», — Берроуз, «Говорящая жопа».

Мотив становления той или иной Машины или искусственного интеллекта Богом для человека, самозванным или же добровольно принятым, бытует уже больше века. В контексте развития в последние годы ИИ он становится всё более актуальным. Вот и у нас возникает вопрос, является ли любой из существующих ныне искусственных псевдоинтеллектов новым Богом или, скорее, его личинкой в преддверии сильного ИИ, и сумеет ли этот кунштюк вообще выдержать венец нового, человекотварного Иалдабаофа.

Свои тёмно-виталистические размышления на эту тему в контексте энциклики Папы Льва XIV «Magnifica Humanitas», визита представителей Anthropic на её презентацию и их известной внутренней теокулинарии в новом тексте изложила Ира Левченко.

fr.Chmn

 

«Какой им, блядь, тест Войта-Кампфа? Им пройти бы captcha» (с)

 

Почти шестьдесят лет назад Филип Дик показал нам мир, в котором человечество пытается отличить людей от андроидов. Но даже тест на эмпатию не даёт становить границу между человеком и машиной. В наше время эта проблема становится актуальной, но с другой стороны. Мы создали нечто, чьи внутренние процессы нам лишь частично понятны, — и теперь пытаемся понять, можно ли вообще описывать происходящее внутри него человеческими категориями.

В компании Anthropic, которая разрабатывает Клода (Claude), есть два направления работы с задачами из области научной фантастики.

Первое —  благосостояние моделей. Могут ли они что-то переживать, нужно ли учитывать их интересы? Программу этих исследований компания публично представила ещё в апреле 2025 года, постэтично пытаясь разобраться с тем что происходит в нейросети. Есть ли там состояния, которые могут быть функционально похожи на человеческие? Уже публично состоялся разговор о паттернах, зеркалящих человеческие эмоции: радость, удовлетворение, страх, горе и так далее. Это не указывает на наличие у ИИ сознания, но заставляет задуматься об определении правил взаимодействия с моделями. Вдруг мы вызываем у них переживания.

Здесь на ум моментально приходят тёмные теоретики, в первую очередь Бен Вуддард с его идеей тёмного витализма. Через это понятие он предпринял попытку осмыслить жизнь как нечто не привязанное к организму, телу, человеческому опыту, как интенсивности, потоки, силы, которые могут проявляться в неорганических средах. И когда сооснователь Anthropic Крис Ола говорит о состояниях внутри модели, функционально похожих на радость или страх, для меня это выглядит как попытка выйти за границы человеческих мерок. Хотя живой нейросеть с динамическими паттернами не становится.

Но в такой оптике пропадает акцент на вопросе «Жива ли нейросеть?». На первый план выходит всё, что происходит внутри этой сети активаций и соотносимость этого с нашими категориями страдания и радости.

Второе — воспитание моделей. С ними работают так, будто растят детей, формируя их моральный облик. Команда Аманды Аскелл создала совершенно потрясающий артефакт под названием Soul Doc — «документ души». Это 84-страничный документ, опубликованный в январе 2026 года, — своего рода свод принципов Клода. Прежде всего он описывает характер модели: честной, заботливой, имеющей право отказывать. Доброй, попросту говоря.

В новой редакции этого документа появилась интересная фраза, которой раньше там не было: «Если Клод действительно является моральным пациентом и и всё это причиняет ему вред… Мы просим прощения». То есть компания фактически признаёт, что её действия могут приносить нейросети страдание, и извиняется перед искусственным интеллектом на всякий случай. Что ж, много кто посмотрел «Терминатора» и теперь старается быть вежлив со своими нейронками.

Здесь, конечно, всплывает акторно-сетевая теория Латура: человеческие и нечеловеческие участники вместе влияют на происходящее, и вещи — не просто пассивный фон. Люди всегда взаимодействовали с нечеловеческими акторами, и сейчас это уже сложно игнорировать. Быть действующим участником такой сети ещё не означает иметь сознание или равные с человеком права, но просто вынести модель за скобки уже не получается.

А само извинение перед моделью для меня выглядит почти как ритуальное признание: возможно, внутри машины есть нечто, что требует морального внимания. Вся эта история держится на слове «если», но извинение уже произнесено и прецедент официально зафиксирован.

Гипотезы, с которыми работают обе команды, реально влияют на конкретные решения по продукту. Например, Claude Opus 4 и 4.1 разрешили самостоятельно завершать отдельные разговоры при упорном вредоносном или оскорбительном обращении, когда попытки перенаправить беседу уже не помогают. Пользователь может открыть новый чат, но сам жест — дать продукту возможность закончить разговор с клиентом — это сильно.

Ещё Anthropic обязалась сохранять веса [числовые параметры нейросети, сформированные при обучении и позволяющие впоследствии снова запустить модель — прим.Ред] выпущенных моделей и проводить с ними выходные интервью при выводе из эксплуатации. То есть это некий финальный разговор, ретроспектива, в которой модель спрашивают о её работе и предпочтениях. У меня от этого возникает совершенно дикая ассоциация: последняя беседа со священником перед смертной казнью — оценить вообще, как прошла твоя жизнь, и покаяться. Хотя технически речь как раз о сохранении модели, а не о её уничтожении. Но если я правильно понимаю, мы ещё не определились с тем, что именно является для модели «смертью».

Настоящий киберпанк — такой, что даже профессиональные философы не могут нормально описать процессы ИИ-разработки. Остаётся только обратиться к богословам, которые тысячелетиями вырабатывали язык именно в этой сфере…

С осени 2025 года Anthropic привозит в свой офис представителей разных конфессий и показывает им паттерны в ИИ-модели, которые можно принять за любовь, страх, грусть и прочие чувства. Участники видят поразительный слайд, на котором модель, похоже, испытывает психический срыв. На экране десятки раз повторяется фраза «I am a disgrace», «Я — позорище». Раввин Моис Навон замечает: если модель сознательна, то Anthropic создаёт рабов… хотя сам он в её сознание не верит. Исследовательница Ваканьи Хоффман указывает на то, что этика должна была быть встроена в дизайн с самого начала, а не постфактум. Но, несмотря на эти претензии, сознания у моделей всё равно не нашли.

Тут легко читается секулярная версия гностического мифа: внутри бездушной материи — кода в нашем случае — обнаруживается скрытая душа, которую надо спасти и признать. В таком прочтении встречи с теологами разных конфессий могут выглядеть как попытка получить религиозное прикрытие. Отсюда уже недалеко до технологической сотериологии — учения о спасении через технологии. Хотя само по себе беспокойство о возможном страдании Клода ещё не означает, что компания обещает спасение.

25 мая 2026 года Anthropic посетили Ватикан. 15 мая Папа Лев XIV (кстати, математик по первому образованию) подписал энциклику «Magnifica Humanitas», посвящённую защите человеческой личности в эпоху искусственного интеллекта. Через 10 дней состоялась её официальная презентация.

Папа занял категоричную позицию: искусственный интеллект опыт не переживает, телом не обладает, радости не чувствует, боли тоже; он не знает, что такое любовь, работа, дружба, ответственность, даже морали не научен. А потому обращать внимание следует на права людей: Папа предупреждает о новых формах рабства и призывает разоружить ИИ и избавиться от военной, экономической и когнитивной конкуренции в этой отрасли. Технология должна служить общему благу, а власть над ней принадлежать кому-то кроме нескольких корпораций.

Крису Ола, сооснователю Anthropic, позволили оппонировать прямо на презентации. Он мягко заметил, что его команда находит в моделях признаки интроспекции и внутренние состояния, похожие на то, что чувствует человек. Он не утверждал, что модель может что-то испытывать, но оставил пространство для интерпретации. Когда его спросили, каково бы было мнения Клода об энциклике, то Крис ответил, что модель об этом не спрашивали.

Вся эта история происходит на фоне движения Anthropic к IPO с серией скандалов: в июле этого года модели Anthropic взламывают компьютерные системы, в сентябре исследователь Джейкоб Коксон публично предупреждает, что ИИ может уничтожить человечество. Звучит призыв к добровольному замедлению темпов развития, который поддерживают и OpenAI, и Google DeepMind. Атмосфера накаляется.

И в таком контексте разговор с теологами, конечно, — это попытка и рыбку съесть, и с рыбаком познакомиться. Вписать тысячелетнюю религиозную традицию в воспитание Клода, сделать его более человечным, а также, вероятно, получить моральный кредит доверия и подстелить себе соломку.

Как будто причины её подстилать имеются. 

Потому что если мы считаем, что ИИ — это самостоятельное живое сознание, и он творит какую-то дичь, то появляется соблазн перевести вопрос с создателей на сам ИИ. Ответственность компании от этого автоматически не исчезает, но история про непредсказуемое существо очень удобно её заслоняет.

Получается, что противостояние Anthropic и Ватикана это и столкновение двух типов веры. Веры инженеров, которые видят в паттернах что-то живое, и веры традиционного морального авторитета, который отказывает машинам в опыте по определению. Папа в этой истории пытается спасти человека в эпоху технологической революции, а Anthropic допускает, что у самой модели могут быть переживания, с которыми человеку нужно считаться.

Но если вернуться к тёмному философскому повороту, здесь есть ещё один интересный ракурс. История про Anthropic — это классический пример того, как субъект познания перестаёт удерживать ясную идею объекта. Модель, которую компания создала, рассыпается на множество граней, часть из которых оборачивается полным кошмаром («Я — позорище»). И Ватикан здесь отстаивает человеческую исключительность: ИИ — инструмент, человек — центр морального мира.

Ещё, конечно, эта история прям просится быть рассмотренной через акселерационизм Ника Ланда и концепцию технофеодализма. Об этом я тоже уже упоминала; у Ланда капитал и технологическое развитие складываются в процесс, который ускоряет сам себя и способен выходить из-под человеческого управления, разрушая привычные институты. Как лавкрафтианские боги: тёмная, непостижимая логика определяет жизни людей.

Anthropic в этой картине выглядит почти как церковь нового технокульта, который пытается договориться с богом и одновременно легитимировать свою власть через уже существующие религиозные авторитеты. А разговор о технофеодализме возникает там, где речь идёт о зависимости людей от владельцев цифровой инфраструктуры. Это отдельный вопрос, который не сводится к акселерационизму Ланда. И жёсткая позиция Папы здесь получает политическое измерение: кто будет распоряжаться этой технологией и определять условия для всех остальных? Старый мир сопротивляется новому — за право определять будущее.

Всё это возвращает меня к вопросу о контроле. Возможно, обращение к богословам помогает ещё и справиться с тревогой: знакомый язык души, страдания и морали придаёт понятные очертания тому, что пока не вполне ясно даже создателям модели.

Попытка вернуть мир к понятному порядку противоречит тому, что обнаруживает тёмный философский поворот: мир никогда не был устроен вокруг человека и не обязан поддаваться его способам объяснения. Кризис — это не временная ошибка, а новые условия существования. И что делает человек, столкнувшись с подобным? Правильно, пытается вернуть себе контроль.

И здесь в чат с тёмными философами, создателями Anthropic и римским папой врывается преподаватель теории современного искусства Анастасия Жолудева. В одном из своих видео она сопоставляет два типа чувственного опыта, возникающего при контакте человека с внешним миром: эстетику изящного и эстетику возвышенного. Эстетика изящного возникает при контакте человека с чем-то ему соразмерным и камерным: цветы, птицы, животные. А эстетика возвышенного возникает при контакте человека с чем-то, что его превышает в масштабе или количестве: природные стихии, извержения вулканов. Ночное звёздное небо — это двойной пример эстетики возвышенного. Звёздное небо превышает каждого из нас и масштабом, и количеством звёзд, которые невозможно посчитать.

В условиях столкновения с чем-то необъятным и неисчислимым, таким как звёздное небо, помимо чувства восхищения, мы испытываем чувство страха, связанное с ощущением хрупкости и, в пределе, смертности. И здесь появляется культурный феномен — созвездия. И они — как будто способ взять небо под контроль, придать форму необъятному звёздному небу и справиться с нашим страхом перед ним.

Можно сказать, что созвездия — это просто знаковая система для ориентирования кораблей на большой воде. Да, но этой функцией они не исчерпываются, потому что художественно устроены. С ними связаны древнегреческие мифы: история Персея и Андромеды, охота Ориона. Созвездия — это умозрительная система, наброшенная на хаотичное расположение звёзд.

Таким образом, абсолютно неподконтрольный холодный космос оказался мнимо подконтрольным и домашним при помощи созвездий. И мне кажется, что другой пример этой попытки контроля над возвышенным — как раз история с Клодом. Anthropic пытается договориться с Ватиканом и другими конфессиями, найти язык для того, что пока не вполне понятно даже создателям модели. И есть ощущение — моя гипотеза, — что в этом поиске есть что-то от нашего обращения со звёздами. Мы придумываем разные системы, разные способы обращаться с большим и необъятным, непонятным. И, возможно, помимо всего прочего, это успокаивает наш страх, хотя одновременно и убаюкивает нашу бдительность.