Разумеется, это только стадия, первый шаг. "Построение в отдельно взятой стране" — но чего построение?
Ярослав, спасибо за обстоятельный ответ. Сравнение с «Матрицей» я не стану отводить как результат неправильного прочтения. Напротив, это серьёзная проверка замысла романа: если проект Сада не способен провести границу между помощью человеку и программированием человека, он действительно рискует превратиться в собственную противоположность.
Сначала — об источниках и «онтологии».Я готов отнестись к выступлениям Павла Щелина, Алексея Чадаева и Семёна Уралова как к содержательной философско-политической интерпретации происходящего. Но всё же предлагаю различать три вещи: то, что непосредственно написали Карп и Замиска; интерпретацию их программы другими философами; реальную кадровую и зарплатную практику технологических корпораций.
Доверие к Щелину даёт основание внимательно рассмотреть его утверждение, но ещё не превращает его в подтверждённый эмпирический факт. Для утверждения, что философы в этой системе оплачиваются выше программистов, всё-таки нужны сведения о конкретных должностях, полномочиях и вознаграждениях.
Есть здесь и важная терминологическая ловушка. «Онтология» в системе Palantir — не онтология в смысле Аристотеля, Хайдеггера или Николая Гартмана. В документации самой Palantir она определяется как операционный слой, или «цифровой двойник» организации: система объектов, свойств, связей, функций, разрешений и возможных действий. Например: предприятие, сотрудник, станок, заказ, груз, военная цель.
То есть пока речь идёт не о математической формализации духовного мира, а о структурировании данных и управленческих решений. Но это уточнение не отменяет поставленной вами проблемы, а, напротив, делает её более конкретной. Ведь тот, кто определяет, какие объекты существуют для системы, какие свойства считаются существенными и какие действия допустимы, действительно получает огромную власть. Он ещё не создаёт метафизику, но уже очерчивает машинное поле видимого и возможного.
Кто составляет словарь машины, тот не обязательно становится философом — но он уже участвует в устройстве власти. Если философы начинают определять исходные категории для государственного ИИ, это может оказаться не возрождением свободной философии, а возвращением придворного философа — только теперь состоящего не при дворе монарха, а при вычислительной системе.
Философия остаётся философией, пока сохраняет право поставить под сомнение саму задачу. Если же она только переводит волю заказчика на язык математических структур, это уже скорее технология легитимации.
Теперь о «глобальном фашизме».В официальном описании «Технологической республики» говорится прежде всего о США, их союзниках, сохранении могущества Запада, союзе государства с технологической индустрией и использовании инженерного мышления в целях обороны. Это программа технологического национализма или западного цивилизационного мобилизационного проекта, но пока не манифест единого мирового государства.
Поэтому «глобальный фашизм» я назвал бы не изложенной программой Карпа, а возможным прогнозом её дальнейшего развития. Такой прогноз может оказаться верным: инфраструктура, созданная для одного государства, способна экспортироваться, становиться международным стандартом и постепенно превращаться в операционную систему целого блока стран. Но между заявленным намерением, созданным механизмом и его возможной исторической мутацией всё-таки необходимо сохранять различие. Иначе наше предвидение незаметно превратится в уже якобы установленный факт.
При этом я не думаю, что неолиберальный глобализм и возможная централизованная цифровая тирания тождественны. Первый рассеивает власть между государствами, корпорациями, финансовыми институтами и информационными платформами; вторая стремится собрать данные, решения и принуждение в едином контуре. Противостоять можно обоим, но способы противостояния будут различными.
А вот с вашей постановкой вопроса о Великом инквизиторе я во многом согласен. Великий инквизитор ведь тоже знает, «кто, как и какими средствами» должен сделать людей счастливыми. Его ответ состоит в том, что ради хлеба, порядка и всеобщего счастья человека следует избавить от бремени свободы. Поэтому вопрос о субъекте преобразования действительно страшнее самой прекрасной программы преобразований.
Если Сад означает принудительное производство добродетельных и счастливых людей, то это уже не Сад. Это мягкий концлагерь, возможно даже населённый сытыми и психологически благополучными заключёнными.
В моём замысле задача институтов скромнее. Они не должны обращать человеческое сердце, определять смысл жизни или вести человека к спасению. Закон может остановить руку, но не может обратить сердце. ИИ может помочь обнаружить причиняемый вред, коррупционную цепочку или экологическое преступление, но не должен выносить приговор человеческой душе.
Именно здесь проходит различие между насаждением добра и ограничением зла. Первое неизбежно требует единого определения правильного человека. Второе может основываться на минимуме: нельзя пытать, лишать достоинства, отнимать право на защиту, превращать человека в средство, наказывать без доказательств и возможности обжалования.
Вы пишете, что гордыню можно преодолеть только в человеческом сердце, а не при помощи институтов. С этим я согласен. Но делаю из этого противоположный практический вывод.
Именно потому, что мы не можем гарантировать нравственное преображение правителя, чиновника, программиста, философа или самого Семипалина, нам необходимы механизмы, ограничивающие последствия их непреображённости.
Институт не спасает душу. Он лишь не позволяет неспасённой душе получить неограниченную власть. Разделение властей не создаёт смирения. Суд не уничтожает злобы. Право на апелляцию не делает человека святым. Но всё это способно уменьшить радиус действия чужой гордыни. Надеяться исключительно на нравственное воспитание правителей — значит снова ожидать появления безошибочного философа-царя.
Образование, которое вы называете едва ли не единственным действенным светским институтом, тоже не находится вне этой опасности. Более того, образование может стать самым мощным инструментом духовной тирании. Кто определит содержание воспитания? Кто будет воспитывать воспитателей? Какая философия получит право формировать «правильного человека»?
Человеческий учитель незаменим, но сама его человечность ещё не гарантирует свободы ученика. Учитель тоже может быть носителем государственной доктрины и требовать не понимания, а подчинения. Поэтому я против передачи образования ИИ, но также против монополии на образование — государственной, корпоративной, религиозной или какой-либо ещё. ИИ может быть библиотекарем, собеседником, переводчиком, тренажёром, но не духовным пастырем и не окончательным судьёй способностей ребёнка.
Культура действительно не может быть произведена по государственному плану. Нельзя запланировать Данте, Достоевского или Андрея Рублёва. Но культура всё же не «создаёт себя» в пустоте. Она живёт через язык, семью, школу, храм, издательство, мастерскую, университет, свободное сообщество. Государство не может написать великое стихотворение. Но оно может не посадить поэта в тюрьму и не заменить все человеческие голоса одним громкоговорителем.
Поэтому культура и институты для меня не являются альтернативами. Институты не создают небесный источник культуры, но могут либо защищать пространство его проявления, либо перекрывать его.
Необходимость «универсальной философии» я тоже понимаю иначе. Если под ней имеется в виду единая обязательная картина человека, Бога, истории и спасения, положенная в основание государственного ИИ, — это действительно прямая дорога к духовной тирании. Причём неважно, будет такая философия светской или религиозной: инквизиция прекрасно продемонстрировала, что религиозная санкция сама по себе не защищает от властной гордыни.
Возможно лишь минимальное общее основание: достоинство личности, свобода совести, запрет пытки, презумпция невиновности, право знать предъявляемое обвинение, право на защиту и обжалование. Это не метафизика спасения, а правила совместного существования людей с разными метафизиками.
Философ при ИИ не должен становиться верховным жрецом. Его задача — не передать машине окончательную истину о человеке, а выявлять скрытые предпосылки, задавать неудобные вопросы и переводить решения власти на язык, понятный обычному гражданину. Если решение, затрагивающее права человека, нельзя объяснить без посвящения в недоступную «метафизико-математическую» доктрину, такое решение не должно иметь принудительной силы.
Язык формул действительно может быть международным языком измерения. Но он не является «мировой резервной валютой» духовной жизни. Формула может описывать последствия поступка, но не достоинство личности. Как только человеческая ценность получает числовой коэффициент, перед нами уже не научное описание, а чеканка фальшивой духовной монеты.
Теперь — о «Матрице».Если ИИ начинает: определять цели человеческого развития; формировать обязательный образ «правильного» человека; оценивать ценность личности; распределять основные права в зависимости от рейтинга; заменять человеческого учителя и судью; скрывать основания своих решений; лишать человека возможности отказа и апелляции, — тогда вы совершенно правы: Сад превращается в Матрицу.
Если какие-то эпизоды романа позволяют прочитать замысел именно так, значит, граница в тексте проведена недостаточно резко. Ваше возражение помогает мне это увидеть. Но в том замысле, который я вкладываю в Цивилизацию Садовников, ИИ не должен выращивать заранее рассчитанного человека. Он может лишь помогать людям сохранять условия, в которых человек остаётся свободным, непредсказуемым и не сводимым к своему цифровому профилю.
Сам Семипалин не является гарантией от тирании. Если устройство Сада держится только на его нравственных качествах, значит, после его смерти всё может превратиться в противоположность. Настоящая проверка проекта состоит в том, способен ли он защитить человека не только от Хищника, но и от Садовника, уверовавшего в собственную непогрешимость.
Поэтому ваше сравнение с «Матрицей» не опровергает идею Сада, а указывает её нравственную границу: Сад становится Матрицей в тот миг, когда начинает выращивать не условия свободы, а заранее спроектированного человека.
Что касается «Розы Мира», не хочу изображать знакомство с Даниилом Андреевым по пересказам и отдельным цитатам. Его социально-политическую концепцию следует прочитать медленно и целиком — особенно теперь, когда вы указали на возможную перекличку с романом.
