5759
Полет Starship, Илон Маск и нейросетевые особенности марсианской демократии
20 апреля 2023 года компания SpaceX Илона Маска провела запуск сверхтяжелой ракеты Super Heavy с кораблем Starship. Пуск можно считать частично успешным, поскольку самая дорогая постройка — стартовая башня уцелела. «Программа-минимум» была выполнена. Несмотря на то, что три двигателя «Раптор» вышли из строя[1], ракета поднялась на высоту свыше 35 километров. Полученные данные о функционировании двигателей и оборудования позволят исправить конструктивные недочеты и более точно настроить программное обеспечение по управлению космическим кораблем.
Можно констатировать, что человечество вступает в новую эпоху, когда космические путешествия и перспектива колонизации Луны и Марса из области научной фантастики становятся реальностью.
Если производство кораблей Starship будет масштабировано до количества, превышающего 50 единиц в год[2], то стоимость вывода на орбиту одного килограмма груза сократится в десятки и сотни раз. Купить новенький (ну или подержанный) космический корабль сможет позволить себе любой бизнесмен, даже не входящий в первую сотню списка «Форбс», что уже в ближайшее десятилетие породит индустрию аренды, обслуживания и торговли подержанными кораблями.
Помимо освоения космического пространства (перспективы добычи ресурсов на Луне и в поясе астероидов обещают земным корпорациям астрономическую прибыль), Маском поставлена амбициозная политическая цель по колонизации Марса. И ее достижение приведет к радикальной трансформации всей человеческой цивилизации. Вот только будет ли общество на новой планете более совершенным, чем на Земле, или возьмет с собой к звездам все недостатки из прошлого? И как нейросети, а точнее гибридные, человеко-машинные системы принятия решений могут помочь в управлении на демократических принципах? Потому что массовое внедрение ИИ в процедуры управления и голосования сделает предопределенным результаты любой политической кампании и откроет путь к диктатуре.
Трудности колонизации
Грегори Андерсон в статье «Политика заселения космоса» считает, что колонизация будет напоминать предыдущие волны земной миграции, и переселенцы станут сторонниками «чистой демократии», так как будут представлять собой «небольшие группы высокообразованных, высокомотивированных, самодостаточных, преданных сообществу, у которых под рукой будет вся необходимая информация»[2].
Исследователи Томаш Войтович (Tomasz Wójtowicz) и Конрад Шоцик (Conrad Szocik)[3] сводят проблему развития политической системы Марса к выбору между демократией и другой формой правления, делая акцент на «прямой демократии» или «технократии».
Однако одно самых фундаментальных сочинений о будущей колонизации планеты «Красный Марс»[4] (входит в «Трилогию о Марсе») написанное Кимом Стэнли Робинсоном (Kim Stanley Robinson) и предполагает более вариативный сценарий развития марсианского общества, в контексте условий влияющих на марсианскую политику.
Если на начальном этапе колонизации Марс будет полностью зависеть от ресурсов Земли, ни о каком самоуправлении и политическом развитии говорить не придется. Организационные структуры будут напоминать гибрид армии, научного института и транснациональной корпорации (идеи социалистического пути и «корпоративного Марса» подробно разбирает Михаил Шевчук в публикации «Марсизм-ленинизм»[5]). Управлять Марсом будет «военно-научная компания» или «государственно-частное партнерство по освоению Марса». Вполне возможно, что и марсианский проект Илона Маска со временем разрастется до громоздкой и трудноуправляемой бюрократической структуры. Вероятнее всего, большая часть процессов управления будет автоматизирована и поручена искусственному интеллекту. Возможно, именно данный факт и заставил Илона Маска быстро «переобуться» со своей категорической позицией по поводу ограничений на развитие искусственного интеллекта, и взяться за разработку собственной модели «сильного ИИ» в компании «X.AI»[6] с участием Игоря Бабушкина[7].
В случае со сценарием конкуренции, компромиссным вариантом освоения Марса несколькими корпорациями и государствами в рамках существующих международных правовых договоров о Космосе[8], наиболее вероятной формой является «ограниченный суверенитет», согласно которому «участники колонизации могут занимать ограниченные участки марсианской земли и могут претендовать на исключительные экономические права в пределах этой зоны, воздерживаясь от претензий на политический суверенитет»[9]. Тогда мы сможем увидеть несколько вариантов марсианских социальных систем и, возможно, конкурентную борьбу между ними с использованием технологий ИИ.
Первое время на Марсе на руках у колонистов не будет денег как инструмента расчетов (зависимость от продуктов извне приведет к тому, что распределение будет нормировано как в высокоразвитых социалистических системах), поэтому вполне возможны элементы «марсианского коммунизма», но под жестким контролем корпорации (или искусственного интеллекта). Единственным аналогом фиатных денег могут быть специфические «трудодни», «нормы выработки» и достигнутая «профессиональная компетентность». Заработная плата будет актуальна в случае работы «вахтовым методом», предусматривающим периодическое возвращение на Землю. Классический либеральный капитализм на Марсе в этот период «был бы трагедией»[10] для колонистов.
Первоначально марсианское общество будет состоять только из инженеров, ученых и высококвалифицированных рабочих. В таких сообществах нет необходимости в полиции, системе образования и других атрибутах традиционного государства.
Однако даже «80-тысячная колония на Марсе уже будет нуждаться в механизмах самоуправления»[11]. По мере роста «гражданской» части населения, не входящей в корпорацию по освоению Марса, потребуются изменения в политической системе. «Военный корпоративизм» должен быть заменен другой более эффективной формой правления.
Когда численность населения марсианского города-государства сравнится с современным Сингапуром и торговля с Землей кратно возрастет, социальная организация так же усложнится. Аналогия с современным городом-государством или античным полисом, по всей видимости, является наиболее удачной исторической параллелью с колонией на Марсе.
Со временем экономика станет самодостаточной и будет все меньше и меньше зависеть от ресурсов с Земли. Одновременно марсианские власти смогут проводить эффективную миграционную политику, привлекая наиболее компетентные и молодые кадры для своего развития, как сейчас это делают развитые государства. И именно на этом этапе, по аналогии с историей Североамериканских колоний, Марс впервые сможет заявить о политическом суверенитете и даже опубликовать свой «Билль о правах» и Конституцию, как отмечается в публикации Ричарда Холлингема на BBC[12].
Фактор искусственного интеллекта делает развитие политической системы Марса еще более непредсказуемым: будут ли политические решения, принимаемые с его участием, похожими на прототипы из земной истории, или все действия подчинятся холодной машинной логике?
Дальше сценарий может повторить земную историю, как утверждается в статье Popular Science[13], со стандартным сюжетным ходом: восстанием против правительства Земли или марсианской корпорации и достаточно долгим последующим периодом противостояния в формате «холодной войны» с периодическими обострениями, ка как это показано в сериале «Пространство»/«Экспансия»[14]. Разумеется, для этого потребуется как минимум следующее поколение «марсиан»: должны родиться дети, которые уже не смогут без серьезной адаптации вернуться и жить на Земле хотя бы по причине низкой гравитации родной планеты.
Где ошибается Илон Маск?
Представительная демократия несовершенна для современных обществ, принцип «один человек — один голос» создает возможности для манипуляции и злоупотреблений. Сам факт существования института политтехнологов и специалистов по политическому PR означает манипуляцию общественным мнением, воздействие на результаты голосования, а значит, «искажение» сигналов обратной связи для политической системы, самообман, закольцовывание, логический круг в аргументации, и «тоннельное видение» руководителями актуальных проблем и сценариев будущего, что в конце концов приводит к политическому кризису и конфликту.
Внедрение электоральных и креативных технологий, основанных на нейросетях и продвинутых алгоритмах — продолжателях дела ChatGPT — сделает результаты любого голосования предопределенным. Свободу политического выбора можно будет оставить за скобками при принятии решений.
«Прямая демократия» на Марсе, которую отстаивает Илон Маск в своем интервью ученому и блогеру Лексу Фридману[15] и других выступлениях, на практике будет возможна только ограниченный период времени и только без применения процедур, связанных с искусственным интеллектом. При игре «вдолгую», она будет нестабильной, как отмечает уже Эзра Кляйн (Ezra Klein)[16]. Как только размер популяции превысит определенные объемы, возникнет необходимость делегировать полномочия и процедуры выработки, принятия и исполнения решений. И возникнет соблазн поручить большую их часть «товарищу генеральному секретарю ChatCPT».
С увеличением числа колонистов в последующих поколениях любые «технократические» и «меритократические» правила и институты деградируют до олигархии, автократии и диктатуры в процессе отрицательного кадрового отбора. И в лучшем случае мы вернемся к традиционной форме представительной демократии с ее коррупцией и монополиями, неравенством возможностей, а в худшем — скатимся к цифровому тоталитаризму с его бескровной «вышей мерой» наказания — изгнанием через шлюз без скафандра.
Не менее опасна и «корпоратократия» с сосредоточением власти в руках формально коммерческой структуры, даже если она не будет полностью контролироваться каким-либо из земных правительств, а суперкомпьютером. Гигантская транснациональная корпорация, пользуясь своим монопольным правом, будет использовать не только политические, но и экономические методы принуждения и диктата вплоть до лишения своих подданных кислорода как в фильме «Вспомнить все»[17] с Арнольдом Шварценеггером (Arnold Schwarzenegger).
«Технократия» или власть экспертов, технических специалистов, принимающих решения ради общего блага, так же имеет тенденцию к превращению в диктатуру или олигархию с учетом стремлений элиты монополизировать свои полномочия и доступ к ресурсам и передать их по наследству. Альтернатива — все тот же искусственный интеллект, «Планирующая машина»[18].
«Прямая» демократия возможна только в случае равенства всех участников социума по социальным характеристикам (в древности такое было возможно в рамках военной демократии в обществе, еще не вышедшем на уровень создания государства из родоплеменных отношений). Для «прямого» голосования и контроля за исполнением результатов нужно модернизировать сам механизм волеизъявления и подсчета голосов.
Однако из данного цикла повторения на Марсе всех проблем земной истории все же есть выход. Для этого достаточно поддерживать исходный настрой колонистов, распространить «дух пионерства-первопроходчества» на все последующие поколения и обеспечить «прогрессивный подбор»[19] управленческих кадров.
«Те, кому нечего ждать, садятся в седло»[20]
Вне зависимости от фактических социальных убеждений и политических взглядов мы можем предположить тот факт, что первые марсианские колонисты будут существенно сильнее, умнее и талантливее и превосходить по показателям «софт склиз» и «хард скилз» среднестатистического жителя Земли.
Эти новые мигранты, «лишние на Земле люди» будут похожи на номадов, конкистадоров, безместных самураев-ронинов, протестантов-переселенцев из Европы, казаков в Сибири, новгородцев-ушкуйников и комсомольцев на стройках новых городов. С одной стороны, такие «космономады» будут обладать высокой «пассионарностью» Льва Гумилева, «социальной солидарностью» Эмиля Дюркгейма (Émile Durkheim) или «асабийей» средневекового Ибн Халдуна. Такие качества позволят им противостоять возможному диктату и принуждению — как со стороны отдельного человека, так и гипотетической «Планирующей машины». Высокий интеллект, осознанное потребление и поведение будут гарантировать подчинение справедливым нормам и правилам, но в то же время такая «паства» будет предъявлять повышенные требования к компетенциям и личностным качествам управленцев.
Ключевая задача будущих поколений Марса — сохранить эту особенность, иначе не позднее чем через три поколения начнется деградация морально-волевых качеств управленческой элиты, как и в традиционных замкнутых земных обществах, возникнет соблазн поручить процедуру управления искусственному интеллекту.
«Нейросетевая» демократия и механизмы принятия политических решений
Термин «социальная сеть» возник задолго до компьютерной эпохи и относится прежде всего к так называемым «сетям доверия», возникающих в узких, замкнутых социальных группах таких как административная элита, «мафия» или этническая община, живущая в чуждом культурном окружении. Подобные сообщества характеризуются помимо высокого уровня солидарности и доверия друг другу более эффективными обменом ресурсов с внешней средой, благодаря чему ее члены живут в более обеспеченной жизнью, чем представители остального общества.
«Сети доверия» могут как и подтачивать, разрушать государственные институты, так и создавать новые страны и общества, как это было в случае с Нидерландами[21], Североамериканскими колониями и другими государствами. В целом социальная система с высоким уровнем солидарности и доверия более эффективна, принимает качественные политические решения. И остается только распространить ее на все марсианское общество.
В нейросетевой демократии решения принимаются в форме перманентного референдума — открытого, не тайного голосования всеми членами общества по широкому спектру вопросов, однако учет голосов ведется не в пропорции «1 к 1», а в соответствии с профилем компетенции и опытом каждого члена, влияющими на его «электоральный вес». Искусственный интеллект «не голосует», но лишь подсчитывает итоги и по универсальным открытым формулам показывает весовые коэффициенты: вся информация о голосовании доступна каждому участнику, и ее легко можно перепроверить со стороны.
Например, роль эксперта в области строительства атмосферных станций существенно возрастает при принятии политического решения и в сфере терраформирования. Однако в вопросах торговых отношений Марса с Землей при отсутствии соответствующих компетенций и опыта «электоральный вес» данного колониста становится «меньше 1».
Таким образом, «технократом» становится каждый член нейросетевого демократического общества: чем больше профессий и компетенций им освоено[22], чем больше у него социального опыта — тем выше его веса как «нейрона» сети, принимающей политические решения. В отличие от идеи «социального рейтинга», предполагающего ограничения в правах или преимущества в зависимости от лояльности политической системе, «нейросетевая демократия» требует от человека не покорности и следования нормам, но активного участия, вовлеченности в социально-политическую жизнь.
В системе принятия решений автоматически реализуется принцип «меритократии», передачи власти наиболее способным и компетентным — без закрепления этого права по наследству, с обязательной ротацией кадров.
Каждый человек — это важный элемент в многослойной и многомерной нейросети, вырабатывающей, принимающей и отслеживающей исполнение политических решений. Режим выбора или голосования — это функция «активации» нейрона, позволяющая высвободить его компетенцию для участия в принятии политического решения и отслеживания результатов, реализации обратной связи для политической системы.
Демократия, построенная на нейросетевой модели с многомерными «электоральными весами», механизмами валидации и регуляризации политических решений, контурами обучения и самообучения при принятии решении за счет смешанных человеко-машинных, гибридных систем, опирающихся на машинную логику и человеческую этику, будет более устойчивой от деградации и перерождения, чем «представительная» или «прямая» демократии.
Данный подход по аналогии с принципами «машинного» или «глубокого» обучения моделей и нейросетей должен способствовать минимизации функции «потерь» или ошибок, совершенных политической системой. Нейросетевая модель будет обеспечивать должный уровень политической поддержки гражданами Марса политической системы и способствовать выполнению их политических требований и запросов. Прозрачность голосования, механизмов подсчета и принятия решений, «неучастие» искусственного интеллекта в политической агитации станут страховочными механизмами от перерождения в тоталитарную антиутопию с диктатором из плоти и крови или из интегральных микросхем.
Разумеется, Илона Маска его последователи и первопоселенцы могут признать пожизненным президентом или повелителем Марса, но в таком случае можно надеется лишь на благоразумие самого визионера, чтобы он, подобно древнеримскому императору Диоклетиану, запустив процессы и отстроив систему, разделил бремя управления между другими, и добровольно удалился от власти к себе на фазенду, выращивать марсианскую капусту.
[1] Рассинхронизация большого количества двигателей и выход их из строя было «головной болью» еще Сергея Королева с проектом ракеты «Н-1»
[2] По мнению Роберта Зубрина, инженера и популяризатора космонавтики, высказанному в журнале National Review https://www.nationalreview.com/2020/02/mars-elon-musk-plan-to-settle-red-planet/
[3] https://www.thespacereview.com/article/4144/1
[4] https://doi.org/10.1016/j.techfore.2021.120619
[5] https://www.amazon.com/Red-Mars-Trilogy-Stanley-Robinson/dp/0553560735
[6] https://trends.rbc.ru/trends/futurology/61239aea9a79476803923002
[8] Ведущий ученый из ИИ-лаборатории DeepMind, принадлежащей корпорации Alphabet (Google).
[9] Межгосударственный «Договор о принципах деятельности государств по исследованию и использованию космического пространства, включая Луну и другие небесные тела». Вступил в силу 10 октября 1967 года
[10] https://doi.org/10.1016/j.spacepol.2016.05.008
[12] https://trends.rbc.ru/trends/futurology/61239aea9a79476803923002
[13] https://www.bbc.com/future/article/20140709-why-mars-needs-a-bill-of-rights
[14] https://www.popsci.com/astrobiologist-wants-liberate-future-mars-colonies/
[15] https://www.imdb.com/title/tt3230854/
[16] https://youtu.be/DxREm3s1scA
[17] https://www.vox.com/2016/6/2/11837770/heres-the-unusual-way-elon-musk-would-make-laws-on-mars
[18] https://www.imdb.com/title/tt0100802/
[19] Кибернетический антагонист из серии романов «Дитя звезд» Джек Уильямсона, Фредерик Пола, управляющей тоталитарной империей «План человека».
[20] Автор идеи «прогрессивного подбора» в сложных системах — выдающийся русский ученый А. А. Богданов
[21] Виктор Цой, песня «Спокойная ночь»
[22] Минашин Николай Игоревич, «Сети доверия и формирование государства (опыт Нидерландов)» // Полития. 2007. № 3. URL: https://cyberleninka.ru/article/n/seti-doveriya-i-formirovanie-gosudarstva-opyt-niderlandov
[23] При обязательном всеобщем, равном и бесплатном доступе к образованию и программам профессиональной стажировки и повышения квалификации.
