Вспомним основные сюжетные арки сериала и с помощью ученых и философов поищем ответ на вопрос: могут ли машины обладать сознанием и что будет, если мы их все-таки создадим.
Первые два сезона проекта супругов-шоураннеров Лизы Джой и Джонатана Нолана отличались тяжеловесным сюжетом, нелинейным кручением таймлайнов и многослойными метаконструкциями — запутаться, что есть настоящее, что прошлое и кто есть кто, было довольно просто. В преддверии третьего сезона и разбора главных философских идей сериала коротко распишем, что произошло в прошлых двух.
Краткий рекап первых двух сезонов
— Рискнем и напомним совсем уж очевидную вещь: «Дикий Запад» — стилизованный под пионерскую Америку XIX века тематический парк, созданный корпорацией «Гелиос». Парк населяют хосты — чересчур человечные андроиды с высокоразвитым искусственным интеллектом. Они запрограммированы ощущать себя людьми и верят, что живут в небольших поселениях американского фронтира.
— Несмотря на полнокровность (хосты состоят из плоти и крови) и гиперреалистичность андроидов, их создатели относятся к ним как к движимому имуществу вроде рогатого скота. В парк приезжают маскулинные толстосумы — поиграть в ковбоев и индейцев, изнасиловать дочь фермера и почувствовать себя Буффало Билом.
— Главный антагонист первого сезона, создатель парка Ричард Форд (Энтони Хопкинс), весь первый сезон считающий хостов лишь алгоритмами и кодами, инкорпорированными в искусственно созданные телесные оболочки, все же сдержал свое обещание, данное андроидам Арнольду и Долорес. Форд предположил, что хосты и вправду могут обладать сознанием, поэтому перезапустил их программу — хосты стали ощущать то, что мы назвали бы свободой и волей, и перестали слушать команды «Гелиоса».
— Во втором сезоне Долорес Абернати стала лидером хост-ополчения: андроиды объявили себя отдельным видом и начали охоту на людей. Все десять эпизодов детонировали взрывчаткой, перестрелками и скорее напоминали этнический конфликт.
— Весь первый сезон мы думали, что парк единственный в своем роде. Оказалось, что есть еще два (возможно, это еще не все): колонизированная Индия и феодальная Япония эпохи Эдо. Кроме того, мы наконец узнали, что парк располагается на острове. Например, в первом сезоне слегка намекнули, что «Дикий Запад» — лишь очень тактильная симуляция или виртуальная реальность: помните, прибыв на поезде к парку, Уильям открывает дверь фойе и оказывается в несущемся среди прерий поезде?
— Парк Дикого Запада стал еще коварнее: во втором сезоне оказалось, что Форд спроектировал парк не столько как ковбойский аттракцион, сколько как предлог, чтобы заманивать клиентов и записывать их сознание (специальное устройство в ковбойских шляпах считывало их модели поведения и мыслительный процесс). Избранные получат цифровое бессмертие в виде нейросети или будут помещены в телесную оболочку (само сознание умещается в небольшую шарик-сферу). Что будет с другими «нейродушами» — не ясно.
— Несколько странный бит: Арнольд, эмпатичный и самый гуманный хост, убивает Долорес, пытаясь помешать ей уничтожить человечество. Затем передумывает. Создает телесную копию директора Гелиоса Шарлоты Хейл. Помещает в реплику сознание Долорес. Та пристреливает оригинальную Хейл — теперь хосты и в кресле директорского стола. Сейчас будет путано: в третьем сезоне появится и тело Долорес, но чье сознание в оболочке — пока секрет (возможно, теперь его можно расщепить надвое или же там другой хост).
— Долорес-Хейл взамен не стала в отместку убирать Бернарда. Эти двое все больше напоминают зеркальных двойников вроде Бэтмена и Джокера, которые никак не могут покончить друг с другом. Какой смысл борьбы без достойного визави? Как говорит Джокер в одном из комиксов Брюсу Уэйну, «зачем мне тебя убивать? Что я буду без тебя делать?».
— В оболочке Хейл Долорес покинула парк и прихватила с собой пять сфер. Кого она выбрала в качестве союзников — неясно: ими могут быть как хосты, так и оцифрованное сознание кого-то из Делоса (нейросознание, вероятно, можно будет перепрограммировать, как угодно Долорес).
— К и так переусложненному «Наполеону» прибавился еще один слой: в парке открылся портал в «Долину за пределом» — своего рода киберзагробный мир. Войдя туда, хост или человек сбрасывают телесную оболочку и обретают виртуальное бессмертие.
— Мейв — первый андроид, осознавший свою механическую природу, — приобрела суперспособность: как какой-нибудь X-мэн, она научилась телепатически контролировать сознание других хостов. Мейв погибла, не добежав до Долины (в трейлере третьего сезона нам показали, что героиня вернется). Чуть ранее погиб Ли Сайзмор — глава сюжетников «Гелиоса»; весь второй сезон он и Мейв составляли самый комедийный дуэт сериала.
— Уильяма ака Человека в черном слегка занесло — настолько, что на остров за ним приехала его дочь. Уильям, настолько заигравшийся и более неспособный отличить реальность от игровых декораций парка, принял дочь за хоста и очередную уловку Форда. Уильям убивает дочь и только после этого понимает, что сделал.
Гид по философским идеям «Мира Дикого Запада»
Философский зомби
Первый сезон «Мира Дикого Запада» очертил множество важнейших вопросов нейрофилософии, философии сознания и машинного обучения (раздел теории искусственного интеллекта), но, пожалуй, главным был вопрос философского зомби. Философский зомби — гипотетический эксперимент, ставящий вопрос: может ли существо, похожее на человека, но не являющееся им, обладать схожим сознанием. Нельзя найти более удачного примера, чем один в один похожие на людей хосты.
Основатель парка Дикого Запада Ричард Форд (Энтони Хопкинс) рассматривал хостов как технические объекты, которые симулируют мыслительную деятельность, гиперреалистично одергиваются от боли, плачут, скорбят, но не притязают на обладание всем вышеперечисленным. Если перевести на язык разрабов, для Форда они лишь слабый искусственный интеллект (СИИ) — утрамбованный в оболочку алгоритм, симулирующий мысль. Его партнер Арнольд (Джеффри Райт), напротив, считал, что хосты склоны к так называемому глубокому обучению, то есть способны моделировать многоуровневые абстракции на основе многослойных сетей — другими словами, не подражать, а продуцировать реальное, ничем не уступающее человеку сознание. Помните, главным поблескивающим макгаффином первого сезона, за которым охотился Уильям ака Человек в черном, был центр лабиринта? Центр, как часто и говорили Уильяму, предназначался не для него, а для андроидов. Арнольд верил, что через череду апдейтов, очень схожих с эволюцией, СИИ достигнет того самого центра — точки самосознания, близкой к человеческой.
Философ Джон Серл утверждает, что независимо от того, как сложны современные смартфоны, они никогда не смогут мыслить. По его мнению, если вы хотите изобрести мыслящий и чувствующий автоматон, то конструировать его нужно из запчастей, модулирующих сознательный опыт: нервная система, нейроны и дендриты (или их очень точные подобия). Если Aleksa или Siri скажут: «Я мыслю, значит я существую», Серл ответит по-станиславски, но в самоосознанность хостов он, думается, поверил бы. В первом сезоне герой Хопкинса рассказывал, что первые модели были исключительно механическими роботами с СИИ, в то время как новое поколение андроидов обзавелось плотью, кровью и нервной системой (правда, конструируемой из белой пастозной субстанции). 1:0 в пользу сознания андроидов.
Философы сознания Дэниел Деннет и Пол Черчленд также сводят идею сознания к материалистическому подходу. По их мнению, сознание может быть объяснено исключительно в нейробиологических терминах: если у субъекта есть мозг (или его подобие органического или биомеханического происхождения) и сложная система психических импульсов, то есть и разум. В первой серии второго сезона по-ганнибаллектерски нам продемонстрируют, что у хостов есть не только органический мозг, но и капсула, содержащая сложный нейроалгоритм.
Деннет и Черчленд также предполагают, что носители ИИ вроде хостов также могут считаться полноценными мыслящими субъектами еще и из-за так называемой перформативной теории идентичности. Философы подчеркивают: неважно, родились ли вы из пробирки, как Луиза Браун (первый в мире ребенок, родившийся в результате экстракорпорального оплодотворения), клон, как овечка Долли, или «естественнорожденный», — если вы способны соответствовать социуму, его правилам (щипать травку, пользоваться Google) — собственно совершать «перформансы», принятые той или иной группой, — то вы обладаете сознанием.
Host ex machina
В 1889 году Ричард Киплинг писал: «Запад есть Запад, Восток есть Восток». Если бы автор «Книги джунглей» знал, как точно эта строчка опишет проблемы робоэтики и отношение к не/человеческим существам в пределах разных культур. Скажем, почтенный декорум японцев 1970—1980-х годов к первым роботам американцу показался бы явлением странным, если не инопланетным. Для западной мысли Япония, Тайвань и Сингапур ходят в чудаках: они предпочтут суррогатного пса полнокровному, им свойственна «мимимизация» роботов и вместе с тем почти что институционально выработанная рабочая техноэтика — к сотруднику-андроиду отнесутся с тем же уважением, что и к человеку. Ветеран робоинженерии Масахиро Мори верил, что роботы с СИИ способны не только достигнуть проблеска сознания, но и стать Буддой. В книге «Будда в роботе» Мори рассказывает, что андроиды не только поравняются с человеком в перформативной состоятельности и IQ, но и смогут предпринять ментально-религиозное паломничество через буддийские джаны, сатори и нирвану.
Шоу Нолана и Джой красноречиво показало полярно противоположную практику: для США андроид — всего лишь копеечный барашек. Тематический парк (особенно первого сезона) стал не только психотическим Эдемом вседозволенности и маскулинности, но и слепком западной культуры. За пределами парка его клиентура не позволяет себе мизогинистических высказываний, но насилует хостов женского пола, не разделяет идей Пол Пота, но перерезает целые коммуны андроидов. Три сезона «Мира Дикого Запада» были очень многим: дистопией, сай-фай-вестерном, но и еще масштабным триптихом о собственно Западе — новом темном Средневековье, выкрашенном в прогрессивное свободомыслие. Если забыть о контексте парка, то и в нашем мире по гамбургскому счету получим тоже самое: новая несправедливость и новый дисбаланс по отношению даже к самым умным нейросетям.
Восстание роботов
В конце первого сезона андроиды Мейв и Долорес осознали то, что станет зачином второго, — превосходство хостов перед создателем. Андроиды практически не могут умереть, летальные ранения могут быть залатаны, сознание — совсем как «Видоизмененном углеводороде» — возможно переместить в другое тело.
Однако, в отличие от Мейв, Долорес пришла к выводу, что превосходство ее лабораторной, биомеханической жизни становится первой ступенью к социальной инженерии. В начале второго сезона она впервые назвала хостов отдельным видом — и все десять эпизодов нельзя было не провести параллель между ее политикой уничтожения людей и этническими конфликтами ХХ века. Пресловутое восстание роботов стало не истоптанным тропом, но размышлением о Rassenhygiene («расовая гигиена», как это называли немцы) и евгенике, пропущенным через оптику взаимоотношений человека и ИИ.
«Мы думали, вы боги» — фраза финального эпизода первого сезона. Витрувианским человеком — эмблема и один из магистральных референсов шоу, — подобием Бога становятся сами хосты. Богоподобными их делает так называемое информационное бессмертие, что позволяет мегаломанам вроде Долорес решать, что в таком случае люди недостойны жить. Не будет большим преувеличением сказать, что второй сезон напоминал Руанду, Боснию и Герцеговину, политику красных кхмеров, вместе взятые.
Антропоцентризм и зоополитика
В одной из серий первого сезона Человек в черном говорит Кисси — одной из второстепенных хостов, что для людей все жители парка не более, чем скот. Хосты, если подумать, — это заключенные ранчо и ферм искусственного Дикого Запада, которыми владеют некоторые андроиды (например, отец Долорес Абернати). Они, словно экзотические виды, содержатся взаперти и не могут — конечно, до поры до времени — покинуть своих локаций, предписанных им доктором Фордом.
Фраза Человека в черном проводит интересное категориальное различение между людьми и хостами и, главное, очерчивает дегуманизацию андроидов. Чтобы провести такое различие, нужно достигнуть двух ассоциаций: идентификации таргетированной группы (хостов) с особым типом живых существ, не являющихся людьми, и ассоциации данных живых существ с уместными негативными чертами. Конечно, и Форд, и Человек в черном ассоциируют андроидов с движимым имуществом, подобно рогатому скоту, а их признаки интеллекта для них оборачиваются потугами несмышленого теленка. Философ Жильбер Симондон в курсе лекций 1967 года говорил, что отдельные ситуации порождают у животных если не проблески сознания, то хотя бы проблески какой-то мыслительной деятельности. В этом же ключе мы можем говорить о нарциссизме людей и их отношении к хостам в шоу и к нейросетям — в реальной жизни.
Уже в середине первого сезона любой эмпатичный зритель убеждается в том, что действия и мысли хостов выходят за пределы симуляции. Тем не менее «фордианцы» (назовем так последователей героя Хопкинса) так не считают — это пушечный скот. Животные всегда были частью политики (отсюда термины философа Жака Деррида «зоополитика» и «зоовласть»), на их эксплуатации, разведении или убийстве строились первые дороги в Риме, а сейчас — финансовые империи. Не будет преувеличением сказать, что человек относится к корове как нацист. Во взаимоотношении с животными мы выстроили очень кровавую иерархию, заключающуюся в следующей цитате: «Каждое живое существо, за исключением Человека, может быть забито», — пишет философ Донна Харауэй. Это относится и к хостам — вернее, относилось. Роботы теперь могут не только забрать чью-то работу, но и дать сдачи.
