Человек всё больше ощущает свою уязвимость перед наступающими технологиями искусственного интеллекта. То и дело из разных уголков мира долетают тревожные новости. Пророчат, что некоторые профессии скоро совсем исчезнут, так как реальных людей на этих должностях заменят программы или роботы. Уже сегодня вместо переводчика можно использовать Google-продукты; лётчиков заменяют беспилотные самолёты, официантов — роботы в кафе. Даже творчество — единственная, казалось бы, монополизированная человеком сфера, теперь становится доступна искусственному интеллекту: голограммы умерших артистов ездят в концертные туры, журналистское эссе, написанное программой, публикуют в одном из ведущих мировых СМИ.
В этом контексте дискуссия о человеке и человечности переживает свой кризис, на что не может не реагировать кино как часть актуальной культуры. Как представлена проблема в современном, чаще всего фантастическом, кино? Может ли блокбастер заставить задуматься над вполне христианскими аспектами проблемы человечности? Об этом мы беседуем с замечательным культурологом и философом Дарьей Зиборовой.
— Что такое человечность?
— Сложный вопрос, потому что в разговоре о человечности легко впасть или в сентиментальность, или в догматизм.
Речь идёт о чём-то по-настоящему таинственном, несводимом к простой доброте. Это качество мы безошибочно узнаём, когда встречаем в том числе в себе, но дать ему чёткое определение не можем. Умиление при взгляде на симпатичного котёнка или жалость к щенку — это сентиментальность, а человечность — прежде всего вызов и требование проявить то, что нелегко даётся, с помощью волевого усилия.
Человечность не действует в нас автоматически. В этом принципиальное отличие человека от собаки или кошки, которые, как бы себя ни вели, всегда будут оставаться собакой или кошкой; они не могут быть ничем другим, сущность дана им изначально. Человечность же не даётся сразу — её необходимо в себе вырабатывать, стремиться к ней, и в этом никогда нельзя достичь «потолка». Сегодня мы можем проявить себя, что называется, на высоте, а завтра — абсолютно бесчеловечно.
В подобном требовании ежедневного усилия над собой человечность совпадает со святостью. В святости тоже невозможно устоять без усилий: она как эскалатор, движущийся вниз, по которому ты должен постоянно бежать вверх, чтобы хотя бы просто оставаться на одном месте.
— Уже сегодня используются многие возможности искусственного интеллекта. С помощью специальных алгоритмов анализируется сетевое поведение человека, предугадываются его запросы, предоставляются нужные рекомендации. В таком мире человек кажется не более чем предсказуемой системой легко просчитываемых алгоритмов. Современное кино, по-моему, очень остро реагирует на этот страх окончательной разгаданности человеческого бытия. Но так ли легко рационализировать и просчитать человечность?
— В XX и XXI веках произошло настоящее переоткрытие человека. К концу XIX века казалось, что мы вроде бы немного разобрались с человеческой сущностью и даже дали ей определение: Человек Разумный. Но весь XX век продемонстрировал, что ведёт себя человек далеко не разумно, а даже если и так — результат всё равно может оказаться ужасным.
Всё это породило острый вопрос: что же такое человек? В подобных ситуациях всегда есть соблазн найти быстрый ответ. Например, когнитивная психология пытается представить нас как набор определённых реакций, обусловленных рядом причин. Предпринимаются попытки рассматривать наше поведение как ответ на те или иные химические реакции (В 2009 году американский учёный Ларри Янг сделал вывод, что любовь возникает вследствие особых химических соединений, действующих в человеческом мозге, в частности, окситоцинов — А.Н.). Но ведь эти химические процессы, влияющие на уровень гормонов, которые действительно вызывают раздражительность, страх или эйфорию, ничего не объясняют нам о человеке, не имеют отношения к личности.
Современное кино, как любая часть культуры, реагирует на это посягательство на тайну человека. С конца XX века нарастает тема искусственного интеллекта, способности человека устоять или нет в виртуализированной реальности. Особенно актуализировалась она в период пандемии, когда в онлайн перешли не только работа и обучение, но и вечеринки и встречи с друзьями.
Стоит вопрос о предсказуемости не только человека в компьютеризированном мире, но и самогó искусственного интеллекта. В этом контексте могу порекомендовать фильм «Она» Спайка Джонза (2013). На первый взгляд, лента повествует о том, как мужчина влюбляется в искусственный интеллект, у которого нет ни внешности, ни тела. Но на самом деле это одна из лучших киноработ об одиночестве и о том, что же на самом деле ищет человек. Героя фильма привлекает не красивая внешность, а общение и тепло. В общении он становится всё более человечным и честным с самим собой. И если вначале он зажат в рамках своей депрессии, то к финалу фильма открывает для себя радость жить.
— Раньше полагали, что возможности искусственного интеллекта будут уступать человеческим из-за неспособности рассуждать абстрактно, философствовать, делать научные открытия, заниматься творчеством. Но благодаря новейшему открытию механизма функционирования и взаимодействия так называемых «селективных» и «концептуальных» клеток мозга перенесение этих принципов на искусственный интеллект видится только вопросом времени. Уже в этом году в престижной газете The Guardian опубликовали эссе, написанное генератором текстов GPT-3 компании OpenAI.
И всё-таки есть ли надежда, что человек устоит? Как это возможно? Что об этом говорит кино?
— Надежда есть, но она не в том, что люди соберутся и одержат победу над искусственным интеллектом. Надежда как раз на человечность, которая умудряется прорастать там, где всё, казалось бы, закатано в асфальт.
Хочу привести в качестве примера фильм Дени Вильнёва «Бегущий по лезвию 2049» (2017), который меня поразил, хотя я ожидала увидеть рядовой высокобюджетный киберпанковский блокбастер о мрачном будущем. Режиссёру удалось снять потрясающее философское размышление о человечности. Он показал, что даже при самом ужасном развитии событий в будущем для неё всегда найдётся место.
Это фантастический фильм-притча, в котором ни один герой-человек не проявляет человечности. В том кошмарном мире когда-то были созданы репликанты — биороботы, являющиеся продуктом генной инженерии и выполняющие для людей особо опасные или унизительные поручения. В центре киноленты — Кэй, репликант на должности «бегущего по лезвию», в обязанности которого входит охота за бунтовщиками, восставшими против тотальной власти человека над ними (а именно: заложенной в них программы самоуничтожения по истечению срока эксплуатации). Но в нём есть тоска по своей подлинности, по душе, которой он лишён. Почти что история «Русалочки» Андерсена.
Неожиданно у репликанта появляется надежда, что он настоящий и рождён от матери, а его воспоминания и память — подлинные, прожитые реально. Однако буквально в течение дня надежда у него отнимается: он получает доказательства, что является действительно обычным репликантом с имплантированной памятью.
У Кэя есть виртуальная подруга — компьютерная программа, которая встречает его после работы, радуется ему, разговаривает с ним. И при этом так же тоскует по своей настоящести. Их общение кажется подлинным, ведь в нём есть место самым прекрасным проявлениям человечности, в том числе самопожертвованию.
И когда главный герой теряет всё, на пороге собственной смерти он вдруг выходит за рамки заложенной в нём программы охоты и служения войне и пытается помочь тихому, простому делу — чтобы дочь встретилась с отцом после тридцати лет разлуки. Незаметное, казалось бы, событие на фоне глобальной войны людей и репликантов. И зрителю вдруг становится очевидным, что это малое тайное дело как раз оказывается гораздо важнее всяких восстаний и прочих громких, пафосных событий.
Мне бы хотелось посмотреть на эту историю не с позиции проблем биоэтики и генной инженерии, а как на притчу с важнейшим вопросом: готовы ли мы узнать человечность там, где совсем не ожидаем её найти? В нашей готовности её узнавать проявляется и наша собственная человечность, и содержится надежда на наше спасение.
В последнее время мне интересно исследовать этот феномен: как в таком, казалось бы, «попсовом» кино, внутри массового светского сознания прорываются важные христианские проблемы. Вдруг в блокбастерах режиссёры приглашают задуматься о тоске по подлинности, о служении чему или кому-либо, о жертвенности. Современная культура как раз ищет такие необычные формы разговора о человечности, чтобы избежать пафосности, сентиментальности и достучаться даже до людей нерелигиозных.
— Сегодня в различных колл-центрах и чатах можно даже не заметить, что общаешься не с реальным человеком, а с ботом. По мере развития искусственного интеллекта грань будет всё больше стираться. И всё-таки в человеческом общении остаётся нечто неуловимое, что делает его уникальным и не поддающимся никаким искусственным имитациям. Что это?
— Думаю, речь идёт о тайне Другого, встреча с которым — это всегда встреча с чем-то иным. Если мы примем его инаковость, значит, дадим ему право оставаться непонятным и непостижимым не только для нас, но и для него самого. Это пространство тайны динамично, оно постоянно меняется в самом себе.
Прописать какие-то скрипты, имитирующие живое и достаточно непредсказуемое человеческое общение, наверное, сможет талантливый программист. Но что самое удивительное в уже упомянутом мною фильме «Она»? Отнюдь не то, что мужчина влюбляется в искусственный интеллект — люди вообще очень часто увлекаются иллюзиями. Но и искусственный интеллект влюбляется в человека. Это помогает иносказательно, через метафору говорить о том, что в реальности всегда остаётся место тому, что мы не способны просчитать и предугадать, что нужно принять как Божью волю, превосходящую все наши планы.
Любовь, доброта, встреча находятся за пределами наших возможностей разгадать их или создать. И это даёт ключ к пониманию тайны нашей собственной природы, того, что все настоящие вещи созданы не нами. Настоящее приходит в нашу жизнь, вторгается, как дар. И ещё один красивый момент есть в фильме: полюбив, эта искусственная девушка меняется и… разрывает общение с людьми. Потому что любовь выявляет правду о тебе самом, твою подлинность или ненастоящесть.
— Современный человек живёт в мире суррогатов и симулякров, бойко предлагаемых сферой электронных, информационных и маркетинговых технологий. Например, после смерти певицы Эми Уайнхаус её отец и обладатель прав на её наследие обратился в компанию Base Entertainment для создания максимально реалистичного 3D-изображения его дочери, которое смогло бы участвовать вместо неё в концертном туре. Каковы критерии реальности, подлинной человечности в таком мире? Как распознать нереальное?
— Человеческая душа так устроена, что, встречая что-то подлинное, она это узнаёт, в ней словно включается своеобразная память утраченного Эдема. Ещё Платон считал, что красивое мы узнаём, потому что когда-то имели возможность созерцать Красоту непосредственно, саму по себе. Эти механизмы метафизически очень сложны, но тайна узнавания крайне важна, потому что даёт надежду.
Душа пробуждается от встречи с настоящим. Настоящее дарит человеку ощущение того, что он на своём месте, даже если ему приходится переживать горе. Ведь горе тоже может быть имитированным. Если человек сомневается — настоящее ли то, что с ним происходит, — скорее всего, он имеет дело с ненастоящим. Когда любишь, у тебя нет сомнений; если влюблённый сомневается, это не любовь.
Дать чёткое определение или критерий настоящему невозможно, да и бессмысленно. Массовая культура нагнетает ситуацию, сеет ощущение, что всё очень сомнительно. И плохо не то, что мы начинаем анализировать, чтобы найти несомненное — как научил нас Декарт. Ужас в том, что, даже находя несомненное, мы продолжаем сомневаться просто потому, что увязли в состоянии тотального сомнения, у нас выбита почва из-под ног.
Человеку надо больше доверять своей душе. Не зря великие люди говорили, что душа человека по природе христианка: она всё понимает, ей просто надо совпасть с самой собой. Важно не мешать ей узнавать себя, и она придёт в ту точку, в которой должна находиться. По радости встречи мы узнаём настоящее, по тому, как просыпается и откликается оно в нас.
Тут мне могут возразить, что сама радость может нуждаться в критериях подлинности во избежание подмены её эйфорией. Думаю, разница в том, что радость порождает что-то хорошее — дела, изменения, перемену взгляда на мир, тогда как эйфория замкнута в себе. Радость открывает человеку его подлинного.
Настоящее не приходит в те точки, которые мы ему определили, и в то время, которое мы ему назначили. Настоящее непредвиденно. Как правильно говорит Александр Семёнович Филоненко, оно нас опрокидывает. Насколько здорово ни выглядела бы иллюзия, она всегда будет проигрывать, потому что «шита белыми нитками», и всегда будут видны «швы», даже если очень изящна работа иллюзиониста. В правде же присутствует совершенство, она порождает ответы, а не сомнения.
— Ещё одна очень важная тема современного кино, в частности фантастики, — проблема преступания человечности. Какие её формы наиболее опасны?
— Самое соблазнительное — решить, что мы уже обладаем человечностью, просто по праву своего рождения. Сократ ещё в IV веке до нашей эры говорил, что самая главная наша задача — узнать, кто мы есть на самом деле. И она не решаема раз и навсегда. Если есть ощущение, что мы всё постигли и состоялись, — скорее всего, что-то не так.
Если мы не совершаем никаких преступлений, это не значит, что мы достигли человечности. И как бы нас ни пугали трансгуманизмом (философское и культурное течение, поддерживающее использование достижений науки и техники для восполнения несовершенства человека — А.Н.), мне кажется, мы даже гуманизма ещё не достигли. Проблема не в том, чтобы дорасти до уровня какого-то великого святого, но — до своего собственного уровня, раскрыть замысел Бога о себе во всей полноте.
Массовая культура даёт ложное представление, что твоя жизнь должна выражаться в каких-то внешних проявлениях, а её пиковые формы надо тут же, немедленно демонстрировать окружающим. В эти внешние проявления гораздо легче поверить — в заполненную красивыми радостными фотографиями страницу в Instagram. Да и сам человек может забыть о своих внутренних проблемах, если внешне демонстрирует в социальных сетях якобы наполненную, счастливую жизнь на постановочных фотоснимках.
Жизнь не должна быть переживанием пиковых удовольствий, вынесенных вовне. А ведь сегодня кажется невозможным просто стоять на вершине горы, любуясь рассветом, и при этом не запостить фото или видео в stories. И это самый большой соблазн современной массовой культуры: не нам навязывают симулякры, а мы сами превращаем свою жизнь в симулякр. Мы перестаём быть — нам достаточно казаться.
