Предисловие

Данила Медведев - лидер Российского трансгуманистического движения (РТД) - организации, пропагандирующей постепенное изменение природы человека под влиянием бурно развивающихся технологий. Составной частью трансгуманизма является иммортализм - концепция о достижении человеком телесного бессмертия под влиянием тех же технологий - в частности, технологии замораживания трупов с последующим оживлением, технологии протезирования (в том числе мозга), вживления неких компьютеров в мозг или перезаписи содержимого человеческого мозга на компьютерные носители. Данное открытое письмо было предназначено для публикации на сайте РТД, но после долгих обещаний руководство Движения, его все-таки решили не публиковать.

Уважаемый Данила!

В своих неустанных хлопотах, связанных с обеспечением человеку бессмертия, Вам, наверное, уже не раз приходилось сталкиваться с высказываемыми скептиками сомнениями, что после оживления замороженного тела, после создания искусственного заменителя тела или после перезаписи содержания мозга на искусственные носители новая личность не сохранит сознания старой. Возможно, Вы уже устали возражать на эти сомнения. Но не возникать они не могут по простой причине: все упомянутые имморталистские процедуры направлены на воспроизведение и сохранение объективных свойств личности, а личность объективными - то есть наблюдаемыми со стороны внешних наблюдателей - свойствами не исчерпывается.

В философских рассуждениях о человеке привычно исходить из предположения, что на человеческую личность доступен взгляд «с наружи» и «изнутри». Снаружи, с точки зрения посторонних объективных наблюдателей мы, казалось бы, можем видеть все ее свойства - от химического состава тела до черт характера. Если бы у нас была возможность расшифровывать, что творится в нейронных сетях, то посторонние наблюдатели могли бы читать даже мысли и содержание воспоминаний. И все же, ни какое объективное наблюдение не может прикоснуться к «взгляду изнутри», который доступен только данному человеку, и во всей Вселенной - только ему, и никому другому. Немецкие философы - классики называли эту способность человека чувствовать и осознавать Самосознающим Я. Традиционно предполагается, что самосознающим Я обладают люди, может быть животные, но скорее всего не обладают неодушевленные тела, в частности современные компьютеры.

В свое время автор этих строк был свидетелем публичной дискуссии, где Вас спросили, будет ли человек после размораживания и после перезаписи на компьютер той же самой личностью, что и раньше. Вы на это, кроме прочего ответили, что, скорее всего это так, поскольку для человеческой личности сильные изменения не наносят большого ущерба - в детстве всякий из нас был совсем другим и по телосложению, и по химическому составу, и по свойствам характера, и, тем не менее, мы не считаем, что мы стали другой личностью. Спрашивается: почему мы должны бояться изменений в организме, связанных с имморталистскими процедурами, если мы не боимся изменений, порожденных естественным течением времени?

Этот аргумент - его можно было бы назвать «аргументом от детства» - очень часто по разным поводам применяется в спорах о сознании, он очень силен, но какие из него можно делать выводы? Время изменяет человека. А иммортализм пытается остановить время, сделать человека бессмертным - то есть в чем-то неизменным. Не получается ли, что иммортализм занят вопросами, вообще не имеющими отношения к сохранению идентичности личности (самосознающего Я)?

«Аргумент от детства» как раз и свидетельствует, что все доступные объективному внешнему наблюдению специфические особенности личности - свойства характера, содержание воспоминаний, конкретный состав молекул, из которых состоит мозг - не имеют отношения к идентичности человека как самосознающего Я. Между тем, копирование личности на компьютере или создание иной кибернетической копии человека как раз и преследуют цель как можно более точного воспроизведения содержания нашего мозга - содержания памяти, особенностей реакций и так далее. Зачем же нужно их копировать, если человек в своей естественной жизни не копирует их, а изменяет? Зачем нужна точность там, где не помеха и самое серьезное различие? Аргумент о разнице между детским и взрослым содержанием психики как раз и говорит, что точность воспроизводства этого содержания не важна для установления идентичности Я. Таким образом, копирование и перезапись психики направлено на достижение целей, не имеющих отношение к задаче воспроизводства человеческого Я.

Копирование преследует цель воспроизводства тех особенностей психики, которые на определенном этапе были связанны с данным самосознающим Я - но, как мы знаем, это же самое «Я» могло бы быть связано и другим содержанием психики, другими воспоминаниями , другими чертами характера - и без ущерба для себя. Амнезия или даже «подмена» воспоминаний не делает этого человека другим, это Я - другим, между тем, вы мечтаете о как можно более точном воспроизводстве воспоминаний. Можно обладать точно такими же, как у меня воспоминаниями, и точно такими же индивидуальными чертами - но не быть мной. И наоборот - я в процессе личностной эволюции могу сменить свои черты характера, но останусь тем же.

Таким образом, имморталисты могли бы ничего не копировать - они могли бы просто конструировать нового, более совершенного «постчеловека», не связанного со старым ни воспоминаниями, и ни внешним сходством, ни какой иной преемственностью. А потом бы осталось только переселить в это новое совершенное тело наше прежнее самосознающее Я. Вот только мы не знаем, как это сделать.

Насколько я могу судить по вашим высказываниям (поправьте, если ошибаюсь), вы считаете что изменчивость человеческих воспоминаний, личностных характеристик и телесного субстрата означает расплывчатость и неопределенность границ существования самого «Я» во времени. Я слышал ваше мнение, что идентичность человека в детстве и в старости, до и после сна, до и после клинической смерти - вопрос конвенции. Но что такое конвенция? Конвенция есть соглашение людей по поводу их поведения по отношению к некоему третьему объекту. Конвенция не решает вопрос принципиально, а только облегчает функционирование социального механизма. Конвенция признает человека после 18 лет совершеннолетним - хотя одни люди и в 25 лет остаются детьми, а другие уже в 14 лет кормят семью. Конвенция признает человека сумасшедшим и в соответствие с этим подлежащим или не подлежащим уголовной ответственности - хотя границы между нормой и патологией крайне размыты. Конвенция не принимает во внимание субъективное мнение человека. В соответствие с конвенцией вас могут запереть в психиатрической лечебнице - хотя ваша душа будет рваться наружу и кричать, что вы не безумец, а просто видите мир по другому и вам открылась истинная сущность вещей. Но в вопросе о безумии, допустим, мы еще можем доверять мнению специалистов. В вопросе о сознании, о существовании самосознающего Я ничье мнение не имеет значение, кроме мнения самого Я. Иначе: конвенция признает робота или оживленный труп за личность, поскольку он будет говорить как личность, вести себя как личность и реагировать на все, как личность, и никто не заметит, что это по сути «зомби», что он не чувствует и не сознает себя - также, как не чувствует и не сознает себя человек в глубоком сне, или, предположительно, не осознают и не чувствуют себя камни и компьютеры. На вопрос, «Ты ли тот самый Иванов?» зомби будет отвечать: «Да, я тот самый Иванов» - и никто не сможет заглянуть ему в душу и увидеть, что он внутренне мертв, что его фиксируемые аппаратурой психические импульсы не сопровождаются самосознанием.

Другой пример. Создается копия гражданина Иванова, и она может быть даже обладает самосознанием - не говоря уже, что она обладает памятью и характером Иванова. Но где доказательства, что это та самая личность? Конвенция признает ее «идентичной натуральному» - поскольку, как было сказано, у нее характер, память и психические параметры Иванова. Но кто скажет, что ее боль-это боль Иванова? Что самосознающее Я Иванова чувствует боль копии, видит то, что видит копия, чувствует то, что чувствует копия? Для конвенции здесь нет проблемы. Но для Иванова - есть и очень важная: или он существует на земле, или он погружен в небытие, в вечный мрак, в Рай, в процесс реинкарнации - в то время как на земле вместо него живет телесно идентичная, но субъективно не тождественная ему копия. Для того, чтобы понять, что этот вопрос имеет значение, достаточно представить, что одновременно с Ивановым живет его копия. Два близнеца крайне похожи - но один не чувствует боль другого, и наоборот.

На вопрос, где же та нить, которая соединяет данную психику и данную память с данным самосознающим Я ответ простой: не знаем.

Почему, собственно мы до сих пор доверяли субъективному мнению об идентичности личности? Потому, что у личностей не было причин ни обманывать, ни не доверять своей памяти. Теоретически, память человека может быть фальсифицирована некими техническими методами, и мнению человека о своей самоидентичности можно уже перестать доверять. Допустим, некто говорит, что он всю свою жизнь, все сорок лет был Ивановым - однако мы знаем, что он всю жизнь был Петровым, и только вчера его память подверглась перезаписи, в результате которой ему были внушены воспоминания Иванова. Однако, есть все основания думать, что внушили ему только воспоминания Иванова, но отнюдь не его Самосознающее Я: перед нами человек, обладающий самосознающим Я Петрова, и воспоминаниями Иванова, который ошибочно думает, что он Иванов.

Если такой путаницы до сих пор нет, то только потому, что искусственная перезапись память до сих пор не практиковалась. И у нас нет оснований предполагать, что в процесс биологической эволюции у людей образовалась ложная память, не отражающая их реальный жизненный путь. Именно поэтому, если сегодня человек говорит: Я- это я, я чувствую и сознаю себя, и я был самим собой, чувствуя и осознавая себя, все сорок лет что живу - мы доверяем этим утверждениям.

Но все изменится, если идущая вперед наука позволит нам перезаписовать память и имитировать психику на компьютере.

Специалисты по искусственному интеллекту, когда их спрашивают о том, будет ли обладать робот, компьютер, зомби собственным сознанием (собственным «самосознающим Я») произносят одно заветное заклинание: «тест Тьюринга». Правда, очень спорным, и не однозначным является вопрос, что же именно, надо спросить у машины, чтобы убедиться, что она сознает сама себя. Но дело даже не в этом. Даже если бы мы условились о наличии удовлетворительного критерия наличия сознания в машине, они бы имели значении только в случае, когда машина спонтанно, без посторонней помощи проявляет поведенческие свойства, существенные для теста Тьюринга. Но использование пресловутого теста оказывается бесполезным, если создатели и программисты разумного компьютера сознательно ставят перед собой цель создать машину, способную пройти «экзамен на человека». Иными словами, есть опасность, что тест Тьюринга окажется бессильным перед достаточно изощренной и сознательно сделанной симуляцией разумности, ответственность за которую будет нести не машина, а люди - создатели этой машины.

Все дело в том, что тест Тьюринга имеет дело не самим сознанием как таковым, а с внешними поведенческими проявлениями, которые истолковывались как симптомы сознания. Однако, делать суждение о наличии сознания по его симптомам мы имеем право только до тех пор, пока сохраняются стереотипные, давно знакомые «экзаменаторам» связи между наличием сознания и его симптомами.

Однако, это условие не соблюдается, если создатели разумного компьютера ставят перед собой цель имитировать симптомы сознательности. Обычная нормальная связь между сознанием и его поведенческими проявлениями в этом случае разрываются, симптомы оказываются независимыми от сознания. Даже если разумный компьютер будет произносить слова, свидетельствующие о наличии у него сознания, истинным источником его способности произносить эти слова будет не его «внутренняя сущность», а злонамеренная изощренность программистов. Если угодно, экзаменаторы будут иметь дело не с проявлением сознательности самого компьютера, а с проявлением сознательности его создателей. Изощренные и злонамеренные механики могут заставить свои механические игрушки так изображать людей, что никакой экзаменатор не сможет отличить.

Раньше, чем тест Тьюринга будет изощрен настолько, чтобы распознавать компьютеров-симулянтов, его перестанут проходить настоящие, живые, но малорефлексивные граждане.

Перед создателем «виртуальных», «кибернетических» и «квазибиологических» копий живых людей как раз и стоит задача сделать свои творения как можно более похожими на оригиналы. Но судить о степени схожести с оригиналом можно только по их внешним проявлениям. А значит, создатель копий рискует обмануть и себя, и окружающих, и даже этого не заметить.

Исходя из всего этого, я предлагаю ввести определенные правила техники безопасности -что-то вроде «законов робототехники Азимова для иммортализма.

Я предлагаю исходить из того, что, оживляя труп, перезаписывая сознание на компьютер или создавая кибернетическую копию человека мы не имеем твердых оснований судить о том, обладает ли данная копия тем же самым самосознающим Я, что и оригинал.

А раз так, то нужно соблюдать следующее правило -

Золотое правило иммортализма.

• Имморталистские процедуры, прекращающие естественное биологическое существование человека могут применяться только к людям, по состоянию здоровья не могущим прожить естественным способом достаточно длительное время.

Соответственно:

• Имморталистские процедуры, прекращающие естественное биологическое существование человека не могут применяться к здоровым людям, способным прожить без этих процедур достаточно длительное время.

Иными словами: иммортализм, как и эвтаназия - только для стариков и безнадежно больных.

Обоснование этого «Золотого правила» думаю, очевидно. Создавая копию человека, оживляя его труп или перезаписывая его психику на искусственные носители мы совершаем одно из трех действий:

- либо позволяем самосознающему Я этого человека существовать в новых условиях и в новом теле;

- либо уничтожаем прежнее самосознающее Я, и вызываем к жизни новое, то есть, в сущности, новую личность, обладающую воспоминаниями старой личности;

- либо уничтожаем старое Я и ничего не приводим на его место, порождая бессознательного зомби, лишь внешне походящего на прежнего человека.

Как было сказано выше, в условиях, когда копия прежнего человека будет изготовлена достаточно искусно, у нас не будет возможности понять, какой же из данных трех вариантов реализовался на самом деле.

Стоя перед этой трудностью у нас будет один выход: руководствоваться гипократовским принципов «не навреди».

Даже если мы создали зомби, тут нет ничего страшного, от этого никто не будет терпеть непоправимый ущерб - при условии, что мы не уменьшили продолжительность жизни его предка, обычного человека. Естественной личности надо дать возможность прожить настолько долго, настолько это возможно. И только в условиях, когда смерть становится неизбежной и близкой, человеку должно быть предложено пройти процедуру, которая либо даст ему возможность увеличить срок существования, либо не даст, но и не сократить срок жизни слишком сильно.

Думаю, что сформулированное здесь «золотое правило иммортализма» могло бы лечь в основу будущего законодательного регулирования этой деятельности. Это законодательство будет запрещать применять имморталистские процедуры к молодым и здоровым людям, даже если они этого хотят - также как сегодня законодательство большинства стран запрещает помощь при самоубийстве.

Впрочем, эта законодательная норма будет важна только на первом этапе - до тех пор, пока «бессмертных копий» будет не слишком много, и не встанет вопрос о постепенном вытеснении естественных людей искусственными созданиями. В этом случае человечество будет все-таки нуждаться в безупречном методе определения того, с кем оно имеет дело - с зомби или носителями сознания.

© К.Г. Фрумкин