Цифровизация разума и ее возможные последствия

От переводчика: материал переведен под впечатлением оживленной дискуссии, развернувшейся в комментариях к посту о технологиях потенциального продления жизни. Читатели в большей степени заинтересовались переносом сознания на цифровой носитель, нежели продлением жизни биологического тела, поэтому я решил продолжить тему переводом слегка футурологического и не претендующего на объективность материала с портала "Medium". В этом переводе слово "эму" - это сокращение от "эмуляция"; я хотел неудачно пошутить и сделать в названии или даже в самом тексте отсылку к "войне с эму", но, все-таки, термин оставил, а отсылки убрал - это, в конце концов, перевод. Также отмечу, что теория Пенроуза и Хамероффа о квантовой природе сознания, на которую есть отсылка в тексте, в целом пока не подтверждается, но я считаю - хорошо, что она существует и подпитывает развитие квантовых вычислений.

Цифровизация разума (Mind uploading) – это процедура, подразумевающая переброску человеческого сознания на небиологические носители. Личностные качества,  эмоциональные свойства и воспоминания личности можно обессмертить. Перевод людей в цифровую форму с сохранением всех их неотъемлемых черт будет иметь серьезные последствия для всей жизни на Земле, поскольку перестроит все привычные циклы в экономике, государстве, обществе и жизни каждого индивида.

Осуществимость: когда это будет возможно?

Современный информационный мультиверс, где люди создают в социальных сетях аккаунты, в сущности, подменяющие их личности, по сути, основан на цифровизации разума, пока в косвенной форме. Полноценная цифровизация разума связана с порождением отдельного сознания.  В настоящий момент есть сомнения в самой осуществимости этого: может ли кремниевый чип быть носителем сознания, что это значит с точки зрения дуализма души и тела, а также какие этические проблемы здесь возникают для участников эксперимента. Риски для участников, особенно на раннем этапе разработки, могут быть значительными, поскольку процесс будет еще не совершенен.

Исходя из этих и многих других соображений, даже убежденные оптимисты не рассчитывают, что успешная цифровизация человеческого мозга будет осуществлена до 2045 года, а многие полагают, что пройдут еще целые века, прежде, чем эта технология как следует развернется. Эмуляция целого мозга потребует высокоточного сканирования, технологии считывания данных из мозга, а также построения подходящей программной модели для этого. Физик Роджер Пенроуз из Оксфордского университета полагает, что сознание – это квантовомеханический феномен, в таком случае цифровизация разума будет происходить с применением квантовых компьютеров. Такой проект потребовал бы сбора данных в промышленном масштабе. Если предположить, что человечество сможет устранить все эти преграды, то далее просматривается несколько вариантов развития событий.

Цифровые опасности

Теоретически, цифровые разумы будут неуязвимы для биологических угроз, например, ядов, но для них возникнут новые риски. Разум, будучи загружен, становится уязвим для злонамеренного взлома, перепрограммирования, интенсивной слежки и даже для насильственного копирования.

Администраторы (биологические личности) даже могут управлять окружением мозга, подсунуть ему фальшивую историю, чтобы запутать его. Администратор может замедлить или остановить эмуляцию, если цифровой разум своими действиями нарушит некоторые рамки. Цифровое существо будет фактически беззащитно перед принуждением со стороны био-людей, так как его могут вернуть в прежнее состояние, изменить или попросту удалить. Чтобы пользоваться хотя бы некоторой автономией, эмулированному существу (далее – «эму» - прим. пер.) потребуется взять под фактический контроль собственное аппаратное обеспечение и предотвращать нежелательный доступ к нему, как физический, так и сетевой.

Перемены на рынке труда

Вероятно, цифровые разумы смогут считать быстрее, чем «в режиме реального времени», в результате чего «мыслительный процесс» у них будет гораздо быстрее, чем у собратьев-людей. Поскольку цифровые данные можно копировать, для эму открывается возможность скопировать себя в нескольких экземплярах, быстро нарастив таким образом «человеческие ресурсы». Разумы, накапливавшие опыт и образование много десятилетий, по всей видимости, наводнят мировые рынки труда.

Быстрое копирование обеспечит сохранение мудрости, обретенной на опыте, и точную передачу этой информации следующему поколению. Вот как описывает эту ситуацию Роберт Макинтайр, сооснователь стартапа Nectome (Regalado 2018):

В настоящее время с уходом очередного поколения людей мы утрачиваем всю его коллективную мудрость. Знания можно передавать из поколения в поколения, а самостоятельно усвоенную мудрость передавать сложнее. Вашим детям придется учиться на тех же ошибках, что и вам.

Тем не менее, если эксперт может десятилетиями выполнять привычную работу, то во многих отраслях не будет серьезной текучки кадров, что резко снизит потребность в соискателях. Все это означает, что биологические люди окажутся в условиях жесткой конкуренции, и разница в благосостоянии между эму и людьми будет расти. 

Растущая напряженноссть

Та же вычислительная мощность, которая даст эму преимущество на рынке труда, может привести и к непредусмотренным последствиям. Поскольку эти цифровые существа будут действовать очень быстро, людям-политикам будет сложно поспеть за ними. Так, например, в конкурентной бизнес-среде эму, стремящийся нарастить ресурсы, может напористо себя копировать и внедрять собственные копии на разные рынки, тем самым вытесняя конкурентов (как других эму, так и людей). При такой досягаемости любые насильственные линии поведения со стороны доминирующих эму, изначально им присущие или выученные на основе фактов, могут спровоцировать конфликт.

 Осознав силу этих эмуляций, разные страны и компании станут создавать конкурирующие виртуальные мозги. Эму без стеснения смогут привлечь к своей конкуренции вредоносное ПО, которое могло бы обеспечивать либо прямой контроль, либо подкуп, т.д. Действия в этом зыбком виртуальном пространстве могут спровоцировать реальные конфликты на Земле.

Эму, объединяясь в собственные виртуальные нации, могут столкнуться с сопротивлением людей. Характерные способности эму, в частности, репликация и скорость, могут серьезно скостить зарплаты, что обернется возмущением со стороны биологических сотрудников. В таком случае группы людей попытаются сдерживать эму, силой либо политическими мерами, например, вынудив виртуальные разумы действовать с оглядкой на самосохранение. Без хорошо просматривающегося компромисса конфликт неизбежен.

Правосудие прошлого

Цифровизация разума обернется новыми юридическими сложностями.  Если, к примеру, человек, обвиняемый в военных преступлениях, сможет скопировать себя в облако, то будет ли виртуальный двойник отвечать за злодеяния оригинала? Будет ли наказание цифрового существа подразумевать отключение от сети, информационное голодание или удаление?

Поскольку эму будут потенциально бессмертны, это также потребует кардинально пересмотреть для них стандарты морали, этики и закона. Гипотетически, наши потомки могут ввести уголовную ответственность, скажем, за сжигание ископаемого топлива, и такие законы можно будет задним числом применять к поступкам, которые эму совершали в биологической жизни (я не согласен, закон обратной силы не имеет – прим. пер.). Соответственно, в обществе будущего, населенного цифровыми существами, некоторые наши действия могут восприниматься как шокирующие и из ряда вон выходящие.

Новое общество

Расцвет эму породит новое общество. Исходно оно будет строиться по лекалам человеческого интеллекта, но эму изобретут новый уклад. Былое большинство, биологические люди, могут быть вытеснены на периферию общества. В такой реальности биологический мир будет восприниматься как пространство для сбора знаний, опыта и ресурсов, откуда индивид сможет затем приобщиться к числу разумов, обитающих в виртуальном мире (Graziano 2019):

При таком сценарии физический мир станет словно экосистемой для личиночного, незрелого разума, а реальная жизнь будет начинаться только в виртуальном, облачном мире.

Следовательно, мир превратится в ступень к существованию нового рода. Эму, стремясь выстроить доверительные отношения с биологическими людьми, могут заниматься благотворительностью, основывать фонды. Законодательство, наделяющее правами цифровые разумы, стабилизирует экономические процессы и формализует безопасность и, вероятно, будет принято, как минимум, в некоторых странах. Правда, обеспечить соблюдение таких законов, вероятно, будет сложно. 

Заключение

Технологические разработки в области цифровизации разума, обернутся невиданными переменами. Достижения в этой области могут ускорить прогресс в нейронауках, искусственном интеллекте и вычислительной технике. Несмотря на это, нас ждет болезненный переходный период. Если он завершится успешно, то граница между биологическим и технологическим бытием может становиться все более зыбким, в итоге породив существ, которые смогут жить то в биологическом, то в виртуальном мире, со всеми неотъемлемыми рисками такой ситуации.