Высокие технологии и эволюция человека

Универсальные нанотехнологии ещё не будут созданы, но работа над ними (нанофабрика, наноассемблер) уже близится к завершению.

Свобода человека в выборе образа жизни значительно увеличится. Человек сможет жить как в крупных, но более чистых, чем сейчас и удобных для жизни городах, так и в автономных населённых пунктах. Широко будут использоваться автоматизированные мультимодальные транспортные системы.

Будет набирать скорость трансформация человека. Биологические процессы будут взяты под контроль в медицинских целях (с помощью генной инженерии, гормональных препаратов и микроустройств). Интеллектуальные способности будут значительно расширены (когнитивные методы, интерфейс мозг-компьютер, дополненная реальность, ноотропные препараты, ИИ-агенты). Тело человека будет перестраиваться в косметических и других целях. Значительная часть населения будет представлять собой транслюдей (до появления загрузки, которая пока ещё будет неосуществима, о постлюдях говорить нельзя). Перспектива перехода человечества в новое качество будет рассматриваться как наиболее вероятный путь развития большей частью активного и образованного населения.

Понимание неизбежности дальнейшей трансформации человека и вероятность перехода человечества в новое качество приведёт к созданию планетарных механизмов управления, влияние которых будет усиливаться.

Прогноз «Развитие общества через сверхтехнологии к 2026 году» представлен в виде проекта по научному прогнозированию. Основным фактором развития станут как раз сверхтехнологии. В каждый дом войдут две новые реальности -- виртуальная и дополненная. Первая будет иметь вид полной симуляции, когда на органы чувств человека будут подаваться сигналы, создающие ощущение реальных. Вторая представляет собой обработанную информацию из обычного мира, подающуюся человеку с помощью микрокомпьютера, вживленного, например, в сетчатку глаза.

Роботы смогут выполнять практически всю физическую и простую умственную работу. Люди сосредоточатся на работе повышенной умственной сложности. Что будет с глупыми людьми, трансгуманисты не уточняют, зато обещают: неработающих станет гораздо больше.

У стран, сделавших технологический рывок и обзаведшихся роботами, отпадет потребность в мигрантах для замещения неквалифицированных вакансий. Глобальная доступность любой информации, к чему сейчас идет Интернет, сделает образование и повышение квалификации почти бесплатными. Работодателям более не надо будет тратить недели на переобучение сотрудников -- подключайся самостоятельно к Сети и проводи собственный профессиональный апгрейд. Получение новой информации по ходу работы станет постоянным и неизбежным. Тем более, трансгуманисты предсказывают постепенное сращивание человеческого интеллекта с компьютером посредством разных умных устройств.

Через два десятилетия человек должен, наконец, одолеть одного из своих древнейших врагов -- голод. Сегодня уже есть генномодифицированные продукты, семена, устойчивые к жаре, холоду, отсутствию воды или резкому изменению температур. Весь вопрос лишь в налаживании социальной инфраструктуры, чтобы сделать их доступными для всех, включая самые бедные страны.

Наконец, изменится сам стиль жизни. По мере освоения сверхтехнологий отпадет необходимость скучиваться в городах. Новые люди станут больше похожи на кочевников. Селиться можно будет где угодно со всеми удобствами. То есть вы едете куда хотите и берете с собой некий набор устройств или одно интегрированное устройство жизнеобеспечения. Приехали, разворачиваете «базу», подключаете к глобальным информационным и иным сетям и все -- можете жить, работать хоть на даче в Подмосковье, хоть на берегу сибирской реки.

Но как бы ни относиться к позиции трансгуманистов, сегодня невозможно достоверно предсказать финал обостряющегося спора о стратегии самоопреодоления человека. Ясно лишь одно: практика использования технологий третьего тысячелетия -- это гигантский и крайне рискованный эксперимент над человечеством во всей его тотальности. Рождающаяся на наших глазах антропология постчеловека -- это не абсолютно обоснованная теория, а скорее практика поиска путей к новой философии, способной преодолеть изъяны и ограниченности практической философии эпохи Модерна.

Проблемы выживания человечества

Техногенная цивилизация породила чрезвычайно серьезные проблемы выживания человечества. А вслед за техногенной цивилизацией и вообще цивилизацией уже проглядывает сверхцивилизация -- гипотетический уровень развития общества разумных организмов, наступающий вслед за цивилизацией.

Российский ученый Н.П. Кардашев ввел понятие типов цивилизаций по уровню энергопотребления.

Первый тип -- Цивилизация, энергопотребление которой сравнимо с мощностью, получаемой планетой от центральной звезды и энергетическими источниками самой планеты.

Второй тип -- Цивилизация, энергопотребление которой сравнимо с мощностью центральной звезды планетной системы. Оценка энергопотребления -- 1020 эрг за секунду. Одна из гипотетических форм цивилизации второго типа -- цивилизация сферы Дайсона.

Цивилизация второго и выше типов уже считается сверхцивилизацией.

Третий тип -- Цивилизация, энергопотребление которой сравнимо с мощностью галактики. Оценка энергопотребления -- 1044 эрг за секунду.

Не входящий в теорию, но возможно существующий тип 4 -- Цивилизация, энергопотребление которой сравнимо с мощностью вселенной. Оценка энергопотребления -- бесконечная мощность.

Американский астроном Карл Саган (1934--1996) дополнил энергетическую классификацию сверхцивилизаций информационной.

В конце XX в. развитие цивилизации подошло к своей критической границе. Среди проблем, обсуждаемых учеными и философами, -- кризис города-мегаполиса и вымирающего села, деградация культуры и морали, маргинализация значительных слоев населения и биологическое вырождение людей, изменение ценностей, идеалов, потребностей современного человека. В общем, складывается картина кризиса техногенной цивилизации в целом[2,12,14,16,21,31,36,49,54,60,68,73].

Чаще всего ответственными за этот кризис, проявившийся вместо ожидаемого идеального общества, объявляются технологический рост (результатом которого должно было стать идеальное общество) и принципы, на которых строится современная индустриально-техническая цивилизация: ориентация на рост потребления (иногда разделяют по степени экологичности потребление материальное и духовное, но и духовные потребности для своей реализации нуждаются в материальном базисе) и предпочтение социокультурных инноваций (по сравнению с верностью традиционным путям воспроизводства жизни).

Болевые точки социоприродных и социокультурных взаимодействий, характеризующие состояние нашей эпохи, получили название «глобальных проблем современности». Эти проблемы, до сих пор не нашедшие даже теоретического решения, вызывают сомнение в жизнеспособности самого постиндустриального общества, для которого они характерны. Именно их нерешенность угрожает дальнейшему существованию человечества, не оставляя места историческому оптимизму.

Сущность экологической глобальной проблемы, или нарушенного взаимодействия общества и природы, составляет неконтролируемый рост техносферы и его отрицательное воздействие на биосферу, прежде всего биоту.

Ее компонентами являются: уничтожение многих видов растений и животных и снижение биосферного разнообразия; истощение невозобновляемых природных ресурсов и деградация возобновляемых (почвы, лесов, пресных вод) ввиду увеличения масштабов их потребления; исчерпание возможностей среды обитания по поглощению отходов антропогенной деятельности; насыщение биосферы техносферными элементами (особенно химическими и радиационными составляющими); угроза деградации и вымирания человечества в результате ухудшения экологической обстановки; растущая концентрация населения в крупнейших городах; подмена естественных процессов саморегуляции биосферы антропогенным воздействием и рост необходимого участия человека в поддержании благоприятного состояния природной окружающей среды.

Сущность антропологической глобальной проблемы, или нарушения межчеловеческих связей и культурных процессов, составляет усиливающаяся дисгармония между развитием природных и социальных качеств человека. Ее компонентами являются: снижение природного здоровья людей, угроза разрушения генофонда человечества и появление новых болезней; отрыв человека от биосферной жизни и переход в техносферные условия жизнедеятельности.

Нельзя не обратить внимание на то, что глобальные проблемы вызваны деятельностью человека, точнее, являются ее побочными результатами, будучи связаны с искусственными системами, сконструированными человечеством. И технологические комплексы, и общественные институты, и нормативные системы создавались из самых лучших побуждений для достижения результатов, считавшихся оптимальными. Но деятельность людей, помимо прямых последствий, имеет непредсказуемые эффекты и по мере роста технической вооруженности эти побочные результаты начинают преобладать. Наряду с позитивными результатами исторического развития накапливался груз отрицательных, который к настоящему времени превысил критическую массу.

Рассмотрим роль одной из форм деятельности человечества -- технологической

в генезисе глобальных проблем и их возможном разрешении.

На планете Земля к настоящему времени сложились и сосуществуют две системы, созданные эволюцией живого вещества: биосфера и техносфера.

Биосфера -- оболочка Земли, созданная деятельностью живых организмов, миллиарды лет назад ставшей геохимической силой планетарного масштаба.

Результатом тысячелетнего технологического развития стала глобальная техносферная система, внутри которой реализуются все стороны жизни современного человека. Техносфера как искусственный материальный мир -- продукт человеческой цивилизации. Наряду с обществом и культурой она -- продукт активной сущности человека, его потребности изменять себя и мир. Между биосферой и техносферой идет непрерывное взаимодействие.

Человечество в ходе технологической деятельности изменяет структуру земной поверхности, концентрирует или перегруппировывает химические элементы, истребляет или создает биологические виды. Если трансформация техносферы в результате этого взаимодействия является целью производственного процесса и контролируется человеком, то изменение физических и химических характеристик биосферы побочный эффект.

Социоприродные исследования показывают: технобиосферные взаимодействия зависят от уровня техногенного развития, биосфера лишь реагирует на его изменения. Так, промышленная революция привела к резкому росту антропогенной нагрузки. Биосферные отклики перестали затрагивать отдельные регионы и привели к системным изменениям глобальных характеристик, что и вызвало обеспокоенность мирового сообщества экологическими проблемами.

Итоги тысячелетней техносферизации биосферы таковы: налицо нарастание трудностей при поддержании уже достигнутого уровня переделанных биоценозов и приближение к пределу дальнейшего изменения биосферы в указанном направлении. Хозяйственная деятельность человека приобрела такие масштабы, когда нарушаются основные принципы естественного устройства биосферы: энергетический баланс, сложившийся круговорот веществ, многообразие видов и биологических сообществ, популяционная стабильность и т.д. Теоретически биосферных форм в чистом виде уже не осталось. В результате глобального использования биосферных ресурсов даже участки Земли, не занятые в хозяйственном обороте, испытывают техногенные влияния.

Напряженные взаимоотношения между техносферой и биосферой, выраженные несоответствием между техногенной нагрузкой и ресурсными возможностями биосферы, достигли ступени экологического кризиса: началась замена экосистем на менее продуктивные. Биосфера постепенно теряет свою несущую способность. Даже возобновляемые природные ресурсы перестают быть таковыми по мере ее нарушения. В перспективе сохранение прежней тенденции роста антропогенной нагрузки грозит биосфере коллапсом (полной утерей биологической продуктивности).

Таким образом, неразумное техногенное воздействие на биосферу, выходящее за пределы ее адаптивных способностей, может привести к вымиранию самого человечества как биологического вида.

Техносфера нуждается для своего функционирования в постоянном заимствовании ресурсов извне.

Видимо, попытки уйти от экологического кризиса путем одной перестройки техносферы (без одновременного приспособления человечества к новым социоприродным закономерностям) утопичны. Как наша неспособность предвидеть все результаты техногенных изменений в области живого вещества, так и неизбежный рост материальных потребностей человечества (который рано или поздно потребует нового заимствования ресурсов из биосферы) приведут к тому, что реализация предложенных программ сможет в лучшем случае замедлить антропогенную деградацию биосферы, но не остановить ее.

Разум людей пока недостаточно высок, чтобы предвидеть все последствия производимых воздействий. Даже когда негативные последствия осознаны, далеко не всегда благо будущих поколений заставляет людей отказаться от сиюминутных выгод. Поэтому можно сделать вывод: экологическая глобальная проблема вторична по сравнению с антропологической, а первопричиной глобального экологического кризиса является антропологический кризис -- негативные изменения современного человека.

Перерождение природы из-за становления искусственного мира сопровождается катастрофами и вызывает тревогу международного сообщества. Техногенное же перерождение человеческого духа замечается меньше.

События XX в. доказали существование обратной связи между человечеством и техносферой. Например, можно отметить изменение системной детерминации человеческой жизни: если прежде люди подчинялись биосферным закономерностям и вынуждены были отстаивать свое место в борьбе с природными стихиями, то современный человек в результате технологизации своей жизни вынужден подчиняться техносфере, вписываться в ее закономерности и вырабатывать в себе качества, нужные для ее деятельности.

Техносферное перерождение человека достигло тревожного уровня. Творец искусственного мира становится его частью, биосферное существо -- техносферным.

По ходу техногенного развития подвергаются существенной техносферной трансформации человеческие свойства. Изменяется биосфера не только вне людей, но и внутри их -- в теле и психике. Человек, все более погружаясь в искусственный мир, постепенно утрачивает свои природные качества и обретает социально-техногенные. С рождения он оказывается в техносферной среде. Не только материальные объекты, но и допускаемые к человеку растения и животные не назовешь «естественными» -- их виды также являются плодами развития человечества.

Сокращается сфера физического труда и растут умственные нагрузки, что приводит к появлению новых болезней. В сам организм человека вторгается искусственная среда: практикуется употребление искусственной или генетически измененной пищи, искусственное оплодотворение, трансплантация и т.д.

Для обитателя современного мира характерны биологические изменения, которые не назовешь прогрессивными: понижение сопротивляемости инфекциям и факторам внешней среды, ослабление органов чувств (все хуже становятся зрение и слух), захватывающие все большие слои населения бессонница и депрессия, сердечно-сосудистые и раковые заболевания, аллергия и бесплодие. Слабеет иммунная защита человеческого организма, рост генетических аномалий и психических болезней становится бедствием. С каждым поколением усиливается деградация внутренних органов и систем человеческого организма, все чаще требуются техногенное вмешательство в их функционирование или прямая их замена. Учитывая, сколько людей в индустриально развитых странах в буквальном смысле слова не могут жить, не пользуясь ежедневно достижениями медицины, подобную жизнь можно называть «искусственной».

Новейшие биотехнологические достижения ведут к тому, что объектом изменения становится уже не внешняя природа, а биофизическое строение. Возникают проекты самотрансформации посредством технического вмешательства: человеческая природа как несовершенная объявляется нуждающейся в той же коренной переработке, которой подверглись другие элементы биосферы. Ранее материалом для искусственной переделки выступала внешняя среда, сейчас материалом становится сам человек.

Увеличивается количество людей (причем в развитых, благополучных странах), которые стремятся «забыться», уйти от реальности (начиная от алкоголиков и наркоманов и кончая всевозможными поклонниками виртуальной реальности). Надежды на построение идеального социума, позволяющего достигнуть всех личных и общественных благ, не оправдались: постиндустриальное общество, представляющееся совершенным тем, кто мечтает его построить, при ближайшем рассмотрении оказывается столь же противоречивым, полным проблем, основанным не на потребностях человечества, а руководимым общими системными закономерностями техносферы.

Человек оказался не только творцом искусственного мира, но в значительной мере и его творением. В этом сущность антропологического кризиса, который можно назвать техногенно-антропологическим.

Глобальные проблемы техногенной цивилизации -- не результаты отдельных ошибок, а следствие конкретного способа бытия человека в его стремлении выжить и реализовать себя. Антропологический кризис является самой глубинной проблемой современности. Он охватил весь комплекс взаимоотношений людей: поведение человека и образ мышления меняются столь сильно, что предметом тревоги стала деградация не только биосферы, но и самого человека.

Технологическое развитие, не сбалансированное учетом интересов биосферы, -- это не результат злой воли отдельных людей, оно объективно как реализация человеческой природы.

Ограничение техногенного развития невозможно, а полный отказ от техники не только невозможен, но и вреден, он привел бы к восстановлению биосферы ценой вымирания человечества. Сам человек всегда был, есть и будет биосферным существом. Хотя и усиливается техногенное отчуждение, но по-прежнему природа -- это наше тело и наши инстинкты, и от них не скрыться ни в каком искусственном мире. Человечество не может жить без биосферы (иначе оно перестанет быть таковым и станет другим видом -- уже не биологическим) и человечество не может не изменять биосферу.

Глобальные риски, создаваемые человеком

Технологические риски

Технологические риски различаются по степени готовности их «элементарной базы». Одни из них технически возможны в настоящий момент времени, тогда так другие требуют в разной степени длительного развития технологий и, возможно, неких принципиальных открытий.

Соответственно, можно выделить три категории:

А)риски, для которых технология полностью разработана (ядерное оружие) или требует незначительно доработки.

Б) риски, технология для которых успешно развивается и не видно никаких теоретических препятствий для её реализации в обозримом будущем (биотехнологии).

В)риски, которые требуют для своего возникновения неких принципиальных открытий (антигравитация, высвобождения энергии из вакуума и т д.). Не следует недооценивать эти риски -- значительная часть глобальных рисков в XX веке произошла из принципиально новых и неожиданных открытий.

Классическим примером угрозы существованию человечества категории А является угроза ядерной войны, которая помимо прямых поражающих факторов, создаёт два следствия -- ядерную зиму и радиоактивное заражение. Угроза ядерной катастрофы часто недооценивается или переоценивается. Недооценка в основном связана с рассуждениями на тему, что раз катастрофы давно не было, то она маловероятна.

Считается, что в настоящий момент вероятность катастрофической ядерной войны уменьшилась, так как ядерные арсеналы СССР и США значительно сократились. Однако фактически вероятность применения ядерного оружия растёт, поскольку всё больше стран открыто заявляют о разработке ядерного оружия (около 10), и, кроме того, другие страны, помимо России и США обретают технические возможности и желание обзаводится арсеналом в тысячи зарядом (Китай, Пакистан и Индия). Растёт число стран, развивающих мирную ядерную энергетику двойного назначения, то есть могущих в течение месяцев или нескольких лет приступить к производству ядерного оружия. Растут и шансы попадания расщепляющих материалов в руки террористов.

И потом, взаимное гарантированное уничтожение хорошо работает, когда есть только две сверхдержавы (по количеству ядерных зарядов). Но уже сейчас возможно появление новых ядерных сверхдержав.

Биологическое оружие

Фактически, большая часть оборудования, необходимого для создания опасного биологического оружия, уже готова. Опасность состоит в том, что это оборудование постоянно дешевеет и распространяется по миру, при этом знания о том, как использовать его во вред, возрастают.

Постоянное удешевление и упрощение машин для секвенсирования ДНК (то есть считывания и создания генетического кода), делает возможным появление биохакеров. Если для компьютеров уже написано более 100 000 вирусов, то масштабы творчества биохакеров могут быть не меньшими.

Основной однофакторный сценарий -- это распространений некого одного вируса или бактерии. Это распространение может происходить двояко -- в виде эпидемии, или в виде заражения воздуха.

Ещё вариант -- это бинарное бактериологическое оружие. Например, туберкулёз и СПИД являются хроническими болезнями, но при одновременном заражении человек сгорает за короткий срок. Есть гипотеза, что натуральная оспа и СПИД были парными болезнями в Африке. Сначала СПИД ослаблял иммунитет большой группы населения, а потом её выкашивала оспа. Один из страшных сценариев -- СПИД, который распространяется также легко, как простуда.

Следующий вариант оружия -- это распыление в воздухе больших количеств спор сибирской язвы (или подобного агента) в защитной оболочке (а такие оболочки уже давно имеются для боевых штаммов). Этот вариант не требует саморазмножающегося болезнетворного агента.

Биологическое оружие считается одним из самых дешёвых -- стоимость смерти в нём составляет несколько центов. Уже сейчас создание биологической супербомбы в тысячи раз дешевле, чем создания ядерного оружия сравнимой поражающей силы. Когда распространятся дешевые технологии производства произвольных живых организмов с заранее заданными функциями, цена изготовления такого оружия может упасть до несколько сотен долларов.

Хотя распространение одной эпидемии, скорее всего, можно остановить, то эпидемию, вызванную несколько десятками видов разнородных вирусов и бактерий, вышедших из-под контроля во многих местах земного шара остановить невозможно даже технически, потому что в человека невозможно одновременно ввести несколько десятков разных вакцин и антибиотиков -- он умрёт.

Генетические технологии дают огромные возможности не только для создания летального оружия, но и для создания способов его доставки. Можно представить себе генетически модифицированного малярийного комара, который может жить в любой среде и с большой скоростью распространиться по всей планете, вводя каждому попавшемуся некий агент. Или саранчу, заодно поедающую всё живое и распыляющее споры сибирской язвы.

Многие биологические риски могут быть малоочевидными и отложенными во времени, поскольку сама биологическая наука ещё развивается. Широкомасштабное применение биологического оружия значительно опаснее и значительно вероятнее, чем классическая ядерная война.

Супернаркотик

Один из сценариев распространения супернаркотика в будущем предложен братьями Стругацкими в романе «Хищные вещи века» (1965 г.), где мощнейший наркотик, вызывающий 100 процентное привыкание с первого раза, оказывается очень просто сделать из радиоприёмника и ряда других общедоступных компонентов, которые непосредственно воздействует на центр удовольствия в мозге. Самодельный прибор волновой психотехники дает ярчайшее переживание виртуальной реальности. Этот сценарий связан в чистом виде не с распространением некого вещества, а с распространением «знаний массового поражения».

Можно обозначить сразу несколько сверхнаркотиков, возможных в будущем, общий смысл действия которых состоит в выключении человека из социальной жизни. И человек, отказавшийся от одного класса наркотиков, может устремиться к другому. Так и в современной реальности кто-то не пьёт алкоголь, но зато подсел на кофе. Кто-то не смотрит телевизор, но сидит в интернете.

Сверхсильный наркотик может быть подобен заразной болезни, если одни люди буду стремиться заразить других, а те -- будут не против заразиться.

Абсолютный наркотик создаёт возможность следующей дилеммы: человечество как целое перестаёт существовать, но каждый отдельный субъект воспринимает произошедшее как личный рай и очень доволен этим.

Будем называть абсолютным наркотиком некое средство, которое для любого человека привлекательнее обычной реальности и полностью уводит его из этой реальности. При этом можно разделить быстрый и медленный абсолютный наркотик. Первый даёт переживание, ради которого человек готов умереть, второй -- некую новую реальность, в которой можно длительное время существовать.

Пагубное действие многих наркотиков далеко неочевидно и может проявляться не сразу. Например, героин и кокаин долгое время, годы, были в открытой продаже, было легко доступно и ЛСД.

Вероятность возникновения супернаркотика выглядит крайне высокой, поскольку он может быть достигнут многими способами не только за счёт успехов биотехнологиях, но и в нанотехнологиях, в ИИ, а также за счёт некого случайного изобретения, объединяющего уже существующие технологии.

Абсолютный наркотик может вовсе не носить названия «наркотика» и не быть похожим на современные стереотипы. Абсолютный наркотик не будет чем-то одним, но будет множеством факторов, работающих объективно на разделение людей, отключение их от реальности и сокращение их жизни и способности к размножению. Абсолютный наркотик может выглядеть как абсолютное благо и вопрос его вредности может зависеть от точки зрения. В каком-то смысле современная культура развлечений с низким уровнем рождаемости уже может быть прообразом такого наркотика.

Искусственный интеллект

Есть разные теоретические мнения о возможности искусственного интеллекта. Более того, нет более спорной области знаний, чем наука об ИИ.

Угрозы со стороны искусственного интеллекта являются крайне спорными, так как самого объекта пока нет и о его природе есть много разных мнений, в том, числе о том, что он невозможен, легкоконтролируем, безопасен, ограничен -- или не должен ограничиваться.

Наибольшую опасность представляет саморазвивающийся универсальный ИИ. Если будет много ИИ проектов, то, по крайней мере, один из них может быть использован для попытки захватить власть на Земле.

Достаточные аппаратные средства для ИИ существуют уже сейчас, через 10 лет они станут легкодоступными, если не случится какой-нибудь катастрофы, тормозящей развитие.

Сильный ИИ, по определению, может найти наилучшее возможное решение любой задачи. Это значит, что его можно использовать для достижения любых целей во внешнем мире. Он найдёт наилучший способ применить все доступные инструменты для её реализации и справится с управлением ими. Именно в этом смысле он является абсолютным оружием. То, что он может быть наиболее эффективным средством убийства является только следствием и одной из возможных опций.

Если мы имеем машину, которая может решить любую задачу, то она способна придумать способ, с помощью которого бы она сама осуществляла управление собой.

Есть вариант создания генетически усовершенствованного человека, в мозг которого вживлены средства доступа к Интернету (так называемый нейрошунт). Возможны и другие средства интеграции живых нейронов с обычным компьютером, а также с квантовыми компьютерами.

Один из вариантов -- ИИ подчиняет себе государственное устройство и использует имеющиеся в нём каналы для управления. Жители такого государства вообще могут ничего не заметить. Основное препятствие для развития этой системы, уже подчинившей мировую экономику, науку и коммуникации -- это национальные государства с их национальными армиями. Создание мирового правительства облегчило бы формирование такого единого ИИ. Однако пока что идёт острая борьба между государствами на предмет того, на чьих условиях объединять планету. А также борьба с силами, которые условно называются «антиглобалисты» и другими антисистемными элементами -- исламистами, радикальными экологами, сепаратистами и националистами.

Опасность, однако, состоит в том, что глобальная всемирная машина начнёт вытеснять людей из разных сфер жизни, хотя бы экономически -- лишая их работы и потребляя те ресурсы, которые иначе бы могли расходовать люди. В каком-то смысле людям не останется ничего другого, как «смотреть телевизор и пить пиво» (вариант сверхнаркотика).

Важно отметить следующее -- кем бы ни был создан первый сильный искусственный интеллект, он будет нести на себе отпечаток системы целей и ценностей этой группы людей, хотя сама эта система будет казаться для них единственно правильной. Для одних главной целью будет благо всех людей, для других -- благо всех живых существ, для третьих -- только всех правоверных мусульман, для четвёртых -- благо только тех программистов, которые его создали. И само представление о природе блага тоже будет весьма различно. В этом смысле момент создания первого сильного ИИ является моментом развилки с очень большим количеством вариантов.

Вполне может быть так, что ИИ поддерживает на Земле порядок, предотвращает глобальные риски и занимается освоением Вселенной. Возможно, что это наилучший наш вариант.

Вероятность глобальной катастрофы, связанной с ИИ, является произведением вероятностей того, что он вообще когда-либо будет создан и того, что он будет применён неким ошибочным образом. Есть ряд ученых, которые полагают, что тем или иным способом ИИ будет создан в течение XXI. Даже если попытки построить ИИ с помощью компьютеров потерпят крах, всегда есть запасный вариант: успехи в сканировании мозга позволят создавать его электронные копии и успехи в генетике -- создавать генетически усовершенствованные человеческие мозги. Электронные копии обычного мозга смогут работать в миллион раз быстрее, в конечном счёте, мы всё равно получим интеллект, в миллионы раз превосходящий человеческий количественно и качественно.

Существуют оценки, которые показывают, что компьютеры обретут силу, необходимую для ИИ в 2020--2030 годы. Это примерно соответствует оценкам, даваемым для времени возникновения опасных биотехнологий. Однако здесь есть гораздо больший элемент неопределённости -- если поступательный прогресс в биотехнологии очевиден, и каждый его этап можно отслеживать по научным публикациям, соответственно, измеряя степень риска, то возникновение ИИ связано не столько с накоплением неких количественных характеристик, сколько, возможно, с неким качественным скачком. Риск, который несёт в себе развитие технологий ИИ крайне велик и систематически недооценивается. Это область гораздо более непредсказуема, чем даже биотехнологии. Вместе с тем, ИИ является, возможно, нашей наилучшей защитой от прочих опасностей.

Риски, связанные с роботами и нанотехнолгиями

Основное опасностью в этом отношении считается распространение нанотехнологической «серой слизи» (по Э. Дрекслеру). Основные её признаки таковы:

миниатюрность;

способность к саморазмножению;

способность к самостоятельному распространению по всей Земле;

способность незаметно и эффективно уничтожать крупноразмерную технику и живые организмы;

анонимность;

дешевизна;

автономность от человека.

Хотя считается, что для эффективного самовоспроизводства нужны молекулярные нанотехнологии, возможно, что это не так. Тогда вполне макроразмерный робот мог бы размножаться, используя природные энергию и материалы. Важно подчеркнуть, что речь идёт не об искусственном интеллекте, а о вышедшей из-под контроля системе с ограниченными интеллектом, неспособным к самосовершенствованию. Такие микророботы могли бы производится как оружие на огромных фабриках, вроде современных заводов по производству чипов, и даже с применением тех же технологий -- литография теоретически позволяет делать даже подвижные части.

Рассматривается сценарий, в котором по всему миру распространяются домашние и промышленные роботы, а затем их всех поражает компьютерный вирус, который настраивает их на агрессивное поведение против человека («восстание» роботов).

Вполне возможна ситуация выхода из-под контроля армии крупных боевых роботов. Теоретически некая роботизированная армия может получить неверный приказ и начать атаковать всё живое, став при этом недоступной для отмены команд.

Кстати армия США определённо нацелена на полную автоматизацию и замену людей роботами, но до этой цели ещё много лет.

По мнению профессора кибернетики университета Рединга (Великобритания) К. Уорвика к 2050 году мы утратим наши привычные позиции. Машины будут управлять нашими жизнями и указывать нам, что нужно делать. Многие люди станут просто рабочей силой, которую содержат в специальных лагерях, разбросанных по всей территории Земли.

Уже существуют роботы, обладают уровнем интеллекта насекомых. Через 5 лет появятся роботы с уровнем интеллекта кошки. Через 10--15 лет роботы превзойдут человека. И это не научная фантастика.

«Мозг улитки содержит от 50 до 100 нейронов, -- поясняет Кевин Уорвик. -- Пчелы -- 10 тысяч; собаки -- 10 миллионов; человека -- 100 миллиардов. У моих роботов

50 эквивалентных нейронов. Кстати, у персонального компьютера что-то около 10 тысяч. Через 5 лет нейронный эквивалент ПК составит 10 миллионов в том же объеме и при том же энергопотреблении, что и сегодня. Как только появится первая машина с интеллектом, близким по мощности к человеческому, у нас уже не будет возможности ее выключить. Бомба с часовым механизмом начнет отсчитывать последние минуты господства человечества. И тогда мы уже не сможем остановить наступление машин».

А вот как Уорвик представляет себе причины начала глобальной гражданской войны в XXI веке.

«Если они потребуют права голоса (одна машина -- один голос), дадим ли мы его? Я лично полагаю, что если так встанет вопрос, ответ будет -- да. Даже сегодня машины представляют реальную угрозу миру людей. Не предоставление им права голоса (если машины будут обладать настолько мощным интеллектом, чтобы потребовать для себя это право) будет означать начало войны. У меня нет никаких сомнений в этом. Мы вообще можем погибнуть в войне между собой -- люди, воюющие на стороне машин, и люди, воюющие против них.

Возможно, уже на следующих крупных выборах в любой демократической стране было бы разумно интересоваться не только политической позицией кандидатов, но и тем, какими типами машин они собираются пользоваться. Если политик намеревается впоследствии использовать искусственную нейронную сеть, то необходимо серьезно обсудить это до выборов».

«Человеческая раса, похоже, играет свою последнюю партию. Период нашего господства на Земле подходит к концу. Мы можем надеяться лишь на то, что машины будут обращаться с нами так, как мы обращаемся с другими животными, -- они сделают нас рабами или поместят в зоопарки. Разве этого мы хотим? Не следует ли нам, по крайней мере, создать международную организацию, которая проводила бы мониторинг, а может быть, даже и контроль над тем, что происходит?»

В новом тысячелетии грань между военным (условно говоря, деструктивным) и мирным применением новых технологий очень размыта. Если в 1945 году ситуация была относительно простой -- есть ядерное, биологическое и химическое оружие массового уничтожения, но, вместе с тем, есть и практически несоприкасающаяся с военной, мирная сторона применения подобных технологий -- то сейчас непонятно, где начинается опасность применения продуктов генной инженерии, а где она заканчивается. Любой неосторожно выпущенный в свет продукт генной инженерии может причинить массу вреда окружающей среде. Технологии, с которыми нам придется иметь дело, слишком опасны.

Человек сам творит техносферу (вторую природу), но одновременно попадает и в зависимость от нее. Мы, сами того не подозревая, вернее -- не желая, незаметно вокруг себя создаем систему, из которой уже не можем выскочить. Назад хода нет?

Увы, нет. Техническая реальность диктует нам способ нашего поведения. Появление автомобилей вызвало необходимость строительства подземных переходов и магистральных развязок, полностью изменило топографию городов. Например, так появились тротуары в городах. В Германии принят закон, запрещающий женщинам в обуви на шпильках управлять автомобилем -- только в обуви без каблука. Во многих странах мира запрещено пользоваться мобильными телефонами за рулем. Получается, что «инстинкты» автомобилей диктуют поведение человеческому обществу, изменяют человеческие инстинкты.

Безусловно, машина начинает брать на себя интеллектуальные «штучки». В этой связи мало кто обратил внимание на заключение суда по делу о катастрофе российского самолета над Баденским озером в Швейцарии. А ведь это решение означает, по сути дела, юридическое оформление рождения новой, технетической реальности. Ведь швейцарский суд фактически постановил: человек-оператор должен действовать так, как велит ему машина. Мы обязаны слушаться автоматику. Между прочим, еще раньше именно пренебрежение этим законом и привело к чернобыльской катастрофе.

Твое, человек, дело -- выполнять указания машины. Нас, как биологических существ, ждет подчинение технической реальности. Техническая реальность поглощает биологическую. Биологическое постепенно встраивается в техническое. Поглощается.

Неудачный физический эксперимент

Высказываются опасения, что опыты по созданию микроскопических чёрных дыр на ускорителях, конденсации нейтронов и другие высокоэнергетичные эксперименты могут привести к опасным глобальным последствиям. Опасность экспериментов прямо связана с возможностью наличия неизвестных нам фундаментальных физических законов. Вопрос этот трудно решить вероятностным образом. В 20 веке уже было несколько открытий фундаментальных законов и некоторые привели к созданию новых опасных видов оружия -- хотя к концу 19 века картина мира казалась завершённой. Это открытия радиоактивности, квантовой механики, теории относительности, а в последнее время -- тёмной материи и тёмной энергии.

Считается, что современные эксперименты на ускорителях не дотягивают на многие порядки до энергий, которые возникают в результате естественных столкновений космических лучей, происходящих в атмосфере Земли. В течение всего ХХ века каждые 10 лет энергия, достигаемая на ускорителях, возрастала в 10 раз. И хотя сейчас обычные ускорители подошли к своему физическому пределу по размерам, есть принципиально другой способ достигать тех же энергий на установках размером с рабочий стол -- речь идёт о разгоне частиц в ударной волне импульсного лазера.

Вопросы моральной ответственности за будущее

век стал эпохой качественно нового осмысления целей человеческого бытия. Вектор ответственности направлен в «бессрочное» будущее. «Выбирая себя, человек выбирает всё человечество» (Ж.-П. Сартр). На смену традиционной нормативной этике долга пришла этика ответственности.

Переворот в осознании ответственности произошел не случайно. Бурное развитие науки и техники сделало, казалось бы, возможным представлявшееся ранее иллюзорным абсолютное господство человека над природными стихиями. Когда растущий технологический потенциал превосходит возможности культурных регуляторов, наступает ощущение вседозволенности и безнаказанности.

Но взрыв атомной бомбы в Хиросиме обнаружил оборотную сторону этой мощи, став сигналом нависшей над человеком смертельной угрозы. Второй глобальной катастрофой, связанной с ядерной энергией, стал Чернобыль, третья может быть последней.

Все существующие ныне глобальные проблемы сами по себе могут рассматриваться как апокалиптические. Наше влияние на земную природу растет в геометрической прогрессии и достигло такого уровня, когда предельно остро встал вопрос о планетарном балансе человека и природы, исключающем катастрофы, поскольку даже локальные безответственные действия могут дать начало катаклизмам глобального характера. Это придает императивный характер нравственному, т.е. ответственному отношению к окружающей среде. Возросшие возможности человеческой деятельности позволяют также воздействовать на природу человека, опровергая представления о ее неизменности и самоценности. Все это по-новому ставит вопрос о масштабах и формах ответственности человека и человечества в современных условиях[29,31,33,4 9,60,62,67,75,80,85].

Своеобразным прорывом в этом отношении стал выход в свет труда широко известного на Западе немецко-американского мыслителя Ганса Йонаса (1903-1993) «Принцип ответственности. Опыт этики для технологической цивилизации» (1979). В нем содержится эскиз новой этики, построенной вокруг принципа ответственности за будущее, утверждаемого Йонасом в качестве категорического императива. В работах «Принцип ответственности» и «Техника, медицина и этика. К практическому приложению принципа ответственности» Йонасом были заново поставлены «вечные» вопросы и предприняты попытки их решения, находящие сегодня отражение почти во всех отраслях науки и общественно-политической жизни.

Г. Йонас создал оригинальную синтетическую теорию моральной ответственности за будущее в условиях тотальной технизации всего человеческого общества.

Современные формы жизни таковы, что человек не может быть индивидуально ответственным, так как результаты деятельности зависят не только от него самого. Не имея возможности отвечать за другого, субъект не может избавить себя от психологического давления необходимости этой ситуации. Потому так актуальна проблема распределения индивидуальной и коллективной ответственности. В ситуации нашего времени человек оказывается решающей величиной по отношению к своим возможностям; получив желанную свободу, он, тем не менее, не может действовать ответственно именно тогда, когда это более всего необходимо с точки зрения исторической ситуации. Предлагаемый Йонасом принцип трактуется как идеализированный и рассматривается как выражение экстремального давления ответственности на фоне современных диалектических концепций данного морального феномена.

Техника, бывшая раньше платой необходимости, становится самым значительным предприятием, призванием, «профессией» человека, считает Йонас. Новая историческая динамика -- результат приобретения техникой власти над обществом, вследствие ее амбивалентного характера и гипостазирования нашей собственной силы в «вид самодеятельной (автоматической) силы», которой мы -- ее исполнители

подчиняемся.

Речь идет о технологическом синдроме как признаке современной цивилизации. Власть homo faber («человек умелый») над его внешним объектом означает также триумф во внутренней организации homo sapiens, преодоление самого человека, его природы (например, увеличение продолжительности жизни, контроль над поведением, возможность «творения» человека по какому-либо образцу). Стираются границы между «внешней» и «внутренней» природой человека.

Вмешательство в природу человека, по Йонасу, это «интервенция производителя» и извращенная форма человеческой свободы, «власть» живущих над будущими поколениями. Технически покоренная природа вновь включает в себя человека, противопоставлявшего себя ей в качестве господина. Господство над природой в генной инженерии превращается в акт покорения себя самого, что ставит проблему автономии и универсальности морали. Поэтому принцип Йонаса имеет огромную практическую значимость в сфере новых высоких технологий, в том числе генной инженерии.

Технический прогресс нейтрализовал ценность природы, затем человека, породил моральный нигилизм и способствовал возникновению своеобразного этического «вакуума». Йонас, по сути, вводит понятие «технологического фатализма», поскольку будущее, на которое направлена новая этика, воспринимается как техногенное. В современной философии техники учение Йонаса может быть отнесено к пессимистическому варианту гуманитарного направления (М. Хайдеггер, К. Ясперс, Л. Мэмфорд, Ж. Эллюль).

Новая деятельность рождает «новый категорический императив». Формулировки, приводимые Йонасом, подразумевают его безусловный характер.

«Поступай так, чтобы последствия твоего действия были в согласии с непрерывностью подлинной человеческой жизни на Земле».

«Поступай так, чтобы последствия твоего действия не были разрушительными для будущей возможности такой жизни».

«Не подвергай опасности условия неопределенно долгого продолжения человечества на Земле».

«Включай в твой настоящий выбор будущую целостность человека как сообъекта твоей воли».

В отличие от кантовского категорического императива, йонасовский обращен к коллективному субъекту и социально-политической деятельности. Подлинная жизнь сводится к онтологической идее человека: «человечество должно быть» -- и только потом это бытие может осуществляться лучшим образом.

Новая роль знания в морали возникает в связи со все увеличивающейся пропастью между последствиями деятельности, имеющими кумулятивный характер, и прогнозом о них. Философ актуализирует библейский мотив «страха и трепета». В качестве решающего принципа в науке, экономике и политике, по Йонасу, должен выступать, как разновидность «сравнительной футурологии», принцип «эвристики страха» -- принцип максимальной предусмотрительности, необходимости преимущества пессимистического прогноза перед оптимистическим, действия из состоянии страха перед будущем. Тем не менее, это не принцип фатализма, а так называемый «оптимизм без иллюзий». В современных условиях «эвристика страха» все более актуализируется и латентно присутствует в языке СМИ, литературе и кинематографе, таких эмпирических методах научного исследования, как экстраполяция и прогнозирование.

Йонас утверждает, что современное могущество распространило «город», бывший ранее «анклавом» внутри природы, на всю земную природу. Если природа поддерживает цели, соответственно, ставит задачи, значит, она полагает ценности. В жизни, постоянно содержащей в себе возможность смерти, наиболее выразительным становится «самоутверждение бытия». Глобальный экологический кризис, непредсказуемая стихийная динамика технической цивилизации в условиях острого планетарного цейтнота, а также угроза человеческому достоинству требуют все большего участия нравственности и делают ответственность «заповедью».

Прогресс напоминает о постоянной готовности к его негативным последствиям, т.е. его отрицательному (вредному) использованию. Не один ученый в лаборатории, а весь исследовательский коллектив должен принимать решение: поддержать или прекратить эксперимент и, тем самым, ограничить его последующее применение. Это первый шаг на пути к общечеловеческой ответственности. Объективность в науке требование методологической свободы от ценностей -- должна перерасти в «расширенную объективность», смыслом которой становится раскрытие ценностного статуса вещей.

Идеал Бэкона подразумевал, что все открытия совершаются из сочувствия и с целью улучшения человеческого общества. И общество в основном продолжало благосклонно смотреть на науку вплоть до первого атомного взрыва в конце Второй мировой войны, который послужил своего рода критическим рубежом. Как выразился Роберт Оппенгеймер, «физики познали грех». Когда были изобретены методы получения рекомбинантных ДНК -- основные методы современных исследований в области генетики, научное сообщество быстро распознало возможную опасность новой технологии и ее социальные последствия, после чего попыталось выработать комплекс мер по ограничению исследований, даже если отдельные члены сообщества и не были согласны с такими мерами.

Если исходить из социокультурного контекста, понятно, почему генетика пробуждает такой интерес и почему открытия в ее области имеют такие далеко идущие последствия. В последние годы была открыта молекулярная основа наследственности, расшифрован генетический код; создаются новые искусственные гены; в пробирках выращиваются вирусы; из клеток зрелого организма создаются идентичные близнецы лягушек и овец; в пробирках оплодотворяются человеческие клетки; женщинам пересаживают эмбрионы; врачи лечат многие наследственные заболевания; выращиваются гибриды крыс и мышей.

Все эти открытия и исследования привлекают интерес общества не только потому, что они обещают открыть многие тайны жизни, но и потому, что позволяют менять свойства живых организмов, то есть вмешиваться в процесс эволюции. Земледельцы эпохи неолита меняли свойства растений и животных посредством искусственного отбора. Современная наука предлагает возможность создавать новые организмы для тех или иных целей, поставленных человеком: растения, синтезирующие удобрения прямо из воздуха; бактерии, производящие человеческие белки; бактерии, которые питаются загрязняющими веществами или производящие белки из нефти; вирусы, переносящие человеческие гены.

Как и в других областях науки, наши знания в генетике можно использовать как во благо, так и во вред живому. Метод излечения наследственных заболеваний можно использовать и для передачи этих заболеваний, а возможность диагностировать и предупреждать развитие наследственных дефектов до рождения ставит перед нами вопрос: кто будет решать, что то или иное явление представляет собой дефект и на каком основании? Доведенная до полного абсурда идея об очищении расы не исчезла с падением нацистской Германии и продолжает находить своих сторонников в различных расистских и фашистских группировках. Не стоит забывать и о том, что не всегда возможно предсказать, какие свойства приобретет организм, если изменить его генетическую структуру -- новые свойства могут оказаться и нежелательными.

Роль науки и технологии в современном мире

Террористические акты в США 11 сентября 2001 года указывают, что наука и технология, которые порождают современный мир, сами по себе являются ключевыми уязвимыми точками нашей цивилизации. Самолеты, небоскребы -- все эти символы современности -- были превращены в оружие одним прикосновением злонамеренной изобретательности[15,17,21,31,38,56,68,71,74,77].

Будущее и его ужасающие возможные варианты можно проследить двумя книгами: «1984» Джорджа Оруэлла (первая публикация в 1949 году) и «О дивный новый мир» Олдоса Хаксли (вышла в 1932 году).

Эти две книги были куда более провидческими, чем можно было догадываться в то время, потому что в них описывались две разные технологии, которым предстояло возникнуть и определить мир на срок жизни двух следующих поколений.