Размещено на http://allbest.ru

1

Воронежский государственный университет

УДК 141.7 Философские науки

Этические проблемы применения искусственного интеллекта

Маковкин Александр Сергеевич

Рассуждая о возможности создания искусственного интеллекта, нельзя не проанализировать вопрос «нужен ли он нам?». На протяжении двадцатого века внедрение множества новых технологий, призванных улучшить жизнь человека, не раз приводило к множеству отрицательных побочных эффектов. Популяризация автомобилей привела к загрязнению воздуха.

Достижения ядерной энергетики не только подарили нам дешевую энергию, но и послужили причиной катастроф в Чернобыле и Фукусиме. Моральная ответственность ученого обязывает учитывать этические соображения, выполняя свою работу, выбирать какие проекты стоит реализовать, а какие нет. Что если последствия изобретения искусственного интеллекта принесут больше вреда, чем пользы человечеству? Разработки в данной области становятся источником невиданных ранее проблем, требующих философского осмысления.

Чтобы проанализировать этические проблемы искусственного интеллекта, для начала следует разграничить сильный и слабый ИИ. Цель слабого искусственного интеллекта состоит в выполнении отдельных интеллектуальных операций, которые не подразумевают наличия у компьютера подлинного сознания. Программа с сильным ИИ, напротив, «будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум - это разум» [4, с. 7]. Таким образом, ввиду колоссальной разницы между двумя видами искусственного интеллекта для каждого из них характерен свой набор этических проблем.

Слабый искусственный интеллект является инструментом, который позволяет решать те или иные задачи, не требующие полного спектра человеческих познавательных способностей. В настоящее время подобные машины повсеместно используются в различных сферах человеческой деятельности. Наиболее яркий пример - экспертные системы.

Экспертная система - это программа, которая заменяет эксперта в той или иной области. В качестве примеров можно привести MICIN - систему для медицинской диагностики, разработанную специалистами из Стенфорда. Исходя из сообщенных симптомов, экспертная система может сама поставить диагноз и сообщить рекомендуемый курс лечения [3]. Современная экономика находится в полной зависимости от применения вычислительной техники в целом и программ искусственного интеллекта в частности. Например, в США такие задачи как проверка заявок и выдача разрешений на выпуск кредитных карт выполняются программами искусственного интеллекта, что делает потребительский кредит более доступным.

Но даже применение такого, казалось бы, исключительно безвредного ИИ может привести к некоторым проблемам. Первая - проблема безработицы. Напрашивается вывод, что из-за популяризации подобных программ тысячи служащих потеряли свои рабочие места. Но в действительности применение систем ИИ обходится значительно дешевле ручного труда. В настоящее время автоматизация производства и сферы услуг с помощью интеллектуальных машин, создает больше рабочих мест, чем устраняет, а так же приводит к появлению более высокооплачиваемых и интересных специальностей [8].

Лоуренс Кац, рассуждая о данной проблеме, провел масштабное исследование того, как на протяжении нескольких столетий истории человечества, технологические новшества влияли на количество рабочих мест и пришел к выводу, что в долгосрочной перспективе доля занятости достаточно стабильна. В этом смысле автоматизация с применением систем искусственного интеллекта не более опасна, чем неинтеллектуальная автоматизация [7].

Другая проблема, связанная с применением систем слабого искусственного интеллекта - проблема ответственности. Например, если доктор прислушался к мнению экспертной системы относительно диагноза, то кому нести ответственность, если машина ошиблась? В настоящее время общепризнано, что выполнение врачом процедур, имеющих высокую ожидаемую полезность, нельзя считать пренебрежением служебными обязанностями. Современные экспертные системы не могут непосредственно влиять на пациента, они влияют на мнение доктора, и в этом смысле выполняют ту же функцию, что и справочники или медицинские учебники. Специалисты обязаны понимать предпосылки любого решения программы и самостоятельно делать выбор подчиняться или нет мнению искусственного интеллекта. Поэтому в настоящее время нельзя переложить ответственность со специалиста на машину, но если вычислительные системы когда-то будут надежно принимать более точные решения по сравнению с людьми, в таком случае, роль живого специалиста нивелируется, а экспертная система приблизится к сильному искусственному интеллекту, применение которого связанно с рядом совсем иных этических проблем.

Первая проблема применения сильного искусственного интеллекта, которую мы затронем, заключается в вопросе: «если мы сможем создать искусственный интеллект, превосходящий наш собственный, то, как сложатся отношения людей и машин?».

Бесчисленное количество фантастических художественных произведений посвящено этой тематике. Некоторые фильмы, такие как «Терминатор» и «Матрица», пытаются предупредить нас об опасности, которую несут интеллектуальные машины и рисуют страшные картины мира, где люди порабощены роботами. Авторы кинокартины «Она», посвященной роману между одиноким писателем и разумной операционной системой, считают, что искусственный интеллект, способный к саморазвитию, очень быстро отдалится от своих создателей. И, как нам кажется, опасения фантастов достаточно оправданы. Если сильный ИИ способен превзойти естественный интеллект во всех сферах познания, то можно сделать вывод, что подобная машина сможет проектировать ещё более умные вычислительные системы. Таким образом, можно сказать, что изобретение сильного искусственного интеллекта станет последним изобретением человечества. Такую ситуацию известный математик и фантаст Вернон Видж назвал технологическим превосходством, заметив, что создание сверхинтеллектуальной машины ознаменует конец эры людей [2]. Для решения данной проблемы американским ученым Элизером Юдковски была создана концепция дружественного интеллекта. Данная концепция предполагает создание искусственного интеллекта, который будет оказывать скорее позитивное влияние на человечество, чем негативное. Критикуя три закона робототехники Айзека Азимова [5], Юдковски утверждает, что подлинный разум, мотивированный на определенное действие, способен обойти любые преграды на своем пути. Следовательно, программирование запрещающих законов в сильный искусственный интеллект бесполезно.

Куда полезней, с точки зрения сторонников концепции дружественного ИИ, вместо законов создать мотивацию не причинять вреда другим существам. Подобный искусственный интеллект теоретически способен убить человека в том случае, если его действия принесут больше пользы человечеству в целом [9]. Но где гарантия, что подобная машина не сочтет необходимым однажды «усыпить» все человечество, чтобы люди не причиняли друг другу вреда? Или что помешает бесконечно саморазвивающемуся сильному искусственному интеллекту докопаться до сути своего сознания и обойти собственные мотивации, так же как он может обойти законы робототехники?

Таким образом, даже концепция дружественного ИИ не может дать гарантий, что создание сильного искусственного разума не приведет к непредсказуемым последствиям. Приведет ли это к войне машин и людей или же искусственный интеллект просто оставит человечество позади, продолжая свое развитие? Оба варианта не кажутся нам позитивными. Трудно представить, как человек может контролировать сознание, превосходящее его собственное, поэтому, возможно, единственным безопасным выходом является своеобразный симбиоз человека и машины, к которому стремятся представители трансгуманизма.

Сторонники трансгуманизма настаивают на необходимости расширения интеллектуальных способностей человека при помощи современных технологий. Для реализации этой цели трансгуманисты предлагают сконцентрироваться на разработке искусственного интеллекта и прямого интерфейса между мозгом и компьютером, что может привести к реализации столь экзотических идей, как полное копирование сознания на небиологический носитель или даже объединение сознаний людей с ИИ [6].

Здесь можно вспомнить еще один популярный этический вопрос о философии искусственного интеллекта: является ли человек, которому в результате медицинских операций заменили 99 процентов тела искусственными органами, машиной? Подобная перспектива уже не кажется столь невероятной, ведь уже сегодня разработаны роботизированные конечности, хрусталик глаза, вестибулярный имплантат, сердце, почка и прочие искусственные органы. В 2014 году ученые из инженерной школы Витерби создали работающий искусственный синапс, состоящий из нанотрубок. По оценкам экспертов уже к 2050 году станет возможна полная замена физического мозга искусственным, что приведет к многократному ускорению мыслительной деятельности и даже ликвидации смерти.

В случае, например, автокатастрофы искусственный мозг просто отключится, а тело можно будет восстановить, на основе сохраненных данных [Там же]. Останется ли человек человеком, претерпев столь значительные изменения? Напрашивается аналогия с древним парадоксом Евбулида «Лысый»: если волосы выпадают по одному, то в какой момент человек становится лысым [1]? Рассуждая о кибернетизации, мы не сможем найти определенную точку резкого перехода количественных изменений в качественные, но, в конечном итоге, претерпев эти модификации, человек выйдет за свои природные рамки и станет «трансчеловеком», который не подвержен болезням, старению и даже смерти. Несмотря на всю позитивность идей трансгуманистов крайне сложно представить себе подобный переход в отрыве от социально-экономической обстановки в мире. Если мы представим, что однажды подобные технологии станут реальностью, то, вероятнее всего, они окажутся в руках некой малочисленной элиты. Какие мысли придут в головы узкому кругу бессмертных «сверхлюдей», для которых окружающий мир замедлен в тысячи раз, ввиду ускорения когнитивных процессов, предсказать невозможно. этический робототехника искусственный интеллект

В заключение, стоит отметить, что некоторые из рассмотренных угроз маловероятны, другие не являются более опасными, чем проблемы неинтеллектуальной технологизации, но одно можно сказать точно: изобретение сильного искусственного интеллекта изменит жизнь людей до неузнаваемости. Это не значит, что мы должны отказаться от изучения данной сферы, испугавшись, например, потери человечности.

На протяжении истории многие технологические новшества вызывали опасения у людей, но наука всегда одерживала победу. Так из атомной бомбы родилась атомная энергетика, а изучение такой, спорной с этической стороны, сферы науки как технология клонирования, позволила лечить ранее смертельные заболевания. Таким образом, разработки в области искусственного интеллекта должны продолжаться, но для анализа возможных последствий для общества в целом и личности в частности к ним стоит привлекать не только инженеров, но и философов, социологов, экономистов, психологов.

Список литературы

1. Асмус В. Ф. Античная философия. М.: Высшая школа, 1999. 451 с.

2. Видж В. Технологическая сингулярность [Электронный ресурс]. URL: http://old.computerra.ru/think/35636/ (дата обращения: 18.11.2014).

3. Новикова В. А., Андреева Д. Ю., Туйкина Д. К. Искусственный интеллект и экспертные системы [Электронный ресурс]. URL: http://expro.ksu.ru/materials/ii_i_es/book.html (дата обращения: 18.11.2014).

4. Серль Дж. Разум мозга - компьютерная программа? // В мире науки (Scientific American. Издание на русском языке). 1990. № 3. С. 7-13.

5. Три закона робототехники [Электронный ресурс]. URL: https://ru.wikipedia.org/wiki/Три_закона_робототехники (дата обращения: 18.11.2014).

6. Bostrom N. A History of Transhumanist Thought [Электронный ресурс]. URL: http://jetpress.org/volume14/bostrom.html (дата обращения: 18.11.2014).

7. Katz L. F. Long-Term Unemployment in the Great Recession [Электронный ресурс]. URL: http://scholar. harvard.edu/ files/lkatz/files/long_term_unemployment_in_the_great_recession.pdf (дата обращения: 18.11.2014).

8. Rotman D. How Technology Is Destroying Jobs [Электронный ресурс]. URL: http://www.technologyreview.com/ featuredstory/515926/how-technology-is-destroying-jobs/ (дата обращения: 18.11.2014).

9. Yudkowsky E. Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures. San Francisco, CA: The Singularity Institute, 2001.

Аннотация

УДК 141.7 Философские науки

Этические проблемы применения искусственного интеллекта. Маковкин Александр Сергеевич Воронежский государственный университет kolbasungames@gmail.com

В статье анализируется этическая проблематика применения искусственного интеллекта (ИИ). Разграничиваются два основных подхода к созданию искусственного интеллекта и рассматриваются потенциальные негативные последствия создания соответствующих типов ИИ. На основе изучения этических проблем применения интеллектуальных технологий автор делает прогнозы относительно вероятности, опасности и значимости их для человека и общества.

Ключевые слова и фразы: искусственный интеллект (ИИ); сильный ИИ; слабый ИИ; этика ИИ; трансгуманизм; кибернетизация; экспертные системы; технологическое превосходство.

Annotation

Ethical issues of artificial intelligence application. Makovkin Aleksandr Sergeevich, Voronezh State University kolbasungames@gmail.com

In the article the ethical problems of artificial intelligence (AI) application are analyzed. The author distinguishes between two basic approaches to artificial intelligence creation and considers the potential negative consequences of the respective types of AI creation. On the basis of the study of the ethical problems of intelligent technologies application the author makes predictions about the likelihood of danger and the importance of them for the human being and society.

Key words and phrases: artificial intelligence (AI); strong AI; weak AI; ethics of AI; transhumanism; cybernation; expert systems; technological superiority.

Размещено на Allbest.ru