Понятие искусственного интеллекта и юридическая ответственность за его работу

Размещено на http://www.allbest.ru/

Понятие искусственного интеллекта и юридическая ответственность за его работу

В.А. Лаптев доцент кафедры предпринимательского

и корпоративного права Московского

государственного юридического университета

им. О.Е. Кутафина (МГЮА), доктор юридических наук

Аннотация

искусственный интеллект правовой робот

Промышленная революция трансформировала понятие о способах и средствах производства. Внедрение искусственного интеллекта и роботов в реальном секторе экономики стало неизбежным. Степень воздействия человека на ход производственного цикла постепенно уменьшается и заменяется программами, определяющими по цифровым алгоритмам поведение роботов и образ мышления искусственного интеллекта. Правовая оценка природы искусственного интеллекта и регламентация порядка его использования стала важнейшей задачей современного отечественного правоведения. В статье дан анализ возможных подходов к раскрытию понятия «искусственный интеллект» как правовой категории и соотношения его с понятиями «робот» и «киберфизическая система». Раскрываются вопросы юридической ответственности за работу искусственного интеллекта. Изучается возможность признания у робота (машины), обладающего искусственным интеллектом, свойств субъекта права. Рассматривается возможность признания правосубъектности искусственного интеллекта в киберфизическом пространстве. Цель работы: предложить пути развития законодательства в условиях цифровизации российской экономики и внедрения искусственного интеллекта. Использовались метод анализа, синтеза, обобщения, статистики, индукции и дедукции, интерпретации, классификации и сравнительный методы. Предложен подход к раскрытию категорий «искусственный интеллект», «интеллектуальные системы», «нейротехнологии» и «робот» с позиции российского права. Определены механизмы привлечения к юридической ответственности соответствующих субъектов права. Выделены краткосрочная, среднесрочная и долгосрочная перспективы развития законодательства, определяющего правоспособность робота и искусственного интеллекта в киберфизическом пространстве, содержание киберфизических отношений, а также основания привлечения участников рассматриваемых отношений к юридической ответственности. Правовое регулирование предпринимательской и иной экономической деятельности с использованием искусственного интеллекта должно основываться на конвергенции технологии, программирования и права.

Ключевые слова искусственный интеллект, машинный интеллект, цифровая экономика, право роботов, цифровое право, правосубъектность робота, киберфизические отношения, юридическая ответственность, киберфизическая ответственность, распределенный реестр

Abstract

Artificial Intelligence and Liability for its Work

Vasiliy A. Laptev Assistant Professor, Department of Entrepreneural and Corporate Law, Moscow State Legal University, Doctor of Juridical Sciences.

Industrial revolution transformed idea of ways and means of production. Introducing robots in the real sector of economy became inevitable process. Degree impact of the person on production cycle decreases gradually and replaced by programs determining behavior of robots and a mentality of artificial intelligence by digital algorithms. Primary researches of artificial intelligence have found reflections in works of software engineers. The legal treatment of the nature of artificial intelligence and a regulation of his use became the big task for domestic jurists. The analysis of possible approaches to disclosure of the concept “artificial intelligence” as legal category and his ratio with the concepts of robot and cyberphysical system is provided in the article. Issues of liability for work of artificial intelligence are revealed. The possibility of recognition for the robot (car) with artificial intelligence, status of a legal entity is studied. The possibility of recognition of legal personality of artificial intelligence in cyberphysical space is separately considered. Work purpose is to offer ways of development of the legislation in the conditions of digitalization of Russian economy and introduction of artificial intelligence. Methods of analysis, synthesis, generalization, induction and deduction, interpretation, classification and comparative methods were used. The research will allow to improve legal regulation of artificial intelligence in economy. Author's look to disclosure of categories of artificial intelligence, intellectual systems and robot from a position of Russian law is offered. Mechanisms of attraction to legal responsibility of appropriate subjects of the right are defined. Author allocates three stages: short-term, medium-term and long-term temporary prospects of development of the legislation defining legal capacity of the robot and artificial intelligence in cyberphysical space, the maintenance of the cyberphysical relations and also the bases of attraction to legal responsibility of participants of the considered relations. Legal regulation of economic activity with use of artificial intelligence has to be based on the principle of convergence of technology and rules of law.

Keywords artificial intelligence, machine intelligence, digital economy, right of robots, digital right, legal personality of the robot, cyberphysical relations, liability, cyberphysical responsibility, distributed register.

Введение

Современные исследования правоведов все чаще затрагивают проблематику регулирования экономических отношений в условиях развития цифровых технологий. Мир меняется, меняются и сущностные характеристики общественных отношений. Правоведы непременно стараются дать оценку любому явлению в жизни общества с точки зрения норм права, нередко используя категорию «правовое явление». Вместе с тем многие явления далеки от регулятивной силы права. Современные общественные отношения в условиях развития цифровых технологий свидетельствуют о неготовности или же неспособности законодательства регулировать отдельные аспекты складывающихся общественных отношений. Рассматриваемые отношения характеризуют как киберфизические правоотношения, урегулированные нормами цифрового права (киберфизического права). При этом термин «цифровое право» используется в качестве условной правовой категории, обозначающей совокупность норм права, регулирующих любые отношения с «цифровым элементом» (предпринимательские, административные, гражданские и другие отношения), не образующих самостоятельной отрасли права. Элементы цифрового права содержит каждая отрасль права (электронная торговля в предпринимательском праве, электронное правосудие в арбитражном процессуальном праве, цифровое межведомственное взаимодействие в административном праве и т.д.).

В статье сделана попытка раскрытия понятия искусственного интеллекта как правовой категории, его аунтификации, а также определяются возможные пути развития отечественного законодательства в части юридической ответственности за его работу. Период изучения искусственного интеллекта и научного моделирования образа его мышления начался лишь в середине ХХ века. Промышленные роботы выступили лишь третьим этапом (Industry 3.0), в то время как, искусственный интеллект и киберфизические системы стали четвертым этапом промышленной революции (Industry 4.0).

Актуальность настоящего исследование обусловлена выбранным руководством России и других стран Евразийского экономического союза курсом на развитие цифровой экономики, в том числе с использованием искусственного интеллекта (решение Высшего Евразийского экономического совета от 11.10.2017 №12 «Об Основных направлениях реализации цифровой повестки Евразийского экономического союза до 2025 года», Указ Президента Российской Федерации от 1.12.2016 № 642 «О Стратегии научно-технологического развития Российской Федерации»¹, распоряжения Правительства от 23.03.2018 № 482-р СЗ РФ. 2016. № 49. Ст. 6887. СЗ РФ. 2018. № 15 (Часть V). Ст. 2173. и от 28.07. 2017 № 1632-р СЗ РФ. 2017. № 32. Ст. 5138 (документ утратил силу в связи с изданием распоряжения Правительства РФ от 12 02 2019 № 195-р // СЗ РФ. 2019. № 8. Ст. 803). и др.). Множество вопросов по данной проблематике обсуждается на профильных сайтах в Интернете и на международных конгрессах.

В отсутствии государственного регулирования деятельности искусственного интеллекта видится эффективным саморегулирование, удачным примером которого выступает Partnership on AI -- партнерство в поддержку продвижения искусственного интеллекта, в состав которого входят Amazon, Intel, Sony, Apple, Ebay, Google, IBM, Facebook, Microsoft и другие иЯЬ: https://www.partnershiponai.org/ (дата обращения: 17. 07. 2018).

В России первые попытки узаконить «право роботов» связаны с рассмотрением законодательными органами проекта Модельной конвенции о робототехнике и искусственном интеллекте [Незнамов А., Наумов В., 2017: 1-12], разработанной Исследовательским центром проблем регулирования робототехники и искусственного интеллекта. Разумно предложение о рассмотрении в качестве субъектов рассматриваемых отношений широкого круга лиц, включая исследователей, разработчиков, лиц, финансирующих исследования и разработки в сфере робототехники, производителей, собственников, владельцев, операторов роботов, органов государственной власти и любых регулирующих органов, а также пользователей и иных лиц, взаимодействующих с роботами и киберфизическими системами, в том числе с искусственным интеллектом (ст. 1). Объектами робототехники признаются любые роботы, а также киберфизические системы с искусственным интеллектом в любой форме (ст. 2). Данной конвенции во многих ее аспектах робот (как объекта материального мира) и искусственный интеллект отождествляются.

В настоящее время коллективами ученых различных специальностей разрабатывается Цифровой кодекс России [Илющенко Р., Башелханов И., 2018: 1]. Заслуживают внимание предложения В.В. Архипова и В.Б. Наумова дополнить ГК РФ понятием «робот» -- устройство, способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека [Архипов В.В., Наумов В.Б., 2017: 46-62]. Небеспочвенно предложение авторов о признании за роботами-агентами правосубъектности и возможности их участия в силу конструктивных особенностей в современных отношениях.

Официальное признание за роботом с развитым искусственным интеллектом свойств субъектов права (участником общественных отношений) впервые состоялось в Саудовской Аравии, где человекоподобному роботу, спроектированному в Китае, дали гражданство Available at: URL: https://www.kommersant.ru/doc/3450054 (дата обращения: 15.06.2018). Следовательно, можно говорить о киберфизических отношениях, требующих правовой регламентации.

1. Понятие искусственного интеллекта

В известной степени понятие «искусственный интеллект» (AI) является одновременно изученной и дискуссионной научной категорией, по-разному, определяемой учеными различных специальностей. Так, по мнению Г.С. Осипова, искусственный интеллект выступает предметом компьютерных наук, а создаваемые на ее основе технологии являются информационными технологиями, позволяющими совершать разумные рассуждения и действия с помощью вычислительных систем и иных искусственных устройств [Осипов Г.С., 2001: 3-13].

В правоведении, в частности, П.М. Морхатом, искусственный интеллект раскрывается как полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе биокибернетическая, система, наделенная/об- ладающая способностями и возможностями мыслить, самоогранизовываться, обучаться, самостоятельно принимать решения и т.д. [Морхат П.М., 2017: 69].

Искусственному интеллекту, очевидно, противопоставляется естественный интеллект человека и других животных организмов. Но не у каждого робота есть искусственный интеллект, ибо только интеллект позволяет рассуждать, обучаться и принимать самостоятельные решения. На начальном этапе развития робототехники промышленные и иные роботы действовали исключительно по заданным программой алгоритмам. Впоследствии цифровые технология и программные комплексы сделали возможным создание и развитие искусственного интеллекта. Робота справедливо отграничивают от киберфизической системы, существование которой возможно в виде компьютерной программы, работающей на базе процессора соответствующей ЭВМ.

Искусственный интеллект может существовать отдельно от машины (робота) только в цифровом виде -- в виде киберфизической системы и иных искусственных систем, позволяющий моделировать соответствующие действия. Собственно, именно в этом заключается трудность определения грани между программным алгоритмом и искусственным интеллектом, поскольку традиционно интеллект (творческая возможность) свойственен только биологическим организмам. В частности, по методическим рекомендациям Минобрнауки России о признании результатов интеллектуальной деятельности единой технологией от 1.04.2010 СПС КонсультантПлюс., интеллектуальная деятельность -- это умственная, мыслительная, познавательная и творческая деятельность человека.

Еще недавно предполагалось, что искусственный интеллект -- это заложенное в памяти программы решение, т.е. не новое решение (творческая функция), а алгоритм, содержащий решение в вычислительной программе. Видится интересным раскрытие данной категории в нормативных актах, посвященных техническому регулированию. Так, искусственный интеллект -- моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека (п. 3.17. ГОСТ Р 43.0.5-2009 «Информационное обеспечение техники и операторской деятельности. Процессы информационно-обменные в технической деятельности. Общие положения»). При этом под интеллектом понимается способность субъекта (оператора) к отвлеченному мышлению, абстрагированию, позволяющая с возникновением самосознания и рефлексии использовать имеющуюся у него информацию некоторым полезным целенаправленным образом (п. 3.10). При таком раскрытии понятия «искусственный интеллект» используются его практические свойства как явления в информационно-обменном процессе.

В ГОСТ Р 43.0.5-2009 формы «человекоинформационного» взаимодействия (взаимодействие человека с информацией) разделяются на три вида: 1) естественно-интеллектуализированное, осуществляемое с использованием возможностей собственной мыслительной деятельности человека; 2) ги- бридно-интеллектуализированное, осуществляемое с использованием машинно-активизированной (компьютерно-активизированной) мыслительной деятельности; 3) искусственно-интеллектуализированное, осуществляемое с использованием активизации мышления искусственно имитируемой (ма- шинно-имитируемой) мыслительной деятельностью.

В начале развития робототехники предполагалось, что робот выполняет действия только по ранее заданным программой алгоритмам. Искусственный интеллект -- это следующая стадия развития робототехники и программирования (их особая часть), наделяющая способностью робота самостоятельно принимать «новое» решение, ранее не заложенное в программе. Современные вычислительные программы наделяют возможностью искусственного интеллекта выработать самостоятельное цифровое решение (кибер-решение), которое впоследствии может воплотиться действиями робота в материальном мире либо командами киберфизической системы в виртуальном пространстве. Ярким примером искусственного интеллекта в виде программы для ЭВМ, то есть в цифровой форме (в отрыве от материального воплощения), выступает IBM Watson, используемая в бизнес-процессах.

В подтверждение сказанного в ГОСТ Р ИСО 8373-2014 («Роботы и робототехнические устройства. Термины и определения») выделяется категория «разумный робот» и «робот с элементами искусственного интеллекта», выполняющий работу путем считывания данных из окружающей среды, взаимодействия с внешними источниками и адаптации своего поведения (п. 2.28). «Обычный» промышленный робот -- автоматически управляемый, перепрограммируемый манипулятор, программируемый по трем или более степеням подвижности, который может быть установлен стационарно или на мобильной платформе для применения в целях промышленной автоматизации (п. 3.5 ГОСТ Р 60.0.0.2-2016).

О внедрении искусственного интеллекта в деятельность субъектов предпринимательства свидетельствуют самоуправляемые автомобили, виртуальные помощники, торговые площадки и т.д. Создаются чипы мозга роботов, развивается применение искусственного интеллекта в военно-промышленном комплексе и в других сферах жизнедеятельности общества.

Итак, определяющим отличием искусственного интеллекта от обычного робота выступает наличие мышления или отсутствие такового. Понятия мышления и мыслительной деятельности раскрыты в п. 3.23 и 3.24 ГОСТ Р 43.0.5-2009. В частности, мышление -- психофизиологические процессы работы мозга оператора, в том числе относящиеся к внутренней речи, памяти, функциональным психическим чувственным состояниям, обеспечивающие осуществление мыслительной деятельности с инициированием есте- ственно-интеллектуализированных, гибридно-интеллектуализированных, искусственно-интеллектуализированных человеко-информационных взаимодействий, влияющих на возникновение и функционирование информационно-обменных процессов, проведение соответствующей им информационно-интеллектуальной деятельности.

Рассмотренные выше характеристики дефиниций искусственного интеллекта можно схематично отобразить следующим образом.

Схема демонстрирует взаимосвязь категорий искусственного интеллекта, робота и киберфизической системы, а также их взаимопроникновения. Вероятно, в ближайшем будущем искусственный интеллект будет существовать в отрыве от конкретных роботов или ЭВМ, например, в виртуальном «облачном» мире, передвигаясь по телекоммуникационной сети Интернет.

2. Применение искусственного интеллекта в предпринимательстве

Искусственный интеллект может применяться в самых различных сферах жизнедеятельности общества: в экономике, образовании, культуре, науке, медицине и т.д. В настоящем исследовании автором будет рассмотрено использование искусственного интеллекта в предпринимательской и иной экономической деятельности (сфера бизнеса).

Как известно, все направления хозяйственной деятельности предпринимателей отражены в Общероссийском классификаторе видов экономической деятельности (ОК 029-2014 (КДЕС Ред. 2; далее -- ОКВЭД). Однако упоминаемые виды хозяйственной деятельности, как правило, касаются использования машин и роботов как материально-технического обеспечения без указания на их искусственный интеллект, в том числе: 1) производство механических манипуляторов и промышленных роботов (28.22); 2) производство промышленных роботов для многократного специализированного использования (28.99); 3) оптовая торговля конвейерными роботами (46.69) и т.д.

Приближенными к работе искусственного интеллекта выступают следующие виды деятельности:

производство программно-аппаратных комплексов, автоматизированных систем, высокопроизводительных электронно-вычислительных машин и их составных частей, предназначенных для исследований в сфере ядерных оружейных технологий (26.20);

деятельность агентов, продающих машины, включая офисное оборудование и вычислительную технику, промышленное оборудование, суда и летательные аппараты (46.14);

торговля оптовая программным обеспечением (46.51); деятельность, связанная с использованием вычислительной техники и информационных технологий (62.09);

прокат и аренда офисных машин и оборудования без оператора (77.33). Отдельные виды экономической деятельности, непосредственно связанные с применением искусственного интеллекта, упоминаются в различных нормативных правовых и иных актах:

организация транспортной логистики (послание Президента России Федеральному Собранию от 1. 03. 2018);

информационные и коммуникационные технологии с искусственным интеллектом (Указ Президента России от 9. 03. 2017 № 203);

промышленный искусственный интеллект (Указ Президента России от 1.12. 2016 № 642);

управление транспортными потоками искусственным интеллектом и бортовые системы (распоряжение Правительства России от 22.11. 2008 № 1734-р);

информационно-аналитические системы мониторинга в агропромышленном комплексе (постановление Правительства России от 25. 08/ 2017 № 996);

автомобилестроение (распоряжение Правительства России от 28.04. 2018 № 831-р);

оборонно-промышленный комплекс (распоряжение Правительства России от 1.11. 2013 № 2036-р) и другие.

Видимо, в ближайшем будущем ОКВЭД пополнится соответствующими видами экономической деятельности с применением искусственного интеллекта.

Нейротехнологии и Нейронет близки по своей сути к искусственному интеллекту, однако имеют различную природу и применение. Нейротехнологии позволяют использовать весь потенциал мозга человека, по сути, участвуя в мыслительной деятельности человека и повышая ее продуктивность. Нейро- нет -- система человеко-машинных коммуникаций и информационного обмена посредством нейрокомпьютерных интерфейсов на базе гибридных цифроаналоговых архитектур. Нейронет считают следующим поколением Интернета ^еЬ 4.0) и основой создания гибридного человеко-машинного интеллекта. Так создаются предпосылки развития био-киберфизических организмов.

В российском законодательстве понятие нейронной электронно-вычислительной машины закреплено в Указах Президента России от 26.08.1996 № 1268 и от 17.12.2011 № 1661. Так, нейронная ЭВМ представляет собой вычислительное устройство, разработанное или модифицированное для имитации поведения нейрона или совокупности нейронов, например, вычислительное устройство, характеризуемое способностью аппаратуры модулировать вес и количество взаимных связей множества вычислительных компонентов на основе предыдущей информации. Совокупность компьютеров или процессоров, обладающих искусственным интеллектом, образуют нейронную сеть аналогичной структуре нейронов коры головного мозга человека, где нейрон - электрически возбудимая клетка, обрабатывающая, хранящая и передающая информацию с помощью электрических и химических сигналов [^ПНашз И., Иеггир К., 1988: 423-453].

Развитию Нейронета в России способствует недавно утвержденная распоряжением Правительства России от 30.03.2018 № 552-р СЗ РФ. 2018. № 16 (Часть II). Ст. 2395. дорожная карта совершенствования законодательства и устранения административных барьеров в целях реализации Национальной технологической инициативы по направлению «Нейронет», обеспечивающей участие российских компаний на формируемых глобальных рынках продукции и услуг в сфере средств человеко-машинных коммуникаций. В дорожной карте приводятся следующие сегменты применения Нейронета: нейромедтехника, нейрофарма, нейрообразование, нейрокоммуникации, нейроразвлечения и нейроспорт, нейроассистенты и искусственный интеллект, иные смежные технологии (виртуальной и дополненной реальности, медицинской робототехники, сбора и обработки больших данных).

Российская статистика свидетельствует об активных темпах внедрения искусственного интеллекта в промышленность. В частности, к 2019 году прогнозировалось подключение около 1,9 млн. единиц оборудования к промышленному Интернету, из которых 1,3 млн. -- в машиностроении и 0,6 млн. -- в процессном производстве. Объем использования искусственного интеллекта и машинного обучения в денежном выражении в 2017 году составил 700 млн. руб. и вырастет до 28 млрд. руб. к 2020 году Искусственный интеллект (рынок России). Available at: URL: http://www.tadviser.ru/index. php/ (дата обращения: 22.06.2018).

С учетом положений Федерального закона от 31.12. 2014 № 488-ФЗ «О промышленной политике в Российской Федерации» СЗ РФ. 2015. № 1 (часть I). Ст. 41. перспективны такие сферы применения искусственного интеллекта, как машино- и судостроение, металлургия, электроэнергетика, нефтехимическая, легкая и медицинская промышленность. Эффективным также будет внедрение искусственного интеллекта в бизнес-образование, в том числе в виртуальные школы и университеты, электронные библиотеки.

Среди прикладного использование искусственного интеллекта (в электронном виде) можно определить: смарт-контракты (умные контракты), кибербезопасность (защита электронных баз данных, система противодействия взлому), умный дом и т.д. При этом распространение искусственного интеллекта имеет серьезный недостаток -- исчезают рабочие места, ряд профессий вскоре утратит актуальность.

3. Субъекты отношений и юридическая ответственность

Традиционная концепция о субъектах права исходит из того, что участниками экономических отношений признаются физические и юридические лица, публично-правовые образования -- Российская Федерация, субъекты федерации и муниципальные образования (подраздел 2 ГК РФ). Различные отрасли российского права выделяют соответствующие признаки субъектов права, в частности, в предпринимательском праве для участников рыночных отношений определяющими выступают наличие регистрации или легитимации иным образом, хозяйственной компетенции, имущественной базы, а также способности нести ответственность [Занковский С.С., Михайлов Н.И. (ред.), 2018: 70-75]. В предпринимательских отношениях данным критериям, в частности, отвечают индивидуальные предприниматели, юридические лица, предпринимательские объединения и публично-правовые образования.

Вопрос о правосубъектности имеет давнюю историю, начиная с советского правоведения. Правосубъектность охватывает способность обладать субъективными правами и нести обязанность (правоспособность) и способность самостоятельно осуществлять данные права и обязанности (дееспособность) [Алексеев С.С., 1994: 93-95]. При этом субъективное право рассматривается как мера дозволенного поведения, принадлежащая лицу. Подробное изучение теоретических подходов к пониманию, например, юридического лица (теория реального субъекта права и теория фикции), дает право согласиться с выводами авторов, что это не более чем фикция. Из различных теорий фикции заслуживают внимание теория коллектива (А.В. Венедиктова), теория директора (Ю.К. Толстого), теория администрации (Н.Г. Александрова) и т.д.

Как же быть с роботами (машинами) или киберфизическими системами на базе ЭВМ, обладающих искусственным интеллектом? Речь идет об объекте или о субъекте права? Нет ли в данном вопросе фикций?

Парадоксально, но на практике упомянутые признаки субъекта предпринимательства, например, могут быть у промышленного А1-робота. Так, робот может иметь регистрацию (предположим, в Ростехнадзоре) и учетный номер; обладать хозяйственной компетенцией, соответствующей целям его деятельности; обладать имущественной базой, поскольку робот априори представляет собой материальную ценность; его можно привлечь к юридической ответственности (например, в виде принудительного отключения или доработки программы, а также утилизации, как крайней мере ответственности).

Таким образом, на первый взгляд, А1-робот обладает отдельными элементами субъекта права, при осуществлении им производственно-хозяйственной деятельности. Одновременно робот выступает объектом права, будучи предметом материального мира и обладающий ценностью (как имущество -- технология). Вместе с тем правоведение разделяет объект и субъект права. Однако истории известны факты, когда объекты права переходили в разряд субъектов (например, при отмене рабства рабы становились полноправными участниками общественных отношений).

Если обратить внимание на этапы развития человека, то каждый индивид на начальном этапе биологического развития не обладает той полнотой мышления и быстротой принятия решений как взрослый человек. Путем обучения человек с годами совершенствует свое сознание для выработки более правильных решений. Похожая картина наблюдается при развитии искусственного интеллекта, изначально имеющего отправные данные для будущего развития собственного мышления и самосовершенствования. Соответственно совокупность робота и искусственного интеллекта можно рассмотреть в качестве робото-разумного субъекта права (robo-sapiens).

Говоря об ответственности за деятельность робота, в том числе обладающего искусственным интеллектом, следует вспомнить «три закона робототехники» А. Азимова [Azimov A., 1960: 129), актуальность которых не утрачена: 1) действия (бездействия) робота не могут и не должны вредить человеку; 2) робот должен подчиняться командам человека, за исключением случаев, когда команды нарушают первый закон; 3) робот должен заботиться о своей безопасности в пределах первого и второго законов.

Указанные фундаментальные истины заложили основы юридической оценки поведения робота. С. Наделла развил предложенные Азимовым законы, подчеркнув, что искусственный интеллект разработан с целью помощи человечеству, уважая при этом достоинство последнего, а не для его замены. Творческая деятельность, включая рисование, архитектуру и музыку, могут быть исключительной прерогативой человека [Рябов И., 2016: 1].

В научной литературе имеются разные подходы к возможности привлечения к ответственности за работу искусственного интеллекта, включая: ответственность лица, программировавшего робота; ответственность лица, использующего робота в качестве инструмента; ответственность самого интеллектуального робота [Морхат П.М., 2017: 132-141]. Непредсказуемость будущего поведения AI-робота заложена в цифровом алгоритме, весьма наглядно раскрытом в статье о проблемах безопасности искусственного интеллекта [Amodei D. et al., 2016: 1-29]. Так, наделяя робота самоорганизацией при плохом дизайне искусственного интеллекта, нельзя исключать его нежелательное обучение (машинное обучение), в том числе вызванное взломом программы.

Временную перспективу правовой регламентации юридической ответственности за деятельность искусственного интеллекта можно условно разделить на три периода: краткосрочный (ближайшие несколько десятилетий); среднесрочный (начиная с середины и до конца XXI века); долгосрочный (с начала XXII века).

В ближайшее время AI-роботы будут рассматриваться исключительно в качестве объекта права согласно положениям ст. 128 ГК РФ об объектах гражданских прав. Интеллектуального робота так же, как и киберфизическую систему в виде программы для ЭВМ, можно будет продавать или отчуждать иным образом с учетом особенностей оборота данных объектов гражданских прав, установленных законодательством (ст. 129 ГК РФ).

По аналогии со ст. 1079 ГК РФ ответственность за деятельность, связанную с применением искусственного интеллекта, несут лица, использующие данные интеллект как объекта повышенной опасности. При этом под источником повышенной опасности понимается любая деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами (п. 18 Постановления Пленума Верховного Суда России от 26. 01. 2010 № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина» Бюллетень Верховного Суда РФ. 2010. № 3.).

При рассмотрении дела в каждом случае суд вправе самостоятельно определять, относится тот или иной объект к категории «источника повышенной опасности». Очевидно, интеллектуальные роботы, а также интеллектуальные программные продукты ЭВМ к таким объектам права относятся. Следовательно, российское законодательство уже содержит необходимые нормы права, регламентирующие порядок привлечения к ответственности за деятельность искусственного интеллекта. Существующая правовая конструкция предполагает, что ответственность за работу искусственного интеллекта как в материальном воплощении (в виде робота), так и в цифровой форме (в виде киберфизической программы ЭВМ) несет лицо, владеющее искусственным интеллектом, в частности, для обеспечения своей производственно-хозяйственной деятельности.

Более удачно использование категории «владелец», которая должна рассматриваться в самом широком смысле. Так, владельцем AI-робота или AI- системы ЭВМ могут признаваться лица, обладающие правом собственности, правом хозяйственного ведения, правом оперативного управления либо на другом законном основании на данные объекты. К указанной категории лиц не относятся сотрудники юридического лица, работающие по трудовому либо гражданско-правовому договору.

Неверно отождествление понятий «владелец» и «пользователь», а также раскрытие дефиниции «владелец» через категорию «пользователь». В настоящем случае речь идет именно о владельце, в первую очередь несущем ответственность за вред, причиненный деятельностью искусственного интеллекта.

В триаде правомочий собственника с позиции вещного права в отношении объектов материального мира (владение, пользование и распоряжение -- ст. 209 ГК РФ), владение предполагает фактическое обладание вещью с потенциальной возможностью использования вещи (объекта права), в то время как пользование -- извлечение полезных свойств объекта права. В частности, применительно к интеллектуальным роботам не каждый его владелец является пользователем (например, при передаче робота в пользовательскую аренду -- ст. 606 ГК РФ, или во временное пользование по договору ссуды -- ст. 689 ГК РФ). То есть извлечение полезных свойств робота в производственной деятельности субъектов предпринимательства может и в ряде случаев будет происходить в отрыве от его владения у пользователя. По сути, речь идет об управлении интеллектуальным роботом. Более того, предполагается, что робот будет самостоятельно управлять собой благодаря искусственному интеллекту, наделяющем его поведенческой автономией.

Общим подходом в законодательстве должно выступить положение о том, что ответственным лицом за работу искусственного интеллекта должен признаваться его владелец. Вместе с тем допустимо использовать конструкцию «ответственности фактического причинителя вреда» (пользователя). В частности, по аналогии с п. 2 ст. 1079 ГК РФ владелец искусственного интеллекта может доказать, что объект выбыл из его обладания в результате противоправных действий других лиц. В таком случае ответственность возлагается на лицо, противоправно завладевшее им. В случае виновного поведения владельца в противоправном изъятии этого источника из его обладания ответственность может быть возложена как на владельца, так и на лицо, противоправно завладевшее источником повышенной опасности. То есть дается правовая оценка поведению каждого участника правоотношения.

В предпринимательской деятельности участников рынка с использованием искусственного интеллекта наступление ответственности не должно зависеть от наличия либо отсутствия вины. Речь идет о предпринимательско-правовой ответственности (п. 3 ст. 401 ГК РФ). Освобождение субъектов предпринимательства от ответственности за работу искусственного интеллекта может быть только в случаях непреодолимой силы, обстоятельства которых устанавливаются Торгово-промышленной палатой¹¹. Робот с AI либо AI-киберфизическая система является движимым имуществом (ст. 130 ГК РФ). Однако в силу п. 38 постановления Пленума Верховного Суда РФ от 23.06.2015 № 25 «О применении судами некоторых положений раздела I ^{11 См.:} ст. 15 Закона РФ от 7.07.1993 № 5340-1 «О торгово-промышленных палатах в Российской Федерации» // Ведомости СНД и ВС РФ. 1993. № 33. Ст. 1309 (ред. Федерального закона от 30. 2015 № 451-ФЗ «О внесении изменений в Закон Российской Федерации «О торгово-промышленных палатах в Российской Федерации»» // СЗ РФ. 2016. № 1 (часть I). Ст. 71) части первой Гражданского кодекса Российской Федерации»¹² допускается признание недвижимостью ряда машин, прочно связанных с землей, перемещение которых без несоразмерного ущерба их назначению невозможно. Квалификация будет зависеть от качественно-технических характеристик объекта. Данное обстоятельство является существенным при установлении владельца и пользователя искусственным интеллектом. Вероятно, робот сможет иметь как учетный номер (движимое имущество), так и быть в структуре кадастрового номера недвижимого имущества Бюллетень Верховного Суда РФ. 2015. № 8. См.: гл. 3 и 6 Федерального закона от 13.07.2015 № 218-ФЗ «О государственной регистрации недвижимости» (в ред. Федерального закона от 25.12. 2018 № 478-ФЗ // СЗ РФ. 2018. № 53 (часть I). Ст. 8404..

Вторым ответственным лицом следует признавать создателей (производителей) А1-робота либо А1-программного комплекса ЭВМ, поскольку владелец искусственного интеллекта не всегда технически способен воздействовать на работу искусственного интеллекта, равно как и предугадать их поведение.

В данном вопросе можно использовать аналогию с некачественной продукцией, в частности -- искусственного интеллекта. Так, в силу ст. 1095 ГК РФ вред, причиненный жизни, здоровью или имуществу гражданина либо имуществу юридического лица вследствие конструктивных, рецептурных или иных недостатков А1-робота либо А1-программного комплекса ЭВМ, а также вследствие недостоверной или недостаточной информации об искусственном интеллекте, подлежит возмещению: 1) продавцом или 2) изготовителем, независимо от их вины и от того, состоял потерпевший с ними в договорных отношениях или нет. Выбор ответственного лица, к которому будут предъявляться претензии, остается за потерпевшим (п. 1 ст. 1096 ГК РФ, п. 35 Постановления Пленума Верховного Суда РФ от 28.06.2012 № 17 «О рассмотрении судами гражданских дел по спорам о защите прав потребителей» Бюллетень Верховного Суда РФ. 2012. № 9.).

Таким образом, ответственность за деятельность искусственного интеллекта несут: владелец А1; разработчик (создатель) А1.

Приведенное обоснование к рассмотрению искусственного интеллекта в качестве объекта права либо в структуре объекта права не требует существенного изменения юридической доктрины.

Следующий этап развития робототехники позволит говорить о наличии у роботов свойств субъектов права. Заслуживает внимания предложенный В.В. Архиповым и В.Б. Наумовым проект поправок к подразделу ГК РФ «Лица», в котором предлагается ввести новых участников общественных отношений -- «робота-агента» и «владельца робота-агента»; подраздел «Объекты гражданских прав» дополняется особым объектом имущества -- «роботом» [Архипов В.В., Наумов В.Б., 2017: 53-56]. При этом для определения понятия «робота» (как имущество) делается бланкетная отсылка к положениям законодательства о робототехнике, а при определении «робота-агента» раскрывается его правоспособность (как субъекта права) и дается авторское видение данной дефиниции.

Рациональное зерно кроется в гибком подходе и признании в одних случаях робота субъектом права, а в других -- объектом права. Для этого в правоведении необходимо определить соответствующие критерии.

Предложенный термин «робот-агент» имеет особенности. Перспективной стороной данного предложения является легализация робота как правоспособного участника правоотношений. Вместе с тем спорно утверждение, что собственник и владелец робота-агента несут ответственность за робота-агента, поскольку первоначальное утверждение (о наличии у робо- та-агента обособленного имущества и способности отвечать по своим обязательствам) предполагает самостоятельную личную ответственность робота- агента. Требует доработки предложение о привлечении к ответственности его собственника и владельца за действия робота-агента, за исключением случаев вины лица, разработавшего, обслуживающего или производившего робота-агента.

Дефиниция «робот-агент» ассоциируется с конструкцией агентирования, согласно которой по агентскому договору одна сторона (агент) обязуется за вознаграждение совершать по поручению другой стороны (принципала) юридические и иные действия от своего имени, но за счет принципала либо от имени и за счет принципала (п. 1 ст. 1005 ГК РФ). Остается только неясным -- если робот действует от своего имени, то можно ли рассматривать его поведение как «действия в своем интересе»? Ведь робот -- явление, придуманное человеком в интересах общества. Речь тогда может идти лишь об «операционных» либо «технических» интересах робота, для достижения которых он создан и запрограммирован.

Исторически предназначение робота и его создание человеком позволяют утверждать, что сделки с третьим лицом совершаются роботом-агентом от имени и за счет принципала, права и обязанности возникают непосредственно у принципала, а не у робота. Хотя можно допустить и совершение роботом-агентом сделок от своего имени и за счет принципала, по которым приобретает права и становится обязанным агент, хотя бы принципал и был назван в сделке или вступил с третьим лицом в непосредственные отношения по исполнению сделки.

Рассмотрение правосубъектности робота не должно привязываться к различным договорным конструкциям (в том числе к агентированию). В противном случае само утверждение о правосубъектности, существующей в связке и без отрыва от иных участников гражданского оборота, может поставить ее под сомнение. Объективное признание робота участником отношений должно основываться на наличие у него искусственного интеллекта, позволяющего самостоятельно организовывать свое поведение (самоорганизация) и принимать последовательные решения. В этих целях предлагается специально использовать категории «робот, обладающий искусственным интеллектом» либо «интеллектуальный робот», что практически одно и тоже.

Действительно, трудно провести четкую грань, разделяющую специфику правоспособности робота и других участников гражданского оборота, и тем более предугадать дальнейшее развитие отношений с участием А1-роботов. Во всех случаях нужно учитывать, что искусственный интеллект априори действует в интересах человечества.

Интересной видится трансформация в будущем понятий «общественное отношение» и «правоотношение». Так, правоотношение -- это регулируемое законодательством общественное отношение с участием субъектов прав: граждан, лиц без гражданства, иностранцев, организаций, государства и его государственных органов, и должностных лиц [Керимов Д.А., 2000: 215-224]. Следовательно, возникает вопрос: можно ли именовать отношения между людьми и (или) А1-роботом «общественными»?

Имеет смысл выделить категорию «А1-отношения» или «киберфизические отношения» -- отношения с участием А1-роботов и (или) автономных А1-киберфизических систем. Субъектами рассматриваемых отношений могут признаваться индивидуальные (физические лица) и коллективные лица (например, корпоративные организации и предпринимательские объединения), публично-правовые образования, а также А1-роботы или А1- программные комплексы (киберфизические системы).

При оценке путей развития общественных отношений недопустимо рассматривать вопрос о правосубъектности искусственного интеллекта в отрыве от его физического нахождения, т.е. материально-технического воплощения (например, в роботе или в процессоре ЭВМ). Иначе утрачиваются свойства субъекта права -- имущественное обособление и способность нести имущественную ответственность. Вместе с тем нельзя исключать вариант развития А1-отношений и законодательства, когда ответственность может наступать в цифровой форме -- «цифровая ответственность» («киберфизическая ответственность»), применение которой будет в цифровом и (или) виртуальном пространстве.

Юридическая ответственность представляет собой претерпевание неблагоприятных последствий при неправомерном поведении участников правоотношения. По сути, применение ответственности обусловлено осуждением правонарушителя либо иного ответственного в силу закона, либо договора лица. Применение юридической ответственности имеет как профилактический (предотвращает будущие правонарушения), так и восстановительный характер (например, имущественных интересов сторон договора). Соответственно интересным стал вопрос о привлечении к ответственности AI- роботов или AI-программных комплексов ЭВМ.

Признание роботов субъектом права неизбежно позволит привлекать их к ответственности.

В данной проблематике следует оценить роль создателей (производителей) искусственного интеллекта. Очень тонким будет вопрос о привлечении их к юридической ответственности. Предлагаются следующие принципиальные подходы: производители AI несут ответственность только в случае целенаправленного создания интеллекта в целях совершения правонарушения; само по себе создание искусственного интеллекта, способного совершать негативные действия, не влечет за собой юридической ответственности его создателя.

Примером второго тезиса, в частности, служат военные AI-роботы для уничтожения противника, в том числе его живой силы. Значимым при определении юридических последствий также будут действия оператора, управляющего поведением данных роботов.

Применительно к роботам их юридическая ответственность будет иметь особый характер. Вряд ли моральное порицание будет иметь значение для робота. Однако нельзя исключить возможного развития технологий и искусственного интеллекта, позволяющих оценить морально-нравственную сторону в поведении AI-робота. Киберфизическая ответственность может быть имущественной (например, компенсация ущерба) или административной (в частности, штраф или дисквалификация). По крайней мере, для этого будут все предпосылки. Возможно, в будущем будет применение мер уголовной ответственности к роботам как крайней меры в случае совершения ими действий, посягающих на жизнь и здоровье человека, а изменение программы искусственного интеллекта не будет возможным в силу конструктивных особенностей искусственного интеллекта (например, тотальная утилизация робота).

Немаловажным будет вопрос о пределах юридической ответственности AI-робота. В частности, допускаем ли мы признание в будущем робота несостоятельным (банкротом)? На первый взгляд, перспективы сомнительны. Вместе с тем нельзя исключать и такого хода развития законодательства, при котором будет реальным признание А1-робота несостоятельным и техническое ограничение его участия в гражданском обороте на соответствующий период времени (по аналогии с последствиями банкротства гражданина См.: гл. Х Федерального закона от 26.10.2002 № 127-ФЗ «О несостоятельности (банкротстве)» // СЗ РФ. 2002. № 43. Ст. 4190 (в ред. Федерального закона от 27.12 2018 № 514-ФЗ «О внесении изменений в Федеральный закон «О рынке ценных бумаг» и отдельные законодательные акты Российской Федерации в части совершенствования правового регулирования осуществления эмиссии ценных бумаг» // СЗ РФ.2018. № 53 (часть I). Ст. 8440).).

Предлагается вспомнить конструкцию субсидиарной ответственности -- ответственности лица (субсидиарно обязанного, в рассматриваемом случае -- создателя) дополнительно к ответственности лица (основного должника, в данном случае А1-робота) в случае отказа или невозможности удовлетворения основным должником своих обязательств перед кредитором (ст. 399 ГК РФ). Создатель искусственного интеллекта не освобождается от ответственности, если его разработка, признанная субъектом права, не способна быть надлежащим и добросовестным участником правоотношений.

Предложенный тезис также нуждается в оговорке. В частности, например, если поведение А1-робота вышло за рамки возможного разумного предвидения его создателя. При проектировании объектной функции для системы искусственного интеллекта разработчик задает цель, а не конкретные шаги для ее достижения; наделение большей автономией искусственного интеллекта увеличивает шанс на ошибку [БоёЬаш Б., 2018: 1]. Например, по аналогии с эксцессом исполнителя в уголовном праве -- совершение исполнителем преступления, не охватывающегося умыслом других соучастников (ст. 36 УК РФ). За эксцесс исполнителя другие соучастники преступления уголовной ответственности не подлежат (см. п. 1 Обзора законодательства и судебной практики Верховного Суда РФ от 29.12. 2006 за III квартал 2006 г. Бюллетень Верховного Суда РФ. 2007. № 6.). Создатель искусственного интеллекта за его действия, даже повлекшие причинение вреда жизни и здоровья человека, при доказанности юридического факта -- эксцесса А1-робота, отвечать не должен.

Ответственность искусственного интеллекта -- важнейший вопрос для будущих правоведов. По данной проблематике следует выработать алгоритм установления юридических фактов (событий и действий/бездействий), связанных с поведением робота или действиями киберфизической системы. Речь идет об аутентификации поведения (действия/бездействия) искусственного интеллекта и привязки его действий (решений) к конкретному роботу или процессору ЭВМ.

В данном направлении для оценки действий робота как в настоящее время, так и ближайшем будущем полезна система распределенного реестра данных, основанная на технологии блокчейн [КакашоШ Б., 2008: 1-9], позволяющая последовательно фиксировать действия искусственного интеллекта. Администратором данного реестра должен выступить на начальном этапе владелец искусственного интеллекта, а впоследствии -- сам робот, но при условии соблюдения достоверности. По крайней мере в случае признания за роботом свойств субъекта права, компетентные государственные органы должны обладать технической возможностью установления фактически совершенных действий, даже при поломке робота (аналог «черного ящика»). Предложенный подход позволяет утверждать, что ответственность за деятельность искусственного интеллекта будут нести: 1) AI-робот; 2) разработчик (создатель) AI; 3) владелец AI.

Развитие робототехники трансформирует все привычные понятия об участниках отношений. Наличие электричества и Интернета обеспечит виртуальное пространство, в котором будут существовать как цифровые объекты, так и цифровые субъекты права. Виртуальное пространство представляет собой искусственно созданный цифровой мир, существование которого будут обеспечивать инструменты материального мира: процессоры (Intel, IBM, AMD) и системы облачных хранилищ данных (на многочисленных он- лайн-распределенных реестрах, включая архитектуру).

В будущем в ХХП веке возможно признание искусственного интеллекта, способного совершать цифровые действия -- решения (как с их материализацией в реальном мире, так и без таковой), субъектом права.