Уголовная ответственность за создание, распространение или использование автономных вооруженных роботов

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Казанский инновационный университет имени В.Г. Тимирясова

Уголовная ответственность за создание, распространение или использование автономных вооруженных роботов

Бегишев И.Р.

г. Казань

Аннотация

Цель. Выработать уголовно-правовые средства предупреждения и пенализации деятельности, направленной на создание, распространение и использование автономных вооруженных роботов, поскольку их применение представляет повышенную опасность для общественных отношений, обеспечивающих мир и безопасность человечества.

Процедура и методы. Рассмотрены различные аспекты незаконного оборота автономных вооруженных роботов. Методологическую основу исследования составили общенаучные и частнонаучные методы научного познания.

Результаты. В целях поддержания мира и безопасности человечества, сохранения мирного сосуществования государств, при наступлении технологической сингулярности и появлении полностью автономных вооруженных роботов законодателю необходимо дополнить УК РФ отдельной нормой об ответственности за создание, распространение и использование таких роботов. Теоретическая и / или практическая значимость. В настоящее время отсутствуют какие-либо правовые нормы и правила учета и применения автономных вооруженных роботов. Предложения и выводы настоящего исследования могут быть использованы при создании и совершенствовании механизмов уголовно-правового регулирования робототехники.

Ключевые слова: робот, робототехника, искусственный интеллект, мир и безопасность человечества, цифровые технологии, цифровая экономика, преступление, наказание, пенализация, ответственность, общественная опасность, вооружение, оружие, взрывчатое вещество, взрывное устройство, вооруженный, автономный

Abstract

Criminal liability for creating, distributing, or using autonomous armed robots

I. Begishev

Kazan Innovative University named after V.G. Timiryasov., Kazan

Aim. To develop criminal legal means of preventing and penalizing activities aimed at the creation, distribution and use of autonomous armed robots, since their use poses an increased danger to public relations that ensure the peace and security of mankind.

Methodology. Various aspects of illegal trafficking of autonomous armed robots were considered. The methodological basis of the study was made up of nationwide and private scientific methods of scientific knowledge materials.

Results. In order to maintain the peace and security of mankind, preserve the peaceful coexistence of states, with the advent of technological singularity and the appearance of fully autonomous armed robots, the legislator needs to supplement the Criminal Code of the Russian Federation with a separate norm on responsibility for the creation, distribution and use of such robots.

Research implications. Currently, there are no legal norms and rules for the accounting and use of autonomous armed robots. The proposals and conclusions of this study can be used for creating and improving the mechanisms of criminal law regulation of robotics.

Keywords: robot, robotics, artificial intelligence, peace and security of humanity, digital technologies, digital economy, crime, punishment, penalization, explosives, explosive device, armed, autonomous responsibility, public danger, armament, weapons,

Введение

Бурное развитие сквозных цифровых технологий, внедрение и применение робототехники и технологий искусственного интеллекта предопределяет необходимость поиска путей решения проблем охраны общественных отношений [2; 3; 4; 5; 6; 7; 9; 10; 11; 12; 14; 15].

Эскалация международной напряженности, проявляемая в последнее время государствами западного блока, формирует новые вызовы и угрозы международному миру [16]. В затронутом контексте ускоренное развитие сквозных цифровых технологий, в т. ч. робототехнических устройств, комплексов и систем, может служить дополнительным фактором, повышающим международные угрозы и обостряющим вызовы. Обладая расширенными поражающими возможностями, роботы выступают одним из обстоятельств, способствующих эскалации международных конфликтов [8].

Перечень технических средств, формально относящихся к категории робототехники, очевидно широк и имеет в своем составе комплексы, обладающие существенными различиями в тактико-техническом потенциале. Выразим мнение, что разработка роботов, имеющих производственное и иное хозяйственно-бытовое назначение и не обладающих признаками сквозных технологий и технологий двойного назначения, не составляет существенной угрозы миру и безопасности человечества.

Иная ситуация складывается по отношению к робототехническим системам, способным быть носителями вооружения, обладающим возможностью длительного нахождения в активном состоянии и снабженным элементами передачи сигналов, которые позволяют осуществлять управление на значительном удалении.

Подобные разработки в состоянии изменить характер применения вооружения, повысить его латентность, увеличить радиус действия. Однако традиционные вооруженные роботы в настоящее время уже не являются наиболее актуальным трендом. В качестве такового выступают автономные роботы [1]. Последние отличаются от традиционных робототехнических систем способностью к самообучению, формированию решений на основании самостоятельного анализа внешней обстановки и осуществлению действий исходя из той информации, которая была ими самостоятельно отобрана.

Отличия управляемых роботов от автономных

В затронутом контексте необходимо описать механизмы принятия решений роботами и выявить основные отличия между их управляемыми и автономными разновидностями.

Любой робот состоит из двух компонентов - аппаратной и программной. Первая, по сути, представляет собой механическую часть устройства, выраженную во взаимосвязанной системе элементов конструкции, датчиков, рычагов, радаров, лидаров, радиопоглощающих материалов и покрытия и т.д. Изолированно от программного аппаратный элемент к осуществлению каких-либо механических действий неспособен и в этой связи представляется нерелевантным. Однако аппаратным компонентом во многом предопределяются основные технические характеристики робота: длительность автономной работы, габариты, снаряженная масса, масса полезной нагрузки, дальность действия, виды навесного оборудования, классы перевозимого груза, вероятность обнаружения радиолокационными, инфракрасными и другими областями спектра обнаружения и т.д.

Программный элемент - это цифровой код компьютерной программы, содержащей алгоритмы действий робота. В рамках реализации данных алгоритмов робот может совершать конкретные механические манипуляции. При этом характер и пределы таких манипуляций, их длительность, а также перечень конкретных действий изначально предопределены цифровым кодом программы. Для приведения в действие цифрового кода компьютерной программы необходимо получение соответствующего сигнала от устройств управления и сигнализации либо датчиков робота (если автоматическое реагирование на определенные сигналы датчиков было изначально заложено в цифровой код компьютерной программы). После получения такого сигнала компьютерная программа робота определяет его содержание и выявляет наличие алгоритмов, в которых данный сигнал предусмотрен в качестве исходного элемента. Получив сигнал, алгоритм приводится в действие, и робот приступает к выполнению конкретных механических манипуляций, прямо предусмотренных этим алгоритмом. При этом определенный сигнал может инициировать не один, а несколько алгоритмов.

Приведенными описаниями продемонстрирована взаимосвязь программного и аппаратного элементов робота, который, хотя и фигурирует как единое программно-аппаратное устройство, приобретает способность к совершению конкретных механических манипуляций исключительно исходя из своей программной составляющей.

Видится принципиальным следующее: поскольку все механические манипуляции робота прямо предопределяются алгоритмами, заложенными в цифровой код его компьютерной программы, его действия в тех или иных ситуациях являются прогнозируемыми. Составляя цифровой код с алгоритмами действий, разработчики робота однозначно определяют границы возможного поведения робота. Участие человека в данном случае сводится либо к управлению и координированию действий робота, либо, в случае если компьютерная программа содержит достаточно сложные алгоритмы, способные опосредовать взаимосвязанный и объединенный общим назначением комплекс действий, в рамках которого полностью выполняется поставленная задача, человеческое участие состоит в инициировании реализации алгоритмов компьютерной программы. В любом случае, вне зависимости от характера и пределов, само наличие человеческого участия и отсутствие способности самообучения позволяют однозначно именовать вышеописанных роботов управляемыми.

Существенные отличия демонстрирует автономный робот, в первую очередь ввиду способности к самообучению. Последняя состоит в имитации человеческих когнитивных способностей посредством самостоятельного анализа зависимостей внешней среды, отбора информации и формирования новых алгоритмов действий путем внесения изменений в собственный программный код. Таким образом, цифровой код компьютерной программы автономного робота, а соответственно, и зафиксированные в нем перечни алгоритмов перестают быть статичной категорией и приобретают способность к автономному изменению, не опосредованному участием человека.

Из изложенного следует закономерный вывод: характер и пределы механических манипуляций автономного робота в конкретных ситуациях не предопределены разработчиком при создании компьютерной программы. Заложив в цифровой код способность к самообучению, фактически далее нельзя обоснованно спрогнозировать поведение робота при выполнении конкретных механических действий, поскольку последние предопределяются самостоятельно сформулированными поведенческими алгоритмами. Резюмируя изложенное, приходим к убеждению, что автономный робот отличается от управляемого возможностью самостоятельного принятия решений и действия на основании самостоятельно сформулированного поведенческого алгоритма.

Причиняющая способность автономного вооруженного робота

уголовный правовой вооруженный робот

Отсутствие возможности конструктивного прогнозирования вариантов действий подобных роботов, потенциальная возможность девиаций в ходе осуществления ими самообучения являются достаточной предпосылкой к констатации наличия свойства общественной опасности.

Полагаем, что автономный робот, в силу присущих ему интеллектуальных свойств, обладает повышенной причиняющей способностью, обусловленной усиленными вычислительными мощностями заложенной в него компьютерной программы, иными словами, будучи оператором некоего робота, человек за единицу времени в состоянии совершить несопоставимо меньше логических операций по сравнению с автономным роботом. Данное свойство проявляется как в оценке возможных вариантов решения поставленной задачи, так и в характере и длительности прогнозирования развития ситуации. Обобщенно вышеизложенное можно обозначить как «интеллектуальный потенциал автономного робота».

Указанная причиняющая способность экспоненциально возрастает в случае наличия в техническом оснащении автономного робота средств вооружения. Важно обозначить, что в зависимости от конкретных параметров программной составляющей посредством автономного робота возможно применение большинства разновидностей оружия массового поражения, в т. ч. основанного на новых физических принципах. Данное обстоятельство существенно дополняет причиняющую способность автономного вооруженного робота.

При этом уголовно-правовая оценка создания и разработки вышеуказанного робота с размещенными на нем средствами оружия массового поражения видится не в полной мере обоснованной, поскольку описанный робот выступает не просто средством доставки вооружения, но и, входя в общий технико-боевой комплекс, существенно усиливает за счет собственного интеллектуального потенциала его причиняющую способность, что должно найти отражение и предопределить дифференциацию уголовной ответственности.

Однако на сегодняшний день изложенное невозможно в рамках действующих положений уголовного закона, поскольку еще не наступила полная технологическая сингулярность и не появились автономные роботы.

Даже в случае применения обычных средств вооружения в автономном роботе его высокие вычислительно-интеллектуальные возможности способны довести причиняющий потенциал такого вооруже - ния до объемов, сопоставимых с оружием массового поражения. Таким образом, будучи примененными в автономном роботе, обычные средства вооружения приобретают способность вызывать массовые потери и разрушения до необратимых изменений окружающей среды. В описанной ситуации автономный вооруженный обычными средствами робот приобретает такие присущие оружию массового поражения признаки, как наличие поражающих факторов длительного действия, длительный психотравмирующий эффект и его распространение за пределы объекта поражения, сложность защиты войск, населения, критически важных объектов при применении автономного робота Оружие массового поражения // Минобороны России: [сайт]. URL: https://encyclopedia.mil.ru/encydopedia/dictюnary/detaib.htm?id=13769@ morfDictionary (дата обращения: 20.01.2021)..

В этой связи автономный вооруженный робот по причиняющему потенциалу использованных в нем средств вооружения может признаваться тождественным оружию массового поражения и представлять существенную угрозу миру и безопасности человечества.

Названное образует необходимость выработки уголовно-правовых средств предупреждения и пенализации деятельности по созданию, использованию и распространению подобных систем вооружения.

Незаконный оборот автономных вооруженных роботов

Тезис о том, что использование автономного вооруженного робота представляет повышенную опасность общественным отношениям, обеспечивающим мир и безопасность человечества в рамках государственной юрисдикции Российской Федерации, подтверждается следующими доводами:

- ранее отмечавшиеся факторы усиления причиняющего потенциала автономного вооруженного робота: 1) возможность применения в нем оружия массового поражения; 2) когнитивные способности, значительно умножающие причиняющий потенциал вооружения. Безусловно, оба указанных фактора непосредственно влияют на тяжесть наступивших в результате применения такого робота последствий. Данный признак является отражением объема вреда, причиненного объекту уголовно-правовой охраны. Более того, повышенный причиняющий потенциал автономного вооруженного робота образует возможность полагать, что наступающий в результате его разработки, использования или распространения вред причиняет или создает угрозу причинения вреда интересам не только одного государства, но и стабильности региона, уровню геополитической напряженности, области политических интересов государств;

- неправомерное применение автономного вооруженного робота возможно со значительного удаления от места производимой атаки, что как минимум образует возможность осуществления провокационно-подстрекательских действий с территории иностранных государств;

- возможность применения при конструировании аппаратной части робота радиопоглощающих материалов и покрытия существенно усиливает скрытность функционирования подобных роботов, а повышенные интеллектуальные возможности образуют способность преодолевать систему радиоэлектронного обнаружения;

- возможность автономных вооруженных роботов действовать в составе группы, самостоятельно сообразуя и координируя свои действия на основании команд управления единого командного центра. Из данного факта следует повышенная устойчивость указанной группы, возможность рассеивания атакующих роботов. Совершенно справедливы рассуждения исследователей, отмечающих, что «Лучший рой сможет адаптировать свою парадигму командования и контроля к изменяющимся условиям, таким как доступная пропускная способность каналов коммуникации, но с адаптацией ее к децентрализованному процессу принятия решений, когда этот канал не работает. Кроме того, модель командования и контроля может изменяться во время различных фаз операции, а для определенных типов решений могут быть использованы различные модели» [13], что отражает их высокоинтеллектуальный потенциал, возможность использования для решения широкого спектра задач боевого, разведывательного, демонстрационного, провокационного характера, что дополнительно подтверждает тезис о направленности указанных роботов на причинение вреда международной политической стабильности.

Означенное определенно свидетельствует о направленности деяний, связанных с неправомерным использованием автономных вооруженных роботов, на причинение вреда охраняемым уголовным законом интересам в области мира и безопасности человечества и международной стабильности.

В то же время абстрактное указание на «неправомерное использование» как признак, характеризующий деяние, не удовлетворяет требованиям формальной определенности правовых предписаний и в случае конструирования конкретной уголовноправовой нормы требует уточнения.

Важно сформировать единое представление о том, что сама деятельность, направленная на изготовление автономного вооруженного робота, уже создает достаточную общественную опасность. Принимая во внимание особую сложность ликвидации подобных робототехнических устройств, следует концентрировать усилия не на пенализации фактов создания таких роботов, а на выработке уголовноправовых мер превентивно-предупредительного воздействия. Деятельность по созданию, разработке, проектированию, написанию программ для вышеуказанных роботов уже образует достаточные основания для вменения оконченного состава преступления. Сообразно этому проектируемый состав преступления, по нашему мнению, должен содержать указание на деяние, состоящее в разработке автономных вооруженных роботов. И эта деятельность, в силу сложного технического характера рассматриваемых разновидностей роботов, обоснованно имеет многокомпонентную структуру - может выражаться в изыскании средств для построения робота, написании компьютерных программ, создании вооружения, объединении программного и аппаратного компонентов.

В затронутом контексте важно различать, что само по себе приискание аппаратной составляющей, как признак объективный, может образовывать состав только в том случае, если умыслом виновного охватывалось совершение вышеуказанных действий в целях разработки автономного вооруженного робота.

Другими словами, в ситуациях, когда лицо приобретает либо иным образом получает вооружение, элементы питания, материалы внешнего покрытия, датчики, иные элементы механической конструкции, необходимо устанавливать направленность умысла на совершение вышеуказанных действий в целях разработки автономного вооруженного робота. При отсутствии такого умысла содеянное не может образовывать состава преступления, объективными признаками которого охватывается разработка таких роботов, и должно влечь ответственность за неправомерное получение соответствующих материалов, если оно образовывает самостоятельный состав преступления.

Обратная ситуация складывается по отношению к написанию цифрового кода компьютерной программы автономного робота. Указанные действия обладают общественной опасностью, даже в случае если они не направлены на создание автономного вооруженного робота как на конечный результат, и лицо планирует ограничиться только написанием программы для последующего ее неправомерного использования (размещения в общем доступе; передаче лицам, разрабатывающим автономных вооруженных роботов; помещение на хранение в носителях цифровой информации).

Важно обозначить, что любой робот приобретает свойство автономности только за счет наличия в цифровом коде его компьютерной программы алгоритмов, обладающих возможностью самостоятельного принятия решений, и способен действовать на основании самостоятельно сформулированного поведенческого алгоритма. Иными словами, свойство автономности технически закладывается компьютерной программой, никакими иными компонентами робота оно не может быть обусловлено, разработка программы в данном случае - основное криминообразующее действие, в отсутствие его робот, вне зависимости от его технических характеристик, тождественен оружию.

Таким образом, деяния, состоявшие в неправомерном использовании либо разработке автономных вооруженных роботов, можно сопоставить по общественной опасности с аналогичными деяниями, совершаемыми в отношении компьютерных программ, предопределяющих появление у роботов свойства автономности.

В то же время содержание и структура цифровых кодов компьютерной программы позволяют однозначно определить ее целевое предназначение, поэтому ситуации, когда такая программа создается с целью ее дальнейшего использования в автономном вооруженном роботе, могут быть с достаточной определенностью отграничены от правомерных процессов создания компьютерных программ.

Комплексно анализируя изложенное, следует описать процессы приискания механических частей, написания программных кодов для автономного робота общим термином «создание» как наиболее релевантным и охватывающим достаточный комплекс конкретных действий, что особенно ценно в условиях неопределенности относительно конкретных форм, методов и средств разработки, проектирования и конструирования автономных вооруженных роботов. При этом важно понимать, что создание есть длящийся процесс, начинающийся с приискания необходимых технических средств (материалов), продолжающийся их переработкой, разборкой, сборкой и завершающийся объединением, в результате которого возникает автономный вооруженный робот как новый объект материального мира. В то же время деяние, состоящее в создании такого робота, может признаваться оконченным с момента совершения действий, направленных на возникновение робота, как конечный итог деятельности.

Следующими по общественной опасности будут действия, состоящие в любых формах возмездного или безвозмездного отчуждения в пользу других лиц автономных вооруженных роботов. Незаконный оборот подобных робототехнических устройств, комплексов и систем создает основу для посягательств на мирное сосуществование государств, образует экзистенциальные угрозы международной стабильности, способствует совершению актов международного терроризма.

Помимо изложенного, незаконный оборот детерминирует усиление процессов теневой экономики, возникновение преступных сообществ (преступных организаций), имеющих соответствующую специализацию. Таким образом, распространение указанных роботов можно сформулировать как любые формы отчуждения автономных вооруженных роботов либо компьютерных программ, предназначенных для их функционирования, как в рамках единичных экземпляров, так и партиями. При этом цель получения материальной или иной выгоды не является необходимой предпосылкой незаконного распространения, последнее может производиться как возмездно, т.е. предполагая совершение встречных действий, так и безвозмездно. В то же время распространяться могут равным образом как автономные вооруженные роботы, так и их компьютерные программы.

Наиболее общественно опасной формой действия является использование автономных вооруженных роботов. Особо отметим, что использование, как наиболее широкая форма, предполагает задействование любых свойств и качеств робота, в т. ч. с целью демонстрации военного потенциала, совершения провокационно-агрессивных действий, выполнения разведывательных функций. Безусловно, подобной формой действия охватывается и применение автономного вооруженного робота по прямому назначению, т.е. задействование его поражающего потенциала, обусловленного как вооружением, так и возможностями интеллектуальных систем.

Исходя из соображений наиболее полного обеспечения обороноспособности и безопасности Российской Федерации, обеспечения контроля человека над автономным оружием, а также поддержания мира и безопасности человечества, сохранения мирного сосуществования государств, находим возможным при наступлении технологической сингулярности и появлении полностью автономных вооруженных роботов предложить законодателю дополнить УК РФ отдельной нормой об ответственности за создание, использование или распространение автономных вооруженных роботов следующего содержания:

«Статья 356.1 Создание, распространение или использование автономных вооруженных роботов

1. Действия, направленные на создание автономных вооруженных роботов, противоречащих общепризнанным принципам и нормам международного права, а равно компьютерных программ, предназначенных для их функционирования, наказываются лишением свободы на срок от пяти до десяти лет.

2. Распространение автономных вооруженных роботов, противоречащих общепризнанным принципам и нормам международного права, а равно компьютерных программ, предназначенных для их функционирования, наказывается лишением свободы на срок от десяти до пятнадцати лет.

3. Использование автономных вооруженных роботов наказывается лишением свободы на срок от пятнадцати до двадцати лет».

В примечании к указанной норме предлагаем дать определение понятия «автономный вооруженный робот» следующего содержания:

Примечание. Под автономным вооруженным роботом в статьях настоящего Кодекса понимается робот, обладающий возможностью самостоятельного принятия решений и способный действовать на основании самостоятельно сформулированного поведенческого алгоритма, которому намеренно приданы свойства, обеспечивающие его применение с использованием оружия, боеприпасов, взрывчатых веществ и взрывных устройств либо иного вооружения.

Литература

1. Бегишев И.Р. Об обороте роботов, их составных частей (модулей) (инициативный проект федерального закона). Казань, 2021. 28 с.

2. Бегишев И.Р., Хисамова З.И. Искусственный интеллект и уголовный закон. М.: Проспект, 2021. 192 с.

3. Габов А.В., Хаванова И.А. Автономия боевых роботов и право // Пермский юридический альманах. 2019. №2. С. 361-378.

4. Габов А.В., Хаванова И.А. Эволюция роботов и право XXI в. // Вестник Томского государственного университета. 2018. №435. С. 215-233.

5. Грачева Ю.В., Арямов А.А. Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности // Актуальные проблемы российского права. 2020. Т. 15. №6 (115). С. 169-178.

6. Грачева Ю.В., Маликов С.В., Чучаев А.И. Предупреждение девиаций в цифровом мире уголовно-правовыми средствами // Право. Журнал Высшей школы экономики. 2020. №1. С. 189-211.

7. Денисов Н.Л. Концептуальные основы формирования международного стандарта при установлении уголовной ответственности за деяния, связанные с искусственным интеллектом // Международное уголовное право и международная юстиция. 2019. №4. С 18-20.

8. Козюлин В.Б., Ефимов А.Р. Новый бонд-машина с лицензией на убийство // Индекс безопасности. 2016. Т 22. №1 (116). С. 37-60.

9. Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. №2. С. 79-102.

10. Мосечкин И.Н. Искусственный интеллект в уголовном праве: перспективы совершенствования охраны и регулирования. Киров: Вятский государственный университет, 2020. 111 с.

11. Мосечкин И.Н. Искусственный интеллект и уголовная ответственность: проблемы становления нового вида субъекта преступления // Вестник Санкт-Петербургского университета. Право. 2019. Т 10. №3. С. 461-476.

12. Некрасов В.Н. Уголовная ответственность роботов: актуальные проблемы и направления дальнейшего развития // Государство и право. 2019. №5. С. 134-140.

13. Савин Л.В. Варианты будущей войны: решение боевых роботов // Стратегическая стабильность. 2017. №1 (78). С. 24-35.

14. Хабриева Т.Я., Черногор Н.Н. Право в условиях цифровой реальности // Журнал российского права. 2018. №1 (253). С. 85-102.

15. Хисамова З.И., Бегишев И.Р. Уголовная ответственность и искусственный интеллект: теоретические и прикладные аспекты // Всероссийский криминологический журнал. 2019. Т. 13. №4. С. 564-574.

16. Холиков И.В., Сазонова К.Л. Международно-правовая ответственность в контексте правовой регламентации военного использования беспилотных летательных аппаратов // Военное право. 2017. №4 (44). С. 217-226.

References

1. Begishev I.R. Ob oborote robotov, ih sostavnyh chastej (modulej) (iniciativnyj proekt federalnogo zakona) [On the turnover of robots, their components (modules) (initiative draft of the federal law)]. Kazan, 2021. 28 p.

2. Begishev I.R., Hisamova Z.I. Iskusstvennyj intellekt i ugolovnyj zakon [Artificial intelligence and criminal law]. Moscow, 2021. 192 p.

3. Gabov A.V., Havanova I.A. [Autonomy of killer robots and the law]. In: Permskijyuridicheskij almanah [Perm legal almanac], 2019, no. 2, pp. 361-378.

4. Gabov A.V., Havanova I.A. [Evolution of robots and the 21^st century law]. In: Vestnik Tomskogo gosu - darstvennogo universiteta [Tomsk State University Bulletin], 2018, no. 435, pp. 215-233.

5. Gracheva Yu. V., Aryamov A.A. [Robotization and Artificial Intelligence: Criminal Law Risks in the Field of Public Security]. In: Aktualnyeproblemy rossijskogoprava [Actual Problems of the Russian Law], 2020, vol. 15, no. 6 (115), pp. 169-178.

6. Gracheva Yu. V., Malikov S.V., Chuchaev A.I. [Preventing Deviations in the Digital World by Criminal Law Means]. In: Pravo. Zhurnal Vysshey Shkoly Ekonomiki [Law. Journal of the Higher School of Economics.], 2020, no. 1, pp. 189-211.

7. Denisov N.L. [Conceptual foundations of international standard for the criminalization of acts related to artificial intelligence]. In: Mezhdunarodnoe ugolovnoepravo i mezhdunarodnayayustitsiya [International Criminal Law and International Justice], 2019, no. 4, pp. 18-20.

8. Kozyulin V.B., Efimov A.R. [New bond-a machine with a license to kill]. In: Indeks bezopasnosti [Security Index], 2016, vol. 22, no. 1 (116), pp. 37-60.

9. Laptev V.A. [Artificial Intelligence and Liability for its Work]. In: Pravo. Zhurnal Vysshey Shkoly Ekonomiki [Law. Journal of the Higher School of Economics.], 2019, no. 2, pp. 79-102.

10. Mosechkin I.N. Iskusstvennyj intellekt v ugolovnom prave: perspektivy sovershenstvovaniya ohrany i regu - lirovaniya [Artificial intelligence in criminal law: prospects for improving protection and regulation]. Kirov, 2020. 111 p.

11. Mosechkin I.N. [Artificial intelligence and criminal liability: problems of becoming a new type of crime subject]. In: Vestnik Sankt-Peterburgskogo universiteta. Pravo [Bulletin of Saint Petersburg University. Law], 2019, vol. 10, no. 3, pp. 461-476.

12. Nekrasov V.N. [Criminal responsibility of robots: actual problem and areas for further development]. In: Gosudarstvo ipravo [State and law], 2019, no. 5, pp. 134-140.

13. Savin L.V. [Future war variants: decision of combat robots]. In: Strategicheskaya stabilnost [Strategic stability], 2017, no. 1 (78), pp. 24-35.

14. Habrieva T. Ya., Chernogor N.N. [The Law in the Conditions of Digital Reality]. In: Zhurnal rossijskogo prava [Journal of Russian Law], 2018, no. 1 (253), pp. 85-102.

15. Khisamova Z.I., Begishev I.R. [Criminal liability, and artificial intelligence: theoretical and applied aspects]. In: Vserossiiskii kriminologicheskii zhurnal [Russian Journal of Criminology], 2019, vol. 13, no. 4, pp. 564-574.

16. Holikov I.V., Sazonova K.L. [International legal responsibility in the context of the legal regulation of the military use of unmanned aerial vehicles]. In: Voennoe pravo [Military law], 2017, no. 4 (44), pp. 217-226.

Размещено на Allbest.ru