Государственное регулирование использования искусственного интеллекта в государственном управлении

Размещено на http://www.allbest.ru/

Государственное регулирование использования искусственного интеллекта в государственном управлении

Островский А. С., магистрант ИГСУ РАНХиГС Россия, г. Москва

Аннотация

Статья посвящена проблемам государственного регулирования использования искусственного интеллекта в государственном управлении. Актуальность выбранной темы исследования обусловлена тем, что использование искусственного интеллекта в государственном управлении позволяет существенно повысить эффективность решения ряда прикладных задач в различных сферах, однако полномасштабное внедрение искусственного интеллекта и его технологий в эти сферы в значительной мере сдерживается несовершенством государственного регулирования реализации этих процессов, которое отражается в его отставании от современных технологических достижений. В статье проведен анализ искусственного интеллекта, его роли и места в государственном управлении, рассмотрены существующие и перспективные правовые акты управления, регулирующие использование искусственного интеллекта в рассматриваемой предметной области, выявлены основные проблемы государственного регулирования и предложены пути их решения.

Ключевые слова:государственное регулирование, искусственный интеллект, государственное управление, сертификация доверенных систем, распределение юридической ответственности.

Annotation

The article is devoted to the problems of state regulation of the use of artificial intelligence in public administration. The relevance of the chosen research topic is due to the fact that the use of artificial intelligence in public administration can significantly increase the efficiency of solving a number of applied problems in various fields, however, the full-scale introduction of artificial intelligence and its technologies in these areas is largely constrained by the imperfection of state regulation of the implementation of these processes, which is reflected lagging behind modern technological advances. The article analyzes artificial intelligence, its role and place in public administration, considers existing and prospective legal acts of governance that regulate the use of artificial intelligence in the subject area under consideration, identifies the main problems of state regulation and suggests ways to solve them. искусственный интеллект правовой акт

Key words: state regulation, artificial intelligence, public administration, certification of trusted systems, distribution of legal responsibility.

Понятие искусственного интеллекта, его роль и место в государственном управлении

Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», утверждающим «Национальную стратегию развития искусственного интеллекта на период до 2030 года» впервые на уровне нормативно правового акта определено понятие искусственного интеллекта, а также ряд других основных понятий, связанных с рассматриваемой предметной областью. Согласно Национальной стратегии, понятие искусственного интеллекта определяется, как комплекс технологических решений, который позволяет имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно - коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

Определено, что в настоящее время существуют технологические решения, способные решать узкоспециализированные задачи (на основе применения методов машинного обучения). При этом особый интерес для создания позитивных изменений в ключевых сферах жизнедеятельности представляет создание искусственного интеллекта для самостоятельного решения разного рода задач в условиях воздействия внешних факторов, требующих адаптации. Отмечено, что решение указанной проблемы находится на стыке естественно-научной, технической и социально-гуманитарных областей научного знания.

Разделом IV Национальной стратегии установлено, что использование искусственного интеллекта и его технологий носит общий или «сквозной» характер и обеспечивает:

- повышение эффективности и создание принципиально новых направлений деятельности хозяйствующих субъектов, в том числе путем повышения эффективности принятия управленческих решений (его интеллектуальной поддержке), автоматизации операционной деятельности, снижения риска для жизни и здоровья человека, оптимизации и адаптации многофакторных процессов;

- создание условий для повышения качества жизни людей, в том числе путем повышения уровня предоставления услуг в социальной сфере (образование, здравоохранение), а также повышение качества предоставления государственных и муниципальных услуг.

В научных работах ряда авторов^{20, 21} проведен глубокий анализ предметной области и рассмотрены особенности использования искусственного интеллекта в государственном управлении. В этих работах исследуются преимущества и недостатки всестороннего внедрения технологий искусственного интеллекта. Отмечается, что использование искусственного интеллекта в государственном управлении является перспективным научно - техническим путем совершенствования системы государственного и муниципального управления РФ. При этом проблема государственного регулирования использования искусственного интеллекта на всех этапах его жизненного цикла, в том числе и решения ряда прикладных задач, связанных с обеспечением информационной безопасности, созданием этического кодекса, нейтрализации перечня неопределенностей и рисков, в настоящее время решена фрагментарно.

Таким образом, в Национальной стратегии и известных научных работах по рассматриваемой тематике определено, что ролью искусственного интеллекта в государственном управлении является существенное повышение эффективности управления, которое, в свою очередь, достигается всесторонним внедрением технологий искусственного интеллекта на всех уровнях органов государственной власти. При этом местом искусственного интеллекта в государственном управлении являются интеллектуальные системы поддержки принятия решений, системы автоматизации деятельности человека, в том числе деятельности, связанной с повышенной опасностью для жизни и здоровья, образовательные системы, системы обеспечения деятельности здравоохранения, а также системы предоставления государственных и муниципальных услуг.

Существующие и перспективные правовые акты управления, регулирующие использование искусственного интеллекта в государственном управлении

Основными существующими правовыми актами управления, регулирующими использование искусственного интеллекта (в том числе в государственном управлении), являются:

- Федеральный закон от 24 апреля 2020 г. № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации -- городе федерального значения Москве и внесении изменений в статьи 6 и 10 федерального закона «О персональных данных»;

- Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации», утверждающий «Национальную стратегию развития искусственного интеллекта на период до 2030 года» и предусматривающий внесение изменений в национальную программу «Цифровая экономика Российской Федерации» в части федерального проекта «Искусственный интеллект»;

- Распоряжение Правительства Российской Федерации от 19 августа 2020 г. № 2129-р, утверждающее «Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года».

Согласно Федеральному закону 123 -ФЗ на территории города Москвы начиная с 01.07.2020 проводится пятилетний эксперимент, направленный на установление экспериментального правового режима в интересах создания необходимых условий для создания и реализации технологий искусственного интеллекта. Экспериментальный правовой режим предполагает специальное нормативное правовое регулирование, которое содержит отличный от общего регулирования порядок создания и реализации технологий искусственного интеллекта в городе Москве и устанавливается нормативными правовыми актами субъекта РФ - города федерального значения Москвы. Положением о реализации в городе Москве экспериментального правового режима в сфере применения технологий искусственного интеллекта, утвержденным Постановлением Правительства Москвы от 03.12.2020№2134 -ПП,

регламентируются условия разработки, создания и внедрения технологий искусственного интеллекта, производства товаров, работ, услуг на их основе, а также реализации и оборота технологий.

При этом указанным Федеральным законом вносятся изменения в Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных», допускающие обработку обезличенных персональных данных, в том числе касающихся состояния здоровья, без согласия их субъекта в целях повышения эффективности государственного или муниципального управления.

В Национальной стратегии установлены цели и основные задачи развития искусственного интеллекта в Российской Федерации, а также меры, направленные на использование искусственного интеллекта в целях обеспечения национальных интересов и реализации стратегических национальных приоритетов, в том числе в области научно-технологического развития.

Целью Концепции регулирования развития отношений в сфере технологий искусственного интеллекта и робототехники является формирование основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением систем с искусственным интеллектом, в том числе в части создания и использования роботов, а также снятие правовых барьеров, препятствующих разработке и применению указанных систем.

При этом с 2019 года Президент РФ участвует в совещаниях и конференциях по вопросам развития технологий в области искусственного интеллекта. По результатам указанных мероприятий Президентом РФ ежегодно даются поручения органам государственной власти, организациям и учреждениям, привлекающимся к реализации Национальной стратегии, в том числе:

- перечень поручений по итогам конференции «Путешествие в мир искусственного интеллекта», утвержденный Президентом РФ 16.12.2021 № Пр-2371;

- перечень поручений по итогам конференции по искусственному интеллекту, утвержденный Президентом РФ 31.12.2020 № Пр-2242;

- перечень поручений по итогам совещания по вопросам развития технологий в области искусственного интеллекта, утвержденный Президентом РФ 12.06.2019 № Пр-1030.

Согласно Приказу Росстандарта «О создании технического комитета по стандартизации «Искусственный интеллект» от 25.07.2019 № 1732 для нормативно-технического регулирования и стандартизации деятельности в области развития искусственного интеллекта. В настоящее время комитетом подготовлено около ста национальных стандартов, десятки из которых введены в действие. На период 2021-2024 годы перспективной программой стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021-2024 годы, утвержденной заместителем Министра экономического развития РФ и заместителем Руководителя Федерального агентства по

техническому регулированию и метрологии 22 декабря 2020 г., запланирована разработка еще около ста национальных и международных стандартов.

Сведения о правовых актах управления, запланированных к подготовке в ближайшей перспективе отражены в перечне поручений, утвержденном Президентом РФ 16.12.2021 № Пр -2371:

- проекты федеральных законов о внесении в законодательство РФ изменений, в соответствии с которыми органам государственной власти будет разрешено предоставлять организациям, разрабатывающим технологические решения с применением искусственного интеллекта, и научным организациям доступ к наборам обезличенных данных при условии обеспечения безопасности и конфиденциальности персональных данных, в том числе и обезличенных;

- правовые акты управления Правительства РФ, направленные на совершенствование механизмов применения экспериментальных правовых режимов, с учетом необходимости определения лиц, ответственных за причинение вреда в результате использования решений, созданных с использованием искусственного интеллекта, выработки подхода к страхованию ответственности за причиненный вред, а также защиты прав на результаты интеллектуальной деятельности.

Основные проблемы государственного регулирования использования искусственного интеллекта в государственном управлении

В научных работах^{22, 23, 24} проведен анализ предметной области и поставлены основные проблемы и частные задачи государственного регулирования использования искусственного интеллекта в государственном управлении, требующие решения. В ряде работ предложены пути решения проблем и частных задач, в настоящее время уже нашедшие отражение в правовых актах управления и правоприменительной практике Российской Федерации. Анализ этих работ позволяет сформировать следующий перечень основных проблем, связанных с:

- признанием искусственного интеллекта в качестве субъекта правовых отношений в статусе физического, юридического лица или особого статуса «электронного лица»;

- защитой объектов интеллектуальной собственности, созданных с использованием искусственного интеллекта;

- информационной безопасностью и конфиденциальностью персональных данных, в том числе и обезличенных, при использовании искусственного интеллекта;

- сертификацией доверенных систем искусственного интеллекта, предназначенных для решения задач, связанных с лицензируемой государством деятельностью;

- распределением юридической ответственности за действия и бездействия искусственного интеллекта, повлекшие причинение вреда, между им самим, его создателем и (или) оператором.

Отметим, что проблема признания искусственного интеллекта в качестве субъекта правовых отношений в статусе физического, юридического лица или особого статуса «электронного лица» носит комплексный характер, и ее решение во многом будет определяться результатами решения прочих проблем.

Проблемы защиты объектов интеллектуальной собственности, созданных с использованием искусственного интеллекта и обеспечения информационной безопасности и конфиденциальности персональных данных, в том числе и обезличенных, в настоящее время решаются в ходе эксперимента по установлению специального регулирования (экспериментального правового режима).

Направления совершенствования государственного регулирования использования искусственного интеллекта в государственном управлении

В рамках проводимого исследования интерес представляют возможные направления совершенствования государственного регулирования использования искусственного интеллекта в государственном управлении применительно к решению следующих проблем:

1. Проблема сертификации доверенных систем искусственного интеллекта, предназначенных для решения задач, связанных с лицензируемой государством деятельностью.

2. Проблема распределения юридической ответственности за действия и бездействия искусственного интеллекта, повлекшие причинение вреда, между им самим, его создателем и (или) оператором.

Подход к решению проблемы сертификации доверенных систем искусственного интеллекта, предназначенных для решения задач, связанных с лицензируемой государством деятельностью

Приказом Федерального агентства по техническому регулированию и метрологии от 25 июля 2019 г. № 1732 принято решение о создании Технического комитета по стандартизации «Искусственный интеллект», основными задачами которого являются национальная стандартизация РФ в целях создания единой нормативно-технической базы в области искусственного интеллекта, а также международное сотрудничество по вопросам стандартизации в области искусственного интеллекта.

Национальным стандартом ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения» определено, что для обеспечения доверия к системе искусственного интеллекта на стадии ее эксплуатации может быть предусмотрена (опционально) сертификация систем искусственного интеллекта на соответствие требованиям организации, ответственной за регулирование процессов создания и применения систем искусственного интеллекта.

Однако в национальных стандартах, разработанных и введенных в действие к настоящему времени, а также запланированных к разработке согласно перспективной программы стандартизации по приоритетному направлению «Искусственный интеллект» на период 2021 -2024 годы, утвержденной заместителем Министра экономического развития РФ и заместителем Руководителя Федерального агентства по техническому регулированию и метрологии 22 декабря 2020 г., вопросы сертификации на соответствие требованиям организации, ответственной за регулирование процессов создания и применения систем искусственного интеллекта, не рассмотрены и к рассмотрению не предполагаются. При этом отметим, что вопросы испытаний систем искусственного интеллекта на соответствие требованиям потребителя рассмотрены детально по видам и областям их применения и предполагаются к дальнейшей детализации, в том числе по органам государственной власти, предполагающим использование систем искусственного интеллекта, с учетом их особенностей.

Таким образом, для решения проблемы сертификации доверенных систем искусственного интеллекта, предназначенных для решения задач, связанных с лицензируемой государством деятельностью, предлагается разработать и ввести в действие национальные стандарты Российской Федерации серии «Системы искусственного интеллекта», регламентирующие порядок организации и проведения (в том числе требования к программам и методикам) сертификационных испытаний на соответствие требованиям организаций, ответственных за регулирование процессов создания и применения систем искусственного интеллекта.

Подход к решениюпроблемы распределения юридической ответственности за действия и бездействия искусственного интеллекта, повлекшие причинение вреда, между им самим, его создателем и (или) оператором

Более общая проблема признания искусственного интеллекта в качестве субъекта правовых отношений рассматривается в работах ряда авторов^{25, 26, 27}. Рассматриваются различные мнения авторитетных ученых в рассматриваемой предметной области, в трудах которых излагаются как положения о невозможностипризнанияискусственного интеллекта субъектом

правоотношений, так и положения о необходимости его наделения статусом физического, юридического лица, а также особого статуса «электронного лица». При этом в рассмотренных работах отмечается неурегулированность вопроса об ответственности за действия и бездействия искусственного интеллекта, повлекшие причинение вреда. Исходя из действующих КоАП РФ, УК РФ и ГК РФ, ответственность будут нести или оператор (собственник) системы искусственного интеллекта, или ее создатель (изобретатель, программист, производитель). При этом существенно осложняется процесс квалификации деяния тем, что вина каждого из представленных лиц подлежит детальному и скрупулезному исследованию.

Глава 2 КоАП РФ регламентирует понятия административного правонарушения и административной ответственности, в том числе особенности административной ответственности ряда субъектов правовых отношений. Представляется целесообразным дополнить КоАП РФ нормой, регламентирующей административную ответственность, вызванную действием (бездействием) искусственного интеллекта, повлекшим причинение вреда.

Главы 1, 3, 5 УК РФ регламентируют понятия преступления, уголовной ответственности и вины, в том числе в статья 5 регламентирует невиновное причинение вреда. Представляется целесообразным дополнить УК РФ нормой, регламентирующей уголовную ответственность, вызванную действием (бездействием) искусственного интеллекта, повлекшим причинение вреда.

Глава 59 ГК РФ регламентирует обязательства вследствие причинения вреда, в том числе особенности гражданско-правовой ответственности ряда субъектов правовых отношений. Представляется целесообразным дополнить ГК РФ нормой, регламентирующей гражданско-правовую ответственность, вызванную действием (бездействием) искусственного интеллекта, повлекшим причинение вреда.

Таким образом, для решения проблемы распределения ответственности за действия и бездействия искусственного интеллекта, повлекшие причинение вреда, между им самим, его создателем и (или) оператором предлагается дополнить КоАП РФ, УК РФ, ГК РФ нормами, регламентирующими основания и особенности административной, уголовной и гражданской ответственности создателя и оператора системы искусственного интеллекта.

Заключение

В ходе выполнения исследований, направленных на системный анализ правовых актов управления, регулирующих использование искусственного интеллекта в государственном управлении, а также разработку и обоснование направлений совершенствования государственного регулирования в рассматриваемой предметной области, получены следующие основные результаты:

1. Установлено, что использование искусственного интеллекта в государственном управлении является перспективным научно -техническим путем совершенствования системы государственного и муниципального управления РФ. При этом проблема нормативного правового регулирования использования искусственного интеллекта на всех этапах его жизненного цикла, в том числе и решения ряда прикладных задач, связанных с обеспечением информационной безопасности, созданием этического кодекса, нейтрализации перечня неопределенностей и рисков, в настоящее время решена фрагментарно.

2. Рассмотрены основные проблемы государственного регулирования искусственного интеллекта. Проанализированы пути решения проблем, в настоящее время нашедшие отражение в законодательстве и правоприменительной практике Российской Федерации. Определены в настоящее время не решенные проблемы государственного регулирования искусственного интеллекта в государственном управлении.

3. Предложены направления совершенствования правового регулирования искусственного интеллекта в государственном управлении, включающие:

- подход к решению проблемы сертификации доверенных систем искусственного интеллекта, предназначенных для решения задач, связанных с лицензируемой государством деятельностью, направленный на разработку и ввод в действие национальных стандартов Российской Федерации серии «Системы искусственного интеллекта», регламентирующих порядок организации и проведения (в том числе требования к программам и методикам) сертификационных испытаний на соответствие требованиям организаций, ответственных за регулирование процессов создания и применения систем искусственного интеллекта;

- подход к решению проблемы распределения ответственности за действия и бездействия искусственного интеллекта, повлекшие причинение вреда, между им самим, его создателем и (или) оператором, направленный на дополнение КоАП РФ, УК РФ, ГК РФ нормами, регламентирующими основания и особенности административной, уголовной и гражданской ответственности создателя и оператора системы искусственного интеллекта.

Использованные источники:

1. Блинникова,А.В. Использование искусственного интеллекта

в процессах управления человеческими ресурсами / А.В. Блинникова, Д.К. Йинг // Вестник университета. 2020. № 7. С. 14-21.

2. Буренок, В.М. Искусственный интеллект в военном противостоянии

будущего / В.М.Буренок // Военная мысль. 2021.№4.

С. 106-112.

3. Васин, С.Г. Искусственный интеллект в управлении государством / С.Г. Васин // Управление. 2017. № 3(17). Том 46. С. 5-10.

4. Галкин, Д.В. Состояние и перспективы использование искусственного интеллекта в военном деле / Д.В. Галкин, П.А. Коляндра, А.В. Степанов // Военная мысль. 2021. № 1. С. 113-124.

5. Данельян, А.А. Юридические аспекты регулирования искусственного интеллекта в Российской Федерации / А.А. Данельян, Е.Н. Трикоз, Е.Е. Гуляева // Международный правовой курьер. 2021. № 1. С. 29-38.

6. Добролюбова, Е.И. Цифровое будущее государственного управления по результатам / Е.И, Добролюбова, В.Н. Южаков, А.А. Ефремов [и др.]. М.: Издательский дом «Дело» РАНХиГС. 2019. 114 с.

7. Иванько, А.Ф. Искусственный интеллект и государственное

управление / А.Ф. Иванько, М.А. Иванько, Д.В, Бутырская // Научное обозрение. Фундаментальные и прикладные исследования. 2019.№3.

С. 1-13.

8. Камолов, С.Г. Информационные технологии для государственных служащих: Учебное пособие / С.Г. Камолов, П.В. Артемова. М.: МГИМО МИД России. 215 с.

9. Кислый, В.А. Отдельные аспекты государственной политики в сфере развития технологий искусственного интеллекта [Электронный ресурс]

/Конев, С.И. Государственно-правовое регулирование искусственного интеллекта и робототехники в Российской Федерации и зарубежных странах / С.И. Конев, Б.А. Цокова // Государственная служба и кадры. 2020. № 4. С. 31-36.

10. Косоруков, А.А. Технологии искусственного интеллекта в современном государственном управлении / А.А. Косоруков // Социодинамика. 2019. № 5. С. 43-58.

с 12. Логинов, Е.Л. Искусственный интеллект в органах госуправления / Е.Л. Логинов, А.А. Шкута // Государственная служба. 2017. Т. 19. № 5. С. 24-29.

й 13. Незнамов, А.В. Правовые аспекты реализации национальной стратегии развитияискусственного интеллекта до 2030 года

/ А.В. Незнамов // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. № 12(64). С. 82-88.

U 14. Основные тренды развития цифровой экономики в финансовой сфере. Правовые аспекты регулирования и практического применения. Под редакцией А.Г Аксакова. М.: Издание Государственной Думы. 2019. 160 с. h 15. Петров, М. Государство как платформа / М. Петров, В. Буров, М. Шклярук, А. Шаров. М.: Центр стратегических разработок. 2018. 53 с.

16. Понкин, И.В. Искусственный интеллект с точки зрения права / И.В. Понкин, А.И. Редькина // Вестник РУДН. Серия: Юридические науки. 2018. Т. 22. № 1. С. 91-109.

z 17. Филипова, И.А. Правовое регулирование искусственного интеллекта: Учебное пособие / И.А. Филипова. Нижний Новгород.: Нижегородский госуниверситет. 2020. 90 с.

о 18. Цифровая экономика от теории к практике: как российский бизнес использует искусственный интеллект. М.: РАЭК. 2019. 68 с. г u b

Размещено на Allbest.ru