Технология искусственного интеллекта и право: вызовы современности

pHcations-fded-inventions-generated-solely-artificial-inteUigence..

Европейское патентное ведомство (EPO) и Ведомство интеллектуальной собственности Великобритании (UKIPO) оценили эти заявки по существу. Оба ведомства установили, что заявки соответствуют патентоспособности в максимально возможной степени до публикации заявок. Заявки были поданы в соответствии с Договором о патентной кооперации, который облегчает процесс получения патентной защиты в более чем 150 странах, и предполагается, что они будут рассматриваться в большом числе патентных ведомств.

Европейское патентное ведомство отклонило поданные заявки после закрытого слушания 25 ноября 2019 года URL: https://www.epo.org/news-issues/news/2019/201912

20.html.. Управление по патентам и товарным знакам США (USPTO) опубликовало запрос на комментарии к списку вопросов, касающихся вопросов патентов в области искусственного интеллекта, в Федеральном реестре 21 августа 2019 года.

Доводы исследователей в пользу признания охраноспособности изобретений, созданных с помощью технологии искусственного интеллекта, сопоставимы с лицами, применяющими технологии для создания объектов, обладающих признаками произведений. В некоторых случаях выходные данные компьютера представляют собой патентоспособный объект и компьютер, а не человек соответствует требованиям для изобретательства [56]. Несмотря на это и несмотря на тот факт, что патентные ведомства уже выдавали патенты на изобретения, создаваемые с помощью компьютерных программ, вопрос об изобретении компьютеров никогда явно не рассматривался судами, законодателями и патентными ведомствами.

В этой дискуссии одним из наиболее часто выдвигаемых аргументов против признания изобретения, полученного с применением технологии искусственного интеллекта, является то, что для любой работы, генерируемой алгоритмом, существует физическое лицо, которое квалифицируется юристами как изобретатель. Однако следует учитывать, что, когда человеком формулируется задание для применения технологии искусственного интеллекта, разрешаемая проблема может быть как очевидной и весьма понятной, так и требовать сама по себе формулирования и / или структурирования [57]. Поэтому программист или разработчик алгоритмов искусственного интеллекта может считаться изобретателем, если он разработал систему искусственного интеллекта для решения конкретной проблемы или когда он должен был умело выбирать учебные или входные данные для самообучающейся системы. Но программист, вероятно, не должен признаваться изобретателем, когда он или она просто внесли свой вклад в общие возможности системы искусственного интеллекта по решению проблем, не зная о конкретной проблеме, к которой искусственный интеллект применяется, или о ее конечном результате. В этом случае ослабевает связь между творчеством человека и результатом применения технологии искусственного интеллекта. Эта связь становится еще более слабой, когда несколько программистов участвуют в настройке и доработке самой системы искусственного интеллекта, внося свой вклад в программное обеспечение во времени и пространстве, участвуя в разработке единой системы. Таким образом, не представляется уместным предоставлять исключительные права на полученный с помощью технологии искусственного интеллекта результат, когда важность вывода системы искусственного интеллекта очевидна и востребована в обороте, а деятельность человека не является вкладом в полученный результат URL: https://www.wipo.mt/wipo_magazme/en/2019/06/article 0002.html..

Приведенные дискуссии служат ярким примером того, что сегодня перед юристами всего мира остро встает вопрос правового обеспечения интересов разработчиков, бизнеса и инвесторов, а также государства в решении сложнейших задач прояснения правового режима объектов, создаваемых с помощью технологии искусственного интеллекта.

Борьба идет не столько за сам контент, сколько за финансовые потоки, которые генерируют разные способы доступа к контенту, и связанные с ними рекламные доходы. Главным становится вопрос, какие минимальные требования должны быть вознаграждены путем предоставления исключительных прав или прав авторства? То есть заинтересованные лица в любом случае ищут способы организации всего процесса таким образом, чтобы получить распространение, но не потерять доходы. При этом государствам приходится включаться в регулирование соответствующих отношений. И чем раньше и мягче это происходит, тем больше возможностей для защиты интересов общества, конечных пользователей. Ту же ситуацию мы вскоре увидим на рынке объектов, созданных с помощью технологии искусственного интеллекта.

В этих условиях задачей права является создание справедливой и адекватной потребностям правообладателей и широкого круга пользователей (потребителей) правового механизма защиты их прав и законных интересов.

С одной стороны, для российского права справедливым кажется подход: если форма подпадающего под признаки охраноспособности объекта была детерминирована соображениями функциональности либо технической применимости, либо имеющимися в распоряжении художественными либо техническими средствами, не превышающими по своему уровню то, что для среднего автора представляет собой механическую работу, такой объект может не признаваться объектом авторского права (п. 1 ст. 1228 ГК РФ) [8, с. 48].

С другой стороны, отнесение объектов, созданных роботами, к общественному достоянию имеет свое негативное последствие - прекращение инновационного развития в данной сфере [35]. Если посмотреть на опыт иных рынков, то можно обнаружить, что в условиях обобществления результатов развитие замедляется либо прекращается. А пока в отсутствие четкого видения решения этого вопроса возникает масса проблем, связанных с обладанием таким изобретением, возможностями передачи прав на данное решение, обеспечением конфиденциальности данных и защиты прав потребителей.

Возникшая проблема определения режима результата применения искусственного интеллекта заставляет государства и экспертов задуматься в целом о назначении права интеллектуальной собственности и применении механизмов его защиты. На наш взгляд, такие объекты сегодня вполне заслуживают охраны как объекты исключительных прав, однако в силу формулировок действующего Гражданского кодекса Российской Федерации не могут признаваться объектами исключительных авторских, смежных или патентных прав. Полагаем, в праве интеллектуальной собственности для подобного рода объектов возможно создание самостоятельного правового режима sui generis. По существу в этом контексте обществу предстоит выбрать, предоставлять право на результат применения искусственного интеллекта или это будет общественным достоянием. Однако вопрос о возможности предоставления результатам деятельности роботов правового режима объекта исключительных прав, а именно смежных, требует отдельного рассмотрения.

Технология искусственного интеллекта и управление

В Стратегии 2030 сделан акцент на соотнесение результатов применения технологии искусственного интеллекта с результатом интеллектуальной деятельности человека. При этом важно подчеркнуть, что не только создание результатов, сопоставимых с охраноспособными результатами интеллектуальной деятельности, является следствием применения технологии искусственного интеллекта.

Так, технология искусственного интеллекта выступает инструментом бизнес-аналитики.

Сегодня все более актуальной становится тема интеллектуализации организационных и информационных процессов, внедрения интеллектуальных систем поддержки принятия решений и рекомендательных систем.

Рекомендательные системы - технологии, которые на основе информации о профиле предсказывают, какие объекты (фильмы, музыка, книги, новости, веб-сайты) будут интересны пользователю [30, р. 109]. Рекомендательные системы широко используются в индустрии развлечений, бизнес-маркетинге и биомедицинской индустрии.

Суть работы рекомендательных систем заключается в следующем: эти программы собирают данные о пользователях и их предпочтениях (например, путем проведения тестирования пользователей либо посредством получения доступа к содержимому устройства пользователя, записи звука/видео, слежения за действиями пользователя в Интернете и приложениях, просмотра истории поисков пользователя в браузере). Все эти действия необходимы для работы данной системы и выполнения ею основной функции [58, р. 20; 61, р. 230]. Две основные стратегии создания рекомендательных систем - контентная фильтрация (content-based filtering) и коллаборативная фильтрация (collaborative filtering) [4]. Рекомендательные системы сравнивают однотипные данные из разных источников и вычисляют список рекомендаций для конкретного пользователя. Они являются альтернативой поисковых алгоритмов, так как позволяют обнаружить объекты, которые не могут быть найдены последними.

Таким образом, рекомендательная система на основе заранее собранных и обработанных данных (Big Data) описывает возможные пользовательские предпочтения. Выводы алгоритма служат важной основой для дальнейших рекомендаций пользователю того или иного контента. Этот эффект используется как часть механизма принятия решений в бизнесе и государственном управлении, а также весьма востребован в экономике как современный инструмент маркетинга (продвижения) для прогнозирования продаж, внедрения продуктов и др. Поскольку некоторые потребители и компании нуждаются в рекомендации или прогнозе для будущего бюджета, координации труда и цепочки поставок, динамические системы рекомендаций крайне востребованы сегодня для точного прогнозирования. Кажется очевидным, что такие результаты применения технологии искусственного интеллекта не приводят к созданию охраноспособных объектов, порождающих исключительное право на данные. В то же время не представляется возможным приравнять такие случаи применения технологии искусственного интеллекта к договорным отношениям в сфере услуг.

Еще одним направлением применения технологии искусственного интеллекта являются интеллектуальные системы поддержки принятия решений (Decision Support System, DSS). Это компьютерные автоматизированные системы, целью которых является помощь лицам, принимающим решение в сложных условиях для полного и объективного анализа предметной деятельности.

В технической среде под системами поддержки принятия решений понимают «комплекс математических и эвристических методов и моделей, объединенных общей методикой формирования альтернатив управленческих решений в организационных системах, определения последствий реализации каждой альтернативы и обоснования выбора наиболее приемлемого управленческого решения. Поддержка принятия решений и заключается в помощи лицу, принимающему решение, в процессе принятия решений» [15, с. 5].

Управление решениями на основе данных (Data-driven decision management, DDDM) - это такой подход к управлению бизнесом, когда принимаются решения, которые могут быть подкреплены проверяемыми данными. И если ранее необходимо было обращаться к специалисту, чтобы добывать данные для получения информации, поскольку этому человеку было необходимо понять, как работают базы данных и хранилища данных, то теперь такой сбор, анализ и обработка данных создается с применением технологий искусственного интеллекта на периодической основе.

В программу системы поддержки принятия решений входят: поиск информации, анализ базы данных, определение приоритетных задач, моделирование, генерация возможных решений и их альтернатив, выработка последствий выбора конкретных решений и определение в заданных условиях наиболее оптимального решения. Для решения наиболее сложных задач по принятию решений используются системы искусственного интеллекта [11]. То есть и в данной сфере мы можем разграничить системы, основанные на информационных технологиях, направленных на автоматизацию деятельности человека (например, создание баз данных, электронный документооборот), что обеспечивается за счет специального программного обеспечения и по существу не включает искусственный интеллект, и непосредственно системы искусственного интеллекта, где используются интеллектуальные алгоритмы (например, разрешение спора и вынесение решения).

Причем особенностью применения технологии искусственного интеллекта в системах принятия решений является то, что она применяется в сочетании с другими «сквозными» технологиями. В частности, активно задействуется технология больших данных. Успех подхода, основанного на данных, зависит от качества собранных данных и эффективности их анализа и интерпретации.

Таким образом, мы видим, что сферы применения и получаемые результаты технологии искусственного интеллекта далеко не всегда связаны с правами интеллектуальной собственности. В связи с этим практики заключают: несмотря на то что было использовано и разработано много продуктов искусственного интеллекта, он не производил результаты, которые были бы общедоступны или которые обязательно были интеллектуальными созданиями сами по себе URL: https://www.wipo.int/about-ip/en/artificial_ intelligence/..

В то же время применение технологии искусственного интеллекта в данном ключе требует разрешения вопросов публично-правового характера: получения согласия на обработку данных от субъектов этих данных, определения правосубъектности указанных лиц, установления юридической ответственности в связи с недобросовестным использованием данных, полученных для принятия решения.

Унификация и стандартизация систем искусственного интеллекта

На наш взгляд, следует признать справедливость позиции, согласно которой целый ряд проблем, возникающих в связи с применением технологии искусственного интеллекта и введением в оборот результатов функционирования искусственного интеллекта (либо прав на эти результаты в случае их возникновения у определенных субъектов), могут быть разрешены путем разработки стандартов, а также с помощью создания реестра таких результатов.

Полагаем, что ключевыми проблемами, возникающими при разработке, тестировании и эксплуатации систем искусственного интеллекта, являются следующие.

Во-первых, это риски, связанные с отсутствием доверия к системам искусственного интеллекта. Они обусловлены отсутствием транспарентности процесса принятия решений и вследствие этого - отсутствием гарантий качества выполненной работы. Поэтому этого имеются определенные ограничения в отношении использования систем искусственного интеллекта в процессе выполнения задач, предполагающих повышенную ответственность лица, принимающего решения.

Предсказуемость действий при выполнении конкретных задач, процессов и сервисов по обработке данных и поиску решений необходима, и использование машин, управляемых человеком, вполне способно обеспечить такую предсказуемость. Однако, как справедливо отмечают исследователи, роботы и системы искусственного интеллекта нового поколения являются самообучающимися, «архитектура интеллекта роботов продвинулась от интеллектуального действия к автономному интеллекту, благодаря чему роботы могут адаптироваться к сложным средам и взаимодействовать с людьми....Поскольку роботы становятся более способными к автономному поведению, правила, связанные с промышленными роботами, больше не будут эффективными», а возникающие при этом риски могут быть связаны с производством самообучающихся роботов и с процессом осуществления ими той или иной деятельности [59, р. 206].

Вопросы безопасности при разработке и тестировании систем искусственного интеллекта представляют особый интерес с позиций права, именно поэтому целый ряд ученых обращаются к их анализу. П. М. Морхат отмечает, что именно «такие риски поддаются управлению посредством нормативно-правового и нормативного технического регулирования, посредством процессов оценки и планирования», в то время как «риски, проистекающие из автономной деятельности роботов (автономная деятельность роботов нового поколения делает связанные с их деятельностью риски сложными, изменчивыми и непредсказуемыми и, следовательно, требует совершенно иного подхода к оценке рисков)» [9, с. 129].

Среди зарубежных ученых, предпринимавших попытки выявления ключевых рисков безопасности, связанных с радикальным развитием технологий искусственного интеллекта, следует назвать Ника Бострома, который также усматривает существенные риски именно в процессе эксплуатации, применения технологии искусственного интеллекта, указывая на то, что «существуют опасения по поводу автономных автомобилей и кибератак, а также причинения вреда» [31].

Рональд Линес и Федерика Люсиверо указывают на необходимость регулирования процесса проектирования систем искусственного интеллекта с нормами и стандартами таким образом, чтобы их использование было максимально безопасным и исключалось причинение вреда пользователям данных систем, а также третьим лицам. Для этого ими предлагается регламентация указанных процессов путем не только принятия законов, но и разработки системы технической регламентации и стандартизации в указанной сфере [49, р. 6].

Ряд исследователей отмечают, что регулирование новых технологий является сложной задачей, поскольку оно предполагает «борьбу с неопределенностью и быстро распространяющимися, часто невидимыми технологиями» [45, р. 2]. А.П. дель Кастильо обращает внимание на то, что для создания прозрачного и демократического игрового поля необходим минимальный набор правил и что в настоящее время в отсутствии какого-либо специального нормативного акта о робототехнике могут являться Директива ЕС по машиностроению 2006/42 / EC и Директива об ответственности за качество продукции 85/374 / EEC) [36, р. 10].

Во-вторых, сложности при сопоставлении функциональных возможностей систем искусственного интеллекта друг с другом, а также с возможностями квалифицированного специалиста-оператора данной системы. В настоящее время имеется объективная необходимость в разработке стандартных процедур сравнения для того, чтобы иметь возможность оценить полезный эффект от использования систем искусственного интеллекта.

О данной проблеме говорят и зарубежные исследователи. Например, Мартин Форд отмечает: «Дело не только в безработице. Это также о неравенстве. Ведутся дебаты о том, будет ли эта технология заменять людей или это скорее шаг вперед, когда новые технологии работают наряду с людьми?» [42]. Другие ученые также анализируют различные аспекты проблемы занятости, порождаемой все более широким распространением систем искусственного интеллекта.

Кей Ферт-Баттерфилд усматривает несомненную связь развития технологий искусственного интеллекта с количеством рабочих мест и отмечает следующие потенциальные проблемы при использовании данных систем: «Эти проблемы делятся на четыре основные категории: предвзятость, прозрачность, ответственность и конфиденциальность. Значительная ценность бренда может быть потеряна, если будут приняты неправильные решения об использовании искусственного интеллекта. Поэтому важно, чтобы различные регулирующие и другие механизмы управления были рассмотрены сейчас; быстрые темпы изменений в этой технологии таковы, что мы не можем ждать» [32].

В-третьих, идентифицированы проблемы интероперабельности, заключающиеся в отсутствии стандартных форматов представления данных, используемых либо получаемых с помощью систем искусственного интеллекта. Отсутствуют также требования к формированию обучающих и контрольных выборок, вследствие чего имеются существенные сложности для успешного встраивания систем искусственного интеллекта в информационно-коммуникационную инфраструктуру.

В современном промышленном производстве наблюдается тенденция комбинирования аппаратного и программного обеспечения (hardware и software), это необходимо для того, чтобы технологии искусственного интеллекта приобрели большую практическую значимость. Не случайно исследователи отмечают, что «для прикладных систем потребность в комбинации различных методов искусственного интеллекта с функциональными приложениями становится все более серьезной» [60, р. 33].

В-четвертых группа проблем, возникающих при создании и использовании систем искусственного интеллекта, с нашей точки зрения, связана с конфиденциальностью процессов получения, обработки и использования больших данных. Анализируя возможности применения систем искусственного интеллекта в правоприменительной практике, Деннис Гарсия, помощник главного юрисконсульта Microsoft, отметил следующее: «Чтобы системы искусственного интеллекта могли предоставлять ценные услуги, в основном им необходимо иметь доступ и использовать большие объемы данных. Системы искусственного интеллекта также, вероятно, будут генерировать значительные объемы информации. В результате покупатель услуг, связанных с использованием искусственного интеллекта, должен понимать, как поставщик решений искусственного интеллекта защищает и использует свои данные» [44]. Образное высказывание «IoT could feed the `big data beast'» [39] вполне отражает те проблемы, которые могут возникнуть в связи с использованием больших данных.

Таким образом, вопрос о конфиденциальности тесно связан с большими данными (Big Data) и является весьма актуальным. Их использование больших данных необходимо для эффективного функционирования систем искусственного интеллекта, что порождает целый комплекс правовых и этических вопросов, в частности о границах использования персональных данных. В Европейском Союзе уже действует процедура PIA (privacy impact assessment) - оценка влияния функционирования роботов и иных подключаемых к Интернету устройств на конфиденциальность персональных данных. Она регулируется специальным актом по сбору, обработке и хранению больших данных - General Data Protection Regulation (GDPR) Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repрealing Directive 95/46/EC (General Data Protection Regulation). URL: http: // eur-lex.europa. eu/legal-content/EN/TXT/PDF /?uri= CELEX: 32016R0679&from=EN., согласно которому каждому гражданину также предоставляется право на заявление возражений в отношении факта осуществления в отношении него сбора данных (профайлинга) и обработки его результатов, способной оказать существенное влияние на его права и обязанности.

Полагаем, однако, что в данной сфере необходимо более масштабное правовое регулирование: законодатель, осуществляя правовую и / или техническую регламентацию процессов функционирования искусственного интеллекта, должен иметь в виду базовые принципы, на основе которых эти процессы построены, а именно автономность и непрозрачность. Andrea Ottolia, анализируя особенности использования больших данных в деятельности систем искусственного интеллекта, весьма образно указала на следующую его особенность: «Большинство систем искусственного интеллекта являются “системами черных ящиков”» [55].

В науке идут дискуссии о том, каким образом можно регламентировать использование больших данных, предлагаются различные правовые режимы - авторского права либо смежных прав, коммерческой тайны, антимонопольное регулирование и т. д.

В отношении авторско-правовой охраны, предоставляемой компьютерным программам, следует отметить, что она не распространяется на содержание данных, охрана предоставляется форме произведения. Поэтому невозможно использовать ее для охраны, например, персональных данных. Что касается охраны в качестве баз данных, то эти данные, используемые системами искусственного интеллекта система может самостоятельно структурировать, делать выборки в соответствии с заданными самой этой системой параметрами, не придерживаясь заданного разработчиком этой базы принципа подбора и расположения материала.

Режим коммерческой тайны применим лишь для охраны информации, имеющей действительную или потенциальную коммерческую ценность, в то время как и иные данные могут быть важны для функционирования систем искусственного интеллекта.

С нашей точки зрения, антимонопольное законодательство в этом отношении может быть наиболее полезным, поскольку обладает надлежащими возможностями в предотвращении монополизации процессов сбора, обработки и хранения данных, использование его инструментов способно облегчить доступ к данным, однако необходимо это делать не только в соответствии с нормами права, но и определенными техническими стандартами.

Таким образом, целый ряд исследователей правовых, социальных, экономических и иных проблем разработки и использования систем искусственного интеллекта приходят к выводу о необходимости унификации и стандартизации процедур в данной сфере. Необходимо как можно более точно прогнозировать и решать взаимосвязанные технологические и правовые проблемы, которые возникнут, когда использование роботов станет повсеместным, они будут широко внедрены во все сферы жизни общества. А мы полагаем, что такое внедрение произойдет в ближайшее десятилетие. Именно поэтому вопросы, касающиеся стандартов поведения автономных роботов, тесным образом связаны с безопасностью их использования.

Считаем также, что в современных условиях цифровизации очередной этап правового регулирования отношений, складывающихся в сфере сбора, хранения и использования больших данных, а также в сфере интеллектуальной собственности связан с необходимостью унификации и стандартизации систем искусственного интеллекта и технологии блокчейн.

Унификация позволяет выработать единые подходы к правовой регламентации соответствующих отношений, в результате чего происходит не только сближение законодательства различных стран, но и совершенствование правоприменительной практики. Начало процессу установления унифицированных требований к процедурам и средствам хранения больших данных, используемых при разработке, тестировании и эксплуатации систем искусственного интеллекта было положено сначала на международном уровне.

При обращении к анализу международного правового регулирования в указанной сфере становится очевидно, что еще начиная с 2000 г., в период бурного, революционного развития информационно-телекоммуникационных технологий, осуществлялось принятие в первую очередь актов общего характера - программных документов, признающих современный этап развития общества в качестве информационного общества и закрепляющих основные его характеристики.

Не случайно в указанный период по итогам Всемирной встречи на высшем уровне по вопросам информационного общества в Женеве (декабрь 2003 г.), а также встречи, состоявшейся в Тунисе (ноябрь 2005 г.), были приняты весьма значимые документы: Окинавская хартия глобального информационного общества, Окинавская хартия глобального информационного общества. URL: http://www.iis.ru/library/okinawa/charter. ru.html. План действий Тунисского обязательства План действий Тунисского обязательства. URL: http://rodmaprav.mfo/mdex.php/zakonodatelstvo/43-tunisskoeobyazatelstvo. и др., в которых основной целью, стоящей перед современным обществом, было провозглашено ускорение процессов формирования постиндустриальных тенденций во всех сферах его жизни - экономической, социально-политической и духовной. Декларация принципов по вопросам информационного общества, принятая в Женеве в 2003 г. Декларация принципов по вопросам информационного общества: принята в Женеве в 2003 г. URL: http://rodinaprav.mfo/index.php/zakonodatelstvo/36-deklaratsiyaprintsipov-postroenie-informatsionnogo-obshchestva-globalnaya-zadacha-v-novom-tysyacheletii., провозгласила построение данного общества в качестве глобальной задачи в новом тысячелетии и определила принцип обеспечения повышения доверия и безопасности при использовании информационных технологий как один из ключевых.

Европейским парламентом в 2017 г. был опубликован Отчет с рекомендациями для Комиссии по гражданскому праву о правилах робототехники, в котором было, в частности, отмечено, что «тенденция к автоматизации требует, чтобы те, кто занимается разработкой и коммерциализацией приложений искусственного интеллекта, изначально строили систему безопасности и этики, тем самым признавая, что они должны быть готовы принять юридическую ответственность за качество производимой ими технологии» (пункт N) Report of the European Parliament with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103 (INL)) dated as of 27^th of January, 2017. URL: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT - REP0RT - A8-2017-0005 - 0 - D0C - XML - V0//EN.. Также подчеркивается необходимость сбалансированного подхода, предполагающего обязательность стандартизации аппаратного и программного обеспечения систем искусственного интеллекта и в то же время, недопустимость создания препятствий инновациям.

Как отмечено в Рекомендации Парламентской ассамблеи Совета Европы № 2102 от 28 апреля 2017 г. «Слияние с технологиями, искусственный интеллект и права человека» Recommendation № 2102 (2017) of Parliamentary Assembly of the Council of Europe «Technological convergence, artificial intelligence and human rights», 28 April 2017. URL: http: // assembly.coe. int/nw/xml/XRef/Xref-xML2HTML-en. asp?fileid=23726&lang=en., законодателям все труднее адаптироваться к темпу развития науки и технологий и разрабатывать необходимые нормативные акты и стандарты (п. 3), в связи с чем требуется разработать руководящие принципы, в частности, по вопросу автоматической обработки операций, направленных на сбор, обработку и использование персональных данных, а также общие рамки стандартов (п. 9.1). В данном документе сделан важный вывод о том, что любая машина, любой робот или любой искусственный интеллект должны оставаться под контролем человека.

В рамках Евразийского экономического союза принят технический регламент «О безопасности машин и оборудования», в котором, однако, не затронуты вопросы ответственности Решение Комиссии Таможенного союза от 18 окт. 2011 № 823 (ред. от 16.05.2016) [Электронный ресурс]. Доступ из справ.-правовой системы «КонсультантПлюс»..

В течение последнего десятилетия основные положения вышеобозначенных и иных стратегических, программных документов были внедрены в национальное законодательства целого ряда стран: в частности, Великобритания, Германия, Китай, США, Япония, Южная Корея предпринимают важные шаги в направлении регламентации базовых стандартов в сфере робототехники и искусственного интеллекта Draft Report with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), 31.05.2016 / Committee on Legal Affairs / European Parliament; Rapporteur: Mady Delvaux. URL: http://www.europarl.europa.eu/ sides/getDoc.do?pubRef=-//ep//nonsgml%2bcomparl%2bpe582.443%2b01 %2bdoc%2bpdf%2bv0//en. P. 4. [2, с. 3; 26].

Японский Комитет по политике в сфере робототехники в качестве меры, позволяющей решить либо предотвратить проблемы, связанные с функционированием роботов нового поколения, назвал в том числе разработку стандартов проектирования и производства роботов, где предполагается определить ответственность производителей за вред, причиненный действиями роботов Japan Ministry of Economy, Trade and Industry Robot Poli [5, с. 216].

Российская Стратегия 2030 определяет искусственный интеллект как комплекс технологических решений. Данные решения могут быть объектами стандартизации, поскольку в соответствии с Федеральным законом от 29 июня 2015 г. № 162-ФЗ (ред. от 03.07.2016) «О стандартизации в Российской Федерации» (подп. 6 ст. 2)cy Council. Robot Policy Council Report, May 2006 (in Japa-, такими объектами могут являться: продукция (работы, услуги), процессы, системы менеджмента, терминология, условные обозначения, исследования (испытания) и измерения (включая отбор образцов) и методы испытаний, маркировка, процедуры оценки соответствия и иные объекты.

Данный подход соответствует Стратегии развития информационного общества в Российской Федерации, утвержденной Президентом РФ в 2017 г.⁶, и учитывает основные положения перечисленных выше международных документов.

Методические рекомендации по внедрению интернета вещей для оптимизации контрольно-надзорной деятельности содержат определение понятия «промышленный интернет вещей, применяемый в контрольно-надзорной деятельности»: это совокупность автоматических или автоматизированных средств измерения, передачи и обработки данных, систем реагирования и дистанционного мониторинга, обеспечивающих контрольно-надзорные органы достоверными сведениями о состоянии проверяемых объектов. Достоверность этих сведений может быть обеспечена только с помощью стандартизации. В данных рекомендациях также содержатся предложения об отказе от избыточного сбора персональных данных, ограничении его сообразно целям обработки, а также об установлении регламентированного порядка их раскрытия, допустимых сценариев агрегации и деперсонификации.

На наш взгляд, при разработке, тестировании и эксплуатации систем искусственного интеллекта необходима именно стандартизация - разработка норм технических стандартов, а не этических норм. Полагаем, что формулирование норм этики применительно к системам искусственного интеллекта так или иначе связано с попыткой наделить их определенным объемом правосубъектности, чего следует избегать. Мы придерживаемся подхода, изложенного в Стратегии 2030, и исходим из того, что искусственный интеллект - это технология, а не субъект права.

Стандартизация является одним из ключевых факторов, влияющих на модернизацию, технологическое и социально-экономическое развитие России, а также на повышение обороноспособности государства. Согласно ФЗ № 162-ФЗ «О стандартизации в Российской Федерации» (п. 4 ст. 2), «национальная система стандартизации» - механизм обеспечения согласованного взаимодействия участников работ по стандартизации (федеральный орган исполнительной власти, осуществляющий функции по выработке государственной политики и нормативно-правовому регулированию в сфере стандартизации, федеральный орган исполнительной власти в сфере стандартизации, другие федеральные органы исполнительной власти, Государственная корпорация по атомной энергии «Росатом» и иные государственные корпорации в соответствии с установленными полномочиями в сфере стандартизации, технические комитеты по стандартизации, проектные технические комитеты по стандартизации, комиссия по апелляциям, юридические лица, в том числе общественные объединения, зарегистрированные на территории Российской Федерации, физические лица - граждане Российской Федерации) на основе принципов стандартизации при разработке (ведении), утверждении, изменении (актуализации), отмене, опубликовании и применении документов по стандартизации, предусмотренных статьей 14 указанного Закона, с использованием нормативно-правового, информационного, научно-методического, финансового и иного ресурсного обеспечения.

Постановлением Правительства Российской Федерации от 17 июня 2004 г. № 294 «О Федеральном агентстве по техническому регулированию и метрологии» О Федеральном агентстве по техническому регулированию и метрологии: постановление Правительства РФ от 17 июня 2004 г. № 294 (ред. от 20.07.2019) // Собр. законодательства Рос. Федерации. 2004. № 25, ст. 2575. на Федеральное агентство по техническому регулированию и метрологии (Росстандарт) возложены функции национального органа Российской Федерации по стандартизации.

Актуализация Концепции Национальной системы стандартизации осуществлялась на основе осмысления и фиксации новых целей и задач, стоящих перед национальной системой стандартизации в контексте необходимости интенсификации экономического развития страны, ее технологической модернизации, улучшения качества жизни населения, охраны окружающей среды, усиления процессов интеграции в рамках СНГ, образования Таможенного союза, расширения внешнеэкономической деятельности и активизации процессов, связанных с вступлением Российской Федерации в ВТО, а также подготовки заключения Соглашения о сотрудничестве между Европейской организацией по стандартизацией (CEN / CENELEC) и Росстандартом.

В Российской Федерации был принят целый ряд документов по стандартизации в сфере интеллектуальной собственности, в частности: ГОСТ Р 55386-2012. Интеллектуальная собственность. Термины и определения (дата введения 01.07.2014); ГОСТ Р 56824-2015. Интеллектуальная собственность. Использование охраняемых результатов интеллектуальной деятельности в сети Интернет (дата введения 01.06.2016); ГОСТ Р 58223-2018. Интеллектуальная собственность. Антимонопольное регулирование и защита от недобросовестной конкуренции (дата введения 01.12.2018); ГОСТ Р 58086-2018. Интеллектуальная собственность. Распределение интеллектуальных прав между заказчиком, исполнителем и автором на охраняемые результаты интеллектуальной деятельности, создаваемые и/или используемые при выполнении научно-исследовательских, опытно-конструкторских, технологических и производственных работ (дата введения 01.08.2018); ГОСТ Р 58347-2019. Интеллектуальная собственность. Противодействие распространению контрафактной и фальсифицированной продукции в области машиностроения. Методы и технологии защиты (дата введения 01.07.2019); ГОСТ Р 58348-2019. Интеллектуальная собственность. Противодействие распространению контрафактной и фальсифицированной продукции в области машиностроения. Требования к процессам закупки, приемки и утилизации (дата введения 01.07.2019) и др.

Актуальность принятия данных стандартов тем более очевидна в связи с тем, что в российской практике нерешенными являются проблемы договорной и внедоговорной ответственности, ущерба, правового статуса роботов, их создателей, третьих лиц, вопросы конфиденциальности, безопасности, защищенности.

В финансовой сфере была сформирована Регулятивная площадка Банка России для внедрения и апробации новых финансовых сервисов и технологий искусственного интеллекта, требующих изменения правового регулирования. На данной площадке будут моделироваться процессы применения новых цифровых финансовых услуг, продуктов и технологий для их проверки в работе. По результатам этой работы технология может быть в дальнейшем одобрена и применена с необходимой нормативноправовой базой. Такая площадка даст должную оценку эффективности новых финансовых технологий, а также будет содействовать оптимизации действующего законодательства (подробнее см. [17, с. 209-216]).

Это свидетельствует о том, что вопросам интеллектуальной собственности в системе нормативно-технического регулирования уделяется серьезное внимание.

Для повышения эффективности работ по стандартизации в области искусственного интеллекта на национальном, межгосударственном и международных уровнях в России был создан Технический комитет по стандартизации 164 «Искусственный интеллект» (Технический комитет 164) О создании технического комитета по стандартизации «Искусственный интеллект» (ТК 164): утв. приказом Госстандарта от 25 июля 2019 г. № 1732 (ред. от 31.12.2019). Основной задачей Комитета является создание нормативно-технической базы и продвижение российских стандартов на международный уровень.

Техническому комитету 164 было предоставлено право участвовать в работе международных технических комитетов (с правом голосования) по согласованию с Федеральным агентством по техническому регулированию и метрологии, а также исполнение функций постоянно действующего национального органа в ISO/IEC JTC 1 SC 42 «Artificial Intelligence» (Международный комитет по стандартизации в сфере искусственного интеллекта).[Электронный ресурс]. Документ опубликован не был. Доступ из справ.-правовой системы «Консультант Плюс».

На международном уровне в настоящее время разработаны следующие стандарты: ISO / МЭК 20546:2019 Информационные технологии. Большие данные, ISO / IEC TR 205472:2018 Информационные технологии. Эталонная архитектура больших данных. Часть 2: Варианты использования и производные требования, ISO / МЭК 20547-3:2020 Информационные технологии. Эталонная архитектура больших данных. Часть 3: Эталонная архитектура; ISO / IEC TR 20547-5:2018 Информационные технологии. Эталонная архитектура больших данных. Часть 5: Дорожная карта стандартов.

В перспективе: разработка терминологии в сфере искусственного интеллекта; стандартов для систем искусственного интеллекта с использованием машинного обучения; управления рисками; нормативно-технического регулирования предвзятости в системах искусственного интеллекта и принятии решений с его помощью; надежности искусственного интеллекта; стандарт оценки надежности нейронных сетей; обзор примеров использования; этических и социальных проблем; вычислительных подходов для систем искусственного интеллекта; структура управления процессами для анализа больших данных; анализ управленческих последствий использования искусственного интеллекта организациями.

Таким образом, нормы, оформляющие процесс цифровизации в целом и регламентирующие процессы создания и использования систем искусственного интеллекта, роботов постепенно включаются в национальные законодательства всех развитых стран.

Заключение

Анализ показал, что в связи с выявленным и постоянно меняющимся составом высоких технологий, подпадающих под определение искусственного интеллекта, заявляют о себе разнопорядковые вопросы, которые делятся на группы. Ряд вопросов правового регулирования в данной сфере уже решены и потеряли свою актуальность для передовой юридической науки (правосубъектность технологии искусственного интеллекта); ряд вопросов может быть урегулирован с помощью имеющихся правовых механизмов (анализ персональных данных и иной информации в ходе применения технологии вычислительного интеллекта для принятия решений); а часть требует новых подходов правовой науки (выработка правового режима sui generis для результатов деятельности технологии искусственного интеллекта при условии получения оригинального результата).

Решением для юристов, и в первую очередь для правоприменителей, может стать разветвленная система стандартизации технологий искусственного интеллекта и результатов ее применения.

Библиографический список

1. Архипов В. В., Наумов В. Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С.157-170.

2. Британские законодатели намерены регулировать искусственный интеллект // Открытые системы. СУБД. 2016. № 4. С. 3-9.

3. Гурко А. В. Искусственный интеллект и авторское право: взгляд в будущее // Интеллектуальная собственность. Авторское право и смежные права. 2017. № 12. С. 7-18.

4. Джонс М. Принципы работы рекомендательных механизмов Интернета. URL: https://www.ibm. com/developerworks/ru/library/os -recommender1/index.html.

5. Ермолина Д., Перевалов В. Правовой режим объектов интеллектуальной собственности, созданных с использованием искусственного интеллекта. URL: http://www.rupto.ru/ content/uploadfiles/s4 ermolina_perevalov.pdf.

6. Згуровский М. З., Зайченко Ю. П. Основы вычислительного интеллекта. Киев: Наукова думка, 2013. 406 с.

7. Ирискина Е. Н., Беляков К. О. Правовые аспекты гражданско-правовой ответственности за причинение вреда действиями робота как квазисубъекта гражданско-правовых отношений // Гуманитарная информатика. 2016. Вып. 10. С. 63-72.

8. Кашанин А. В. Минимальный уровень творческого характера произведений в авторском праве Германии // Законодательство и экономика. 2009. № 12. С. 48-57.

9. Морхат П. М. Искусственный интеллект: правовой взгляд: монография / РОО «Институт государственно-конфессиональных отношений и права». М.: Буки Веди, 2017. 257 с.

10. Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности: гражданско-правовые проблемы: дис.... д-ра юрид. наук. М., 2018. 420 с.

11. Незнамов А. В. К вопросу о применении технологий искусственного интеллекта в правосудии: терминологический аспект // Арбитражный и гражданский процесс. 2019. № 10.

12. Основные тенденции развития права интеллектуальной собственности в современном мире, в том числе новые объекты интеллектуальных прав и глобальная защиты. [По заказу АО «РВК»]. М., 2017. 213 с.

13. Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 1. С. 91-109.

14. Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: материалы к XII Ежегодным научным чтениям памяти С. Н. Братуся: сб. науч. ст. / А.В. Габов и др. М.: Статут, 2017. 434 с.

15. Прокопенко Н. Ю. Системы поддержки принятия решений: учеб. пособие; Нижегор. гос. архит.-строит. ун-т. Н. Новгород, 2017. 188 с.

16. Рахматулина Р. Ш. Концептуальные основы построения системы объектов авторского права. М., 2020.

17. Рахматулина Р. Ш., Свиридова Е. А., Савина В. С. Правовое регулирование искусственного интеллекта и роботизации - новый этап развития экономики // Гуманитарные и юридические исследования. 2019. № 4. С. 209216.

18. Санникова Л. В., Харитонова Ю. С. Новые технологии и право: современный правовой подход к технологии распределенного реестра // Актуальные проблемы российского права. 2019. № 4 (101). С. 62-69.

19. Санникова Л. В., Харитонова Ю. С. Цифровые компетенции юриста: проблемы формирования: монография. М.: Труды МГУ, 2020.

20. Сесицкий Е. П. Проблемы правовой охраны результатов, создаваемых системами искусственного интеллекта: дис.... канд. юрид. наук. М., 2018. 218 с.

21. Скобцов Ю. А. Основы эволюционных вычислений. Донецк: ДонНТУ, 2008. 326 с.

22. Рассел С., Норвиг П. Искусственный интеллект. Современный подход [Artifical Intelligence: A Modern Approach]. 2-е изд. М.: ООО «И. Д. Вильямс», 2007.

23. Харитонова Ю. С. К вопросу об охраноспособности результата деятельности искусственного интеллекта // Право будущего: интеллектуальная собственность, инновации, Интернет: ежегодник. Вып. 1 / РАН. ИНИОН. Центр. социал. науч.-информ. исслед. Отд. правоведения; каф. предпринимательского права МГУ им. М. В. Ломоносова; отв. ред. Е. Г. Афанасьева. М., 2018.

24. Что такое цифровая экономика? Тренды, компетенции, измерение Ч-80: докл. К XX Апр. междунар. науч. конф. по проблемам развития экономики и общества (Москва, 9-12 апр. 2019 г.) / науч. ред. Л. М. Гохберг. М.: Изд. дом Высшей школы экономики, 2019. 82 с.

25. Энтин В. Л. Авторское право в виртуальной реальности (новые возможности и вызовы цифровой эпохи). М.: Статут, 2017. 216 с.

26. Automatisiertes und Vernetztes Fahren: Bericht der Ethik-Kommission, juni 2017 / Eingefьgt durch den Bundesminister fьr Verkehr und digitale Infrastruktur [Автоматизированное и подключенное вождение: отчет Комиссии по этике Федер. М-ва транспорта и цифровой инфраструктуры Германии, июнь 2017 г.]. URL: https://www.bmvi.de/SharedDocs/DE/Publikatione n/DG/bericht-der-ethik-kommission.html?nn= 12830>; https://www.bmvi. de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommis-sion.pdf?blob=publicationF ile.

27. Belluz J. 3 ways AI is already changing medicine. They might surprise you. URL: https://www.vox.com/science-and-health/2019/3/ 15/18264314/ai-artificial-intelligence-deep-medicine-health-care.

28. Bettinger T. Der Werkbegriff im spanischen und deutschen Urheberrecht. Mьnchen: Verlag C. H. Beck, 2001.

29. Bezdek J. C. What is computational intelligence? // Computational Intelligence Imitating Life. January 1994.

30. Bobadilla J., Ortega F., Hernando A., Gutierrez A. Recommender systems survey, Knowledge-Based Systems. 2013. Vol. 46. Pp.109-132.

31. Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2016.

32. Cath C. et al. Governing artificial intelligence: Ethical, legal and technical challenges and opportunities. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. 2018. Vol. 376, Issue 2133.

33. Cohn. Up for Bid, AI Art Signed `Algorithm', New York Times, 22 October 2018. URL: https://www.nytimes.com/2018/10/22/arts/design/c hristies-art-artificial-intelligence-obvious.html.

34. Copeland B. J. Artificial intelligence, Encyclopedia Britannica. URL: https://www.britannica. com/technology/artificial -intelligence.

35. Costa F. A. De, Carrano A. G. Intellectual property protection for artificial intelligence // Westlaw journal intellectual property. N.Y., 2017. 30 August. URL: https://www.finnegan.com/print/content/46173/Intellectual-Property-Protection-for-Artificial-Intelligence.pdf?q=.

36. Del Castillo A. P. A law on robotics and artificial intelligence in the EU? / European Trade Union Institute // The Foresight Brief. 2017, September. № 2. 11 p. URL: https://www.etui. org/Publications2/Foresight-briefs/A-law-on-robotics-and-artificial-intelligence-in-the-EU.

37. Deltorn J.-M., Macrez F. Authorship in the Age of Machine learning and Artificial Intelligence // Sean M. O'Connor (ed.), The Oxford Handbook of Music Law and Policy, Oxford University Press, 2019 (Forthcoming). Centre for International Intellectual Property Studies (CEIPI) Research Paper No. 2018-10. 25 p.

38. Dreier T., Schulze G. Urheberrechtsgesetz. Urheberrechtswahrnehmungsgesetz, Kunsturhebergesetz: Kommentar. XVII. Mьnchen, 2004. 1690 S.

39. Dutton W. H. The Internet of Things (June 20, 2013). URL: https://ssrn.com/abstract= 2324902.

40. Engelbrecht A. P. Computional Intelligence: Introduction. John Wiley&Sons Ltd. 2007. 597 p.

41. For a Brief Critical Analysis of the Terminology and the Underlying Concept Herberger // NJW. 2018. 2825 p.

42. Ford M. The Rise of the Robots: Technology and the Threat of Mass Unemployment. New York: Oneworld Publications, 2016. 352 p.

43. Fromm F., Nordemann W. Urheberrecht. Stuttgart-Berlin-Kцln-Mainz, 1973. S. 68.

44. Garcia D. Preparing for Artificial Intelligence in the Legal Profession // Lexis Practice Advisor Journal. 06.07.2017. URL: https://www.lexisnexis.com/lexis-practice-advisor/the-journal/b/lpa/archive/2017/06/07/preparing-for-artificial-intelligence-in-the-legal-profession.aspx.