Использование технологий искусственного интеллекта и соблюдение прав и свобод человека

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Кафедра уголовного права филиала Северо-Кавказского федерального университета

Использование технологий искусственного интеллекта и соблюдение прав и свобод человека

Амиянц К.А., канд. юрид. наук, доцент

Аннотация: в статье проводится анализ использования технологий искусственного интеллекта и его влияние на нарушение прав и свобод человека. Делается вывод о необходимости обязательной законодательной регламентации принципа недопустимости нарушения прав человека, при использовании искусственного интеллекта, а также более тесном сотрудничестве между органами государственной власти (правительствами, парламентами, судебными и правоохранительными органами) и частными предприятиями, академическим сообществом, НПО, международными организациями и обществом в целом.

Ключевые слова: искусственный интеллект, цифровизация, нейросети, права человека, нарушения, правовая охрана.

Abstract: the article analyzes the use of artificial intelligence technologies and its impact on the violation of human rights and freedoms. It is concluded that there is a need for mandatory legislative regulation of the principle of inadmissibility of human rights violations when using artificial intelligence, as well as closer cooperation between public authorities (governments, parliaments, judicial and law enforcement agencies) and private enterprises, the academic community, NGOs, international organizations and society as a whole.

Keywords: artificial intelligence, digitalization, neural networks, human rights, violations, legal protection.

Современные цифровые технологии активно входят в нашу жизнь и уже являются неотъемлемыми элементами функционирования отдельных граждан общества и государства. Российская Федерация, более двух лет назад обозначила стратегические планы по переходу к цифровой экономике. Распоряжением Правительства РФ от 28.07.2017 № 1632-р была утверждена программа «Цифровая экономика Российской Федерации». Одной из основных сквозных цифровых технологий, которые входят в рамки указанной программы является «Искусственный интеллект». Следующим шагом, определяющим планы государства на развитие технологий искусственного интеллекта, стал Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» принята «Национальная стратегия развития искусственного интеллекта на период до 2030 года». В рамках указанной национальной стратегии, определены «Основные принципы развития и использования технологий искусственного интеллекта» (раздел 3). В числе принципов на первом месте обозначена «...защита прав и свобод человека: обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики». Как раз соблюдение прав и свобод человека, по мнению многих экспертов и является одним из главных рисков использования технологий искусственного интеллекта Ананьев С.С., Берёзко Д.В. К актуальным вопросам влияния искусственного интеллекта на права человека. // В сборнике: Актуальные проблемы правового регулирования международных отношений. / Сборник научных статей. Витебский государственный университет им. П.М. Машерова; ответственный редактор В.С. Елисеев. Витебск, 2019. С. 32-37; Кашкин С.Ю., Покровский А.В. Искусственный интеллект, робототехника и защита прав человека в Европейском союзе. // Вестник университета им. О.Е. Кутафина, № 4. 2019. - С. 64-90 и др.. Общество чаще всего не замечает этическую и правовую сторону стоящего за ними сбора и анализа данных.

Искусственный интеллект, включая его области, такие как машинное обучение и глубокое обучение, нейтральны только на первый взгляд. При более внимательном рассмотрении обнаруживается, что он может оказать большое влияние на интересы граждан в конкретных случаях. Во многих сферах жизни принятие решений на основе математических вычислений дает огромные преимущества. Однако, если ИИ играет слишком большую роль в жизни человека, включая выявление повторяющихся поведенческих алгоритмов, он может обратиться против пользователей, привести к несправедливости, а также к нарушениям прав и свобод граждан.

Использование ИИ, по-видимому, затрагивает многие аспекты прав человека. Таким образом, использование этих алгоритмов может негативно повлиять на ряд наших прав. Как отмечает комиссар по правам человека Дуня Миятович, - проблема усугубляется отсутствием прозрачности, подотчетности и информации о том, как эти системы организованы, как они работают и в каком направлении они могут развиваться в будущем Дуня Миятович. Соблюдение прав человека в эру искусственного интеллекта. 03.07.2018.// ЬйР8://ц'Ц'ц^г.сое.іп1/ш/ц^геЬ/сотті88юпег/-/8аЈеаиаг(ііш-Ьитап-гщМ8-ш-Ше-ега-о1-аі1і1їсіа1-т1е11щепсе (Дата обращения 15.12.2019г.).

В этом случае можно обозначить 2 вероятных направления нарушения или ограничения прав и свобод человека при использовании искусственного интеллекта.

1. Вмешательство в право на неприкосновенность частной жизни и право на равенство

Противоречие между преимуществами технологии ИИ и ограничениями прав человека особенно очевидно в области конфиденциальности. Право на неприкосновенность частной жизни является основополагающим правом человека, необходимым для безопасной и достойной жизни. Однако в цифровом пространстве, даже когда мы используем приложения и социальные сети, собирается большое количество личных данных (с нашим сознанием или без него), которые можно использовать для создания нашего профиля и прогнозирования нашего поведения. Мы передаем информацию о нашем здоровье, политических убеждениях, семейной жизни, даже не зная, кто будет использовать эти данные, с какой целью и каким образом.

Машины работают на основе того, как люди их запрограммировали. Если алгоритмы (сознательно или случайно) вводятся в систему с человеческими предубеждениями, такая система неизбежно повторит их. Основными проблемами являются отсутствие разнообразия и инклюзии, при включении их в системы искусственного интеллекта: вместо того, чтобы сделать наши решения более объективными, они могут усилить дискриминацию и предрассудки. Экспертами отмечается, что в последнее время появляется все больше доказательств того, что алгоритмы работы, основанные на предрассудках, дискриминируют женщин, этнические меньшинства, людей с ограниченными возможностями и т.д.

Как показывают исследования, Google с большей вероятностью будет показывать более высокооплачиваемые объявления о работе мужчинам, а не женщинам. Согласно исследованию, опубликованному в мае прошлого года агентством ЕС по основным правам, ИИ может усугубить дискриминацию. Когда решения, основанные на обработке данных, отражают социальные предрассудки, они воспроизводят, а иногда даже усугубляют предрассудки общества. Этот вопрос часто поднимается научным сообществом и НПО, которые недавно приняли Декларацию в Торонто, призывающую к гарантиям, что автоматизированные системы обучения не будут усугублять дискриминационную практику.

Если принимаемые решения слепо руководствуются результатами, которые дают искаженные алгоритмы, это может иметь серьезные последствия для прав человека. Например, программное обеспечение, с помощью которого принимаются решения о преимуществах для здоровья и инвалидности, ошибочно исключало людей, которым были предоставлены эти льготы, иногда с катастрофическими последствиями для исключенной категории нуждающихся людей. В системе правосудия ИИ также может быть как двигателем прогресса, так и злом. Системы уголовного правосудия во всем мире все чаще обращаются к ИИ для предотвращения преступлений, включая полный список соответствующих тем, начиная от правоохранительных Дуня Миятович. Соблюдение прав человека в эру искусственного интеллекта. 03.07.2018.// https://www.coe.int/ru/web/commissionei7-/safeguarding-human-rights-in-the-era-of-artificial-intelligence (Дата обращения 15.12.2019г.) органов и заканчивая прогнозированием преступлений и рецидивами. При этом многие эксперты выражают обеспокоенность объективностью таких моделей.

искусственный интеллект право человек

2. Алгоритмы, нарушающие свободу слова и собраний граждан

Еще одним правом, которое находится под угрозой, является право на свободу выражения мнений. В недавнем сообщении Совета Европы, «Алгоритмы и права человека», в частности, отмечается, что Facebook и YouTube имеют механизмы фильтрации для выявления экстремистского контента с призывами к насилию. Однако нет информации о том, какие процедуры и критерии применяются для определения такого контента, а также о том, какие видео имеют "явно незаконный контент". Хотя сама инициатива по прекращению распространения такого рода материалов заслуживает похвалы, непрозрачность сдержанности содержания вызывает тревогу, поскольку она сопряжена с риском ограничения законного права на свободу выражения мнений и выражения мнений. Аналогичные опасения были высказаны по поводу автоматической фильтрации пользовательского контента при загрузке в связи с предполагаемым нарушением прав интеллектуальной собственности, которое вышло на первый план в предложенной ЕС директиве об авторском праве. В некоторых случаях использование автоматизированных технологий для распространения информации также может существенно повлиять на право на свободу слова и конфиденциальность, когда боты, армии троллей, целевая реклама или спам распространяются как часть применения алгоритма, определяющего контент для конкретных пользователей.

Конфликт между технологиями и правами человека проявляется и в области распознавания лиц. Как мощный инструмент для поиска предполагаемых террористов, он также может стать средством контроля над людьми. Теперь государствам особенно легко следить за ним, вторгаться в частную жизнь, ограничивать свободу собраний, свободу передвижения и свободу прессы.

Для предотвращения нарушений прав человека и свобод при использовании искусственного интеллекта необходимы определенные сферы деятельности государства и общественных организаций.

У ИИ есть потенциал, чтобы помочь людям максимально использовать свое время, расширить свою свободу и сделать их счастливее. Но он также способен привести нас в мир антиутопии. Поэтому очень важно найти правильный баланс между технологическим развитием и защитой прав человека, поскольку будущее общества, в котором мы хотим жить, будет зависеть от этого.

Для достижения такого баланса требуется более тесное сотрудничество между государственными органами (правительствами, парламентами, судебными и полицейскими органами) и частными компаниями, научными кругами, неправительственными организациями, международными организациями и обществом в целом.

В настоящее время существует ряд правил, которые должны быть отклонены. Например, прецеденты Европейского суда по правам человека четко определяют, как следует уважать право на неприкосновенность частной жизни, свободу и безопасность. В нем также подчеркивается обязательство государств предоставлять эффективные средства правовой защиты для борьбы с посягательствами на неприкосновенность частной жизни и незаконным наблюдением. Кроме того, в этом году была принята обновленная Конвенция Совета Европы о защите людей в связи с автоматизированной обработкой персональных данных, касающаяся угроз конфиденциальности, создаваемых новыми информационно-коммуникационными технологиями.

Государства также должны обеспечить, чтобы частные компании, разрабатывающие и внедряющие ИИ, соответствовали стандартам в области прав человека. Создатели технологий искусственного интеллекта, которые могут улучшить нашу жизнь должны действовать в соответствии с рекомендациями Совета Европы о связи между бизнесом и правами человека, роли и ответственности Интернет-посредников и Руководящими принципами бизнеса в области прав человека организации Объединенных Наций и Докладом о регулировании контента, подготовленного специальным Докладчиком организации Объединенных Наций о поощрении и защите права на свободу мнений и их свободное выражение. Процессы принятия решений с использованием алгоритмов должны быть более прозрачными, чтобы понять их логику, взять на себя ответственность за применение таких алгоритмов и иметь возможность эффективно оспаривать решения, принимаемые с помощью автоматизированных процессов сбора и обработки данных.

Третье направление деятельности- повышение грамотности людей в области ИИ. Государства должны вкладывать больше средств в образование и образовательные инициативы, повышать компетентность всех своих граждан, и особенно молодых поколений, чтобы получить положительный опыт использования ИИ и лучше понять, как это влияет на нашу жизнь. Наконец, национальные правозащитные структуры должны быть способны противостоять новым формам дискриминации, возникающим в результате использования ИИ.

Библиографический список

1. Указ Президента РФ от 10.10.2019 № 490 "О развитии искусственного интеллекта в Российской Федерации" вместе с "Национальной стратегий развития искусственного интеллекта на период до 2030 года". // Электронная правовая система «Консультант-Плюс»

2. Распоряжение Правительства РФ от 28.07.2017 № 1632-р «Об утверждении программы «Цифровая экономика Российской Федерации»» // Электронная правовая система «Консультант-Плюс»

3. Ананьев С.С., Берёзко Д.В. К актуальным вопросам влияния искусственного интеллекта на права человека. // В сборнике: Актуальные проблемы правового регулирования международных отношений. / Сборник научных статей. Витебский государственный университет им. П.М. Машерова; ответственный редактор В.С. Елисеев. Витебск, 2019. С. 32-37.

4. Кашкин С.Ю., Покровский А.В. Искусственный интеллект, робототехника и защита прав человека в Европейском союзе. // Вестник университета им. О.Е. Кутафина, № 4. 2019. - С. 64-90.

5. Дуня Миятович. Соблюдение прав человека в эру искусственного интеллекта. 03.07.2018.// https://www.coe.int/ru/web/commissioner/- /safeguarding-human-rights-in-the-era-of-artificial-intenigence (Дата обращения 15.12.2019г.).

Размещено на Allbest.ru