Теоретичні підходи до регулювання штучного інтелекту в Євросоюзі: досвід для України

Размещено на http://www.allbest.ru/

Національний юридичний університет імені Ярослава Мудрого

Теоретичні підходи до регулювання штучного інтелекту в Євросоюзі: досвід для України

Ефремова Катерина Вікторівна кандидат юридичних наук, старший науковий співробітник, доцент кафедри права Європейського Союзу, старший науковий співробітник відділу правового забезпечення ринкової економіки НДІ приватного права і підприємництва імені академіка Ф. Г. Бурчака

У роботі досліджено наукові підходи до меж правового регулювання впровадження та використання технологій штучного інтелекту. Висвітлено історію та практичні кроки на шляху до правового регулювання ЄС щодо впровадження штучного інтелекту та супутніх відносин пов'язаних з використанням зазначених технологій. Розкриті основні принципи розвитку і використання технологій штучного інтелекту, дотримання яких є обов'язковим.

Ключові слова: правове регулювання ЄС, штучний інтелект, захист даних, цифрове майбутнє Європи, Біла книга.

ЕФРЕМОВА ЕКАТЕРИНА кандидат юридических наук, старший научный сотрудник, доцент кафедры права Европейского

Союза Национального юридического университета имени Ярослава Мудрого, старший научный сотрудник отдела правового обеспечения рыночной экономики НИИ частного права и предпринимательства имени академика Ф. Г. Бурчака НАПрН Украины

ТЕОРЕТИЧЕСКИЕ ПОДХОДЫ К РЕГУЛИРОВАНИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ЕС: ОПЫТ ДЛЯ УКРАИНЫ

В работе исследованы научные подходы к пределам правового регулирования внедрения и использования технологий искусственного интеллекта. Отражена история и практические шаги на пути к правовому регулиро-ванию ЕС по внедрению искусственного интеллекта и сопутствующих отношений, связанных с использованием указанных технологий. Раскрыты основные принципы развития и использования технологий искусственного интеллекта, соблюдение которых является обязательным.

Ключевые слова: правовое регулирование ЕС, искусственный интеллект, защита данных, цифровое будущее Европы, Белая книга.

YEFREMOVA KATERYNA Ph.D, Senior Researcher, Associate Professor of the Department of Law of the European Union of the Yaroslav the Wise National Law University, Senior Researcher of the Department of Legal Support of Market Economics of the Research Institute of Private Law and Entrepreneurship named after Academician

F. Burchak of National Academy of Law Sciences of Ukraine

THEORETICAL APPROACHES TO ARTIFICIAL INTELLIGENCE REGULATION IN THE EU: EXPERIENCE FOR UKRAINE

Постановка проблеми. Правове регулювання впровадження та використання товарів і послуг, заснованих на технологіях штучного інтелекту охоплюється численними сферами законодавства, зокрема нормами щодо конфіденційності, безпеки даних, відповідальності за якість товарів, інтелектуальної власності та навіть нормами антимонопольного законодавства. Крім того, очікується, що ці різні галузі права поступово зміняться у відповідь на особливу природу штучного інтелекту (ШІ). Оскільки ШІ є новою технологією, правове регулювання якої виходить за межі усталених інститутів права та підходів до тлумачення правових норм.

Метою статті є вивчення європейських наукових підходів до визначення ключових стратегічних питань у розробці механізмів правового регулювання ефективного впровадження та використання штучного інтелекту.

Аналіз останніх досліджень. Проблематика правового регулювання застосування штучного інтелекту у різних сферах привертає пильну увагу науковців різних галузей. Дослідження в цій сфері традиційно мають міждисциплінарний характер. Наявність значних ризиків застосування цифрових технологій та відставання державного регулювання зумовлюють чимало досліджень присвячених окремим аспектам правового регулювання застосування штучного інтелекту. До таких наукових праць можна віднести публікації зарубіжних вчених про специфіку правового регулювання штучного інтелекту і деяких правових проблемах його застосування в окремих сферах, зокрема, Matthew U. Schere, Allan Yeoman, Amy Ryburn, Philip Wood, Renee Stiles, Alex Chapman, Damien Steel-Baker and Keri Johansson, І. В. Понкіна, А. І. Редькіної, І. А. Філіпової. Серед вітчизняних авторів слід відзначити О. А. Баранова та його публікації щодо правового забезпечення інформаційної сфери, О. М. Вінник, яка розкриває проблеми правового регулювання цифровізації економіки, її переваги та істотні ризики застосування цифрових технологій, О. Е. Радутного щодо відповідальності за помилки штучного інтелекту.

Виклад основного матеріалу

16 лютого 2017 року Європейський Парламент прийняв Резолюцію щодо законодавчої ініціативи, в якій рекомендував Європейській Комісії ряд законодавчих ініціатив у галузі робототехніки та інтелектуальної власності [1]. Крім усього іншого, він закликав Європейську Комісію прийняти пропозицію щодо законодавчого інструменту, що передбачає норми цивільного законодавства про відповідальність роботів та ШІ, «запропонувати загальні визначення Союзу кіберфізич- них систем, автономних систем, розумних автономних роботів та їх підкатегорій». Встановити критерії для класифікації роботів, які потрібно було б зареєструвати, створити призначене Агентство ЄС з питань робототехніки та штучного інтелекту та запропонувати статут, що складається з кодексу поведінки інженерів-робототехніків, коду для комітетів з дослідницької етики при перегляді робототехніки протоколи та модельні ліцензії для дизайнерів. Парламент також попросив Комісію розглянути створення конкретного правового статусу для роботів у довгостроковій перспективі, щоб принаймні найскладніші автономні роботи могли бути встановлені як такі, що мають статус електронних осіб, відповідальних за заподіяння шкоди будь-якій шкоді, яку вони можуть заподіяти; можливо, застосовуючи електронну особистість у випадках, коли роботи приймають самостійні рішення або іншим чином взаємодіють з третіми сторонами незалежно [1].

Європейська Комісія під час подальшої дії резолюції погодилася з необхідністю «вивчити, чи слід і як адаптувати норми цивільно-правової відповідальності до потреб цифрової економіки» та заявила, що має намір співпрацювати з Європарламентом та Державами-членами ЄС [2]. Серед іншого, планується оцінити Директиву про відповідальність за продукцію (Council Directive 85/374/EEC of 25 July 1985 on the Approximation of the Laws, Regulations and Administrative Provisions of the Member States Concerning Liability for Defective Products, 1985) та вивчити режими відповідальності на основі ризику. У межах виконання резолюції Європейського парламенту від 16 лютого 2017 року про цивільно-правові норми з робототехніки (примітка 7) необхідно проведення додаткової експертизи для того, щоб вирішити, чи потрібні такі визначення для регулятивних цілей. Проте було відхилено рекомендацію Європейського парламенту створити нове Європейське агентство з робототехніки та ШІ та запропоновано замість цього створити окремі групи експертів із країн-членів ЄС із представників промисловості та стандартизаторів [2].

У квітні 2018 року Європейська Комісія опублікувала своє повідомлення «Штучний інтелект для Європи», в якому охарактеризувала підхід ЄС до використання можливостей, пропонованих ШІ, та вирішення поставлених нею викликів. З 2014-2017 рр. ЄС інвестував 1,1 млрд. Євро на наукові дослідження та інновації, пов'язані з ШІ, в рамках програми досліджень та інновацій «Горизонт 2020» [3]. Серед іншого, у повідомленні підкреслюється, що ЄС повинен забезпечити, щоб ніхто не залишався позаду в цифровій трансформації, а штучний інтелект розроблявся та застосовувався на основі цінностей та основних прав ЄС. Комісія опублікувала подальше повідомлення та скоординований план, який базувався на первинному повідомленні у грудні 2018 року.

18 грудня 2018 року Експертна група з питань штучного інтелекту (AI HLEG) - п'ятдесят два експерти з різних наукових шкіл, представників громадськості та промисловості, призначені Комісією - оприлюднила проект керівних принципів з етики, в яких викладено основи для розробки надійного ШІ. Відповідно до зазначених принципів, надійний ШІ повинен «поважати основні права, застосовне регулювання та основні принципи та цінності, забезпечуючи «етичну мету», і «бути технічно надійним, оскільки, навіть при добрих намірах, відсутність технологічного оволодіння може заподіяти ненавмисну шкоду» [4]. Зацікавленим сторонам було дозволено надсилати коментарі до 18 січня 2019 року. Остаточна версія DRAFT ETHICS GUIDELINES FOR TRUSTWORTHY AI була опублікована в березні 2019 року.

AI HLEG також запропонував оновлене визначення ШІ визначаючи його наступним чином: “Штучний інтелект відноситься до систем, розроблених людьми, які, маючи складну мету, діють у фізичному чи цифровому світі, сприймаючи навколишнє середовище, інтерпретуючи зібрані структуровані чи неструктуровані дані, міркуючи на знаннях, отриманих з цих даних, і обираючи кращі дії, які потрібно здійснити (за попередньо визначеними параметрами) для досягнення поставленої мети. Системи ШІ також можуть бути розроблені для того, щоб навчитися адаптувати свою поведінку, аналізуючи, як на навколишнє середовище впливають попередні дії”.

Крім того, Європейська Комісія створила відділ з робототехніки та штучного інтелекту, місією якого є розвиток конкурентоспроможної галузі в галузі робототехніки та штучного інтелекту в Європі, включаючи промислових та службових роботів, а також зростаючу сферу автономних систем, що охоплюють безпілотники та транспортні засоби без водія до когнітивного бачення та обчислення. Підрозділ підтримує широке використання робототехніки та штучного інтелекту у всіх галузях промисловості та суспільства [5].

Також цей відділ слідкує за етичними та юридичними питаннями, пов'язаними з роботами та автономними системами, такими як відповідальність та аспекти, пов'язані з впливом автоматизації та робототехніки на робочі місця та робоче середовище.

18 червня 2018 року Європейський економічний та соціальний комітет (ЄЕСК) та Європейська Комісія провели саміт зацікавлених сторін (AI Europe / Stakeholder summit) щодо штучного інтелекту із широким колом учасників. Вони обговорили юридичні та етичні проблеми, соціально-економічний вплив та промислову конкурентоспроможність ШІ.

Крім того, 10 квітня 2018 року 24 країни-члени ЄС та Норвегія підписали Декларацію про співробітництво з питань штучного інтелекту для розробки європейського підходу до ШІ [6]. Румунія, Греція та Кіпр приєдналися до ініціативи у травні 2018 року, а Хорватія - у липні 2018 року. У Декларації підписанти погодилися співпрацювати щодо а) використання європейських технологій та промислового потенціалу в галузі інтелектуальної власності та її використання, включаючи кращий доступ до даних державного сектору; це найважливіші умови для впливу на розвиток ШІ, стимулюючи інноваційні бізнес-моделі та створюючи економічне зростання та нові кваліфіковані робочі місця; б) вирішення соціально-економічних проблем, таких як трансформація ринків праці та модернізація європейських систем освіти та навчання, включаючи підвищення кваліфікації та перекваліфікацію громадян ЄС; в) забезпечення належної правової та етичної бази, спираючись на основні права та цінності ЄС, включаючи конфіденційність та захист персональних даних, а також таких принципів, як прозорість та підзвітність [7]. правовий штучний інтелект євросоюз

Однією з сильних сторін штучного інтелекту є безперервність збору даних. Чим база даних ширше, тим результативніше робота системи. Захист даних постає ще одним питанням, що потребує врегулювання.

25 травня 2018 року набрав чинності Загальний регламент ЄС про захист даних (GDPR) [8]. Він застосовується безпосередньо у всіх державах-членах ЄС без необхідного законодавства відповідно до Договору про функціонування Європейського Союзу. Серед інших прав, GDPR гарантує особам право приймати рішення, яке базується виключно на автоматизованій обробці (алгоритмі) та приймається або переглядається фізичною особою замість комп'ютера.

Законодавство про захист даних, мабуть, є найбільш важливим у контексті систем ШІ, що використовується для надання клієнтам фінансових послуг. Основні ризики полягають у тому, що компанії, які володіють цими даними та керують управлінням даними з метою включення їх до системи ШІ, не отримують згоди на використання таких даних з соціальних мереж та інших джерел. У межах GDPR люди мають право знати, яким чином їх особисті дані використовуються штучним інтелектом. GDPR сприяє справедливій та прозорій обробці, вимагаючи від суб'єктів господарювання, які використовують ШІ, надавати людям змістовну інформацію про логіку використання їх даних, а також про наслідки обробки.

Після створення Європейською Комісією незалежної експертної групи з питань інтелектуальної власності (AI HLEG) та надання рекомендацій щодо того, як ШІ може досягти надійності, у 19 лютого 2020 року Комісія опублікувала «Білу книгу про штучний інтелект - європейський підхід до досконалості та довіри» [9]. Перелічені у книзі вимоги, ймовірно, стануть основою для майбутнього законодавства, аналогічного за обсягом та дією із Загальним регламентом про захист даних (GDPR) щодо конфіденційності.

Вимоги, викладені Комісією, передбачають, що діюче законодавство ЄС все ще застосовуватиметься до ШІ. Підсумовуючи, Комісія запропонувала такі ключові вимоги до ШІ: 1) будь-яке навчання ШI повинно гарантувати, що ШІ не буде порушувати жодних правил чи законів про безпеку, що буде заборонено дискримінацію, а також захистити та регулювати всю конфіденційність та особисті дані; 2) усі записи, набори даних та документація навчальних методик та процесів зберігаються; 3) систему ШІ, включаючи її переваги та слабкі сторони, слід легко пояснити та зрозуміти тим, хто її використовує; 4) системи ШI повинні бути надійними, точними та стійкими як до явних, так і схованих атак і мати можливість вирішувати помилки на всіх етапах життєвого циклу системи ШІ; 5) система ШІ повинна допускати втручання людини і, за певних обставин, повинна діяти лише після отримання схвалення людини на будь-якому або всіх етапах життєвого циклу системи ШІ, залежно від мети системи; 6) ШІ слід застосовувати лише для дистанційної біометричної ідентифікації, якщо це прямо виправдано, пропорційно та відповідно до відповідних гарантій.

У жовтні 2020 р. Європейський парламент прийняв три пропозиції щодо регулювання штучного інтелекту на рівні ЄС. Ці три доповіді визначають етичні рамки та юридичні зобов'язання; систему цивільно-правової відповідальності за порушення законодавства засобами ШІ; та систему норм права інтелектуальної власності, орієнтовану на надання прав лише людям.

Ці інституції ЄС мають єдину позицію щодо пропаганди “орієнтованого на людину” підходу до регулювання ШІ, і всі вони посилаються на необхідність дотримання основних прав згідно з чинним законодавством ЄС. Єврокомісія також розглядала питання відповідальності у своїй Білій книзі, але, не займаючи конкретної позиції: Європейський Парламент прийнятими сьогодні пропозиціями виступає за те, щоб особи, що працюють з ШІ з високим ризиком, несли сувору відповідальність за будь-яку заподіяну шкоду.

Нарешті, Європейський парламент досліджує аспект інтелектуальної власності, а саме, звертає увагу на те, що слід створити систему захисту інноваційних розробників за допомогою патентного законодавства таким чином, щоб вона була збалансована з людськими інтересами та принципами ЄС; та розрізняти творіння, яким допомагає ШІ (із втручанням людини), та творіння, створені ШІ; і що право власності на права інтелектуальної власності мають надаватися лише людям і ніколи не апаратним чи програмним забезпеченням ШІ.

Висновки

За останні роки ЄС активно намагається створити ефективні механізми регулювання штучного інтелекту. Так, у Білій книзі Єврокомісія визначила, що найактуальнішими ризиками, з якими потрібно вирішити питання щодо ШІ, є ризики для основних прав, конфіденційності даних, безпеки та ефективного виконання діяльності та визначення відповідальності. Найкращий підхід до регулювання повинен бути заснований на оцінці ризику, щоб забезпечити відповіді на розвиток ШІ пропорційно та не заважаючи при цьому розвитку інновацій в цілому.

Замість розробки окремих нормативно-правових актів на сьогоднішньому етапі Європейська Комісія виклала юридичні вимоги, яким повинна відповідати будь-яка регуляторна база для забезпечення того, щоб ШІ залишався надійним та поважав цінності та принципи Європейського Союзу.

Література

1. European Parliament Resolution of 16 February 2017 with Recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL). URL: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html.

2. Follow up to the European Parliament Resolution of 16 February 2017 on Civil Law Rules on Robotics. URL: http:// www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2017/11-20/A8-0005-2017_EN.pdf; http://perma.cc/GF5J-45DA.

3. Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions. Artificial Intelligence for Europe, COM (2018) 237 final. Apr. 25, 2018. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52018DC0237& from=EN; http://perma.cc/FB52-HPK3.

4. High-level expert group on artificial intelligence, Draft ethics guidelines for trustworthy AI. Dec. 18, 2018. URL: https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_draft_ethics_guidelines_18_december.pdf; http://perma. cc/DYK4-7E5S.

5. Robotics and Artificial Intelligence. Unit A.1. European Commission. URL: https://ec.europa.eu/digital-single-market/ en/content/robotics-and-artificial-intelligence-unit-a1.

6. Declaration: Cooperation on AI, Apr. 10, 2018. URL: https://ec.europa.eu/jrc/communities/sites/jrccties/files/2018a ideclarationatdigitaldaydocxpdf.pdf; http://perma.cc/F6U4-NV4C.

7. EU Member States Sign Up to Cooperate on Artificial Intelligence, European Commission. Apr. 10, 2018. URL: https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence; http:// perma.cc/VZ7X-RTS7.

8. Regulation EU 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC. URL: http://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32016R0679&from=EN.

9. White paper. On Artificial Intelligence - A European approach to excellence and trust. European Сommission. Brussels, 19.02.2020 COM(2020) 65 final. URL: https://ec.europa.eu/info/sites/info/files/commission-white-paper- artificial-intelligence-feb2020_en.pdf.

References

1. European Parliament Resolution of 16 February 2017 with Recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL). URL: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html [in English].

2. Follow up to the European Parliament Resolution of 16 February 2017 on Civil Law Rules on Robotics. URL: http:// www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2017/11-20/A8-0005-2017_EN.pdf; http://perma.cc/GF5J-45DA [in English].

3. Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions. Artificial Intelligence for Europe, COM (2018) 237 final. Apr. 25, 2018. URL: https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52018DC0237& from=EN; http://perma.cc/FB52-HPK3 [in English].

4. High-level expert group on artificial intelligence, Draft ethics guidelines for trustworthy AI. Dec. 18, 2018. URL: https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_draft_ethics_guidelines_18_december.pdf; http://perma. cc/DYK4-7E5S [in English].

5. Robotics and Artificial Intelligence. Unit A.1. European Commission. URL: https://ec.europa.eu/digital-single-market/ en/content/robotics-and-artificial-intelligence-unit-a1 [in English].

6. Declaration: Cooperation on AI, Apr. 10, 2018. URL: https://ec.europa.eu/jrc/communities/sites/jrccties/files/2018a ideclarationatdigitaldaydocxpdf.pdf; http://perma.cc/F6U4-NV4C [in English].

7. EU Member States Sign Up to Cooperate on Artificial Intelligence, European Commission. Apr. 10, 2018. URL: https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence; http:// perma.cc/VZ7X-RTS7 [in English].

8. Regulation EU 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC. URL: http://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:32016R0679&from=EN [in Ukrainian].

9. White paper. On Artificial Intelligence - A European approach to excellence and trust. European Oommission. Brussels, 19.02.2020 COM(2020) 65 final. URL: https://ec.europa.eu/info/sites/info/files/commission-white-paper- artificial-intelligence-feb2020_en.pdf [in English].

Размещено на Allbest.ru