Право та окремі аспекти світу атомів і бітів (робототехніка, штучний інтелект, цифрова людина)

На перший погляд, пропозиція щодо визнання штучного інтелекту суб'єктом правовідносин може викликати незгоду, обурення або подив. Але, скоріш за все, свого часу пропозиція щодо запровадження у правовідносинах нового суб'єкту під робочою назвою «юридична особа» так само викликала подібну реакцію. Водночас «штучний інтелект» як самостійний іктор у більшості випадків є позбавленим згаданих недоліків юридичної особи. Він може втілюватися в об'єкті робототехніки (мати фізичну тілесність), якщо це потрібно, бути більш ефективним за людину у багатьох напрямах діяльності останньої, з ним мможна встановити надійний і ефективний контакт та постійну комунікацію, його поступово наділяють властивістю автономності та правом приймати рішення незалежно від людини у багатьох ситуаціях тощо.

Крім того, за твердженням S. Chopra та L. White Chopra S, White L, 'Artificial Agents - Personhood in Law and Philosophy' (Proceedings of the 16th European Conference on Artificial Intelligence, August 2004, p.635-639) <http://www. sci.brooklyn.cuny.edu/~schopra/ agentlawsub.pdf> (дата звернення 21.02.2021), у галузі права наявність свідомості на кшталт людської не є необхідною або достатньою умовою для надбання правосуб'єктності. Цьому є підтвердження у вигляді правових персон юридичної особи або держави.

Ознаки, якими наділяється суб'єкт правовідносин, зокрема, здатність мати права, нести обов'язки та зазнавати юридичної відповідальності, не є тотожними певним природним властивостям. Вони виникають внаслідок волевиявлення з боку суб'єкта, який на цей момент вже є наділеним силою впливу та влади. Завдяки цьому волевиявленню поступово зникає рабовласництво, жінки та люди з відмінним від білого кольором шкіри одержують політичні, економічні та інші права і свободи. Поряд виникають нові суб'єкти (зокрема, додержавні політичні організації, за допомогою яких здійснюється право народів на самовизначення - Фронт національного визволення Алжиру, Організація народів Південно-Західної Африки у Намібії, Фронт визволення Мозамбіку, Національний фронт визволення Сегієм-ель- Хамра і Ріо-де-Оро у Західній Сахарі), яких охоче приймають до клубу правових персон, зникають раніше існуючі суб'єкти (такі індивіди-суверени, як окремі монархи, релігійні організації у формі орденів, вільні міста або неєвропейські корінні народи, з якими європейські правителі укладали міжнародні договори). В той час окремі суб'єкти зберігаються й дотепер (наприклад, Суверенний Військовий Орден Госпітальєрів Св. Іоанна Єрусалимського Родосу й Мальти (Sovereign Military Hospitaller Order of St. John of Jerusalem of Rhodes and of Malta), скорочено - Мальтійський орден, який підтримує дипломатичні відносини з 104 державами і є спостерігачем при ООН).

Штучному інтелекту або андроїдам не обов'язково виборювати свої права (із цього приводу яскраву ілюстрацію наведено у шведському серіалі «Справжні люди» (Akta manniskor, 20122014 рр., випуску за сценарієм Л. Лундстрьома з наступним британо-американським рімейком «Люди» (Humans), 2015-2016 рр., у комп'ютерній грі «Детройт: стати людиною» (Detroit: Become Human), 2015 р. випуску) як народам Азії, Африки або Європи під час самовизначення. Такі права поряд з обов'язками можуть бути заздалегідь сформульовані та регламентовані обачливим людством, вершина антропоцентричної піраміди якого розхитується під натиском появи набагато сильнішого інтелекту, серед тих, з яким вдалося не лише зустрітися, й установити комунікацію. Можливості для цього вже розглядаються у межах численних проектів та інших ініціатив, зокрема, у згаданій Резолюції Європейського парламенту від 16.02.2017 р. (European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL))¹ та поданому на розгляд Конгресу США законопроекті «Fundamentally Understanding The Usability and Realistic Evolution of Artificial Intelligence Act of 2017» (or the «Future of Artificial Intelligence Act of 2017» (Акт про майбутнє штучного інтелекту) European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL) Bill H. R.4625 «Fundamentally Understanding The Usability and Realistic Evolution of Artificial Intelligence Act of 2017» or the «Future of Artificial Intelligence Act of 2017». На наш погляд убачаються підстави підтримати подібні ініціативи у межах вітчизняного законодавства, для чого необов'язково чекати на приклади інших країн.

Зі свого боку, поява цифрової людини зумовлюється одвічним соціальним запитом щодо звільнення біологічного тіла від численних хвороб та вразливостей, пригальмування процесу старіння, максимального подовження життя, надбання нових властивостей, що виходять за визначені природою межі.

Цифрова людина фактично являє собою наступну ланку еволюції. Ідеологія процесу має підґрунтям філософську течію трансгуманізму (його відомими представниками є Nick Bostrom, James Burke, Martin Rees, Allen Buchanan, Dan Brock, Norman Daniels, Daniel Wikler, Hans Moravec, Raymond Kurzweil, Robert Ettinger тощо) та теорію техніко-фізіологічної еволюції Р. Фогеля (Robert Fogel) про можливість неодноразово згаданого об'єднання вуглецевої технології (людина) з кремнієвою технологією (штучний інтелект, імпланти, об'єкти робототехніки), або перенесення свідомості чи структури мозку людини нейрон за нейроном на неорганічний або напіворганічний носій.

Завдяки цьому така еволюція стає більше штучною, ніж це зумовлюється біологією та природним відбором. Але останній з певного часу і сам по собі перебуває під соціальним табу. У противному разі не знаходили б підтримки заклики до рятування життя дітей з уродженими вадами, догляду за ними або невиліковно хворими тощо.

Разом із тим, маючи занадто тривале довголіття або безсмертя, покращені фізичні властивості (сила, витривалість, гнучкість, швидкість, зір, слух, сприймання всіх сигналів оточуючого світу, в тому числі ультразвуку та інфразвуку, тощо) та когнітивні функції (ідеальна пам'ять, обробка значних обсягів інформації, прийняття рішень на прискорених швидкостях упродовж секунд або мілісекунд, концентрація уваги, відшукування та виправлення помилок всередині програми керування імплантами тощо), цифрова людина може мати дещо інші погляди на оточуючий світ, іншу мораль та інші орієнтири, що, у свою чергу, впливатиме на уявлення про право та справедливість. Можливо, що, замість природного права, світоглядним дороговказом для цифрової людини стане право надприродне. Також не виключається можливість того, (December 12, 2017, 115^th Congress 1st Session) <https:// www.congress.gov/bill/115th-congress/house-bill/4625/text> (дата звернення 21.02.2021) що цифрова людина може поставитися до нижчої ланки у вигляді Homo sapiens так само, як остання вдало конкурувала зі своїми попередниками та сучасниками (Homo habilis, rudolfensis, ergaster, erectus, floresiensis, antecessor, heidelbergensis, neanderthalensis, rhodesiensis, cepranensis, georgicus тощо). Спільнота цифрових людей може утворити новий прошарок у суспільстві або нову касту вищих істот. Отже, право вже сьогодні може спробувати запобігти такому розвитку подій. На підставі своїх покращених фізичних властивостей та когнітивних функцій цифрова людина набуватиме ознак нового різновиду спеціального суб'єкта кримінальних та інших правопорушень.

Із другого боку, цифрова людина сама може бути об'єктом протиправного впливу у випадку незаконних дій або бездіяльності щодо її імплантів, у тому числі на базі штучного інтелекту, та(або) іншого програмного забезпечення. В окремих випадках не виключається посередня винність (ч. 2 ст. 27 КК України - «... шляхом використання інших осіб, що відповідно до закону не підлягають кримінальній відповідальності за скоєне ...»), коли контроль над цифровою людиною буде захоплений зловмисником.

Разом із цим слід визнати, що чинне законодавство є підготовленим для реагування на більшість різновидів зовнішніх протиправних втручань у роботу важливих інфраструктур, які охоплюють практично весь життєвий простір (система енергопостачання, транспорт, фінансові ринки, охорона здоров'я, алгоритмічне правосуддя, прикордонний контроль, військове забезпечення тощо) і працюють на базі вразливих технологій. Окремі екзотичні випадки, пов'язані, зокрема, з використанням біометричних даних (наприклад, створення для демонстрації на міжнародному конгресі хакером Я. Крислером (Jan Krissler) на нікнейм Starbug дактилоскопічного макету відбитку папілярних узорів пальців міністра оборони ФРН Урсули фон дер Ляйен (Ursula von der Leyen) лише з використанням кількох фотознімків Protalinski Emil, 'Chaos Computer Club claims it can reproduce fingerprints from people's public photos' (VentureBeat, December 28, 2014) <https://venturebeat.com/2014/12/28/ chaos-computer-club-claims-it-can-reproduce-fingerprints-from- peoples-public-photos/> (дата звернення 21.02.2021)), теж можуть бути кваліфіковані на підставі чинних норм. Так само у випадку виявлення внутрішніх недоліків (помилок, дефектів, недбало прописаних комп'ютерних кодів, використання примітивних паролів тощо) з боку розробників або користувачів є відсутніми підстави для перманентного посилання на недосконалість правової регламентації як обґрунтування неефективності дій правоохоронних структур.

Але поки залишається поза увагою проблема відсутності прозорості алгоритмів та «чорної скриньки» штучного інтелекту, коли самі розробники не є впевненими в тому, що вони розуміються на всіх нюансах його роботи. Так, алгоритми, які були розроблені професором Стенфордського університету, піонером у використанні генетичного програмування для оптимізації складних проблем, творцем скретч-карти Д. Коза (John R. Koza), десятки разів самостійно повторно відтворювали винаходи, які вже були раніше запатентовані людиною-винахідником, але інколи пропонували «зайві» компоненти, з якими пристрої працювали навіть краще, ніж запропоновані винахідниками-людьми Koza J R, Keane M A, Streeter M J, Mydlowec W, Yu J, Lanza G, 'Genetic Programming IV: Routine Human-Competitive Machine Intelligence' (Springer, 2003) <http://www.springer.com/ la/book/9780387250670> (дата звернення 21.02.2021). У довгостроковій перспективі це ставить під сумнів можливість контролю з боку людини, у тому числі у зв'язку з відсутністю єдиного вразливого ядра, коли певний алгоритм штучного інтелекту може бути розпорошений всюди за технологією блокчейну в мережі Всеосяжного Інтернету.

Наведене вказує на одночасну зміну реальностей атомів фізичного світу та бітів інформації, а так само на трансформацію правової реальності, яка за своєю природою є не менш умовною, ніж будь-яка інша. Тож, за аналогією із законами робототехніки А. Азімова Asimov, Isaac. I, Robot. Greenwich, Conn: Fawcett Publications, 1950. - укр. переклад: Азімов А. Я, робот. Науково-фантастичні оповідання - Київ: Веселка, 1987. - 270 с. можливо спробувати сформулювати подібні настанови щодо держави: 1) держава не може заподіяти шкоду людині або своєю бездіяльністю дозволити, щоб людині була заподіяна шкода); 2) держава повинна підкорятися волевиявленню народу, за винятком тих наказів, які суперечать першому закону; 3) держава повинна захищати саму себе, якщо тільки її дії не суперечать першому і другому законам; 4) держава не може заподіяти своїми діями чи бездіяльністю шкоду людству. Але при цьому слід визнати, що подібно до ідеалістичного характеру законів робототехніки (робот у військових або поліцейських заходах якраз і призначений для нанесення шкоди людині, а тому не буде підкорятися наказам адресата свого впливу), ті самі вади можуть виникнути й на шляху державотворення майбутнього. Свавілля держави або іншого суб'єкта легального насильства має бути обмежене, скоріш за все, іншим формулюванням - «робот, штучний інтелект або держава не можуть заподіяти шкоду людині або людству, або своєю бездіяльністю дозволити, щоб людині або людству була заподіяна шкода, не інакше, ніж у порядку та у спосіб, передбачений законом». Утім, це породжує ще більше запитань з приводу того, що слід вважати у конкретній ситуації законним наказом: чи є такими всі накази військового командування або представника державної влади у межах його актуальних повноважень, якщо ця влада надалі була визнана злочинною, наприклад, міжнародним трибуналом, або як робот чи штучний інтелект може дізнатися про це, як він має діяти, якщо за його передбаченням існує висока ймовірність саме такого рішення у майбутньому з боку трибуналу або іншої компетентної інстанції?

Поколінню, яке зростає на нових технологіях, товарах, продуктах, послугах та інструментах (BioTech, NanoTech, blockchain, криптовалюта, RetailTech, FinTech, LegalTech, Digital-marketing, Grid-технології, GovTech, Всеосяжний Інтер- нет, хмарні технології, SD-друк, Big Data, e-ID, TeleHealth, ePrescription, е-демократія, Digital- страхування тощо) все складніше буде розуміти нормативні приписи та моральні обґрунтування попередників. Наукові методи спостереження, висунення гіпотез і проведення експерименту можуть бути суттєво прискорені за допомогою аналізу й обробки інформації, що розсіяна по численних базах даних і сьогодні поки що не може бути системно оброблена. Не виключається більш глибоке злиття світу атомів і бітів, цифрового та фізичного світу до повного їх ототожнення. У штучному інтелекті людство може винайти нову релігію та отримати нову вищу сутність, провідниками якої можуть стати представники цифрового людства. Сценарії такого розвитку можуть бути як сприятливі, так і нищівні. Але у будь-якому випадку сьогодні слід додавати максимальних зусиль для створення передбачуваного та прийнятного оточуючого світу.

Висновки

Нові технології у більшості випадків позбавлені вектора добра або зла, такими їх утворює відповідне використання. Тому їх заборона буде позбавлена ефективності, натомість, їх необхідно виважено регламентувати та заохочувати у бажаних напрямах. Інформаційні технології існують і розвиваються на перехресті двох реальностей - атомів фізичного світу та бітів (у перспективі - кубітів) інформації. Вони підкоряються різним законам, але здійснюють взаємний вплив, у тому числі на реальність світу права.

В епоху глобального перерозподілу всього (Redistribution of Everything) першочерговими завданнями для правників стає необхідність удосконалення всієї правової доктрини та окремих її аспектів, які пов'язані з роботизацією та автоматизацією, Всеосяжним Інтернетом (Internet of Everything), Інтернетом мікроорганізмів, штучним інтелектом, Big Data, хмарними обчисленнями, SD- та 4D-друком, цифровою людиною, біоінженерією, генною інженерією, нанотехнологіями, високо- технологічними імплантами, RFID-татуюванням, новими речовинами та матеріалами, квантовою технологією тощо.

Існує висока ймовірність маргіналізації значних груп населення або цілих регіонів у зв'язку з прискореною роботизацією та відтоком капіталу з країн із дешевою робочою силою до материнських юрисдикцій. У зв'язку з цим рівень звичайної злочинності може бути різко підвищений, крім того, слід зважувати на озброєння злочинного світу передовими технологіями (використання дронів, трекінгових систем відстежування, мережі Darknet, здійснення атак комп'ютерними вірусами, створення фішингових інтернет-сторінок, протиправне використання цифрового образу конкретної особи тощо) і методами організації та адміністрування певними процесами (франчайзинг, корпоративна соціальна відповідальність, офшоринг, концентрична або горизонтальна диверсифікація бізнесу) тощо.

На додаток до попередньо висловлених аргументів убачаються прийнятними додаткові аргументи щодо можливості визнання штучного інтелекту суб'єктом правовідносин, а цифрової людини новим спеціальним суб'єктом правопорушення або об'єктом злочинного впливу.

Право у переважній більшості випадків реагує на нові виклики ретроспективно, але щодо нових технологій, у тому числі робототехніки, штучного інтелекту, квантового комп'ютера, Всеосяжного Інтернету (Internet of Everything), цифрової людини та інших високотехнологічних аспектів сучасного та майбутнього суспільства воно має реагувати наперед, адже будь-який із проривів у зазначених галузях, а так само їх ланцюгова реакція можуть не залишити часу і можливостей для цього.

References

List of legal documents

Legislation

3. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL).

4. Bill H. R.4625 «Fundamentally Understanding The Usability and Realistic Evolution of Artificial Intelligence Act of 2017» or the «Future of Artificial Intelligence Act of 2017» / December 12, 2017, 115^th Congress 1st Session.

5. Te Awa Tupua Whanganui River Claims Settlement Bill / New Zealand Legislation, Parliamentary Counsel Office.

Bibliography

Authored books

1. Asimov Isaac, I, Robot (Greenwich, Conn: Fawcett Publications, 1950) (in English)

2. Kaku Michio, Physics of the Impossible: A Scientific Exploration Into the World of Phasers, Force Fields, Teleportation, and Time Travel (Doubleday Publishing, Duke University Libraries, 2008) (in English)

3. Berman Harold J., Law and Revolution (Harvard University Press, 1983) (in English)

Edited books

4. Artificial intelligence (English Oxford Dictionaries, 2021) (in English)

5. Meshwork (Merriam-Webster Dictionary, 2021) (in English)

6. Yakovlev V A, Kognitivnie rasstroistva v zrelom i pogilom vozraste. Psihologicheskie metodi diagnostiki: metodicheskoe posobie [Cognitive disorders in adulthood and old age. Psychological diagnostic methods: Methodological guide] (RIZ MGGU im. M A Sholohova, 2011) (in Russian)

Journal articles

7. Baranov O A, 'Internet recheyi i shtuchniy inteleck: vitoki problemi pravovogo reguluvannya' [The Internet of Things and artificial intelligence: the origins of the problem of legal regulation] (2017) IT-pravo: problemi i perspektivi rozvitku v Ukraini [IT-law: problems and prospects of development in Ukraine] Lvivska politeknika 18-43 (in Ukrainian)

8. Baranov O A, 'Internet recheyi (IoT): meta zastosuvannya ta pravovi problemi' [Internet of Things (IoT): purpose and legal problems] (2018) 2(25) Informazia i pravo 31-45 (in Ukrainian)

9. Baranov O A, 'Internet recheyi (IoT): robot zi shtuchnim intelektom u pravovidnosinah' [Internet of Things (IoT): a robot with artificial intelligence in a legal relationship] (2018) 5-6 Uridichna Ukraina 75-95 (in Ukrainian)

10. Benen Steve, 'For 14th straight week, unemployment filings top 1 million' (2020) MSNBC, NBC News Digital (in English)

11. Bostrom Nick, 'How long before superintelligence?' (1998) 2 Oxfrord Future of Humanity Institute (in English)

12. Burkeman Oliver, 'Why can't the world's greatest minds solve the mystery of consciousness?' (2015) The Guardian (in English)

13. Calo Ryan, 'Robots in American Law' (2016) University of Washington School of Law Research Paper No. 2016-04 (in English)

14. Cerka P, Grigiene J, Sirbikyte G, 'Liability for damages caused by artificial intelligence' (2015) 31(3) Computer Law & Security Review 376-389 (in English)

15. Chen Angela, 'AI software that helps doctors diagnose like specialists is approved by FDA' (2018) The Verge (in English)

16. Chopra S, White L, 'Artificial Agents - Personhood in Law and Philosophy' (2004) Proceedings of the 16th European Conference on Artificial Intelligence (in English)

17. Copeland B J, 'Artificial intelligence (AI)' (2017) Britannica Technology (in English)

18. Duranske Benjamin, Reader Roundtable: «Virtual Rape» Claim Brings Belgian Police to Second Life' (2007) Virtually Blind - Virtual Law - Legal Issues That Impact Virtual Worlds (in English)

19. Giges Nancy S., 'Top 5 Trends in Nanotechnology' (2013) The American Society of Mechanical Engineers (in English)

20. Hernss Christoffer O, 'Artificial Intelligence, Legal Responsibility and Civil Rights' (2015) Techcrunch (in English)

21. Karchevski M B, 'Pravove reguluvannya sozializazii shtuchnogo intelektu' [Legal regulation of socialization of artificial intelligence] (2017) 2(78) Visnik Luganskogo dergavnogo universitety im. E O Didorenka [Bulletin of Luhansk State University of Internal Affairs named after E. O. Didorenko] 99-108 (in Ukrainian)

22. Koza J R, Keane M A, Streeter M J, Mydlowec W, Yu J, Lanza G, 'Genetic Programming IV: Routine Human- Competitive Machine Intelligence' (2003) Springer (in English)

23. Kharitonov E O, Kharitonova O I, 'Do problem zivilnoi pravosubektnosti robotiv' [To the problem of civil legal personality of robots] (2018) Kriminalno-pravove zabezpechennya stalogo rozvitku Ukraini v umovah globalizazii [Proceedings of the second international scientific-practical conference Internet of Things: problems of legal regulation and implementation] Kiev, KPI imeni Igora Sikorskogo, Politeknika 42-46 (in Ukrainian)

24. Kelland Kate, 'Toothpaste ingredient could fight malaria, research shows' (2018) Reuters (in English)

25. Lea Gary, 'The Struggle To Define What Artificial Intelligence Actually Means' (2015) Popular Science (in English)

26. Lenardon Joao Paulo A, 'The regulation of artificial intelligence' (2017) Tilburg University (in English)

27. 'Look, no hands. Automotive technology: Driverless cars promise to reduce road accidents, ease congestion and revolutionise transport' (2012) The Economist, Technology Quarterly (in English)

28. Misliviy V A, 'Kriminalno-pravova ohorona kibernetichnoyi bezpeki v umovah globalizazii' [Criminal protection of cyber security in the context of globalization] (2017) Kriminalno-pravove zabezpechennya stalogo rozvitku Ukraini v umovah globalizazii [Proceedings of the international scientific-practical conference Criminal and legal support of sustainable development of Ukraine in the context of globalization] Kharkiv, Pravo 122-126 (in Ukrainian)

29. Protalinski Emil, 'Chaos Computer Club claims it can reproduce fingerprints from people's public photos' (2014) VentureBeat (in English)

30. Pei Wang, 'What Do You Mean by «AI»?' (2008) Proceedings of the First Artificial General Intelligence Conference, 362-373 (in English)

31. Radutniy O, 'Subektnist shtuchnogo intelektu u kriminalnomu pravi' [Subjectivity of artificial intelligence in criminal law] (2018) 1 Pravo Ukraini 123-136 (in Ukrainian)

32. Radutniy O, 'Zifrova ludina z tochki zoru zagalnoyi ta informaziynoy bezpeki: filisofski ta kriminalno-pravoviy aspekt' [Digital human being in terms of general and information security: philosophical and criminal law aspect] (2018) 2(25) Informaziya i pravo 158-171 (in Ukrainian)

33. Rosevear John, 'Self-Driving Cars: Understanding the 6 Autonomous Levels - What do terms like «Level 4» and «Level 5» mean? Here's the complete guide' (2018) The Motley Fool (in English)

34. Stahl Lesley, 'How Technology May Soon «Read» Your Mind - Incredible Research Lets Scientists Get A Glimpse At Your Thoughts' (2008) CBS News (in English)

35. Smith Agnese, 'Artificial intelligence' (2015) National Magazine (in English)

36. Shivali B, 'Teacher spots students bored in class with face-tracking technology' (2016) Global Times (in English)

37. Zakharov V V, Lokshina A B, 'Vedenie pazientov s kognitivnimi narusheniyami' [Management of patients with cognitive impairment] (2009) 4 Vrach 21-25 (in Russian)

38. Urban Tim, 'The AI Revolution: The Road to Superintelligence' (2015) Wait But Why (in English)

39. Wei Xiaoyong, 'Teacher spots students bored in class with face-tracking technology' (2016) Global Times (in English)

Размещено на Allbest.ru