Проблеми та перспективи застосування технологій штучного інтелекту в системах електронного правосуддя: в контексті робот-суддя

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Національний університет біоресурсів і природокористування України

Проблеми та перспективи застосування технологій штучного інтелекту в системах електронного правосуддя: в контексті робот-суддя

Ясельська Наталя Михайлівна,

аспірант кафедри міжнародного права та порівняльного правознавства

Анотація

Стаття присвячена дослідженню можливості повноцінного впровадження штучного інтелекту в електронне правосуддя. Встановлено, що наразі не існує єдиного загальнонаукового визначення штучного інтелекту, проте, в широкому розумінні більшість науковців схиляється до сприйняття цього терміну, як певної системи, що наділена можливістю мислити як людина. Проблематика створення єдиного визначення штучного інтелекту безпосередньо пов'язана з постійним розвитком та розширенням технологій, а отже охопити повноцінно всі аспекти розуміння цієї категорії неможливо.

Констатовано, що концепція запровадження робота-судді, що базується на технологіях штучного інтелекту, є досить складним та комплексним питанням. Теоретично проаналізовано, що використання робота-судді сприяє забезпеченню ефективного та швидкого судового розгляду справ, що унеможливлює вчинення судових помилок та усуває людську упередженість при прийнятті судових рішень. Крім того, в статті досліджено певні проблеми та ризики, з якими доведеться зіштовхнуться в процесі впровадження судді-робота, а саме: маніпуляції зі штучним інтелектом, упередженість даних та доказів, забезпечення прозорості прийнятих рішень. Встановлено, що заміна суддів новітніми технологіями штучного інтелекту підіймає низку питань морального та етичного характеру.

Під час дослідження також проаналізовано передовий досвід найбільш технологічно розвинутих країн, що вже мають практичний досвід розробки та використання штучного інтелекту в правосудді. Зроблено висновок про певну ефективність їх застосування, що також підтверджує необхідність їх подальшого вдосконалення та розширення застосування технологій штучного інтелекту у всі сфери судових систем.

Підсумовано, що на даному етапі ні суспільство, ні судові системи не готові до повноцінного впровадження концепції робота-судді, проте, вже зараз технології штучного інтелекту можуть покращити процес здійснення судочинства шляхом підтримки, доповнення та часткової заміни (у нескладних та однотипних справах) ролі судді.

Ключові слова: електронне правосуддя, штучний інтелект, робот-суддя, система електронного судочинства.

Abstract

робот електронний штучний правосуддя

Yaselska Natalia Graduate Student of the

Department of International Law and Comparative Law National University of Life and Environmental Sciences of Ukraine

Problems and prospects of application of artificial intelligence technologies in electronic justice systems: in the context of a robot judge

The article is devoted to the study of the possibility of full implementation of artificial intelligence in e-justice. It is established that currently there is no single general scientific definition of artificial intelligence, however, in a broad sense, most scholars tend to perceive this term as a certain system that is endowed with the ability to think like a human. The problem of creating a single definition of artificial intelligence is directly related to the constant development and expansion of technologies, and therefore it is impossible to fully cover all aspects of understanding this category.

It is stated that the concept of introducing a robot judge based on artificial intelligence technologies is a rather complex and complex issue. It is theoretically analyzed that the use of a robot judge helps to ensure efficient and prompt trial of cases, which makes it impossible to commit miscarriages of justice and eliminates human bias in court decision-making. In addition, the article examines certain problems and risks that will have to be faced in the process of introducing a robot judge, namely: manipulation of artificial intelligence, bias in data and evidence, and ensuring transparency of decisions. It is established that the replacement of judges with the latest artificial intelligence technologies raises a number of moral and ethical issues.

The study also analyzes the best practices of the most technologically advanced countries that already have practical experience in developing and using artificial intelligence in justice. It is concluded that they are somewhat effective, which also confirms the need for their further improvement and expansion of the use of artificial intelligence technologies in all areas of judicial systems.

It is concluded that at this stage neither society nor judicial systems are ready for the full implementation of the robot judge concept, however, artificial intelligence technologies can already improve the judicial process by supporting, supplementing and partially replacing (in simple and similar cases) the role of a judge.

Key words: e-justice, artificial intelligence, robot judge, electronic court system.

Основна частина

Постановка проблеми. Досвід періоду пандемії COVID-19 наявно продемонстрував необхідність пошуку нових технологічних рішень для судових систем з метою забезпечення ефективного та швидкого розгляду судових справ. У той час, як менш технологічно розвинені країни спрямували свої сили на доопрацювання та вдосконалення елементів електронного судочинства, країни з високим рівнем інтеграції інформаційно-комунікаційних технологій в судові системи вже активно розглядають переваги впровадження штучного інтелекту в якості судді. Наразі розробки робота-судді ще перебувають на початковій стадії, проте ознаки того, що вони стануть більш актуальними та матимуть великий вплив на здійснення правосуддя у майбутньому вже цілком очевидні.

Аналіз останніх досліджень і публікацій. Проблематиці дослідження електронного правосуддя (діджитал правосуддя) та технологічних рішень для судових систем присвячено багато публікацій вітчизняних вчених-правників, зокрема Цу - віної Т.А. [1], Зур'ян В.О. [2], Разметаєвої Ю. та Разметаєва С. [3], Рудюк В.С. [4], Шишка Н.В. [5], Головко Л.О [6]. Водночас, попри значну кількість наукових праць, слід констатувати, що питання розвитку штучного інтелекту в електронних судових системах (в тому числі в контексті запровадження робота-судді) розкрито лише фрагментарно, а отже, можна говорити про недостатню дослідженість даного питання.

Формулювання цілей статті (постановка завдання). На загальнотеоретичному рівні здійснити аналіз можливих напрямів використання технологій штучного інтелекту в процесі впровадження концепції робот-суддя, в тому числі шляхом виявлення певних проблем та ризиків в процесі їх запровадження.

Виклад основного матеріалу. Штучний інтелект слід розглядати як складну категорію, що наразі не має єдиного загальноприйнятого визначення. Слід зазначити, що автором терміну «штучний інтелект» вважають Джона Маккарті. Так, Маккарті описував штучний інтелект, як інтелектуальну технологію, що дозволяє машині поводитись так, наче це реальна людина [7]. Проте сама концепція «системи, що може мислити» була розроблена ще в 1950 році прабатьком сучасного програмування Аланом Тюрінгом. Так, Тюрінг провів дослідження, який наразі відомий як «Тест Тюрінга», ідея якого зводилась до визначення можливості відповіді на питання: «Чи може комп'ютер мислити?» [8].

Досить розповсюдженою серед науковців є думка про те, що штучний інтелект являє собою результат четвертої промислової революції та другої комп'ютерної (машинної) епохи [9]. Це означає, що на даному етапі людського розвитку, технологічний розвиток машин направлений на розробку таких систем що, фактично, здатні відтворювати інтелектуальні та ментальні здібності людини на підставі певних алгоритмів та шляхом власного самонавчання. Отже, штучний інтелект відкриває широкі можливості для функціонування судів та підвищує ефективність роботи суду у довгостроковій перспективі.

Доречно зазначити, що технологічно розвинені країни вже мають певний досвід використання штучного інтелекту в правосудді.

Так, у Нідерландах електронна судова система вже активно використовує програми штучного інтелекту, що повністю автономно приймають рішення у справах щодо стягнення заборгованості. В Австралії повноцінно функціонує система SplitUpу справах щодо поділу майна подружжя. Відповідна система, що базується на технологіях штучного інтелекту, самостійно визначає обсяг майна подружжя та здійснює його поділ, виходячи з конкретних обставин та у відповідності до законодавства. Передовий досвід використання програми-помічника зі штучного інтелекту наявний і у США. Так, під час розгляду кримінальних справ щодо обрання запобіжного заходу чи дострокового звільнення із в'язниці, остаточне рішення судді базується на висновку системи штучного інтелекту COMPAS[10].

Окрім того, одним із сфер активного використання технологій штучного інтелекту є прогнозування правових рішень. Так дослідники у США, використовуючи програми штучного інтелекту, змогли передбачити результати рішення у верховному суді із точністю 70%. Схоже дослідження, проведене іншою командою дослідників, змогло передбачити результати в Європейському суді з прав людини з точністю 79% за допомогою машинного навчання. Хоча самі моделі не можуть бути застосовані в реальному суді, це перший доказ того, що система штучного інтелекту може бути суддею. Здатність передбачати вимагає здатності інтерпретувати та розуміти. Таким чином, сама модель є сильним показником того, що розвиток відбувається [11].

Передовою країною світу, що вже досить давно здійснює правосуддя за допомогою робота-судді слід відзначити Китай. Так, Пекінський проміжний народний суд використовує Xiaofa. Ця програма є роботом зі штучним інтелектом, який має відповіді на понад 40 000 юридичних питань і може допомогти у понад 30 000 різних типів справ. Окрім того, на з 2017 року в Хаджоу працюють кібер-судді, що створені й функціонують на базі популярного мобільного додатку у телефоні WeChat. Такий робот-суддя має компетенцію розглядати суперечки в сфері торгівлі в Інтернеті (від питань захисту споживачів до авторського права на продукцію електронного магазину). Як відзначають науковці Китаю, такий судовий розгляд сприяє швидкому вирішенню спорів та забезпечує найефективніший доступ до правосуддя [12].

Серед країн Європейського Союзу саме Естонія стала тією країною, що знаходиться в авангарді цифрових змін на шляху до впровадження системи штучного інтелекту в якості судді. Наприкінці 2019 року вони розпочали бета-тестування судді зі штучним інтелектом, метою якого є розгляд дрібних цивільно-правових спорів, сума яких не перевищує 70 000 євро. Так, сторони повинні завантажити необхідні процесуальні документи у систему в електронному вигляді, а робот-суддя здійснить аналіз справи та самостійно винесе рішення на їх основі. Як і в звичайному суді, сторони мають право оскаржити судове рішення в апеляції [13].

Отже, слід відзначити, що використання технологій штучного інтелекту в якості судді має певні переваги над людиною-суддею:

1) усунення суб'єктивних ризиків свідомої чи несвідомої упередженості судді;

2) виключення можливості арифметичних та судових помилок;

3) пришвидшення процедури розгляду удових справ;

4) постійне оновлення актуальної судової практики (в тому числі щодо новоприйнятих позицій судів вищих інстанцій) та моніторинг діючого та новоприйнятого законодавства;

5) можливість роботи з великим обсягом матеріалу в короткі проміжки часу.

Водночас, робота судді-робота вимагає переосмислення ряду морально-етичних аспектів, пов'язаних з прийняттям рішення по справі. Фундаментальним документом, що закріплює певні базові етичні принципи використання технологій штучного інтелекту для країн Європейського Союзу є Етична хартія з використання штучного інтелекту у судовій системі та її середовищі [14]. Так, Етична хартія передбачає дотримання п'яти ключових принципів: повага до основних прав; недопущення дискримінації; дотримання безпеки технологічного середовища; прозорість, справедливість на неупередженість обробки даних; контр - ольованість процедури прийняття рішення.

Отже, слід констатувати, що ми вже на шляху до того, щоб мати можливість застосовувати штучний інтелект у судовій системі, проте на цьому шляху є багато викликів, з якими доведеться зіткнутися.

Перш за все, до таких ризиків можна віднести можливість маніпуляції штучним інтелектом та упередженість вихідних даних та доказів. Сама маніпуляція полягає в безпосередньому впливі на поведінку алгоритму. Слід зазначити, що штучний інтелект здатний виконувати складні завдання на підставі певних базових алгоритмів і даних, і у випадку маніпуляцій базовими даними (завідо - мо некоректними даними) це призводить до того, що штучний інтелект приймає певні, неправильні рішення в процесі свого подальшого саморозвитку. Яскравим прикладом маніпуляції з технологією штучного інтелекту є випадок з інтелектуальним ботом Tay, що був розроблений компанією Microsoftдля Twitter. Протягом дня, з моменту запуску Tayпочав демонстрував поведінку, типову для нациста та расиста, і Microsoftбула змушена закрити його. Це сталося через взаємодію бота з людьми (або іншими ботами-роботами у інтерне - ті), з якими Tayспілкувався у Twitterі отримував певні некоректні дані. А отже, алгоритм Tay «навчався» через взаємодію із ним, в тому числі отримуючи неприпустимі вихідні дані [15].

Слід зауважити, що маючи уявлення про можливі маніпуляції та упередженість штучного інтелекту, ми зможемо розробити механізми протидії таким спробам. При цьому, на відміну від людини-судді, вплив на яку неможливо повністю контролювати через людський фактор, ми маємо, принаймні теоретично, можливість повністю контролювати і впливати на методи маніпуляцій зі штучним інтелектом або настільки ускладнити їх, що ризик цього стає майже нульовим.

Висновки і перспективи подальших досліджень. Враховуючи вищевказане слід зазначити, що сучасні судові системи країн світу в тій чи іншій мірі вже давно почали використовувати дід - житал технології в судових системах проте, сучасний стан цифровізації дає можливість впроваджувати і інші більш розвинені та автоматизовані новітні інструменти, такі як штучний інтелект. І питання вже не в тому, буде чи не буде використовуватися штучний інтелект в процесі здійснення правосуддя - а коли та яким чином.

Поряд із цим, впровадження штучного інтелекту в якості судді повинно відповідати певним базовим морально-етичним принципам, в тому числі тим, що передбачені в Етичній хартії з використання штучного інтелекту у судовій системі та її середовищі. Більше того, враховуючи специфіку прийняття судового рішення людиною-суддею, слід говорити про те, що повноцінне здійснення правосуддя роботом-суддею можливе лише тоді, коли його технологічний рівень в достатній мірі зможе забезпечити конфіденційність, прозорість, справедливість та неупередженість судового розгляду справ та прийняття остаточних рішень.

А отже, слід констатувати, що на даному етапі європейські судові системи ще не готові до повноцінного впровадження робота-судді в своє правосуддя. Проте, наразі, є всі передумови для їх розробки. При чому, в процесі впровадження у майбутньому технології штучного інтелекту пройдуть шлях від інструменту допомоги судді в частині здійснення його професійних обов'язків до повноцінної заміни людини-судді на суддю-робота.

Література

1. Цувіна Т.А. Онлайн суди та онлайн вирішення спорів у контексті міжнародного стандарту доступності правосуддя: міжнародний досвід. Проблеми законності. 2020. Вип. 149. С. 62-79. doi: https://doi.org/10.21564/2414 - 990 x. 149.201782

2. Зур'ян В.О. Нагальні проблеми та перспективи розвитку електронного судочинства в Україні. Вісник Пенітенціарної асоціації України. 2020. Вип. 4. С. 173-181. doi: https://doi.org/10.34015/2523-4552.2020.4.16

3. Razmetaeva Y., Razmetaev S. Justice in the Digital Age: Technological Solutions, Hidden Threats and Enticing Opportunities. Access to Justice in Eastern Europe. 2021. 2 (10). P. 104-117. URL: https://ajee-journal.com/justice - in-the-digital-age-technological-solutions-hidden-threats-and-enticing-opportunities

4. Рудюк В.С. Діджиталізація в сучасному судочинстві. Філософські та методологічні проблеми права. 2020. Вип. 2 (20). doi: https://doi.org/10.33270/02202002.82

5. Шишка. Н.В. Штучний інтелект в українському правосудді: правові передумови запровадження. Юридичний науковий електронний журнал. 2021. №3. С. 143-145. URL: http://lsej.org.ua/3_2021/37.pdf

6. Yara O., Brazheyev A., Golovko L., Bashkatova V. Legal Regulation of the Use of Artificial Intelligence: Problems and Development Prospects. European Journal of Sustainable Development. 2021. 10 (1). 281-289. doi: https://doi.org/10.14207/ejsd.2021.v10n1p281

7. Reiling D. (Dory). Courts and Artificial Intelligence. International journal for court administration. 2020. Volume 11. Issue. 2. URL: https://iacajournal.org/articles/10.36745/ijca.343

8. Wideroth F. The Robot as a Judge. Dissertation in Procedural Law. 2020. URL: http://www.diva-portal.se/ smash/get/diva2:1412162/FULLTEXT02.pdf

9. For digitalisering i tiden. Slutbetankande av Digitaliseringskommissionen. SOU 2016:89. URL: https://www. regeringen.se / rattsliga-dokument / statens-of f entliga-utredningar/2016/12/sou-201689/

10. Artificial Intelligence: A Substitute or Supporter of Judges? URL: https://aastaraamat.riigikohus.ee/en/ artificial-intelligence-a-substitute-or-supporter-of-judges/

11. Gyuranecz F.Z., Krausz B., Papp D. The AI is now in session - The impact of digitalisation on courts. 2022. 7 (1). P. 272-296. doi: https://doi.org/10.35467/cal/151833

12. Zichun Xu. Human Judges in the Era of Artificial Intelligence: Challenges and Opportunities. URL: https:// www.tandfonline.com/doi/full/10.1080/08839514.2021.2013652

13. Jurgen L. Tehinsintellekt kohtu osana - kas voimalik ja vajalik? URL: https://www.njordlaw.com/et/ tehinsintellekt-kohtu-osana-kas-voimalik-ja-vajalik

14. European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment. URL: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c

15. Чат-бот Tayот Microsoftвременно отключен за расистские и другие неуместные высказывания. URL: http://aspekty.net/2016/chat-bot-tay-ot-microsoft-vremenno-otklyuchen-za-rasistskie-i-drugie-neumestnyie - vyiskazyivaniya/

References

1. Tsuvina T.A. Onlain sudy ta onlain vyrishennia sporiv u konteksti mizhnarodnoho standartu dostupnosti pra - vosuddia: mizhnarodnyi dosvid. Problemy zakonnosti. 2020. Vyp. 149. S. 62-79. doi: https://doi.org/10.21564/2414 - 990 x. 149.201782

2. Zurian V.O. Nahalni problemy ta perspektyvy rozvytku elektronnoho sudochynstva v Ukraini. Visnyk Peniten - tsiarnoi asotsiatsii Ukrainy. 2020. Vyp. 4. S. 173-181. doi: https://doi.org/10.34015/2523-4552.2020.4.16

3. Razmetaeva Y., Razmetaev S. Justice in the Digital Age: Technological Solutions, Hidden Threats and Enticing Opportunities. Access to Justice in Eastern Europe. 2021. 2 (10). P. 104-117. URL: https://ajee-journal.com/justice - in-the-digital-age-technological-solutions-hidden-threats-and-enticing-opportunities

4. Rudiuk V.S. Didzhytalizatsiia v suchasnomu sudochynstvi. Filosofski ta metodolohichni problemy prava. 2020. Vyp. 2 (20). doi: https://doi.org/10.33270/02202002.82

5. Shyshka. N.V. Shtuchnyi intelekt v ukrainskomu pravosuddi: pravovi peredumovy zaprovadzhennia. Yury - dychnyi naukovyi elektronnyi zhurnal. 2021. №3. S. 143-145. URL: http://lsej.org.ua/3_2021/37.pdf

6. Yara O., Brazheyev A., Golovko L., Bashkatova V. Legal Regulation of the Use of Artificial Intelligence: Problems and Development Prospects. European Journal of Sustainable Development. 2021. 10 (1). 281-289. doi: https:// doi.org/10.14207/ejsd.2021.v10n1p281

7. Reiling D. (Dory). Courts and Artificial Intelligence. International journal for court administration. 2020. Volume 11. Issue. 2. URL: https://iacajournal.org/articles/10.36745/ijca.343

8. Wideroth F. The Robot as a Judge. Dissertation in Procedural Law. 2020. URL: http://www.diva-portal.se/smash/get/diva2:1412162/FULLTEXT02.pdf

9. For digitalisering i tiden. Slutbetankande av Digitaliseringskommissionen. SOU 2016:89. URL: https://www. regeringen.se/rattsliga-dokument/statens-offentliga-utredningar/2016/12/sou-201689/

10. Artificial Intelligence: A Substitute or Supporter of Judges? URL: https://aastaraamat.riigikohus.ee/en/ artificial-intelligence-a-substitute-or-supporter-of-judges/

11. Gyuranecz F.Z., Krausz B., Papp D. The AI is now in session - The impact of digitalisation on courts. 2022. 7 (1). P. 272-296. doi: https://doi.org/10.35467/cal/151833

12. Zichun Xu. Human Judges in the Era of Artificial Intelligence: Challenges and Opportunities. URL: https:// www.tandfonline.com/doi/full/10.1080/08839514.2021.2013652

13. Jurgen L. Tehinsintellekt kohtu osana - kas voimalik ja vajalik? URL: https://www.njordlaw.com/et/ tehinsintellekt-kohtu-osana-kas-voimalik-ja-vajalik

14. European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment. URL: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/16808f699c

15. Chat-bot Tay ot Microsoft vremenno otkliuchen za rasystskye y druhye neumestnbie vbiskazbivanyia. URL: http://aspekty.net/2016/chat-bot-tay-ot-microsoft-vremenno-otklyuchen-za-rasistskie-i-drugie-neumestnyie - vyiskazyivaniya/

Размещено на Allbest.ru