Актуальні питання правового регулювання автономних систем зброї зі штучним інтелектом

1. введення мораторію на використання автономних систем (Австрія, Аргентина, Бразилія, Ірак, Пакистан, Палестина, Єгипет, Чилі та інші, всього - 28 країн);

2. прийняття політичної декларації, яка визначить загрози автономних систем, із послідуючою її забороною та важливістю збереження контролю людини над нею (Німеччина, Франція);

3. відхилення обмежень у забороні автономним системам самостійно приймати рішення на застосування зброї без втручання та контролю людини (США, Російська Федерація, Австралія).

Перший підхід регулювання відносин у цій сфері полягає в такому. Людина буде відігравати ключову роль під час використання автономних систем зі збереженням контролю над їх дією, а сама система ні в якому разі не буде функціонувати самостійно та приймати рішення про вбивство противника (людини). Одночасно 28 країн світу заявили про заборону експлуатації роботизованих автономних систем як виду зброї. Китай також задекларував заборону використання автономних систем, але одночасно із цим підтримав її розроблення та випробовування. Водночас, Російська Федерація, Білорусь, Грузія, Казахстан, Таджикистан, Туркменістан та Україна з такою заявою не виступали, хоча є країнами, які приєднались до Конвенції від 10.10.1980 року [13].

У другому підході акцентується увага на необхідності обговорення державами-членами ООН важливості збереження контролю людини над автономними системами з досягненням компромісу у визначені небезпеки в їх використанні з відповідним прийняттям політичної декларації. Уряд Німеччини виступає за міжнародну заборону автономних озброєнь, закріпивши це в коаліційній угоді [15].

Варто розуміти, що США, Китай, Велика Британія, Ізраїль, Російська Федерація та Республіка Корея ставлять в основу державницької політики перспективи розвитку третього підходу. Уряди цих країн активно інвестують у розробку технологій штучного інтелекту для військових потреб, що без певних важелів правового впливу зможе призвести до масштабних негативних наслідків, а саме - зникнення ролі людини у процесі прийняття рішень щодо початку воєнних дій.

Як нами вже зазначалось, із критикою до впровадження останнього підходу зверталось немало вчених та організацій. Основний акцент - заборона розробок роботів-убивць, що ґрунтується на розвитку нових технологій. Прикладом, який ілюструє цю ситуацію, є безпілотний повітряний апарат Shadow Hawk, який розробляється у США компанією Vanguard Defense Industries. Він уже використовувався в Афганістані та Східній Африці проти осіб, які підозрюються у здійсненні диверсійно-терористичної діяльності. Крім того, цей засіб може вражати підозрюваних електрошоком із висоти та на відстані, озброєний вогнепальною зброєю (автоматичною гарматою) дванадцятого калібру, 37 мм та 40 мм гранатометами. Велика Британія також нещодавно презентувала новий автономний безпілотний надзвуковий літак Taranis, який має на борту касети для розміщення різних видів високоточної самонавідної зброї [16]. За даними Bureau of Investigative Journalism («Бюро журналістських розслідувань»), у результаті використання «безпілотників» у період з 2004 по 2019 роки було вбито від 8 858 до 16 901 осіб, зокрема, мирних жителів і дітей, і більше ніж декільком тисяч завдано поранення [17].

Повністю автономна зброя також починає з'являтись у військових арсеналах інших держав. Наприклад, Республіка Корея встановила автоматичну турель уздовж демілітаризованої зони з Корейською Народно-Демократичною Республікою, а на озброєнні в Ізраїлі є безпілотний літальний апарат, який запрограмований атакувати радіолокаційні системи противника під час їх виявлення.

Також правозахисні групи такі як Human Rights Watch та кампанія «Зупинити роботів-убивць» (Stop Killer Robots), закликають уряди та ООН розробити політику, яка забороняє розробку так званих «летальних систем автономної зброї» (LAWS) [18].

Водночас США та Російська Федерація заблокували, а ООН видала заборону на отримання повністю автономної зброї, Велика Британія виступила проти таких кампаній, Міністерство закордонних справ заявило, що «міжнародне гуманітарне право вже забезпечує достатнє регулювання для цієї галузі» [19]. Зазначене твердження британців не зовсім переконливе, як у розрізі Протоколу І, про що вже нами зазначалось, так і в обґрунтованих спростуваннях, які викладено нижче.

Так, уперше положення про загальне й повне роззброєння як кінцеву мету у процесі контролю над озброєннями було сформульовано Резолюцією Генеральної Асамблеї ООН № 1378 (XIV) 20 листопада 1959 року. Це положення було включено до статті 6 Договору про нерозповсюдження ядерної зброї в 1968 році, де зазначено, що кожний учасник зобов'язується в дусі доброї волі вести переговори про договір, про загальне й повне роззброєння під суворим й ефективним міжнародним контролем. Учасниками зазначеного договору є 190 держав-членів ООН, крім Ізраїлю, Індії, Пакистану та Республіки Кореї, які, між іншим, є державами з ядерною зброєю [20]. Оскільки 190 держав узяли на себе зобов'язання про нерозповсюдження ядерної зброї, то постає питання і про ведення ними переговорів про роззброєння та, як наслідок, обмеження розробок нових озброєнь (автономних систем зброї), передбачених статтею 36 Протоколу І [14].

Безперечно, поняття роззброєння є діаметрально протилежним до поняття озброєння, адже має інший сенс щодо нього - позбавлення від зброї, її виробництва та використання. Водночас, це не означає обов'язок держав роззброюватись, оскільки вони повинні домагатись укладення міжнародних угод у цій сфері й сумлінно виконувати раніше взяті на себе зобов'язання згідно з чинними міжнародними договорами.

Отже, проведене дослідження та неузгодженість міжнародно-правових норм між собою, що регулює предмет відносин у сфері автономної зброї, уже вкотре приводить до висновку про необхідність прийняття рішення про розробку та підписання державами-членами ООН угоди, яка врегулює відносини у сфері автономних систем зброї зі штучним інтелектом (заборона розроблення, виробництва, введення в експлуатацію та використання).

Однак необхідно взяти до уваги, що, починаючи з 2013 року, більшість постійних держав-членів ООН не мають бажання брати участь у розробці вищезазначеної міжнародної Угоди та визначенні класифікації автономних систем зброї. У зв'язку із цим, вирішення окресленої проблематики можливо буде реалізувати за ініціативою зацікавленої держави (держав) за допомогою запропонованого нами правового механізму 2-ма способами, зокрема:

1. прийняти Резолюцію Генеральної Асамблеї ООН про розробку вищезазначеної Угоди поза межами Конвенції від 10 жовтня 1980 року;

2. скликати міжнародну конференцію за участю держав-членів ООН для розробки вищезазначеної Угоди, з подальшим її підписанням та обов'язковою ратифікацією державами-членами ООН.

Саме в такий спосіб був запущений процес заборони протипіхотних мін, завдяки активній громадянській кампанії за заборону протипіхотних мін. Зазначений приклад описують події, які відбулись у 1996-1997 роках, після проведення конференцій самостійно урядом Канади і представниками інших країн, яка завершились Оттавським договором, до якого приєдналися 164 країни [21]. Саме за це рух отримав Нобелівську премію миру в 1997 році.

Отже, враховуючи стрімкі темпи розвитку штучного інтелекту, які випереджають міжнародне право, є нагальна потреба в реалізації запропонованого механізму розробки та впровадження міжнародної Угоди про заборону розроблення, виробництва, введення в експлуатацію та використання автономних систем зброї. Очевидно, що наявні розмаїття визначень автономних систем зброї зі штучним інтелектом та проведені нами порівняння підходів перспектив розвитку їх регулювання в державах-членах ООН дозволяють здійснити авторську їх класифікацію за 3-ма рівнями автономності:

1. система зброї з надвисоким рівнем автономності штучного інтелекту - це високоінтелектуальна автономна система, яка здатна самостійного приймати рішення на застосування зброї без втручання людини, призначена для вирішення бойових завдань, що не спроможна виконати людина (оператор) та підконтрольна її волі;

2. система зброї з високим рівнем автономності штучного інтелекту - це автономна система, яка призначена для вирішення бойових завдань, що не спроможна виконати людина (оператор) та підконтрольна її волі;

3. система зброї із загальним рівнем автономності штучного інтелекту - це автономна система, яка призначена для вирішення одного чи декількох бойових завдань, спроможна виконати людина (оператор) та підконтрольна її волі.

Отже, систему зброї з першим рівнем автономності необхідно віднести до забороненого виду зброї, який має знайти своє місце в міжнародній Угоді, оскільки делегування їй рішень про застосування летальної зброї буде суперечити Декларації Мартенса через порушення законів людяності та вимог суспільної свідомості, а її повна автономність призведе до непередбачуваних та жорстоких наслідків для людства.

Висновок

До технологій штучного інтелекту, а особливо розробок автономних систем зброї у світі, необхідно віднестись із неабиякою обережністю. Рівень їх автономності зростає завдяки швидкому прогресу розвитку технологій штучного інтелекту та робототехніки та привертає особливу увагу, як у свій час відбувався розвиток технологій ядерної зброї. Ядерна технологія, використання якої поширилось із галузі енергетики в широке військове застосування, здійснила могутній вплив на геополітику та міць держав, котрі її розвивали, завдяки зайнятій першості й до сьогодні.

Автономні системи, здатні до навчання, вже сьогодні обробляють досвід за допомогою штучних нейронних мереж, подібних до людського мозку, а це може прирівнятись за значимістю до ефекту володіння ядерними технологіями, а отже, й домінуванням у геополітичному просторі тих країн, які на сьогодні вже активно розробляють технології штучного інтелекту.

Водночас, продовження розвитку технологій наявних автономних систем із розвинутим штучним інтелектом, здатними до самонавчання, може, зрештою, призвести до небезпечних наслідків для людства, без відповідної правової регламентації. Автономна система, яка здатна знайти, розпізнати та знешкодити міни чи снаряди, є допустимою, але у разі, якщо система, яка автономно, без контролю людини, самостійно здійснює пошук, розпізнавання та знищення людей, є неприйнятною та суперечить нормам міжнародного гуманітарного права.

Отже, відсутність у науковому та експертному середовищі держав-членів ООН єдиного та чіткого визначення дефініції терміну «автономних систем зброї зі штучним інтелектом» та класифікації їх за рівнем автономності породжує чимало правових питань та проблем, пов'язаних із регулюванням відносин у цій сфері. Саме ця невизначеність та, як наслідок, відсутність відповідних правових норм є головною проблемою, за якої держави оперують на майданчику ООН терміном «автономна система зброї зі штучним інтелектом», але використовують її в різному сенсі, що натомість призводить до довготривалого зволікання із прийняттям міжнародної угоди, яка врегулює питання її розробки, виробництва та використання.

Список використаних джерел

1. Борисфен Інтел. Кот Р США включаються у перегони з КНР URL: https://bintel.org.ua/publication/info-bezpeka/spolucheni-shtati-ishtuchnij-intelekt/.

2. Радутний О.Е. Кримінальна відповідальність штучного інтелекту. «Інформація і право». № 2(21). 2017. С. 124-132.

3. Etzioni Oren. No, the Experts Don't Think Superintelligent AI is a Threat to Humanity. URL: https://www.technologyreview.com/ 2016/09/20/70131/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/.

4. Kumparak G. Elon Musk Compares Building Artificial Intelligence To “Summoning The Demon”. URL: //www.techcrunch.com/2014/10/26/ elon-musk-compares-building-artificial-intelligence-to-summoning-the-demon.

5. Уніан. Штучний інтелект може бути більш небезпечним, ніж ядерна зброя вчені. URL: //www.unian.ua/science/1031028-shtuchniyintelekt-moje-buti-bilsh-nebezpechnim-nij-yad erna-zbroya-vcheni.html.

6. Люгер Дж.Ф. Искусственный интеллект: стратегии и методы решения сложных проблем / перевод с англ. Москва: Издательский дом «Вильямс». 2003. 864 с.

7. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. Учебник. Санкт-Петербург: Питер, 2001.384 с.

8. Державний Стандарт України. ДСТУ 2938-94. Системи оброблення інформації. Основні поняття. Терміни та визначення від 28 грудня 1994 року. URL: http://ukrndnc.org.ua/index.php?option=com_terminus&Itemid=194&task=view&id=40937.

9. Сидорчук Ю.М. Філософсько-правові проблеми використання штучного інтелекту. Право і суспільство 2017. № 3(2). С. 16-19.

10. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Ruleson Robotics (2015/2103(INL)). URL: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52017IP0051.

11. Позова Д.Д. Перспективи правового регулювання штучного інтелекту за законодавством ЄС. Часопис цивілістики. 2017. № 27. С. 116-120.

12. UA.NEWS. Google відмовився розробляти штучний інтелект для «дронів-убивць» Пентагону. URL: https://ua.news/ua/googlevidmovyvsya-rozroblyaty-shtuchnyj-intelekt-dlya-droniv-ubyvts-pentagonu/.

13. Конвенція про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію від 10 жовтня 1980 року. URL: https://zakon.rada.gov.ua/laws/show/995_266.

14. Додатковий протокол до Женевських конвенцій від 12 серпня 1949 року, що стосується захисту жертв міжнародних збройних конфліктів від 8 червня 1977 року. URL: https://zakon.rada.gov.ua/laws/show/995_199.

15. WELT. Doll N. Deutsche Industrie will Killer-Roboter verbieten lassen. URL: https://www.welt.de/wirtschaft/article185077670/KillerroboterBDI-will-sie-verbieten-lassen.html.

16. Борисфен Інтел. Сербенко Н. Автономні системи озброєння: невирішені питання моралі, моральності, міжнародного права і геополітики. URL: // http://bintel.com.ua/uk/article/robots2.

17. The Bureau of Investigative Journalism. Drone War. The bureau of investigative journalism. URL: //https://www.thebureauinvestigates. com/projects/drone-war.

18. The Guardian. “UN urged to ban “killer robots” before they can be developed”. URL: https://www.theguardian.com/science/2015/apr/09/ un-urged-to-ban-killer-robots-before-they-can-be-developed.

19. The Guardian. “UK opposes international ban on developing “killer robots”. URL: https://www.theguardian.com/politics/2015/apr/13/ uk-opposes-international-ban-on-developing-killer-robots.

20. Договір про нерозповсюдження ядерної зброї від 1 липня 1968 року. URL: https://zakon.rada.gov.ua/laws/show/995_098.

21. Конвенція про заборону застосування, накопичення запасів, виробництва і передачі протипіхотних мін та про їхнє знищення від 18 вересня 1997 року. URL: https://zakon.rada.gov.ua/laws/show/995_379.

Размещено на Allbest.ru