Контроль дотримання норм міжнародного гуманітарного права при використанні зброї, керованої штучним інтелектом

Размещено на http://www.Allbest.Ru/

Національний університет оборони України

Контроль дотримання норм міжнародного гуманітарного права при використанні зброї, керованої штучним інтелектом

Федчук Т.Ю., науковий співробітник

Анотація

Федчук Т.Ю. Контроль дотримання норм міжнародного гуманітарного права при використанні зброї керованої штучним інтелектом

Намагання держав регулювати розвиток технологій стають унікальною проблемою, коли йдеться про штучний інтелект (далі ШІ). Неможливо спрогнозувати усі можливі наслідки від його застосування у військовій сфері, зробивши вибір на користь його переваг. Світ усвідомив факт, що використанням зброї керованої ШІ потребує не тільки правового врегулювання, а й контролю дотримання міжнародно-правових норм, перегляду методів ведення війни відповідно до нової реальності. Визначення того, що являє собою "зброя зі штучним інтелектом”, власне "штучний інтелект”, їх правовий статус залишаються відкритими для інтерпретації у технічному, військовому та правничому середовищах.

У статті проаналізовано окремі питання врегулювання розробки, поширення та застосування зброї зі штучним інтелектом (далі ЗШІ). Наголошено, що хоча системи з ШІ є принципово новим способом ведення війни, контроль за їх використанням і накладання обмежень не становлять абсолютно нової задачі для міжнародного гуманітарного права (далі МГП). Воно і нині базується на сталих принципах, що використовувалися для регулювання існуючих типів зброї і повинні розповсюджуватися на використання ЗШІ: принцип розрізнення цілей, принцип пропорційності, принцип уживання заходів обережності під час атаки.

Водночас ШІ має низку характеристик, які ускладнюють контроль над ним. Будучи технологією загального призначення, ШІ має безліч невійськових і оборонних застосувань. На відміну від військових технологій, він розробляється переважно в цивільному секторі. І хоча широке поширення ШІ ставить під питання повну заборону його військового застосування, міжнародне співтовариство має спільно працювати над регулюванням або забороною певних видів використання військового ШІ.

Оптимальним вирішенням проблеми може стати прийняття відповідного міжнародного кодифікованого нормативного акту, що визначав би поняття, регулював створення, застосування автономних систем ЗШІ, а також містив механізми контролю та відповідальності за порушення цих норм.

Ключові слова: автономна летальна зброя, зброя зі штучним інтелектом, міжнародно-правові норми, міжнародний кодифікований акт, нова реальність.

Annotation

Fedchuk T.Y. Control of compliance with norms of international humanitarian law when using weapons controlled by artificial intelligence

Efforts by states to regulate the development of technology become a unique problem when it comes to artificial intelligence (AI). It is impossible to predict all possible consequences of its use in the military sphere, making a choice in favor of its advantages. The world has realized the fact that the use of weapons controlled by AI requires not only legal regulation, but also control of compliance with international legal norms, revision of methods of warfare in accordance with the new reality. The definition of what constitutes and "weapon with artificial intelligence”, "artificial intelligence” itself, and their legal status remain open to interpretation in technical, military and legal circles.

The article analyzes separate issues of regulating the development, distribution and use of weapons with artificial intelligence (hereinafter AI). It is emphasized that although AI systems are a fundamentally new way of waging war, controlling their use and imposing restrictions does not constitute a completely new task for international humanitarian law (hereinafter IHL). It is still based on the established principles that were used to regulate existing types of weapons and should be extended to the use of anti-aircraft weapons: the principle of distinguishing targets, the principle of proportionality, the principle of using precautionary measures during an attack.

At the same time, AI has a number of characteristics that make it difficult to control. As a general-purpose technology, AI has many nonmilitary and defense applications. Unlike military technology, it is developed primarily in the civilian sector. And although the widespread use of AI calls into question a complete ban on its military use, the international community should work together to regulate or ban certain types of military AI use.

The optimal solution to the problem could be the adoption of a corresponding international codified act, which would define the concept, regulate the creation and application of autonomous systems of the ZHI, as well as contain mechanisms of control and responsibility for violations of these norms.

Key words: autonomous lethal weapon, weapon with artificial intelligence, international legal norms, international codified act, new reality.

Постановка проблеми

Прагнучи стриманості у питаннях безпеки, держави можуть помилково інтерпретувати шлях розвитку технології, способи її застосування та контрзаходи. Часом напрацьовані правила або не знаходять практичного застосування або не можуть гарантувати обмеження її небезпечного використання. Наразі постає питання про те, наскільки реально контролювати військове застосування ШІ.

Військові інженери світу працюють над розробкою, впровадженням і використанням ШІ у системах озброєнь. Не всі з цих систем реалізовані, але вони здатні з часом істотно вплинути на діяльність збройних сил країн та глобальну світову безпеку. Занепокоєння з приводу використання ШІ у військових системах змусило деяких активістів закликати до заборони або регулювання розвитку таких систем озброєння.

Є повідомлення про випадки, коли весь процес прийняття рішення, від отримання інформації про ціль до її летального ураження зброєю, проходив без участі людини, що свідчить про існування технологій повністю автономного озброєння. Масова їх поява на полях битв виглядає справою найближчого майбутнього.

Проте ті системи, що зараз активно застосовуються на полі бою, наділені лише певним ступенем автономії. В цьому сенсі збройні конфлікти, що точаться саме зараз між Україною та Росією та на Близькому Сході стають полігоном для випробування нових технологій із залученням ШІ до процесу ухвалення рішення. Військові аналітики та дослідники вважають, що довше триватиме війна в Україні, то вищою стає ймовірність масового використання систем на базі ШІ для ідентифікації, вибору і атаки цілей, які у майбутньому можуть здійснюватися без участі або контролю з боку людей.

Норми МГП спрямовані на пом'якшення наслідків збройних конфліктів і полегшення страждань жертв, запобігання порушенням визнаних правил ведення війни. Аби міжнародне право взагалі можна було розглядати як дієву нормативну систему, такі порушення мають тягнути негативні наслідки для порушника сторони міжнародного збройного конфлікту (із застосуванням санкційного, політичного чи інших видів тиску).

Загалом у МГП праві відсутні конкретні норми, які стосуються питань ЗШІ. Нині дане питання регулюється положеннями ст.ст. 35, 36 Додаткового Протоколу №1 до Женевських конвенцій від 12 вересня 1949 року та більш пізніх угод, прийнятих світовою спільнотою, частина яких носить характер рекомендацій та декларацій.

Складність врегулювання правового статусу ШІ є наслідком недостатньої визначеності самого цього поняття. Наразі вивчаються можливості систем озброєнь керованих ШІ, які є результатом розвитку інформаційно-телекомунікаційних систем. Такі технології створюють складні правові, політичні, моральні та етичні проблеми. Як бачимо, розвиток технології випереджує розвиток МГП, яке носить здебільшого реактивний характер та не має на меті прогнозувати спосіб застосування тієї чи іншої технології.

Поширення ШІ прискорюється, розвиток зброї з його використанням також. Вона ставатиме дедалі дешевшою і доступнішою. І поки ці технології не зарегульовані нормами МГП і міжнародними угодами, розробники та інвестори користуватимуться прогалинами в законодавстві.

Немає сумніву, що ШІ вже давно перетворився на новий, досить дієвий інструмент геополітики. Тому МГП має визначитися щодо правомірності використання таких систем озброєння, відповідальності за порушення при їх застосуванні, кола суб'єктів відповідальності.

Стан опрацювання проблематики. Четверта промислова революція (англ. Industry 4.0) це динамічний процес розвитку автоматизованого виробництва, обміну великими об'ємами даних і злиття технологій в єдину саморегульовану систему, що передбачає зменшення аж до повної відсутності залучення людини у технологічний процес. Технологія ШІ, що є її частиною, докорінно змінює сфери діяльності людини, в тому числі, і воєнну. Вона вможливлює розробку автономних систем будь-яких видів, у тому числі керованих ШІ. Їх поява породжує широке коло правових питань, серед яких одним з ключових є питання про відповідальність держави та її представників за дотримання норм МГП при застосуванні таких систем.

Які види використання ШІ у військових цілях є прийнятними або неприйнятними питання неоднозначне, і для успіху будь-яких зусиль з контролю над озброєннями країнам потрібна ясність і чітко визначені критерії. Узагальнено поняття "штучний інтелект” фахівці визначають як упровадження в різні системи, в тому числі оборонні, програмних рішень, здатних виконувати завдання, що зазвичай вимагають людського інтелекту.

Поняття "зброя на основі штучного інтелекту” доволі розмите і стосується різних технологій, проте найчастіше мова йде про нейромережі на зразок чату GPT чи Google Bard, які імітують роботу біологічних нейронних мереж. Якщо брати сферу оборони, то йдеться про процеси від бойового управління військами й озброєнням до ураження конкретних цілей противника на випередження, з урахуванням ієрархії цілей.

Часто ЗШІ називають летальною автономною зброєю. Автономною, тому що вона завдає уражень без участі людини. Хоча, якщо розібратися, далеко не кожна автономна зброя використовує ШІ. В березні 2021 року Ілон Маск зробив симптоматичну заяву, проголосивши закінчення ери винищувачів і початок ери дронів, "які не тільки управляються оператором віддалено, але й оснащені системою штучного інтелекту” розмежувавши таким чином поняття "дистанційне управління” та власне "штучний інтелект”.

Спектр можливостей ШІ досить великий і може включати такі суміжні речі, як отримання й аналіз інформації про стан театру військових дій для військової розвідки, організація кіберзахисту, автоматизація логістики або автономна експлуатація безпілотних машин будь-якого базування.

Вчені погоджуються в цілому, що вирішальним критерієм в питанні правового регулювання виробництва й використання ЗШІ мають бути міжнародні правові норми, узгоджені зацікавленими учасниками. Лише вони здатні вплинути на загальні правила поведінки держав в означеному процесі. Таке регулювання може здійснюватися двома способами: шляхом розповсюдження дії чинних норм МГП та шляхом створення нових відповідних міжнародних нормативно-правових актів.

На сьогодні у МГП відсутні норми, що стосуються питань ЗШІ. Але його положення актуальні і для правовідносин за участю нових систем озброєння. Такими є міжнародна Конвенція про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію 1980 року, та Додатковий Протокол №1 до Женевських конвенцій від 12 вересня 1949 року [1].

У ст.36 згаданого Протоколу зазначено, що під час вивчення, розроблення, поширення, прийняття на озброєння нових видів зброї, засобів або методів ведення війни Висока Договірна Сторона зобов'язана визначити, чи не суперечить їх застосування нормам міжнародного права. А отже, на державу покладається забезпечення відповідності їх виробництва, використання й застосування цим нормам. Ст.35 Протоколу містить два універсальних базових попередження щодо новітньої зброї: сторонам заперечено право обирати зброю, застосування якої є необмеженим; заперечено застосування зброї, яка здатна завдати надмірного болю або страждання. Тож положення Женевських конвенцій виокремлює визначальні принципи, що повинні розповсюджуватися на використання ЗШІ: принцип розрізнення цілей, принцип пропорційності, принцип уживання заходів обережності під час атаки.

Досліджували питання, пов'язані із регулюванням застосування ЗШІ вітчизняні науковці та юристи: А.М. Бежевець, А.А. Завадський, Т.Г. Каткова, О.І. Кравчук, В.К. Набок, А.В. Овчаров, О.Р. Шишка, А.В. Щербань та інші. Р.Г. Меликов провів ґрунтовне дослідження положень МГП у площині відповідальності і визначення кола суб'єктів, відповідальних за наслідки застосування автономних збройних систем, які можна в деяких пунктах віднести для ЗШІ. В своїх роботах науковець виділив три напрямки досліджень: міжнародно-правова відповідальність держав, міжнародно-правова відповідальність недержавних збройних груп та індивідуальна міжнародна кримінальна відповідальність [3, 4]. Водночас питання правового врегулювання і контролю розробки, використання, поширення ЗШІ і нині залишається актуальним для практики, юридичної науки та нормотворчої діяльності.

Цікавою є також публікація "Контроль над штучним інтелектом як видом озброєння” М. Ламберт і П. Шарре, в якій зазначено: "повсюдна і демократизована природа ШІ робить контроль над озброєннями складним, але не неможливим. Хоча повна заборона на військове використання ШІ видається неймовірною, держави можуть заборонити деякі види застосування ШІ за умови чіткого визначення заборон і взаємного контролю над ними. Дії, вжиті сьогодні, можуть закласти основу для успіху в майбутньому” [2].

Метою статті. Дослідження існуючих норм МГП, аналіз міжнародних ініціатив та пошук можливостей для розвитку правового регулювання систем озброєнь керованих ШІ як важливої і актуальної частини міжнародного права ХХІ століття. Розглянуто ряд особливостей, що ускладнюють контроль над ШІ, зроблено акцент на пошуку конкретних кроків, які світова спільнота має зробити аби підвищити ймовірність успішного контролю над озброєннями з використанням ШІ.

Виклад основного матеріалу

міжнародний правовий озброєння штучний інтелект

Наприкінці 19-го і на початку 20-го століть держави уклали ряд угод про контроль над озброєннями, намагаючись контролювати зброю індустріальної епохи: розривні кулі, отруйний газ, зброю повітряного базування, підводні човни і військові кораблі. Гаазькі конвенції 1899 та 1907 років про закони і звичаї війни на суходолі, Женевські конвенції з протоколами 1949 року та наступні угоди на їх основі не мали на меті зупинити розвиток відповідної технології, радше вони обмежували типи зброї, які могли б застосувати ці технології.

Ця частина міжнародного права базується на незмінних принципах гуманність, розрізнення та пропорційність, які і нині залишаються основними критеріями для оцінки будь-яких нових систем озброєнь. В минулому ці принципи успішно використовувалися для оцінки існуючих та нових систем озброєнь, що призводило до заборони або обмеження застосування відповідних систем. І, хоча неможливість точно визначити характер і особливості застосування ще неіснуючих систем створює додаткову складність їх правової оцінки, вона має відштовхуватися від базових принципів МГП. Універсальним "запобіжником” у розробці нових систем озброєнь є застереження Мартенса щодо законів гуманності та вимог суспільної моралі. Водночас, те, що прямо не заборонене, можна вважати таким, що відповідає застереженню Мартенса.

У своїх діях європейські лідери справедливо припускали, що ті чи інші види зброї здатні завдати надмірних страждань під час їх застосування, водночас передбачити важливі аспекти розвитку цих технологій виявилося неможливо і в деяких випадках це перешкоджало їх регулюванню. Так, у випадку із забороною на сліпучі лазери, держави спробували обійти проблему прогнозування розвитку, прийнявши повну заборону на передбачуване використання технології. Конвенція про конкретні види звичайної зброї (ККЗ) Організації Об'єднаних Націй, укладена в Женеві 10 жовтня 1980 року, спрямована на заборону або обмеження застосування певних видів звичайної зброї, котрі вважаються такими, що завдають надмірні нівечення чи наслідки від яких є невибірковими, прямо забороняє застосовувати лазерну зброю, як таку "чия єдина бойова функція або одна з бойових функцій полягає в тому, щоб викликати постійну сліпоту”. При цьому заборона не обмежує конкретні технічні характеристики лазера, а фокусується на його передбачуваному використанні. На сьогоднішній день заборона на сліпучі лазери виявилася успішною.

З огляду на сучасний стан розвитку технології ШІ світова спільнота визначилася щодо необхідності збереження певного рівня людського контролю. Так, на саміті в Гаазі у 2023 році США виступили з політичною декларацією щодо міжнародної підтримки в галузі штучного інтелекту та розвідки. Серед 12 пунктів Декларації США знаковим є те, що використання ШІ у військових цілях відповідає міжнародному праву і що держави "зберігають контроль і участь людини в усіх діях”, які є критично важливими для рішень щодо застосування ядерної зброї.

Актуальним є питання який вид і рівень участі людини потрібні на кожній фазі розробки і впровадження повністю автономних систем озброєння керованих ШІ виявиться необхідним. Кожен етап, починаючи від концептуалізації, розробки та тестування, до програмування, навчання та цільового використання слід оцінювати з огляду належної якості взаємодії людини з такою системою задля забезпечення дотримання вимог МГП.

В оцінці існуючих та майбутніх збройних систем з ШІ слід також враховувати їх переваги: здатність забезпечити краще розрізнення між воєнними чи невоєнними цілями, можливість зробити оптимальний вибір між летальною та нелетальною силою, виключивши при цьому вплив "людського фактору” емоцій, паніки. Дослідження демонструють, що ймовірність помилки для таких систем теж, як правило, нижча, ніж у людини-оператора. Зафіксовано випадки, коли застосування систем керованих ШІ дозволяє захистити цивільне населення та військовослужбовців від небезпеки краще, ніж це зробила б людина, як-от у операціях з розмінування. Таким чином, застосування ШІ виглядає не тільки можливим, але й виправданим з точки зору дотримання базових принципів МГП.

У 2019 році американський аналітичний центр Research ANd Development (RAND) у звіті "Позиція Міністерства оборони щодо штучного інтелекту: оцінка та рекомендації” запропонував розділити використання ШІ армією на три категорії. Класифікація базувалася на кількох факторах: рівень управління, контрольованості середовища та наслідки у випадку технічних збоїв. Відповідно до неї визначено такі напрямки використання ШІ: Enterprise AI, Mission-Support AI та Operational AI. Кожен з них охоплює певну сферу військової діяльності: від матеріально-технічного забезпечення армії до роботи груп у зоні боїв.

Mission-Support AI є проміжною категорією використання ШІ щодо контролю середовища та наслідків технічного збою і покликаний покращити систему управління військами в умовах реальних бойових дій.

Operational AI передбачає використання ШІ у зброї, яка працює в динамічному та агресивному середовищі задля посилення ефективності її використання та задля зведення до мініміму залученням людини. Для України саме ця категорія є пріоритетом, оскільки дозволяє забрати бійців з лінії зіткнення, що в поточних реаліях гарантує збереження їхніх життів.

За прогнозом військових аналітиків найближчим часом слід очікувати стрімкого розвитку двох перспективних концепцій військового застосування ШІ: технологія роїв та системи ситуаційної обізнаності.

Такий напрямок, як ройові системи дронів, активно розвивається в провідних країнах-постачальниках ІТ-рішень, як-от Індія. Ця технологія потребує масового виробництва та складного програмного забезпечення. За матеріалами індійської преси: "російсько-українська війна показала, що малі дрони можуть завдавати значної шкоди, проводячи розвідку, корегуючи артилерійський вогонь чи підриваючи танки". Аналогічний проект розробляють США. Минулого року Пентагон анонсував свою розробку Replicator. Швидкий аналіз подій на полі бою надасть значну перевагу. Концепція Decision Centric Warfare (DCW), розроблена у Пентагоні, має пришвидшити ухвалення рішень завдяки використанню ШІ та безпілотних систем ураження. Про свої напрацювання в цьому напрямку на основі дрону "Ланцет" заявляла і Росія. Але нові технології на полі бою це не лише автономна зброя в повітрі чи під водою. Справжня потужність технології ШІ може розкритися на значно вищому рівні у системах військового управління.

У лютому 2022 року Міноборони США створило Головне управління цифрових технологій і штучного інтелекту (CDAO). Воно має прискорити впровадження систем ШІ для отримання переваг при ухваленні рішень на тактичному і стратегічному рівнях. Ставка на ефективне використання ШІ в роботі з розвідувальними даними є важливим кроком з підготовки до воєн у майбутньому. Уже зараз військові аналітики переконані, що наступні війни будуть "битвами даних".

Нейронна мережа допоможе в оптимізації розподілу ресурсів, плануванні місій і тактичних операцій. Для цього ШІ вчать працювати в реальному часі з великими обсягами даних із різних джерел, які часто неструктуровані чи дублюють одні одних. Інформація, що накопичується, є неоднорідною, отримати з неї цілісний продукт оперативних даних допомагає ШІ. Швидка обробка великих масивів інформації кратно поліпшує рівень обізнаності командування та надає суттєву перевагу одній армії над іншою. Системи ситуаційної обізнаності Delta від Palantir (США, її взято на озброєння на засіданні українського Кабміну 4 лютого 2023 року), Gospel (Ізраїль), Griselda (Україна) та їм подібні, використовують ШІ, який за допомогою універсальних алгоритмів дозволяє автоматизувати процеси збору розвідувальних даних. Системи з ШІ здатні за короткий час обробляти та систематизувати тисячі повідомлень із супутників, безпілотників, польових підрозділів та соцмереж, ЗМІ та зламаних баз даних ворога для визначення цілей для наступних ударів по них. Революційність систем з ШІ полягає в тому, що в процесі ухвалення рішення бере участь автоматизована комп'ютерна система.

Модулі цих та майбутніх систем ситуаційної обізнаності налаштовані таким чином аби дані з розрізнених джерел інформації оброблялися автоматично з прив'язкою до координат, синхронізувалися та візуалізувалися в цілісну картину в режимі реального часу, що забезпечуватиме сторони конфлікту даними про ворога і дозволить координувати сили на полі бою. Це дозволить мінімізувати кількість жертви серед цивільних, як це і зараз відбувається у щільно заселених районах Гази під час проведення військових операцій Ізраїлю проти терористичного угрупування ХАМАС.

Щодо етичності, тут немає легких відповідей, вважає журналіст, автор книги «Swarm Troopers: Як малі дрони завоюють світ», Девід Гемблінґ: "Штучний інтелект, у певному сенсі, більш логічний, ніж люди і ніж війна в Україні. Ми бачили там справжні звірства. Бачили навмисні удари по українських школах і лікарнях. Бачили масові страти цивільних, зґвалтування. Зі штучним інтелектом такі речі не трапляються. За всім цим стояли люди. А штучний інтелект він не вміє злитися. Він не втомлюється. Не приймає хибних рішень. Він лише робить саме те, що йому кажуть. Тож у певному сенсі, він може зробити війну значно гуманнішою, ніж нині".

Наразі ШІ на полі бою успішно розв'язує комплекс проблем, однак ці рішення ще не мають системного впливу. До того ж, попри їх фантастичні успіхи, вони мають істотні й фундаментальні обмеження: система ШІ в технічному плані це програмне забезпечення з повною автоматизацією процесів, спроектоване від самого початку для рішення конкретного типу задач; щоб зуміти їх виконувати, системам ШІ потрібен певний час для навчання, а також інформація щодо "еталонної правди"; у момент істотних змін зовнішніх умов, коли вхідні параметри починають поводити себе у відмінний від початкового навчання спосіб, виникає необхідність тимчасового зняття системи з експлуатації для перенавчання з урахуванням нових умов.

Зауважимо, ШІ буде важко контролювати з трьох основних причин, оскільки це: технологія загального призначення; технологія, що стрімко розвивається; існує складність перевірки дотримання угоди сторонами.

Як технологія загального призначення ШІ має як цивільне, так і військове застосування. З огляду на це повна заборона на всі військові застосування ШІ виглядає недосяжною. Натомість слід визначити, для яких конкретних застосувань ШІ контроль є найбажаніший і найможливіший. Вчені та політики вважають що таким є вплив ШІ на ядерну стабільність, автономну зброю і кібербезпеку.

Той факт, що ШІ вже позиціонується як технологія, що "змінює правила гри”, може стати перешкодою для стримування. Держави інвестують у ШІ і можуть не захотіти обмежувати його військове застосування з огляду на його високий оборонно-безпековий потенціал. Крім того, регулювання майбутніх військових застосувань ШІ може виявитися складнішим, якщо вони вже інтегровані в збройні сили країни або використовуються на полі бою.

Здійсненність контролю над озброєннями залежить від ряду чинників: здатності країн досягти ясності щодо рівня бажаного стримування; можливості як дотримуватися угоди, так і перевіряти її дотримання іншими державами; і наявності кількості країн, необхідної для того, щоб угода працювала. Імовірність успішності з контролю над озброєннями зростає разом із доцільністю та здійсненністю. Ще один важливий чинник успіху контролю над озброєннями здатність держави перевірити, чи дотримуються інші країни угоди. Адже, чим більш поширена зброя, тим важче її контролювати, оскільки за столом переговорів буде потрібна присутність більшої кількості країн. Ще одна з проблем, пов'язаних із прогнозуванням контролю над застосуваннями військового ШІ або накладанням обмежень, полягає у відсутності кінцевої концепції використання ШІ на полі бою.

Однак, попри перешкоди, контроль для деяких військових застосувань ШІ цілком досяжний. Він охоплює низку дій і може відбуватися на будь-якому етапі розроблення або застосування зброї та реалізується шляхом укладання відповідних угод: договори про нерозповсюдження, націлені на етап розробки технологій і спрямовані на запобігання доступу до технологій, що лежать в основі певної зброї; договори про обмеження озброєнь, що дозволяють розробку певних видів зброї, але намагаються обмежити кількість, якою можуть володіти країни, інші заходи. Держави намагатимуться контролювати менш вибіркову зброю або військові системи, бажати контролю щодо зброї, яку сприймають як руйнівну або дестабілізуючу. Водночас, держави чинитимуть опір регулюванню зброї з високою військовою цінністю, навіть якщо ця зброя здатна заподіяти істотну шкоду. Але навіть частково успішні угоди з контролю над озброєннями можуть бути ефективними для поліпшення стабільності, мінімізації шкоди цивільному населенню та зменшення страждань комбатантів.

У цьому питанні суттєвим чинником, який визначає прагнення держави до контролю над озброєннями та його дотримання є взаємність страх, що інша країна може відповісти такою самою зброєю або поведінкою. Під час всебічного дослідження порушень військового права у 48 міждержавних війнах з 1900 по 1991 рік Джеймс Д. Морроу виявив, що ключовим фактором дотримання норм є саме взаємність.

Хоча деякі заходи з контролю над озброєннями здійснюються за допомогою юридично зобов'язуючих угод, в історії існує безліч прикладів успішного укладення угод, які не мали обов'язкової юридичної сили та навіть негласної співпраці без офіційних угод. Згодом ця давня практика держав теж може перетворитися на звичайне міжнародне право або "загальну практику, прийняту як закон”.

Серед ужитих світовою спільнотою заходів у цьому напрямку є:

1) нарада Високих Договірних Сторін Конвенції про заборону або обмеження застосування конкретних видів звичайної зброї, які можуть вважатися такими, що завдають надмірних ушкоджень або мають невибіркову дію, Женева, листопад 2014 року;

2) прийняття Європарламентом резолюції, у якій зазначено, що використання автономних систем озброєння повинно бути заборонено на міжнародному рівні, 2018 рік;

3) перший саміт в Гаазі з відповідального використання ШІ у військовій сфері, REAIM 2023, 2023 рік, на якому було сформовано заклик до об'єднання зусиль з відповідального розвитку, застосування та використання штучного інтелекту у військовій сфері;

4) схвалення країнами Європейського Союзу законопроекту про штучний інтелект 02.02.2024 року, що передбачає заборону на деякі технології ШІ, суворо обмежує технології "високого ризику” та обмежує їх вимогою дотримуватись прозорості та проводити суворе тестування новинок.

І хоча ці заходи носять почасти декларативний та рекомендаційний характер, у них викладено сучасний досвід, що може стати основою міжнародної співпраці.

МГП не обмежується регулюванням та профілактикою дій, що підривали б мету пом'якшення наслідків збройних конфліктів і полегшення страждань їх жертв. Водночас, навіть за умови наявності найкращої волі всіх учасників конфлікту, порушення МГП неминучі в хаотичних умовах бою. І аби його норми взагалі можна було розглядати як дієву систему, такі порушення мають тягнути негативні наслідки для порушника.

Зрештою, доцільність і здійсненність контролю над озброєннями для будь-якого конкретного військового застосування ШІ може залежати від способу його застосування. Угоду про контроль над озброєннями можна скласти таким чином, щоб вона була спрямована на конкретні випадки застосування технології ШІ, які вважаються особливо проблематичними замість того, щоб узагалі обмежувати її застосування. Аналіз історичних прикладів, що конкретні кроки, зроблені людством сьогодні, підвищують шанси на успішний контроль над озброєннями ШІ в майбутньому. І це не виглядає нерозв'язною проблемою.

Висновки

Застосування норм міжнародно-правової відповідальності за дії держав не зазнають суттєвих змін у зв'язку з появою зброї з ШІ. Складність полягає у встановленні ланцюжку відповідальності залежно від того, на якому етапі виробничого процесу чи процесу застосування виникла помилка, яка призвела до порушення МГП та в тому, в який спосіб приймається рішення про застосування певного засобу ведення війни. А таке рішення традиційно приймається людиною.

Розглянувши аргументи на користь повної заборони військового застосування ЗШІ автор доходить висновку про неможливість такої повної заборони. Вона здатна дати таку перевагу на полі бою, що не можна очікувати, що держави відмовляться від цієї технології. Питання лише в тому як забезпечити відповідність ЗШІ фундаментальним принципам МГП та розробити діючі механізми контролю за їх дотриманням. На думку автора існуюча структура МГП є достатньою для регулювання відповідальності держав за дії ШІ зараз та в осяжному майбутньому. Право міжнародно-правової відповідальності виглядає цілком ефективним інструментом, для встановлення відповідальності держави за дії з використанням ЗШІ так само, як і з застосуванням будь-якої іншої зброї. Існування машинного розуму, що приймає рішення, не розриває ланцюг відповідальності і не створює прогалини. Тож, доцільною буде розробка систематизованого викладення норм МГП, щодо відповідальності держав за його порушення із застосуванням систем озброєння з ШІ, яке має включати положення щодо контролю та відповідальності.

Список використаних джерел

1. Додатковий протокол, який стосується захисту жертв міжнародних збройних конфліктів від 8 червня 1977 року: Протокол I до Женевських конвенцій від 12 серпня 1949 року.

2. Arms Control Artificial Intelligence Megan Lamberth, Paul Scharre

3. Меликов Р.Г. Відповідальність держав за порушення МГП при застосуванні автономних систем озброєнь. Юридичний науковий електронний журнал. 2022. №11. С. 883-886.

4. Меликов Р.Г. Застосування автономних систем озброєння під час російсько-української війни: нові виклики міжнародному гуманітарному праву. Юридичний науковий електронний журнал. 2023. №1. С. 619-622.

Размещено на Allbest.Ru