Правове регулювання соціалізації штучного інтелекту

Размещено на http://www.allbest.ru/

УДК

ПРАВОВЕ РЕГУЛЮВАННЯ СОЦІАЛІЗАЦІЇ ШТУЧНОГО ІНТЕЛЕКТУ

М.В. Карчевський

Постановка проблеми. Науково-технічний прогрес вимагає розв'язання задач ефективного включення у соціальне буття сучасних технологічних досягнень. Така проблематика не є новою для юристів. Чинне законодавство містить значну частину норм, що регулюють використання тієї або іншої технології. Розроблені певні підходи розв'язання типових задач правового забезпечення в даній сфері. Сучасний рівень розвитку робототехніки актуалізує проблематику відповідного юридичного забезпечення.

Аналіз останніх досліджень і публікацій. Представлені у світовій юридичній науці підходи до правового регулювання робототехніки можна поділити на дві групи.

Частина дослідників пропонує розв'язання у класичній системі юридичних координат. Розглядаються права та обов'язки розробників роботів, їх власників, а також осіб, що здійснюють експлуатацію роботів. Наприклад, у доповіді Спеціального доповідача Ради ООН з прав людини Кристофа Хейнса відзначається: 1) необхідність формування узгодженої позиції щодо розповсюдження традиційних правових механізмів захисту життя та здоров'я на сферу застосування дистанційно-пілотованих літальних апаратів та бойових безпілотників; 2) доцільність розгляду питання про автономні системи озброєння виключно в контексті роззброєння [16].

«Класичний» підхід представлено й в результатах європейського проекту Robolaw. Мета проекту полягала у формулювання пропозицій для законодавчого відображення сучасних досягнень робототехніки. Були розглянуті питання правового регулювання в сфері застосування так званих автономних транспортних засобів (autonomous vehicles), хірургічних роботів, використання робототехніки в протезуванні, а також використання соціальних роботів, роботів, що забезпечують піклування (care robots) [4].

Інший підхід полягає у розгляді роботів як суб'єктів права. Наприклад, дослідник Массачусетського технологічного інституту Кейт Дарлінг вважає, що так звані соціальні роботи-компаньйони, які функціонують у тісному контакті з людьми (грають з дітьми, піклуються за хворими, прибирають приміщення тощо) та викликають емоційне ставлення до себе, можуть в майбутньому отримати обмежені права, схожі на чинні юридичні права кішок, собак та інших домашніх тварин [5]. Деякі дослідники пропонують розглядати роботів як можливих повноцінних суб'єктів права. Так, професор Вашингтонського університету Райан Келоу серед питань правового регулювання робототехніки виділяє дві групи: «роботи як об'єкти права» и «роботи як суб'єкти права» [3]. Пітер Асаро вивчає перспективи кримінальної відповідальності роботів [1].

Формування цілей. Багатовимірність проблеми штучного інтелекту актуалізує проблему ефективної організації відповідного наукового дискурсу. У роботі, що пропонується, ми спробуємо сформулювати ключові проблемні питання правового регулювання робототехніки та запропонувати можливі підходи до їх розв'язання.

Виклад основного матеріалу. Уявіть, що ми у Давньому Римі. Там існує рабство. І ось під час засідання Сенату один з патриціїв каже: «Шановні! Я вважаю, що раби теж люди, тому в нас мають бути рівні права». Така ідея навряд чи була б сприйнята, а того хто її висловив скоріше за все б звинуватили у державному злочині та абсолютному нерозумінні суспільних процесів та потреб. Час розставив крапки над «і», а ми отримали багато даних для наукового аналізу тенденцій та закономірностей історії людства.

Сьогодні є схожа проблема. Стрімкий розвиток технологій перевів питання штучного інтелекту з фантастичної площини у повсякдення. Постає надзвичайно велика кількість не тільки суто технічних, але й соціальних проблем, які можна позначити поняттям «соціалізація штучного інтелекту»[10]. Чи можуть роботи отримати права та нести

відповідальність? Якими будуть злочини штучних інтелектів та покарання за них? Як зміниться ринок праці? Які види робіт можна довіряти роботам, а які (якщо такі існуватимуть) залишаться тільки людськими. Що робити із зайнятістю в умовах зростання населення та прогнозованого скорочення ринку людської праці? Якою буде освіта роботів? Нарешті головне питання: як убезпечити людство?

Передумовою ефективної наукової дискусії з правового регулювання соціалізації роботів є визначення структури досліджуваного проблемного поля, формулювання ключових питань, які підлягають першочерговому аналізу. Спробуємо запропонувати один з можливих підходів до розв'язання означеного завдання.

Перше питання правового регулювання розвитку штучного інтелекту стосується доцільності заборони (обмеження) наукових розробок у даній сфері. Розуміючи небезпеки некерованого розвитку штучного інтелекту деякі вчені наполягають на забороні відповідних досліджень та контролі за поширенням технологій настільки суворим як в атомній енергетиці [16,8,2]. Сьогодні активно обговорюється небезпека систем озброєнь із штучним інтелектом (автономна зброя). Елон Маск, Стівен Хокинг, Стів Возняк та провідні світові вчені в сфері розвитку штучного інтелекту (ШІ) вважають, що людство може зайти занадто далеко в гонці озброєнь та закликають зробити все можливе, щоб не настала катастрофа [8]. Волонтерська організація Future of Life Institute опублікувала відкритий лист, у якому закликає відмовитися від «гонки ШІ-озброєнь» (AI Arms Race) [2]. Елон Маск вважає штучний інтелект основною загрозою людства: "Роботи можуть розпочати війну, випускаючи фейкові новини та прес-релізи, підроблюючи облікові записи електронної пошти та маніпулюючи інформацією. Перо сильніше меча" [9]. Відносна дешевизна розробки систем штучного інтелекту (обумовлена успіхами технології) з невідворотністю забезпечить розвиток не тільки систем автономного озброєння. Вельми вірогідною є поява роботів (в тому числі складних апаратно-програмних комплексів для Інтернет) спеціально призначених для вчинення злочинів. При цьому інтелектуальні та фізичні здатності роботів на певному етапі перевищать людські. Наприклад, вже зараз існують роботи-пілоти, які перемагають людей. Розроблений компанією Psibernetix штучний інтелект взяв участь у повітряних військових боях на симуляторі. Під час цих боїв він переміг колишнього пілота ВПС США. Фахівець з бойової тактики Джині Лі визнав штучний інтелект «найбільш агресивною, динамічної, живою та реалістичною програмою з усіх, які він коли небудь зустрічав» [6].

Інші вчені кажуть про неможливість зупинити розвиток технологій. Як справедливо зазначає знаний український вчений В.І. Борисов, технології, які б небезпечні вони не були, обов'язково будуть винайдені та розповсюджені незалежно від нашого бажання та відношення до них. На нашу думку такий підхід є більш прагматичним та реалістичним. Заборона досліджень в сфері штучного інтелекту принципово не може стати дієвою. Доречним буде приклад із забороною розробки автономної зброї. На відміну від досліджень в сфері ядерної зброї, розробка систем автономного озброєння в рази дешевше, отже є більш доступною. З розвитком інформаційних технологій дана діяльність ставатиме ще доступнішою, а отримані зразки зброї - ще більш небезпечними. В таких умовах законодавча заборона розробки автономної зброї приведе до ситуації, коли органи безпеки та правопорядку будуть оснащені на порядок гірше ніж злочинці, терористичні організації тощо.

Таким чином, відповідь на перше питання правового регулювання соціалізації штучного інтелекту наступна: попри ризик небезпек, абсолютна заборона розробки систем штучного інтелекту є неможливою, правове регулювання в даній сфері має забезпечувати стимулювання соціально ефективного використання технологій та мінімізацію ризиків зловживання технологією.

Наприклад, наприкінці 80-х років минулого століття Columbus-America заявила права на майно, що знаходилося на затонулому човні S.S. Central America. Особливість позову полягала у тому, чи визнає суд, що човен та скарби, які були знайдені за допомогою дистанційно керованого пристрою, є такими, що знайдені людиною (позивачем). Суд не тільки визнав права, але й сформулював правила для подальшого розв'язання подібних позовів [3]. Таке рішення привело до вибухового розвитку технологій підводних автономних пристроїв як у комерційній, так й оборонній сфері. Вже у 2012 році американська компанія Liquid Robotics повідомила про те, що їх роботизований Wave Glider здійснив подорож через Тихий океан. Залишивши бухту Сан-Франциско 17 листопада 2011 року, 6 грудня 2012 він прибув в Австралію[14]. Зрозуміло, що фізичні розміри Wave Glider певною мірою корегують оптимістичні настрої щодо перспектив роботизації в сфері судноплавства, але...

Риторичне питання: якщо в Україні буде винайдено революційну технологію для автономних транспортних засобів або плавальних засобів, як швидко вона отримує законодавчі підстави для широкого використання?

В той же час людство має забезпечити контроль за розвитком технологій. Наступне питання правового регулювання в сфері соціалізації штучного інтелекту - яким чином здійснювати правове регулювання використання штучного інтелекту.

Як зазначалося раніше, у науковій літературі представлено два підходи. У класичній системі юридичних координат вже сьогодні маємо певні рішення: визначаються права та обов'язки розробників, власників та осіб, що експлуатують роботів. У такий спосіб розв'язуються питання використання автономних транспортних засобів (autonomous vehicles), так званих «соціальних» (care robots) та хірургічних роботів, інноваційних засобів протезування тощо [4].

Інший підхід повертає нас до прикладу з Давнім Римом та полягає у розгляді роботів як суб'єктів права. Сьогодні таке рішення може виглядати як фантастика з ознаками безпідставного юридичного романтизму. Найбільш вагомий аргумент у тому, що створений штучно робот слідує закладеній програмі та, відповідно, не має свободи вибору, свободи волі. Оскільки остання є атрибутом суб'єкта права, питання нібито закрите. Проте, не викликає сумнівів, що на певному етапі розвитку технологій та ускладнення відносин в сфері робототехніки, процес прийняття рішення роботом, нехай і на підставі програми, стане настільки складним, що його можна буде розглядати як акт поведінки людини. Тут варто зазначити, що Європейський парламент у січні 2017 року взяв до розгляду проект резолюції про правовий статус роботів як "електронної особистості (електронної особи)"[11].

Отже, представлені підходи не є взаємовиключними, їх можна розглядати як різні етапи правового регулювання робототехніки. Зрозуміло, що розгляд досліджуваних питань за класичною схемою «розробник- власник-користувач» є актуальним та затребуваним для сучасного рівня технологій. Запропоновані в межах цього розуміння, рішення можуть забезпечити достатньо ефективне юридичне забезпечення сучасних військових, промислових, соціальних роботів тощо. Очевидно і те, що ускладнення технологій вимагатиме переходу до нової, більш складної схеми правового регулювання. Скоріше за все правове регулювання соціалізації штучного інтелекту пройде шлях від розгляду робота як об'єкта відносин до наділення його правами та обов'язками.

В означеному контексті варто звернути увагу на один з висновків дослідження Райана Келоу «Роботи в американському праві» [3]. На його думку в праві існує тенденція розмивання межі між розуміння робота або як інструмента, або як особистості. Лінія аргументації Грунтується на аналізі судових прецедентів. Наведемо основні приклади. Р. Келоу починає зі справи White v. Samsung Elec. Am, Inc. На початку 90-х ведуча телевізійного шоу «Колесо Фортуни» Вана Вайт подала позов на корпорацію Самсунг за порушення її права публічності. Корпорація випустила серію рекламних плакатів із зображенням робота на фоні, що нагадував шоу «Колесо фортуни». При цьому на роботі була перука та плаття, що нагадували Вану Вайт. Суд відхилив позов стверджуючи, що зображення робота не може вважатися порушенням права публічності позивача через очевидні будь- якому спостерігачеві зовнішні відмінності.

Далі автор наводить справу Wendt v. Host International, Inc. Актори телевізійного шоу Cheers, подали позов про порушення права публічності компанією, яка виготовила двох «роботів», що зовні нагадували акторів, та використовувала їх в барах аеропортів в обстановці, що нагадувала шоу. В даному випадку зовнішня схожість позивачів та «роботів» була зафіксована та розглянута як така, що відповідає вимогам законодавства про порушення права публічності. правовий штучний інтелект робототехніка

Наступна категорія справ, розглянутих Р. Келоу, стосується здатності роботів до творчості. Наводиться справа Comptroller of the Treasury v. Family Entertainment Centers. Основне питання полягало у особливостях оподаткування кафе з встановленими манекенами, що виконували музикальні композиції. Якщо розглядати таке виконання композицій як «виставу» - змінювався розмір податків. Суд не визнав наявність «вистави» на підставі тлумачення даного поняття у словнику Вебстер. Зазначалося що в даному випадку відсутня «здатність до спонтанних проявів». В то й же час, Р. Келоу зазначає, що сучасні композитори активно використовують технології саме для нових, творчих ходів.

Нарешті, розмірковуючи про наявність у роботів волі, автор відзначає таку особливість сучасних технологій як емерджентність. Остання полягає у тому, що властивості системи не зводяться до суми властивостей її компонентів. Наявність таких властивостей системи, які не властиві її елементам [12]. Цікавий приклад емерджентності наводять Г.Н. Андреєв та Л.Л. Савелло: «Якщо будь-яка людина вперше в житті побачить окремі частини велосипеду (руль, колесо, сідло, передавальний ланцюг тощо), навряд чи по виду (властивості) кожної окремої деталі він виведе головну властивість цієї сукупності: здатність після об'єднання прискорювати пересування їх власника; ця здатність і є емерджентністю системи, яка називається велосипед»[7]. Тобто не дивлячись на те, що кожен елемент складної системи штучного інтелекту підпорядкований програмі та, відповідно, волі не має, з розвитком технологій, враховуючи емерджентність цих систем, з'являться підстави казати про наявність волі у штучного інтелекту.

Наведені прецеденти та міркування дозволяють Р. Келоу стверджувати про наявність тенденції «розмивання межі» розуміння робота як інструменту або як особистості. «Розмивається межа» у частині зовнішніх ознак, здатності до творчості та, в решті решт, наявності волі.

Зрозуміло, що аргументи Р. Келоу не можуть бути сприйняті в повному обсязі, є достатньо спірними та орієнтовані більшою мірою на прецеденті системи. Разом з цим вони чітко свідчать про те, що «класична» юридична схема, розуміння роботів як інструментів, не в змозі забезпечити правового відображення всього процесу соціалізації штучного інтелекту.

Отже, якщо перше питання правового регулювання соціалізації штучного інтелекту стосувалося стратегічної проблеми заборони або регулювання штучного інтелекту. Друге питання пов'язане з тим як забезпечити нормативно-правове відображення використання роботів. Третє, в свою чергу, пов'язане з організацією виконання норм, що регулюють використання штучного інтелекту. Збереження можливості контролювати суспільні процеси потребуватиме від людства створення ефективної системи юстиції для роботів.

З отриманням роботами статусу суб'єкта права виникнуть нові сфери юстиції. Крім традиційної юстиції можна буде казати про появу двох нових видів, умовно назвемо їх «змішана юстиція» та «юстиція штучного інтелекту». До змішаної юстиції будуть відноситися форми вирішення правових спорів між фізичними, юридичними особами, суспільством та роботами. До юстиції штучного інтелекту будуть відноситися форми вирішення правових спорів між роботами. Крім цього функціонування даної системи юстиції буде забезпечувати протидію роботам, що представляють загрозу для соціального розвитку та стабільності.

Цілком зрозуміло, що копіювати людську систему юстиції для штучного інтелекту немає сенсу. Принципово різні фізичні характеристики та потреби вимагають апріорі відмовитися від такого підходу. Разом з цим створення даної системи є необхідною умовою для того, щоб забезпечити людству можливість контролювати розвиток суспільних процесів. Скоріше за все юстиція штучного інтелекту буде створена на основі роботів. Фізичних та інтелектуальних даних людини очевидно буде недостатньо для ефективного функціонування даної системи юстиції. Створення такої системи передбачає узагальнення в чіткі алгоритми досвіду, отриманого за час існування традиційної юстиції. Таке узагальнення має стати одним з основних напрямків сучасної юридичної науки. Повторимо, завдання створення копії сформованих практик в сфері традиційної юстиції для забезпечення юстиції роботів не стоїть, проте досвід, накопичений людством у сфері юстиції, є надзвичайно важливим джерелом інформації для забезпечення правового регулювання діяльності роботів.

Наприкінці варто зауважити, що сформульовані пропозиції Грунтуються на гіпотезі про розвиток штучного інтелекту. Сьогодні у науці представлена й інша позиція. Девід Мінделл у роботі «Повстання машин скасовується! Міфи про роботизацію» на підставі емпіричного дослідження з питань застосування сучасних роботів формулює три «міфи», хибні уявлення про перспективи робототехніки [13]. Перший міф - про лінійний прогрес, припущення про те, що техніка пройде шлях від безпосереднього керування людиною до повністю автономних роботів. Другий міф - міф про заміщення, ідея про те, що машини поступово будь виконувати всі людські завдання. Третій міф - міф про повну автономність, «утопічна ідея про те, що сьогодні або в майбутньому роботи зможуть діяти повністю самостійно». Звичайно можна критично ставитися до наведеної позиції, але вона актуалізує проблематику гіпотетичного бачення соціальних тенденцій як підГрунтя для формулювання пропозицій щодо розвитку правового регулювання. У роботі ми спробували сформулювати перспективні напрями правового регулювання беручи до уваги гіпотезу появи автономного штучного інтелекту. Можливе й інше бачення. Наприклад, технічний прогрес може піти шляхом фізичної інтеграції людини та технологій. Як у такому випадку зміниться правовий статус людини, що підсилює свої можливості численними технологічними імплантатами? Як бути у випадку використання імплантатів із штучним інтелектом? Чи всі аспекти такого бачення розвитку робототехніки отримають якісне юридичне відображення в «класичній» схемі (власник-розробник-користувач)? Отже, перспективним напрямом подальших досліджень в сфері правового регулювання соціалізації штучного інтелекту варто визнати також проблематику фізичної інтеграції людини й технологій. Частково це питання досліджувала Н.А. Савінова [15].

Висновки

Актуалізація проблематики правового регулювання соціалізації штучного інтелекту вимагає організації відповідного наукового дискурсу. Один з можливих шляхів розв'язання даного завдання полягає у формулюванні ключових питань, відповіді на які мають стратегічне значення для досліджуваної проблеми. Пропонується три ключових питання щодо правового забезпечення штучного інтелекту та наступні варіанти відповідей на них.

1. Розвиток штучного інтелекту необхідно забороняти чи регулювати? Попри ризик небезпек, абсолютна заборона розробки систем штучного інтелекту є неможливою, правове регулювання в даній сфері має забезпечувати стимулювання соціально ефективного використання технологій та мінімізацію ризиків зловживання технологією.

2. Яким буде правове регулювання в сфері робототехніки? Актуальною та затребуваною для сучасного рівня технологій є класична схема «розробник-власник-користувач». Ускладнення технологій вимагатиме переходу до нової, більш складної схеми правового регулювання. Скоріше за все правове регулювання соціалізації штучного інтелекту пройде шлях від розгляду робота як об'єкта відносин до наділення його правами та обов'язками.

Якщо роботи отримають права та обов'язки, як зміниться система юстиції? Крім традиційної юстиції можна буде казати про появу двох нових видів, умовно назвемо їх «змішана юстиція» та «юстиція штучного інтелекту». Функціонування останньої буде забезпечувати протидію роботам, що представляють загрозу для соціального розвитку та стабільності. Скоріше за все юстиція штучного інтелекту буде створена на основі роботів. Створення такої системи передбачає узагальнення в чіткі алгоритми досвіду, отриманого за час існування традиційної юстиції.

Використані джерела

1. Asaro P. Robots and Responsibility from a Legal Perspective / Peter Asaro / / IEEE Conference on Robotics and Automation, Workshop on Roboethics, Rome, April 14, 2007.

2. Бондаренко А. Искусственный интеллект против человечества: Маск, Хокинг и Возняк предостерегают, что пора остановиться / А. Бондаренко / / AIN.UA - 27.07.2015

3. Карчевский В. П. Человек и робот. Развитие процессов обучения // Искусственный интеллект. - 2012. - №4. - С. 43-52.

4. Математика и кибернетика в экономике; Словарь-справочник. - Москва: Экономика, 1975.

5. Савінова Н. А. Кримінально-правове забезпечення розвитку інформаційного суспільства в Україні: теоретичні та практичні аспекти : монографія / Н. А. Савінова. - К. 2012. - 340 с.

Анотація

Розвиток штучного інтелекту актуалізує проблематику правового регулювання розробки та використання сучасних технологій. Велика кількість та якісне розмаїття питань, що підлягають науковому аналізу, вимагають ефективної організації відповідного наукового дискурсу. У роботі здійснено спробу сформулювати ключові проблемні питання правового регулювання робототехніки та запропонувати можливі підходи до їх розв'язання.

Ключові слова: штучний інтелект, робот, суб'єкт права, соціалізація штучного інтелекту, відповідальність штучного інтелекту.

Развитие искусственного интеллекта актуализирует проблематику правового регулирования разработки и использования современных технологий. Большое количество и качественное разнообразие вопросов, подлежащих научному анализу, требуют эффективной организации соответствующего научного дискурса. В работе предпринимается попытка сформулировать ключевые проблемные вопросы правового регулирования робототехники и предложить возможные подходы для их решения.

Ключевые слова: искусственный интеллект, робот, субъект права, социализация искусственного интеллекта, ответственность искусственного интеллекта.

The creation of artificial intellect actualizes the problem of legal regulation of modern technologies development and use. A great number and quality diversity of questions to be scientifically analyzed require an effective organization of the corresponding scientific discourse.The article presents an attempt to formulate the key problems of robot technology legal regulation and proposes the possible approaches to their solution. There are three key problems.

Is the artificial intellect development to be banned or regulated?

In spite of the risk of dangers, the absolute prohibition of artificial intellect systems development is impossible. The legal regulation in that sphere must provide for stimulation of socially effective use of technologies and minimization of technology misuse risk.

What will the legal regulation in the sphere of robot technology be like?The classical scheme of developer - owner - user is actual and important for modern level of technologies. The complication of technologies will require the transition to a new, more complicated scheme of legal regulation. The legal regulation of artificial intellect socialization will most probably work its way up from considering a robot to be an object of relations to giving it the rights and duties.

How will the system of justice change if the robots get the rights and duties?

In addition to traditional justice there will appear two new kinds of justice that may be called mixed justice and artificial intellect justice. The latter will function as a counteract to the robots that may be a threat for social development and stability. The artificial intellect justice will most probably be created on the basis of robots. The creation of such system involves the generalization of experience algorythms gained by the traditional justice.

Key words: artificial intellect, robot, subject of law, socialization of artificial intellect, responsibilities of artificial intellect.

Размещено на Allbest.ru