Проблемні аспекти використання штучного інтелекту та великих даних в міграційній сфері

Размещено на http://www.Allbest.Ru/

ВНЗ «Національна академія управління»

Проблемні аспекти використання штучного інтелекту та великих даних в міграційній сфері

Н.І. Лупей, аспірантка

Резюме

Лупей Н.І. Проблемні аспекти використання штучного інтелекту та великих даних у міграційній сфері

У статті розглянуто проблеми використання штучного інтелекту та великих даних у міграційній сфері. Зокрема, висвітлено такі проблемні аспекти, як забезпечення конфіденційності та захисту даних, прозорість прийняття рішень алгоритмами штучного інтелекту, законність отримання великих даних. Основною проблематикою виділено відсутність відповідальності учасників програм штучного інтелекту, пов'язаних із механізмами прийняття рішень, нечітко визначені процеси оскарження автоматизованих рішень та недостатнє інформування власників даних щодо цілей використання таких даних.

Ключові слова: міграційне право, управління кордонами, інформаційні технології, штучний інтелект, великі дані, персональні дані.

Резюме

Лупей Н.И. Проблемные аспекты использования искусственного интеллекта и больших данных в миграционной сфере

В статье рассмотрены проблемы использования искусственного интеллекта и больших данных в миграционной сфере. В частности, освещены такие проблемные аспекты, как обеспечение конфиденциальности и защиты данных, прозрачность принятия решений алгоритмами искусственного интеллекта, законность получения больших данных. Основной проблематикой выделено отсутствие ответственности участников программ искусственного интеллекта, связанных с механизмами принятия решений, нечетко определены процессы обжалования автоматизированных решений и недостаточное информирование владельцев данных о целях использования таких данных.

Ключевые слова: миграционное право, управление границами, информационные технологии, искусственный интеллект, большие данные, персональные данные.

Summary

N. Lupei. Problematic aspects of the use of artificial intelligence and big data in the field of migration

The article considers the problems of using artificial intelligence and big data in the field of migration. In particular, such problematic aspects as: ensuring the confidentiality and protection of data, transparency of artificial intelligence decision-making algorithms, the legality of obtaining big data are highlighted. The main problems are the lack of responsibility of the participants of artificial intelligence programs for decision-making mechanisms, the non-transparency of the processes of appealing against automated decisions and the lack of information of data owners about the purposes of using such data.

This article examines how information technology used in migration affects human rights through minor international regulation. The lack of such regulation is currently beneficial to some countries, as the use of information technology, including artificial intelligence, can make migrants more traceable and understandable. Data collection is disguised for humanitarian reasons and is justified under the guise of national security.

How technology works is a useful lens that illuminates government practice, democracy, power, and accountability. The basis of international human rights law is particularly useful for identifying potential harm, as technology and its development are inherently global and transnational. Fundamental rights of migrants, such as the right to confidentiality, freedom from discrimination, the right to a fair trial and the right to appeal, can be protected by introducing additional mechanisms for the supervision, accountability and control of data holders.

In April 2021, the European Commission proposed new rules and actions aimed at transforming Europe into a global center of reliable artificial intelligence. Combining the first-ever artificial intelligence framework with a new coordinated plan with Member States aims to ensure security and fundamental human rights, while enhancing the spread of artificial intelligence, investment and innovation.

Key words: migration law, border management, information technology, artificial intelligence, big data, personal data.

Постановка проблеми

В епоху глобалізації та цифровізації, урядове управління міграцією значною мірою покладається на інформаційні технології, як для утримання людей, так і для обробки даних мігрантів після їх прибуття. Враховуючи очевидний дисбаланс сил, інформаційні технології залишаються ареною політичної боротьби та обговорень, оскільки вони можуть бути використані як для підтримки миру, так і для розпалу конфліктів.

З одного боку, використання інформаційних технологій дає змогу більш ефективно та швидко реалізувати й захистити права та свободи людини, але, з іншого боку, створює більші ризики щодо порушення таких прав та свобод, зокрема, в питаннях, що стосуються захищеності та конфіденційності персональних даних. Суттєве занепокоєння виникає щодо прозорості процедури збирання даних, обґрунтування цілей їх використання, зрозумілості методів обробки, захищеності під час передачі даних та кінцеве вилучення після досягнення початкової мети.

Аналіз останніх досліджень і публікацій. Наукові дослідження щодо тематики використання інформаційних технологій у міграційній сфері були висвітлені в роботах таких українських науковців: М.В. Ковалій, О.Й. Хомин, М.І. Долішніи, Л.Ф. Муц, Н.П. Луцишин, В.П. Мікловда, М.А. Лендєл, Є.Б. Кіш, В.В. Сухенко, Ю.Г. Губан та інші.

Деякі аспекти використання штучного інтелекту та персональних даних в міграційній сфері розглянуті в роботах таких іноземних науковців: R. Akhmetova, A. Beduschi, S. Ghaffary, A. Maxmen, P. Molnar, L. Taylor, F. Meissner, T. Bircan та небагатьох інших.

Наразі, серед українських науковців відсутнє комплексне дослідження, що охоплює проблемні питання використання штучного інтелекту в міграційній сфері. Разом із тим внаслідок того, що Україна намагається інтегруватися до Європейського Союзу, відбувається трансформація прикордонного співробітництва та з'являються нові технології і методи обробки даних. У зв'язку з цим виникають нові правові виклики, які потребують врегулювання, з урахуванням міжнародної регламентації та становлять інтерес для подальшого дослідження.

Формулювання мети статті. Виходячи з цих міркувань, мета даної статті полягає в тому, щоб висвітлити актуальні проблемні аспекти використання штучного інтелекту і великих даних у міграційній сфері та їх правове регулювання.

штучний інтелект міграційний законний великий даний

Виклад основного матеріалу

Більшість дискусій про політику, владу та штучний інтелект є глибокими, але не значно поширеними. Застосування інформаційних технологій в управлінні міграцією часто будується на складних компромісах для суспільних переваг. Відповідальність та підзвітність учасників програм штучного інтелекту, пов'язаних із механізмами прийняття рішень нечітко визначені, водночас процес оскарження автоматизованих рішень залишається непрозорим.

Дослідження міграції людей зробило великий крок вперед завдяки використанню великих даних і штучного інтелекту. Численні держави та міжнародні організації, що займаються управлінням міграцією, звернулися до цих нових технологій, щоб покращити свої можливості керувати прикордонними просторами та контролювати переміщення через них. Спеціальні програми включають можливість прогнозування переміщення населення, адміністрування процесів і прикордонних перевірок, а також запобігання несанкціонованої міграції. Разом із тим автоматизоване прийняття рішень у заявках на отримання візи та притулку, а також детектор брехні для мігрантів і біженців, посягають на права людини, викликаючи суперечливі дискусії.

Проекти Big Data в міграційній сфері можна розділити на дві основні категорії. Для першої категорії головною метою є аналіз великих даних для надання швидких та ефективних послуг. Проекти другої категорії пілотують аналіз великих даних для спекулятивних цілей, таких як виявлення брехні з штучним інтелектом або автоматизація процесів прийняття рішень щодо адміністративних питань (наприклад надання притулку чи віз). Розрізнення цих двох категорій є важливим, оскільки вони створюють різні види проблем і вимагають різних регуляторних інструментів.

Один із перших додатків першої категорії з використанням штучного інтелекту було ініційовано у 2007 р. Департаментом імміграції Гонконгу в рамках проекту eBrain. У ньому було використано набір технологій штучного інтелекту для оптимізації адміністративних завдань, таких як оформлення віз, проїзних документів, посвідчень особи та дозволів на роботу.

У середині 2017 р. Організація Об'єднаних Націй ініціювала завдання мітки та кластеризації подій внутрішнього переміщення Unite Ideas. Переможцем стала команда Data for Democracy, що створила інструмент, здатний відстежувати й аналізувати біженців та інших осіб, які змушені тікати чи евакуюватися з дому. Головний наглядовий орган Європейського Союзу із захисту даних (далі - EDPS) запропонував різку критику моніторингу мігрантів і біженців у соціальних мережах, заявивши, що моніторинг користувачів соцмереж - це діяльність з обробки персональних даних, яка ставить під ризик права та свободи осіб. Такі дії часто призводять до використання персональних даних за межами їх початкової мети, початкового контексту та способами, які особа не могла розумно передбачити. EDPS підкреслив важливі принципи «обмеження цілей» та «мінімізації даних», згідно з якими персональні дані повинні збиратися лише для «визначених, явних і законних цілей».

Такі проекти моніторингу великих даних розгортають не лише агенції Європейського Союзу. Подібні підходи спостерігалися в проектах щодо безпеки кордонів та управління міграцією в США та Канаді. Наприклад, Митно-прикордонна служба США (далі - CBP) та Міграційна та митна правоохоронна служба (далі - ICE) купують комерційні бази даних для відстеження мобільних телефонів для ідентифікації іммігрантів без документів. Також повідомляється, що з 2010 р. по 2014 р. CBP витратила близько 2,5 мільйона доларів на придбання технології симулятора стільникового вузла для розробки підроблених веж, які можуть виявляти та перехоплювати текст і голосові повідомлення мобільного телефону витягуючи місцезнаходження та іншу інформацію з мобільних пристроїв, що намагаються підключитися до нього.

Крім того, у 2018 р. Агентство прикордонної служби Канади використовувало приватні сторонні служби ДНК, такі як Ancestry.com, щоб встановити громадянство осіб, які підлягають потенційній депортації. Це викликає глибоке занепокоєння, оскільки його ДНК не пов'язана з імміграційною мандрівкою, законністю, національністю та не повинна впливати на заяву про імміграцію чи надання притулку. Інша проблема полягає в примусовому характері вторгнення в конфіденційність. Особи, які давали свої зразки ДНК цим компаніям, могли не дати згоди і не знали, що їхні дані можуть використовуватися урядами для оцінки заяв на імміграцію.

Проблеми також виникають із другою категорією, спекулятивними пілотними проектами Big Data. Наприклад, у 2018 р. Департамент імміграції Канади запустив пілотний проект для оцінки процесів прийняття рішень щодо міграційних заяв та заяв про надання притулку з підтримкою штучного інтелекту. Агенції Міністерства внутрішньої безпеки США також використовують нові технології для автоматизації рішень, пов'язаних з міграцією та наданням притулку. Однак експерти з прав людини критикували цей підхід за використання вразливих мігрантів і шукачів притулку, як експериментальних суб'єктів для навчання алгоритмів штучного інтелекту.

Агенції ООН та неурядові організації також збирають дані про мігрантів та біженців, необхідних для надання послуг і складання довгострокових планів. Однак виникає занепокоєння щодо того, як такі дані збираються, де вони зберігаються, чи дають свою згоду власники цих даних і як вони дають свою згоду, а також які заходи вживаються для запобігання використанню даних людей проти них самих. Більше того, проблеми виходять за межі обговорення згоди, оскільки конфіденційність користувачів і вторинне використання також є центральними питаннями. Мігранти та біженці часто дають «інформаційну згоду» на збір первинних даних, навіть якщо вони недостатньо розуміють наслідки або потенційні загрози.

В останні роки глобальні технологічні компанії також почали приділяти більше уваги міграційним переміщенням. Різні технологічні корпорації пропонують послуги та продукти агентствам ООН, неурядовим організаціям, державам і мігрантам/біженцям на комерційній основі, тобто не в рамках проектів корпоративної соціальної відповідальності. Фінансові установи, телекомунікаційні компанії, оператори мобільного зв'язку та технологічні фірми прагнуть отримати прибуток від своїх інвестицій. Таким чином, обслуговування біженців і переміщених осіб стає все більш прибутковим бізнесом. Завдяки своїй технологічній перевазі та фінансовій могутності комерційні суб'єкти діють як постачальники для агентств ООН та неурядових організацій і представляють себе як заінтересовані сторони для управління міграційними переміщеннями та контролю за ними. Однак ні мігранти (як власники цих даних), ні вчені з питань міграції (як наукові експерти з цієї теми) не в змозі відстежувати або контролювати, як уряди та корпорації використовують такі дані.

Держави все більше покладаються на цифрові технології для управління кордонами, а оборонна промисловість та військово-розвідувальний сектор надають для цієї мети високотехнологічні інструменти. Наприклад, найбільші європейські продавці зброї також продають «розумні» інструменти управління кордонами.

Впровадження технологічних розробок для управління міграцією, таких як штучний інтелект, ґрунтується на великих обсягах даних з різних джерел, а машинне навчання є одним із фундаментальних кроків у вдосконаленні цих алгоритмів. Ось чому програми штучного інтелекту постійно потребують все більше даних. Основні проблеми, на які слід звернути увагу, стосовно даних, що використовуються для навчання алгоритмів, це: конфіденційність даних, алгоритмічна підзвітність та справедливість.

Можна припустити, що окремі держави свідомо схиляються до відсутності регулювання в цьому просторі, оскільки це робить мігрантів більш відстежуваними та зрозумілими. На цьому тлі використання передових технологій для спостереження та збору даних виправдане міркуваннями національної безпеки або очевидною «об'єктивністю» розробки політики на основі здобутих даних. Виникає занепокоєння щодо того, чи перевіряються ці рішення на біженцях та мігрантах, тому що вони навряд чи можуть заперечити і часто не мають навіть базових знань про те, як можуть бути використані їх дані.

Хоча людська діяльність постійно створює величезні обсяги даних, ці дані можуть бути проаналізовані лише приватним сектором та державними установами через обмеження доступності даних. Технології аналітики великих даних та штучного інтелекту рекламуються як передові рішення для поточних і нових соціальних, економічних і управлінських проблем. Тим часом, держави все більше покладаються на цифрові технології для управління кордонами та контролю міграційних переміщень, а оборонна промисловість та військово-розвідувальний сектор надають високотехнологічні інструменти для підтримки цих зусиль.

У квітні 2021 р. Європейська Комісія запропонувала нові правила та дії, спрямовані на перетворення Європи на глобальний центр надійного штучного інтелекту. Поєднання першої в історії законодавчої бази щодо штучного інтелекту та нового скоординованого плану з державами-членами має на меті гарантування безпеки та основних прав людей, одночасно посилюючи поширення штучного інтелекту, інвестицій та інновації в усьому Європейському Союзі. Нові правила щодо техніки доповнять цей підхід шляхом адаптації правил безпеки для підвищення довіри користувачів до нового, універсального покоління продуктів.

Нові правила будуть застосовуватися безпосередньо в однаковий спосіб у всіх державах-членах на основі перспективного визначення штучного інтелекту. Вони дотримуються підходу, що ґрунтується на ризиках, а саме:

- неприйнятний ризик: системи штучного інтелекту, які вважаються явною загрозою для безпеки, засобів до існування та прав людей, будуть заборонені;

- високий ризик: системи штучного інтелекту, визначені як високоризикові та підлягають суворому контролю;

- обмежений ризик: системи штучного інтелекту з особливими зобов'язаннями щодо прозорості;

- мінімальний ризик: незначні застереження.

Технології штучного інтелекту, які використовується в управлінні міграцією, наданням притулку та прикордонним контролем (наприклад, перевірка справжності проїзних документів) були віднесені до категорії з високим ризиком. Зокрема, всі системи дистанційної біометричної ідентифікації вважаються високим ризиком і підлягають суворим вимогам. Їхнє живе використання у загальнодоступних місцях для правоохоронних цілей переважно обмежене. Вузькі винятки суворо визначені та регламентовані (наприклад, якщо це необхідно для розшуку зниклої дитини, для запобігання конкретної та безпосередньої терористичної загрози або для виявлення, знаходження, ідентифікації чи притягнення до відповідальності винного чи підозрюваного в серйозному кримінальному злочині). Таке використання потребує судового дозволу чи іншого незалежного органу, а також відповідних обмежень у часі, географічному охопленні та пошукових базах даних.

Європейському парламенту та державам-членам необхідно буде прийняти пропозиції Комісії щодо європейського підходу до штучного інтелекту та машинобудування у звичайній законодавчій процедурі. Після ухвалення Регламент буде безпосередньо застосовуватися в усьому Європейському Союзі. Запропонований регламент гарантує, що європейці можуть довіряти тому, що може запропонувати штучний інтелект. У той час як більшість систем штучного інтелекту не становлять ризиків і можуть бути використані для вирішення багатьох суспільних проблем, певні системи штучного інтелекту створюють ризики, які необхідно усунути, щоб уникнути небажаних наслідків.

Висновки

Штучний інтелект та великі дані можуть створювати нові можливості, в результаті оцінки значної кількості даних для нових міграційних уявлень. Втім, вони також несуть ризики для мігрантів, що стосуються конфіденційності та захисту даних. Конкретні питання щодо захисту цих даних особливо актуальні, коли аналітика великих даних використовується стосовно великих наборів даних для виокремлення нових і прогнозних знань для прийняття рішень стосовно осіб. Коли збираються, обробляються та оцінюються масиви персональних даних та інформації' щодо поведінки осіб, іх використання може призвести до суттєвих порушень засадничих прав і свобод, що виходять за межі права на приватність. Додатковим занепокоєнням є роль технологічних корпорацій як підрядників для держав та установ, де збір даних для комерційних цілей поєднується з аналізом цих наборів даних за контрактом.

Хоча існуюче законодавство забезпечує певний захист, його недостатньо для вирішення конкретних проблем, які можуть викликати системи штучного інтелекту, в тому числі в міграційній сфері. Останні запропоновані правила Європейської Комісії щодо регулювання використання штучного інтелекту дозволять:

- встановити чіткі вимоги до систем штучного інтелекту для застосування високого ризику;

- визначити конкретні зобов'язання для користувачів штучного інтелекту та постачальників програм високого ризику;

- запропонувати оцінку відповідності до того, як система штучного інтелекту буде введена в експлуатацію або випущена на ринок;

- уніфікувати структуру управління на європейському та національному рівнях тощо.

У свою чергу Україна, яка взяла курс на євроінтеграцію, має взяти до уваги запропоновані правила для вдосконалення національного законодавства в міграційній сфері, спираючись насамперед на права людини. Це дасть змогу подолати існуючі виклики та бути готовим до майбутніх ускладнень у глобальному управлінні міграцією.

Література

1. Raymond Wai-Man Wong, Andy Hon Wai CHUN “eBrain - Using AI for Automatic Assessment at the Hong Kong Immigration Department”

2. Офіційний сайт Unite Ideas [Електронний ресурс]

3. Ghaffary S. (2020). The “smarter” wall: how drones, sensors, and AI are patrolling the border. Vox Media.

4. Riotta C. (2020). Trump administration bought access to cell phone database to target immigrants, report says. Independent.

5. Akhmetova R. (2020). Efficient discrimination: on how governments use artificial intelligence in the immigration sphere to create and fortify `invisible border walls. University of Oxford, COMPAS Working Paper 20-149.

6. Molnar P. (2019). Technology on the margins: AI and global migration management from a human rights perspective. Camb Int Law J8(2):305-30.

7. Akkerman M. (2016). Border wars: the arms dealers profiting from Europe's refugee tragedy. Transnational Institute and Stop Wapenhandel.

8. Beduschi A (2020). International migration management in the age of artificial intelligence. Migr Stud.

9. Taylor L., Meissner F. (2020). A crisis of opportunity: market-making, big data, and the consolidation of migration as risk. Antipode 52(1):270-90.

10. Bircan T., Korkmaz E.E. (2021). Big data for whose sake? Governing migration through artificial intelligence. Humanit Soc Sci Commun, 8, 241.

11. Офіційний сайт Європейської Комісії [Електронний ресурс]

Размещено на allbest.ru