Довіряючи невидимому: проблема прийняття рішень нейронною мережею

Размещено на http://www.allbest.ru/

Харківський національний університет радіоелектроніки, Україна

Довіряючи невидимому: проблема прийняття рішень нейронною мережею

Левченко Євгеній Васильович

аспірант факультету електронної та біометричної інженерії

Науковий керівник:

Штанько Валентина Ігорівна

доктор філол. наук, професор, зав. кафедри філософії

Анотація

нейронних мережа відмовостійкість автомобільний

Інтеграція нейронних мереж у проблему визначення ступеню відмовостійкісті автомобільних систем вводить новий етап у процеси прийняття рішень, що піднімають складні питання про довіру, надійність та етичні міркування [1]. Вивчаючи епістемологічні основи, етичні рамки та суспільні наслідки машинного інтелекту, це дослідження має на меті забезпечити детальне розуміння проблем, пов'язаних із довірою до прийнятих рішень на базі штучного інтелекту.

Ключові слова: нейронна мережа, штучний інтелект, соціальний, етичний, метод.

У філософії науки визначені наступні наслідки використання в науці комп'ютерних технологій: формування нових методів обробки і збереження інформації; виникнення нових методів дослідження; розвитку засобів і методів формалізації і математизації науки; виникнення нових наукових напрямків дослідження; зміни характеру наукового пошуку.[2, с. 155] Усі ці наслідки тотожні і для систем, які використовують штучний інтелект, незважаючи на те, що нейронні мережі значно складніші за базові чисельні методи.

Розглянемо узагальнену нейронну модель через призму відомих інструментів наукового пізнання. Такі принципи, як індукція, дедукція та фальсифікованість, використовуються як архітектори, формуючи системи на базі штучного інтелекту [3]. На рис. 1 зображено основні етапи пошуку "істини" за допомогою нейронної мережі.

Перехід від вихідних одиниць до одиниць «патернів» являє собою метод індукції - перехід від декількох рис, притаманних об'єкту, до конкретного знання про об'єкт. Далі відбувається процес фальсифікації за допомогою референтного зразка і на рис.1 він зображений як перехід від одиниць «патернів» до одиниць сумації. Після чого відбувається нова ітерація індукції, що формує висновок - відповідь, що являє собою ймовірнісний характер.

Довіра до нейронних мереж для прийняття важливих рішень у надійності автомобільних систем створює безліч проблем.

Рис. 1. Типова модель нейронної мережі

Однією з основних етичних проблем у розробці штучного інтелекту є можливість упереджених алгоритмів. Системи штучного інтелекту навчаються на терабайтах даних, і якщо ці дані містять упередження, штучний інтелект вивчатиме та збереже ці упередження в своїх процесах прийняття рішень. Це може призвести до помилкової оцінки стану деталі, що спричинить або невдоволеність з боку власників або, як більш глобальну проблему - колосальні збитки для підприємств. У нашому випадку можуть бути різні стадії втрати надійності автомобільних систем. Наприклад, критична позначка справності вузла доки він ще не має впливу на всю систему, або коли несправність механізму вже впливає на весь автомобіль чи його ключові вузли. Щоб подолати цю проблему, треба переконатися, що дані, які використовуються для навчання моделі, є різноманітними та репрезентативними для цільової аудиторії.

Ще одним етичним питанням є вплив розробленого методу на ринок зайнятості. Оскільки система, що розглядається, має потенціал для автоматизації різноманітних завдань в галузі виробництва, сервісу і обслуговуванні автомобілів, її використання може призвести до позбавлення роботи для мільйонів працівників. У той же час, є вірогідність створення нових робочих місць замість втрачених. Щоправда, мало вірогідно, що це будуть одні і ті самі верстви населення.

Соціальна проблема лежить в довірі людства до висновків, котрі були отримані як наслідок роботи штучного інтелекту через упередженість таких лідерів думок у сфері технологій.

У другій половині XX ст.,за класифікацією К. Ясперса, було сформовано 3 напрямки оцінки феномена науки та техніки, що можна вважати справедливими і до технологій штучного інтелекту у XXI столітті.

Оптимістичний - штучний інтелект (ШІ) сам здатен нейтралізувати або й подолати ті негативі наслідки, які несе людству його розвиток і поширення. Тобто, системи ШІ створюють засоби та передумови поступової гармонізації життя і процесів у суспільстві. До адептів такої точки зору можна віднести Б. Гейтса та М. Цукерберга.

Нейтральний - може бути переданий словами К. Ясперса: «Одне в будь-якому разі очевидно: техніка - лише засіб, а сама по собі вона не є ані доброю, ані поганою. Усе залежить від того, що із неї зробить людина, чому вона слугуватиме, в які умови людина її поставить» [3, с. 140]. «Оскільки техніка сама не ставить перед собою жодної мети, вона перебуває по той бік добра і зла або передує їм» [3, с. 134]. Єдина ремарка - поняття "техніка" варто замінити на "штучний інтелект". Сюди можна віднести Дж. Безоса.

Песимістичний - отримав назву технофобії - жаху перед технікою. Прихильники такої оцінки роблять висновок про марність очікування добра від розвитку науки та техніки. На їхню думку, цей розвиток не приведе ні до чого іншого, окрім перетворення самої людини на елемент технічних процесів. Прибічник цього бачення серед відомих сучасників - І. Маск.

Саме наведенні діячі і формують розуміння надійності або небезпеки технологій на базі ШІ у людей. Як наслідок, у суспільстві відсутнє, станом на зараз, розуміння підконтрольності та надійності розглянутої технології, що саме собою є логічною помилкою - "Звернення до авторитету".

Вище наведені факти залишають соціальну проблему застосування ШІ відкритою до першого резонансного випадку у цій сфері.

Проблема імовірнісного результату роботи нейронних мереж лежить в тому, що суспільство може пробачити помилковість висновків людині, а для машини єдиним шансом є безпомилковість рішень і висновків. На сьогоднішній день нормою вважається 60% у правильності висновків ШІ.

Висновки. Використання системи для визначення залишку міцності деталі в автомобілях на базі алгоритму нейронної мережі є доцільним з економічної і технологічної точок зору. Застосування наведеної технології зменшить витрати на виготовлення і обслуговування автомобілів, і в загальному будь-якого транспорту.

З іншого боку, наявна проблема довіри зі сторони суспільства до технологій на базі ШІ. Помилковий висновок такого алгоритму може призвести до матеріальної або навіть фізичної шкоди людині.

Етична проблема втрати робочих місць буде вирішена з плином часу, коли суспільство реформується і освітній процес підлаштовується під нові технології. Саме такий процес відбувався під час технологічної революції у XIX-ХХ ст.

Як наслідок, можна зробити висновок, що застосування розглянутої системи і, в цілому рішень на базі ШІ, неминуче для сучасного суспільства. Усі соціальні та етичні проблеми з часом відійдуть на задній план, тому що штучний інтелект такий самий інструмент для людства, як і свого часу паровий двигун.

Список використаних джерел

1. Luciano F. Soft Ethics and the Governance of the Digital. Philosophy & Technology, 2019.

2. Штанько В.І. Філософія і методологія сучасної науки: Підручник / В.І. Штанько. - Харків, 2017.

3. Ford M. Architects of Intelligence: The Truth About AI from the People Building It. O'Reilly Media. Link, 2018.

4. Ясперс К. Сучасна техніка // Нова технологічна хвиля на Заході. -М.: Пресс, 1986 - с. 119-146.

Размещено на Allbest.ru