Довіряючи невидимому: проблема прийняття рішень нейронною мережею

Інтеграція нейронних мереж у проблему визначення ступеню відмовостійкості автомобільних систем. Забезпечення розуміння проблем, пов'язаних із довірою до прийнятих рішень на базі штучного інтелекту. Перехід від вихідних одиниць до одиниць "патернів".

Рубрика Программирование, компьютеры и кибернетика
Вид статья
Язык украинский
Дата добавления 22.03.2024
Размер файла 203,6 K

Отправить свою хорошую работу в базу знаний просто. Используйте форму, расположенную ниже

Студенты, аспиранты, молодые ученые, использующие базу знаний в своей учебе и работе, будут вам очень благодарны.

Размещено на http://www.allbest.ru/

Харківський національний університет радіоелектроніки, Україна

Довіряючи невидимому: проблема прийняття рішень нейронною мережею

Левченко Євгеній Васильович

аспірант факультету електронної та біометричної інженерії

Науковий керівник:

Штанько Валентина Ігорівна

доктор філол. наук, професор, зав. кафедри філософії

Анотація

нейронних мережа відмовостійкість автомобільний

Інтеграція нейронних мереж у проблему визначення ступеню відмовостійкісті автомобільних систем вводить новий етап у процеси прийняття рішень, що піднімають складні питання про довіру, надійність та етичні міркування [1]. Вивчаючи епістемологічні основи, етичні рамки та суспільні наслідки машинного інтелекту, це дослідження має на меті забезпечити детальне розуміння проблем, пов'язаних із довірою до прийнятих рішень на базі штучного інтелекту.

Ключові слова: нейронна мережа, штучний інтелект, соціальний, етичний, метод.

У філософії науки визначені наступні наслідки використання в науці комп'ютерних технологій: формування нових методів обробки і збереження інформації; виникнення нових методів дослідження; розвитку засобів і методів формалізації і математизації науки; виникнення нових наукових напрямків дослідження; зміни характеру наукового пошуку.[2, с. 155] Усі ці наслідки тотожні і для систем, які використовують штучний інтелект, незважаючи на те, що нейронні мережі значно складніші за базові чисельні методи.

Розглянемо узагальнену нейронну модель через призму відомих інструментів наукового пізнання. Такі принципи, як індукція, дедукція та фальсифікованість, використовуються як архітектори, формуючи системи на базі штучного інтелекту [3]. На рис. 1 зображено основні етапи пошуку "істини" за допомогою нейронної мережі.

Перехід від вихідних одиниць до одиниць «патернів» являє собою метод індукції - перехід від декількох рис, притаманних об'єкту, до конкретного знання про об'єкт. Далі відбувається процес фальсифікації за допомогою референтного зразка і на рис.1 він зображений як перехід від одиниць «патернів» до одиниць сумації. Після чого відбувається нова ітерація індукції, що формує висновок - відповідь, що являє собою ймовірнісний характер.

Довіра до нейронних мереж для прийняття важливих рішень у надійності автомобільних систем створює безліч проблем.

Рис. 1. Типова модель нейронної мережі

Однією з основних етичних проблем у розробці штучного інтелекту є можливість упереджених алгоритмів. Системи штучного інтелекту навчаються на терабайтах даних, і якщо ці дані містять упередження, штучний інтелект вивчатиме та збереже ці упередження в своїх процесах прийняття рішень. Це може призвести до помилкової оцінки стану деталі, що спричинить або невдоволеність з боку власників або, як більш глобальну проблему - колосальні збитки для підприємств. У нашому випадку можуть бути різні стадії втрати надійності автомобільних систем. Наприклад, критична позначка справності вузла доки він ще не має впливу на всю систему, або коли несправність механізму вже впливає на весь автомобіль чи його ключові вузли. Щоб подолати цю проблему, треба переконатися, що дані, які використовуються для навчання моделі, є різноманітними та репрезентативними для цільової аудиторії.

Ще одним етичним питанням є вплив розробленого методу на ринок зайнятості. Оскільки система, що розглядається, має потенціал для автоматизації різноманітних завдань в галузі виробництва, сервісу і обслуговуванні автомобілів, її використання може призвести до позбавлення роботи для мільйонів працівників. У той же час, є вірогідність створення нових робочих місць замість втрачених. Щоправда, мало вірогідно, що це будуть одні і ті самі верстви населення.

Соціальна проблема лежить в довірі людства до висновків, котрі були отримані як наслідок роботи штучного інтелекту через упередженість таких лідерів думок у сфері технологій.

У другій половині XX ст.,за класифікацією К. Ясперса, було сформовано 3 напрямки оцінки феномена науки та техніки, що можна вважати справедливими і до технологій штучного інтелекту у XXI столітті.

Оптимістичний - штучний інтелект (ШІ) сам здатен нейтралізувати або й подолати ті негативі наслідки, які несе людству його розвиток і поширення. Тобто, системи ШІ створюють засоби та передумови поступової гармонізації життя і процесів у суспільстві. До адептів такої точки зору можна віднести Б. Гейтса та М. Цукерберга.

Нейтральний - може бути переданий словами К. Ясперса: «Одне в будь-якому разі очевидно: техніка - лише засіб, а сама по собі вона не є ані доброю, ані поганою. Усе залежить від того, що із неї зробить людина, чому вона слугуватиме, в які умови людина її поставить» [3, с. 140]. «Оскільки техніка сама не ставить перед собою жодної мети, вона перебуває по той бік добра і зла або передує їм» [3, с. 134]. Єдина ремарка - поняття "техніка" варто замінити на "штучний інтелект". Сюди можна віднести Дж. Безоса.

Песимістичний - отримав назву технофобії - жаху перед технікою. Прихильники такої оцінки роблять висновок про марність очікування добра від розвитку науки та техніки. На їхню думку, цей розвиток не приведе ні до чого іншого, окрім перетворення самої людини на елемент технічних процесів. Прибічник цього бачення серед відомих сучасників - І. Маск.

Саме наведенні діячі і формують розуміння надійності або небезпеки технологій на базі ШІ у людей. Як наслідок, у суспільстві відсутнє, станом на зараз, розуміння підконтрольності та надійності розглянутої технології, що саме собою є логічною помилкою - "Звернення до авторитету".

Вище наведені факти залишають соціальну проблему застосування ШІ відкритою до першого резонансного випадку у цій сфері.

Проблема імовірнісного результату роботи нейронних мереж лежить в тому, що суспільство може пробачити помилковість висновків людині, а для машини єдиним шансом є безпомилковість рішень і висновків. На сьогоднішній день нормою вважається 60% у правильності висновків ШІ.

Висновки. Використання системи для визначення залишку міцності деталі в автомобілях на базі алгоритму нейронної мережі є доцільним з економічної і технологічної точок зору. Застосування наведеної технології зменшить витрати на виготовлення і обслуговування автомобілів, і в загальному будь-якого транспорту.

З іншого боку, наявна проблема довіри зі сторони суспільства до технологій на базі ШІ. Помилковий висновок такого алгоритму може призвести до матеріальної або навіть фізичної шкоди людині.

Етична проблема втрати робочих місць буде вирішена з плином часу, коли суспільство реформується і освітній процес підлаштовується під нові технології. Саме такий процес відбувався під час технологічної революції у XIX-ХХ ст.

Як наслідок, можна зробити висновок, що застосування розглянутої системи і, в цілому рішень на базі ШІ, неминуче для сучасного суспільства. Усі соціальні та етичні проблеми з часом відійдуть на задній план, тому що штучний інтелект такий самий інструмент для людства, як і свого часу паровий двигун.

Список використаних джерел

1. Luciano F. Soft Ethics and the Governance of the Digital. Philosophy & Technology, 2019.

2. Штанько В.І. Філософія і методологія сучасної науки: Підручник / В.І. Штанько. - Харків, 2017.

3. Ford M. Architects of Intelligence: The Truth About AI from the People Building It. O'Reilly Media. Link, 2018.

4. Ясперс К. Сучасна техніка // Нова технологічна хвиля на Заході. -М.: Пресс, 1986 - с. 119-146.

Размещено на Allbest.ru


Подобные документы

  • Застосування нейронних мереж при вирішенні різних технічних проблем. Архітектура штучних нейронних мереж. Дослідження штучного інтелекту. Гіпотеза символьних систем. Представлення за допомогою символів. Синтаксичний та семантичний аналіз розуміння мови.

    курсовая работа [985,8 K], добавлен 14.01.2010

  • Поняття штучного інтелекту, його порівняння з природним. Коротка характеристика особливостей використання штучного інтелекту в медицині, військовій справі та комп'ютерних іграх. Проблема взаємодії носіїв універсального штучного інтелекту та суспільства.

    контрольная работа [29,6 K], добавлен 07.01.2014

  • Інтуїтивне розуміння поняття "інтелект". Основні проблемні середовища штучного інтелекту. Проблема неточних і неповних знань. Тест Тьюринга і фатичний діалог. Метод комп’ютерної реалізації фатичного діалогу. Принцип віртуальної семантичної сітки.

    курсовая работа [560,0 K], добавлен 27.12.2007

  • Планування цілеспрямованих дій і прийняття рішень. Характеристика методу повного перебору - універсального методу вирішення оптимізаційних задач, якщо множина допустимих рішень обмежена. Експоненційна складність евристичного пошуку. Складність алгоритмів.

    реферат [62,2 K], добавлен 13.06.2010

  • Методи резервування інформації на базі архітектурних рішень та автоматизованих систем. Резервування інформації для баз даних. Системи резервування інформації на базі стандартних рішень Unix систем. Системи створення повних копій Norton ghost та Acronis.

    дипломная работа [2,2 M], добавлен 19.06.2013

  • Логічний, структурний, еволюційний та імітаційний підходи до побудови системи штучного інтелекту. Використання формально-логічних структур, що обумовлено їх алгоритмічним характером. Методи реалізації системи штучного інтелекту, інтелектуальні програми.

    реферат [34,5 K], добавлен 14.04.2014

  • Комп’ютерні інформаційні системи СППР (системи підтримки прийняття рішень). Призначення, переваги, компоненти, архітектура. Приклади використовуваних СППР, їх основні види і опис. Нейронні мережі та СППР. Чинники, які сприяють сприйняттю і поширенню СППР.

    курсовая работа [323,7 K], добавлен 28.12.2010

  • Знайомство з системами підтримки прийняття рішень (СППР) та їх використання для підтримки прийняття рішень при створенні підприємства по торгівлі біжутерією з Азії. Вибір приміщення для розташування торговельного залу в пакеті "Prime Decisions".

    лабораторная работа [4,2 M], добавлен 08.07.2011

  • Інтерфейс IDE/ATAPI для підключення жорстких дисків та властивості локального диску. Опис і обґрунтування рішень щодо роботи системи. Базовий набір команд інтерфейсу ІDE. Розрахунки, що підтверджують вірність конструкторських, програмних рішень.

    курсовая работа [3,1 M], добавлен 24.05.2009

  • Часовий ряд як сукупність значень будь-якого показника за декілька послідовних моментів або періодів часу. Знайомство з методами для прогнозування часового ряду за допомогою штучних нейронних мереж. Розгляд головних задач дослідження часового ряду.

    контрольная работа [1,1 M], добавлен 14.09.2014

Работы в архивах красиво оформлены согласно требованиям ВУЗов и содержат рисунки, диаграммы, формулы и т.д.
PPT, PPTX и PDF-файлы представлены только в архивах.
Рекомендуем скачать работу.