Комп’ютерна інженерія: нейронні мережі та нейрокомп’ютери як основа відтворення процесу мислення

Размещено на http://allbest.ru

Київський кооперативний інститут бізнесу і права

Комп'ютерна інженерія: нейронні мережі та нейрокомп'ютери як основа відтворення процесу мислення

Бродкевич Володимир Михайлович, кандидат економічних наук,

доцент кафедри інформаційно-технічних та природничих дисциплін

Ремесло Вячеслав Якович, кандидат військових наук, доцент,

доцент кафедри інформаційно-технічних та природничих дисциплін

Анотація

Перші спроби технічного відтворення процесу мислення шляхом створення моделі штучної нейронної мережі були зроблені вченими в середині 40-х років 20-го століття. З появою комп'ютерної техніки ця проблема набула особливої актуальності. Продовжується пошук її адекватного розв'язання шляхом створення штучних нейронних мереж, які здатні моделювати основні властивості природних нейронів. У статті викладено в скороченому вигляді основні аспекти сучасного стану даної проблеми, що може стати корисним для студентів, аспірантів та фахівців інженерного профілю в плані поглиблення знань в напрямку вивчення та удосконалення нейронних мереж.

Ключові слова: процес мислення, комп'ютерна техніка, штучні нейронні мережі.

Аннотация

Бродкевич Владимир Михайлович, кандидат экономических наук, доцент кафедры информационно-технических и естественно-научных дисциплін. Киевский кооперативный институт бизнеса и права

Ремесло Вячеслав Якович, кандидат военных наук, доцент, доцент кафедры информационно-технических и естественно-научных дисциплін. Киевский кооперативный институт бизнеса и права

Первые попытки технического воспроизведения процесса мышления путем создания модели искусственной нейронной сети были осуществлены учеными в средине 40-х годов 20-го века. С появлением компьютерной техники эта проблема приобрела особую актуальность. Продолжается поиск ее адекватного решения путем создания искусственных нейронных сетей, которые способны моделировать основные свойства природных нейронов. В статье изложены в сокращенном виде основные аспекты современного состояния данной проблемы, что может быть полезным для студентов, аспирантов и специалистов инженерного профиля в плане углубления знаний в направлении изучения нейронных сетей.

Ключевые слова: процесс мышления, компьютерная техника, искусственные нейронные сети.

Summary

Computer engeneering: neural network and neural computers like a basic of the thinking prouces displying

Brodkevych Volodymyr, PhD of Economy, Associate Professor, Associate Professor of the Department of Information Technology Natural Sciences Kyiv Cooperative Institute of Business and Law

Remeslo Viacheslav, PhD of Military Sciences, Associate Professor, Associate Professor of the Department of Information Technology and Natural Sciences. Kyiv Cooperative Institute of Business and Law

The first attempts of technical reproduction process of thinking by creating artificial neural network models have been made by scientists in the mid-40 years of the 20th century.

With the advent of computer technology, this problem has acquired a special urgency. Continues to search for its adequate solution by creating artificial neural networks that are able to simulate basic properties of natural neurons.

The article outlined in abbreviated form the key aspects of the current state of the problem, which can be useful for students, researchers and professionals of the engineering profile, in terms of deepening knowledge in the direction of the study of neural networks.

Key words: thinking, artificial neural network, computer technology.

Процес всебічного вивчення мозку людини триває вже декілька сотень років. Як відомо, основу структури мозку являють нейрони (нервові клітини). З появою комп'ютерної техніки вчені почали активно піднімати питання щодо технічного відтворення процесу мислення.

Перші спроби були зроблені в середині 40-х років 20-го століття нейрофізіологом Маккалохом та математиком Піттсом, які описали роботу штучних нейронів і запропонували створити модель штучної нейромережі на електричних схемах. В 1956 р Дартмутський дослідний проект штучного інтелекту забезпечив підйом досліджень нейронних мереж, який на той час зосередився на двох напрямках: промислове застосування систем штучного інтелекту (експертні системи) та моделювання роботи мозку [1].

В 1958 р Джон фон Нейман (John fon Neumann) запропонував імітацію простих функцій нейронів з використанням телеграфної передачі або вакуумних трубок. Почалася робота над перцептроном. Одношаровий перцептрон був збудований реально і вважається класичною нейромережею.

На той час перцептрон використовувався у класифікації множини вхідних сигналів у одному з двох класів. На жаль, одношаровий перцептрон був обмеженим і зазнав критики у 1969 р, у книзі Мар- віна Мінскі (Marvin Minsky) та Сеймура Пейперта (Seymour Papert) «Перцептрони» [1].

Так наступні модифікації штучних нейромереж (багатошарові) лягли в основу інтелектуальних систем, що дозволило з успіхом вирішувати проблеми розпізнавання образів, здійснення прогнозів, оптимі- зації, поліпшити параметри асоціативної пам'яті та керування. Природній аналог доводить, що множина проблем, які поки що не підвладні розв'язуванню наявними комп'ютерами, можуть бути ефективно вирішені блоками нейромереж.

Дослідження показали, що мозок людини має багато якостей, що відсутні в сучасних комп'ютерах з архітектурою фон Неймана.

До них відносяться:

- розподілене представлення інформації і паралельні обчислення;

- здатність до навчання і здатність до узагальнення;

- адаптивність;

- толерантність до помилок;

- низьке енергоспоживання [1].

До речі, в лексиці розробників та користувачів нейромереж присутні слова, що дуже відмінні від традиційної обробки даних, зокрема: «вести себе», «реагувати», «самоорганізовувати», «навчати», «узагальнювати», «забувати» і т.д.

Однак, був період, коли вченим прийшлося пережити важкий період припинення основного фінансування науково-дослідних заходів. І цей період спаду продовжувався до 80-х років.

В середині 90-х р відновлення інтересу спричинило декілька подій. Так, Джон Хопфілд (John Hopfield) подав статтю до національної Академії наук США. Підхід Хопфілда створював докорінно нові підходи до моделювання.

Одночасно у Кіото (Японія) відбулась Об'єднана американсько-японська конференція по нейронних мережах, які оголосили досягненням п'ятої генераціС Американські періодичні видання висвітлили цю по/дію, акцентуючи увагу на тому, що СІША можуть залишитись позаду партнерів. Це в свою чергу викликало реакцію уряду до збільшення фінансування в галузі нейромереж.

З 1985 р Американський інститут фізики розпочав щорічні зустрічі фахівців під гаслом «Нейронні мережі для обчислень». У 1990 р Департамент програм інноваційних досліджень захисту малого бізнесу назвав 16 основних та 13 допоміжних тем, де було доцільним та можливим використання нейронних мереж.

Сьогодні обговорення нейронних мереж та перспективи їх сучасного застосування відбуваються досить широко. На даний час більшість розробок нейронних мереж в принципі є працюючими, але можуть існувати окремі процесорні обмеження. У зв'язку з цим дослідження спрямовані на програмні та апаратні реалізації нейромереж продовжуються [1]. Кампанії працюють над створенням трьох типів нейрочипів: цифрових, аналогових та оптичних, що обіцяють мати реалізацію у близькому майбутньому [1, 3]. Точна робота мозку людини -- до сих пір поки є таємницею. Проте окремі аспекти цього дивовижного природного процесора відомі. Базовим елементом мозку людини є специфічні клітини, відомі як нейрони, що здатні запам'ятовувати, думати і застосовувати попередній досвід до кожної дії, що докорінно відрізняє їх від решти клітин тіла.

Кора головного мозку людини є доволі протяжною, утвореною нейронами товщиною від 2 до 3 мм із площею близько 2200 см², що вдвічі перевищує площу поверхні стандартної клавіатури. Кора головного мозку містить близько 10¹¹ нейронів, що приблизно дорівнює числу зірок Чумацького шляху. Кожен нейрон зв'язаний з іншими нейронами. Сумарна кількість таких зв'язків може досягати 10³-10⁴ одиниць. Загалом мозок людини містить приблизно від 10¹⁴ до 10¹⁵ взаємозв'язків [1, 2].

Індивідуальний нейрон є складним біологічним об'єктом, має свої складові підсистеми та механізми керування і передає інформацію через велику кількість електрохімічних зв'язків. В природі налічується біля сотні різних класів нейронів. Штучні ж нейро- мережі моделюють лише найголовніші елементи складного мозку, що надихає науковців та розробників до нових шляхів розв'язування даної проблеми.

Біологічний нейрон

Нейрон (нервова клітина) складається з тіла клітини -- соми (soma), двох типів зовнішніх деревоподібних відгалужень: аксона (axon) і дендритів (dendrites). Тіло клітини вміщує ядро (nucleus), що містить інформацію про властивості нейрону, і плазму, яка продукує необхідні для нейрону матеріали. Нейрон отримує сигнали (імпульси) від інших нейронів через дендрити (приймачі) і передає сигнали згенеровані тілом клітини вздовж аксона (передавача), що наприкінці розгалужується на волокна (strands). На закінченнях волокон знаходяться синапси (synapses) [2]. Синапс є функціональним вузлом між двома нейронами (волокно аксона одного нейрона і дендрит іншого). Коли імпульс досягає синаптичного закінчення, продукуються хімічні речовини, названі нейротрансміте- рами. Нейротрансмітери проходять через синоптичну щілину, збуджуючи або загальмовуючи, в залежності від типу синапсу, здатність нейрона-приймача генерувати електричні імпульси. Результативність синапсу налаштовується сигналами, що проходять через нього, тому синапси навчаються в залежності від активності процесів, у яких вони приймають участь. Останні експериментальні дослідження доводять, що біологічні нейрони структурно складніші, ніж це спрощене схематичне пояснення, і значно складніші, ніж існуючі штучні нейрони, які є елементами сучасних штучних нейронних мереж. Оскільки нейрофізіологія надає науковцям розширене розуміння дії нейронів, а технологія обчислень постійно вдосконалюється, розробники мереж мають необмежений простір діяльності для вдосконалення моделей біологічного мозку [1, 2].

Рис. 1. Схема біологічного нейрона [2]

Штучний нейрон

Базовий модуль нейронних мереж, так званий штучний нейрон, моделює чотири основні функції природного нейрона (рис. 2). Штучні нейронні мережі, або конективістські системи -- це обчислювальні системи, наповнені біологічними нейронними мережами, що складають мозок тварин. Вхідні сигнали x_n що зважені ваговими коефіцієнтами з'єднання w_n, додаються, проходять через передатну функцію, генерують результуючий сигнал і виводяться.

Модифіковані входи передаються на функцію сумування, яка переважно тільки сумує добутки. Проте можна обрати багато різних операцій, такі як середнє, найбільше, найменше тощо, які могли б продукувати деяку кількість різних значень. Окрім того, більшість комерційних програм дозволяють інженерам-програмістам створювати власні функції сумування за допомогою підпрограм. В існуючих нейромережах в якості передатних функцій можуть бути використані сигмоїда, синус, гіперболічний тангенс та ін. Приклад того, як працює передатна функція, показано на рис. 3.

Рис. 2. Базовий штучний нейрон

Рис. 3. Сигмоїдна передатна функція

Рис. 4. Діаграма простої нейронної мережі

Після обробки сигналу, нейрон на виході має результат передатної функції, який надходить на входи інших нейронів або до зовнішнього з'єднання, як це передбачається структурою нейромережі. Всі штучні нейромережі конструюються з базового формуючого блоку -- штучного нейрону. Існуючі різноманітності і фундаментальні відмінності не заважають, а навпаки сприяють більш повній реалізації мистецтва талановитих фахівців у розробці ефективних нейромереж.

Штучні нейронні мережі

Інший напрямок створення і використання нейромереж стосується нескінченої кількості зв'язків, що знаходяться в них і пов'язують окремі нейрони. Групування у мозку людини відбувається так, що інформація обробляється динамічним, інтерактивним та самоорганізуючим шляхом. Біологічні нейронні мережі створені природою у тривимірному просторі з мікроскопічних компонент і здатні до різноманітних з'єднань. Однак, для створеної людиною штучної мережі існують фізичні обмеження. Існуючі на даний час нейромережі є групуванням штучних нейронів. Це групування обумовлено створенням з'єднаних між собою прошарків.

На рис. 4 показана типова структура штучних нейромереж. Хоча існують мережі, які містять лише один прошарок, або навіть один елемент, більшість застосувань вимагають мережу, яка містить як мінімум три нормальних типи прошарків -- вхідний, прихований та вихідний [1, 2]. Прошарок вхідних нейронів отримує дані або з вхідних файлів, або безпосередньо з електронних датчиків.

Вихідний прошарок передає інформацію безпосередньо до зовнішнього середовища, до вторинного комп'ютерного процесу, або до інших пристроїв. Між цими двома прошарками може бути багато прихованих прошарків, які містять багато нейронів у різноманітних зв'язаних структурах. Входи та виходи кожного з прихованих нейронів спрямовані до інших нейронів. Напрямок зв'язку від одного нейрону до іншого є важливим аспектом нейромереж [1, 2]. мислення нейрон комп'ютерний інтелектуальний

У більшості мереж кожен нейрон прихованого прошарку отримує сигнали від всіх нейронів попереднього прошарку та звичайно від нейронів вхідного прошарку. Після виконання операцій над сигналами, нейрон передає оброблений сигнал зі свого виходу на вхід всіх нейронів наступних прошарків, забезпечуючи шлях передачі вперед (feedforward) на вихід мережі. При наявності зворотного зв'язку, вихід нейронів прошарку скеровується до нейронів попереднього прошарку. Треба зазначити, що шлях, яким нейрони з'єднуються між собою, має значний вплив на роботу мережі. Більшість пакетів професіональної розробки програмного забезпечення дозволяють користувачу додавати, вилучати та керувати з'єднаннями як завгодно [1, 2].

Постійно корегуючи параметри, зазначені зв'язки можна робити як збуджуючими так і гальмуючими, що значно впливатиме на основні параметри і ефективність роботи нейромережі в цілому.

Література

1. Основи теорії проектування нейронних мереж. Тимощук П. В., Лобур М. В. Навчальний посібник. Львів. Видавництво Львівська політехніка. -- 2007. -- 328 с.

2. Вікіпедія: https://uk.wikipedia.org/wiki/.

3. Оптика сьогодні. http://opticstoday.com/katalog-statej/.

4. General-purpose technique sheds light on inner workings of neural nets trained to process language. Larry Hardesty | MIT News Office, September 8, 2017.

Размещено на Allbest.ru