Математичні методи прогнозування економічного часового ряду з використанням технології GAN

Размещено на http://www.allbest.ru/

Математичні методи прогнозування економічного часового ряду з використанням технології GAN

Капінус Марія Ростиславівна, здобувач вищої освіти інституту прикладного системного аналізу; Данилов Валерій Якович, професор кафедри математичних методів системного аналізу; Жиров Олександр Леонідович, доцент кафедри математичних методів системного аналізу, Національний технічний університет України «Київський політехнічний інститут імені Ігоря Сікорського»

Анотація

Актуальність роботи полягає в тому, що покращення результативності регресійних моделей можуть підняти економіку світу на принципово новий рівень. Мета роботи - дослідити системи регресійних моделей за економічним часовим рядом. Було застосовано 4 сучасних GAN-моделі, що запропоновані авторами для вирішення поставленої задачі: RCGAN, RCNNGAN, QuantGAN і TimeGAN. За допомогою застосування цих моделей вдалося значно підвищити якість регресії.

Ключові слова: глибокі нейронні мережі, рекурентні нейронні мережі, генеративно-змагальні мережі, часовий ряд.

У сучасних реаліях фінансовий ринок є одним із основних для забезпечення стабільного функціонування економіки сучасного світу. Однією із задач, що може покращити стан на цьому ринку, є задача прогнозу цін акцій, оскільки це залучить інвестиції до найбільш цінних проектів, через що загальна ситуація економіки світу покращиться. Наразі не існує універсального і повного метода для вирішення цієї задачі, оскільки вона є дуже складною і багатофакторною: рух цін акцій залежить від дуже великої кількості параметрів: від загальної успішності компанії до повідомлення впливових осіб у соціальних мережах.

Генеративно-змагальні (GAN) нейронні мережі, що були створені у 2014 році, вже зарекомендували себе як дуже потужний спосіб генерувати дані, що ніколи раніше не існували, з бажаного розподілу [1], проте ще ніколи вони не були широко використані для вирішення поставленої задачі.

GAN - це клас нейронних мереж, що архітектурно складається з двох основних елементів - окремих глибоких нейронних мереж: генератора та дискримінатора -, перша з яких навчається робити нові, але схожі на питомі дані (дані з таким самим розподілом ймовірностей), у той час як інша - відрізняти реальні дані від тих, що були отримані на виході генератора [1].

На вхід генератору подається випадковий вектор z, який нейронна мережа намагається наблизити до вектору із бажаним розподілом, на вхід дискримінатору - приклад бажаного вектору, а також вектор, що був отриманий на виході генератора.

Функції втрат для обох частин виведені з функції втрат мінімакс гри з нульовою сумою. Запропонована формула наступна (1):

(1)

де L_GAN - загальна формула втрат GAN; х - вектор із датасету, з деяким розподілом, який ми хочемо відтворити; у - випадковий вектор; D(x) - значення, чи є вектор із датасету згенерованим або реальним відповідно до дискримінатора, G(z) - згенерований генератором вектор; D(G(z)) - значення, чи є згенерований генератором вектор згенерованим або реальним відповідно до дискримінатора.

Одну з найпростіших схем будови GAN можна бачити на рисунку 1 - загальна схема будови GAN.

Рис. 1. Загальна схема будови GAN

С-RNNGAN. Назва - абревіатура від Recurrent Neural Network GAN. Автор створював цю модель для продовження аудіодоріжок, розглядуючи їх у якості часових рядів із деякими параметрами. генератора.

Архітектурно, модель - це дві глибокі рекурентні нейронні мережі, що використовують LSTM у якості рекурентних блоків. Треба зазначити, що дискримінатор - двонаправлений RNN, завдяки чому може сприймати контекст послідовності в обох напрямках [2]. Загальну структуру мережі можна побачити на рисунку 2 - загальна архітектура C-RNNGAN.

RCGAN. Назва означає Recurrent Conditional GAN. Ця модель була розроблена автором для генерації медичних даних.

Ця модель архітектурно нагадує попередню, CRNN-GAN. Серед відмінностей: по-перше, у цій архітектурі дискримінатор використовує односпрямовані LSTM-комірки, тому вихідні дані G не повертаються як вхідні дані на наступному кроці часу. По-друге, RCGAN додатково приймає на вхід вектор c - умовний вектор для послідовності і додатково оптимізується відносно нього. Загальну архітектуру моделі можна бачити на рисунку 3 - загальна архітектура RCGAN [3].

Рис. 2. Загальна архітектура С-RNNGAN