Моделі прогнозування часових рядів на прикладі вартості акцій

Размещено на http://www.allbest.ru

Размещено на http://www.allbest.ru

Моделі прогнозування часових рядів на прикладі вартості акцій

Кухарєв Сергій Олександрович, Олексієнко Ганна Олегівна

Кухарєв Сергій Олександрович асистент кафедри математичних методів системного аналізу Національний технічний університет України «Київський політехнічний інститут імені Ігоря Сікорського».

Олексієнко Ганна Олегівна студент Національного технічного університету України «Київський політехнічний інститут імені Ігоря Сікорського».

Анотація. В даній роботі розглянуті методи для прогнозування часових рядів - методи згладжування, авторегресії та нейронних мереж.

Ключові слова: часовий ряд, авторегресія, згладжування, нейронні мережі, згорткові нейронні мережі, рекурентні нейронні мережі.

МОДЕЛИ ПРОГНОЗИРОВАНИЯ ВРЕМЕННЫХ РЯДОВ НА ПРИМЕРЕ СТОИМОСТИ АКЦИЙ

Кухарев Сергей Александрович ассистент кафедры математических методов системного анализа Национальный технический университет Украины «Киевский политехнический институт имени Игоря Сикорского».

Олексиенко Анна Олеговна студент Национального технического университета Украины «Киевский политехнический институт имени Игоря Сикорского».

Аннотация. В данной работе рассмотрены методы для прогнозирования временных рядов - методы сглаживания, авторегрессии и нейронных сетей.

TIME SERIES FORECASTING MODELS FOR SHARE PRICES

Kukhariev Serhii assistant of Department of Mathematical Methods of System Analysis National Technical University of Ukraine «Igor Sikorsky Kyiv Polytechnic Institute».

Oleksiienko Hanna Student of the National Technical University of Ukraine «Igor Sikorsky Kyiv Polytechnic Institute».

Вступ

Фондовий ринок є однією з найважливіших сфер ринкової економіки, оскільки він надає компаніям доступ до капіталу, дозволяючи інвесторам купувати акції в компанії. Оскільки ціна акцій постійно коливається, передбачення того, як буде поводитись фінансовий ринок, є нагальною задачею для економістів. Задача є актуальною для всієї міжнародної економіки, оскільки можливість точного передбачення вартості акцій тісно пов'язано з отриманням фінансового прибутку, а також зі зменшенням інвестиційного ризику та захисту інвестиційних прибутків від волатильності ринку.

Метою даної роботи є аналіз методів прогнозування часових рядів та виявлення на цій основі параметрів впливу на точність деяких моделей, що використовуються для прогнозування вартості акцій.

Для експоненційного ковзного середнього (рис. 2) параметром є рівень згладжування -- коефіцієнт а, що являє собою ступінь зменшення зважування від 0 до 1. Чим менший рівень згладжування, тим точніший є прогноз, оскільки кожне попереднє значення важить більше.

Модель авторегресії є ефективним інструментом для розуміння і прогнозування майбутніх значень часового ряду, яка включає в себе регресування змінної по значеннях ряду у минулому. Авторегресивні частини цих моделей описують, як послідовні спостереження в часі впливають один на одного, тоді як частини ковзних середніх захоплюють деякі можливі неспостережувані потрясіння.

Модель ARMA характеризує стохастичний процес за допомогою двох компонентів -- авторегресії (AR) та ковзного середнього (MA). Частина AR передбачає регресування змінної на власні минулі значення.

Таблиця 1. Результати реалізації методів згладжування

Частина MA включає моделювання похибки як лінійної комбінації похибок, що відбуваються в минулому. Позначення ARMA(p, q) характеризує модель з p авторегресійними компонентами і q компонентами для ковзного середнього:

Для застосування моделі ARIMA використовуються формули моделі ARMA, проте на вхід замість yt подається Ayt= yt-- yy-- 1, і задається додатковий параметр, який вказує на кількість разів, коли до вхідних спостережень було застосовано диференціювання. Для розглянутих методів авторегресії коефіцієнт Акайке дозволив програмно обрати модель, що дає найкращий прогноз. Отже, у випадку даного датасету це виявилась модель ARIMA(2,1,1). Результати виконання усіх трьох методів зведені в одну порівняльну таблицю 2.

Штучні нейронні мережі мають перевагу в прогнозуванні часових рядів, оскільки мають потенціал для вирішення складних проблем прогнозування. Важлива особливість ANN стосовно застосування до проблем прогнозування часових рядів полягає в здатності нейронних мереж до нелінійного моделювання, без будь-якого припущення про статистичний розподіл часового ряду. Кожна модель адаптивно формується на основі даних. З цієї причини штучні нейронні мережі керуються даними та є самоадаптивними за своєю природою [2]. Загальна структура штучної нейронної мережі ґрунтується на сукупності з'єднаних вузлів -- нейронів. Вихідне значення нейронної мережі математично задається так:

Таблиця 2. Результати реалізації методів авторегресії

Таблиця 3. Результати навчання MLP

Найпростішим видом нейронної мережі є одношарова персептронна мережа (в загальному випадку багатошаровий перцептрон Румельхарта), яка складається з одного шару вихідних вузлів, а входи подаються безпосередньо на виходи через ряд ваг. Універсальна теорема апроксимації для нейронних мереж стверджує, що кожну безперервну функцію, яка відображає інтервали дійсних чисел до деякого вихідного інтервалу дійсних чисел, можна апроксимувати довільно тісно багатошаровим персептроном лише одним прихованим шаром [3]. Основною характеристикою багатошарового перцептрону є його архітектура, а саме кількість прихованих шарів, вузлів та активуючі функції. Також, оскільки результат навчання частково залежить від ініціалізації змінних, кожна модель тренувалась окремо 5 разів, та всі характеристики для порівняльної таблиці є усередненими значеннями. Для більш глибокого дослідження моделі в роботі було реалізовано 5 архітектур, точність кожної з яких наведено в таблиці 3.

За результатами цієї порівняльної таблиці цілком простежується залежність якості прогнозу від кількості вузлів у прихованому шарі, методу оптимізації та функції активації. Найкращий результат показала модель MLP 20-100-1 с методом оптимізації Adam, та гіперболічним тангенсом в ролі активуючої функції. Наведемо графік похибки прогнозу вартості акції на тестовій вибірці (рис. 4).

Згорткова нейронна мережа -- це тип штучної нейронної мережі, в якій картина зв'язності між її нейронами натхненна організацією зорової кори тварини, окремі нейрони якої розташовані таким чином, що вони реагують на перекриваються області поля. Головною перевагою згорткових нейронних мереж є те, що ми використовуємо згорткові шари, щоб виявити ознаки мережі, що дозволяє тренувати нейронну мережу без складної попередньої обробки, оскільки корисні функції будуть вивчені під час навчання [3]. На відміну від багатошарового перцептрони, згорткові нейронні мережі мають складнішу структуру, оскільки вимагають калібрувати кількість та тип шарів, кількість вузлів в кожному шарі, метод оптимізації, функцію активації та кількість фільтрів.

Таблиця 4. Результати навчання CNN

Таблиця 5. Результати навчання LSTM

Таблиця 6. Порівняльна таблиця реалізованих методів

Отже позначення CNN-20-200-3 буде позначати 20 вузлів на вхід як перший шар, 200 фільтрів розміром 3х3, MaxPooling шар та 2 fully- connected шарів. В даній роботі було протестовано 5 різних архітектур CNN, які показали наступні результати таблиці 4.

Найкращий результат показала модель CNN20- 256-3 с методом оптимізації Adam, та активуючій функцією ReLU.

Рекурентна нейронна мережа -- це будь-яка штучна нейронна мережа, нейрони якої передають сигнали зворотного зв'язку один одному. Ідея RNN полягає у використанні послідовної інформації. У традиційній нейронній мережі ми припускаємо, що всі входи (і виходи) незалежні один від одного. Але для багатьох завдань це не найкраща ідея. RNN називаються рекурентними нейронними мережами, тому що вони виконують одне і те ж завдання для кожного елемента послідовності, при цьому вихідні дані залежать від попередніх обчислень [4]. Цей тип нейронних мереж цілком підходить для прогнозування вартості акцій, оскільки майбутні кроки можуть залежати від минулих.

Для реалізації прогнозування рекурентних нейронних мереж було обрано модель LSTM (Long Short-Term Memory Units). LSTM допомагають зберегти помилку, яку можна розповсюджувати через час і шари. Підтримуючи більш постійну помилку, вони дозволяють повторним мережам продовжувати вивчати протягом багатьох кроків часу [4]. Для аналізу параметрів впливу на прогноз вартості акцій було реалізовано 5 варіантів архітектуру LSTM, які було зведено в наведену нижче таблицю 4. Позначення LSTM-20-30-30-30-1 використовувалось для визначення нейронної мережі LSTM, з початковими даними за 20 днів назад, кількістю вузлів 30 на першому, другому та третьому шарі LSTM та одним fully-connected шаром з отриманим виходом з одного елементу.

Найкращий результат показала модель LSTM 10-30-30-30-1 с методом оптимізації Adam, та активуючею функцією ReLU та з найменшим вікном -- лагом.

1. Бідюк П. І. Аналіз часових рядів: навчальний посібник. К: Політехніка, 2010. 317 с.

2. Robert J. Van Eyden The Application of Neural Networks in the Forecasting of Share Prices. New York: Finance and Technology Publishing, 1996. 326 р.

3. Di Persio L. Artificial Neural Networks architectures for stock price prediction: comparisons and applications. INTERNATIONAL JOURNAL OF CIRCUITS, SYSTEMS AND SIGNAL PROCESSING. 2016. Vol. 31, No. 10. Р. 404-405.

4. K. Kamijo, T. Tanigawa. Stock price pattern recognition: A recurrent neural network approach. In Neural Networks in Finance and Investing. New Delhi: Probus Publishing Company, 1993. 370 с.