Прогнозирование финансовых рынков с использованием искусственных нейронных сетей

Наиболее популярные сегодня в России следующие программные про-дукты, реализующие нейросетевые подходы к решению задач прогно-зиро-вания: Brain Maker Professional, NeuroShell Day Trader, Neuro Builder 2001.

Пакет Brain Maker Professional, цена $850 - предназначен для построения нейронных сетей обратного распространения. Пакет включает в себя программу подготовки и анализа исходных данных NetMaker, программу построения, обучения и запуска нейросетей BrainMaker, а также набор утилит широкого назначения. Программный пакет ориентирован на широкий круг задач - от создания прогностических приложений до организации систем распознавания образов и нейросетевой памяти. Значительное количество функций программы ориентировано на специалистов в области исследования нейросетей. Следует отметить, что организация внутреннего представления нейросетевых моделей является “прозрачной” и легко доступной для программного наращивания. В программе BrainMaker предусмотрена система команд для пакетного запуска. Существует интерфейсная программа-функция для включения обученных сетей в программы пользователя. В целом пакет может быть интегрирован в программный комплекс целевого использования.

Программа BrainMaker предназначена для построения нейросети по некоторым исходным установкам, ее обучение в различных режимах, модификацию параметров сети. Программа имеет значительное количество контрольных функций для оптимизации процесса обучения. Помимо этого, программа предоставляет ряд методов анализа чувствительности выходов сети к различным вариациям входных данных, при этом формируется подробный отчет, в соответствие с которым можно дополнительно оценить степень функциональной зависимости входных и выходных значений.

NeuroShell Day Trader v. 3.0, цена $2590 - нейросетевая система, которая учитывает специфические нужды трейдеров и достаточно легка в использовании. NeuroShell Trader имеет, как и в других стандартных программах для трейдеров, «графический» пользовательский интерфейс. Возможности графики позволяют отображать данные в виде японских подсвечников (candlestick), в форме open/high/low/close, high/low/close, линейных графиков или гистограмм различных типов. Существует возможность менять цвета, сжимать и растягивать шкалы, прятать и вновь делать видимыми потоки данных. В ежедневной, недельной или месячной временной шкале можное отображать курсы акций, цены товаров (commodities), биржевые индексы (indexes) , взаимные фонды (mutual funds), обменые курсы валют (foreign exchange rates) и т.д.

NeuroShell Trader с легкостью читает стандартные текстовые файлы open/high/low/close/volume, которые поставляют большинство соответствующих агентств. В частности, NeuroShell Trader работает с текстовыми файлами, файлами в формате MetaStock (включая версию 6) и файлами данных в формате, используемом программами TradeStation, SuperCharts и Wall Street Analyst, которые Omega Research распространяет на своих компакт-дисках. Зачастую эти данные непосредственно могут быть использованы в качестве входных переменных для нейронной сети.

В NeuroShell Trader имеется обширная библиотека из более чем 800 технических индикаторов. Помимо стандартных индикаторов, таких как скользящие средние (moving averages), норма изменения (rate-of-change) или стохастические линии (stochastics), NeuroShell Trader дает возможность реализовать собственные индикаторы путем комбинации готовых функций из внушительного списка, в который входят условия «если-то», арифметические операторы, тригонометрические функции и многое другое.

Однако одним из основных достоинств рассматриваемого продукта является то, что нейронные сети являются встроенными, а не являются чем-то привнесенным извне и используемым отдельно. Они присутствуют в меню под рубрикой "Predictions"(Прогнозы) наряду с "Indicators"(Индикаторами) и "Data"(Данными). Мастер прогноза (Prediction Wizard) позволяет выбрать, что пользователь хочет предсказывать. Это могут быть цены закрытия (close), их процентные изменения или иные данные или индикаторы. Существует возможность устанавливать, на сколько дней вперед делать предсказания.

Neuro Builder 2001 Advanced, цена $3500 - продукт, принадлежащий к категории наукоемких, высокотехнологичных, узкопрофессиональных инструментов. Это 32-битное приложение, работающее под управлением ОС Windows 95/98/NT 4.0. В своей категории - специализированные программы для финансовых аналитиков - Neuro Builder 2001 занимает пограничное положение между серийными программами и заказными системами. Она может быть использована как самостоятельный продукт, может выступать составной частью сложного аналитического комплекса. Ниже перечислены семь главных отличительных характеристик программы Neuro Builder 2001:

а) программа Neuro Builder 2001 - приложение, созданное специально для решения задач прогнозирования на финансовых рынках;

б) программа Neuro Builder 2001 - приложение, позволяющее использовать нейросети в повседневной работе так же просто, как и привычные для трейдеров инструменты - программы технического анализа и электронные таблицы;

в) программа Neuro Builder 2001 - приложение, позволяющее пользователю использовать навыки, приобретенные при работе с Microsoft Office - технологичность и регулярность, которые обеспечиваются автоматизацией работы программы по разработанным пользователем сценариям и оформление отчетов программой по созданным им шаблонам;

г) программа Neuro Builder 2001 - единственный на сегодняшний день серийно выпускаемый программный продукт, содержащий модуль исследования данных до определения архитектуры нейросети - Best Builder, позволяющий автоматизировать определение входного вектора параметров задачи с учетом влияния каждого параметра входного вектора на предполагаемый результат;

д) программа Neuro Builder 2001 - не является «черным ящиком»; подробная документация содержит описание всех структур и файлов, включая временные файлы. Все файлы с данными системы хранятся только в двух форматах - текстовый и EXCEL;

е) программа Neuro Builder 2001 - продукт, не зависящий от источника данных; в состав программы входит модуль Data Builder Light, позволяющий преобразовывать финансовые данные из множества популярных форматов, в формат данных программы Neuro Builder 2001 и исправлять ошибки в данных параллельно с их преобразованием;

ж) программа Neuro Builder 2001 - позволяет использовать найденные решения неоднократно; данные для конкретной задачи всегда формируются на этапе ее решения через запрос к базе данных и сразу уничтожаются после получения результата; между сеансами работы хранится только описание способа получения данных из локальной базы;

з) программа Neuro Builder 2001 реализована в виде множества независимых модулей, взаимодействующих в рамках комплекса по документированным интерфейсам; каждый из программных модулей оформлен в виде выполняемой программы (EXE) и отвечает за решение одной из конкретных подзадач в составе общей задачи прогнозирования на финансовых рынках; каждый из модулей в состоянии работать как в составе комплекса программы Neuro Builder 2001, так и совместно с любыми другими программами, поддерживающими его интерфейс.

Технология применения программы Neuro Builder 2001 ориентирована на регулярность получения результатов и экономию рабочего времени аналитика. Так программа Neuro Builder 2001 обеспечивает минимальный период прогнозирования, соответствующий одним суткам. В конце торгового дня в базу данных программы заносятся цены завершившегося дня, и программа запускается на обработку новых данных по заранее подготовленному сценарию. Контроль оператора в процессе счета не требуется. В начале следующего торгового дня по результатам обсчета уже можно получить прогноз цен закрытия этого дня. Таким образом, основное время работы программы приходится на ночь, и задача - прогноз на день вперед - решена. Участие пользователя состоит в подготовке корректных сценариев для работы программы и обеспечении бесперебойной подачи питания компьютеру, на котором запущена программа. Особенно хочется подчеркнуть, что пакет Neuro Builder 2001 разработан отечественной фирмой «РосБизнесКонсалтинг».

Другие программные продукты, реализующие нейросетевые принципы, менее известны и не получили большого распространения. Таким образом, можно заключить, что типичный программный продукт российского рынка нейросетевых программ, предназначенный исключительно для прогнозирования финансовых рынков, оценивается производителями примерно в $2000-$3000. Указанная цена по российским меркам достаточно высока (учитывая заработную плату в среднем по территории Российской Федерации), однако, относительно потенциальных прибылей, которые можно получить с использованием рассмотренных программных продуктов при торговле на финансовых рынках, это очень незначительная сумма.

2. Прогнозирование рынка FOREX с использованием искусственных нейросетей

2.1 Постановка задачи прогнозирования финансовых рынков с использованием искусственных нейросетей

Как было отмечено в подразделе 1.3.5, задача прогнозирования с использованием ИНС сводится к задаче аппроксимации многомерных функций, т.е. к задаче построения многомерного отображения. В зависимости от типа выходных переменных, аппроксимация функций может принимать вид: классификации или регрессии. В задаче прогнозирования финансовых рынков можно выделить две крупные подзадачи: построение модели, обучение нейронных сетей реализующих решение задачи (т.е. фактически построение аппарата отображения).

В результате изучения предметной области исследователем должна быть разработана модель прогнозирования, ключевыми составляющими которой должны быть: набор входных переменных; метод формирования входных признаков x; метод формирования обучающего правила y; архитектура нейросети (ей); метод обучения нейросети (ей).

Для решения задачи прогнозирования необходимо найти: такую нейронную сеть или комитет нейроэкпертов, который бы наилучшим образом строил отображение F: xy, обобщающее сформированный на основе ценовой динамики набор примеров {xt, yt}. Поиск такой нейронной сети или комитета нейроэкспертов осуществляется при помощи одного или нескольких алгоритмов «обучения».

Здесь можно заметить, что нейросетевое моделирование в чистом виде базируется лишь на исходных данных (временном ряде).

Нейронные сети можно применять для одномерного и многомерного анализа, должным образом сформировав множество независимых входов и зависящих от них выходов. Как правило, модель строится для того, чтобы предсказывать значения временного ряда для одной целевой переменной, однако, в принципе, модель может предсказывать значения и нескольких переменных (например, доходы по акциям на различное время вперед), если в сеть добавить дополнительные выходные элементы.

При этом, однако, исследования в области прогнозирования временных рядов при помощи сетей продолжаются и в настоящее время, и никаких стандартных методов здесь пока не выработано. В нейронной сети многочисленные факторы взаимодействуют весьма сложным образом, и успех пока приносит только эвристический подход. Типичная последовательность действий при решении задачи прогнозирования финансовых показателей с помощью нейронных сетей показана на рис. 2.1.

1. Определение временного интервала. Формирование базы данных.
2. Определение входных величин. Определение прогнозируемых величин. Предварительная обработка данных
3. Формирование входных множеств (обучающего, тестового)
4. Выбор архитектуры нейросетей
5. Обучение нейросетей
6. Адаптивное предсказание и принятие решений

Рис. 2.1. Блок-схема технологического цикла предсказаний рыночных временных рядов на основе нейросетей

Далее кратко рассмотрим некоторые моменты этой технологической цепочки. Хотя общие принципы нейромоделирования применимы к задаче прогнозирования в полном объеме, предсказание финансовых временных рядов имеет свою специфику.

На первом этапе исследователем определяются базовые характеристики данных, которые определяются торговой стратегией. Формируется база данных.

На втором этапе определяется набор входных и прогнозируемых величин, производятся анализ и очистка базы данных. Для этих целей используются оптимизационные, статистические и другие методы.

На третьем этапе производится формирование образов, подаваемых непосредственно на выходы нейросетей, с последующим созданием обучающих и тестовых множеств.

Архитектура нейросети зависит от поставленной задачи, в большинстве случаев используются сети типа многослойный перцептрон.

На пятом этапе с использованием выбранных алгоритмов обучения производится обучение нейронной сети, или, если это предполагается постановкой задачи, нескольких нейронных сетей (от двух до нескольких тысяч), которые после участвуют в «конкурсе» на попадание в комитет нейроэкспертов.

Прогнозирование (шестой этап) осуществляется по тому же принципу, что и формирование обучающей выборки. При этом на этапе адаптивного предсказания и принятия решений выделяются две возможности: одношаговое и многошаговое прогнозирование.

Подзадача получения входных образов для формирования входного множества в задачах прогнозирования временных рядов часто предполагает использование «метода окон». Метод окон подразумевает использование двух окон Wi и Wo с фиксированными размерами n и m соответственно. Эти окна, способны перемещаться с некоторым шагом по временной последовательности исторических данных, начиная с первого элемента, и предназначены для доступа к данным временного ряда, причем первое окно Wi, получив такие данные, передает их на вход нейронной сети, а второе - Wo - на выход. Получающаяся на каждом шаге пара Wi -> Wo используется как элемент обучающей выборки (распознаваемый образ, или наблюдение). Каждый следующий вектор получается в результате сдвига окон Wi и Wo вправо на один шаг. Предполагается наличие скрытых зависимостей во временной последовательности как множестве наблюдений. Нейронная сеть, обучаясь на этих наблюдениях и соответственно настраивая свои коэффициенты, пытается извлечь эти закономерности и сформировать требуемую функцию прогноза P.

2.2. Описание текущей рыночной ситуации. Представление входных данных

2.2.1. Перемасштабирование графика цены в единичный интервал

При прогнозировании валютных рынков при помощи ИНС в качестве входной информации могут выступать: ценовая динамика и ее производные (значения индикаторов, значимые уровни и т.п.) и рыночные (часто макроэкономические) показатели. В рамках данной работы ставится задача прогнозирования финансовых временных рядов, таким образом, в качестве входной информации будет использоваться ценовая динамика.

В первую очередь, необходимо отметить, что перед тем как начать тренировать ИНС, входную информацию необходимо должным образом подготовить, т.е. в качестве входов и выходов нейросети не следует выбирать сами значения котировок [37]. Каждый набор входных переменных обучающего, тестового и рабочего множеств, составляющих «образ», должен обладать свойством инвариантности. Выходные сигналы, формирующиеся на выходах скрытых и выходных нейронов и подающиеся на выходы нейронов следующих слоев, лежат в интервале их активационных функций. Таким образом, логично полагать, что и входные сигналы должны также лежать в интервале активационных функций нейронов 1-го скрытого слоя.

Рассмотрим простейший способ формирования входных образов для обучения ИНС. Основным понятием при работе с рассматриваемым здесь видом входной информации является «окно» («глубина погружения»), т.е. то количество периодов времени, которое попадает в «образ», формируемый на входе сети. При работе с часовой динамикой курсов окно размером n будет означать, что исследователя интересует динамика курса за последние n часов. Чтобы ИНС работала с «образами» такого окна, при проектировании архитектуры сети необходимо выделить n входных нейронов.

Суть метода формирования входных образов заключается в следующем. Предположим, что данные каждого из образов лежат в диапазоне [Min..Max], тогда наиболее простым способом нормирования будет

(2.1)

После такого преобразования каждый «образ», состоящий из n последовательных цен, нормируется так, что все значения «образа» лежат в интервале от 0 до 1. При этом истинные значения утрачиваются, и все входные записи укладываются в гиперкуб [0,1]n. (см. рис. 2.2).

Рис. 2.2. Результаты нормирования различных входных образов

Таким образом, при любом уровне цен гарантируется инвариантность преобразования входной записи. Такое перекодирование не лишено смысла, так как трейдер-человек обычно оценивает данные временного ряда в относительном выражении с помощью стандартных приемов.

2.2.2 Описание рыночной ситуации при помощи приращений котировок

Как было сказано выше, в качестве входов и выходов нейросети не следует выбирать сами значения котировок, которые обозначим Ct. Действительно значимыми для предсказаний являются изменения котировок (Ct - изменение котировки в периоде t). Поскольку эти изменения, как правило, гораздо меньше по амплитуде, чем сами котировки, поэтому между последовательными значениями курсов имеется большая корреляция - наиболее вероятное значение курса в следующий момент равно его предыдущему значению: <Ct+1> = Ct + <Ct> = Ct. Между тем, для повышения качества обучения следует стремиться к статистической независимости входов, то есть к отсутствию подобных корреляций.

Поэтому в качестве входных переменных логично выбирать наиболее статистически независимые величины, например, изменения котировок Ct или логарифм относительного приращения log(Ct/ Ct-1) Ct/ Ct-1. Хорошую информацию об изменениях курса дают дельты котировок: Ct = Ct-Ct-1. Легко заметить, что: если Ct>Ct-1, то Ct>0, если Ct<Ct-1, то Ct<0.

Рассмотрим формирование образов обучающего множества на примере часовой динамики курса евро/доллар за 1999 год. Наглядное представление о характере информационной насыщенности дельт котировок дает график, изображенный на рисунке 2.3. Ряд приращений котировок характеризуется островершинным нормальным распределением, т.е. энтропия образов - мера информационной насыщенности - недостаточно велика.

Первый образ обучающего множества, составленный из 24 изменений котировок, будет иметь вид, представленный на рисунке 2.4. Однако образы, сформированные подобным методом, еще пока не пригодны для подачи на входы ИНС, т.к. обладают слишком малой амплитудой колебаний, что связано с незначительными часовыми изменениями котировок твердых валют - в среднем 40 пунктов, т.е. 0.0040. Кроме того, по теории входная информация для ИНС должна лежать в интервале активационных функций нейронов.

Рис. 2.3. Наглядное представление «приращений котировок» в виде графика

Рис. 2.4. Пример первого «образа» из обучающего множества

Наибольшей энтропией обладает равномерное распределение [37], т.е., кроме необходимого увеличения значений ряда приращений котировок, желательно провести над ними такое преобразование, которое приблизило бы распределение значений ряда к равномерному.

Сегодня известно множество способов преобразования входной информации применимых к задачам прогнозирования, например, можно воспользоваться следующей схемой: C1t = Ct*1000, т.е. на первом шаге домножаем изменения котировок на константу, а на втором шаге используем самый естественный способ «перекодировать» непрерывные данные в интервал активационных функций ИНС, т.е. применяем к данным преобразование функцией-сигмоидом, используемой в первом скрытом слое ИНС: C2t = 1/(1+EXP(-1.5*C1t))-0.5 [37].

Измененный по такой схеме первоначальный «образ» представлен на рис. 2.5.

Рис. 2.5. Пример готового к подаче на входы нейросети первого «образа» из обучающего множества

Сформированные по описанной схеме «образы» составляют обучающее множество. Таким образом, обучающее множество, построенное на часовой динамике курса евро/доллар, почти равномерно распределено, хотя его значения больше тяготеют к среднему и экстремальным значениям (рис. 2.6).

Рис. 2.6 Распределение значений на 1-м входном нейроне ИНС

В качестве поступающих на входы ИНС данных могут выступать как приращения цен одного типа, например цен закрытия, так и комбинации приращений разных типов цен в пределах одного временного интервала. Например, информация, содержащаяся в «свече», а именно, цены: открытия, максимальная, минимальная, закрытия, может подаваться на 4 входных нейрона. Очевидно, что при таком подходе к описанию рыночной ситуации появляются трудности при попытке охватить достаточное количество интервалов времени в прошлом. Для кодирования информации о 24 последних интервалах (сутки на часовом графике), например, понадобится 96 входных нейронов. Задача с такой размерностью входной информации может быть решена качественно лишь при наличии специального оборудования (нейроплат, нейрочипов).

Тем не менее, такая постановка задачи имеет смысл, если пытаться найти зависимость на основе небольшого окна. На рисунке 2.7 показана процедура формирования входного образа для задачи с окном 3 периода. В качестве входных данных выступают приращения максимальных, минимальных цен и цен закрытия периода. Такой подход к прогнозированию можно рассматривать как нейросетевой аналог анализа «японских свечей», поскольку прослеживается прямая аналогия с попытками некоторых трейдеров найти закономерности в комбинациях последних «японских свечей», образовавшихся на графике.

Рис. 2.7 Нейросетевой анализ «японских свечей»

2.2.3 Обобщение значений индикаторов технического анализа

Отрицательной чертой метода «окон» является то, что его применение ограничивает «кругозор» сети. Технический анализ же, напротив, не фиксирует окно в прошлом, и пользуется весьма далекими значениями ряда. Например, утверждается, что максимальные и минимальные значения ряда даже в относительно далеком прошлом оказывают достаточно сильное воздействие на психологию игроков, и, следовательно, должны быть значимы для предсказания. Недостаточно широкое окно погружения в лаговое пространство не способно предоставить такую информацию, что, естественно, снижает эффективность предсказания. С другой стороны, расширение окна до таких значений, когда захватываются далекие экстремальные значения ряда, повышает размерность сети, что в свою очередь, приводит к понижению точности нейросетевого предсказания из-за разрастания размера сети. Выходом из этой, казалось бы, тупиковой ситуации являются альтернативные способы кодирования прошлого поведения ряда.

Альтернативным представлением входной информации можно считать значения индикаторов, построенные на основе ценовой динамики. Очевидные плюсы такого подхода:

а) значение каждого из индикаторов зависит от определенного числа значений временного ряда в прошлом, таким образом использование совокупности нескольких индикаторов позволяет охватить рынок широким взглядом и посмотреть на рыночную ситуацию в прошлом с различных точек зрения.

б) многочисленность индикаторов затрудняет их использование, тогда как каждый из них может оказаться полезным в применении к конкретному финансовому ряду.

в) выборка с индикаторами обычно достаточно мала, и, соответственно, количество входных нейронов сети не велико.

Необходимо отметить, что в выборку стоит отбирать наиболее значимую комбинацию технических индикаторов, которую и следует затем использовать в качестве входов нейросети. Решить задачу выбора необходимых индикаторов можно при помощи оптимизационных методов и тех же нейронных сетей.

Как было отмечено выше, значения, подаваемые на входы ИНС, должны лежать в том же интервале, что и у активационных функций (сигмоидов) нейронов. Т.е. в процессе формирования обучающей выборки необходимо перекодировать значения индикаторов в интервал активационных функций, используемых в опытах ИНС, в том числе и с применением функций сигмоидов [37]. Наглядно процесс подготовки множества входных данных представлен на рисунке 2.8.

Рис. 2.8 Схема формирования входных сигналов ИНС на базе индикаторов технического анализа

Стоит отметить, что описанный здесь способ представления входных данных не уступает по информативности методу «окон», но допускает такое сжатие информации, которое описывает прошлое с избирательной точностью. Подобного рода сжатие информации является примером извлечения из непомерно большого числа входных переменных наиболее значимых для предсказания признаков.

2.3 Прогнозируемые величины. Представление выходных данных

2.3.1 Классификация рыночных ситуаций. Шаблон максимальной прибыли

Поскольку сети с прямой связью являются универсальным средством аппроксимации функции, их с успехом можно использовать для решения задач классификации [1]. Богатые возможности отображения особенно важны в тех случаях, когда на основе нескольких оценок строится высокоуровневая процедура принятия решений. Известно много приложений ИНС с прямой связью к задачам классификации. Как правило, они оказываются эффективнее других методов, потому что нейронная сеть генерирует бесконечное число нелинейных регрессионных моделей.

Задача классификации может быть решена на сети с одним выходным нейроном, достаточно только разработать способ кодировать k классов. При применении нейронных сетей как классификаторов при прогнозировании финансовых рынков необходимо помнить о важности выбора обучающего правила и предварительной предобработке данных. Тем не менее, необходимо подчеркнуть, что классификация рыночных ситуаций в принципе возможна [1]. Ведь технический анализ стремится предсказать, главным образом, направление изменения цены (вниз, вверх, на том же уровне), а не величину этого изменения. Рассмотрим процесс формирования обучающего правила для задачи классификации рыночных ситуаций.

Пользователям программ технического анализа, в частности программы Equis MetaStock, известна встроенная система максимальной прибыли - MAXIMUM PROFIT SYSTEM (MPS). Алгоритм моделирования торговли построен по принципу «зачислять в прибыль, что возможно», будь то движение цены в течение одного часа или последовательность направленных движений в течение нескольких часов. Но, как известно, в реальной жизни невозможно «выигрывать» каждую «свечку», особенно если торговля идет на коротких периодах, например на «часовом интервале» - слишком малые и незначительные колебания совершает курс. В несколько модифицированном виде MPS может оказаться полезной в качестве обучающего правила для прогнозирующих ИНС. Попробуем разработать MPS, которая была бы более приближена к реальным условиям торговли на рынке.

Во-первых, необходимо определить, сколько пунктов должен содержать в себе «значимый» для торговли ход цены. Среди практикующих трейдеров «взять фигуру» (100 пунктов) при игре внутри дня (т.е. на часовом интервале) практически по любой валюте считается отличным завершением удачной сделки. Несколько меньший «выигрыш» также вполне устроит любого трейдера. Таким образом, можно говорить о присутствии определенных ориентиров, на которые нацелен трейдер в своей работе. Эти ориентиры могут появиться чисто из эмпирических соображений, однако, они могут быть вполне обоснованы статистически. Рассмотрим, например, часовую динамику евро/доллар за 1999 год, нас будут интересовать абсолютные изменения курса за 24 часа:

а) максимальное изменение курса за 24 часа = 0.0277;

б) минимальное изменение курса за 24 часа = 0.0000;

в) среднее изменение курса за 24 часа = 0.0047.

Из приведенных данных видно, что среднее значение суточного колебания курса евро равняется примерно 50 пунктов, т.е. на них вполне можно рассчитывать при торговле внутри дня. С учетом рисков и комиссионных положим «значимым» для торговли ход (направленное движение рынка) в 70 пунктов. Т.е. при торговле на рынке евро/доллар нас будут интересовать ходы не менее указанной цифры. На исторических данных вполне можно выполнить разметку, в каких местах следует покупать, в каких продавать, в каких ожидать покупки или продажи. Существуют предпосылки разработки алгоритма, формирующего так называемый шаблон (карту) максимальной прибыли - MAXIMUM PROFIT PATTERN (MPP). MPP - имеет сходство с индикатором, однако рассчитывается он не по прошлым данным, а по будущим. Сигналами MPP, например, могут быть:

а.) 1 - «покупка»,

б.) 0.8 - «ожидание покупки»,

в.) 0.2 - «ожидание продажи»,

г.) 0 - «продажа».

Моделирование торговли на исторических данных с построенным на их основе MPP приносит максимальную прибыль с учетом ограничения - реагирование только на ход, покрывающий не менее определенного количества пунктов, в нашем примере 70 (см. рис. 2.9). Стрелками на рисунке отмечены моменты, в соответствии с сигналами MPP потенциально пригодные для торговли (покупки и продажи соответственно).

На исторических данных моделирование торговли показывает максимальную прибыль, однако у «правого края» графика невозможно продлевать MPP, поскольку цены будущих периодов неизвестны (задача как раз и состоит в том, чтобы их прогнозировать). Однако сигналы MPP могут оказаться полезными, например в качестве обучающего правила для ИНС.

В рассмотренных источниках встречаются постановки задач обучения ИНС, в которых брались заведомо неоптимальные правила для обучения, однако, по утверждению авторов, они добивались положительных результатов. Например, некоторые исследователи в качестве обучающего правила использовали значения, рассчитанные методом пересечения скользящих средних (Crossing Moving Averages - СMA) [1], в то время как известно, что торговля по такому правило редко приносит прибыль.

Рис. 2.9. График динамики курса евро/доллар (вверху), сигналы MPP (внизу - синяя линия), усредненное значение MPP (внизу - красная линия)

Идея состоит в том, чтобы обучить ИНС так, что на входной образ она будет реагировать сигналом: «покупать», «продавать» или «ждать», таким образом, ИНС будет работать как классификатор рыночных ситуаций и тот факт, что в качестве обучающего правила будет использоваться MPP, дает шанс надеяться на очень хорошие результаты.

Далее предстоит решить задачу кодирования обучающего правила таким образом, что бы максимально упростить процесс обучения (правильное кодирование ожидаемых значений - один из залогов успешного обучения). Из всех статистических функций распределения, определенных на конечном интервале, максимальной энтропией - оценкой информационной насыщенности - обладает равномерное распределение. Применительно к данному случаю, это подразумевает, что кодирование переменных числовыми значениями должно приводить, по возможности, к равномерному заполнению единичного интервала закодированными примерами (захватывая и этап нормировки) . При таком способе кодирования все примеры будут нести примерно одинаковую информационную нагрузку.

Исходя из этих соображений, можно предложить следующий практический метод кодирования ординальных переменных (см. рис. 2.10). [37]. Единичный отрезок разбивается на n отрезков - по числу классов - с длинами пропорциональными числу примеров каждого класса в обучающей

Рис. 2.10 Иллюстрация способа кодирования ординальных переменных с учетом количества примеров каждой категории

выборке: x = Pk/P, где Pk - число примеров класса k, а P - общее число примеров. Центр каждого такого отрезка будет являться численным значением для соответствующего ординального класса.

2.3.2 Аппроксимация прогнозируемых величин. Сглаженный шаблон максимальной прибыли

Рассмотрим перцептрон с одним выходным нейроном. Подавая на входы этого перцептрона любые числа x1, x2, ..., xn, получим на выходе значение некоторой функции F(x1, x2, ..., xn), которое является ответом (реакцией) сети. Очевидно, что ответ сети зависит как от входного сигнала, так и от значений ее внутренних параметров - весов нейронов.

Естествен вопрос: а может ли перцептрон реализовать достаточно сложную функцию? Этот вопрос, по своей сущности, математический - о представимости одних функций посредством других. Ученые занимались решением этой задачи долгое время и ответ был получен сравнительно недавно - в 1989 г. В результате продолжительных исследований несколькими учеными практически одновременно была сформулирована теорема, которая на языке нейросетей звучит так: «Любую непрерывную функцию нескольких переменных можно с любой точностью реализовать с помощью обычного трехслойного перцептрона с достаточным количеством нейронов в скрытом слое». Это означает, что с помощью стандартного перцептрона в принципе возможно решать любые задачи прогнозирования и оценки, в которых существуют функциональные зависимости. Здесь указывается «в принципе», так как теорема не указывает, каким способом можно подобрать веса каждого нейрона, используя набор примеров.

Если на рынке существуют функциональные зависимости, то успех решения задачи аппроксимации, кроме всего прочего, во многом будет зависеть от выбора прогнозируемой величины - обучающего правила. Рассмотрим пример формирования величины, достоверный прогноз которой позволял бы получать максимальную прибыль при торговле на рынке.

Как показано выше, в качестве обучающего правила можно взять MPP. Однако, MPP в чистом виде содержит дискретные данные, что делает задачу достаточно сложной. Кроме того, как показывает практика, для ведения оптимальной торговли, большую часть времени на рынке приходится ожидать возможности «войти в рынок». Построенная для такого рынка MPP будет содержать большое количество сигналов на «ожидание» покупки или продажи. При обучении по такому правилу ИНС начнет «тяготеть» к формированию на выходе тех сигналов, которые чаще встречаются в обучающем множестве. Рассмотрим ряд MPP, построенный для динамики курса евро/доллар за 1999 год (см. рис. 2.11).

Рис. 2.11 Распределение желаемых выходных значений ИНС при применении в качестве обучающего правила «необработанного» MPP

Как показывает опыт, при прогнозировании по графическим образам добиться от сети точных данных на выходе невозможно, попытаемся облегчить для сети задачу обучения, а именно, сгладим значения MPP 6-типериодной скользящей средней. Гистограмма распределения выходного сигнала, таким образом, примет вид, изображенный на рисунке 2.12. Фактически график значений обучающего правила примет вид, изображенный на рисунке 2.9 (красная линия).

Особо хочется отметить тот факт, что обучающее множество желательно формировать таким образом, чтобы распределение выходных сигналов тяготело к равномерному, как показывает практика. Это позволит существенно уменьшить среднеквадратическую ошибку ИНС. В нашем случае (рис. 2.12), не смотря на некоторое приближение распределения сглаженного MPP к равномерному, распределение полученной после преобразования величины далеко до равномерного.

Рис. 2.12 Распределение значений на выходе последнего нейрона ИНС при применении в качестве обучающего правила сглаженного (6-типериодной скользящей средней) MPP (база - евро/доллар 1999)

Кроме того, в течении 1999 года евро больше падала в цене, следовательно сигналов на продажу и ожидание продажи в обучающей выборке получится больше, чем сигналов на покупку и ожидание покупки. Сразу можно говорить о том, что обученные по такому правилу ИНС будут «тяготеть» к сигналу «ожидание продажи». Необходимо использовать алгоритм формирования обучающей выборки, который бы позволял избегать излишнего доминирования отдельных выходных значений.

Возможными прогнозируемыми величинами при реализации задачи прогнозирования могут являться: доходность и ценовые показатели, то есть средневзвешенная цена, цены закрытия и открытия, максимальная и минимальная цены. Причем прогнозироваться могут как показатели, определенные для целой группы инструментов или некоторого рынка в целом, так и показатели, определенные только для одного инструмента финансового рынка. В некоторых пакетах нейросетевого анализа финансовых рынков встроены модели, позволяющие прогнозировать максимальные и минимальные значения цены на один или несколько шагов вперед.

2.3.3 Классификация рыночных ситуаций по достижимости значимых уровней.

Как было отмечено выше, первоочередной задачей технического анализа является определение направления движения цены в будущем. Тем не менее, для получения полного представления о состоянии рынка желательно знать, до какого уровня может дойти цена в ближайшее время. Если в финансовом ряде существуют функциональные зависимости, то ИНС, как универсальный инструмент аппроксимации, может оказаться полезным инструментом для предсказания уровней цены через некоторое количество периодов в будущем.

Обучающее правило для прогнозирования достижимости значимых уровней формируется в виде классов. Рассмотрим процесс формирования обучающего правила для часовой динамики курса евро/доллар за 1999 год. Указанная динамика имеет следующие характеристики (за 24 часа): максимальный достигнутый верхний уровень +0.0292, средний достигнутый верхний уровень +0.0049, предельно достигнутый нижний уровень -0.0276, средний достигнутый нижний уровень -0.0056, т.е. в среднем за сутки цена проходит около 50 пунктов (вверх или вниз) и максимальное суточное движение цены близко к 300 пунктам (вверх или вниз). Статистически большинство значений достигнутых уровней не превосходят 80-100 пунктов. Исходя из указанных значений, можно формировать классы по достижимости ценой некоторых уровней (каждые 20 пунктов), т.е. образ попадает в первый класс, если за следующие 24 часа цена выросла/упала не более, чем на 20 пунктов, во второй класс, если цена выросла/упала более, чем на 20 пунктов, но не более, чем на 40 и т.д. Распределение количества образов по классам, при классификации по описанному принципу, представлено на рисунке 2.13.

Рис. 2.13 Распределение образов по классам при классификации по признаку достижимости значимых уровней (евро/доллар 1999 г.)

Остается закодировать значения классов в соответствии с принципом максимизации энтропии (информационной насыщенности) выходных значений обучающего множества, описанном выше. Так, при полученном распределении ожидаемых выходных значений, коды классов примут следующие значения:

а.) для верхних уровней: x1 = 0.1125, x2 = 0.3706, x3 = 0.6162, x4 = 0.7743, x5 = 0.8635, x6 = 0.9474.

б.) для нижних уровней: x1 = 0.0810, x2 = 0.2896, x3 = 0.5229, x4 = 0.6973, x5 = 0.8126, x6 = 0.9297.

2.2.4 Аппроксимация отношения текущего положения цены к коридору будущих цен

Полезной в плане предсказания является величина, характеризующая положение цены в настоящий момент относительно коридора из максимальной и минимальной цен через некоторое количество периодов в будущем. Знание текущего положения цены в коридоре будущих цен позволило бы принимать решения о торговле при приближении значений прогнозируемой величины к максимальным и минимальным значениям ряда.

Рассмотрим результат расчета временного ряда, построенного по описанному правилу на основе динамики курса евро/доллар в 1999 году при прогнозировании на 24 часа вперед (см. рис. 2.14). Данный вид прогнозируемой информации на выбранном коридоре обладает распределением близким к равномерному, но при условии наличия в обучающей выборке данных о периодах роста, падения и застоя прогнозируемого инструмента в равной пропорции. В 1999 году евро больше падала в цене, и на диаграмме можно заметить, что значений прогнозируемой величины, показывающих потенциал снижения цены больше (количество значений близких к максимуму).

Рис. 2.14 Распределение ожидаемых значений при постановке задачи прогнозирования отношения текущего положения цены к коридору будущих цен (евро/доллар 1999 г.)

2.4 Обучение искусственных нейросетей. Анализ результатов

2.4.1 Нейросетевой индикатор для прогнозирования рынка евро/доллар

Абсолютное большинство трейдеров при прогнозировании финансовых рынков используют технический анализ (ТА). Одним из наиболее популярных разделов ТА является анализ при помощи индикаторов. Даже если торговая система трейдера не основана на индикаторах, он все равно использует 3-5 «дежурных сигнальщиков» в своей работе. Не существует индикатора, который бы со 100% уверенностью выдавал сигналы на вход в рынок и выход из него, так как индикаторы просто представляют текущую рыночную ситуацию в удобном виде и не позволяют однозначно сказать, что будет в будущем.

Необходимо отметить, что раздел ТА, посвященный индикаторам, разрабатывался достаточно давно и страдает излишней простотой подхода к интерпретации рынка по одной простой причине. Например, в 60-е годы не каждый трейдер имел доступ к компьютеру и «сигнальщики» рассчитывались ими в таблицах при помощи карандаша и бумаги. Современные компьютерные и аналитические технологии предоставляют в распоряжение трейдера гораздо больше возможностей для анализа рынка.

Разработаем индикатор, которому можно было бы доверять больше чем, например, таким популярным индикаторам как RSI или Stochastic. На способ решения задачи накладывают определенные особенности следующие условия: исследовательская деятельность, выполняемая в рамках данной работы, направлена на международный валютный рынок FOREX; стратегия торговли подразумевает торговлю на коротких периодах внутри дня.

Цель опыта: сформировать комитет нейроэкпертов, который бы решал задачу прогнозирования MPP, сглаженного 6-типериодной скользящей средней, построенного на основе часовой динамике курса евро/доллар. База для формирования входной информации: часовая динамика курса евро/доллар за 1999 год. Входная информация: приращения цен закрытия за 24 часа. Выходная информация: MPP, сглаженный 6-типериодной скользящей средней.

Обучение каждой сети производилось до тех пор, пока MSE не переставала заметно уменьшаться. MSE (Mean Squared Error) - среднеквадратическая ошибка значений, формирующихся на выходах ИНС, рассчитываемая в процессе обучения «с учителем» - один из самых распространенных критериев качества обучения нейросетей. В таблице 2.1 представлены результаты обучения 10-ти ИНС. Нейронные сети не «научились» однозначно распознать хотя бы половину образов, и, кроме того, на одном и том же обучающем множестве показали разные результаты. Особо хочется обратить внимание на то, что даже сети одинаковой конфигурации показали различные «способности» к обучению. Этот факт наглядно иллюстрирует эффект «локальных минимумов» и «первоначальной точки» при обучении методом градиентного спуска (обратного распространения ошибки).

Таблица 2.1 Характеристики нейросетей, задействованных в эксперименте

Сеть	Конфигурация	MSE - среднеквадратическая ошибка	Процент верно распознаваемых образов (к-т допущения 0.1), %
EUR1	(24-36-1)	0.2856	30,00
EUR2	(24-40-1)	0.2915	28,53
EUR3	(24-36-1)	0.2810	28,70
EUR4	(24-49-1)	0.2620	35,04
EUR5	(24-42-1)	0.2650	34,70
EUR6	(24-24-1)	0.2824	27,93
EUR7	(24-28-1)	0.2770	29,36
EUR8	(24-47-1)	0.2680	33,70
EUR9	(24-47-1)	0.2528	36,40
EUR10	(24-48-1)	0.2600	35,12

Современные методы обучения многослойных ИНС подразумевают формирование первоначальных значений весов случайным образом и дальнейший пошаговый поиск экстремумов функции невязки. В этой связи, предсказания сетей, обученных на одной и той же выборке, в большинстве случаев, будут отличаться. Этот недостаток (элемент неопределенности) можно превратить в достоинство, организовав комитет нейро-экспертов, состоящий из нескольких ИНС. Разброс в предсказаниях экспертов позволяет получить представление «качестве» получаемых прогнозов, что можно использовать для правильного выбора стратегии игры.

Среднее значений комитета должно давать лучшие предсказания, чем средний эксперт из этого же комитета, причем, снижение ошибки может быть довольно заметным [37]. Поэтому, в предсказаниях всегда лучше опираться на средние значения всего комитета. В большинстве случаев выигрыш комитета выше, чем выигрыш каждого из экспертов. Таким образом, метод комитетов может существенно повысить качество прогнозирования.

В качестве результирующего прогнозируемого значения воспользуемся взвешенной средней мнений сетей - экспертов. В качестве оценки степени обученности нейросетей воспользуемся коэффициентом корреляции выходов сети и «идеальных» значений из обучающего множества: чем больше коэффициент корреляции, тем больше выходные значения сети совпадают с «идеальными». Из таблицы 2.1 видно, что хуже обученные сети характеризуются меньшими значениями коэффициента корреляции. В результате хуже обученные нейросети из комитета вносят меньший вклад в общее мнение и не искажают предсказания.

Полученное среднее мнение комитета можно использовать для построения индикатора. Значения среднего мнения комитета, как и предполагалось выше (см. подраздел 2.3.2), тяготеет к нижней границе оптимальных значений, колеблется с малой амплитудой около своего среднего значения. Кроме того можно увидеть, что значения характеризуются шумом (испытывают резкие смены направлений), который затрудняет использование индикатора. Все вышесказанное наглядно демонстрирует график среднего мнения (синяя линия на рис. 2.15).

Рис. 2.15. Графики среднего мнения комитета нейроэкспертов (синяя линия) и индикатора комитета (красная линия)

Более удобный вид индикатор примет, если его значения перед применением преобразовать так, чтобы они были более сглаженными и колебались в интервале [0;1]. Этого можно добиться путем некоторых преобразований, например: увеличением/уменьшением значения среднего мнения комитета на константу ("приподнимаем" график), растягиванием значения по направлению к краям (вычитаем 0,5, умножаем на коэффициент, прибавляем 0,5), применением функции-сигмоида, сглаживанием скользящей средней (в нашем примере 6 периодов) и т.п.

Полученный индикатор изображен красной линией на рисунке 2.15. Интерпретировать его сигналы можно следующим образом: при приближении индикатора к верхней границе интервала [0;1] необходимо покупать, при приближении индикатора к нижней границе интервала [0;1] необходимо продавать.

Для анализа «качества» индикатора построим точечную диаграмму результатов теста комитета нейросетей на динамике курса евро/доллар за январь 2000 г., на которой ИНС не обучались. По оси абсцисс будем откладывать «ожидаемые» значения, а по оси ординат - соответствующие значения полученного индикатора (рис. 2.16). Синими точками на рисунке 2.16 показаны результаты прогнозирования, красными цветом отмечена ситуация, возникающая в случае 100% совпадения ожидаемых и фактических выходных значений.

Рис. 2.16 Диаграмма, отражающая качество распознавания комитетом рыночных ситуаций

По показаниям диаграммы можно сделать следующие выводы:

В том случае, когда значения, полученные в результате прогнозирования, совпадут с ожидаемыми, на диаграмме это будет изображено в виде точечной линии (красная линия на рисунке 2.16). Как видно из диаграммы (синие точки), значения индикатора «размазались» в результате преобразований (прогноз нейросетей, усреднение, растягивание), однако главные крайние значения собраны в «облака» в тех углах, в которых они и должны находиться для хороших прогнозов - «правый верхний» и «левый нижний».

Евро на протяжении 1999 года падала и уже на стадии формирования обучающей выборки было выдвинуто предположение о том, что нейросети с большей достоверностью научатся прогнозировать «продажу». Значения по оси абсцисс, лежащие в интервале [0;0.2], могут быть рассмотрены как потенциальные «продажные» сигналы, а в интервале [0.8;1] - как «покупочные». Облако в области потенциальных сигналов на продажу более концентрировано по оси ординат, а значит сигналы на продажу должны быть более точными. Будет хорошо, если при реальной работе на рынке с полученным индикатором, евро по отношению к доллару будет продолжать падать.

Средняя погрешность прогноза в январе 2000 составила 0.2333 при единичном интервале колебания индикатора. Это означает, что однозначных заключений о покупке или продаже по полученному индикатору делать нельзя, слишком велика погрешность (46% интервала изменения величины) Реально сигналы, подаваемые индикатором комитета, можно рассматривать только как «скорее вниз, чем вверх» или «скорее вверх, чем вниз» и т.п.

Следующим этапом в анализе «качества» полученных результатов будет построение простейшей торговой системы, базирующейся на основе полученного индикатора, и моделирование торговли по ней на рынке.

Под простейшей торговой системой будем понимать систему, выдающую сигналы на открытие позиции (длинной и короткой) и закрытие позиции. Такую систему можно смоделировать, используя модуль System Tester пакета для технического анализа Equis MetaStock.

System Tester позволяет подобрать для индикаторов оптимальные уровни, при пересечении которых возникает сигнал на открытие или закрытие позиции. По результатам нескольких тестов значимые уровни можно расставить следующим образом (рис. 2.17):

а) 0.3 - пересечение индикатором этого уровня сверху вниз будем интерпретировать как сигнал на "продажу";

б) 0.7 - пересечение индикатором этого уровня снизу вверх будем интерпретировать как сигнал на "покупку".

Такую стратегию можно интерпретировать следующим образом: закрываем одну позицию, открываем другую в обратном направлении. При пересечении значимых уровней (на рисунке 2.17 синие горизонтальные линии) моделируются сигналы на покупку или продажу. График сигналов, используемых при обучении (сглаженный MPP), построен на рисунке синей линией. Из графика видно как индикатор «пытается повторить» идеальный сигнал. Обучение комитета нейро-экспертов проводилось по данным 1999 года. Протестируем индикатор комитета нейросетей на часовых котировках евро/доллар за январь 2000 года, т.е. на данных, которые не использовались в процессе обучения.

Рис. 2.17 Пример применения индикатора (красная линия)

Торгуя по такой системе в январе 2000 года на рынке евро/доллар, можно было заработать 488 пунктов (или 4,8 «фигуры» на лексиконе трейдеров), что составляет 57% годовых (12*4,8) для «немаржинальной» торговли (рис. 2.18). Стрелками на графике отмечены моменты открытия и закрытия позиций (длинных и коротких соответственно), внизу красной линией изображен индикатор (рис. 2.18).

Как правило, торговые системы практикующих трейдеров гораздо более сложные и строятся на большом числе элементов, поэтому на реальном рынке по рассмотренной здесь торговой системе профессиональные трейдеры, скорее всего, работать не будут в силу ее упрощенного подхода к интерпретации рыночных ситуаций. Однако она обладает потенциалом усовершенствования с точки зрения надежности и прибыльности. Поэтому работы в данном направлении должны быть продолжены.

Рис. 2.18. Результат торговли в январе 2000 г. на рынке евро/доллар (красная линия вверху)

При разработке нейросетевого индикатора попытаемся в качестве входных данных использовать производные ценовой динамики, а именно - сигналы индикаторов технического анализа (ТА). Очевидные достоинства применения входных данных такого рода описаны выше.