EM-алгоритм с большим числом компонент как средство построения непараметрических оценок плотности

Размещено на http://www.allbest.ru/

EM-алгоритм с большим числом компонент как средство построения непараметрических оценок плотности

А.В. Батов1, В.Ю. Королев2, А.Ю. Корчагин3

1 Учреждение Российской Академии Наук Институт проблем управления им. В.А. Трапезникова РАН, Россия, Москва, batov@ipu.ru

2 Институт проблем информатики Российской академии наук, Россия, Москва, vkorolev@comtv.ru

3 Московский государственный университет имени М.В. Ломоносова, Россия, Москва, sasha.korchagin@gmail.com

Конечные смеси вероятностных законов находят самое широкое применение как модели распределения многих случайных величин, наблюдаемых на практике. Так, распределения приращений процессов эволюции финансовых индексов и процессов плазменной турбулентности хорошо описываются конечными сдвиг-масштабными смесями нормальных законов. При исследовании стохастической структуры хаотических информационных потоков в сложных телекоммуникационных сетях находят свое применения смеси гамма распределений.

Для решения задачи статистического оценивания параметров смесей (разделение смесей) целесообразно применять EM-алгоритм (Expectation-Maximization) и его модификации. Различные модификации EM-алгоритма имеют свои недостатки и преимущества, такие, как быстродействие, устойчивость к начальным приближениям и т.д. (смотри [1]).

Если число компонент смеси очень велико и сопоставимо с объемом выборки, то, даже если истинная плотность распределения отлична от , результат действия ЕМ-алгоритма может быть использован как непараметрическая статистическая оценка плотности :

Например, с ядрами вида

алгоритм телекоммуникационный сеть статистический

- плотность стандартного нормального распределения вероятностей, ) ,

Очевидным недостатком такого подхода является слишком продолжительное время вычислений вследствие большого числа оцениваемых параметров. Однако такой подход имеет неоспоримое преимущество: при применении классических ядерных оценок плотности на практике слабым местом является определение значения параметра гладкости оценок («ширины окна»), в то время как при предлагаемом подходе параметр , регламентирующий гладкость оценки («ширину окна»), во-первых, не один (многомерен) и, во-вторых, не выбирается произвольно, но оценивается автоматически. Другими словами, получается гибкий адаптивный алгоритм построения оценки плотности.

Покажем результаты сравнения различных методов оценки плотности распределения сгенерированных случайных величин.

Здесь черным обозначена истинная плотность распределения, красным - результат работы градиентного сеточного метода разделения гамма смесей, зеленым - ядерная оценка плотности, серым - обычный ЕМ_алгоритм. Как видно, применение сеточного градиентного метода дает более близкий результат, чем ядерные оценки плотности.

Выбор «правильного» метода оценивания плотности распределения является важным вопросом.

В целях демонстрации использования алгоритмов разделения смесей к реальным данным, на рисунках ниже представлены результаты применения обычного ЕМ-алгоритма в режиме скользящего окна к данным индекса NIKKEI-225 за март 2011 года. Приведен график исходных данных (рис.1), оцененных диффузионных (рис 2) и динамических компонент (рис 3) волатильности (СРС-метод описан в книге [1]).

Список литературы

1. Королёв В.Ю. Вероятностно-статистический анализ хаотических процессов с помощью смешанных Гауссовских моделей. Декомпозиция волатильности финансовых индексов и турбулентной плазмы. - М.: Изд-во ИПИ РАН, 2007.

2. Королёв В.Ю. ЕМ-алгоритм, его модификации и их применение к задаче разделения смесей вероятностных распределений. Теоретический обзор. - М.: ИПИ РАН, 2007.

3. Назаров А.Л. Разделение смесей вероятностных распределений сеточным методом максимального правдоподобия при помощи алгоритма условного градиента, 2009, Сборник статей молодых ученых ВМК МГУ.

4. Королев В.Ю., Назаров А.Л. Разделение смесей вероятностных распределений при помощи сеточных методов моментов и максимального правдоподобия / Автоматика и телемеханика. - 2010. - N 3. - С. 98-116

Размещено на Allbest.ru