Статистичний аналіз характеристик випадкових величин по спостереженнях із суміші

Размещено на http://www.allbest.ru/

Київський національний університет імені Тараса Шевченка

Автореферат

дисертації на здобуття наукового ступеня кандидата фізико-математичних наук

01.01.05 - теорія ймовірностей та математична статистика

Статистичний аналіз характеристик випадкових величин по спостереженнях із суміші

Кубайчук Оксана Олексіївна

Київ - 2004

Дисертацією є рукопис.

Робота виконана на кафедрі теорії ймовірностей та математичної статистики Київського національного університету імені Тараса Шевченка.

Науковий керівник:

доктор фізико-математичних наук, професор Майборода Ростислав Євгенович, кафедра теорії ймовірностей та математичної статистики Київського національного університету імені Тараса Шевченка.

Офіційні опоненти:

доктор фізико-математичних наук, професор Іванов Олександр Володимирович‚ завідувач кафедри загальноекономічних дисциплін Міжнародного християнського університету (Київ);

кандидат фізико-математичних наук, с.н.с. Пашко Анатолій Олексійович‚ декан факультету інформаційних систем і технологій Європейського університету (Київ).

Провідна установа: НТУУ “Київський політехнічний інститут” (кафедра математичного аналізу і теорії ймовірностей).

Учений секретар спеціалізованої вченої ради Моклячук М.П.

Анотація

Кубайчук О.О. Статистичний аналіз характеристик випадкових величин по спостереженнях із суміші. Рукопис.

Дисертація на здобуття наукового ступеня кандидата фізико-математичних наук за спеціальністю 01.01.05 - теорія ймовірностей і математична статистика. Київський національний університет імені Тараса Шевченка, Київ, 2004.

В дисертаційній роботі досліджувались характеристики випадкових величин по спостереженнях із суміші зі змінними концентраціями. Знайдені умови незміщеності‚ консистентності та асимптотичної нормальності для лінійних оцінок функціональних моментів. Доведена консистентність‚ асимптотична нормальність та ефективність адаптивних оцінок для функціональних моментів. Розроблені алгоритми виправлення зважених емпіричних функцій розподілу. Доведено функціональні граничні теореми для виправлених зважених емпіричних функцій розподілу. Доведена асимптотична нормальність оцінок функціональних моментів‚ що використовують виправлені зважені емпіричні функції розподілу.

Ключові слова: суміш зі змінними концентраціями‚ лінійна оцінка‚ адаптивна оцінка‚ виправлені зважені емпіричні функції розподілу.

Аннотация

Кубайчук О.А. Статистический анализ характеристик случайных величин по наблюдениям из смеси. Рукопись.

Диссертация на соискание ученой степени кандидата физико-математических наук по специальности 01.01.05 - теория вероятностей и математическая статистика. Киевский национальный университет имени Тараса Шевченко, Киев, 2004.

Модели смесей наблюдений из разных популяций, которые имеют разные вероятностные свойства, широко используются в статистическом анализе биологических, социологических и экономических данных. В последнее время начали развиваться исследования смесей, у которых концентрации компонент изменяются от наблюдения к наблюдению. Особенно важными являются задачи оценивания числовых вероятностных характеристик компонент таких смесей (математического ожидания, дисперсии и др.)

В диссертационной работе создается теория таких оценок, которая позволяет выбирать наиболее эффективные алгоритмы.

Разработка методов статистического анализа данных, которые описываются моделью смеси конечного количества вероятностных распределений, была начата К. Пирсоном и С. Ньюкомбом в 1894 году. Этот процесс не завершен до сих пор. Оценивание вероятностных характеристик компонент смеси сталкивается с проблемами даже в параметрической постановке (например, метод максимального правдоподобия часто оказывается непригодным в задачах статистики смесей). Непараметрический анализ смесей с переменными концентрациями -- новое направление в этой области. Основой техники такого анализа есть использование взвешенных эмпирических функций распределения (ф.р.). Хотя эти функции при определенных условиях являются консистентными, асимптотически нормальными, несмещенными и минимаксными оценками настоящих ф.р. компонент смеси, они имеют ряд недостатков, нежелательных для оценок (например, взвешенная эмпирическая ф.р. компонент смеси, как правило, не есть функцией распределения вероятностной меры, а также, в отличие от случая однородной выборки, оценки моментов распределений, построенные на основе ф.р. с неслучайными весовыми коэффициентами, не являются эффективными оценками). Поэтому разработка методов улучшения существующих оценок вероятностных характеристик распределений по наблюдениям из смеси есть актуальной.

Оценки, построенные на основе взвешенных эмпирических ф.р. и взвешенных эмпирических моментов, у которых весовые коэффициенты есть случайными величинами зависящими от выборки, ранее математически не исследовались. Методам построения таких оценок посвящена эта диссертационная работа.

Чтобы решить поставленные задачи в диссертации используются результаты и методы теории вероятностей‚ алгебры и математического анализа.

Асимптотическое поведение, построенных в работе оценок, исследовано с использованием современных методов математической статистики и теории случайных процессов, в частности, используется метод одного вероятностного пространства А.В. Скорохода.

В диссертации впервые сформулировано понятие адаптивной оценки функционального момента распределения компоненты смеси и исправленной взвешенной эмпирической функции распределения (и.в.э.ф.р.).

Основные результаты, полученные в диссертационной работе:

найдены условия несмещенности, консистентности и асимптотической нормальности для линейных оценок функциональных моментов по наблюдениям из смеси с переменными концентрациями;

доказана консистентность, асимптотическая нормальность и эффективность адаптивных оценок для функциональных моментов;

разработаны алгоритмы исправления взвешенных эмпирических функций распределения, которые позволяют получить оценки уже являющиеся функциями распределения вероятностных мер;

для исправленных взвешенных эмпирических функций распределения сформулированы и доказаны функциональные предельные теоремы;

доказана асимптотическая нормальность оценок функциональных моментов, которые используют и.в.э.ф.р.;

проведено сравнение эффективности разных оценок функциональных моментов для выборок фиксированного объема методом имитационного моделирования.

Диссертация имеет теоретическую направленность, и полученные результаты являются вкладом в развитие теории смесей.

На практике полученные результаты можно использовать для анализа статистических данных медико-биологических, социологических и экономических исследований.

Ключевые слова: смесь с переменными концентрациями, линейная оценка, адаптивная оценка, исправленная взвешенная эмпирическая функция распределения.

Annotation

Kubaychuk O. Statistic Analysis of Characteristics of Random Variables by Observations from Mixture. - Manuscript.

The thesis for obtaining the Candidate of Physical and Mathematical Sciences degree on the specialty 01.01.05 - Probability Theory and Mathematical Statistics. Kyiv National Taras Shevchenko University, Kyiv, 2004.

The characteristics of the random variables by the observations from mixture with the varying concentrations are studied in the thesis. The conditions of the unbiasedness, consistency and asymptotic normality for the linear estimators of the functional moments are found. The consistency, asymptotic normality and efficiency for the adaptive estimators of the functional moments are proved. The algorithms of the correcting of the weighted empirical distribution functions are constructed. The functional limit theorems for the corrected weighted empirical distribution functions are proved. The asymptotic normality of the estimators of the functional moments, which are constructed using the corrected weighted empirical distribution functions, are proved.

Key words: mixture with varying concentrations, linear estimator, adaptive estimator, corrected weighted empirical distribution function.

1. Загальна характеристика роботи

лінійний суміш ймовірнісний

Актуальність дослідження. Моделі сумішей спостережень з різних популяцій‚ що мають різні ймовірнісні властивості‚ широко застосовуються в статистичному аналізі біологічних‚ соціологічних та економічних даних. В останній час широко почали розвиватися дослідження сумішей‚ у яких концентрації компонент змінюються від спостереження до спостереження. Особливо важливими є задачі оцінювання числових ймовірнісних характеристик компонент таких сумішей (математичного сподівання‚ дисперсії тощо).

У дисертаційній роботі створюється теорія таких оцінок‚ яка дозволить обирати найбільш ефективні алгоритми.

Розробку методів статистичного аналізу даних‚ що описуються моделлю суміші скінченної кількості ймовірнісних розподілів, було розпочато К. Пірсоном і С. Ньюкомбом у 1894 році. Цей процес не закінчено і досі. Оцінювання ймовірнісних характеристик компонент суміші зустрічається з труднощами навіть у параметричній постановці (наприклад‚ метод найбільшої вірогідності часто виявляється непридатним у задачах статистики сумішей). Непараметричний аналіз сумішей зі змінними концентраціями є новим напрямком в цій галузі. Основою техніки такого аналізу є використання зважених емпіричних функцій розподілу (ф.р.). Хоча ці функції, за певних умов, є консистентними‚ асимптотично нормальними‚ незміщеними та мінімаксними оцінками справжніх ф.р. компонент суміші‚ вони мають ряд недоліків, небажаних для оцінок (наприклад‚ зважена емпірична ф.р., як правило, не є функцією розподілу ймовірнісної міри‚ а також‚ на відміну від випадку однорідної вибірки‚ оцінки моментів розподілів‚ побудовані на основі ф.р. з невипадковими ваговими коефіцієнтами‚ не є ефективними оцінками). Тому розробка методів покращення існуючих оцінок ймовірнісних характеристик розподілів по спостереженнях із суміші є актуальною.

Оцінки‚ побудовані на основі зважених емпіричних ф.р. та зважених емпіричних моментів‚ у яких вагові коефіцієнти є випадковими величинами залежними від вибірки‚ досі математично не досліджувались. Методам побудови таких оцінок присвячена дана дисертаційна робота.

Зв'язок роботи з науковими програмами, планами, темами. Дисертаційна робота виконана на кафедрі теорії ймовірностей та математичної статистики Київського національного університету імені Тараса Шевченка в рамках держбюджетної дослідницької теми № 01БФ03806 “Розвиток теорії випадкових полів та динамічних систем на алгебраїчних структурах”, яка входить до програми “Побудова та застосування математичних методів дослідження детермінованих та стохастичних еволюційних систем” (номер державної реєстрації № 0101U002472).

Мета та завдання дослідження. Метою роботи є подальший розвиток теорії сумішей зі змінними концентраціями‚ а саме‚ створення теорії оцінок числових ймовірнісних характеристик компонент суміші.

Основні завдання дослідження: знайти умови незміщеності‚ консистентності та асимптотичної нормальності для лінійних оцінок функціональних моментів по спостереженнях із суміші зі змінними концентраціями; довести консистентність‚ асимптотичну нормальність та ефективність адаптивних оцінок для функціональних моментів; розробити алгоритми виправлення зважених емпіричних функцій розподілу‚ що дозволяють отримати оцінки‚ які будуть функціями розподілу ймовірнісних мір; для виправлених зважених емпіричних функцій розподілу сформулювати та довести функціональні граничні теореми; довести асимптотичну нормальність оцінок функціональних моментів‚ що використовують виправлені зважені емпіричні функції розподілу; провести порівняння ефективності різних оцінок функціональних моментів для вибірок фіксованого об'єму методом імітаційного моделювання.

Методика дослідження. Для розв'язання сформульованих задач в дисертаційній роботі використовуються результати і методи теорії ймовірностей, алгебри‚ математичного аналізу.

Асимптотична поведінка‚ побудованих в роботі оцінок‚ досліджена з використанням сучасних методів математичної статистики та теорії випадкових процесів‚ зокрема використовується метод одного ймовірнісного простору А.В. Скорохода.

Наукова новизна одержаних результатів. У дисертації вперше сформульовано поняття адаптивної оцінки функціонального момента розподілу компоненти суміші і виправленої зваженої емпіричної функції розподілу (в.з.е.ф.р.).

Основні результати, отримані в дисертаційній роботі, такі:

знайдені умови незміщеності‚ консистентності та асимптотичної нормальності для лінійних оцінок функціональних моментів по спостереженнях із суміші зі змінними концентраціями;

побудовані адаптивні оцінки для функціональних моментів і доведена їх консистентність‚ асимптотична нормальність та ефективність;

розроблені алгоритми виправлення зважених емпіричних функцій розподілу‚ що дозволяють отримати оцінки‚ які будуть функціями розподілу ймовірнісних мір;

для виправлених зважених емпіричних функцій розподілу сформульовано та доведено функціональні граничні теореми;

доведена асимптотична нормальність оцінок функціональних моментів‚ що використовують виправлені зважені емпіричні функції розподілу;

проведено порівняння ефективності різних оцінок функціональних моментів для вибірок фіксованого об'єму методом імітаційного моделювання.

Ці результати визначають наукову новизну і виносяться на захист.

Практичне значення одержаних результатів. Дисертація має теоретичне спрямування, і одержані результати є внеском в розвиток теорії сумішей. На практиці отримані результати можна використовувати для аналізу статистичних даних медико-біологічних‚ економічних‚ соціологічних досліджень.

Особистий внесок здобувача. Всі основні результати дисертаційної роботи є новими і отримані автором самостійно.

У статтях‚ опублікованих у співавторстві з науковим керівником Р.Є.Майбородою‚ вся робота по побудові оцінок‚ дослідженню їх поведінки та підготовці тексту публікації проводилась самостійно. Керівнику належить постановка задачі та загальне керівництво роботою.

Апробація результатів. Результати‚ включених до дисертації досліджень‚ оприлюднено на міжнародній конференції‚ присвяченій до 90-річчя з дня народження Б.В. Гнєденко (3-7 червня 2002 р.‚ м. Київ) та на Сьомій міжнародній школі з математичних та статистичних методів в економіці‚ фінансах та страхуванні (8-13 вересня 2003 р.‚ Ласпі‚ Крим‚ Україна)‚ засіданні наукового семінару з теорії ймовірностей та математичної статистики при кафедрі теорії ймовірностей та математичної статистики механіко-математичного факультету Київського національного університету імені Тараса Шевченка (Київ, 2002 р.)‚ засіданні наукового семінару з теорії ймовірностей та математичної статистики при кафедрі теорії ймовірностей та математичного аналізу Національного технічного університету ”КПІ” (Київ, 2003 р.).

Публікації. Результати дисертації опубліковані в трьох статтях і тезах двох конференцій.

Структура дисертації. Дисертація складається із вступу, чотирьох розділів, розбитих на підрозділи, висновків та списку використаних джерел. Дисертація викладена на 130 сторінках‚ містить 11 ілюстрацій та 9 таблиць. У роботі використано 87 літературних джерел.

2. Основний зміст дисертації

У вступі обґрунтовано актуальність роботи, визначено мету та завдання дослідження; висвітлено методи, наукову новизну, теоретичне та практичне значення дослідження, особистий внесок здобувача, апробацію отриманих результатів.

Перший розділ містить огляд літератури за тематикою дослідження, аналіз сучасного стану проблем, які розглядаються в дисертаційній роботі‚ а також‚ деякі допоміжні результати‚ які використовувались у дослідженні.

У другому розділі обгрунтовано вибір напряму досліджень на прикладах задач‚ що приводять до моделі суміші зі змінними концентраціями (соціологічний аналіз результатів виборів‚ психологічна придатність). Також показана важливість оцінювання числових ймовірнісних характеристик компонент суміші і наведено деякі методи вирішення задач.

Третій розділ містить основні теоретичні положення. У першому підрозділі третього розділу конкретизується поняття суміші зі змінними концентраціями. Тобто‚ вважаємо‚ що досліджувані дані являють собою вибірку із суміші зі змінними концентраціями: незалежні у сукупності випадкові величини ( в.в.) при фіксованому і.

У цьому ж підрозділі розглядаються оцінки для функціональних моментів будь-якої (-тої) компоненти суміші

Використовуючи зважені емпіричні функції розподілу, які при певних (невипадкових) вагових коефіцієнтах є хорошими (незміщеними‚ мінімаксними‚ асимптотично нормальними) оцінками‚ можна побудувати оцінку для методом підстановки.

Оцінки вигляду називають лінійними оцінками.

Відмітимо‚ що надалі верхній індекс інколи писати не будемо.

Для означення адаптивної оцінки введемо наступні поняття. Розглядається -- клас статистик для всіх можливих вагових коефіцієнтів ‚ що забезпечують незміщеність як оцінки (клас лінійних незміщених оцінок); вектор.

Якщо відоме‚ то можна знайти вектор вагових коефіцієнтів такий‚ що і дисперсія -- найменша в класі. Такий вектор назвемо вектором ефективних вагових коефіцієнтів (для даного значення параметра).

Проте справжнє значення параметра невідоме. Тому оцінимо компоненти вектора за допомогою лінійних оцінок з фіксованими ваговими коефіцієнтами. Отриманий вектор оцінок підставимо у формулу для ефективних вагових коефіцієнтів і використаємо отримані коефіцієнти для обчислення оцінки. Оцінку назвемо адаптивною.

Надалі набір будемо розглядати як матрицю з стовпчиків та рядочків. Вектори-стовпчики цієї матриці позначатимемо. Спостережувану вибірку позначимо . Для спрощення позначень нижній індекс інколи писати не будемо. Відповідно вектор вагових коефіцієнтів у та теж залежить від обсягу вибірки.

У підрозділі 3.2 отримана умова незміщеності для оцінки (лема 3.2.1) і побудовані ефективні вагові коефіцієнти (лема 3.2.2).

Лема 3.2.1. Статистика‚ визначена ‚ буде незміщеною оцінкою.

Щоб сформулювати лему 3.2.2 введемо наступні позначення.

Лема 3.2.2. Мінімум по ‚ при виконанні умов незміщеності.

Таким чином‚ ефективний ваговий вектор для оцінювання‚ при справжньому значенні параметрів рівному ‚ задається .

Інші властивості оцінок розглянуто в підрозділі 3.3. Асимптотична поведінка цих оцінок описана наступними теоремами.

Тоді оцінка є консистентною‚ тобто за ймовірністю.

Тоді розподіли в.в. слабко збігаються при до стандартного нормального розподілу.

Теорема 3.3.3. В умовах теореми 3.3.2 оцінка є консистентною‚ тобто за ймовірністю.

Теорема 3.3.4. В умовах теореми 3.3.2‚ розподіли в.в. слабко збігаються при до стандартного нормального розподілу.

Таким чином‚ асимптотична поведінка адаптивної оцінки така ж‚ як і найкращої лінійної оцінки.

У підрозділі 3.4 розроблені схеми виправлення зважених емпіричних ф.р.‚ що дають можливість отримувати оцінки‚ які самі є ф.р. ймовірнісних мір (надалі‚ для спрощення позначень‚ знак вектора опускаємо).

Надалі індексом позначатимем будь-яку комбінацію або з , або (тобто може бути будь-якою з описаних вище виправлених зважених емпіричних ф.р.).

В підрозділі 3.5 сформульовані результати‚ що стосуються асимптотичної поведінки зваженої емпіричної функції розподілу (з.е.ф.р.) і виправленої з.е.ф.р. Щоб сформулювати ці результати введемо необхідні нам емпіричні процеси:

Крім того‚ вважаємо‚ що в ‚ яка використовується як оцінка і визначена ‚ вагові коефіцієнти вибрано так‚ щоб була незміщеною оцінкою. Для цього достатньо‚ щоб виконувались умови незміщеності:

Для всіх існують границі.

є неперервними функціями на .

Виконана умова незміщеності.

Тоді на деякому випадковому просторі можна побудувати процеси та .

є гаусовим випадковим процесом з неперервними траекторіями, нульовим середнім і коваріаційною функцією.

Для всіх , є неперервними функціями на .

Для всіх , .

Виконані умови незміщеності.

Розподіл співпадає з розподілом , а розподіл -- з розподілом .

При , за ймовірністю.

Таким чином, асимптотична поведінка емпіричних процесів у рівномірній нормі однакова для всіх методів виправлення і не відрізняється від асимптотики емпіричного процесу для невиправленої емпіричної ф.р.

Наступна теорема описує поведінку емпіричних процесів при .

Теорема 3.5.4. В умовах теореми 3.5.3‚ для довільних i .

У підрозділі 3.6 сформульовані результати‚ що стосуються асимптотики виправлених зважених емпіричних моментів.

Теорема 3.6.1. В умовах теореми 3.5.3, якщо -- функція обмеженої варіації на , то для всіх розглядуваних .

має нормальний розподіл з нульовим середнім і дисперсією

Теорема 3.6.2. Нехай виконуються умови теореми 3.5.3, -- монотонна функція i для всіх та деяких

У четвертому розділі проведено порівняння ефективності різних оцінок функціональних моментів для вибірок фіксованого об'єму методом імітаційного моделювання. Показано‚ що при великих об'ємах вибірки асимптотична дисперсія (коефіцієнт розсіювання) мало відрізняється від дисперсії ефективної лінійної оцінки.

Висновки

Метою досліджень‚ результати яких викладено в дисертації‚ була побудова оцінок ймовірнісних характеристик випадкових величин по спостереженнях із суміші зі змінними концентраціями та дослідження властивостей цих оцінок.

У дисертації вперше сформульовано поняття адаптивної оцінки функціонального момента розподілу компоненти суміші і виправленої зваженої емпіричної функції розподілу.

Основні результати, отримані в дисертаційній роботі, такі:

знайдені умови незміщеності‚ консистентності та асимптотичної нормальності для лінійних оцінок функціональних моментів по спостереженнях із суміші зі змінними концентраціями;

доведена консистентність‚ асимптотична нормальність та ефективність побудованих адаптивних оцінок для функціональних моментів;

розроблені алгоритми виправлення зважених емпіричних функцій розподілу‚ що дозволяють отримати оцінки‚ які будуть функціями розподілу ймовірнісних мір;

сформульовано та доведено функціональні граничні теореми для виправлених зважених емпіричних функцій розподілу;

доведена асимптотична нормальність оцінок функціональних моментів‚ що використовують виправлені зважені емпіричні функції розподілу;

проведено порівняння ефективності різних оцінок функціональних моментів для вибірок фіксованого об'єму методом імітаційного моделювання.

Список опублікованих праць

1. Кубайчук О.О. Оцінювання моментів по сумішах з використанням виправленої зваженої емпіричної функції розподілу // Вісник КНУ. Математика. Механіка. - 2003. - Вип. 9-10. - С. 48-52.

2. Kubaychuk O.O. Estimation of moments by observations from mixtures with varying concentrations // Theory of Stochastic Processes. - 2002. -Vol. 8(24), N. 3-4. - P. 226-232.

3. Майборода Р.Є.‚ Кубайчук О.О. Асимптотична нормальність виправлених зважених емпіричних функцій розподілу // Теорія ймовірностей та мат. статистика. - 2003. - Вип. 69. - С. 89-95.

4. Maiboroda R.‚ Kubaychuk O. Adaptive estimators for moments by observations from mixtures // International Gnedenko Conference. Abstracts. Ukraine. Kyiv. -2002. - P. 182.

5. Maiboroda R.‚ Kubaychuk O. Improved weighted empirical distribution functions // Seventh International School on mathematical and Statistical Methods in Economics, Finance and Insurance. Abstracts. Ukraine. Crimea. Laspi. - 2003. - P. 5.

Размещено на Allbest.ru