Теорія квадратичних та білінійних оцінок невідомої дисперсії і коефіцієнта коваріації

Размещено на http://www.allbest.ru

Київський національний університет імені Тараса Шевченка

УДК 519.21

Теорія квадратичних та білінійних оцінок невідомої дисперсії і коефіцієнта коваріації

01.05.01 - теоретичні основи інформатики та кібернетики

Автореферат

дисертації на здобуття наукового ступеня

кандидата фізико-математичних наук

Тупко Наталія Петрівна

Київ 2001

Дисертацією є рукопис.

Робота виконана на кафедрі обчислювальної математики факультету кібернетики Київського національного університету імені Тараса Шевченка.

Захист відбудеться “ 27 ” червня 2001 р. о 14 год. на засіданні спеціалізованої вченої ради Д 26.001.09 Київського національного університету імені Тараса Шевченказа адресою: 03022 Київ, проспект Академіка Глушкова 2, корп. 6, ф-т кібернетики, ауд. 40.

З дисертацією можна ознайомитися в Науковій бібліотеці Київського національного університету імені Тараса Шевченка, Київ, вул. Володимирська, 58.

Автореферат розісланий “ 25 ” травня 2001 р.

Вчений секретар спеціалізованої вченої ради ШЕВЧЕНКО В.П.

білінійний дисперсія коваріація

1. ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ

Актуальність теми. Для побудови довірчих меж для основної розподіленої маси значень генеральної сукупності, що відповідають заданим рівням значущості, а також для довірчого оцінювання невідомих параметрів вкрай необхідні математичне сподівання, дисперсія, коефіцієнти коваріації. У свою чергу, довірчі інтервали або межі є основою для побудови статистичних критеріїв, що засновані на навчаючих вибірках і використовуються у теорії розпізнавання образів або класифікації об'єктів. Такі задачі виникають при диференціальній діагностиці онкологічних захворювань (рак молочної залози або фіброаденоматоз, аденокарценома щитовидної залози або вузловий зоб чи аутотіреоїдит, рак шлунку або непухлинне захворювання шлунку та інш.) На жаль, класичні методи теорії перевірки гіпотез за допомогою статистичних критеріїв, зокрема теорія Неймана-Пірсона, що дає один з найбільш потужніх критеріїв, а також її різні модифікації (оптимальні статистичні критерії, критерії, що використовують процедуру неприйняття рішення, індивідуальні статистичні критерії) базуються на функціях розподілу генеральних сукупностей, які майже ніколи не відомі на практиці. У зв'язку з цим можна використовувати лише ту інформацію, що можливо одержати на основі навчаючих вибірок. Побудова оцінок для функцій розподілу або щільностей імовірностей вимагає навчаючих вибірок великого об'єму, що містять декілька сотень або тисяч вибіркових значень. Це є у переважній більшості випадків задачею, яку неможливо виконати, оскільки одержання та дослідження кожного вибіркового значення пов'язано з певними матеріальними витратами. На відміну від цього, довірчі межі та інтервали, як правило, грунтуються на знанні математичного сподівання, дисперсії або коефіцієнта коваріації, які можна визначити за допомогою малих чи середніх вибірок, що мають лише від кількох десятків до двохсот спостережень. З цього випливає, що проблема оцінки невідомих математичних сподівань, дисперсії коефіцієнта коваріацїї є дуже важливою та актуальною задачею для теорії розпізнавання образів, яка зараз широко використовується у техніці, біології, медицині, соціології та інших прикладних науках.

Мета та задачі дослідження. Головна мета роботи - розробити основу теорії квадратичних та білінійних оцінок дисперсії та коефіцієнта коваріації. У дисертації визначаються класи незміщених квадратичних та білінійних оцінок моментів другого порядку, дисперсії та коефіцієнта коваріації. Ставляться та вирішуються: задачі знаходження найкращих оцінок (оцінок з мінімальною дисперсією) у цих класах у випадках відомого і невідомого математичного сподівання; задачі на дослідження точності зміщених та незміщених оцінок для дисперсії та коефіцієнта коваріації у випадку відомого та невідомого математичного сподівання. Під точнішою будемо розуміти ту оцінку, яка має менший середній квадрат похибки , де -оцінка параметра .

Для вирішення проблеми знаходження найкращих оцінок використано методи теорії оцінок параметрів випадкових процесів та послідовностей. При доведенні екстремальних властивостей оцінок використано методи теорії квадратичних форм та методи теорії матриць.

Зв'язок роботи з науковими програмами, планами, темами. Дисертація виконувалася у відповідності з планом наукових досліджень, що проводилися на кафедрі обчислювальної математики факультету кібернетики Київського національного університету імені Тараса Шевченка в рамках бюджетної науково -дослідної теми №97510 “Статичні критерії, що базуються на навчаючих вибірках”.

Наукова новизна одержаних результатів. Теорію оцінок невідомого математичного сподівання було започатковано у роботах К.Ф.Гаусса та А.А.Маркова. Основна ідея цієї теорії полягала у побудові класу лінійних незміщених оцінок та в пошуку найкращих оцінок у цьому класі. Безпосереднє використання цих способів пошуку оцінки з мінімальною дисперсією для оцінки дисперсії та коефіцієнта коваріації пов'язане з певними труднощами. У дисертації вперше розроблено основи теорії квадратичних та білінійних оцінок дисперсії та коваріації, які розвивають ідеї К.Ф.Гаусса та А.А.Маркова на нові, більш складні класи.

У роботі отримано результати, які виносяться до захисту:

1. Отримано найкращу оцінку моменту другого порядку в класі незміщених

квадратичних оцінок та найкращу оцінку змішаного моменту другого порядку в класі білінійних незміщених оцінок.

2. У випадку відомого математичного сподівання отримано

найкращу оцінку дисперсії в певному класі незміщених квадратичних оцінок;

найкращу оцінку в певному класі незміщених білінійних оцінок коефіцієнта коваріації для двовимірного нормального розподілу з нульовими математичними сподіваннями.

3. У випадку відомого математичного сподівання досліджено на точність класичну і некласичну незміщені оцінки дисперсії.

4. У випадку невідомого математичного сподівання отримано

найкращу оцінку дисперсії в класі незміщених квадратичних оцінок;

найкращу оцінку коефіцієнта коваріації у класі білінійних незміщених

оцінок.

5. У випадку невідомого математичного сподівання досліджено на точність

зміщену і незміщену оцінки дисперсії ;

зміщену і класичну незміщену оцінки коефіцієнта коваріації.

Слід зазначити, що майже всі найкращі незміщені оцінки отримано для будь-яких розподілів і єдиним обмеженням є існування скінченного моменту четвертого порядку випадкових величин.

Практичне значення одержаних результатів. Результати роботи можуть знайти застосування у статистичних критеріях розпізнавання образів, які використовуються у багатьох галузях: техніці, біології, медицині. Наприклад, використовуючи методи статистичної та геометричної теорії розпізнавання образів, вдалося створити комп'ютерний цитогенетичний метод діагностики онкологічних захворювань, що на порядок перевищує сучасні рутинні методи діагностики.

Особистий внесок автора. Дисертація є підсумком результатів досліджень, що виконані автором особисто та у співпраці з науковим керівником, керівнику належить постановка задач, а формулювання та доведення основних результатів роботи зроблено автором особисто.

Апробація результатів роботи. Основні результати та положення дисертації

доповідалися та обговорювалися на:

Міжнародній конференції “Dynamical systems modelling and stability investigation” (Київ, 25-29 травня 1999 р.);

The Third Ukrainian-Scandinavian Conference in Probability Theory and Mathematical Statistics “Abstracts” (Kyiv, 8-12 June,1999);

а також на наукових семінарах факультету кібернетики Київського національного університету імені Тараса Шевченка та на наукових семінарах факультету інформаційних технологій Одеського національного університету імені І.І.Мечникова.

Публікації. За матеріалами дисертації опубліковано п'ять робіт, у тому числі

три статті у виданнях, затверджених ВАК України.

Структура та обсяг дисертації. Дисертаційну роботу викладено на 125 сторінках. Вона складається із вступу, чотирьох розділів, висновку, списку використаних джерел з 62 найменувань та одного додатку.

2. ОСНОВНИЙ ЗМІСТ РОБОТИ

У вступі обгрунтовується актуальність теми, формулюється мета роботи, наукова новизна та практична цінність одержаних результатів.

Перший розділ присвячено огляду літератури та основних методів досліджень з питань знаходження мінімальних границь дисперсії оцінки; аналізу методів знаходження найкращих незміщених оцінок на базі повних достатніх статистик; знаходження найкращих незміщених оцінок в рамках теорії лінійних оцінок; порівняльного аналізу теорії оцінок невідомого математичного сподівання і теорії, розробленої в дисертаційній роботі.

Другий розділ "Оцінки дисперсії" присвячено дослідженню квадратичних оцінок дисперсії у випадку відомого та невідомого математичного сподівання на основі вибіркових значень.

У підрозділі 2.1 зроблено постановку задачі, уведено основні позначення.

Нехай - випадкова величина, а її математичне сподівання та дисперсія.

За означенням тобто для оцінки дисперсії необхідно оцінити момент другого порядку випадкової величини та її математичне сподівання. Нехай є вибірка - послідовність значень незалежних однаково розподілених випадкових величин (в разі потреби будемо ототожнювати з випадковими величинами, значеннями яких вони є). У цьому випадку найкращою оцінкою невідомого математичного сподівання є вибіркове середнє і згідно практичним рекомендаціям мало відрізняється від, коли об'єм вибірки перевищує число тридцять: У зв'язку з цим ми розглянемо спочатку проблему оцінки моменту другого порядку. Крім того, з вищесказаного випливає, що проблему оцінки невідомої дисперсії можна досліджувати у випадку відомого математичного сподівання (коли ), а також у випадку невідомого математичного сподівання (коли ).

У підрозділі 2.2. "Оцінки дисперсії у випадку відомого математичного сподівання" вивчено квадратичні оцінки дисперсії при відомому математичному сподіванні.

У пункті 2.2.1. "Оцінка невідомого моменту другого порядку" визначено клас незміщених квадратичних оцінок для невідомого моменту другого порядку, де і знайдено найкращу оцінку в цьому класі.

Теорема 1. Нехай - вибірка значень незалежних однаково розподілених випадкових величин, розподіл яких має скінченний момент четвертого порядку. Тоді оцінка є найкращою у класі всіх незміщених квадратичних оцінок моменту другого порядку.

У пункті 2.2.2. "Оцінки дисперсії у випадку відомого математичного сподівання" визначено клас незміщених квадратичних оцінок для дисперсії , коли математичне сподівання відоме і доводено, що найкращою оцінкою в цьому класі є оцінка , де - вибірка значень незалежних однаково розподілених випадкових величин, розподіл яких має скінченний момент четвертого порядку.

Далі розглядається більш широкий клас оцінок в який попадає класична оцінка невідомої дисперсії у випадку відомого математичного сподівання . Виявляється, що при дослідженні незміщених оцінок і у випадку нормально розподілених випадкових величин оцінка невідомої дисперсії є точнішою, тобто має меншу дисперсію, ніж класична оцінка , а у випадку рівномірно та експоненціально розподілених випадкових величин навпаки, точніша, ніж .

У підрозділі 2.3. "Оцінки дисперсії у випадку невідомого математичного сподівання" досліджено зміщену та незміщену оцінки дисперсії у випадку невідомого математичного сподівання. Виявляється, що у випадку нормально чи експоненціально розподілених випадкових величин зміщена оцінка є точнішою. Під точнішою будемо розуміти ту оцінку, яка має менший середній квадрат похибки, де -оцінка параметра .

Далі визначено клас незміщених квадратичних оцінок для дисперсії, коли математичне сподівання невідоме

Теорема 2. Нехай - вибірка значень незалежних однаково розподілених випадкових величин, розподіл яких має скінченний момент четвертого порядку. Тоді оцінка є найкращою у класі всіх незміщених квадратичних оцінок дисперсії.

Третій розділ "Оцінки коефіцієнта коваріації" присвячено дослідженню білінійних оцінок коефіцієнта коваріації у випадку відомих та невідомих математичних сподівань.

У підрозділі 3.1 зроблено постановку задачі, уведено основні позначення.

Нехай - пара випадкових величин, - коефіцієнт коваріації. За означенням тобто для оцінки коефіцієнта коваріації необхідно оцінити змішаний момент другого порядку та математичне сподівання .

Нехай є вибірка пар - послідовність значень незалежних однаково розподілених двовимірних випадкових величин.

Згідно інформації підрозділу 2.1 проблему оцінки невідомого коефіцієнта коваріації можна досліджувати у випадку відомих математичних сподівань і у випадку невідомих математичних сподівань.

У підрозділі 3.2. "Оцінки коефіцієнта коваріації при відомих математичних сподіваннях" вивчено білінійні оцінки коефіцієнта коваріації у випадку відомих математичних сподівань.

У пункті 3.2.1."Оцінка змішаного моменту другого порядку" визначено клас незміщених білінійних оцінок для невідомого змішаного моменту другого порядку, де і знайдено найкращу оцінку в цьому класі.

Теорема 3. Нехай - сукупність пар вибіркових значень незалежних однаково розподілених двовимірних випадкових величин, розподіл яких має скінченний змішаний момент четвертого порядку. Тоді оцінка є найкращою в класі незміщених білінійних оцінок змішаного моменту другого порядку.

У підрозділі 3.2.2. "Оцінки коефіцієнта коваріації у випадку відомих математичних сподівань" визначено клас білінійних незміщених оцінок для коефіцієнта коваріації, коли математичні сподівання відомі,

Теорема 4. Нехай - сукупність пар вибіркових значень незалежних однаково розподілених двовимірних випадкових величин, розподіл яких має скінченний змішаний момент четвертого порядку. Тоді оцінка є найкращою в класі незміщених білінійних оцінок коефіцієнта коваріації для двовимірного нормального розподілу з нульовими математичними сподіваннями.

У підрозділі 3.3. "Оцінки коефіцієнта коваріації у випадку невідомих математичних сподівань" вивчено білінійні оцінки коефіцієнта коваріації при невідомих математичних сподіваннях.

У пункті 3.3.1. "Оцінки коефіцієнта коваріації у класі білінійних незміщених оцінок" визначено клас білінійних незміщених оцінок для коефіцієнта коваріації, коли математичні сподівання невідомі,

Теорема 5. Нехай - сукупність пар вибіркових значень незалежних однаково розподілених двовимірних випадкових величин, розподіл яких має скінченний змішаний момент четвертого порядку. Тоді оцінка є найкращою в класі білінійних незміщених оцінок коефіцієнта коваріації.

У пункті 3.3.2. "Дослідження зміщеної та незміщеної оцінок коефіцієнта коваріації" досліджено зміщену оцінку та класичну незміщену оцінку коефіцієнта коваріації у випадку невідомого математичного сподівання.

Виявляється, що для двовимірного нормального розподілу з параметрами , де - коефіцієнт кореляції, зміщена оцінка є точнішою за класичну незміщену оцінку . Під точнішою будемо розуміти ту оцінку, яка має менший середній квадрат похибки , де -оцінка параметра .

Четвертий розділ "Комп'ютерне моделювання довірчих меж для невідомої дисперсії" присвячено побудові довірчих меж для невідомої дисперсії у випадку відомого математичного сподівання за допомогою правила на базі оцінок, отриманих у пункті 2.2.2.

У підрозділі 4.1. зроблено постановку задачі.

Нехай - випадкова величина з одномодальним розподілом, а - відповідно математичне сподівання та дисперсія. Згідно правила для одномодально розподілених випадкових величин виконується наступна нерівність:

Використовуючи правило , побудуємо довірчі межі для невідомої дисперсії довільного розподілу на базі оцінок та з пункту 2.2.2. і підрахуємо рівні значущості.

У підрозділі 4.2 "Побудова довірчих меж для невідомої дисперсії за допомогою правила " для незміщених оцінок дисперсії у випадку відомого математичного сподівання та , з урахуванням інформації підрозділу 4.1. , будуються довірчі межі для дисперсії:

Зауважимо, що та мають одномодальний розподіл, наприклад, для нормальних випадкових величин.

Нехай є вибірка - послідовність значень незалежних однаково розподілених випадкових величини. Тоді, ураховуючи результати, отримані в пункті 2.2.2. ,

У підрозділі 4.3. "Розрахунок рівнів значущості довірчих меж для невідомої дисперсії у випадку нормального, рівномірного та експоненціального розподілів методами машиного моделювання" показано результати розрахунків рівнів значущості для (1) і (2) (використано мову вищого рівня Turbo Pascal 7.0, див. додаток А дисертації): будується m довірчих меж (1) на основі вибірок розмірності N для певного нормального, рівномірного та експоненціального розподілів і підраховується рівень значущості для кожного розподілу як відношення кількості інтервалів, у які попадає дисперсія конкретного розподілу, до загальної кількості побудованих інтервалів; аналогічно підраховується рівень значущості для довірчих меж (2).

Результати розрахунків показують, що рівень значущості для нормального розподілу вищий, ніж , тобто оцінка точніша за оцінку , а для рівномірного розподілу на відрізку та експоненціального з параметром навпаки, рівень значущості вищий, ніж , тобто в цьому випадку оцінка точніша за оцінку . Тобто, результати розрахунків підтверджують теоретичні висновки, отримані у пункті 2.2.2.

У висновках наведено основні наукові результати роботи.

У додатку А наведено програму розрахунків рівнів значущості довірчих інтервалів (1) і (2) для нормального , рівномірного на відрізку та експоненціального з параметром розподілів (програму реалізовано на мові вищого рівня Turbo Pascal 7.0).

ВИСНОВКИ

У роботі визначено класи квадратичних та білінійних незміщених оцінок для моментів другого порядку, дисперсії та коефіцієнта коваріації у випадку відомого та невідомого математичного сподівання. Отримано найкращі оцінки (оцінки з мінімальною дисперсією) для довільних розподілів з скінченним моментом четвертого порядку в певних класах

- квадратичних незміщених оцінок для дисперсії у випадку відомого і невідомого математичного сподівання;

- білінійних незміщених оцінок для коефіцієнта коваріації у випадку невідомих математичних сподівань;

- квадратичних незміщених оцінок для моменту другого порядку;

- білінійних незміщених оцінок для змішаного моменту другого порядку.

Досліджено на точність зміщені і незміщені оцінки дисперсії та коефіцієнта коваріації у випадку відомого та невідомого математичного сподівання. Під точнішою будемо розуміти ту оцінку, яка має менший середній квадрат похибки , де -оцінка параметра .

Основні результати дисертації:

1. Отримано найкращу оцінку моменту другого порядку в класі незміщених квадратичних оцінок та найкращу оцінку змішаного моменту другого порядку в класі білінійних незміщених оцінок.

2. У випадку відомого математичного сподівання отримано найкращу оцінку дисперсії у певному класі незміщених квадратичних оцінок;

найкращу оцінку коефіцієнта коваріації у певному класі незміщених білінійних оцінок для двовимірного нормального розподілу з нульовими математичними сподіваннями.

3. У випадку відомого математичного сподівання досліджено на точність класичну і некласичну незміщені оцінки дисперсії.

4. За допомогою комп'ютерного моделювання отримано практичне підтвердження теоретичних результатів дослідження точності класичної та некласичної незміщеної оцінки дисперсії у випадку відомого математичного сподівання.

5. У випадку невідомого математичного сподівання

отримано найкращу оцінку дисперсії в класі незміщених квадратичних оцінок;

найкращу оцінку коефіцієнта коваріації у класі білінійних незміщених оцінок.

6. У випадку невідомого математичного сподівання досліджено на точність

- зміщену і незміщену оцінки дисперсії;

- зміщену і класичну незміщену оцінки коефіцієнта коваріації.

СПИСОК ОПУБЛІКОВАНИХ НАУКОВИХ ПРАЦЬ ЗА ТЕМОЮ ДИСЕРТАЦІЇ

1. Петунин Ю.И., Тупко Н.П. Теория квадратичных оценок дисперсии // Український математичний журнал.-1999.-Т.51,№9.-С.1217-1331.

2. Петунин Ю.И., Тупко Н.П. Оцінки коефіцієнту коваріації випадкових величин при відомих математичних сподіваннях // Вісник Київського університету. Серія: Фізико - математичні науки. - 1999. - №2. - С. 289-294.

3. Петунин Ю.И., Тупко Н.П. Оцінки коефіцієнта коваріації випадкових величин при невідомих математичних сподіваннях // Вісник Київського університету. Серія: Фізико - математичні науки. - 1999. - №3. - С. 250-254.

4. Тупко Н.П., Петунін Ю.І. Оцінки коефіцієнта коваріації випадкових величин у випадку відомих математичних сподівань // Праці Міжнарод. конф. “Dynamical systems modelling and stability investigation”. - Київ(Україна). - 1999. - С.59-60.

5. Petunin Yu.I., Tupko N.P. Theory of the quadratic estimation of the variance and the covariation coefficient // The Third Ukrainian-Scandinavian Conference in Probability Theory and Mathematical Statistics. - Kiev(Ukraine). - 1999. - P.118-119.

Размещено на Allbest.ru