Математическая статистика

Размещено на http://www.allbest.ru/

Математическая статистика



Математическая статистика - раздел математики, посвященный математическим методам систематизации, обработки и использования статистических данных для теоретических исследований и практических выводов.

Статистические данные - набор числовых значений, представленных в виде выборки из генеральной совокупности Г, являющейся отображением реального явления в числовое множество.

Математическая статистика не раздел теории вероятностей, а самостоятельная наука со своими понятиями, методами и способами исследования. Изучает как случайные, так и детерминированные явления на основе более или менее обширного статистического материала.

Образно говоря, теория вероятностей, зная все о генеральной совокупности, изучает состав ее выборок. Математическая статистика решает обратную задачу: по изучению состава отдельных выборок пытается получить как можно больше информации о генеральной совокупности.

Основными понятиями математической статистики являются «генеральная совокупность», «выборка», «эмпирическая функция распределения» и «параметры распределения».

Рассмотрим случайный эксперимент, который описывается одномерной случайной величиной . Множество всех возможных значений случайной величины будем называть генеральной совокупностью . Осуществив n независимых повторений эксперимента, получим совокупность n значений случайной величины , которые обозначим . Заметим, что среди этих чисел могут быть и равные.

Совокупность , , , , называется выборкой, а число элементов, входящих в выборку, ее объемом.

Если провести другую серию из n независимых повторений этого же эксперимента, то получится, вообще говоря, уже другая выборка значений случайной величины . Поэтому в теоретических исследованиях выборка n значений случайной величины представляется случайным вектором , где , , - независимые случайные величины, заданные на одном и том же вероятностном пространстве и имеющие одну и ту же функцию распределения , причем - одно из возможных, заранее неизвестных, значений случайной величины в i-ом повторении эксперимента.

Задачей исследования в математической статистике является построение математической модели случайного эксперимента, проверка адекватности модели изучаемому явлению и, в случае положительного ответа, прогнозирование появления события, как части явления. При построении математической модели предполагается, что выборка репрезентативна, то есть, любой элемент генеральной совокупности имеет одинаковую вероятность попасть в выборку.

К основным задачам математической статистики относятся: 1) оценка функции распределения; 2) оценка неизвестных параметров; 3) проверка априорных предположений или статистических гипотез.

Распределение выборки. Геометрическое представление выборки

Пусть задана выборка

.

Элементы выборки, представленные в порядке неубывания элементов, , причем , образуют вариационный ряд.

Размахом выборки называется величина равная разности наибольшего и наименьшего элементов выборки, то есть,

,

где .



Пусть в выборке k различных элементов . Числа , , называются вариантами или наблюдениями. Число появлений варианты называется абсолютной частотой , .

Варианты и соответствующие им абсолютные частоты можно представить в виде таблицы (табл. 1), называемой статистическим рядом распределения (простой статистической таблицей) абсолютных частот. Эта таблица является реализацией дискретной случайной величины.

Таблица 1

			…
m			…

Если на плоскости построить точки (), , и соединить их отрезками прямых, то полученная ломанная называется полигоном абсолютных частот (рис. 31)

Если непрерывная случайная величина, то весь диапазон ее значений делят на k интервалов (длины которых определяют по формуле , ) и подсчитывают количество , , вариант, попавших в данный интервал. По абсолютным частотам каждого из интервалов находят относительные частоты , . Очевидно, .

Полученные интервалы и соответствующие относительные частоты записывают в виде таблицы, называемой интервальным статистическим рядом распределения (интервальной статистической таблицей (табл. 2)).

Таблица 2

			…
w			…

Графическим представлением интервального статистического ряда является гистограмма (рис. 32).

Для ее построения по оси абсцисс откладывают интервалы и на каждом из них строят прямоугольники высотой , .

Площадь гистограммы равна 1. В теории вероятностей гистограмме соответствует график плотности распределения вероятностей.

Замечание. На основании гистограммы можно построить полигон частот (рис. 33). Для этого достаточно соединить середины верхних сторон прямоугольников отрезками прямых. В этом случае непрерывную случайную величину можно рассматривать как дискретную, эмпирические значения которой совпадают с координатами , .

Точки , добавлены искусственно в целях удобства исследования, при этом полагают , .

Гистограмму и полигон частот используют для подбора модели распределения изучаемой случайной величины .

Опр. Эмпирической функцией распределения называется относительная частота события () в данной выборке значений случайной величины , то есть, , где число меньших x, объем выборки.

В силу закона больших чисел эмпирическая функция распределения является оценкой подлинной функции распределения при , поэтому функция обладает свойствами в полнее аналогичными :

1) , ;

2) функция является неубывающей функцией;

3) если , то , если , то .

Функция ступенчатая, возрастает скачками, которые соответствуют наблюдениям, и равны относительным частотам этих значений:

Статистические критерии согласия

Пусть на некотором этапе исследования выборки из возможных значений случайной величины возникает предположение (статистическая гипотеза) о распределении генеральной совокупности. Истинность выдвинутой (основной) гипотезы проверятся в сравнении с альтернативными гипотезами , , , … . При этом, поскольку проверка осуществляется на основе выборки, а не всей генеральной совокупности, то все же существует, может и малая, вероятность того, что верная гипотеза будет отвергнута (ошибка 1-го рода), или наоборот принимается гипотеза, которая справедлива только для отдельной выборки и не справедлива для всей генеральной совокупности (ошибка 2-го рода). Поэтому гипотеза принимается или отвергается с некоторой вероятностью (доверительной вероятностью), чаще всего 0,9, 0,95, 0,99 и т.д.

Рассмотрим критерии согласия, которые применяются для проверки гипотез о том, что распределение изучаемой случайной величины подчиняется некоторому известному распределению, то есть, случайная величина задана функцией распределения .

Критерий Колмогорова

Пусть имеется выборка значений случайной величины , по которой строится эмпирическая функция распределения . Предположим, что случайная величина задается функцией распределения .

Теорема. Если функция непрерывна, то

где , то есть, величина определяет наибольшую меру отклонения эмпирической функции распределения от теоретической .

Замечание. Из теоремы следует, что критерий Колмогорова применим для оценки только непрерывных и полностью определенных, включая параметры, распределений и при достаточно большом объеме статистических данных.

Пусть задана некоторая выборка, по которой на плоскости строится ломаная линия. В этой же системе координат строим график теоретической функции распределения (рис. 34).

Определяем и полагаем . Находим , где - вероятность того, что за счет случайных причин максимальный разброс и будет меньше, чем фактически наблюдаемый. Если - мала (<0,2), то не соответствует опытным данным, если - велика (>0,2), то совместима с данными выборки.

Критерий 2

Пусть задан интервальный статистический ряд распределения случайной величины . По нему найдем теоретические вероятности , соответствующие столбцу r, . Предположим, что случайная величина задается функцией распределения . За меру отклонения между распределением выборки и теоретическим распределением принимается сумма квадратов разности между теоретическими и опытными вероятностями:

,



где - некоторые коэффициенты.

Если положить , то закон распределения не зависит от вида , числа опытов n и асимптотически сходится к распределению 2 …,

или .

Распределение 2 имеет число степеней свободы, где k - число интервалов, на которые разбито множество наблюдений, r - число параметров теоретического распределения вероятностей 2.

По выборке вычисляется величина , которая сравнивается с . Если , то считается, что гипотеза не согласуется с наблюдаемыми значениями случайной величины, если , то гипотеза не противоречит опытным данным.

Замечание. Если критерий Колмогорова требует для своего применения жестких условий (см с.122, замечание), то критерий 2 (Пирсона) либерален. Во-первых, он применяется при проверке гипотез как дискретных, так и непрерывных случайных величин, и во-вторых, значения параметров могут быть вычислены из этих же статистических данных. Принято считать, что для применения критерия достаточно, чтобы .

Пр. 44 При концентрировании молочного сырья проницаемость растворителя через мембрану является случайной величиной , распределенной по эмпирическому закону (табл. 3).

.



Требуется, используя критерий Колмогорова, подобрать теоретическую функцию распределения случайной величины при числе опытов .

Таблица 3

, (мин)		, (мин)		, (мин)		, (мин)
5	0,131	25	0,518	45	0,720	65	0,870
10	0,270	30	0,570	50	0,735	70	0,875
15	0,360	35	0,628	55	0,780	75	0,881
20	0,450	40	0,648	60	0,830	80	0,910

Решение. Из практических соображений есть основание считать, что искомой функцией является экспоненциальное распределение:

, .

Составим таблицу значений теоретической функции распределения (табл. 4).

Таблица 4

, (мин)		, (мин)		, (мин)		, (мин)
5	0,139	25	0,528	45	0,741	65	0,858
10	0,259	30	0,593	50	0,777	70	0,878
15	0,362	35	0,650	55	0,808	75	0,895
20	0,451	40	0,700	60	0,835	80	0,909

Максимальный разброс при мин. равен: , тогда . По таблице приложения 5 находим, при , значение . Так как , то гипотезу об экспоненциальности распределения проницаемости принимаем.

Рис. 35 демонстрирует приближение эмпирической функции экспоненциальной.

Напомним еще раз, что критерий Колмогорова обладает наглядностью и простотой, однако для его применения необходимо знать не только вид теоретической функции распределения, но и значения всех, входящих в неё, параметров. Заметим, что такая ситуация редко встречается на практике.

Воспользуемся критерием для проверки выдвинутой гипотезы о соответствии опытных данных экспоненциальному распределению. Объем выборки , число степеней свободы . Будем считать, что число интервалов .

Взяв середину интервалов из таблицы 22, получим таблицу 23, из неё находим .

Таблица 5

, (мин)			, (мин)
2,5	0,131	0,3275	42,5	0,072	3,0600
7,5	0,139	1,0425	47,5	0,015	0,7125
12,5	0,060	0,7500	52,5	0,045	2,3625
17,5	0,120	2,1000	57,5	0,060	3,4500
22,5	0,068	1,5300	62,5	0,030	1,8750
27,5	0,052	1,4300	67,5	0,005	0,3375
32,5	0,058	1,8850	72,5	0,006	0,4350
37,5	0,020	0,7500	77,5	0,029	2,2475

Для теоретической функции распределения , где определим значения теоретических вероятностей , , по формулам:

, ,

, .

Результат приведем в таблице 6

Таблица 6

, (мин)			, (мин)
2,5	0,0974	0,0116	42,5	0,0398	0,0260
7,5	0,1673	0,0048	47,5	0,0325	0,0094
12,5	0,1363	0,0427	52,5	0,0264	0,0130
17,5	0,1110	0,0007	57,5	0,0215	0,0687
22,5	0,0904	0,0056	62,5	0,0175	0,0088
27,5	0,0737	0,0064	67,5	0,0143	0,0060
32,5	0,0600	0,0001	72,5	0,0116	0,0027
37,5	0,0489	0,0171	77,5	0,0095	0,0401

Составим сумму

.

Зададим доверительную вероятность (0,99). По таблице приложения 6 при степени свободы определяем значение (4,66), а так как (4,66), то с вероятностью (0,99) гипотеза о соответствии эмпирической функции распределения экспоненциальной принимается. Более того, как выяснилось, гипотеза справедлива и при доверительной вероятности (соответствующие значения указаны в скобках).

Замечание. Такая хорошая оценка очень редко встречается на практике, поэтому возникают сомнения в том, что статистические данные получены из реального эксперимента, а не взяты близкими к значениям теоретической функции. Подобные ситуации рекомендуется перепроверять.

Основные характеристики выборки

Рассмотрим случайный вектор

,

где , , - случайные значения случайной величины .

Опр. Точечной оценкой называется числовая статистическая характеристика , служащая оценкой теоретического параметра a.

Наилучшей оценкой параметра a является та, которая удовлетворяет следующим свойствам: 1) несмещенность, 2) эффективность, 3) состоятельность.

Опр. Оценка параметра называется несмещенной, если , в противном случае, оценка является смещенной.

Опр. Оценка более эффективна, чем , если

,

то есть, более эффективной считают ту оценку, дисперсия которой наименьшая.

Опр. Оценка параметра называется состоятельной, если

, ,

то есть, при неограниченном возрастании n, сходится (по вероятности) к параметру .

Пусть задана выборка из генеральной совокупности, по которой построен статистический ряд (табл. 25) относительных частот. Эту таблицу7 можно рассматривать как закон распределения некоторой дискретной случайной величины , а - вероятности ее соответствующих значений.

Таблица 7

x			…		.
w			…

В качестве характеристик выборки значений случайной величины в статистике рассматриваются различные средние (средняя гармоническая, средняя арифметическая, средняя квадратическая и др.), а также мода и медиана.

Модой выборки значений случайной величины называется та варианта, которая наиболее часто встречается в выборке.

Медианой выборки значений случайной величины называется варианта, расположенная в середине вариационного ряда этой выборки. Если выборка состоит из четного числа членов, то медиана рассчитывается как средняя арифметическая серединных элементов вариационного ряда.

Наилучшей оценкой математического ожидания случайной величины является выборочная средняя (средняя арифметическая взвешенная) , а дисперсии - выборочная (статистическая) дисперсия (при малых n - исправленная дисперсия , хотя и при «больших» n можно использовать и выборочную дисперсию).

Если выборочная средняя, мода и медиана совпадают, то выборка симметрична.

Пр. 45 Для исходной выборки: 6, 7, 6, 4, 6, 5, 7, 8, 6, 4, 2, 5, 2, 5, 4, 6, 6, 3, 5, 7

а) определить вариационный ряд и размах выборки;

б) построить простую статистическую таблицу и полигон частот;

в) построить интервальную таблицу и гистограмму;

г) найти эмпирическую функцию распределения и построить ее график;

д) найти выборочную среднюю, выборочную и исправленную дисперсию, моду, медиану.

Решение.

Упорядочивая выборку значений случайной величины получаем вариационный ряд:

2, 2, 3, 4, 4, 4, 5, 5, 5, 5, 6, 6, 6, 6, 6, 6, 7, 7, 7, 8;

и находим размах выборки

.

От вариационного ряда переходим к простой статистической таблице (табл. 26).

Таблица 8

x	2	3	4	5	6	7	8
m	2	1	3	4	6	3	1

Построим полигон частот (рис. 36).



Построим интервальную статистическую таблицу (табл. 27) и по ней гистограмму (рис. 37).

Таблица 9

x
w	0,10	0,05	0,15	0,20	0,30	0,15	0,05

Найдем эмпирическую функцию распределения и построим ее график (рис. 38)



Вычислим выборочную среднюю

,

выборочную и исправленную дисперсию

,

.

Определим моду и медиану выборки

,

.

Интервальное оценивание

Рассмотренные оценки , как правило, не совпадают с истинным значением параметра a. Следовательно, имеет место некоторая погрешность при замене параметра его оценкой, то есть, , хотя величина этой погрешности неизвестна. Чтобы получить представление о точности и надежности оценки неизвестного параметра a в математической статистике рассматривают оценку

.

Вероятность того, что случайный интервал накроет неизвестный параметр a, равна и называется доверительной вероятностью. Причем, чем меньше будет для заданной вероятности , тем точнее оценка . Заметим, что если , то .

Опр. Случайный интервал, определяемый результатами наблюдений, который с заданной вероятностью накрывает неизвестный параметр a, называется доверительным интервалом для параметра a, соответствующим доверительной вероятности .

Пусть задана выборка значений случайной величины , распределенной по нормальному закону с плотностью , содержащей два неизвестных параметра a и . По заданной выборке определим доверительный интервал параметра , используя распределение Стьюдента.

Опр. Случайная величина называется случайной величиной Стьюдента с - числом степеней свободы, если ее плотность распределения вероятностей имеет вид

,

где - гамма-функция, .

Теорема. Если - независимые случайные величины распределенные нормально с математическими ожиданиями a и дисперсиями , то случайная величина имеет распределение Стьюдента с числом степеней свободы.

Чтобы определить доверительный интервал математического ожидания a, определим значение для заданной доверительной вероятности , для которого . В качестве доверительного интервала рассмотрим симметричный интервал , так как и нормальное распределение, и распределение Стьюдента симметричны (нормальное - относительно , Стьюдента - в силу четности).

Имеем

.

Поскольку , то , где .

В соответствие с функцией распределения Стьюдента

математическая статистика выборка

.

Значения функции приведены в таблице приложения 7.

Полагая , доверительный интервал математического ожидания случайной величины распределенной по нормальному закону имеет вид:

1) если - неизвестно, то

, ;

2) если - известно, то

.

Зная число степеней свободы и доверительную вероятность параметр находится по таблице (приложение 7), параметр находится из уравнения , где (приложение 3).

При увеличении объема выборки n уменьшается при этом распределение Стьюдента приближается к нормальному распределению

.

Для построения доверительного интервала дисперсии воспользуемся распределением .

Опр. Пусть - независимые случайные величины распределенные нормально с , . Случайная величина называется случайной величиной с распределением с степенями свободы, для которой плотность распределения вероятностей имеет вид:

, .

Значения функции приведены в таблице (приложение 6). Доверительный интервал для дисперсии случайной величины распределенной по нормальному закону имеет вид:

.

Пр. 46 Найти доверительный интервал для оценки с надежностью 0,95 неизвестного математического ожидания нормально распределенной случайной величины, представленной выборкой объема , для которой найдены выборочное среднее , если известно, что среднее квадратичное отклонение .

Решение. Поскольку для нормально распределенной случайной величины известно среднее квадратичное отклонение, то воспользуемся формулой

,

где параметр найдем из равенства , при условии , получаем

, т.е. .

Составим доверительный интервал

,

,

окончательно получаем

.

Пр. 47 Из генеральной совокупности извлечена выборка объема (табл. 9):

Таблица 9

	-2	1	2	3	4	5
	2	1	2	2	2	1

Оценить с доверительной вероятностью (надежностью) математическое ожидание генеральной совокупности по выборочному среднему с помощью доверительного интервала.

Решение. Вычислим выборочное среднее и исправленную дисперсию

,

;

, ;

Найдем искомый доверительный интервал по формуле

,

где параметр определим по таблице приложения 7 . Вычисленные параметры подставим в формулу, определяющую доверительный интервал

,

.

Линии регрессии

Между случайными величинами может существовать не только функциональная, но и стохастическая или статистическая зависимость. Под стохастической зависимостью случайных величин , будем понимать такую, при которой изменение одной случайной величины влечет за собой изменение закона распределения другой случайной величины .

Если закон распределения случайной величины не известен, тогда переходят к изучению изменения числовых характеристик и рассматривают статистическую зависимость. На практике часто рассматривают изменение числовой характеристики (моды, медианы, математического ожидания и т.п.) распределения случайной величины при фиксированном значении случайной величины , которую обозначим . Если меняется значение случайной величины , то меняется и значение . Обычно рассматривают изменение условного математического ожидания.

Статистическая зависимость случайных величин, при которой изменение одной из случайных величин приводит к изменению математического ожидания другой случайной величины, называется корреляцией.

Корреляционная зависимость случайных величин бывает прямая или обратная, линейная и нелинейная, характеризуется по степени тесноты.

Корреляционная зависимость случайных величин описывается уравнением регрессии.

Обычно в качестве кривых регрессий рассматривают класс многочленов заданной степени (на практике, обычно, не выше 4-ой) и среди них выделяют многочлен с такими коэффициентами, который наилучшим образом, в смысле метода наименьших квадратов, дает представление случайной величины . В этом случае решением задачи является не сама кривая регрессии, а ее приближение многочленом.

Таким образом, поскольку в математической статистике рассматривают не числовые характеристики случайных величин, а их оценки, то и вместо уравнений регрессии, связывающих случайные величины, рассматривают эмпирическое уравнение регрессии.

Эмпирическую регрессию случайной величины на и на будем обозначать соответственно

и .

Замечание. Если кривая регрессии заменяется приближением ее многочленом, то недопустимо сделать прогноз о поведении случайных величин за пределами корреляционного поля.

Метод наименьших квадратов.

Метод наименьших квадратов полезен для определения коэффициентов функциональной зависимости между переменными x и y. Пусть получено n пар значений , , … , и вид функции известен. Параметры функции выбираются таким образом, чтобы функция достигала минимума.

Применение метода наименьших квадратов продемонстрируем при определения коэффициентов эмпирической регрессии.

Линейная регрессия.

Простейшим видом регрессии, описывающей корреляционную зависимость случайных величин, является линейная. Степень тесноты линейной зависимости случайных величин , характеризует коэффициент корреляции, который в статистике определяется формулой

,

где , - выборочные дисперсии, - выборочная ковариация.

Диапазоном значений коэффициента корреляции является , причем если , то между случайными величинами , существует прямая зависимость, , то между случайными величинами , существует обратная зависимость, если , случайные величины , не коррелированы. Чем ближе абсолютная величина коэффициента корреляции к 1, тем теснее связь между случайными величинами (табл. 10):

Таблица 10

	0,1 - 0,3	0,3 - 0,5	0,5 - 0,7	0,7 - 0,9	0,9 - 0,99
Теснота связи	слабая	умеренная	заметная	высокая	весьма высокая

Пусть в результате реализации эксперимента, описываемого двумерной случайной величиной , получено n пар значений , , с соответствующими относительными частотами .

Корреляционным полем называется изображение n пар значений наблюдений , , в виде точек в декартовой системе координат, где по оси абсцисс откладывают значения независимой переменной, по оси ординат - значения зависимой переменной.

Предположим, анализ расположения точек на корреляционном поле (рис. 39) позволяет утверждать, что между случайными величинами и существует линейная зависимость, тогда эмпирическое уравнение регрессии на будет иметь вид

, .

Искомой прямой будет та, которая наилучшим образом, в смысле метода наименьших квадратов, расположена к точкам , то есть, функция

достигает минимум.



Для нахождения , решим систему

Имеем

или



Используя стандартные обозначения , , , получим систему уравнений:

Решим систему уравнений методом Крамера:

; .

Подставляя , получаем эмпирическое уравнение регрессии

.

где , .

Аналогично получаем эмпирического уравнения прямой регрессии на

.

Так как , получаем



,

.

Поскольку , являются оценками средних квадратических отклонений случайных величин , соответственно, то последние полученные уравнения статистических регрессий аналогичны уравнениям регрессий, полученным ранее при изучении зависимости случайных величин , (с. 108).

Пр. 48 По корреляционной таблице 11 найти уравнения прямых регрессий на и на . Построить корреляционное поле и прямые регрессии. Оценить тесноту линейной связи в процентах.

Таблица 11

	10	15	20	25	30	35
20	2	4	-	-	-	-
30	-	6	2	-	-	-
40	-	-	3	50	2	-
50	-	-	1	10	6	-
60	-	-	-	4	7	3

Решение. Определим объем выборки

.

Для определения коэффициентов линейной регрессии найдем средние значения

;

,

;

;

,

выборочные дисперсии

;

,

выборочную ковариацию

.

Тогда эмпирические уравнения регрессий имеют вид

;

.

Для определения тесноты связи вычислим и оценим выборочный коэффициент корреляции

,

поскольку , то теснота связи - высокая, соответствует 81%, а зависимость прямая, почти линейная.

Построим корреляционное поле и найденные линии регрессии (рис. 40).

В заключении авторы настоятельно рекомендуют не ограничиваться только настоящим пособием, а использовать дополнительную литературу … и как можно больше решать задач самостоятельно ….

Список литературы

1. Павский, В.А. Лекции по теории вероятностей и элементам математической статистики /В.А. Павский. - Кемерово: КемТИПП, 2005. - 184 с.

2. Ахназарова С.Л., Кафаров В.В. Методы оптимизации эксперимента в химической технологии. - М.: Высшая школа, 1985. - 327 с.

3. Боровков А.А. Теория вероятностей, - М.: УРСС, 2003. - 472с.

4. Вентцель Е.С. Теория вероятностей. - М.: Высшая школа, 2002. - 576 с.

5. Гмурман В.Е. Теория вероятностей и математическая статистика. - М.: Высшая школа, 2002. - 479 с.

6. Гнеденко Б.В. Курс теории вероятностей. - М.: Издательство ЛКИ, 2007. - 448 с.

7. Карлин С. Основы теории случайных процессов. - М, Мир, 1971. - 536 с.

8. Кафаров В.В., Дорохова И.Н., Арутюнов С.Ю. Системный анализ процессов химической технологии. - М.: Наука, 1985. - 440 с.

9. Клейнрок Л. Теория массового обслуживания. - М.: Ма-шиностроение, 1979. - 432 с.

10. Ширяев А.Н. Вероятность: Учебное пособие. - В 2-х книгах. - М.: Изд-во МНЦМО, 2007. - 968 с.

Размещено на Allbest.ru