1. Какая оценка параметра называется состоятельной, несмещенной, эффективной?

1) Состоятельная оценка

Состоятельная оценка в математической статистике -- это точечная оценка, сходящаяся по вероятности к оцениваемому параметру.

Определения

· Пусть -- выборка из распределения, зависящего от параметра . Тогда оценка называется состоятельной, если

по вероятности при .

В противном случае оценка называется несостоятельной.

· Оценка называется сильно состоятельной, если

почти наверное при .

Свойства

· Из свойств сходимостей случайных величин имеем, что сильно состоятельная оценка всегда состоятельна. Обратное, вообще говоря, неверно.

Примеры:

· Выборочное среднее является состоятельной оценкой математического ожидания X_i.

· Периодограмма является несмещённой, но несостоятельной оценкой спектральной плотности.

2) Несмещённая оценка

Текущая версия (не проверялась)

Несмещённая оценка в математической статистике -- это точечная оценка, математическое ожидание которой равно оцениваемому параметру.

Определение

Пусть -- выборка из распределения, зависящего от параметра . Тогда оценка называется несмещённой, если

.

В противном случае оценка называется смещённой, и случайная величина называется её смещением.

Примеры:

· Выборочное среднее

является несмещённой оценкой математического ожидания X_i, так как если

,

то .

· Пусть случайные величины X_i имеют конечную дисперсию DX_i = ?². Построим оценки

-- выборочная дисперсия,

И

-- исправленная выборочная дисперсия.

Тогда является смещённой, а S² несмещённой оценками параметра ?².

3) Эффективная оценка

Текущая версия (не проверялась)

Определение

Оценка параметра называется эффективной оценкой в классе , если для любой другой оценки выполняется неравенство для любого .

Особую роль в математической статистике играют несмещенные оценки. Если несмещенная оценка является эффективной оценкой в классе несмещенных, то такую статистику принято называть просто эффективной.

Эффективная оценка в классе , где -- некоторая функция, существует и единственна с точностью до значений на множестве , вероятность попасть в которое равна нулю ( ).

Оценка параметра называется эффективной, если для неё неравенство Крамера -- Рао обращается в равенство. Таким образом, неравенство может быть использовано для доказательства того, что дисперсия данной оценки наименьшая из возможных, то есть что данная оценка в некотором смысле лучше всех остальных.

В математической статистике неравенством Крамемра -- Рамо (в честь Гаральда Крамера и К.Р. Рао) называется неравенство, которое при некоторых условиях на статистическую модель даёт нижнюю границу для дисперсии оценки неизвестного параметра, выражая её через информацию Фишера.

2. Коэффициент корреляции

Корреляция -- статистическая взаимосвязь двух или нескольких случайных величин (либо величин, которые можно с некоторой допустимой степенью точности считать таковыми). При этом изменения одной или нескольких из этих величин приводят к систематическому изменению другой или других величин. Математической мерой корреляции двух случайных величин служит коэффициент корреляции.

Коэффициент корреляции или парный коэффициент корреляции в теории вероятностей и статистике -- это показатель характера изменения двух случайных величин.

Корреляция может быть положительной и отрицательной (возможна также ситуация отсутствия статистической взаимосвязи -- например, для независимых случайных величин).

Отрицательная корреляция -- корреляция, при которой увеличение одной переменной связано с уменьшением другой переменной, при этом коэффициент корреляции отрицателен.

Положительная корреляция -- корреляция, при которой увеличение одной переменной связано с увеличением другой переменной, при этом коэффициент корреляции положителен.

Автокорреляция -- статистическая взаимосвязь между случайными величинами из одного ряда, но взятых со сдвигом, например, для случайного процесса -- со сдвигом по времени.

Метод обработки статистических данных, заключающийся в изучении коэффициентов (корреляции) между переменными, называется корреляционным анализом.

Текущая версия (не проверялась)

Коэффициент корреляции или парный коэффициент корреляции в теории вероятностей и статистике -- это показатель характера изменения двух случайных величин.

Для метрических величин применяется коэффициент корреляции Пирсона:

Пусть X,Y -- две случайные величины, определённые на одном вероятностном пространстве. Тогда их коэффициент корреляции задаётся формулой:

,

где cov обозначает ковариацию, а D --дисперсию, или, что то же самое,

,

где символ обозначает математическое ожидание.

Свойства

· Неравенство Коши -- Буняковского:

если принять в качестве скалярного произведения двух случайных величин ковариацию , то норма случайной величины будет равна , и следствием неравенства Коши -- Буняковского будет:

.

· Коэффициент корреляции равен тогда и только тогда, когда X и Y линейно зависимы:

,

где . Более того в этом случае знаки и k совпадают:

.

· Если X, Y независимые случайные величины, то . Обратное, вообще говоря, неверно.

Точная формула для коэффициента корреляции была введена Фрэнсисом Гальтоном.