Теория математической статистики

Если все значения в группе встречаются одинокого часто, считают, что у данной группы, моды нет.

Когда два соседних значения имеют одинаковую частоту и эти частоты больше любых других частот в группе, то модой считают среднее от этих двух значений.

Если два несмежных значения имеют равную и наибольшую в данной группе частоту, то у этой группы есть две моды, такая группа называется бимодальной. Бимодальной называется группа и в том случае, если эти две черты не совсем равны. В таких случаях договорились различать большую и малую моду и во всей группе, наряду с одной большой модой может быть несколько меньших мод.

медиана - это 50-тый процентиль в группе данных.

среднее (среднеарифметическое или выборочное среднее) - это сумма всех значений, разделенная на их количество.

.

Мода наиболее просто вычисляется и при большом количестве измерений достаточно стабильна и близка к медиане и среднему. Медиана вычисляется по сложнее, особенно легко при ранжированных данных. В больших массивах предлагается сначала сгруппировать их, а потом вычислять медиану. Для определения моды и медианы не требуется знание всех остальных значений.

На определение среднего влияют значения всех изменений.

При наличии интервалов в значении, формула для среднего принимает вид:

Свойства среднего

1. Сумма всех n-отклонений от значения среднего должно быть равно нулю, то есть:

2. Если константу прибавить к каждому значению, то среднее увеличивается на ту же константу.

3. Если каждое значение умножить на константу, то среднее то же будет умножено на эту константу.

4. Сумма квадратов отклонений значений от их среднего меньше суммы квадратов отклонений от любой другой точки, то есть:

Средняя медиана и мода для объединенных групп

- среднее для каждого класса, - количество учащихся

Среднее общее группы:

Для определения моды и медианы объединенной группы необходимы конкретные значения измерений.

Мода - это такое число в группе, с которым совпадает наибольшее количество значений в группе.

Медиана - это такая точка на числовой оси, для которой сумма абсолютных значений разности всех значений меньше суммы разностей для любой другой точки. Если именно так определять понятие ошибки, то медиана дает минимальную ошибку. Если же ошибка определяется как сумма квадратов разностей, то минимальную ошибку дает среднее.

Выбор меры центральной тенденции

В малых группах мода очень нестабильна;

На медиану не влияет величины очень больших и очень малых значений;

На величину среднего влияет каждое значение;

Некоторые множества данных не имеют меры центральной тенденции. Такая ситуация близка к бимодальной гистограмме или U-образной;

Центральная тенденция групп, содержащая крайние значения наилучшим образом представляется в том случае, если гистограмма унимодальна;

Если гистограмма симметрична и унимодальна, то средняя мода и медиана совпадают.

Другие меры центральной тенденции

Среднее геометрическое:

;

Среднегармоническое:

Меры изменчивости - второй момент характеризующий данные

Для оценки меры неоднородности (разброса, изменчивости), в группе вводят специальные меры, с помощью которых после их исследования можно уменьшить изменчивость данных. Первая из мер изменчивости называется размахом.

Размах - это разность максимального и минимального значений в группе.

Включающий размах - это разность между естественной верхней границей интервала, включая наибольшее значение, и естественной нижней границей, включая наименьшее значение интервала. . Включающий размах отличается от исключающего на единицу.

Размах от 90-го до 10-го процентеля:

D = P₉₀ - P₁₀

Эта мера более стабильна, чем предыдущая, так как на нее влияет множество значений.

Полу-междуквантильный размах:

,

Q используется в распределениях, которые симметричны относительно медианы и среднего, для корректировки границ.

Дисперсия. Каждая из предыдущих мер возрастает с ростом рассеяния и уменьшается однородностей. Дисперсию, в отличие от предыдущих мер, используют при вычислении каждого из полученных измерений. Вычисляются значения отклонений и чтобы при суммировании

не потерять величины этих отклонений, разница возводится в квадрат, поскольку мы оцениваем отклонение каждого измерения, делим на количество измерений. Обозначается дисперсия как .

Для вычисления дисперсии не нужно вычислять среднее.

Дисперсия при сгруппированных данных вычисляется по такой же формуле, но

i изменяется от 1 до k, где k - количество разных значений

.

Для унимодальных симметричных распределений почти 70% значений лежит в интервале .

Свойства дисперсии

1. Влияние на дисперсию увеличения каждого значения на какую либо константу:

,

после выполнения математических операций убеждаемся, что дисперсия не изменяется.

2. Изменение дисперсии при умножении каждого исходного значения на константу:

,

то есть дисперсия увеличивается на квадрат константы.

3. Дисперсия объединенной группы:

где:

- количество значений группы А, для Б аналогично

- среднее группы А, для Б аналогично

Среднее отклонение - это совокупность отклонений каждого значения от среднего, взятого по модулю:

Очень проста в вычислениях, но редко используется, ввиду того, что нет теоретического обоснования.

Стандартизованные данные

Часто появляется потребность оценить положение какого-либо конкретного значения по отношению к среднему в единицах стандартного отклонения

Любое множество данных можно преобразовать в такое множество, у которого среднее равно нулю, а стандартное отклонение равно единице.

Значение стандартизованных данных Z позволяют преобразовать множество x в произвольную шкалу с удобными характеристиками среднего и стандартизованного отклонения. Сами оценки Z могут быть отрицательными или содержать дроби. Мы избавимся от этих шероховатостей, умножая стандартизованные данные на константу и прибавляем к ним константу.

сz - будет иметь стандартное отклонение

,

где с, d - константы - будут иметь среднее равное d.

Третий момент

Асимметрия - это свойство распределения частот. На практике симметричные полигоны и гистограммы не встречаются и чтобы выявить и оценить степень асимметрии, вводят следующую меру:

В единицах стандартного отклонения асимметрия равна:

Асимметрия бывает положительной и отрицательной. Положительная сдвигается влево, а отрицательная - вправо.

Чтобы упростить вычисление A_ss можно использовать следующую формулу:

Асимметрия в этом уравнении принимает значения от -3 до +3

Четвертый момент

Эксцесс - это мера крутости кривой распределения. Унимодальная кривая распределения может быть островершинной, плосковершинной, средне вершинной. Эксцесс для стандартных данных:

Эти четыре момента составляют набор особенностей распределения при анализе данных.

Нормальное распределение

Нормальное распределение лучше всего описывается кривой созданной ДеМуавром по следующей формуле:

где U - высота кривой над осью x, и м - числа, которые определяют положение кривой относительно числовой оси и регулируют ее размах. Для м=0, =1 график принимает вид:

Эта кривая при м=0, =1 получила статус стандарта, ее называют единичной нормальной кривой, то есть любые собранные данные стремятся преобразовать так, чтобы кривая их распределения была максимально близка к этой стандартной кривой. Созданы статистические таблицы со значениями площади под единичной нормальной кривой влево от любой точки на оси z в (-3; 3). Общая площадь под кривой равна 1. И все остальные площади рассматривают как процент от целого.

Свойства нормальных кривых

Семейство нормальных кривых включают в себе все кривые, которые можно получить по данной формуле, отличающиеся друг от друга только парой значений и м .

1. 68% площади лежит в интервале

2. 95% площади лежит в интервале

3. 99,7% площади лежит в интервале

Если x имеет нормальное распределение со средним м и стандартным отклонение , то z равное

характеризуется распределением со средним равным нулю и стандартным отклонением равным 1. Площадь между двумя значениями x в нормальном распределении равна площади между ux стандартизованными величинами в единичном нормальном распределении. Нормализованную кривую изобрели для решения задач теории вероятности, но оказалось на практике, что она отлично аппроксимирует распределение черт при большом числе наблюдений для множества переменных. Можно предположить, сто не имея материальных ограничений на количество объектов и время проведения эксперимента, статистическое исследование приводило к нормально кривой.

Двумерное нормальное распределение

Если при исследовании появляется вопрос о связи между двумя переменными для одного и того же объекта (например, рост и интеллект) мы говорим о двумерных связях и результаты эксперимента находят свое отражение в двумерном распределении частот.

Уравнение поверхности называется двумерным нормальным распределением (гладкая непрерывная колоколообразная поверхность)

Характеристики нормального распределения

Распределение значений x без учета значений y есть нормальное распределение;

Распределение значений y без учета значений x, тоже нормальное распределение;

Для каждого фиксированного значения x значение y дают нормальное распределение с дисперсией ;

Для каждого фиксированного значения y значение x распределяется нормально с дисперсией ;

Среднее значения y для каждого отдельного значения x ложатся на переменную.

Меры изменчивости

При решении вопроса о наличии взаимосвязи (корреляции) между двумя переменными, руководствуются несколькими коэффициентами. Связь, выраженная графически, называется диаграммной рассеивания, где x - оценка IQ, y - оценка теста по математике.

Положение каждого объекта на диаграмме распределения определяется парой значений x_i, y_i и выражаются по отношению к мере центральной тенденции величинами , . Если объект имеет высокие показатели по обеим переменным, то эти величины получаются большими и положительными, в противном случае, если x_i, y_i малы, то разность большой и отрицательной.

В дальнейшем будем говорить о произведении этих разностей и в том случае когда наблюдается прямая связь между этими переменными, произведение будет большим и положительным, следовательно такой же будет и сумма этих произведений

.

В случае обратной связи, когда большим значениям y_i соответствуют малые значения x_i и наоборот, в этом случае произведение разностей будет большим и отрицательным и сумма разностей также будет большой и отрицательной.

Если между переменными не наблюдается какой-либо связи , количество положительных и отрицательных произведений примерно рано и сумма их близка к нулю. Таким образом большая положительная сумма - жесткая прямая зависимость; большая отрицательная сумма - сильная обратная зависимость; близость к нулю - отсутствие зависимости.

Недостатком этой меры является то, что ее величина зависит от числа пар переменных x участвующих в расчетах.

Чтобы избежать связь независимого состояния V групп, мы усредняем эти значения:

 - ковариация

Частный случай, ковариация переменной с самой собой - дисперсия

Чтобы избавить меру связи от отклонений двух групп значений:

- коэффициент корреляции Пирсона или произведение моментов.

Значение коэффициента Пирсона не может выйти за границы интервала (-1; 1).

Влияние линейного преобразования переменных на коэффициент корреляции

Вместо x_i вводим в формулу bx+ a, где a, b - коэффициенты, для y_i вводим в формулу

dy+ c,

где c, d - коэффициенты.

Вопрос о корреляции между переменными будучи решен положительно не означает наличия более общего вида связи (заработная плата учителям и количество поступивших в ВУЗы после окончания школы). Если мы проводим идентификацию групп с различным средним, наличие корреляции не исключено, но возможно другое объяснение взаимосвязи, чем вытекающее их эксперимента. Отсутствие связи при нулевом коэффициента Пирсона означает всего лишь отсутствие линейной связи.

Дисперсия суммы и разности переменных

Предсказание и оценивание

Переменная, которую мы хотим оценить называется зависимой переменной или откликом , обозначим ее через y.

Переменная которую мы используем для оценки называется независимой переменной или фактором, ее обозначим через x.

Конкретная характеристика (переменная x) имеющаяся в нашем распоряжении, позволяет получить до проведения эксперимента значение y, зависимой переменной. Мы получаем

используя x_i и коэффициенты b₁ и b₀.

Даже при наилучшем линейном предсказании, предсказание будет отличаться от реального y_i на какую-то величину, которую мы назовем ошибкой оценки и обозначим e_i:

Точность предсказания зависит от того, насколько удачно подобраны коэффициента b₁ и b₀. Критерием успешности подбора коэффициентов является минимальная величина суммы квадратов всех ошибок оценки - критерий наименьших квадратов

Другой критерий: . Этот критерий приводит к медианой линии регрессии. Из уравнения следует

Исходя из минимизации формулы наименьших квадратов найдем формулы:

;

Наше исследование получается наиболее результативным, если мы предполагаем, что фактор и отклик имеют двумерные нормальные распределения.

Свойства двумерного нормального распределения

1. Выборочные средние отклика (y) для каждого значения x лежат на прямой;

2. Для любого значения x, соответствующие значения y нормально распределены;

3. Для любого значения x, y - имеют одинаковую дисперсию .

При прогнозировании является ли среднее ошибок оценки подходящей мерой для прогнозирования.

Средняя ошибка оценки всегда равна нулю. Один из способов доказать этот факт, это выбрать в качестве меры прогнозирования дисперсию ошибки оценки.

Стандартная ошибка оценки

Стандартную ошибку оценки применяют для определения пределов, в окрестности предсказанного попадает фактическое значение y_i.

В приделах S_e - расположено 69% фактических значений объекта, в приделах 2S_e - 95%, в приделах 3S_e - 97,5%.

Связь b₁ и b₀ с другими описательными статистиками

Если x и y распределены по нормальному закону и имеют одинаковую дисперсию, то .

Поскольку r_xy не зависит от S_x и S_y, b₁ - принимает максимальное значение при r_xy =1 и минимальное значение при r_xy = -1, следовательно b₁ никогда не может быть больше , при r_xy =1 и не может быть меньше при r_xy = -1.

Если между переменными отсутствует линейная связь, b₁=0 уравнение регрессии сводится к прямой без наклона, то есть .

Измерение нелинейной связи между переменными

Для определения меры нелинейной связи между переменными используется коэффициент

Эта мера может быть использована и для оценки линейной связи.

Пример вычисления:

Находим среднее для каждого возраста и суммируем отношения каждого y_i от среднего соответствующего группы.

Для 10 - =8,6; 18 - 9,5; 22 - 11,5; 26 - 10; 90 - 9; 34 - 8,67; 38 - 8.

- является мерой нелинейности связи и

Другие меры связи

Измерения в дихотомической шкале (например, женат - не женат, мужчина - женщина)

Измерение в дихотомической шкале наименований в предположении нормального распределения. Предполагается, что при более полных, более совершенных измерениях данные распределятся по нормальному закону.

Шкала порядка

Измерение в шкале интервалов или отношений.

Рассмотренный ранее коэффициент кореляции Пирсона соответствует сочетанию J при измерении исходных данных. Для описания степени кореляции при других комбинациях шкал измерений исходных данных используются следующие меры.

Случай A.

p_x - доля людей имеющих 1 по x, p_y - доля людей имеющих 1 по y

q_x - доля людей имеющих 0 по x, q_y - доля людей имеющих 0 по y

p_xy - доля людей имеющих 1 по x и y

x - женат / холост

y - исключенные из учебного заведения / оставшиеся

p_x =0,4167 ; p_y = 0,5 ; q_x =0,5833 ; q_y = 0,5 ; p_xy =0,333; ц=0,507

Если нет особого интереса к доле p_x и p_y, дихатомические данные располагают в таблице сопряженности признаков. Пример таблицы сопряженности по приведенным данным

Коэффициент ц, это тот же коэффициент корреляции Пирсона, но эти данные не похожи на двумерное нормальное распределение, которое мы представляли при вычислении коэффициента Пирсона. Это рассматривается как большое неудобство статистиками.

Случай B.

Удовлетворительного коэффициента для этого случая не существует, рекомендуется исходить из предположения о нормальном распределении данных и вычислять ц в качестве меры связи для этого случая.

Случай C.

Для этого случая подходят коэффициенты, о котором мы расскажем в случае I.

Случай D.

Используется биссериальный коэффициент корреляции:

- среднее по x объектов имеющих 1 по y.

- среднее по x объектов имеющих 0 по y.

S_x - стандартное отклонение

Случай E.

Тетрахорический коэффициент корреляции:

Более удобно при расчете обращаться к статическим таблицам, содержащим вычисления из этого уравнения. Они составлены при условии, что bc/ad>1. В противном случае таблица содержит ad/bc и величина тетрахорического коэффициента будет отрицательной.

Случай F.

Удовлетворительного коэффициента не разработано, рекомендуется предположить нормальное распределение для x и использовать биссериальный ранговый коэффициент (см. случай G).

Случай G.

Биссериальный коэффициент:

u - ордината нормального распределения.

Случай H.

Используется коэффициент ранговой корреляции Спирмана:

В том случае, если при измерении встречается связанные ранги, это уравнение не подходит в качестве меры корреляции.

Связанный ранг возникает в том случае, если у некоторых объектов получено одинаковое значение переменной. В этом случае ранги, которые должны были бы получить эти объекты суммируются и делятся на количество объектов и каждый получает, полученный при вычислении ранг.

До сих пор коэффициенты корреляции представляли из себя или могли быть объяснены в терминах произведения моментов. Коэффициент корреляции, не связанный с моментами построен Кендаллом и называется ф - Кендалла

корреляция процентель дисперсия графический

Случай I.

Для этого случая коэффициенты не разработаны, рекомендуется преобразовать оценки по y в ранги и найти или коэффициент Спирмана или Кендалла. Бисериальная ранговая корреляция:

P - сумма всех совпадений; Q - сумма всех инверсий;

n₀ - число объектов при нулевой дихотомии; n₁- число объектов при единичной дихотомии.

Размещено на Allbest.ru