Распределение случайных величин и их применение

Размещено на http://www.allbest.ru/

Содержание

1. Распределения случайных величин и функции распределения

2. Преобразования случайных величин

3. Квантили

4. Распределения Пирсона, Стьюдента и Фишера

5. Центральная предельная теорема (общий случай)

6. Логарифмически нормальные распределения

7. Экспоненциальные распределения

8. Гамма-распределения

9. Распределение Пуассона

1. Распределения случайных величин и функции распределения

Распределение числовой случайной величины - это функция, которая однозначно определяет вероятность того, что случайная величина принимает заданное значение или принадлежит к некоторому заданному интервалу.

Первое - если случайная величина принимает конечное число значений. Тогда распределение задается функцией Р(Х=х), ставящей каждому возможному значению х случайной величины Х вероятность того, что Х = х.

Второе - если случайная величина принимает бесконечно много значений. Это возможно лишь тогда, когда вероятностное пространство, на котором определена случайная величина, состоит из бесконечного числа элементарных событий. Тогда распределение задается набором вероятностей P(a <X <b) для всех пар чисел a, b таких, что a<b. Распределение может быть задано с помощью функции распределения F(x) = P(X<x), определяющей для всех действительных х вероятность того, что случайная величина Х принимает значения, меньшие х. Ясно, что

P(a <X <b) = F(b) - F(a)

Это соотношение показывает, что как распределение может быть рассчитано по функции распределения, так и, наоборот, функция распределения - по распределению.

Используемые в прикладных исследованиях функции распределения бывают либо дискретными, либо непрерывными, либо их комбинациями.

Дискретные функции распределения соответствуют дискретным случайным величинам, принимающим конечное число значений или же значения из множества, элементы которого можно перенумеровать натуральными числами (такие множества в математике называют счетными). Их график имеет вид ступенчатой лестницы (рис. 1).

Пример 1. Число Х дефектных изделий в партии принимает значение 0 с вероятностью 0,3, значение 1 с вероятностью 0,4, значение 2 с вероятностью 0,2 и значение 3 с вероятностью 0,1. График функции распределения случайной величины Х изображен на рис.1.

Рис.1. График функции распределения числа дефектных изделий

2. Преобразования случайных величин

По каждой случайной величине Х определяют еще три величины - центрированную Y, нормированную V и приведенную U. Центрированная случайная величина Y - это разность между данной случайной величиной Х и ее математическим ожиданием М(Х), т.е. Y = Х - М(Х). Математическое ожидание центрированной случайной величины Y равно 0, а дисперсия - дисперсии данной случайной величины: М(Y) = 0, D(Y) = D(X). Функция распределения F_Y(x) центрированной случайной величины Y связана с функцией распределения F(x) исходной случайной величины X соотношением:

F_Y(x) =F(x + M(X))

Для плотностей этих случайных величин справедливо равенство

f_Y(x) = f(x + M(X))

Нормированная случайная величина V - это отношение данной случайной величины Х к ее среднему квадратическому отклонению , т.е. . Математическое ожидание и дисперсия нормированной случайной величины V выражаются через характеристики Х так:

,

где v - коэффициент вариации исходной случайной величины Х. Для функции распределения F_V(x) и плотности f_V(x) нормированной случайной величины V имеем:

,

где F(x) - функция распределения исходной случайной величины Х, а f(x) - ее плотность вероятности.

Приведенная случайная величина U - это центрированная и нормированная случайная величина:

.

Для приведенной случайной величины

Нормированные, центрированные и приведенные случайные величины постоянно используются как в теоретических исследованиях, так и в алгоритмах, программных продуктах, нормативно-технической и инструктивно-методической документации. В частности, потому, что равенства  позволяют упростить обоснования методов, формулировки теорем и расчетные формулы.

Используются преобразования случайных величин и более общего плана. Так, если Y = aX + b, где a и b - некоторые числа, то

Пример. Если  то Y - приведенная случайная величина, и формулы (2) переходят в формулы (1).

С каждой случайной величиной Х можно связать множество случайных величин Y, заданных формулой Y = aX + b при различных a>0 и b. Это множество называют масштабно-сдвиговым семейством, порожденным случайной величиной Х. Функции распределения F_Y(x) составляют масштабно сдвиговое семейство распределений, порожденное функцией распределения F(x). Вместо Y = aX + b часто используют запись

Где

Число с называют параметром сдвига, а число d - параметром масштаба. Формула (3) показывает, что Х - результат измерения некоторой величины - переходит в У - результат измерения той же величины, если начало измерения перенести в точку с, а затем использовать новую единицу измерения, в d раз большую старой.

Для масштабно-сдвигового семейства (3) распределение Х называют стандартным. В вероятностно-статистических методах принятия решений и других прикладных исследованиях используют стандартное нормальное распределение, стандартное распределение Вейбулла-Гнеденко, стандартное гамма-распределение и др.

Применяют и другие преобразования случайных величин. Например, для положительной случайной величины Х рассматривают Y = lg X, где lg X - десятичный логарифм числа Х. Цепочка равенств

F_Y(x) = P(lg X < x) = P(X < 10^x) = F(10^x)

связывает функции распределения Х и Y.

Непрерывные функции распределения не имеют скачков. Они монотонно возрастают при увеличении аргумента - от 0 при  до 1 при . Случайные величины, имеющие непрерывные функции распределения, называют непрерывными.

Практически используемые непрерывные функции распределения, как правило, имеют производные. Первая производная f(x) функции распределения F(x) называется плотностью вероятности,

По плотности вероятности можно определить функцию распределения:

Для любой функции распределения

а потому

Перечисленные свойства функций распределения постоянно используются в вероятностно-статистических методах принятия решений. В частности, из последнего равенства вытекает конкретный вид констант в формулах для плотностей вероятностей.

Пример. Часто используется следующая функция распределения:

где a и b - некоторые числа, a<b. Найдем плотность вероятности этой функции распределения:

(в точках x = a и x = b производная функции F(x) не существует).

Смешанные функции распределения встречаются, в частности, тогда, когда наблюдения в какой-то момент прекращаются. Например, при анализе статистических данных, полученных при использовании планов испытаний на надежность, предусматривающих прекращение испытаний по истечении некоторого срока. Или при анализе данных о технических изделиях, потребовавших гарантийного ремонта.

Пример. Пусть, например, срок службы электрической лампочки - случайная величина с функцией распределения F(t), а испытание проводится до выхода лампочки из строя, если это произойдет менее чем за 100 часов от начала испытаний, или до момента t₀ = 100 часов. Пусть G(t) - функция распределения времени эксплуатации лампочки в исправном состоянии при этом испытании. Тогда

Функция G(t) имеет скачок в точке t₀, поскольку соответствующая случайная величина принимает значение t₀ с вероятностью 1-F(t₀)>0.

3. Квантили

При описании дифференциации доходов, при нахождении доверительных границ для параметров распределений случайных величин и во многих иных случаях применяется такое понятие, как «квантиль порядка р», где 0 < p < 1 (обозначается х_р). Квантиль порядка р - значение случайной величины, для которого функция распределения принимает значение р или имеет место «скачок» со значения меньше р до значения больше р (рис.2). Может случиться, что это условие выполняется для всех значений х, принадлежащих этому интервалу (т.е. функция распределения постоянна на этом интервале и равна р). Тогда каждое такое значение называется «квантилем порядка р». Для непрерывных функций распределения, как правило, существует единственный квантиль х_р порядка р (рис.2), причем

F(x_p) = p

Рис.2. Определение квантиля х_р порядка р.

Пример. Найдем квантиль х_р порядка р для функции распределения F(x) из (1).

При 0 < p < 1 квантиль х_р находится из уравнения

,

т.е. х_р = a + p(b - a) = a(1- p) +bp. При p = 0 любое x < a является квантилем порядка p = 0. Квантилем порядка p = 1 является любое число x > b.

Для дискретных распределений, как правило, не существует х_р, удовлетворяющих уравнению (4). Точнее, если распределение случайной величины дается табл.1, где x₁ < x₂ < … < x_k, то равенство (4), рассматриваемое как уравнение относительно х_р, имеет решения только для k значений p, а именно,

p = p₁,

p = p₁ + p₂,

p = p₁ + p₂ + p₃,

…

p = p₁ + p₂ + … + p_m, 3 < m < k,

…

p = p₁ + p₂ + … + p_k.

Таблица 1.

Распределение дискретной случайной величины

Значения x случайной величины Х	х1	х2	…	хk
Вероятности P(X =x)	p1	p2	…	pk

Для перечисленных k значений вероятности p решение х_р уравнения (4) неединственно, а именно,

F(x) = p₁ + p₂ + … + p_m

для всех х таких, что x_m < x < x_m+1. Т.е. х_р - любое число из интервала (x_m; x_m+1]. Для всех остальных р из промежутка (0;1), имеет место «скачок» со значения меньше р до значения больше р. А именно, если

p₁ + p₂ + … + p_m <p < p₁ + p₂ + … + p_m + p_m+1,

то х_р = x_m+1.

Рассмотренное свойство дискретных распределений создает значительные трудности при табулировании и использовании подобных распределений, поскольку невозможным оказывается точно выдержать типовые численные значения характеристик распределения. В частности, это так для критических значений и уровней значимости непараметрических статистических критериев, поскольку распределения статистик этих критериев дискретны.

4. Распределения Пирсона, Стьюдента и Фишера

С помощью нормального распределения определяются три распределения, которые в настоящее время часто используются при статистической обработке данных. В дальнейших разделах книги много раз встречаются эти распределения.

Распределение Пирсона  (хи - квадрат) - распределение случайной величины

где случайные величины X₁, X₂,…, X_n независимы и имеют одно и тоже распределение N(0,1). При этом число слагаемых, т.е. n, называется «числом степеней свободы» распределения хи - квадрат.

Распределение хи-квадрат используют при оценивании дисперсии (с помощью доверительного интервала), при проверке гипотез согласия, однородности, независимости, прежде всего для качественных (категоризованных) переменных, принимающих конечное число значений, и во многих других задачах статистического анализа данных.

Распределение t Стьюдента - это распределение случайной величины

где случайные величины U и X независимы, U имеет распределение стандартное нормальное распределение N(0,1), а X - распределение хи - квадрат с n степенями свободы. При этом n называется «числом степеней свободы» распределения Стьюдента.

Распределение Стьюдента было введено в 1908 г. английским статистиком В. Госсетом, работавшем на фабрике, выпускающей пиво. Вероятностно-статистические методы использовались для принятия экономических и технических решений на этой фабрике, поэтому ее руководство запрещало В. Госсету публиковать научные статьи под своим именем. Таким способом охранялась коммерческая тайна, «ноу-хау» в виде вероятностно-статистических методов, разработанных В. Госсетом. Однако он имел возможность публиковаться под псевдонимом «Стьюдент». История Госсета - Стьюдента показывает, что еще сто лет назад менеджерам Великобритании была очевидна большая экономическая эффективность вероятностно-статистических методов.

В настоящее время распределение Стьюдента - одно из наиболее известных распределений среди используемых при анализе реальных данных. Его применяют при оценивании математического ожидания, прогнозного значения и других характеристик с помощью доверительных интервалов, по проверке гипотез о значениях математических ожиданий, коэффициентов регрессионной зависимости, гипотез однородности выборок и т.д.

Распределение Фишера - это распределение случайной величины

где случайные величины Х₁ и Х₂ независимы и имеют распределения хи - квадрат с числом степеней свободы k₁ и k₂ соответственно. При этом пара (k₁, k₂) - пара «чисел степеней свободы» распределения Фишера, а именно, k₁ - число степеней свободы числителя, а k₂ - число степеней свободы знаменателя. Распределение случайной величины F названо в честь великого английского статистика Р.Фишера (1890-1962), активно использовавшего его в своих работах.

Распределение Фишера используют при проверке гипотез об адекватности модели в регрессионном анализе, о равенстве дисперсий и в других задачах прикладной статистики.

Выражения для функций распределения хи - квадрат, Стьюдента и Фишера, их плотностей и характеристик, а также таблицы, необходимые для их практического использования, можно найти в специальной литературе (см., например, [8]).

5. Центральная предельная теорема (общий случай)

Нормальные распределения в настоящее время часто используют в вероятностных моделях в различных прикладных областях. В чем причина такой широкой распространенности этого двухпараметрического семейства распределений? Она проясняется следующей теоремой.

Центральная предельная теорема (для разнораспределенных слагаемых). Пусть X₁, X₂,…, X_n,… - независимые случайные величины с математическими ожиданиями М(X₁), М(X₂),…, М(X_n), … и дисперсиями D(X₁), D(X₂),…, D(X_n), … соответственно. Пусть

Тогда при справедливости некоторых условий, обеспечивающих малость вклада любого из слагаемых в U_n,

для любого х.

Центральная предельная теорема показывает, что в случае, когда результат измерения (наблюдения) складывается под действием многих причин, причем каждая из них вносит лишь малый вклад, а совокупный итог определяется аддитивно, т.е. путем сложения, то распределение результата измерения (наблюдения) близко к нормальному.

Иногда считают, что для нормальности распределения достаточно того, что результат измерения (наблюдения) Х формируется под действием многих причин, каждая из которых оказывает малое воздействие. Это заключение неверно. Важно, как эти причины действуют. Если аддитивно - то Х имеет приближенно нормальное распределение. Если мультипликативно (т.е. действия отдельных причин перемножаются, а не складываются), то распределение Х близко не к нормальному, а к т.н. логарифмически нормальному, т.е. не Х, а lg X имеет приблизительно нормальное распределение. Если же нет оснований считать, что действует один из этих двух механизмов формирования итогового результата (или какой-либо иной вполне определенный механизм), то про распределение Х ничего определенного сказать нельзя.

Из сказанного вытекает, что в конкретной прикладной задаче нормальность результатов измерений (наблюдений), как правило, нельзя установить из общих соображений, ее следует проверять с помощью статистических критериев. Или же использовать непараметрические статистические методы, не опирающиеся на предположения о принадлежности функций распределения результатов измерений (наблюдений) к тому или иному параметрическому семейству.

6. Логарифмически нормальные распределения

Случайная величина Х имеет логарифмически нормальное распределение, если случайная величина Y = lg X имеет нормальное распределение. Тогда Z = ln X = 2,3026…Y также имеет нормальное распределение N(a₁,?₁), где ln X - натуральный логарифм Х. Плотность логарифмически нормального распределения такова:

Из центральной предельной теоремы следует, что произведение X = X₁X₂…X_n независимых положительных случайных величин X_i, i = 1, 2,…, n, при больших n можно аппроксимировать логарифмически нормальным распределением. В частности, мультипликативная модель формирования заработной платы или дохода приводит к рекомендации приближать распределения заработной платы и дохода логарифмически нормальными законами. Для России эта рекомендация оказалась обоснованной - статистические данные подтверждают ее.

Имеются и другие вероятностные модели, приводящие к логарифмически нормальному закону. Классический пример такой модели дан А.Н.Колмогоровым [10], который из физически обоснованной системы постулатов вывел заключение о том, что размеры частиц при дроблении кусков руды, угля и т.п. на шаровых мельницах имеют логарифмически нормальное распределение.

7. Экспоненциальные распределения

Перейдем к другому семейству распределений, широко используемому в различных вероятностно-статистических методах принятия решений и других прикладных исследованиях, - семейству экспоненциальных распределений. Начнем с вероятностной модели, приводящей к таким распределениям. Для этого рассмотрим "поток событий", т.е. последовательность событий, происходящих одно за другим в какие-то моменты времени. Примерами могут служить: поток вызовов на телефонной станции; поток отказов оборудования в технологической цепочке; поток отказов изделий при испытаниях продукции; поток обращений клиентов в отделение банка; поток покупателей, обращающихся за товарами и услугами, и т.д. В теории потоков событий справедлива теорема, аналогичная центральной предельной теореме, но в ней речь идет не о суммировании случайных величин, а о суммировании потоков событий. Рассматривается суммарный поток, составленный из большого числа независимых потоков, ни один из которых не оказывает преобладающего влияния на суммарный поток. Например, поток вызовов, поступающих на телефонную станцию, слагается из большого числа независимых потоков вызовов, исходящих от отдельных абонентов. Доказано [6], что в случае, когда характеристики потоков не зависят от времени, суммарный поток полностью описывается одним числом  - интенсивностью потока. Для суммарного потока рассмотрим случайную величину Х - длину промежутка времени между последовательными событиями. Ее функция распределения имеет вид

Это распределение называется экспоненциальным распределением, т.к. в формуле (5) участвует экспоненциальная функция e^-?x. Величина 1/? - масштабный параметр. Иногда вводят и параметр сдвига с, при этом экспоненциальным распределением называют распределение случайной величины Х + с, где распределение Х задается формулой (5).

В формуле (5) е = 2,718281828… - основание натуральных логарифмов. Функция экспоненциального распределения F(x, ?) и его плотность f(x. ?) связаны простым соотношением

Это соотношение имеет простую интерпретацию в терминах теории надежности технических изделий и устройств. Оно означает, что интенсивность отказов (т.е. интенсивность выхода изделий из строя) постоянна, другими словами, не зависит от того, сколько времени изделие уже проработало. Обычно интенсивность отказов постоянна на основном этапе эксплуатации, после того, как на начальном этапе выявлены скрытые дефекты, и до того, как из-за естественного старения материалов начинает происходить ускоренный износ с резким возрастанием интенсивности выхода изделия из строя.

8. Гамма-распределения

Перейдем к семейству гамма-распределений. Они широко применяются в экономике и менеджменте, теории и практике надежности и испытаний, в различных областях техники, метеорологии и т.д. В частности, гамма-распределению подчинены во многих ситуациях такие величины, как общий срок службы изделия, длина цепочки токопроводящих пылинок, время достижения изделием предельного состояния при коррозии, время наработки до k-го отказа, k = 1, 2, …, и т.д. Продолжительность жизни больных хроническими заболеваниями, время достижения определенного эффекта при лечении в ряде случаев имеют гамма-распределение. Это распределение наиболее адекватно для описания спроса в экономико-математических моделях управления запасами (логистики).

Плотность гамма-распределения имеет вид

Плотность вероятности в формуле (6) определяется тремя параметрами a, b, c, где a>0, b>0. При этом a является параметром формы, b - параметром масштаба и с - параметром сдвига. Множитель 1/?(а) является нормировочным, он введен, чтобы

Здесь ?(а) - одна из используемых в математике специальных функций, так называемая "гамма-функция", по которой названо и распределение, задаваемое формулой (6),

При фиксированном а формула (6) задает масштабно-сдвиговое семейство распределений, порождаемое распределением с плотностью

Распределение вида (7) называется стандартным гамма-распределением. Оно получается из формулы (6) при b = 1 и с = 0.

Частным случаем гамма-распределений при а = 1 являются экспоненциальные распределения (с ? = 1/b). При натуральном а и с=0 гамма-распределения называются распределениями Эрланга. С работ датского ученого К.А.Эрланга (1878-1929), сотрудника Копенгагенской телефонной компании, изучавшего в 1908-1922 гг. функционирование телефонных сетей, началось развитие теории массового обслуживания. Эта теория занимается вероятностно-статистическим моделированием систем, в которых происходит обслуживание потока заявок, с целью принятия оптимальных решений. Распределения Эрланга используют в тех же прикладных областях, в которых применяют экспоненциальные распределения. Это основано на следующем математическом факте: сумма k независимых случайных величин, экспоненциально распределенных с одинаковыми параметрами ? и с, имеет гамма-распределение с параметром формы а = k, параметром масштаба b = 1/? и параметром сдвига kc. При с = 0 получаем распределение Эрланга.

Если случайная величина X имеет гамма-распределение с параметром формы а таким, что d = 2a - целое число, b = 1 и с = 0, то 2Х имеет распределение хи-квадрат с d степенями свободы.

Случайная величина X с гвмма-распределением имеет следующие характеристики:

- математическое ожидание М(Х) = ab + c,

- дисперсию D(X) = ?² = ab²,

- коэффициент вариации

- асимметрию

- эксцесс

Нормальное распределение - предельный случай гамма-распределения. Точнее, пусть Z - случайная величина, имеющая стандартное гамма-распределение, заданное формулой (7). Тогда

для любого действительного числа х, где Ф(х) - функция стандартного нормального распределения N(0,1).

В прикладных исследованиях используются и другие параметрические семейства распределений, из которых наиболее известны система кривых Пирсона, ряды Эджворта и Шарлье. Здесь они не рассматриваются.

9. Распределение Пуассона

Еще одно широко используемое дискретное распределение - распределение Пуассона. Случайная величина Y имеет распределение Пуассона, если

где ? - параметр распределения Пуассона, и P(Y=y)=0 для всех прочих y (при y=0 обозначено 0! =1). Для распределения Пуассона

M(Y) = ?, D(Y) = ?.

Это распределение названо в честь французского математика С.Д.Пуассона (1781-1840), впервые получившего его в 1837 г. Распределение Пуассона является предельным случаем биномиального распределения, когда вероятность р осуществления события мала, но число испытаний n велико, причем np = ?. Точнее, справедливо предельное соотношение

Поэтому распределение Пуассона (в старой терминологии «закон распределения») часто называют также «законом редких событий».

Распределение Пуассона возникает в теории потоков событий. Доказано, что для простейшего потока с постоянной интенсивностью ? число событий (вызовов), происшедших за время t, имеет распределение Пуассона с параметром ? = ?t. Следовательно, вероятность того, что за время t не произойдет ни одного события, равна e^-?t, т.е. функция распределения длины промежутка между событиями является экспоненциальной.

Распределение Пуассона используется при анализе результатов выборочных маркетинговых обследований потребителей, расчете оперативных характеристик планов статистического приемочного контроля в случае малых значений приемочного уровня дефектности, для описания числа разладок статистически управляемого технологического процесса в единицу времени, числа «требований на обслуживание», поступающих в единицу времени в систему массового обслуживания, статистических закономерностей несчастных случаев и редких заболеваний, и т.д.

Описание иных параметрических семейств дискретных распределений и возможности их практического использования рассматриваются в обширной (более миллиона названий статей и книг на десятках языков) литературе по вероятностно-статистическим методам.

10. Список литературы

распределение квантиль пирсон стьюдент фишер

1. А.И. Орлов. Математика случая, М.: МЗ-Пресс, 2004.

Размещено на Allbest.ru