Размещено на http://www.allbest.ru/

Случайные величины

Одномерные случайные величины

Непрерывные и дискретные случайные величины

Одним из важнейших понятий теории вероятностей является понятие случайной величины.

Случайной величиной называется переменная величина, которая в зависимости от исхода испытания случайно принимает одно значение из множества возможных значений.

Случайная величина обычно обозначается прописной латинской буквой (), ее конкретные значения - строчными буквами ().

Случайной величиной называется функция , определенная на множестве элементарных событий , .

Случайные величины делятся на дискретные и непрерывные.

Величина называется дискретной, если она может принимать определенные, фиксированные значения.

Случайная величина называется непрерывной, если она может принимать значения, сколь угодно мало отличающиеся друг от друга.

Пусть дискретная случайная величина может принимать значений: . Для полной характеристики этой случайной величины должны быть заданы еще и вероятности появления указанных значений .

Закон распределения случайной величины

Соответствие между всеми возможными значениями дискретной случайной величины и их вероятностями называется законом распределения данной случайной величины.

Законом распределения случайной дискретной величины называется совокупность пар чисел (), где - возможные значения случайной величины, а - вероятности, с которыми она принимает эти значения, причем .

В простейших случаях закон распределения случайной величины удобно задавать таблицей:

Таблица

Заметим, что таблицу значений дискретной случайной величины , если это целесообразно, формально всегда можно пополнить конечным набором любых чисел, считая их значениями с вероятностями, равными нулю.

Случайные величины и называются независимыми, если возможные значения и закон распределения каждой из них один и тот же при любом выборе допустимых значений другой и не зависит от того, какое возможное значение приняла другая величина. В противном случае эти величины называются зависимыми. Несколько случайных величин называются взаимно независимыми, если возможные значения и законы распределения любой из них не зависят от того, какие возможные значения приняли остальные случайные величины.

Функция распределения случайной величины и ее свойства

Как для дискретной величины, так и для непрерывной вводится понятие функции распределения.

Пусть - случайная величина, определенная на множестве элементарных событий , , а - произвольное действительное число. В общем случае функция должна быть такова, чтобы для любых событие , состоящее в том, что случайная величина попадает в интервал , принадлежала полю событий и, таким образом, для любого такого события была определена вероятность .

Тогда вероятность того, что примет значение, меньшее, чем , равна значению функции распределения вероятностей данной случайной величины , соответствующее значению аргумента , т.е. функция распределения вероятностей данной случайной величины представляет собой вероятность события , где - задаваемые непрерывно изменяющиеся значения, т.е. .

Рассмотрим функцию распределения случайной дискретной величины , принимающей значения .

· Если , то , так как в этом случае событие является невозможным.

· Если , то событие наступит тогда и только тогда, когда наступит событие , поэтому .

· Если , то событие равно сумме событий , и .

· Аналогично, если , то .

Таким образом, функция распределения случайной дискретной величины равна , где , и суммирование производится по тем , для которых .

Если дискретные значения случайной величины расположены в порядке возрастания, то каждому значению этих величин ставится в соответствие сумма вероятностей всех предыдущих значений и вероятности .

Таблица

В точках функция распределения имеет скачки, равные вероятности того, что случайная величина примет соответствующее значение.

Свойства функции распределения

1. Функция распределения принимает значения из промежутка : .

2. Вероятность того, что случайная величина примет значение из полуинтервала , равна разности : .

3. Функция распределения - неубывающая функция, т.е. при .

4. .

5. Если , то .

6. Если , то .

Числовые характеристики непрерывных случайных величин

Математическое ожидание случайной величины, его вероятностный смысл и свойства

В некоторых случаях закон распределения случайной величины неизвестен, или просто целесообразно использовать не таблицу или функцию распределения для представления случайной величины, а так называемые числовые характеристики ее распределения, в частности математическое ожидание.

Математическое ожидание дискретной случайной величины - это сумма парных произведений всех возможных ее значений на соответствующие вероятности:

,

где .

Очевидно, математическое ожидание случайной величины не изменится, если таблицу значений этой случайной величины пополнить конечным числом любых чисел, считая, что вероятности этих чисел равны нулю.

Математическое ожидание случайной величины есть величина постоянная и поэтому представляет числовую характеристику случайной величины .

Вероятностный смысл математического ожидания: математическое ожидание приближенно равно среднему арифметическому наблюдаемых значений случайной величины.

Свойства математического ожидания можно сформулировать в виде теорем. Доказательства этих теорем будут приведены для дискретных случайных величин, однако, соответствующие теоремы справедливы также и для непрерывных случайных величин.

Прежде, чем формулировать свойства математического ожидания необходимо выяснить смысл и дать определение арифметических операций , , и т.п., где и - дискретные случайные величины.

Например, под суммой понимается случайная величина , значениями которой являются все допустимые суммы , где и - все возможные значения соответственно случайных величин и ; причем соответствующие вероятности равны:

.

Если какая-нибудь комбинация невозможна, то условно полагают ; это не отразится на математическом ожидании суммы. Аналогично определяются и остальные операции.

Свойства математического ожидания

1. Теорема. Математическое ожидание постоянной величины равно этой величине.

Доказательство. Постоянную величину можно рассматривать как случайную дискретную величину, принимающую лишь одно возможное значение с вероятностью . Поэтому .

2. Теорема. Математическое ожидание суммы двух (или нескольких) случайных величин и равно разности их математических ожиданий:

.

Доказательство:

1) Пусть случайная величина принимает значения с вероятностями (), а случайная величина принимает значения с вероятностями (). Тогда возможными значениями случайной величины будут суммы , вероятности которых равны:

.

Как уже отмечалось ранее, все комбинации () (, ) можно считать допустимыми, причем, если сумма невозможна, то полагаем, что .

Сумма представляет собой вероятность события, состоящего в том, что случайная величина принимает значения при условии, что случайная величина примет одно из своих возможных значений (что достоверно); это сложное событие, очевидно, эквивалентно тому, что принимает значение и поэтому .

Аналогично .

Тогда .

2) Для нескольких случайных величин, например для трех , и , имеем:

, и т.д.

Следствие. Если - постоянная величина, то:

3. Теорема. Математическое ожидание произведения двух независимых случайных величин и равно произведению их математических ожиданий:

.

Доказательство. Пусть случайная величина принимает значения (,) () и (,) () - законы распределения случайных величин и . Так как и - независимы, то полный набор значений случайной величины состоит из всех произведений (, ), причем вероятности этих значений по теореме умножения для независимых событий равны .

Следствие. Математическое ожидание произведения нескольких взаимно независимых случайных величин равно произведению математических ожиданий этих величин.

Действительно, например, для трех взаимно независимых случайных величин , и :

, и т.д.

Следствие. Постоянный множитель можно выносить за знак математического ожидания, т.е.. Если - постоянная величина и - любая случайная величина, то, учитывая, что и - независимы, получим:

.

Следствие. Математическое ожидание разности двух случайных величин и равно разности их математических ожиданий:

Доказательство.

.

Дисперсия случайной величины и ее свойства

На практике часто требуется оценить рассеяние случайной величины вокруг ее среднего значения. Использовать в качестве такой характеристики отклонение случайной величины от ее математического ожидания не представляется возможным.

Теорема. Для любой случайной величины математическое ожидание ее отклонения равно нулю, т.е.

.

Доказательство. Действительно, учитывая, что - постоянная величина, имеем:

Такой характеристикой степени рассеяния случайной величины является дисперсия.

Дисперсией (рассеянием) случайной величины называют математическое ожидание квадрата отклонения этой величины от ее математического ожидания:

.

случайный величина распределение корреляция

Очевидно, что дисперсия случайной величины постоянна, т.е. является числовой характеристикой этой величины.

Если случайная величина имеет закон распределения , то .

Так же как и для математического ожидания, свойства дисперсии можно сформулировать в виде теорем.

Теорема. Дисперсия постоянной величины равна нулю.

Доказательство. Если - постоянная величина, то и, следовательно, . Этот результат очевиден, поскольку постоянная величина изображается точкой на числовой оси и не имеет рассеяния.

Теорема. Постоянный множитель можно выносить за знак дисперсии, возводя его при этом в квадрат .

Доказательство. Если - постоянный множитель, а - случайная величина, то - тоже случайная величина, математическое ожидание которой . Применяя к случайной величине определение дисперсии, получаем:

.

Теорема. Дисперсия случайной величины равна разности математического ожидания ее квадрата и квадрата математического ожидания самой величины: .

Доказательство. Используя основные теоремы о математическом ожидании можно записать:

Теорема. Дисперсия суммы двух независимых случайных величин равна сумме дисперсий этих величин:

.

Доказательство. Поскольку , следовательно:



,

где - так называемый корреляционный момент величин и . Если случайные величины и независимы, то случайные величины и , очевидно, также независимы, поэтому:

Следствие 1. Дисперсия суммы нескольких взаимно независимых случайных величин равна сумме дисперсий этих величин.

Следствие 2. Если - постоянная величина, то .

Следствие 3. Дисперсия разности двух независимых случайных величин равна сумме дисперсий этих величин, т.е. если случайные величины и независимы, то .

Доказательство.

.

Математическое ожидание и дисперсия случайной величины являются ее основными числовыми характеристиками.

Среднеквадратическое отклонение

Для оценки рассеяния возможных значений случайной величины вокруг его среднего значения кроме дисперсии служат и некоторые другие характеристики. К их числу относится среднее квадратичное отклонение.

Средним квадратичным отклонением (или стандартом) случайной величины называется корень квадратный из дисперсии этой величины: .

Пример. Пусть закон распределения случайной величины задан таблицей:

Таблица

	4	10	20
	0.25	0.5	0.25

Определить математическое ожидание , дисперсию и среднее квадратичное отклонение .

Решение:

.

Легко показать, что дисперсия имеет размерность, равную квадрату размерности случайной величины. Так как среднее квадратическое отклонение равно квадратному корню из дисперсии, то размерность совпадает с размерностью . Поэтому в тех случаях, когда желательно, чтобы оценка рассеяния имела размерность случайной величины, вычисляют среднее квадратичное отклонение, а не дисперсию.

Начальные и центральные моменты

Кроме математического ожидания и дисперсии, для оценки случайной величины используются начальные и центральные моменты случайной величины. Начальным моментом порядка случайной величины называют математическое ожидание величины :

.

Центральным моментом порядка случайной величины называют математическое ожидание величины :

.

Начальный момент первого порядка равен математическому ожиданию самой случайной величины .

Центральный момент первого порядка равен нулю:

.

Центральный момент второго порядка представляет собой дисперсию случайной величины :

.

Для дискретных случайных величин:

;

.

Основные примеры распределений дискретной случайной величины

Случайную величину полностью задает закон ее распределения. Чтобы определить закон распределения дискретной случайной величины, необходимо установить соответствие между всеми возможными значениями данной случайной величины и их вероятностями.

К каноническим законам распределения дискретной случайной величины обычно относят биномиальный закон, закон распределения Пуассона и закон распределения по геометрической прогрессии.

Биномиальное распределение, его математическое ожидание, дисперсия

Рассмотрим серию независимых испытаний проведенных в условиях схемы Бернулли, в ходе которых появлялось событие с вероятностью , одинаковой для всех испытаний.

Необходимо определить закон распределения случайной величины числа появлений события . Для этого нужно определить возможные значения и их вероятности. Минимальное значение равно нулю, что соответствует ситуации, когда в серии испытаний событие не появилось; максимальное значение соответствует «успеху» во всех испытаниях серии и равно . Очевидно, что случайная величина числа появлений события в серии испытаний принимает значения . Остается найти соответствующие вероятности этих возможных значений, для чего достаточно воспользоваться формулой Бернулли:

,

где , .

Эта формула является аналитическим выражением искомого закона распределения. Эта формула еще называется биномиальной, так как ее правая часть представляет собой -й член бинома Ньютона:

.

Отсюда сразу видно, что для полученного закона биномиального распределения вероятностей числа появления события при независимых испытаниях выполняется условие нормировки, т.е. сумма всех вероятностей равна единице:

.

Теорема. Математическое ожидание числа появлений события в независимых испытаниях равно произведению числа испытаний на вероятность появления события в каждом испытании.

Доказательство. Случайная величина распределена по биномиальному закону:

(),

где .

Величину можно рассматривать, как сумму независимых случайных величин , где () - число появлений события в м испытании. Случайная величина принимает лишь два значения: 1, если событие появилось в м испытании, и 0, если в м испытании события не произошло.

Вероятности этих событий и , а математическое ожидание: ().

Следовательно, используя теорему о математическом ожидании суммы, получим:

.

Таким образом, математическое ожидание числа появлений события в условиях схемы Бернулли совпадает со средним числом появлений события в данной серии испытаний.

Теорема. Дисперсия числа появлений события в независимых испытаниях равна произведению числа испытаний на вероятности появления и непоявления события в одном испытании: .

Доказательство. Пусть - число появлений события в независимых испытаниях. Оно равно сумме появлений события в каждом испытании: . Так как испытания независимы, то и случайные величины - независимы, поэтому .

Но , .

Как было показано выше, , а .

Тогда , а .

В этом случае, как уже упоминалось ранее, среднее квадратичное отклонение .

Пример. В пяти торговых точках проверяется годовой баланс. Вероятность правильного оформления баланса в каждой точке равна 0,7. Найти математическое ожидание и дисперсию правильно оформленных балансов.

Решение. Дано: , , .

Тогда

.

Биномиальный закон распределения часть приходится применять в условиях, когда число независимых испытаний велико. Вычисление вероятностей по формуле Бернулли при этом усложняется, поэтому представляет интерес асимптотическое приближение для биномиального закона, справедливое при больших . Возможны два случая:

1. Когда при увеличении числа испытаний математическое ожидание рассматриваемой случайной величины тоже неограниченно возрастает (случай постоянного ); при этом биномиальное распределение сходится к нормальному закону, который будет рассмотрен позже.

2. Когда при увеличении числа испытаний остается постоянным произведение , то есть математическое ожидание рассматриваемой случайной величины остается конечным. Это означает, что вероятность события стремится к нулю. В этом случае биномиальное распределение сходится к распределению Пуассона.

Распределение Пуассона

Рассмотрим второй случай асимптотического приближения биномиального распределения, когда , а - имеет конечное значение. Случайная величина называется распределенной по закону Пуассона с параметром , если эта случайная величина может принимать значения , соответствующая вероятность которых определяется по формуле Пуассона, когда :

.

В биномиальном распределении величина имеет смысл математического ожидания. Проведем вычисления математического ожидания для распределения Пуассона:

.

Таким образом, в распределении Пуассона величина также имеет смысл математического ожидания.

Проведем вычисления дисперсии для распределения Пуассона:

,

поскольку

,

Таким образом, в распределении Пуассона дисперсия также равна .

Геометрическое распределение

Рассмотрим серию независимых испытаний, в ходе которых появлялось событие с вероятностью , одинаковой для всех испытаний. Испытания в каждой серии проводились до появления события и заканчивались, как только событие происходило. Обозначим через число испытаний, которые нужно провести до появления «успеха». Очевидно, что возможными значениями дискретной случайной величины являются натуральные числа . Пусть событие наступило после безуспешных испытаний, т.е. . Вероятность этого события по теореме умножения вероятностей равна . Полученный закон распределения дискретной случайной величины называют геометрическим, поскольку - формула расчета -го члена геометрической прогрессии, с первым членом и знаменателем (). Несложно убедиться в том, что выполняется условие нормировки:

Случайная величина называется распределенной по закону геометрической прогрессии с параметром , если может принимать значения , соответствующая вероятность которых определяется по формуле: , где . Найдем математическое ожидание случайной величины, распределенной по геометрическому закону с параметром:



Примерно так же находится и дисперсия .

Непрерывные случайные величины

Функция и плотность распределения вероятностей

Непрерывная случайная величина в отличие от дискретной не может характеризоваться вероятностью ее конкретного значения, так как таких значений бесконечное множество.

Для характеристики непрерывной случайной величины используется функция распределения вероятностей, которая, так же как и для дискретной случайной величины, представляет собой вероятность события :

Однако, в отличие от дискретной случайной величины в данном случае пробегает все непрерывное множество значений, а сама функция возрастает монотонно.

В некоторых случаях на значения случайной величины могут быть наложены ограничения. Например, если случайная величина представляет собой время выполнения некоторой операции , то с учетом неравенства функция распределения вероятностей будет располагаться лишь в правой полуплоскости.

Если вероятность события равна , а вероятность события равна , то вероятность того, что случайная величина заключена между и равна разности соответствующих значений функции распределения:

.

Кроме функции распределения для непрерывных случайных величин вводится понятие плотности распределения вероятностей, или плотности вероятности.

Плотностью распределения вероятностей непрерывной случайной величины называется производная от ее функции распределения вероятностей:

.

Значит, можно найти функцию распределения вероятностей, интегрируя плотность вероятности в общем случае от до рассматриваемого значения , т.е.

.

Аналитические выражения для функций распределения вероятностей или плотности вероятности носят название законов распределения.

Для любого значения на основании функции распределения можно определит вероятность события .

В некоторых случаях по заданной вероятности требуется найти такие значения , для которых выполняется равенство . Значение , для которого это равенство выполняется, называют квантилью, отвечающей заданному уровню вероятности.

Числовые характеристики непрерывных случайных величин

Для непрерывных случайных величин, так же, как и для дискретных, используют понятия математического ожидания и дисперсии.

Математическим ожиданием непрерывной случайной величины называется значение интеграла:

,

где - плотность вероятности.

Дисперсией непрерывной случайной величины называется значение интеграла:

.

Среднее квадратичное отклонение непрерывной случайной величины вычисляется как корень квадратный из дисперсии:

.

Мода () непрерывной случайной величины - это такое ее значение, которому соответствует максимальное значение ее плотности вероятности. Медианой () непрерывной случайной величины называется такое ее значение, которое определяется равенством:

.

Основные свойства математического ожидания и дисперсии непрерывных случайных величин остаются такими же, как и для дискретных случайных величин.

Начальные и центральные моменты для непрерывных случайных величин находятся по формулам:

,

.

Основные примеры распределений непрерывной случайной величины

Равномерное распределение

Непрерывная случайная величина считается равномерно распределенной, если ее плотность вероятности имеет вид:

Математическое ожидание случайной величины, имеющей равномерное распределение:



Дисперсия может быть вычислена следующим образом:

Среднее квадратичное отклонение будет иметь вид:

.

Показательное распределение

Показательным (экспоненциальным) распределением непрерывной случайной величины называется такое распределение, которое описывается следующим выражением для плотности вероятности:

,

где - постоянная положительная величина.

Функция распределения вероятности в этом случае имеет вид:

Математическое ожидание случайной величины, имеющей экспоненциальное распределение, получаем на основании общей формулы с учетом того, что при :

.

Интегрируя это выражение по частям, находим: .

Дисперсию для экспоненциального распределения можно получить, используя выражение:

.

Подставляя выражение для плотности вероятности, находим:

Вычисляя интеграл по частям, получаем: .

Нормальное распределение

Нормальным называется такое распределение случайной величины , плотность вероятности которого описывается функцией Гаусса:



где - среднее квадратичное отклонение;

- математическое ожидание случайной величины.

Свойства функции Гаусса

График плотности нормального распределения называют нормальной кривой Гаусса.

Проведем исследование функции:

методами дифференциального исчисления.

1. Очевидно, что функция определена на всей оси .

2. При всех значениях функция принимает положительные значения, т.е. нормальная кривая расположена над осью .

3. Ось служит горизонтальной асимптотой графика, поскольку . Других асимптот у графика нет.

4. При функция имеет максимум, равный .

5. Функция четная: ее график симметричен относительно прямой .

6. При график функции имеет точки перегиба.

Изменение величины математического ожидания, т.е. параметра , ведет к сдвигу кривой вдоль оси без изменения ее формы. График ведет себя иначе, если изменяется среднее квадратичное отклонение (параметр ): с возрастанием максимальная ордината нормальной кривой убывает, а сама кривая становится более пологой, т.е. сжимается к оси ; при убывании нормальная кривая становится более островершинной и растягивается в положительном направлении оси . Но при любых значениях параметров и , согласно условию нормировки функции плотности распределения, площадь, ограниченная нормальной кривой и осью остается равной единице.

Центральная предельная теорема

Многие непрерывные случайные величины имеют нормальное распределение. Это обстоятельство во многом определяется тем, что суммирование большого числа случайных величин с самыми разными законами распределения приводит к нормальному распределению этой суммы.

Указанное свойство подтверждается интегральной предельной теоремой, доказанной Ляпуновым.

Теорема. Если случайная величина представляет собой сумму очень большого числа взаимно независимых случайных величин, влияние каждой из которых на всю сумму ничтожно мало, то имеет распределение, близкое к нормальному.

Центральная предельная теорема имеет огромное значение для практики.

Допустим, определяется некоторый экономический показатель, например, потребление электроэнергии в городе за год. Величина суммарного потребления складывается из потребления энергии отдельными потребителями, которая имеет случайные значения с разными распределениями. Теорема утверждает, что в этом случае, какое бы распределение не имели отдельные составляющие, распределение результирующего потребления будет близко к нормальному.

Однако следует иметь в виду, что при усилении влияния отдельных факторов могут появляться отклонения от нормального распределения результирующего параметра, например, может возникнуть асимметрия или эксцесс. Поэтому большое значение на практике уделяется экспериментальной проверке выдвинутых гипотез, в том числе и гипотезы о нормальном распределении.

Поэтому, в некоторых случаях приходится рассматривать распределение случайной величины, имеющие определенные отличия от нормального. Для оценки этого отличия введены специальные характеристики. К ним относятся, в частности, асимметрия и эксцесс.

Асимметрией распределения случайной величины называется отношение центрального момента третьего порядка к кубу среднего квадратичного отклонения:

.

Эксцессом распределения случайной величины называют число, определяемое выражением:

.

Для нормального распределения , поэтому эксцесс равен нулю.

Вероятность попадания нормальной случайной величины в заданный интервал

Во многих практических задачах требуется определить вероятность попадания случайной величины в заданный интервал. Эта вероятность может быть выражена в виде разности функции распределения вероятности в граничных точках этого интервала:

.

В случае нормального распределения:

сделаем замену переменной: , , .

Тогда:

,

где , .

Разобьем полученный интеграл на два:

 .

Следовательно, искомая вероятность может быть выражена через веденный ранее стандартный интеграл Лапласа:

.

Функция Лапласа и ее свойства

Функция Лапласа не выражается через элементарные функции

.

Для ее вычисления используются специальные таблицы или методы приближенного вычисления.

Функция обладает следующими свойствами:

1. ;

2. ;

3. функция - нечетная, т.е. = - , поэтому в таблицах обычно приводятся значения только для положительных ;

4. функция - монотонно возрастающая функция (это следует из того, что ). При , с точностью до тысячных можно принять .

Вычисление вероятности заданного отклонения. Правило «трех сигм»

Часто требуется вычислить вероятность того, что отклонение нормально распределенной случайной величины по абсолютной величине меньше заданного положительного числа , т.е. требуется найти вероятность того, что выполняется неравенство .

Заменим это неравенство равносильным ему двойным неравенством .

Воспользуемся формулой:

Получим:

.

Если выразить отклонение в средних квадратичных отклонениях: , получим:

Если и, следовательно, , получим:

,

т.е. такое отклонение является почти достоверным (правило «трех сигм»).

Другими словами, если случайная величина распределена нормально, то абсолютная величина ее отклонения от математического ожидания не превосходит утроенного среднего квадратичного отклонения. В этом и состоит сущность правила «трех сигм».

На практике правило «трех сигм» применяют так: если распределение изучаемой средней величины неизвестно, но правило «трех сигм» выполняется, то есть основания полагать, что изучаемая величина распределена нормально, и наоборот.

Многомерные случайные величины

На практике при исследовании случайных явлений часто приходится рассматривать случайные события, которые описываются упорядоченным набором действительных чисел , совокупность которых можно рассматривать как значение - мерной случайной величины .

Многомерной случайной величиной называется величина, которая при проведении опыта принимает в качестве своего значения не число, а целый набор чисел, заранее не известно каких. Эти наборы, которые случайная величина может принять, образуют множество ее возможных значений. Таким образом, хотя конкретный набор не предугадаешь, он будет из множества возможных наборов (часто это множество хорошо известно).

Понятие многомерной случайной величины аналогично таким понятиям, как система случайных величин или многомерный случайный вектор. Каждое элементарное событие может рассматриваться, как результат сложного испытания, состоящего в измерении всех величин и интерпретироваться, как точка - мерного пространства () или, как вектор . Каждая из величин является одномерной случайной величиной и называется составляющей (компонентой). Если говорят, что - случайный вектор (или - мерная случайная величина), то величины называют его случайными координатами. Аналогично одномерным случайным величинам различают дискретные многомерные случайные величины (их составляющие дискретны) и непрерывные многомерные случайные величины, которые устроены более сложно (их составляющие непрерывны).

Остановимся более подробно на двумерных случайных величинах.

Закон распределения вероятностей двумерной случайной величины

Законом распределения дискретной двумерной случайной величины называют перечень возможных значений этой величины, т.е. пар чисел , где и (; ) - возможные значения величин и , соответственно, и вероятностей их совместного появления .

Двумерная дискретная случайная величина задается в виде таблицы распределения.

Таблица

Первая строка таблицы содержит все возможные значения составляющей , а первый столбец - все возможные значения составляющей .

Для того, чтобы охарактеризовать зависимость между составляющими двумерной дискретной случайной величины, вводится понятие условного распределения.

Вероятность совместного появления дискретных случайных величин можно выразить в виде:

,

где - условная вероятность.

Условное распределение составляющей при - это совокупность условных вероятностей:

,

вычисленных в предположении, что событие ( имеет одно и то же значение при всех значениях ) уже наступило. Аналогично определяется условное распределение составляющей .

Так как события (; ) образуют полную группу, то .

Зная закон распределения двумерной дискретной случайной величины, можно найти законы распределения каждой из ее составляющих. Так, например, вероятность того, что примет значение , равна

Совместная функция распределения двумерной случайной величины

Пусть - пара действиительных чисел. Обозначим вероятность события , состоящего в том, что примет значение меньшее , и при этом примет значение меньшее , обозначим через .

Если и будут меняться, то, в общем случае, будет изменяться и , т.е. есть функция от и .

Функция , определяющая для каждой пары чисел вероятность того, что примет значение меньшее , и при этом примет значение меньшее , называется совместной функцией распределения двумерной случайной величины (безразлично, дискретной или непрерывной):

=.

Геометрически это равенство можно истолковать так: - это вероятность того, что случайная точка () попадет в бесконечный квадрант с вершиной (), расположенный левее и ниже этой вершины.

Свойства совместной функции распределения двумерной случайной величины

1. Значения совместной функции распределения удовлетворяют двойному неравенству:

.

2. - неубывающая функция по каждому аргументу, т.е.

, если ;

, если .

3. Совместная функция распределения имеет следующие предельные значения:

;

;

;

.

4. При совместная функция распределения системы становится функцией распределения составляющей :

;

при совместная функция распределения системы становится функцией распределения составляющей :

.

Плотность совместного распределения вероятностей непрерывной двумерной случайной величины

Непрерывную двумерную случайную величину, которая описывается непрерывной совместной функцией распределения , имеющей непрерывные (за исключением, быть может, конечного числа точек), частные производные второго порядка, можно задать, пользуясь плотностью распределения.

Плотность совместного распределения вероятностей непрерывной двумерной случайной величины (, ) - это вторая смешанная частная производная от функции распределения :



.

Геометрически эту функцию можно истолковать как поверхность, которую называют поверхностью распределения.

Зная плотность совместного распределения , можно найти функцию распределения по формуле:

что непосредственно следует из определения плотности распределения двумерной непрерывной случайной величины (, ).

Плотность совместного распределения вероятностей можно рассматривать как предел отношения вероятности попадания случайной точки в прямоугольник (с вершиной в точке и сторонами и ) к площади этого прямоугольника, когда обе стороны этого прямоугольника стремятся к нулю.

Действительно, вероятность попадания случайной точки (, ) в прямоугольник с вершинами , , и равна:

Применив к правой части теорему Лагранжа, получим:

где ; . Отсюда:

.

Приняв во внимание, что - площадь рассматриваемого прямоугольника, можно сделать вывод, что - это отношение вероятности попадания случайной точки в рассматриваемый прямоугольник к площади этого прямоугольника. Если перейти к пределу при и , то и и, следовательно, . Аналогично вероятности для дискретной случайной величины, плотность распределения вероятности для непрерывных величин можно представить в виде:

.

Свойства двумерной плотности вероятности

1. Двумерная плотность вероятности неотрицательна: .

2. Двойной несобственный интеграл с бесконечными пределами от двумерной плотности вероятности равен единице:.

Условное математическое ожидание

Практически важным при рассмотрении систем случайных величин является понятие условного математического ожидания.

Условное математическое ожидание дискретной случайной величины при - это сумма произведений возможных значений на их условные вероятности:

Условное математическое ожидание непрерывной случайной величины определяется интегралом:

Как видно из выражений для условных математических ожиданий, их значения являются функциями от . Такую функцию называют функцией регрессии на :

.

Аналогично определяется условное математическое ожидание случайной величины и функция регрессии на :

.

Независимые случайные величины

Две случайные величины называются независимыми, если закон распределения одной из них не зависит от того, какие возможные значения приняла другая величина. Из этого определения следует, что условные распределения независимых величин равны их безусловным распределениям.

Теорема. Для того, чтобы случайные величины и были независимыми, необходимо и достаточно, чтобы функция распределения системы (, ) была равна произведению функций распределения составляющих:

.

Следствие. Для того, чтобы случайные величины и были независимыми, необходимо и достаточно, чтобы плотность совместного распределения системы (, ) была равна произведению плотностей распределения составляющих:

.

Теорема. Если и независимые случайные величины, то справедливы следующие неравенства:

Числовые характеристики системы двух случайных величин

Для описания системы двух случайных величин кроме математических ожиданий и дисперсий составляющих используют и другие характеристики, такие как корреляционный момент и коэффициент корреляции.

Корреляционный момент

Характеристикой зависимости между случайными величинами и служит математическое ожидание произведения отклонений и от их центров распределений (так иногда называют математическое ожидание случайной величины), которое называется корреляционным моментом или ковариацией:

Для вычисления корреляционного момента дискретных величин используют формулу:



а для непрерывных величин - формулу:

Эту формулу можно интерпретировать так. Если при больших значениях более вероятны большие значения, а при малых значениях более вероятны малые значения , то в правой части формулы положительные слагаемые доминируют, и ковариация принимает положительные значения.

Если же более вероятны произведения , состоящие из сомножителей разного знака, то есть исходы случайного эксперимента, приводящие к большим значениям в основном приводят к малым значениям и наоборот, то ковариация принимает большие по модулю отрицательные значения.

В первом случае принято говорить о прямой связи: с ростом случайная величина имеет тенденцию к возрастанию.

Во втором случае говорят об обратной связи: с ростом случайная величина имеет тенденцию к уменьшению или падению.

Если примерно одинаковый вклад в сумму дают и положительные и отрицательные произведения , то можно сказать, что в сумме они будут “гасить” друг друга и ковариация будет близка к нулю. В этом случае не просматривается зависимость одной случайной величины от другой.

Теорема. Корреляционный момент двух независимых случайных величин и равен нулю.

Доказательство. Так как и - независимые случайные величины, то их отклонения и также независимы. Пользуясь свойствами математического ожидания (математическое ожидание произведения независимых случайных величин равно произведению математических ожиданий сомножителей) и отклонения (математическое ожидание отклонения равно нулю), получим:

.

Ковариацию можно представить в виде:

Из определения корреляционного момента следует, что он имеет размерность, равную произведению размерностей величин и . Другими словами, величина корреляционного момента зависит от единиц измерения случайных величин. По этой причине для одних и тех же двух величин величина корреляционного момента имеет различные значения в зависимости от того, в каких единицах были измерены величины. Такая особенность корреляционного момента является недостатком этой числовой характеристики, поскольку сравнение корреляционных моментов различных систем случайных величин становится затруднительным.

Для того, чтобы устранить этот недостаток, вводят новую числовую характеристику - коэффициент корреляции.

Коэффициент корреляции

Чтобы иметь дело с безразмерным показателем, введем понятие нормированного отклонения случайных величин и .

;

Математическое ожидание каждой из случайных величин и равно нулю, а дисперсия - единице. Приведём доказательство для случайной величины *.

Ковариация и называется коэффициентом корреляции случайных величин и (обозначается ).

Для независимых и коэффициент их корреляции , так как в этом случае .

Обратного заключения сделать нельзя. Случайные величины могут быть связаны даже функциональной зависимостью (каждому значению одной случайной величины соответствует единственное значение другой случайной величины), но коэффициент корреляции этих величин будет равен нулю.

Коэффициент корреляции, так же как и нормированное отклонение не меняется при перемене начала координат или при изменении масштаба величины . Сказанное в равной мере относится и к .

Свойства коэффициента корреляции

1.

2. Если =1, то , где k и b -- константы, k>0.

3. Если = -1, то , где k<0.

Коэффициент корреляции достигает своих предельных значений -1 и 1 в том и только в том случае, если совместное распределение и все концентрируется на некоторой прямой в плоскости (,), то есть между и имеется такая линейная зависимость.

Если <1, то такой линейной зависимости нет. Все же по мере приближения к единице совместное распределение , имеет тенденцию концентрироваться вблизи некоторой прямой линии и величину можно считать мерой близости к полной линейной зависимости между и .

Введем понятие корреляционной зависимости между и .

Две случайные величины называют коррелированными, если их ковариация или коэффициент корреляции отличны от нуля, и некоррелированными, если они равны нулю.

Пусть задан закон совместного распределения двух случайных величин и (как в вышеприведенном примере), и условное математическое ожидание меняется в зависимости от значения . Тогда принято говорить о корреляционной зависимости от . Если условное математическое ожидание есть линейная функция от , то между и имеется линейная корреляционная связь или зависимость.

Как правило, говоря о корреляционной зависимости, имеют в виду линейную корреляционную зависимость. Если имеется в виду нелинейная корреляционная зависимость, то это особо оговаривают.

Можно дать определение корреляционной зависимости двух случайных величин и как связи между тенденциями роста и . Например, между и существует прямая корреляционная зависимость, если с ростом случайная величина имеет тенденцию возрастать. (Это означает, что при больших значениях с большей вероятностью встречаются большие значения ). Если большим значениям с большей вероятностью соответствуют меньшие значения , то есть с ростом случайная величина имеет тенденцию убывать, говорят, что между и существует обратная корреляционная зависимость.

Глубина (или теснота) корреляционной зависимости (или связи) характеризуется коэффициентом . Чем ближе к единице, тем теснее глубина корреляционной зависимости.

Чем ближе зависимость между условным математическим ожиданием и случайной величиной к линейной, и, чем теснее значения группируются около условных математических ожиданий, тем глубже (теснее) корреляционная связь.