Размещено на http://www.allbest.ru/

Основные вероятностные схемы испытаний

Основные формулы вычисления вероятностей

Классическая вероятностная схема

Вероятность определена как числовая характеристика возможности появления случайного события. При этом предполагается, что условия эксперимента могут быть воспроизведены неограниченное число раз. Рассмотрим некоторый случайный эксперимент, для которого определено множество равновозможных элементарных исходов . Равновозможность исходов есть проявление симметрии случайного эксперимента.

Классической схемой, или схемой случаев, называется испытание, при котором число элементарных исходов конечно, и все они несовместны и равновозможны.

Пусть данный эксперимент имеет возможных исходов и все они равновозможны (имеют одинаковые шансы) и несовместны (никакие два из них не могут наступить одновременно). Вероятность события называется отношение числа благоприятных исходов к общему числу несовместных равновозможных исходов :

.

Это классическое определение вероятности удовлетворяет основным требованиям, предъявляемым к математическим определениям вероятностей, а именно, оно удовлетворяет аксиомам теории вероятности, а также позволяет определить вероятность событий a priori, т.е. не проводя экспериментов. Итак, чтобы пользоваться классическим определением вероятности, нужно уметь подсчитывать число благоприятных исходов и общее число исходов . Раздел математики, в котором исследуются различные задачи на перебор, называется комбинаторикой. Кроме теории вероятностей комбинаторика используется в некоторых задачах экономики, биологии, теории вычислительных машин, теории автоматов и т.д.

При решении ряда теоретических и практических задач требуется из конечного множества элементов по заданным правилам составлять различные комбинации и производить подсчет числа всех возможных таких комбинаций. Такие задачи принято называть комбинаторными.

Правила суммы и произведения

Решение многих комбинаторных задач основывается на двух фундаментальных правилах, называемых, соответственно, правилами суммы и произведения.

Правило суммы выражает вполне очевидный факт: если и - два непересекающихся конечных множества, то число элементов, содержащихся в объединении этих множеств, равно сумме чисел элементов в каждом из них.

Если обозначить число элементов конечного множества через , то правило суммы запишется следующим образом: , если и не имеют общих элементов.

Обычно правило суммы формулируют следующим образом: если элемент может быть выбран способами, а элемент - способами, то один из этих элементов можно выбрать способами.

Обобщение правила суммы на любое число множеств не менее очевидно: если - попарно непересекающиеся конечные множества, то .

Задачи, которые можно решить применением одного лишь правила суммы, тривиальны. Для решения более сложных задач используется также и правило произведения.

Правило произведения может быть сформулировано следующим образом: если элемент может быть выбран способами, при каждом выборе элемент может быть выбран способами, при каждом выборе пары элемент может быть выбран способами и т.д., и после каждого выбора элемент можно выбрать способами, то последовательность () из этих элементов в указанном порядке можно выбрать способами.

Более корректно правило произведения можно сформулировать в виде теоремы.

Теорема. Пусть имеется , , групп элементов, причем -я группа содержит элементов, . Выберем из каждой группы по одному элементу. Тогда общее число способов, которыми можно произвести такой выбор, равняется

.

Доказательство. Теорема доказывается методом индукции.

Пусть . Обозначим через различные значения элемента , а через - различные значения элемента . Если выбрано значение элемента , то можно составить различные пары, содержащие этот элемент. Это справедливо и для любого другого значения элемента . Таким образом, всего можно составить различные пары, т.е. для правило выполняется.

Предположим, что оно выполняется для групп из элементов. Тогда любую группу () можно рассматривать как пару элементов . Первый элемент этой пары, по предположению индукции, может быть выбран способами; при любом из них элемент может быть выбран способами. Таким образом, число различных групп () будет равно .

Схемы выбора. Основные понятия комбинаторики

Комбинаторика - раздел элементарной математики, в котором для конечных множеств рассматриваются различные соединения элементов, такие, как сочетания, размещения, перестановки, а также все виды соединений с повторениями. Задачи комбинаторики впервые рассматривались в связи с возникновением теории вероятностей, где к задачам комбинаторики приводит подсчет вероятностей на основе гипотезы равновозможных элементарных событий.

Рассмотрим совокупность различных пронумерованных элементов .

Мы выбираем из этой совокупности элементов. Произвольная упорядоченная выборка из этих элементов ( ) называется соединением. Эта выборка может быть как без повторений, так и с повторениями.

Нас интересует, сколькими способами можно сформировать из этой совокупности выборок, содержащих элементов, или сколько различных результатов (то есть соединений ) получится.

На этот вопрос нельзя дать однозначный ответ, пока мы не определимся с тем, как организован выбор (скажем, можно ли вошедшие в одну из выборок элементы использовать в других соединениях), и, что понимается под различными соединениями.

Для наглядности, совокупность обычно рассматривают как урну с пронумерованными шариками, из которой извлекается шариков, образующих выборку.

Рассмотрим следующие возможные схемы выбора:

· Выбор с возвращением: каждый выбранный шарик возвращается в урну, то есть каждый из шариков выбирается из полной урны. В полученном наборе, состоящем из номеров шариков, могут встречаться одни и те же номера (выборка с повторениями).

· Выбор без возвращения: выбранные шарики в урну не возвращаются, и в полученном наборе не могут встречаться одни и те же номера (выборка без повторений).

И в том, и в другом случае результатом выбора является набор из номеров шариков. Удобно считать, что шарики всегда выбираются последовательно, по одному (с возвращением или без). Условимся, какие результаты мы будем считать различными. Есть ровно две возможности:

· Выбор с учетом порядка: два набора номеров шариков считаются различными, если они отличаются составом или порядком номеров. Так, при выборе трех шариков из урны, содержащей 5 шариков, наборы (1,5,2), (2,5,1) и (4,4,5) различны, если производится выбор с учетом порядка.

· Выбор без учета порядка: два набора номеров шариков считаются различными, если они отличаются составом. Наборы, отличающиеся лишь порядком следования номеров, считаются одинаковыми. Так, в примере выше первые два набора (1,5,2) и (2,5,1) есть один и тот же результат выбора, а набор (4,4,5) -- другой результат выбора.

Подсчитаем теперь, сколько же возможно различных результатов при каждой из четырех схем (выбор с возвращением и без, и в каждом из этих случаев учитываем ли мы порядок или нет).

Выбор без возвращения, с учетом порядка

Размещениями из элементов по () называют их соединения, каждое из которых содержит ровно различных элементов (выбранных из данных элементов), и которые отличаются либо сами элементами, либо порядком элементов.

Теорема. Общее количество выборок в схеме выбора элементов из без возвращения и с учетом порядка называется числом размещений из элементов по и определяется формулой

.

Чтобы определить число размещений из элементов по , будем строить произвольное соединение последовательно. Сначала определим его первый элемент . Очевидно, что из данной совокупности элементов его можно выбрать различными способами. После выбора первого элемента , для второго элемента остается способов выбора и т.д. Так как каждый такой выбор дает новое размещение, то все эти выборы можно свободно комбинировать между собой. Для элементов формула приобретает вид:

Соединения из элементов, каждое из которых содержит все элементов, и которые отличаются лишь порядком элементов, называются перестановками .

Перестановки являются частным случаем размещений. Так как каждая перестановка содержит все элементов множества, то различные перестановки отличаются друг от друга только порядком элементов.

Общее количество выборок в схеме выбора элементов из без возвращения и с учетом порядка называется числом перестановок и определяется по формуле

Выбор без возвращения, без учета порядка

Сочетаниями из элементов по () называют такие их соединения, каждое из которых содержит ровно данных элементов, и которые отличаются хотя бы одним элементом.

Теорема. Общее количество выборок в схеме выбора элементов из без возвращения и без учета порядка называется числом сочетаний из элементов по и определяется формулой:

.

Рассмотрим все допустимые сочетания элементов .

Делая в каждом из них возможных перестановок их элементов, очевидно, получим все размещения из элементов по :

.

Числа еще называются биномиальными коэффициентами, т.к. они являются коэффициентами в формуле бинома Ньютона:

.

Свойства числа сочетаний :

1.

2.

3.

4.

5.

Свойства 1 и 2 очевидно следуют из определения , свойства 3 и 4 доказываются с помощью бинома Ньютона, полагая для свойства 3 что и , а для свойства 4 что и . Свойство 5 можно проверить следующим образом:

Это свойство позволяет последовательно вычислять биномиальные коэффициенты с помощью так называемого треугольника Паскаля:

Здесь каждое число, кроме крайних единиц, является суммой двух вышерасположенных.

Выбор с возвращением и с учетом порядка

Теорема. Общее количество выборок в схеме выбора элементов из с возвращением и с учетом порядка определяется формулой .

Действительно, первый элемент из совокупности элементов можно выбрать различными способами. После выбора первого элемента , второй элемент можно выбрать также способами, и так раз.

Выбор с возвращением и без учета порядка

Теорема. Общее количество выборок в схеме выбора элементов из с возвращением и без учета порядка определяется формулой

Рассмотрим подробно, чем отличаются друг от друга два разных результата такой схемы выбора.

Нам не важен порядок номеров, то есть мы учитываем только, сколько раз в нашем наборе из элементов появился элемент , элемент , ..., элемент . То есть результат выбора можно представить набором чисел в котором - число появлений элемента в выборке, и . Числа принимают значения 0, 1, 2, 3, … . Два результата эксперимента различны, если соответствующие им наборы не совпадают (при этом учитывается и порядок элементов).

Урновая схема

Классическая схема, несмотря на свою ограниченность, пригодна для решения ряда сугубо практических задач, общую схему которых можно охарактеризовать следующим образом: рассмотрим множество элементов, состоящее из двух непересекающихся подмножеств из и элементов. Например, множество шаров, из которых - белые, а - черные. Эти шары находятся в урне, из которой извлекается шаров. Требуется найти вероятность того, что сред этих шаров окажется белых, причем отношение будет близко к , т.е. достоверно ли представление о генеральной совокупности, полученное по выборке. В самом деле, в описанной ситуации каждая выборка не имеет предпочтения по отношению к любой другой, т.е. все они равновозможны.

Обозначим через событие «в выборке объема имеется белых шаров». Число всех возможных выборок объема из множества элементов равно числу сочетаний . Выясним число элементарных исходов благоприятствующих событию : из белых шаров можно выбрать штук способами, а из черных шаров можно выбрать штук способами. Таким образом, число элементарных исходов благоприятствующих событию равно . Следовательно, вероятность того, что сред этих шаров окажется белых, причем отношение будет близко к , равна

:

Схема независимых испытаний Бернулли

Серия повторных независимых испытаний, в каждом из которых данное событие имеет одну и ту же вероятность , не зависящую от номера испытания, называется схемой Бернулли. Таким образом, в схеме Бернулли для каждого испытания имеются только два исхода: событие (успех), вероятность которого и событие (неудача), вероятность которого .

Рассмотрим задачу: в условиях схемы Бернулли необходимо определить вероятность того, что при проведении независимых испытаний, в испытаниях наступит событие , если вероятность его наступления в каждом испытании равна .

Определим вначале вероятность того, что в первых испытаниях событие наступит, а в остальных испытаниях не наступит. Вероятность такого события можно получить по формуле вероятности произведения независимых событий , где .

Это лишь одна из возможных комбинаций, когда событие произошло только в первых испытаниях. Для определения искомой вероятности нужно перебрать все возможные комбинации. Их число равно числу сочетаний из элементов по , т.е. .

Таким образом, вероятность того, что событие наступит в любых испытаниях, определяется по формуле Бернулли:

.

Наивероятнейшее число наступления событий в схеме Бернулли

Число наступлений события называется наивероятнейшим, если оно имеет наибольшую вероятность по сравнению с вероятностями наступления любое другое количество раз.

Теорема. Наивероятнейшее число наступлений события в независимых испытаниях заключено между числами и .

Доказательство. По формуле Бернулли при :

Следовательно, вероятность будет больше, меньше или равна вероятности в зависимости от того, какое из трех соотношений будет выполняться:

,	,	.

Если переписать эти соотношения в более простом виде:

,	,	,

То приходим к выводу, что:

, если ;

, если ;

, если .

Следовательно, вероятность при возрастает, а при - убывает. В случае, когда не является целым числом, для наивероятнейшего числа наступлений события (обозначим его ) должно выполняться неравенство , что возможно при , т.е. при . В то же время, должно выполняться неравенство , что возможно при , т.е. при . Таким образом, .

Заметим, что разность между и равна единице, значит, в большинстве случаев число единственно. Если - целое число, то наивероятнейших чисел два: и . В этом случае, поскольку

, то, а .

Предельные теоремы для схемы Бернулли

В случае, когда число испытаний велико, формулу Бернулли применять неудобно. Для больших существуют приближенные формулы. Точность этих формул увеличивается с возрастанием .

Локальная теорема Муавра-Лапласа

Лаплас получил важную приближенную формулу для вероятности появления события точно раз, при условии, что достаточно велико.

Теорема. Пусть - вероятность события , причем . Тогда вероятность того, что в условиях схемы Бернулли событие при испытаниях появится точно раз, выражается приближенной формулой Лапласа:

где ; .

Доказательство. В статистическом смысле представляет собой среднее значение появлений события при испытаниях; таким образом, есть отклонение числа появлений события от его среднего значения. Что касается среднеквадратичного отклонения , то его теоретико-вероятностный смысл будет выяснен позднее. Рассматривая как некий масштаб для отклонений при испытаниях, число можно наглядно представить себе как отклонение числа появлений события от его среднего значения, измеренного в этом масштабе. Очевидно, что число ограничено.

Аналогично из определения несложно показать, что:

Исходя из полученных выражений, можно сделать вывод, что если и , то и .

;

.

Поскольку , и , то можно воспользоваться формулой Стирлинга для вычисления приближенного значения факториалов этих величин:

.

.

При достаточно большом :

Далее можно применить разложение в ряд функции :

.

Тогда:

;

;

.

Что и требовалось доказать.

Если ввести функцию:

,

то формула Лапласа приобретает вид:

.

Так как функция монотонно убывает при , то для одной и той же серии испытаний ( - фиксировано), чем больше значение отклонения , тем меньше его вероятность. Это утверждение справедливо только для больших , поскольку формула Лапласа была получена только при этом предположении.

Формулу Лапласа иногда называют асимптотической формулой, поскольку доказано, что относительная ошибка формулы Лапласа стремится к нулю при . Вообще, асимптотическим приближением функции называют функцию , если .

Заметим, что для частного случая, а именно для асимптотическая формула была найдена в 1730 году Муавром; в 1783 году Лаплас обобщил формулу Муавра для произвольного , отличного от 0 и 1. Поэтому эту теорему называют теоремой Муавра-Лапласа.

Интегральная теорема Муавра - Лапласа

Предположим, что в условиях схемы Бернулли проводится испытаний, в результате каждого из которых с вероятностью () происходит событие . Интегральная теорема Муавра-Лапласа содержит приближенную формулу для вероятности того, что событие появится не менее раз и не более раз. С ростом количества испытаний числа и растут, а вероятность постоянна.

Теорема. Если вероятность события в каждом испытании постоянна и отлична как от нуля, так и от единицы, то вероятность того, что событие появится в испытаниях от до раз, приближенно равна определенному интегралу:

,

где , .

Доказательство. На основании теоремы сложения вероятности для несовместных событий:

.

Отсюда, используя локальную теорему Лапласа:

,

где (); .

Поскольку ,

следовательно .

Причем, эта сумма является интегральной для функции на отрезке , так как при , т.е. при , ее предел равен соответствующему определенному интегралу:

,

где , а ,

что и требовалось доказать.

Введем стандартный интеграл Лапласа (функцию Лапласа):

,

который, очевидно, является первообразной функции Гаусса:

.

Тогда на основании формулы Ньютона - Лейбница можно записать

.

Значения функций и обычно находятся из таблиц, причем таблицы обычно даны лишь для неотрицательных значений , поскольку - четная функция, а - нечетная. Из таблиц видно, что при значения практически не отличаются от 0.5, поэтому далее табуляция, как правило, не ведется.

Пример. Небольшой город ежедневно посещают 100 туристов, которые днем идут обедать. Каждый из них выбирает для обеда один из двух городских ресторанов с равными вероятностями и независимо друг от друга. Владелец одного из ресторанов желает, чтобы с вероятностью приблизительно 0,99 все пришедшие в его ресторан туристы могли там одновременно пообедать. Сколько мест должно для этого быть в его ресторане?

Решение. Будем считать, что событие произошло, если турист пообедал у заинтересованного владельца. По условию задачи , . Нас интересует такое наименьшее число посетителей , что вероятность одновременного прихода не менее чем туристов из числа с вероятностью успеха приблизительно равна вероятности переполнения ресторана, т.е. .

Таким образом, нас интересует такое наименьшее число , что . Применим интегральную теорему Муавра-Лапласа.

В нашем случае: - неизвестно, , , . Тогда:

Используя таблицы для функции , находим, , и, значит, . Следовательно, в ресторане должно быть 62 места.

Точность формул Муавра-Лапласа сильно зависит от соотношения величин и : она существенно увеличивается с ростом произведения . Обычно этими формулами пользуются, когда . Однако, в случае близости одной из величин или к нулю (другая в это время мало отличается от единицы) возникает необходимость в значительном увеличении числа испытаний .

Схема Пуассона. Поток событий

С увеличением чаще всего используют схему Пуассона. Эта схема является предельным случаем схемы Бернулли, в котором предполагается, что вероятность события не является постоянной, а зависит от числа испытаний таким образом, что величина остается постоянной. В этом случае оценка вероятности того, что событие наступит раз, определяется предельной теоремой Пуассона.

Теорема Пуассона

Теорема: Если вероятность наступления события в каждом испытании постоянна и мала, а число независимых испытаний достаточно велико, то вероятность того, что событие наступит раз, приближенно равна:

,

где .

Доказательство: Пусть даны:

- вероятность наступления события в одном испытании;

- Размещено на http://www.allbest.ru/

число независимых испытаний. Обозначим . Откуда . Подставим это выражение в формулу Бернулли:

.

При достаточно большом и сравнительно небольшом все выражения в скобках, за исключением предпоследнего, можно принять равными единице, т.е.:

.

Учитывая то, что достаточно велико, правую часть этого выражения можно рассмотреть при , т.е., поскольку:

,

справедливо равенство:

,

что и требовалось доказать.

Понятие потока событий

Формула Пуассона находит применение в теории массового обслуживания. Особенностью вероятностной схемы Пуассона является то, что для определения вероятности того или иного числа успехов не требуется знать ни , ни . Все определяется, в конечном счете, числом , которое является ни чем иным, как средним числом успехов. Формулу Пуассона можно считать математической моделью простейшего потока событий с интенсивностью .

Потоком событий называют последовательность событий, которые наступают в случайные моменты времени. Интенсивностью потока называют среднее число событий, которые появляются в единицу времени. Простейшим (пуассоновским) называют поток событий, который обладает свойствами стационарности, отсутствия последствий и ординарности.

Свойство стационарности характеризуется тем, что вероятность появления событий на любом промежутке времени зависит только от числа и от длительности промежутка времени и не зависит от начала его отсчёта, т.е., если поток событий стационарный, то вероятность есть функция, зависящая только от числа и от длительности . Свойство отсутствия последствия характеризуется тем, что вероятность появления событий на любом промежутке времени не зависит от того, появлялись или не появлялись события в моменты времени, предшествующие началу рассматриваемого промежутка. Другими словами, условная вероятность появления событий на любом промежутке времени, вычисленная при любых предположениях о том, чтo происходило до начала рассматриваемого промежутка (сколько событий появилось, в какой последовательности), равна безусловной вероятности. Предыстория потока не сказывается на вероятности появления событий. Потоку событий присуще свойство отсутствия последствий, если имеет место взаимная независимость появления того или иного числа событий в непересекающиеся промежутки времени. Свойство ординарности характеризуется тем, что появление двух и более событий за малый промежуток времени практически невозможно. Другими словами, вероятность появления сразу нескольких событий (двух и более) пренебрежимо мала по сравнению с вероятностью появления только одного события. Ординарность потока событий означает, что за бесконечно малый промежуток времени может появиться не более одного события.

Полиномиальная схема

Схему независимых испытаний Бернулли еще называют биномиальной схемой, поскольку она рассматривает последовательности испытаний с двумя исходами. От нее можно перейти к более общей полиномиальной схеме последовательных независимых испытаний, в каждом из которых возможны исходов с вероятностями , , . В этом случае пространство элементарных исходов содержит таких событий. Вероятность того, что из испытаний закончатся первым исходом, - вторым исходом, …, - -ым исходом равна:

.

Схема с зависимыми испытаниями. Цепи Маркова

На практике часто приходится рассматривать проблемы, которые не сводятся к схеме независимых испытаний. Существует большой круг задач, в которых последовательно проводимые испытания не являются независимыми, а, наоборот, связаны между собой в определенного рода цепь. Один из вариантов такой цепи получил название цепи Маркова.

Понятие цепи Маркова

Цепью Маркова называют последовательность испытаний, в каждом из которых появляется только одно из полной группы попарно несовместных событий , причем условная вероятность того, что в -м испытании наступило событие , () при условии, что в -м испытании наступило событие , (), не зависит от результатов предшествующих испытаний.

Независимые испытания являются частным случаем цепи Маркова, таким образом, понятие цепи Маркова является обобщением понятия независимых испытаний. Для описания цепей Маркова целесообразно ввести некоторые новые понятия. Пусть исследуемая система в каждый момент времени находится в одном из состояний. В отдельные моменты времени в результате испытаний состояния системы изменяются, т.е. система переходит из состояния в состояние . В частности, после испытания система может остаться и в прежнем состоянии (случай ).

Таким образом, события называют состояниями системы, а испытания - изменениями ее состояний.

Цепью Маркова называется последовательность испытаний, в каждом из которых система принимает только одно из состояний полной группы, причем условная вероятность того, что в -м испытании система будет находиться в состоянии () при условии, что после -го испытания она находилась в состоянии (), не зависит от результатов остальных, ранее произведенных испытаний.

Цепью Маркова с дискретным временем называют цепь, изменение состояний которой происходит в определенные фиксированные моменты времени.

Цепью Маркова с непрерывным временем называют цепь, изменение состояний которой происходит в любые случайные возможные моменты времени.

Однородные цепи Маркова

схема случай интегральный теорема

Однородной называют цепь Маркова, в которой условная вероятность перехода из состояния в состояние не зависит от номера испытания . Поэтому, вместо обычно применяют обозначение .

Условную вероятность того, что из состояния (в котором система оказалась в результате некоторого испытания безразлично какого номера) в итоге следующего испытания система перейдет в состояние переходной вероятностью. В обозначении первый индекс указывает номер предшествующего, а второй - номер последующего состояния.

Матрицей перехода системы, имеющей конечное число состояний , называют матрицу, которая содержит все переходные вероятности этой системы:

Так как в каждой строке матрицы помещены вероятности событий (перехода из одного и того же состояния в любое возможное состояние ), которые образуют полную группу событий, то сумма вероятностей этих событий равна единице. Сумма переходных вероятностей каждой строки матрицы перехода равна единице:

, ().

Равенство Маркова

Обозначим через вероятность того, что через шагов (после испытаний) система перейдет из состояния в состояние . Очевидно, что при получим переходные вероятности . По известным переходным вероятностям нужно найти вероятность перехода системы из состояния в состояние через шагов. Для этого введем в рассмотрение промежуточное (между и ) состояние , т.е. будем считать, что из первоначального состояния за шагов система переходит в состояние , с вероятностью , после чего за оставшиеся шагов из промежуточного состояния она перейдет в конечное состояние с вероятностью . По формуле полной вероятности:

.

Полученное выражение называется равенством Маркова.

Если в равенстве Маркова предположить, что , а , то получим:

.

Таким образом, можно найти все вероятности , а значит и матрицу . Далее предположим, что , а , тогда по аналогии с предыдущими рассуждениями, получим .

В общем случае .

Предельные вероятности

Следующей важной задачей является исследование вероятностей переходов системы при неограниченном увеличении числа .

Теорема Маркова. Пусть существует такое число шагов, при которых все вероятности строго положительны (отличны от нуля). Тогда для каждого состояния существует предельная вероятность его наступления, т.е. такое число , что независимо от исходного состояния имеет место равенство .

Смысл содержащегося в теореме утверждения интуитивно понятен: вероятность того, что система окажется в состоянии не зависит от предыстории системы и мало отличается от предельной величины . Найти эти вероятности можно следующим образом. Воспользуемся доказанным ранее равенством Маркова . Если перейти к пределу при , то получим . Если дополнить это уравнение условием нормировки , то получится система уравнений, решениями которой и будут искомые величины . Причем, несложно показать, что эта система определяет величины однозначно, т.е. полученные значения единственны.

Размещено на Allbest.ru