Теория случайных процессов

- 31 -

Случайный процесс

, - числовое множество

1. ставится в соответствие

, ,

Набор таких случайных величин называется случайным процессом (СП) ,

- размерность процесса

2. Рассмотрим . Пусть задана , удовлетворяющая условию: измерима относительно .

Набор таких случайных величин называется случайным процессом (СП)

Дан случайный процесс . Сечение процесса - случайная величина, получаемая фиксированием .

при фиксированном - реализация процесса, выборочная функция процесса, траектория процесса.

Эквивалентность процессов

Процесс эквивалентен процессу , если .

Иначе:

Пусть . .

Эквивалентность: , .

Тождественность процессов

Процессы

, , если .

Иначе:

.

.

Тождественность: или .

Утверждение. эквивалентен процессу

Семейство конечномерных распределений процесса

Рассмотрим одномерный вещественный процесс , . Возьмём .

- случайная величина определим функцию распределения как:

, ,

Семейство таких функций распределения будем называть семейством конечномерных распределений процесса, .

Свойства:

1. симметричность относительно , ;

2. согласованность: .

Теорема Колмогорова (о семействе конечномерных распределений).

, ,

- является семейством конечномерных распределений для некоторого СП , это семейство обладает свойствами симметрии и согласованности.

Характеристическая функция величины :

В силу взаимнооднозначного соответствия и такое семейство характеристических функций может быть одним их способов задания семейства конечномерных распределений. Действительно:

1. симметричность относительно , ;

2. согласованность .

У некоторых СП непрерывно распределён, т.е., .

Семейство задаёт семейство

.

1. симметричность относительно , ;

2. согласованность

.

Утверждение. Эквивалентные процессы имеют одно и то же семейство распределений.

Выборочное пространство процесса

, ,-мерный СП.{x(t)}-d-мерные вектор-функции.

: ставится с соотв.Рассматриваем в множество А:

.

Такие А образуют .Для определим . - Выборочное пространство процесса.

Числовые характеристики СП

, - одномерный вещественный СП.

Мат. ожиданием называют неслучайную функцию , .

Если , то процесс называется центрированным.

Дисперсией называется функция

.

(В случае комплекснозначного

:)

.



Утверждение. В случае комплекснозначного СП:

.

Ковариационная функция

Пусть , .

Ковариационной функцией СП , называют функцию

.

Очевидно, если , то .

Свойства:

1.

2.

3. неотрицательно определена, т.е.

.

Функция, удовлетворяющая 1)-2), называется эрмитовой.

Из 3) вытекает 1)-2), обратное неверно.

Нормально-распределённая случайная величина

Пусть - случайный вектор, - неслучайный вектор, - пол опр матрица, , - неслучайный вектор (пол опр как обратная).

называется нормально-распределённой случайной величиной с параметрами и , если плотность вероятности имеет вид:

, , -

ковар.матрица

Обозначим .

Характеристическая функция:

называют нормально-распределённой случайной величиной с параметрами и , если характеристическая функция имеет такой вид.

Одномерный Гауссовский процесс

, -

одномерный вещественный СП.

Будем называть его гауссовским, если вектор нормально распределён.

Семейство характеристических функций гауссовского процесса:

Отсюда видно, что параметрами семейства конечномерных распределений являются , и ковариационная матрица

, .

Теорема. , будет являться ков.функцией некоторого одномерного СП , неотрицательно определена.

Ковариационная матрица

, - -мерный вещественный СП,

. =.

Мат. ожидание:

, .

Если , то СП называется центрированным.

Определим функцию

,

где - транспонирование и комплексное сопряжение.

.

- ковариационная матрица -мерного вещественного СП.

Свойства.

1.

2.

3. , ,

Многомерный Гауссовский процесс

, - - мерный вещественный СП, , .

Будем называть его гауссовским, если - мерный вектор имеет нормальный закон распределения.

Комплекснозначный СП называется гауссовским, если соответствующий ему вещественный процесс является гауссовским.

Теорема. является ковариационной матрицей некоторого - мерного СП выполняется неравенство из свойства 3): , ,

.

СП , называется однородным, если ,

имеет закон распределения, не зависящий от .

Если , то для однородного процесса имеет тот же закон распределения, что и .

СП , называется процессом с независимыми приращениями, если приращения , …, образуют систему независимых величин.

Пусть . Тогда , называется процессом с независимыми приращениями, если приращения ,

, …,

образуют систему независимых величин.

Стационарные процессы

СП , называется строго стационарным процессом (стационарным в узком смысле), если

закон распределения вектора имеет тот же закон распределения, что и .

(Если - комплексный процесс, то рассматривается -мерный вещественный процесс ).

СП , называется слабо стационарным процессом (стационарным в широком смысле, второго порядка), если

1) - не зависит от t

2)

выполняется

, т.е. .

Если , то .

Утверждение. Слабо и сильно стационарные процессы как классы не вложены друг в друга, а пересекаются.

У комплекснозначных процессов из строгой стационарности всегда следует слабая, но обратное верно лишь в том случае, когда для функции



выполняется .

Утверждение. Если СП , - -мерный вещественный Гауссовский процесс, то строгая и слабая стационарность совпадают.

Процесс броуновского движения

Траектория хаотического движения частицы описывается трёхмерным случайным вектором.

Процесс, описывающий траекторию движения частицы, назовём броуновским процессом.

0) не нарушая общности, считаем

1) за счёт вязкости действие переданного импульса быстро гаснет и не влияет на будущие перемещения требуем независимость перемещений: приращения , …, - независимые величины.

2) ( - коэффициент диффузии)

3) Броуновский процесс является гауссовским

4) Семейство конечномерных распределений процесса задаётся плотностью:

,

-

полож.-опр., .Т.к. - невырожденная, броуновский процесс можно задавать и с помощью семейства характеристических функций:

, где .

Винеровский процесс

Винеровский процесс является обобщением броуновского процесса - это броуновское движение с непрерывным временем.

Процесс , называется винеровским, если

1. процесс однородный

2. процесс с независимыми приращениями

3. (a - коэффициент сноса, - коэффициент диффузии)

Из 3) следует, что .

В частном случае, при , получается броуновский процесс.

Теорема Колмогорова (о модификации процесса).

- СП.

эквивалентный процесс , у которого с вероятностью 1 все реализации - непр. функции.

( - модификация процесса, имеет то же семейство конечномерных распределений, что и ).

Утверждение. Винеровский процесс удовлетворяет теореме Колмогорова.

Утверждение. Каково бы ни было малое , за время броуновская частица с вероятностью 1 побывает и правее , и левее нуля . Помним, что движение начинается с 0.

Полиномиальное распределение

Имеется эксперимент, у которого n попарно независимых исходов , образующих полную группу событий (т.е. - достоверное событие). Обозначим . Будем рассматривать независимых повторений эксперименты.

Обозначим - случайное число опытов, в которых появился исход . Ясно, что .

Рассмотри величину - -мерная дискретная случайная величина.

Возьмём набор

.

Пусть

.

Такой закон распределения называется полиномиальным законом распределения с параметрами .



Пуассоновское распределение частиц в фазовом пространстве

- фазовое пространство, , -объём, - подобласть

Эксперимент: наудачу бросаем точку в область . Проведём эксперимент раз независимым образом. Будем неограниченно увеличивать и , и так, чтобы (плотность частиц в области ) оставалась постоянной. Найти закон распределения случайного числа попавших в подобласть частиц после предельного перехода.

Утверждение.

.

Значит, после предельного перехода случайное число частиц, попавших попавших в подобласть распределено по закону Пуассона с параметрами .

Поэтому такое распределение частиц в фазовом пространстве и называется пуассоновским.

Свойства.

1. распр-е не зависит от положения подобласти в фазовом пространстве, а только от .

2. Пусть - попарно-непересекающиеся области фазового пространства. - независимые величины.

3. Ординарность.

, при

Утверждение. 1)2)3) - характеристические свойства закона распределения Пуассона.

Примеры.

1. случайное число вызовов на АТС за единицу времени

2. случайное число судов, заходящих в большой порт

3. случайное число бактерий в единице объёма жидкости

4. случайное число космических частиц, падающих на единицу площади за единицу времени

Случайная величина распределена по экспоненциальному закону с параметром ,

если плотность вероятности .

Функция распределения .

Критерий экспоненциальности

- неотрицательная непрерывно-распределённая величина

Лемма (Критерий экспоненциальности).

подчиняется экспоненциальному закону

.

Утверждение.

.

Пример. Радиоактивный распад радия.

Атом радия спонтанно распадается, выделяя атом радона и альфа-частицу. Время ожидания распада имеет экспоненциальный закон распределения.

, . . ,

Атом распадается резко, поэтому вероятность, что атом распадётся за время очень мала.

Атомы распадаются независимо друг от друга, поэтому наблюдение за атомами - независимых повторений испытаний.

Пусть - случайное число атомов, распавшихся за время . .

мало, поэтому биномиальный закон приблизительно совпадает с пуассоновским с параметром .

Пуассоновский поток событий

Рассмотри поток событий, происходящих последовательно друг за другом в случайные моменты времени. Пусть - конечный временной интервал ( называется фазовым пространством), - число событий, происходящих за интервал .

Моменты времени появления очередного события потока - точки, брошенные на фазовое пространство, - случайное число этих точек, попавших в .

Поток событий называется пуассоновским, если распределена по закону Пуассона и .

Процесс , порождённый этим потоком, называется пуассоновским процессом.

Т.к. распределён по закону Пуассона, то выполнены характеристические свойства:

1. закон распределения не зависит от положения подобласти в фазовом пространстве

2. Пусть - попарно-непересекающиеся области фазового пространства. - независимые величины.

3. Ординарность.

, при

В частности, если , распределён по закону Пуассона с параметром .

Положим - среднее число событий потока, происходящих за единицу времени.

- интенсивность потока.

Семейство конечномерных распределений пуассоновского процесса :

=

Во всех остальных случаях вероятность равна 0.

Теорема. Поток событий является пуассоновским в промежутке времени между соседними событиями потока были независимые, имеем экспоненциальное распределение с параметром .

Примеры.

1. белый шум - случаные попарно-некоррелированные величины

), , .

2. процесс скользящего среднего - белый шум,

- процесс скользящего среднего, где , Если , - процесс одностороннего скользящего среднего

, - процесс одностороннего скользящего среднего порядка

3. авторегрессия - белый шум,

: -

авторегрессия порядка Это слабостационарный процесс. Если все корни многочлена лежат в , то с вероятностью 1 процесс, удовлетворяющий такому условию.

4. смешанные процессы авторегресси и скользящего среднего

5. процесс блуждания - независимые одинаково распределённые величины, - процесс блуждания

6. процесс восстановления (частный случай процесса блуждания) - положительные независимые одинаково распределённые величины

, - процесс восстановления (частный случай процесса блуждания)

7. ветвящиеся процессыПусть в начальный момент микробов, через время каждый микроб превращается в подобных микробов с вероятностью , , причём каждый из них превращается независимо друг от друга, и одинаковы для всех микробов.Пусть - случайное число микробов, которые образовал ^й микроб. - н/о одинаково распределённые величины

Цепи Маркова

. интерпретируется как время.

Пусть имеется конечное либо счётное множество состояний

и пусть имеется динамическая система, которая блуждает во времени по множеству ,

переходя случайным образом из одного состояния в другое в случайные моменты времени.

Обозначим - в момент времени система находится в состоянии .

(И наоборот - если , то система находится в состоянии ). Такой процесс называют цепью.

Цепь , называют Марковской, если для любого набора моментов времени

(t - будущее, s - настоящее, t_j - прошедшее)

и для любого набора целых чисел выполняется:

- будущее не зависит от прошлого, если известно настоящее.

Марковские цепи обобщаются на Марковские процессы - может принимать континуум значений, например, значениями могут быть точки в .

Марковская цепь -



Вероятность перейти из в за временной интервал равна вероятности перейти из в за интервал - нет зависимости от длины временного промежутка.

Обозначим

- переходные вероятности.

Обозначим , , . Набор - начальное распределение.

Утверждение.

.

Утверждение.

.

Теорема (Формула Чемина-Колмогорова).

Для однородной Марковской цепи справедливо:

Матрица называется стохастической матрицей однородной Марковской цепи с дискретным временем.

Свойства.

1.

2. (за один шаг из состояния i мы достоверно попадём хотя бы в одно состояние j)

Утверждение. .

Следствие. Для однородной Марковской цепи с дискретным временем семейство конечномерных распределений полностью определяется стохастической матрицей и начальным распределением .

Примеры.

1. пуассоновский процесс с непрерывным временем

Пусть , пуассоновский процесс с н/п временем и пар. . Покажем, что это однородная марк. Цепь с н/п врем. с ростом не убыв. . Возьм. набор мом.

Док. марковость.

Док. однор-ть

Пуасс. Проц. - однор. Марк. Цепь с непр. Врем.

2. ветвящиеся процессы

в нач мом врем частиц. Делятся пополам. число микробов порожденных -м экземпляром. общее число микробов на момент t. Вер. Того, что за время t i-й микроб превратится в популяцию из n экземпляров не зав. От прошлого.

Поэтому обл. cв-вом марковости. .

3. блуждание частицы по целым точкам отрезка

a,b - целые, , i натуральное.

За один шаг частица находящаяся в положении i может перейти в i+1 с вер-тью , перейти в i-1 с вер-тью и остаться в i с вер-тью . положение частицы после n шага. Это цепь с дискр. Врем. может принимать (b-a+1) различных значений. Цепь однородная, от прошлого не зависит.

Стох. матрица

4. блуждание частицы по целым точкам прямой

Классификация состояний однородной Марковской цепи с дискретным временем

Состояние называется несущественным, если найдётся другое состояние и и такое состояние , что , но .

Остальные состояния называются существенными.

Два существенных состояния и называются сообщающимися, если

, .

Обозначим - класс несущественных состояний, - класс существенных состояний, сообщающихся с состоянием .

Утверждение. и либо совпадают, либо не пересекаются.

Если класс существенных элементов состоит из одного элемента, то такой класс называется поглощающим.

Примеры.

1. свободное блуждание частицы по целым точкам прямой

2. свободное блуждание частицы по целым точкам отрезка

3. свободное блуждание частицы с поглощающими экранами

Однородная Марковская цепь называется простой (неразложимой), если все её состояния образуют лишь один класс существенных сообщающихся состояний, в противном случае цепь разложима.

Примеры неразложимых Марковских цепей.

1. свободное блуждание частицы по целым точкам прямой

2. свободное блуждание частицы по целым точкам отрезка

Примеры разложимых Марковских цепей.

1. свободное блуждание частицы с поглощающими экранами

Существенное состояние называется периодическим с периодом , если , k=0,1,2

В остальных .

Примеры(все состояния периодичны с периодом , , ). (?)

1. свободное блуждание частицы по целым точкам прямой

2. свободное блуждание частицы по целым точкам отрезка

3. свободное блуждание частицы с поглощающими экранами

Существенное состояние называется нулевым, если .

Примеры.

1. свободное блуждание частицы по целым точкам прямой - все состояния нулевые

Существенное состояние называется возвратным, если , и невозвратным, если , где - вероятность вернуться в за конечно число шагов, -вероятность впервые на катом шаге вернуться в состояние.

Теорема. Возвратность - ряд расходится.

(А если сходится, то оно невозвратно).

Теорема. Если состояние i возвратно, то за бесконечное число шагов с вероятностью 1 мы вернёмся в состояние i бесконечное число раз;

иначе - не более чем счётное число раз, т.е. начиная с некоторого шага никогда не сможем вернуться в i.

Теорема (о солидарности). Для неразложимой однородной Марковской цепи все состояния однотипны (одно нулевое - все нулевые и т.д.)

Теорема Феллера(о симметричном блуждании по целочисленной решётке)

При симметричном блуждании по целочисленной решётке пространства все состояния возвратные при , все состояния невозвратные при .

Стационарное распределение однородной Марковской цепи

Набор неотрицательных называется стационарным распределением однородной Марковской цепи , если .

- однородная Марковская цепь с конечным числом состояний с дискретным временем .

Пусть .

- начальное распределение, - переходные вероятности

Тогда

-

финальные вероятности (вероятность попасть в через бесконечное время) не зависит от нач. распределения.

образуют стационарное распределение (единственное в силу единственности пределов),

- задают безусловное распределение .

Набор : задаёт стационарное распределение однородной марковской цепи , , если

.

Теорема эргодичности.

() -

коэффициент эргодичности

Пусть |

Тогда

Оценка скорости сходимости:

, , .

Если существует стационарное распределение, то его задают финальные вероятности , которые единственны.

Дифференциальные уравнения Колмогорова

, - однородная Марковская цепь с дискретным временем.

- стохастически непрерывна, если .

Пусть стохастический процесс описывает динамику системы на бесконечном времени.

называется регулярной, если

1) - случ.: ,

2) , - случайное время выхода из состояния : система из перейдёт в через с вероятностью .

Пусть в момент система находится в состоянии () и - случайное время выхода из состояния .

Утверждение. рапределено по экспоненциальному закону.

Утверждение. : (),, где при ; . ( - плотность перехода из в )

Теорема Колмогорова (о стохастически непрерывной регулярной Марковской цепи с конечным числом состояний).

- стохастически непрерывная регулярная Марковская цепь с конечным числом состояний.

Тогда - дифференцируемые функции, и

-

прямая система дифференциальных уравнений Колмогорова для переходных вероятностей.

Обозначим

, , .

Система в матричной форме: .

- начальные условия. По теореме Коши, имеем единственное решение.

Утверждение. Решения являются переходными вероятностями (удовлетворяют условию Чекмана-Колмогорова) получим семейство конечномерных распределений однородной марковской цепи.

В условиях теоремы выполняется:

, -

обратная система дифференциальных уравнений Колмогорова.

Примеры.

1. однолинейная система обслуживания

2.

3. однолинейная система обслуживания с конечной очередью (обощение)

4. m-линейная система обслуживания

Однородная локально-регулярная Марковская цепь с непрерывным временем называется процессом гибели-размножения, если имеет трёхдиагональный вид. Если нижняя поддиагональ нулевая - имеем процесс чистого размножения:

, (может так быть).

Пусть , - ввели состояние взрыва.

Теорема Феллера (о процессе чистого размножения)

Процесс чистого размножения имеет состояние взрыва

.

Процессы с конечными моментами второго порядка

- вероятностное пространство, - случайная величина,

- пространство таких величин. Оно гильбертово.

Скалярное произведение определено как , т.к. имеют конечные моменты второго порядка.

. Сходимость - сходимость по норме.

Пусть дан скалярный СП , . называется процессом с конечными моментами второго порядка, если . Его можно интерпретировать как кривую в с параметром .

- определена (в силу неравенства Коши-Буняковского).

Утверждение. Ковариационная функция .

Непрерывность в среднеквадратическом

, - СП с конечными моментами второго порядка, .

Процесс непрерывен в средне-квадратичном в точке , если .

Процесс непрерывен в средне-квадратичном на , если он непрерывен в средне-квадратическом .

Критерий непрерывности. , непрерывен в средне-квадратическом в непрерывна в , т.е. .

Критерий 2. , непрерывен в средне-квадратическом в

1) непрерывно в , 2) непрерывна в

Следствие. , непрерывен на в средне-квадратичном , заданная на , непрерывна на диагонали .

Следствие 2. непрерывна на непрерывна на диагонали .

Примеры

1. пуассоновский процесс

2. процесс броуновского движения

Дифференцируемость в среднеквадратическом

, - СП с конечными моментами второго порядка, .

дифференцируема в в средне-квадратическом, если , т.к. полное пространство.

Процесс , дифференцируем в средне-квадратическом на , если он дифференцируем в средне-квадратическом в каждой точке .

- процесс с конечными моментами второго порядка.

Критерий. Процесс , дифференцируема в в средне-квадратическом



Критерий 2. Процесс , дифференцируема в в средне-квадратическом

.

Примеры.

1. процесс броуновского движения нигде не дифференцируем в среднеквадратичном

2. пуассоновский процесс нигде не дифференцируем в среднеквадратичном

, , ,

- СП, имеющие конечные моменты второго порядка.

определим

- взаимная ковариационная функция двух процессов.

Утверждение.

1. Пусть . Тогда

2. Пусть . Тогда

3. Пусть , . Тогда

Стохастический интеграл

Пусть непрерывна на. , - СП с конечными моментами второго порядка, . Пусть определён .

, , , .

Если существует и не зависит от разбиения и способа выбора средних точек ,

то определим . Этот интеграл - случайная величина с конечным моментом второго порядка.

Утверждение. Интеграл существует, если - непрерывен в среднеквадратичном.

траекторный интеграл: .

Если он существует почти наверное и существует интеграл

,

то они почти наверное совпадают.

Пусть

, ().

Если непрерывен в среднеквадратичном, то и тоже.

.

Если существует, то .