Случайные процессы

3.Случайные процессы

3.1Вероятностные характеристики случайных процессов

Случайный процесс (СП), описываемый случайной функцией времени , в любой момент представляет собой случайную величину , которая принимает случайные значения .

В отличие от детерминированного процесса, описываемого определенной и единственной функцией времени , случайный процесс характеризуется всей совокупностью возможных реализаций .

Различают три основных класса СП:

- непрерывные СП, когда каждая из величин является непрерывной (например, тепловые шумы);

- дискретные СП, когда каждая из величин является дискретной (например, результат квантования по уровням реализации непрерывного СП);

- смешанные СП, когда каждая из величин является смешанной.

К квазидетерминированным процессам относят процессы, описываемые детерминированной функцией , зависящей от одного или нескольких параметров , представленным вектором-строкой , причем параметры являются случайными, не зависящими от времени величинами. Примером квазидетерминированного процесса является гармоническое колебание со случайной начальной фазой : .

Кроме указанной классификации, различают процессы с непрерывным временем (область определения аргумента представляет собой континуум значений) и процессы с дискретным временем (область определения _ счетное множество значений).

Рассмотрим основные вероятностные характеристики СП.

Одномерная функция распределения СП:

.

Одномерная плотность вероятностей СП:

.

Многомерная функция распределения СП:

.

Многомерная плотность вероятностей СП:

.

Аналогично тому, как это делалось при описании ансамбля случайных величин, вводится понятие и условной плотности вероятностей СП:

.

Смешанный начальный момент порядка :

.

Смешанный центральный момент порядка :

В частности, математическое ожидание и дисперсия СП имеют соответственно вид:

;

.

Смешанный начальный момент порядка (11) называется корреляционной функцией СП:

.

Часто рассматривают центрированную корреляционную функцию вида:

3.2Совместные распределения СП

Рассмотрим два случайных процесса и .

Совместная функция распределения -го порядка:



Совместная плотность вероятностей -го порядка:

.

Если для любых n,m и любых моментов времени

то процессы и называются статистически независимыми. В этом случае, очевидно,

Аналогично смешанным моментам случайных величин вводятся совместные (взаимные) моменты распределения различных СП. Важнейший из них - взаимная корреляционная функция двух СП:

.

Соответственно, центрированная взаимная корреляционная функция имеет вид:

.

Если и статистически независимы, то, очевидно,

;

.

3.3Стационарность и эргодичность СП

Если для любого n при любом t выполняется соотношение

,

такой СП называется стационарным. Для стационарного процесса, в частности:

.

Поскольку одномерная плотность , то любые не смешанные моменты вида , также не зависят от времени. В частности, для математического ожидания и дисперсии СП соответственно имеем:

.

Корреляционная функция при этом зависит только от :

_.

При этом, очевидно,

_.

Заметим, что

При этом

_.

Рассмотрим неотрицательную величину , где _ cтационарный СП. Имеем:

Отсюда

_.

Аналогично

_.

Введем в рассмотрение коэффициент корреляции процесса :

_.

Очевидно:

_,

причем .

Часто для описания СП оказывается достаточным знать только моменты первых двух порядков и корреляционную функцию, определяемые плотностью вероятностей СП первых двух порядков. Если свойство стационарности СП выполняется, по крайней мере, для одномерной и двумерной плотностей, такой СП называется стационарным в широком смысле.

Можно показать, что для нормального процесса (т.е. процесса, многомерная функция распределения которого является гауссовой) понятия стационарности и стационарности в широком смысле совпадают.

Понятие стационарности можно распространить и на совокупность СП. Так, если:

то процессы , называются стационарно связанными.

Рассмотрим два стационарных и стационарно связанных случайных процесса и . Их взаимная корреляционная функция , очевидно, зависит только от величины , т.к. для любого значения выполняется:

Итак, .

При этом, очевидно, имеем:

.

Аналогично, для центрированной взаимной корреляционной функции:

.

Напомним, что для корреляционной функции стационарного процесса имело место иное соотношение

.

Рассмотрим неотрицательную величину

откуда

Таким же образом можно показать, что

Или

.

Аналогично коэффициенту корреляции стационарного случайного процесса вводится коэффициент взаимной корреляции стационарных и стационарно связанных процессов ,:

причем и .

Заметим, что, в отличие от соотношения , в общем случае имеет произвольное значение, удовлетворяющее условию .

Не следует считать, что в физических приложениях типичными процессами являются стационарные. Так, например, смесь шума, описываемого стационарным СП , и сигнала, описываемого детерминированным процессом , представляет собой нестационарный СП:

_.

Действительно, одномерное распределение зависит не только от распределения , но и от значения в любой момент времени t.

Важным классом случайных процессов являются так называемые эргодические процессы.

Случайный процесс называется эргодическим, если любая его вероятностная характеристика, полученная усреднением по множеству возможных реализаций, с вероятностью сколь угодно близкой к единице равна соответствующей характеристике, полученной путем усреднения по времени на основании анализа любой реализации этого СП.

Очевидно, что необходимым условием эргодичности СП является его стационарность. Однако, это условие не является достаточным. Действительно, рассмотрим стационарный СП вида:

,

где A и ц являются случайными величинами, не зависящими от времени, причем величина ц распределена равномерно в интервале . Очевидно, что наличие реализаций с различными значениями амплитуды A не позволяет оценить параметры данного СП по произвольно выбранной реализации, так что процесс эргодическим не является.

Часто оказывается необходимым вычисление, в первую очередь, математического ожидания , дисперсии и корреляционной функции стационарного СП. Можно показать, что достаточным условием эргодичности относительно перечисленных вероятностных характеристик является стремление к нулю его центрированной корреляционной функции при .

Итак, для эргодических относительно , и процессов имеем:

;

,

где _ любая i-ая реализация процесса .

3.4Спектральные характеристики СП

В случае стационарных СП оказывается невозможным применение хорошо разработанного для детерминированных процессов аппарата спектрального анализа, основанного на преобразовании Фурье, т.к. в общем случае любая из реализаций стационарного СП не удовлетворяет условию абсолютной интегрируемости в бесконечных пределах.

Рассмотрим отрезок произвольной k-ой реализации стационарного случайного процесса :

При конечной длительности T рассматриваемого отрезка реализации условия существования преобразования Фурье функции могут оказаться выполненными. Тогда спектр функции равен:

,

где оператор означает прямое преобразование Фурье.

Введем в рассмотрение среднюю мощность функции на интервале T:

.

Используя формулу Парсеваля для сопряженных по Фурье функций, имеем:

.

Тогда средняя мощность может быть представлена в форме:

.

С другой стороны, вводя в рассмотрение спектральную плотность средней мощности отрезка k-ой реализации, имеем:

,

так что в результате спектральная плотность может быть записана в виде:

.

Проводя усреднение по всему ансамблю реализаций процесса , получим спектральную плотность средней мощности отрезка (длительностью T) случайного процесса :

.

Предел при

существует для большинства представляющих практический интерес стационарных случайных процессов и называется энергетический спектр (спектральная плотность средней мощности) случайного процесса .

Для вещественных процессов из свойств преобразования Фурье имеем:

,

так что

.

3.5Связь между корреляционной функцией и энергетическим спектром стационарного случайного процесса

Представим спектральную плотность средней мощности отрезка (длительностью T) вещественного стационарного случайного процесса в форме:

,

где _ функция, комплексно сопряженная с .

Тогда:

Сделаем замену переменной . Имеем:

.

Рассмотрим область интегрирования в полученном выражении для :

Рассматривая отдельно области и и изменяя порядок интегрирования, получим:

Тогда энергетический спектр процесса может быть представлен в виде:

.

Следовательно, энергетический спектр стационарного случайного процесса является преобразованием Фурье корреляционной функции :

.

В свою очередь, функция может быть выражена как обратное преобразование Фурье функции :

.

Полученные соотношения, связывающие функции и , называются формулами (преобразованием) Винера-Хинчина.

Заметим, что поскольку , величина имеет смысл средней мощности процесса .

Далее, поскольку , то

.

Кроме того, поскольку для вещественных СП , имеем:

.

3.6Широкополосные и узкополосные СП

При рассмотрении спектральных характеристик СП часто оказывается необходимым пользоваться понятием ширины полосы частот, занимаемой случайным процессом.

Пусть энергетический спектр процесса сосредоточен в некоторой полосе, включающей нулевую частоту:

Такие процессы часто называют низкочастотными, или относительно широкополосными. При этом, определенная в том или ином смысле (см. ниже) ширина полосы занимаемых частот оказывается, как правило, много больше центральной частоты спектра в области положительных (отрицательных) частот.

Введем некую граничную частоту (см. рис. выше), так чтобы площадь под кривой функции совпадала с площадью изображенного пунктиром эквивалентного прямоугольника. При этом:

,

Откуда

,

Или

.

Величина называется шириной полосы частот, занимаемой относительно широкополосным (низкочастотным) процессом .

Для получения полосы в единицах герц необходимо перейти к величине :

.

Рассмотрим теперь иную ситуацию. Пусть энергетический спектр сосредоточен в области центральной частоты при (соответственно, в области частоты при ) и не включает нулевую частоту. Как правило, в приложениях представляют интерес СП, для которых определенная в том или ином смысле полоса занимаемых частот много меньше величины . Такие процессы называются относительно узкополосными, или просто узкополосными.

Рассмотрим рисунок:

Приравняем площади под кривой энергетического спектра в области и изображенного пунктиром эквивалентного прямоугольника:

,

Откуда

,

или

.

Величина называется шириной полосы частот, занимаемой узкополосным процессом .

Для получения полосы в единицах герц необходимо перейти к величине :

.

Аналогично можно ввести понятие интервала корреляции СП. Рассмотрим коэффициент корреляции стационарного случайного процесса :

.

Определим интервал корреляции как ширину изображенного на рисунке выше пунктиром эквивалентного прямоугольника, так чтобы

или.

Рассмотрим некоторые часто используемые модели широкополосных и узкополосных случайных процессов.

1.Случайный процесс с равномерным и бесконечно широким энергетическим спектром («белый шум»).

Пусть для любых значений щ :

.

Тогда, в соответствии с формулами Винера-Хинчина,

.

Вид и изображены на рисунке ниже, где красная стрелка является условным изображением -функции.

В случае модели «белого шума» , и поведение процесса определяется одномерной плотностью, т.к. любые значения процесса, отстоящие друг от друга, статистически независимы, так что

для любых n.

2.Относительно широкополосный СП с равномерным и ограниченным по полосе энергетическим спектром.

При этом

Тогда

или, вводя в рассмотрение ширину полосы частот ,

.

Функции и изображены на рисунке:



Заметим, что средняя мощность процесса равна:

.

Тот же результат получается и непосредственным интегрированием энергетического спектра :

.

3.Относительно узкополосный СП с равномерным и ограниченным по полосе энергетическим спектром.

При этом

Тогда

где

корреляционная функция эквивалентного низкочастотного СП с равномерным энергетическим спектром, ограниченным по полосе в пределах , где .

Функции и изображены на рисунке:

4.Общий случай относительно узкополосного СП.

В общем случае энергетический спектр относительно узкополосного СП имеет вид:



При этом

.

Заменим переменную :

.

Введем в рассмотрение эквивалентный низкочастотный энергетический спектр исходного относительно узкополосного процесса :

Вид изображен на рисунке:

Тогда:

.

Для симметричного относительно спектра , т.е. когда =, получаем:

,

где _ корреляционная функция эквивалентного низкочастотного процесса с энергетическим спектром .