Стационарные и нестационарные стохастические процессы. Случайный процесс

На практике очень часто встречаются случайные процессы, протекающие во времени приблизительно однородно и имеющие вид непрерывных случайных колебаний вокруг некоторого среднего значения, причем ни средняя амплитуда, ни характер этих колебаний не обнаруживают существенных изменений с течением времени. Такие случайные процессы называются стационарными.

В качестве примеров стационарных случайных процессов можно привести: случайные шумы в радиоприемнике; процесс качки корабля и т. п. Каждый стационарный процесс можно рассматривать как продолжающийся во времени неопределенно долго; при исследовании стационарного процесса в качестве начала отсчета можно выбрать любой момент времени. Исследуя стационарный процесс на любом участке времени, мы должны получить одни и те же его характеристики. Образно выражаясь, стационарный процесс «не имеет ни начала, ни конца».

Случайный процесс называется стационарным в строгом (узком) смысле, если его функция распределения любого порядка не изменяется при сдвиге совокупности точек на величину , т.е. Другими словами, для стационарного процесса функция распределения любого порядка и, следовательно, его характеристики не зависят от положения начала отсчета времени. Стационарность означает статистическую однородность процесса во времени. Физически стационарный случайный процесс представляет собой случайный процесс в установившемся режиме.

Если приведенное выше условие не выполняется, то процесс называется нестационарным. Заметим, что далеко не все нестационарные случайные процессы являются существенно нестационарными на всем протяжении своего развития. Существуют нестационарные процессы, которые (на известных отрезках времени и с известным приближением) могут быть приняты за стационарные.

Из определения стационарного процесса следует, что т.е. одномерная функция распределения вообще не зависит от времени, а двумерная функция распределения зависят только от разностей времен . Отсюда следует, что для стационарного случайного процесса среднее значение и дисперсия являются постоянными величинами, т.е. не зависит от времени, а корреляционная функция такого процесса зависит только от одной переменной



Случайный процесс называют стационарным в широком смысле, если его среднее значение и дисперсия не зависят от времени, а корреляционная функция зависит только от разности времен . Стационарность в широком смысле не тождественна строгому определению стационарности. Случайные процессы, стационарные в строгом смысле, всегда стационарны в широком смысле, но не наоборот.

Стационарным случайным процессом в узком смысле называется случайный процесс, у которого n -мерная плотность вероятности не изменится, если все отсчеты времени сместить на одну и ту же величину:

Если выбрать , то n -мерная плотность вероятности не будет зависеть от начала отсчета времени

Таким образом, для стационарного процесса одномерная плот­ность вероятности вообще не зависит от времени, а двумерная плот­ность зависит не в отдельности от t 1 и t 2 , а от их разности

В свою очередь, из выражений (2.9) и (2.10) вытекает, что математическое ожидание и дисперсия стационарного процесса не зависят от времени, а корреляционная функция зависит от t :

(2.11)

(2.12)

Из (2.11), (2.12) и (2.13) следует, что математическое ожи­дание постоянно и поэтому для стационарного процесса характе­ризует постоянную составляющую процесса; постоянность харак­теризует то, что в каждой точке времени t средняя удельная мощность флюктуаций (то есть мощность переменной составляющей) одна и та же; зависимость от означает, что для стационарного процесса неважно, в каких точках t 1 и t 2 берутся сечения, важна разность между ними .

Если условие (2.7) не выполняется, то случайный процесс на­зывается нестационарным . Иногда о стационарности судят только по выполнению равенств (2.9), (2.10) и, соответ­ственно, (2.11) - (2.13). Говорят, что, если выполняются равенства (2.9) и (2.10), то процесс является стационарным, не интересуясь при этом, выполняется условие (2.7) или нет. Такой подход дает более широкое толкование стационарности.

Определение стационарного процесса в широком смысле является более приемлемым для решения практических задач, так как проще получать данные об одномерной и двумерной плотностях вероятнос­ти, чем о многомерной.

В строгом смысле физически не существует стационарных слу­чайных процессов, так как любой процесс должен начаться в опреде­ленный момент времени в прошлом и, вероятно, завершиться в неко­торый момент в будущем. Однако есть много физических ситуаций, когда статистические характеристики процесса не изменяются на интервале времени наблюдения. В этих случаях предположение о стационарности приводит к удобной математической модели, которая является достаточно точной аппроксимацией реальной ситуации.

Эргодическое свойство стационарных случайных процессов

Среди всех стационарных процессов имеется часть, которая об­ладает эргодическим свойством. Поясним это свойство. Пусть имеется одна длинная реализация x (t ) случайного процесса (t ). Эта реализация определена на интервале Найдем среднее значение этой реализации путем ее усреднения во времени на достаточно большом интервале:

(2.14)

где черта сверху означает усреднение по времени, среднее значение является постоянной величиной, не зависящей от t .

Аналогично можно найти среднее значение квадрата флюктуаций и среднее значение произведения флюктуаций, смещенных одна отно­сительно другой на интервал :

(2.15)

По своему физическому смыслу величины (2.14) - (2.16) являются числовыми характеристиками, совпадающими со средним зна­чением, дисперсией и корреляционной функцией процесса (t). Одна­ко они получены в результате усреднения во времени одной длин­ной реализации x(t) или функции от нее.

Говорят, что стационарный процесс обладает эргодическим свойством , если с вероятностью, близкой к еди­нице, числовые характеристики, полученные в результате усреднения одной длинной реализации по времени, равны этим же характеристи­кам, полученным в результате усреднения по ансамблю. При этом ус­реднением по ансамблю называют определение числовых характеристик с использованием плотности вероятности, то есть по формулам (2.11) - (2.13), так как плотность вероятности характеризует всю совокупность или ансамбль реализаций.

Таким образом, для эргодического стационарного процесса справедливы равенства:

, (2.17)

Само слово «эргодический»происходит от греческого «эргон», что означает «работа». Эргодическое свойство является удобной рабо­чей гипотезой для расчета числовых характеристик стационарного процесса, когда располагают одной длинной его реализацией. Физи­чески это обосновано тем, что одна длинная реализация может со­держать сведения обо всех реализациях этого случайного процесса.

Заметим, что стационарность процесса является необходимым, но недостаточным условием эргодичности. Это означает, что не все стационарные процессы являются эргодическими. В общем случае трудно, если только вообще возможно, дока­зать, что эргодичность - обоснованное допущение для какого-либо физического процесса, так как может наблюдаться только одна реа­лизация этого процесса. Тем не менее, обычно имеет смысл предполо­жить эргодичность процесса, если только отсутствуют веские доводы физического характера, препятствующие этому.

Вероятностные и корреляционные характеристики случайных процессов определяются с помощью одного или нескольких моментов времени (сечений). Однако существует класс случайных процессов, у которых зависимость характеристик от времени отсутствует, и при определенных условиях ряд вероятностных характеристик может быть определен путем усреднения по всему ансамблю реализаций. В других случаях для данных целей может быть осуществлено усреднение по времени с использованием одной к- реализации x k (t) случайного процесса Х(1). Наличие и отсутствие зависимости вероятностных характеристик от времени или от номера реализации определяет такие фундаментальные свойства процесса, как стационарность и эргодичность.

Особое место среди случайных процессов занимает стационарный случайный процесс, с которым часто приходится сталкиваться в теории связи.

Стационарными называют случайные процессы, статистические характеристики которых не изменяются во времени. Примерами стационарных случайных процессов являются внутренние шумы приемников, тепловой шум транзистора, стабилитрона и других полупроводниковых и электронных приборов. В практических приложениях теории случайных процессов условие стационарности обычно ограничивается требованием независимости от времени только одномерной и двумерной плотностей вероятности. Выполнение этого условия позволяет считать, что среднее значение, средний квадрат и дисперсия случайного процесса нс зависят от времени, а корреляционная функция зависит только от интервала между ними т = t 2 -t v т.е. от одного аргумента. Случайные процессы, удовлетворяющие условиям стационарности на ограниченных интервалах, также относят к их числу и называют квазистационарными.

С учетом предложенных ограничений при записи статистических параметров стационарного случайного процесса можно опускать обозначения фиксированных моментов времени. В этом случае математическое ожидание и дисперсия не зависят от времени, т.е. формулы (3.5) и (3.6) примут вид

Нетрудно показать, что функция корреляции случайного стационарного процесса зависит только от разности т = t 2 - t v и поэтому R x (t v t 2) = R v (т).

Из определения стационарности случайного процесса следует, что его функция корреляции является четной относительно т = 0: R v (т) = R x (- т).

Стационарность - не единственное полезное свойство случайных процессов, позволяющее подробно их исследовать. Еще одним свойством такого рода является эргодичность (ergodicity ; от греч. ergon - работа). Условие эргодичности включает в себя и условие стационарности случайного процесса. Эргодичность проявляется в том, что со временем процесс становится однородным.

Стационарный случайный процесс является эргодическим, если усреднение по ансамблю реализаций можно заменить усреднением по времени одной реализации в пределах бесконечного интервала времени Т х. Приведем пример: если у вас есть кубик с числами на гранях от 1 до 6, то при 600 выбрасываниях число 1 выпадет около 100 раз. Можно взять 600 одинаковых кубиков и бросить их все одновременно один раз. При этом около 100 кубиков также покажут грань с числом 1.

Математическое ожидание эргодического процесса вычисляется усреднением по бесконечному интервалу времени значений заданной реализации. Обозначая усреднение по времени угловыми скобками, запишем

Следует помнить, что математическое ожидание эргодического случайного процесса равно постоянной составляющей любой его реализации.

Средний квадрат

является средней мощностью всего случайного эргодического процесса. Дисперсия

определяет мощность флуктуационной составляющей эргодического процесса.

Как правило, при экспериментальном исследовании случайных процессов наблюдают одну реализацию. Если процесс эргодический, то его реализация па большом интервале является типичным представителем всего ансамбля.

На рис. 3.12 приведен пример реального случайного процесса Х(!) в виде одной из реализаций флуктуационной составляющей x(t) там же показано СКО ±а от математического ожидания т х (для упрощения графика выбрано т к = 0).


Рис. 3.12. Флуктуационная составляющая x(t) с СКО ±ст

В электрических цепях широко используют переходные (разделительные) ЯС-цепи, не пропускающие постоянной составляющей. Поэтому для реальных стационарных эргодических процессов математическое ожидание т г = 0.

Функция корреляции в этом случае имеет более простой вид

Выражение (3.18) внешне совпадает с определением (2.56) автокорреляционной функции детерминированного периодического сигнала. Непосредственно из формулы (3.18) вытекает четность функции R t (т) относительно сдвига ср.

Важно заметить, что достаточным условием эргодичности случайного процесса, стационарного в широком смысле, является стремление к нулю его корреляционной функции с ростом временного сдвига т: lim R( т) = 0.

Согласно приведенным формулам по одной реализации можно определить математическое ожидание, дисперсию и корреляционную функцию эргодического случайного процесса. Обычно интегрирование выполняется не в бесконечных пределах, а на конечном интервале, длина которого должна быть тем больше, чем выше требования к точности результатов исследования.

Изучение стационарного случайного процесса будем проводить с учетом его эргодичности, признак которого - равенство среднего значения по множеству реализаций (3.14) среднему значению по времени одной реализации (3.17):

В общем случае результаты усреднения случайных процессов по совокупности и по времени неодинаковы. Предел выборочного среднего по совокупности представляет собой вероятностную характеристику, выражающую зависимость вероятностных свойств процесса от времени. Предел выборочного среднего по времени представляет собой вероятностную характеристику, выражающую зависимость вероятностных свойств процесса от номера реализации.

Пример 3.3

Случайный процесс U(t) состоит из гармонических реализаций и(1) = = U m cos((o 0 t + ф), где амплитуда U m и частота со 0 - постоянные параметры, а начальная фаза реализации ф - случайная величина, которая с одинаковой вероятностыо принимает значение в интервале (-я, я) (рис. 3.13). Найдем числовые характеристики процесса и определим, является ли он стационарным.

Решение

Заданное распределение начальных фаз означает, что плотность вероятности случайной фазы любого колебания р(ф) = 1/(2я). Тогда согласно формуле (3.14) математическое ожидание для амплитуд гармонических напряжений

По формуле (3.16) находим дисперсию


Рис. 3.13-

Тот факт, что реализации случайного процесса являются периодическими функциями, позволяет упростить вычисления, заменив усреднение по бесконечному промежутку времени усреднением но периоду Т= 2я/со 0 . Тогда функцию корреляции получим усреднением по времени произведения двух напряжений:

В правой части этого выражения первое слагаемое в фигурных скобках является детерминированным колебанием, поскольку в нем отсутствует случайная фаза. Второе слагаемое при статистическом усреднении по фазе с помощью одномерной плотности вероятности обращается в нуль. Поэтому функция корреляции

где т = ^ - 1).

Все искомые числовые характеристики не зависят от времени, и заданный случайный процесс является стационарным.

Отметим, что любой случайный процесс, реализации которого являются гармоническими функциями, идентичными по форме и различающимися лишь равномерно распределенной в пределах заданного периода начальной фазой, будет не только стационарным, по и эргодическим.

Пример 3.4

Случайный процесс 17(f) состоит из реализаций u(t) = l/ m cos(co 0 f + U m - случайная величина с произвольным законом распределения и равновероятная в интервале от 0 до U max (рис. 3.14). Определим, является ли этот процесс стационарным.


Рис. 3.14.

Решение

Математическое ожидание й = U m cos(o) 0 t + ф) нс зависит от времени лишь при U m = 0. Поэтому случайный процесс является нестационарным.

Важным классом случайных процессов являются стационарные случайные процессы, то есть, случайные процессы, не изменяющие свои характеристики с течением времени. Они имеют вид непрерывных случайных колебаний вокруг некоторого среднего значения. Таковыми являются: давление газа в газопроводе, колебания самолёта при «автополёте», колебания напряжения в электрической сети и т.д.

Случайный процессназывается стационарным в широком смысле ,если его математическое ожидание
есть постоянное число, а корреляционная функция
зависит только от разности аргументов, т.е.

Из этого определения следует, что корреляционная функция стационарного процесса есть функция одного аргумента: Это обстоятельство часто упрощает операции над стационарными случайными процессами.

Случайный процесс называют стационарным в узком смысле , если его характеристики зависят не от значений аргументов, а лишь от их взаимного расположения. То есть, для функции распределения сечений процесса должно выполняться равенство:

при любых

Отметим, что из стационарности СП в узком смысле следует стационарность его в широком смысле, обратное утверждение неверно.

В дальнейшем мы будем рассматривать только стационарные случайные процессы в широком смысле. Далее приведем основные свойства корреляционной функции случайного стационарного процесса (с.с.п.).

1. Дисперсия с.с.п. постоянна и равна значению корреляционной функции в нуле, т.е.

То есть в начале координат.

2. Корреляционная функция с.с.п. является чётной функцией, т.е.

3. Абсолютное значение корреляционной функции с.с.п. не превосходит её значение при
, т.е.

Нормированная корреляционна функция с.с.п. является неслучайная функция аргумента , т.е.

при этом в соответствии свойство 3 имеет место неравенство

Пример 6 . Задана случайная функция,

равномерно распределённая случайная величина, в интервале

Доказать, что

Решение. Найдём математическое ожидание

На основании определения м.о. получим (с учётом равномерной распределённости с.в. , по условию контроля
)

и

Следовательно,

Найдём корреляционную функцию. Учитывая, что центрированная и случайная функция равны (т.к.
), т.е., то согласно определению корреляционной функции (см.пункт 16.5) имеем

,

поскольку ).

Задание. Покажите, что в условиях нашего примера имеет место

Итак, математическое ожидание с.в.
есть постоянное число при всех значениях аргумента, и её корреляционная функция зависит только от разности аргументов. Следовательно,
случайная стационарная функция.

Отметим что, положив
в корреляционной функции, найдём дисперсию

Таким образом, дисперсия сохраняет постоянное значение при всех значениях аргумента, как и должно, быть при случайной стационарной функции.

Большинство случайных стационарных процессов обладают важным для практики, так называемым, « эргодическим свойством» , сущность которого состоит в том, что по одной, достаточно длинной отдельной реализации данного процесса можно судить обо всех свойствах процесса также как по любому количеству реализаций.

Другими словами, отдельные характеристики с.с.п.
могут быть определены как соответствующие средние по времени для одной реализации достаточно большой продолжительности.

Связь между классами стационарных и случайных эргодических процессов можно охарактеризовать, например, как на рисунке 61.

Рис. 61 (Письм.).

Достаточным условием эргодического с.п.
относительно математического ожидания и корреляционной функции является стремление к нулю его корреляционной функции при
.

В качестве оценок характеристик эргодических с.с.п. принимают усреднённое по времени значение:

Интегралы, в правых частях равенств, на практике вычисляют приближённо.

Случайные процессы
и
называютсястационарно связанными , если их взаимно корреляционная функция
зависит только от разности
. В качестве примера стационарного процесса можно взять с.п.– гармоническое колебание. Можно показать, что
а

Стационарный случайный процесс

важный специальный класс случайных процессов, часто встречающийся в приложениях теории вероятностей к различным разделам естествознания и техники. Случайный процесс X (t) называется стационарным, если все его вероятностные характеристики не меняются с течением времени t (так что, например, распределение вероятностей величины X (t) при всех t является одним и тем же, а совместное распределение вероятностей величин X (t

    зависит только от продолжительности промежутка времени t2≈t1, т. е. распределения пар величин {X (t1), X (t2)} и {X (t1 + s), X (t2 + s)} одинаковы при любых t1, t2и s и т.д.).

    Схема С. с. п. с хорошим приближением описывает многие реальные явления, сопровождающиеся неупорядоченными флуктуациями. Так, например, пульсации силы тока или напряжения в электрической цепи (электрический «шум») можно рассматривать как С. с. п., если цепь эта находится в стационарном режиме, т. е. если все её макроскопические характеристики и все условия, вызывающие протекание через неё тока, не меняются во времени; пульсации скорости в точке турбулентного течения представляют собой С. с. п., если не меняются общие условия, порождающие рассматриваемое течение (т. е. течение является установившимся), и т.д. Эти и другие примеры С. с. п., встречающиеся в физике (в частности, гео- и астрофизике), механике и технике, стимулировали развитие исследований в области С. с. п.; при этом существенными оказались также и некоторые обобщения понятия С. с. п. (например, понятия случайного процесса со стационарными приращениями заданного порядка, обобщённого С. с. п. и однородного случайного поля).

    В математической теории С. с. п. основную роль играют моменты распределении вероятностей значений процесса X (t), являющиеся простейшими числовыми характеристиками этих распределений. Особенно важны моменты первых двух порядков: среднее значение С. с. п. EX (t) = m ≈ математическое ожидание случайной величины X (t) и корреляционная функция С. с. п. EX (t1) X (t2)= B (t2≈t1) ≈ математическое ожидание произведения X (t1) X (t2) (просто выражающееся через дисперсию величин X (t) и коэффициент корреляции между X (t1) и X (t2); см. Корреляция). Во многих математических исследованиях, посвященных С. с. п., вообще изучаются только те их свойства, которые полностью определяются одними лишь характеристиками m и В (t) (т. н. корреляционная теория С. с. п.). В этой связи случайные процессы X (t), имеющие постоянное среднее значение EX (t) = m и корреляционную функцию В (t2, t1) = EX (t1) X (t2), зависящую только от t2 ≈ t1, часто называют С. с. п. в широком смысле (а более частные случайные процессы, все характеристики которых не меняются с течением времени, в таком случае называются С. с. п. в узком смысле).

    Большое место в математической теории С. с. п. занимают исследования, опирающиеся на разложение случайного процесса X (t) и его корреляционной функции B (t2 ≈t1) = В (t) в интеграл Фурье, или Фурье ≈ Стилтьеса (см. Фурье интеграл). Основную роль при этом играет теорема Хинчина, согласно которой корреляционная функция С. с. п. X (t) всегда может быть представлена в виде

    где F (l) ≈ монотонно неубывающая функция l (а интеграл справа ≈ это интеграл Стилтьеса); если же В (t) достаточно быстро убывает при |t|╝¥ (как это чаще всего и бывает в приложениях при условии, что под X (t) понимается на самом деле разность X (t) ≈ m), то интеграл в правой части (1) обращается в обычный интеграл Фурье:

    где f (l) = F▓(l) ≈ неотрицательная функция. Функция F (l) называемая спектральной функцией С. с. п. X (t), а функция F (l) [в случаях, когда имеет место равенство (2)] ≈ его спектральной плотностью. Из теоремы Хинчина вытекает также, что сам процесс X (t) допускает спектральное разложение вида

    где Z (l) ≈ случайная функция с некоррелированными приращениями, а интеграл справа понимается как предел в среднем квадратичном соответствующей последовательности интегральных сумм. Разложение (3) даёт основание рассматривать любой С. с. п. X (t) как наложение некоррелированных друг с другом гармонических колебаний различных частот со случайными амплитудами и фазами; при этом спектральная функция F (l) и спектральная плотность f (l) определяют распределение средней энергии входящих в состав X (t) гармонических колебаний по спектру частот l (в связи с чем в прикладных исследованиях функция f (l) часто называется также энергетическим спектром или спектром мощности С. с. п. X (t)).

    Выделение понятия С. с. п. и получение первых относящихся к нему математических результатов являются заслугой Е. Е. Слуцкого и относятся к концу 20-х и началу 30-х гг. 20 в. В дальнейшем важные работы по теории С. с. п. были выполнены А. Я. Хинчиным, А. Н. Колмогоровым, Г. Крамером, Н. Винером и др.

    Лит.: Слуцкий Е. Е., Избр. тр., М., 1960; Хинчин А. Я., Теория корреляции стационарных стохастических процессов, «Успехи математических наук», 1938, в. 5, с, 42≈51; Розанов Ю. А., Стационарные случайные процессы, М., 1963; Прохоров Ю. В., Розанов Ю. А., Теория вероятностей. (Основные понятия. Предельные теоремы. Случайные процессы), 2 изд., М., 1973; Гихман И. И., Скороход А. В., Теория случайных процессов, т. 1, М., 1971; Хеннан Э., Многомерные временные ряды, пер. с англ., М., 1974.