Случайные процессы и их основные статистические характеристики. Случайные процессы и их характеристики математическое ожидание и дисперсия

Широкое практическое использование при исследовании состояния разных технических объектов получили три типа случайных процессов - гауссовский, стационарный и марковский.

Гауссовский случайный процесс - это случайный процесс X(t), распределение вероятностей параметров которого подчиняется нормальному закону. Математическое ожидание (среднее значение)М[Х(t)] и корреляционная функция K х (t 1 ,t 2) однозначно определяют распределение его параметров, следовательно, и процесс в целом.

Стационарный случайный процесс (однородный во времени случайный процесс) - это такой случайный процесс X(t), статистические характеристики которого постоянны во времени, то есть инвариантны к кратковременным возмущениям: t → t + τ, X(t) → X(t + τ) при любом фиксированном значении τ. Процесс полностью определяется математическим ожиданием M и корреляционной функцией

К х (t,τ) = M.

Марковский случайный процесс - это такой случайный процесс, при котором вероятность нахождения системы в каком-либо состоянии в будущем зависит от того, в каком состоянии система находится в заданный момент времени и не зависит от того, каким путем система перешла в это состояние. Короче - «будущее» и «прошлое» процесса при известном его «настоящем» не связаны друг с другом. Часто марковский процесс характеризуется вероятностями перехода системы из одного состояния в другое (переходными вероятностями).

Изменение технического состояния системы

Как уже говорилось, задача прогнозирования технического состояния, в самом общем понимании, представляет собой получение некоторых вероятностных характеристик работоспособности системы в будущем на основе данных контроля ее настоящего и прошедших состояний.

В зависимости от того, какая характеристика случайного процесса определяется при прогнозировании, различают прогнозирование надежности (определение условной плотности вероятности безотказной работы системы после контроля) и прогнозирование технического состояния (определение условной плотности распределения вероятностей значений определяющего параметра) на основе прошлых и настоящего состояний. На рис 8.1 проиллюстрирована разница между этими характеристиками. На этом рисунке x(t) - отрезок реализации случайного процесса X(t), описывающий изменение во времени некоторого определяющего параметра системы, имеющего допустимые границы (а, b) изменения. Отрезок реализации получен в результате наблюдения за конкретным экземпляром системы из заданного класса систем на интервале времени (0, t k 2). В момент t k 2 был осуществлен последний контроль системы, и на его основе необходимо решить - пригодна ли система к эксплуатации до наступления очередного момента контроля t k 3 .

рис. 8.1 Условная плотность вероятности безотказной работы р{x(t)} и f{(x(t)} условная плотность распределения вероятностей значений определяющего параметра

В связи с тем, что внешние воздействия, воспринимаемые системой, имеют случайный характер, случайный процесс после момента t k 2 может изменяться по разному (см. пунктирные линии на рис. 8.1). Процесс, являющийся продолжением некоторого исходного процесса при условии, что на интервале (0,t k 2) его реализация имела конкретный вид х(t), называется условным , или апостериорным , случайным процессом:

Х ps (t)=x. (8.5)

Следовательно, для принятия обоснованного решения о назначении срока очередного контроля системы необходимо знать характеристики апостериорного случайного процесса. Пригодной для выполнения задачи будет считаться система, определяющие параметры которой находятся в допустимых границах (а, b) в момент предыдущего контроля и не выйдут из этих границ до конца заданного срока функционирования. Поскольку выход определяющих параметров за допустимые границы является случайным событием, то оценкой работоспособности системы может быть условная вероятность безотказной ее работы после контроля. Это вероятность того, что случайный процесс ни разу не пересечет границу (a, b) после момента контроля; ее называют прогнозированной надежностью системы и обозначают

P{x(t)=<<(ba)/X(t)=x(t), 0<

Таким образом, прогнозированием надежности называется определение условной вероятности безотказной работы системы при условии, что в момент контроля она находилась в некотором фиксированном работоспособном состоянии.

Наиболее полной характеристикой будущего технического состояния системы является условная плотность распределения вероятностей ее определяющих параметров, то есть будущих значений случайного процесса

f{x(t k 3)/X(t)=x(t), 0<

при условии, что на интервале (0,t k 3) реализация процесса имела конкретный вид (рис. 8.1).

Литература: [Л.1], стр. 155-161

[Л.2], стр. 406-416, 42-426

[Л.3], стр. 80-81

Математическими моделями случайных сигналов и помех являются случайные процессы. Случайным процессом (СП) называется изменение случайной величины во времени . К случайным процессам относится большинство процессов, протекающих в радиотехнических устройствах, а также помехи, сопровождающие передачу сигналов по каналам связи. Случайные процессы могут быть непрерывными (НСП), либо дискретными (ДСП) в зависимости от того, какая случайная величина непрерывная или дискретная изменятся во времени. В дальнейшем основное внимание будет уделено НСП.

Прежде чем приступить к изучению случайных процессов необходимо определится со способами их представления. Будем обозначать случайный процесс через , а его конкретную реализацию – через . Случайный процесс может быть представлен либо совокупностью (ансамблем) реализаций , либо одной , но достаточно протяженной во времени реализацией . Если сфотографировать несколько осциллограмм случайного процесса и фотографии расположить одну под другой, то совокупность этих фотографий будет представлять ансамбль реализаций (рис. 5.3).

Здесь – первая, вторая, …, k-ая реализации процесса. Если же отобразить изменение случайной величины на ленте самописца на достаточно большом интервале времени T, то процесс будет представлен единственной реализацией (рис. 5.3).

Как и случайные величины, случайные процессы описываются законами распределения и вероятностными (числовыми) характеристиками. Вероятностные характеристики могут быть получены как усреднение значений случайного процесса по ансамблю реализаций, так и усреднением по одной реализации.

Пусть случайный процесс представлен ансамблем реализаций (рис. 5.3). Если выбрать произвольный момент времени и зафиксировать значения, принимаемые реализациями в этот момент времени, то совокупность этих значений образует одномерное сечение СП

и представляет собой случайную величину . Как уже подчеркивалось выше, исчерпывающей характеристикой случайной величины является функция распределения или одномерная плотность вероятности

.

Естественно как , так и , обладают всеми свойствами функции распределения и плотности распределения вероятности, рассмотренными выше.

Числовые характеристики в сечении определяются в соответствии с выражениями (5.20), (5.22), (5.24) и (5.26). Так, в частности математическое ожидание СП в сечении определяется выражением

а дисперсия – выражением

Однако, законов распределения и числовых характеристик только в сечении недостаточно для описания случайного процесса, который развивается во времени. Поэтому, необходимо рассмотреть второе сечении (рис. 5.3). В этом случае СП будет описываться уже двумя случайными величинами и , разнесенными между собой на интервал времени и характеризоваться двумерной функцией распределения и двумерной плотностью , где , . Очевидно, если ввести в рассмотрение третье, четвертое и т.д. сечения, можно прийти к многомерной (N-мерной) функции распределения и соответственно к многомерной плотности распределения .

Важнейшей характеристикой случайного процесса служит автокорреляционная функция (АКФ)

устанавливающая степень статистической связи между значениями СП в моменты времени и

Представление СП в виде ансамбля реализаций приводит к понятию стационарности процесса. Случайный процесс является стационарным , если все начальные и центральные моменты не зависят от времени, т.е.

, .

Это жесткие условия, поэтому при их выполнении СП считается стационаром в узком смысле .

На практике используется понятие стационарности в широком смысле . Случайный процесс стационарен в широком смысле, если его математическое ожидание и дисперсия не зависят от времени, т.е.:

а автокорреляционная функция определяется только интервалом и не зависит от выбора на оси времени

В дальнейшем будут рассматриваться только стационарные в широком смысле случайные процессы.

Выше отмечалось, что случайный процесс помимо представления ансамблем реализаций, может быть представлен единственной реализацией на интервале времени T. Очевидно, все характеристики процесса могут быть получены усреднением значений процесса по времени.

Математическое ожидание СП при усреднении по времени определяется следующим образом:

. (5.46)

Отсюда следует физический смысл : математическое ожидание – это среднее значение (постоянная составляющая) процесса.

Дисперсия СП определяется выражением

и имеет физический смысл средней мощности переменной составляющей процесса.

Автокорреляционная функция при усреднении по времени

Случайный процесс называется эргодическим , если его вероятностные характеристики, полученные усреднением по ансамблю, совпадают с вероятностными характеристиками, полученными усреднением по времени единственной реализации из этого ансамбля. Эргодические процессы являются стационарными.

Использование выражений (5.46), (5.47) и (5.48) требует, строго говоря, реализации случайного процесса большой (теоретически бесконечной) протяженности. При решении практических задач интервал времени ограничен. При этом большинство процессов считают приблизительно эргодическими и вероятностные характеристики определяют в соответствии с выражениями

; (5.49)

;

Случайные процессы, у которых исключено математическое ожидание, называются центрированными . В дальнейшем под и будут подразумеваться значения центрированных случайных процессов. Тогда выражения для дисперсии и автокорреляционной функции принимают вид

; (5.50)

Отметим свойства АКФ эргодических случайных процессов:

– автокорреляционная функция является вещественной функцией аргумента ,

– автокорреляционная функция является четной функцией, т.е. ,

– при увеличении АКФ убывает (необязательно монотонно) и при стремится к нулю,

– значение АКФ при равно дисперсии (средней мощности) процесса

.

На практике часто приходится иметь дело с двумя и более СП. Так например, на вход радиоприемника одновременно поступает смесь случайного сигнала и помехи. Взаимную связь между двумя случайными процессами устанавливает взаимная корреляционная функция (ВКФ). Если и – два случайных процесса, характеризующиеся реализациями и , то взаимная корреляционная функция определяется выражением

Функцию, значение которой при каждом значении независимой переменной является случайной величиной, называют случайной функцией. Случайные функции, для которых независимой переменной является время , называютслучайными процессами или стохастическими процессами .

Случайный процесс не есть определенная кривая, он является множеством определенных кривых , где , получаемых в результате отдельных опытов (рис. 1.9) . Каждую кривую этого множества называют реализацией случайного процесса . Сказать заранее, по какой из реализации пойдет процесс, невозможно.

Для любого фиксированного момента времени, например , реализация случайного процессапредставляет собой конкретную величину, значение же случайной функцииявляется случайной величиной, называемойсечением случайного процесса в момент времени . Поэтому нельзя утверждать, что случайный процесс в данный момент времени имеет такое-то детерминированное значение, можно говорить лишь о вероятности того, что в данный момент времени значение случайного процесса как случайной величины будет находиться в определенных пределах.

Рис. 1.9. Реализации случайного процесса

Статистические методы изучают не каждую из реализаций , образующих множество , а свойства всего множества в целом при помощи усреднения свойств, входящих в него реализаций. Поэтому при исследовании объекта управления судят о его поведении не по отношению к какому-либо определенному воздействию, представляющему заданную функцию времени, а по отношению к целой совокупности воздействий.

Как известно, статистические свойства случайной величины определяют по ее функции распределения вероятностей интегральной и дифференциальной .

Для случайного процесса также вводят понятие функции распределения и плотности вероятности, которые зависят от фиксированного момента времени наблюдения и от некоторого выбранного уровня, т.е. являются функциями двух переменных и.

Рассмотрим случайную величину , т.е. сечение случайного процесса в момент времени .Одномерной функцией распределения случайного процесса называют вероятность того, что текущее значение случайного процессав момент временине превышает некоторого заданного уровня (числа) , т.е.

Если функция имеет частную производную по, т.е.

то функцию называютодномерной плотностью вероятности случайного процесса. Величина

представляет собой вероятность того, что находится в момент временив интервале отдо.

В каждые отдельные моменты времени наблюдаемые случайные величины (сечения случайного процесса) будут иметь свои, в общем случае разные, одномерные функции распределенияи плотности вероятности.

Функции иявляются простейшими статистическими характеристиками случайного процесса. Они характеризуют случайный процесс изолированно в отдельных его сечениях, не раскрывая взаимной связи между сечениями случайного процесса, т.е. между возможными значениями случайного процесса в различные моменты времени.

Знания этих функций еще недостаточно для описания случайного процесса в общем случае. Необходимо охарактеризовать также взаимную связь случайных величин в различные произвольно взятые моменты времени.

Рассмотрим теперь случайные величины и, относящиеся к двум разным моментам времени и наблюдения случайного процесса.

Вероятность того, что случайный процесс будет не большеприи не больше при , т.е.

называют двумерной функцией распределения . Если функция имеет частные производные пои, т.е.

, (1.47)

то функцию называютдвумерной плотностью вероятности .

Величина

равна вероятности того, что прибудет находиться в интервале отдо, а при в интервале от до.

Аналогично можно ввести понятие о п-мерной функции распределения и п-мерной плотности вероятности .

Чем выше порядок , тем полнее описываются статистические свойства случайного процесса. Зная-мерную функцию распределения, можно найти по ней одномерную, двумерную и другие [вплоть до-й] функции распределения более низкого порядка. Однако многомерные законы распределения случайных процессов являются сравнительно громоздкими характеристиками и с ними крайне трудно оперировать на практике. Поэтому при изучении случайных процессов часто ограничиваются случаями, когда для описания случайного процесса достаточно знать только его одномерный или двумерный закон распределения.

Примером случайного процесса, который полностью характеризуется одномерной плотностью вероятности, является так называемый чистый случайный процесс , или белый шум . Значения в этом процессе, взятые в разные моменты времени, совершенно независимы друг от друга, как бы близко ни были выбраны эти моменты времени. Это означает, что кривая белого шума содержит всплески, затухающие за бесконечно малые промежутки времени. Поскольку значения, например, в моменты времениинезависимы, то вероятность совпадения событий, заключающихся в нахождениимежду и в момент времени и между и в момент , равна произведению вероятностей каждого из этих событий, поэтому

и вообще для белого шума

т. е. все плотности вероятности белого шума определяются из одномерной плотности вероятности.

Для случайных процессов общего вида, если известно, какие значения приняла величина в момент времени , тем самым имеем некоторую информацию относительно, где, так как величины и , вообще говоря, зависимы. Если кроме известна , где, то информация оеще более увеличивается. Таким образом, увеличение наших знаний о поведении процесса до моментаприводит к тому, что увеличивается информация о.

Однако существует особый класс случайных процессов, впервые исследованных известным математиком А. А. Марковым и называемых марковскими случайными процессами , для которых знание значения процесса в момент уже содержит в себе всю информацию о будущем ходе процесса, какую только можно извлечь из поведения процесса до этого момента. В случае марковского случайного процесса для определения вероятностных характеристик процесса в момент временидостаточно знать вероятностные характеристики для любого одного предшествующего момента времени, например непосредственно предшествующего момента времени. Знание вероятностных характеристик процесса для других предшествующих значений времени, например, не прибавляет информации, необходимой для нахождения.

Для марковского процесса справедливо следующее соотношение:

, (1.51)

т. е. все плотности вероятности марковского процесса определяются из двумерной плотности вероятности. Другими словами, марковские случайные процессы полностью характеризуются двумерной плотностью вероятности.

Понятие о функции распределения и плотности вероятности случайного процесса обычно используют при теоретических построениях и определениях. В практике исследования широкое распространение получили сравнительно более простые, хотя и менее полные характеристики случайных процессов, аналогичные числовым характеристикам случайных величин. Примерами таких характеристик служат математическое ожидание, дисперсия, среднее значение квадрата случайного процесса, корреляционная функция, спектральная плотность и другие.

Математическим ожиданием (средним значением) случайного процессаназывают величину

(1.52)

где - одномерная плотность вероятности случайного процесса .

Математическое ожидание случайного процесса представляет собой некоторую неслучайную (регулярную) функцию времени, около которой группируются и относительно которой колеблются все реализации данного случайного процесса (рис. 1.10).

Математическое ожидание случайного процесса в каждый фиксированный момент времени равно математическому ожиданию соответствующего сечения случайного процесса. Математическое ожидание называютсредним значением случайного процесса по множеству (средним по ансамблю, статистическим средним), поскольку оно представляет собой вероятностно усредненное значение бесконечного множества реализаций случайного процесса.

Рис. 1.10. Числовые характеристики случайных процессов

Часто вводят в рассмотрение центрированный случайный процесс

Тогда случайный процесс можно рассматривать как сумму двух составляющих: регулярной составляющей, равной математическому ожиданию, и центрированной случайной составляющей, т.е.

Для того чтобы учесть степень разбросанности реализации случайного процесса относительно его среднего значения, вводят понятие дисперсии случайного процесса, которая равна математическому ожиданию квадрата центрированного случайного процесса:

. (1.55)

Дисперсия случайного процесса является неслучайной (регулярной) функцией времени, значение которой в каждый момент времени равно дисперсии соответствующего сечения случайного процесса.

Среднее квадратическое отклонение случайного процесса равно

Лекция 18

Понятие случайного процесса. Характеристики случайных процессов.

Стационарные случайные процессы.

Случайные процессы с независимыми приращениями

Определение. Случайным процессом называется семейство случайных величин , заданных на вероятностном пространстве
, где есть текущее время. Множество значений параметра называют областью определения случайного процесса , а множество возможных значений
– пространством значений случайного процесса .

Случайный процесс, в отличие от детерминированного процесса, заранее предсказать невозможно. В качестве примеров случайных процессов можно рассмотреть броуновское движение частиц, работу телефонных станций, помехи в радиотехнических системах и т. д.

Если область определения случайного процесса представляет конечное или счетное множество отсчетов времени, то говорят, что
– случайный процесс с дискретным временем или случайная последовательность (цепь ), а если область определения – континуум, то
называют случайным процессом с непрерывным временем .

В том случае, когда пространство значений случайного процесса является конечным или счетным множеством, то случайный процесс называют дискретным . Если же пространство значений случайного процесса – континуум, то случайный процесс называют непрерывным .

Действительную функцию
при некотором фиксированном значении называют реализацией или траекторией случайного процесса . Таким образом, случайный процесс представляет собой совокупность всевозможных своих реализаций, то есть
, где индикатор реализаций
может принадлежать счетному множеству действительных чисел или континууму. Детерминированный же процесс имеет единственную реализацию, описываемую заданной функцией
.

При фиксированном
получаем обычную случайную величину
, которая называется сечением случайного процесса в момент времени .

Одномерной функцией распределения случайного процесса
при фиксированном
называется функция

,
.

Эта функция задает вероятность множества траекторий, которые при фиксированном
проходят ниже точки
.

При
из определения (5.1.1) одномерной функции распределения следует, что равенство задает вероятность множества траекторий, проходящих через «ворота» между точками
и
.

Двумерной функцией распределения случайного процесса
при фиксированных и называется функция

,
.

Эта функция задает вероятность множества траекторий, которые одновременно проходят ниже точек
и
.

Аналогично -мерная функция распределения случайного процесса
при фиксированных
определяется равенством

для всех
из
.

Если эта функция достаточное число раз дифференцируема, то - мерная совместная плотность вероятности случайного процесса
имеет вид

.

Функция распределения или плотность вероятности тем полнее описывает сам случайный процесс, чем больше . Эти функции учитывают связь хотя и между любыми, но лишь фиксированными сечениями этого процесса. Случайный процесс считается заданным, если задано множество всех его - мерных законов распределения или - мерных плотностей вероятности для любых . При этом функция распределения должна удовлетворять условиям симметрии и согласованности Колмогорова . Условие симметрии состоит в том, что
– симметричная функция для всех пар
,
, в том смысле, что, например,

Условие же согласованности означает, что

то есть - мерный закон распределения случайного процесса
определяет все законы распределения более низкой размерности.

Рассмотрим различные характеристики случайных процессов.

Определение. Математическим ожиданием или средним значением случайного процесса
называется функция

,

где
– одномерная плотность вероятности случайного процесса. Геометрически математическому ожиданию соответствует некоторая кривая, около которой группируются траектории случайного процесса.

Определение. Дисперсией случайного процесса
называется функция

Таким образом, математическое ожидание и дисперсия случайного процесса
зависят от одномерной плотности вероятности и являются неслучайными функциями времени . Дисперсия случайного процесса характеризует степень разброса траекторий относительно его среднего значения
. Чем больше дисперсия, тем значительнее разброс траекторий. Если дисперсия равна нулю, то все траектории случайного процесса
совпадают с математическим ожиданием
, а сам процесс является детерминированным.

Определение. Корреляционная функция
случайного процесса
определяется равенством

где
– двумерная плотность вероятности случайного процесса.

Корреляционная функция
характеризует степень связи между ординатами случайного процесса
для двух моментов времени и . При этом, чем больше корреляционная функция, тем более гладкими являются траектории случайного процесса
, и наоборот.

Корреляционная функция обладает следующими свойствами.

1 0 . Симметричность: ,
.

2 0 . ,
.

Эти свойства следуют из соответствующих свойств ковариации случайной величины.

Теория, изучающая случайные процессы на основе математического ожидания и корреляционной функции, называется корреляционной теорией . С помощью методов корреляционной теории исследуются в основном линейные системы автоматического регулирования и управления.

Определение. Случайный процесс
,
, называется стационарным в узком смысле, если совместное распределение случайных величин

И ,

одинаково и не зависит от , то есть

Отсюда для - мерной плотности вероятности справедливо соотношение

Учитывая, что в случае одномерной плотности вероятности, и полагая в этом соотношении
, имеем . Отсюда для стационарного случайного процесса находим следующее выражение для математического ожидания:

.

Аналогично для двумерной плотности вероятности из равенства при
получим . Следовательно, корреляционную функцию можно записать в виде

где
.

Таким образом, для стационарных случайных процессов в узком смысле, математическое ожидание есть постоянная величина, а корреляционная функция зависит только от разности аргументов, то есть , так как корреляционная функция симметрична.

Определение. Случайный процесс с постоянным математическим ожиданием и корреляционной функцией, зависящей только от разности аргументов, называется случайным процессом, стационарным в широком смысле . Ясно, что стационарный в узком смысле случайный процесс является стационарным и в широком смысле. Обратное же утверждение в общем случае неверно.

Корреляционная функция стационарного случайного процесса обладает приведенными ниже свойствами.

1 0 .
, то есть функция
– четная.

2 0 . Справедливо неравенство
.

3 0 . Для дисперсии стационарного случайного процесса
справедливо соотношение .

Пусть
,
, – стационарный случайный процесс, непрерывный по времени , с математическим ожиданием
и корреляционной функцией
.

Определение. Функция, обозначаемая
и определяемая соотношением

,

называется спектральной плотностью .

Если известна спектральная плотность
, то с помощью преобразования Фурье можно найти корреляционную функцию

.

Последние два равенства называются формулами Винера – Хинчина .

Очевидно, что для существования обратного преобразования Фурье достаточно существования интеграла
, то есть достаточно абсолютной интегрируемости на промежутке
корреляционной функции
.

Можно показать, что спектральная плотность
стационарного случайного процесса является четной функцией, то есть
.

Так как
– четная функция, то

,

.

Из этих формул и определения корреляционной функции
следует, что дисперсия стационарного случайного процесса
равна

.

Если случайный процесс есть флуктуация электрического тока или напряжения, то дисперсия случайного процесса как среднее значение квадрата тока или напряжения пропорциональна средней мощности этого процесса. Поэтому из последнего равенства следует, что спектральная плотность
в этом случае характеризует плотность мощности, приходящуюся на единицу круговой частоты
.

На практике вместо спектральной плотности
часто применяют нормированную спектральную плотность
, равную

.

Тогда, как нетрудно убедиться, так называемая нормированная корреляционная функция и нормированная спектральная плотность
связаны прямым и обратным преобразованиями Фурье:

,
.

Полагая
и учитывая, что
, имеем

.

Учитывая четность спектральной функции, получаем

,

то есть полная площадь, ограниченная снизу осью
и сверху графиком нормированной спектральной плотности, равна единице.

Определение. Случайный процесс
,
, называется процессом с независимыми приращениями , если для любых
,
,
, случайные величины

,
, …,

независимы.

В этом случае для различных пар случайных величин корреляционная функция равна нулю.

Если случайные величины попарно некоррелированы, то случайный процесс
называется процессом с некоррелированными или ортогональными приращениями .

Так как случайные величины независимы, то они некоррелированы (ортогональны). Тем самым всякий процесс с независимыми приращениями есть процесс с ортогональными приращениями.

Пусть
– случайный процесс с ортогональными приращениями. Тогда для
получаем

поскольку случайные величины
и
ортогональны.

Аналогично при
получим, что .

Таким образом, корреляционная функция
случайного процесса с ортогональными приращениями обладает свойством

Применяя функцию Хевисайда
, корреляционную функцию можно записать в виде