Предельную вероятность состояния системы можно интерпретировать как. Теория вероятности: формулы и примеры решения задач

Пусть имеется техническая система с дискретными состояниями, в которой протекают марковские случайные процессы с непрерывным временем. Предположим, что все интенсивности потоков событий, переводящие систему из состояния в состояние постоянны , т.е. все потоки событий –– простейшие (стационарные пуассоновские).

Сформулируем следующую задачу: что будет происходить с системой при стремлении t ® ¥ ? Если функции P i (t) будут стремиться к каким-либо пределам, то будем их называть предельными вероятностями состояний .

Можно доказать следующее общее положение.

Если число состояний системы конечно и из каждого состояния за конечное число шагов можно перейти в любое другое (замкнутая система, рис.2.8а), то предельные вероятности состояний существуют и они не зависят ни от времени, ни от начального состояния системы.

При этом, естественно, сохраняется условие:

Рис. 2.7.8 а) –– граф замкнутой системы

Рис. 2.7.8 б) –– граф разомкнутой системы

Таким образом, при t ® ¥ в системе устанавливается некоторый предельный стационарный режим, который состоит в том, что система случайным образом меняет свои состояния, но вероятность каждого из них уже не зависит от времени: каждое из состояний реализуется с некоторой постоянной вероятностью P i .

При этом предельная вероятность P i представляет собой среднее относительное время пребывания системы в данном i-м состоянии, т.е. после перехода системы в установившийся режим работы она будет находиться в состоянии S i в течение времени, пропорциональном P i .

Например, если система имеет состояния S 0 , S 1 , S 2 и предельные вероятности равны 0.4, 0.1, 0.5, то после перехода в установившийся режим 40% времени система будет находиться в состоянии S 0 , 10% –– в состоянии S 1 и 50% –– в состоянии S 2 .

Для вычисления предельных вероятностей в системе дифференциальных уравнений Колмогорова необходимо левые части уравнений положить равными нулю (как производные от постоянных, поскольку теперь вероятности состояний не зависят от времени). Тогда исходная система дифференциальных уравнений трансформируется в систему линейных алгебраических уравнений, решение которых совместно с (2.85) дает возможность определить предельные вероятности P i .

Размеченный граф замкнутой системы имеет следующий вид.


Рис. 2.7.9. Размеченный граф замкнутой системы.

Система дифференциальных уравнений Колмогорова:

Соответствующая линейная система алгебраических уравнений:

Решением этой системы будут значения предельных вероятностей.

Асимптотические оценки в соответствии с известной теоремой А.А. Маркова могут быть получены для марковских цепей, обладающих эргодическим свойством.

Определение 1. Если число состояний системы конечно и из каждого состояния можно перейти в любое другое за произвольное число шагов, то говорят, что такая система обладает эргодическим свойством.

Определение 2. Пусть марковский процесс характеризуется ве­роятностями перехода из состоянияiв состояниеjза времяt

p ij (t) (0?i?n; 0?j?n).

Процесс называется транзитивным, если существует такое t>0, что p ij (t)>0 (0?i?n; 0?j?n). Из определений 1 и 2 следует, что процессы в марковских цепях с эргодическим свойством являются транзитивными.

Теорема Маркова . Для любого транзитивного марковского процесса пределсуществует и не зависит от начального состоянияi.

Это означает, что при t?? в системе устанавливается неко­торый предельный стационарный режим, характеризующийся постоян­ной, не зависящей от времени, вероятностью каждого из состояний системы. При этом данная вероятность представляет собой среднее относительное время пребывания системы в данном состоянии. Это значит, что если время работы всей системы 100 ч, а вероятность состояния S 1 равна p 1 =0,15, то система будет находиться в состоянии S 1 в среднем 15 ч.

Пределы, к которым стремятся вероятности каждого из состоя­ний марковской цепи с эргодическим свойством при t??, называ­ются предельными вероятностями. При рассмотрении СМО мы будем иметь дело только с эргодическими марковскими цепями. Пусть V - некоторое подмножество множества состояний системы S , а V’ - его дополнение до S . Если множество V обладает эргодическим свойс­твом и ни из одного состояния множества V нельзя перейти ни в од­но из состояний множества V’, то множество называется замкнутым или эргодическим множеством. Эргодические системы состоят из од­ного единственного эргодического множества (S=V, V’=?) и называются поэтому неразложимыми. Если в системе S множество V"?? или в этой системе можно выделить несколько эргодических множеств S = V 1 ?V 2 ?…?V n , то такая система называется разложимой. Примеры таких систем приведены на рис.1.3.

На рис.1.3,а представлена сис­тема с двумя эргодическими множест­вами V 1 =(S 2 ,S 3 ,S 4) иV 2 (S 5 ,S 6). На рис.1.3,б эргодическое множество состоит лишь из одного состояния (S 4). Если эргодическое множест­во состоит лишь из одного состоя­ния, то это состояние называется поглощающим, так как попав в не­го однажды, процесс остается нав­сегда в поглощающем состоянии. Ха­рактерная особенность графа состо­яний неразложимой эргодической мар­ковской системы заключается в том, что каждой вершине этого графа ин­цидентны дуги как с положительной, так и с отрицательной инцидент­ностью (т.е. у каждой вершины име­ются дуги, направленные как к вер­шине, так и от нее, см., например, рис. 1.1 и 1.2).

Вычисление предельных вероят­ностей состояний для таких систем упрощается в связи с тем, что, поскольку все эти вероятности яв­ляются постоянными величинами, то их производные по времени рав­ны 0 (dp i /dt=0 для всехi). Поэтому левые части системы уравнений Колмогорова (1.7) приравниваются нулю и она превращается в систе­му линейных алгебраических уравнений

Нетривиальное решение системы (1.8) может быть получено только в случае вырожденности матрицы?. Выше было доказано, что матрица плотностей вероятностей? является вырожденной. Система (1.8) без одного из своих уравнений дополняется условием нормировки

Соотношения (1.8) и (1.9) позволяют определить предельные вероят­ности состояний. Поскольку часть слагаемых, соответствующая дугам с отрицательной инцидентностью, положительна, а другая часть, со­ответствующая дугам с положительной инцидентностью, отрицательна, то каждое уравнение системы (1.8) может быть составлено с учетом мнемонического правила: для каждого состояния сумма членов, соот­ветствующих входящим дугам, равна сумме членов, соответствующих выходящим дугам.

Пример . Для системы, изображенной на рис.1.2, из уравнений Колмогорова (1.7) следует

  • (? 12 +? 13)p 1 =? 41 p 4 (? 41 +? 45)p 4 =? 34 p 3
  • ? 25 p 1 =? 12 p 1 +? 32 p 3 ? 53 p 3 =? 52 p 2 +? 45 p 4
  • (? 3 2 +? 3 4)p 4 =? 13 p 1 +? 5 3 p 5 (1.10)

Для решения (1.10) нужно исключить любое из первых пяти уравнений (например, пятое, как содержащее наибольшее число членов).

Предельные вероятности состояний используются в ТМО значи­тельно чаще, чем решения уравнений Колмогорова, причем, зная ре­шение системы уравнений Колмогорова, можно определить момент окончания переходного процесса изменения вероятностей состояний во времени. Это дает возможность рассчитать, промежуток времени начиная от включения системы в работу, по истечении которого ве­роятности состояний достигнут своих предельных значений и будут справедливы оценки, использующие эти значения. В заключение этого параграфа рассмотрим один частный, но практически очень важный класс марковских процессов, широко применяемых при исследовании СМО. Это - процессы "размножения и гибели". К ним относятся мар­ковские цепи, представимые размеченным графом, который состоит из вытянутой цепочки состояний, изображенной на рис.1.4.

Матрица плотностей вероятностей переходов такой системы яв­ляется якобиевой (тридиагональной):


Рассматривая начальное состояние S 0 , получим в соответствии с (1.8)

01 p 0 =? 10 p 1 (1.11)

Для состояния S 1 имеем

01 p 0 +? 21 p 2 =? 10 p 1 +? 12 p 1 (1.12)

Вычитая из (1.12) равенство (1.11), получим

21 p 2 = ? 12 p 1 (1.13)

Продолжая этот процесс до n-гoсостояния включительно, получим

N , n -1 p n =? n -1, n p n -1

Из (1.11) теперь можно выразить p 1 через р 0:

p 1 =p 0 (? 01 /? 10) (1.14)

Подставляя (1.14) в (1.13), получим

p 2 =p 0 (? 01 ? 12 /? 10 ? 21)

Очевидно, что для произвольного k (1?k?n) будет справедливо вы­ражение

В соответствии с (1.15) и размеченным графом состояний, представленным на рис.1.4, можно сформулировать правило, с по­мощью которого можно выразить предельные вероятности состояний процесса "размножения и гибели" через вероятность начального сос­тояния р 0 . Это правило гласит: вероятность произвольного состоя­ния p k (l?k?n) равна вероятности начального состояния р 0 , умно­женной на дробь, числитель которой равен произведению плотностей вероятностей перехода для дуг, переводящих состояние системы сле­ва направо, а знаменатель - произведение плотностей вероятностей перехода справа налево от начального до k-гo состояний включи­тельно.

Вероятность р 0 находится из условия нормировки и выражений (1.15) следующим образом:

Выражения (1.15) и (1.16) полностью определяют предельные вероят­ности процесса "размножения и гибели".

Рассмотрим математическое описание марковского процесса с дискретными состояниями и непрерывным временем* на примере случайного процесса из примера 1, граф которого изображен на рис. 1. Будем полагать, что все переходы системы из состояния впроисходят под воздействием простейших потоков событий с интенсивностями; так, переход системы из состояниявбудет происходить под воздействием потока отказов первого узла, а обратный переход из состоянияв- под воздействием потока "окончаний ремонтов" первого узла и т.п.

Граф состояний системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. 1). Рассматриваемая система имеет четыре возможных состояния:.

Вероятностью i-го состояния называется вероятность того, что в моментсистема будет находиться в состоянии. Очевидно, что для любого моментасумма вероятностей всех состояний равна единице:

Рассмотрим систему в момент и, задав малый промежуток, найдем вероятностьтого, что система в моментбудет находиться в состоянии. Это достигается разными способами.

1. Система в момент с вероятностьюнаходилась в состоянии, а за времяне вышла из него.

Вывести систему из этого состояния (см. граф на рис. 1) можно суммарным простейшим потоком с интенсивностью , т.е. в соответствии с формулой (7), с вероятностью, приближенно равной. А вероятность того, что система не выйдет из состояния, равна. Вероятность того, что система будет находиться в состояниипо первому способу (т.е. того, что находилась в состояниии не выйдет из него за время), равна по теореме умножения вероятностей:

2. Система в момент с вероятностями(или) находилась в состоянииилии за времяперешла в состояние.

Потоком интенсивностью (или- с- рис. 1) система перейдет в состояниес вероятностью, приближенно равной(или). Вероятность того, что система будет находиться в состояниипо этому способу, равна(или).

Применяя теорему сложения вероятностей, получим

Переходя к пределу при (приближенные равенства, связанные с применением формулы (7), перейдут в точные), получим в левой части уравнения производную(обозначим ее для простоты):

Получили дифференциальное уравнение первого порядка, т.е. уравнение, содержащее как саму неизвестную функцию, так и ее производную первого порядка.

Рассуждая аналогично для других состояний системы , можно получить систему дифференциальных уравнений Колмогорова для вероятностей состояний:

Сформулируем правило составления уравнений Колмогорова . В левой части каждого из них стоит производная вероятности i-го состояния. В правой части - сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i-го состояния).

В системе (9) независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение (8).

Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задать так называемые начальные условия, т.е. в данном случае вероятности состояний системы в начальный момент . Так, например, систему уравнений (9) естественно решать при условии, что в начальный момент оба узла исправны и система находилась в состоянии, т.е. при начальных условиях.

Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени . Особый интерес представляют вероятности системы впредельном стационарном режиме , т.е. при , которые называютсяпредельными (или финальными) вероятностями состояний.

В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое состояние, то предельные вероятности существуют.

Предельная вероятность состояния имеет четкий смысл: она показываетсреднее относительное время пребывания системы в этом состоянии . Например, если предельная вероятность состояния , т.е., то это означает, что в среднем половину времени система находится в состоянии.

Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим. Для системы с графом состояний, изображенном на рис. 1), такая система уравнений имеет вид:

Систему (10) можно составить непосредственно по размеченному графу состояний, если руководствоваться правилом, согласно которому слева в уравнениях стоит предельная вероятность данного состояния , умноженная на суммарную интенсивность всех потоков, ведущих из данного состояния, а справа - сумма произведений интенсивностей всех потоков, входящих в i-е состояние, на вероятности тех состояний, из которых эти потоки исходят.

Рассматривая марковские процессы с дискретными состояниями и непрерывным временем, нам удобно будет представлять себе, что все переходы системы состояния в состояние происходят под действием каких-то потоков событий (поток вызовов, поток отказов, поток восстановлений и т. д.). Если все потоки событий, переводящие систему S из состояния в состояние, - простейшие, то процесс протекающий в системе, будет марковским. Это и естественно, так как простейший поток не обладает последействием: в нем «будущее» не зависит от «прошлого».

Если система S находится в каком-то состоянии из которого есть непосредственный переход в другое состояние (стрелка, ведущая из на графе состояний), то мы себе это будем представлять так, как будто на систему, пока она находится в состоянии действует простейший поток событий, переводящий ее по стрелке . Как только появится первое событие этого потока, происходит «перескок» системы из

Для наглядности очень удобно на графе состояний у каждой стрелки проставлять интенсивность того потока событий, который переводит систему по данной стрелке. Обозначим интенсивность потока событий, переводящего систему из состояния

На рис. 17.1 дан граф состояний с проставленными у стрелок интенсивностями (мы будем называть такой граф размеченны .

Построим размеченный граф состояний для примера, данного в § 15 (техническое устройство из двух узлов). Напомним состояния системы:

Оба узла исправны,

Первый узел ремонтируется, второй исправен,

Второй узел ремонтируется, первый исправен,

Оба узла ремонтируются.

Интенсивности потоков событий, переводящих систему из состояния в состояние, будем вычислять, предполагая, что среднее время ремонта узла не зависит от того, ремонтируется ли один узел или оба сразу.

Это будет именно так, если ремонтом каждого узла занят отдельный специалист. Найдем все интенсивности потоков событий, переводящих систему из состояния в состояние. Пусть система находится в состоянии . Какой поток событий переводит ее в состояние ? Очевидно, поток отказов первого узла. Его интенсивность равна единице, деленной на среднее время безотказной работы первого узла. Какой поток событий переводит систему обратно из ? Очевидно, поток «окончаний ремонтов» первого узла. Его интенсивность равна единице, деленной на среднее время ремонта первого узла. Аналогично вычисляются интенсивности потоков событий, переводящих систему по всем стрелкам графа рис. 17.2.

Имея в своем распоряжении размеченный граф состояний системы, легко построить математическую модель данного процесса.

В самом деле, пусть рассматривается система S, имеющая возможных состояний . Назовем вероятностью состояния вероятность того, что в момент t система будет находиться в состоянии . Очевидно, что для любого момента сумма всех вероятностей состояний равна единице:

Имея в своем распоряжении размеченный граф состояний, можно найти все вероятности состояний как функции времени. Для этого составляются и решаются так называемые уравнения Колмогорова - особого вида дифференциальные уравнения, в которых неизвестными функциями являются вероятности состояний.

Покажем на конкретном примере, как эти уравнения составляются. Пусть система S имеет четыре состояния: размеченный граф которых показан на рис. 17.3. Рассмотрим одну из вероятностен состояний, например Это - вероятность того, что в момент t система будет в состоянии S. Придадим t малое приращение и найдем - вероятность того, что в момент система будет в состоянии . Как это может произойти? Очевидно, двумя способами: либо 1) в момент t система уже была в состоянии а за время не вышла из него; либо 2) в момент t система была в состоянии а за время перешла из него в

Найдем вероятность первого варианта. Вероятность того, что в момент t система была в состоянии равна . Эту вероятность нужно умножить на вероятность того, что, находившись в момент t в состоянии система за время не перейдет из него ни в ни в . Суммарный поток событий, выводящий систему из состояния тоже будет простейшим, с интенсивностью (при наложении - суперпозиции - двух простейших потоков получается опять простейший поток, так как свойства стационарности, ординарности и отсутствия последействия сохраняются).

Значит, вероятность того, что за время система выйдет из состояния равна вероятность того, что не выйдет: Отсюда вероятность первого варианта равна .

Найдем вероятность второго варианта. Она равна вероятности того, что в момент t система будет в состоянии а за время перейдет из него в состояние т. е. она равна

Складывая вероятности обоих вариантов (по правилу сложения вероятностей), получим:

Раскроем квадратные скобки, перенесем в левую часть и разделим обе части на

Устремим, как и полагается в подобных случаях, к нулю; слева получим в пределе производную функции Таким образом, запишем дифференциальное уравнение для

или, короче, отбрасывая аргумент t у функций (теперь он нам больше уже не нужен):

Рассуждая аналогично для всех остальных состояний, напишем еще три дифференциальных уравнения. Присоединяя к ним уравнение (17.2), получим систему дифференциальных уравнений для вероятностей состояний:

Это - система четырех линейных дифференциальных уравнений с четырьмя неизвестными функциями Заметим, что одно из них (любое) можно отбросить, пользуясь тем, что выразить любую из вероятностей через другие, это выражение подставить в (17.3), а соответствующее уравнение с производной отбросить.

Сформулируем теперь общее правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности какого-то состояния. В правой части - сумма произведений вероятностей всех состояний, из которых идут стрелки в данное состояние, на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного состояния.

Пользуясь этим правилом, запишем уравнения Колмогорова для системы S, размеченный граф состояний которой дан на рис. 17.2:

Чтобы решить уравнения Колмогорова и найти вероятности состояний, прежде всего надо задать начальные условия. Если мы точно знаем начальное состояние системы , то в начальный момент (при ) , а все остальные начальные вероятности равны нулю. Так, например, уравнения (17.4) естественно решать при начальных условиях (в начальный момент оба узла исправны).

Как решать подобные уравнения? Вообще говоря, линейные дифференциальные уравнения с постоянными коэффициентами можно решать аналитически, но это удобно только когда число уравнений не превосходит двух (иногда - трех).

Если уравнений больше, обычно их решают численно - вручную или на ЭВМ.

Таким образом, уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени.

Поставим теперь вопрос: что будет происходить с вероятностями состояний при ? Будут ли стремиться к каким-то пределам? Если эти пределы существуют и не зависят от начального состояния системы, то они называются финальными вероятностями состояний. В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое, то финальные вероятности существуют

Предположим, что это условие выполнено и финальные вероятности существуют:

Финальные вероятности мы будем обозначать теми же буквами что и сами вероятности состояний, но разумея под ними уже не переменные величины (функции времени), а постоянные числа. Очевидно, они тоже образуют в сумме единицу:

Как понимать эти финальные вероятности? При в системе S устанавливается предельный стационарный режим, в ходе которого система случайным образом меняет свои состояния, но их вероятности уже не зависят от времени. Финальную вероятность состояния можно истолковать как среднее относительное время пребывания системы в этом состоянии. Например, если система S имеет три состояния и их финальные вероятности равны 0,2, 0,3 и 0,5, это значит, что в предельном, стационарном режиме система в среднем две десятых времени проводит в состоянии три десятых - в состоянии и половину времени - в состоянии

Как же вычислить финальные вероятности? Очень просто. Если вероятности постоянны, то их производные равны нулю. Значит, чтобы найти финальные вероятности, нужно все левые части в уравнениях Колмогорова положить равными нулю и решить полученную систему уже не дифференциальных, а линейных алгебраических уравнений. Можно и не писать уравнений Колмогорова, а прямо по графу состояний написать систему линейных алгебраических уравнений. Если перенести отрицательный член каждого уравнения из правой части в левую, то получим сразу систему уравнений, где слева стоит финальная вероятность данного состояния умноженная на суммарную интенсивность всех потоков, ведущих из данного состояния, а справа - сумма произведений интенсивностей всех потоков, входящих в состояние, на вероятности тех состояний, из которых эти потоки исходят.

Рассматривая марковские процессы с дискретными состояниями и непрерывным временем, удобно будет представлять себе, что все переходы системы S из состояния в состояние происходят под действием каких-то потоков событий (поток вызовов, поток отказов, поток восстановлений и т.д.). Если все потоки событий, переводящие систему S из состояния в состояние – простейшие, то процесс протекающий в системе, будет марковским (простейший характер потоков – достаточное, но не необходимое условие для марковского процесса, т.к. простейший поток не обладает последействием: в нем "будущее" не зависит от "прошлого").

Если система S находится в каком-то состоянии S i , из которого есть непосредственный переход в другое состояние S j , то это представим так, что на систему, пока она находится в состоянии S i , действует простейший поток событий, переводящий ее по стрелке . Как только появится первое событие этого потока, происходит переход системы изS i в S j . Для наглядности на графе состояний у каждой стрелки проставим интенсивность того потока событий, который переводит систему по данной стрелке. Обозначим λ ij интенсивность потока событий, переводящего систему из состояния S i в S j . Такой граф будем называть размеченным (рис. 4.8). (вернемся к примеру технического устройства из двух узлов).

Напомним состояния системы:

S 0 – оба узла исправны;

S 1 – первый узел в ремонте, второй исправен;

S 2 – второй узел в ремонте, первый исправен;

S 3 – оба узла в ремонте.

Интенсивности потоков событий, переводящих систему из состояния в состояние, будем вычислять, предполагая, что среднее время ремонта узла не зависит от того, ремонтируется один узел или оба сразу. Это будет так, если ремонтом каждого узла занят отдельный специалист.

Найдем все интенсивности потоков событий, переводящих систему из состояния в состояние. Пусть система находится в состоянии S 0 . Какой поток событий переводит ее в состояние S 1 ? Очевидно, поток отказов первого узла. Его интенсивность  1 равна единице, деленной на среднее время безотказной работы первого узла. Поток событий, переводящий систему обратно из S 1 в S 0 – поток окончаний ремонтов первого узла. Его интенсивность  1 равна единице, деленной на среднее время ремонтов первого узла. Аналогично вычисляются интенсивности потоков событий, переводящих систему по всем стрелкам графа рис. 4.9.

Имея размеченный граф состояний системы, можно построить математическую модель данного процесса.

Пусть рассматривается система S, имеющая n возможных состояний S 1 , S 2 , …, S n . Назовем вероятностью i – го состояния вероятность P i (t) того, что в момент t система будет находится в состоянии S i . Очевидно, что для любого момента сумма всех вероятностей состояний равна единице.

(4.5)

Имея в своем распоряжении размеченный граф состояний, можно найти все вероятности состояний P i (t) как функции времени. Для этого составляются и решаются уравнения Колмогорова – особого вида дифференциальные уравнения, в которых неизвестными функциями являются вероятности состояний.

Посмотрим на примере, как эти уравнения составляются. Пусть система S имеет 4 состояния: S 1 , S 2 , S 3 , S 4 , размеченный граф которых показан на рис. 4.10. Рассмотрим одну из вероятностей состояний, например P 1 (t). Это – вероятность того, что в момент t система будет в состоянии S 1 . Придадим t малое приращение t и найдем P 1 (t+t) – вероятность того, что в момент t+t система будет находится в состоянии S 1 . Как это может произойти? Очевидно, двумя способами:

    в момент t система уже была в состоянии S 1 , а за время t не вышла из него; либо

    в момент t система была в состоянии S 2 , а время t перешла из него в S 1 .

Найдем вероятность первого варианта. Вероятность того, что в момент t система была в состоянии S 1 , равна P 1 (t). Эту вероятность нужно умножить на вероятность того, что находившись в момент t в состоянии S 1 , система за время t не перейдет из него ни в S 2 , ни в S 3 . Суммарный поток событий, выводящий систему из состояния S 1 тоже будет простейшим, с интенсивностью  12 + 13 (при наложении – суперпозиции – двух простейших потоков получается опять простейший поток, т.к. свойства стационарности, ординарности и отсутствия последействия сохраняются), значит, вероятность того, что за время t система выйдет из состояния S 1 , равна ( 12 + 13) t, вероятность того, что не выйдет: 1-( 12 + 13) t. Отсюда вероятность первого варианта равна P 1 (t).

Найдем вероятность второго варианта. Она равна вероятности того, что в момент t система будет в состоянии S 2 , а за время t перейдет из него в состояние S 1 , т.е. она равна P 2 (t) 21 t.

Складывая вероятности обоих вариантов (по правилу сложения вероятностей), получим: P 1 (t+t)=P 1 (t)+P 2 (t) 21 t.

Раскроем квадратные скобки, перенесем P 1 (t) в левую часть и разделим обе части на t:

Устремим t к нулю; слева получим в пределе производную функции P 1 (t). Т.о., запишем дифференциальное уравнение для P 1 (t):

, или, отбрасывая аргумент t у функций P 1 , P 2:

(4.6)

Рассуждая аналогично для всех остальных состояний, напишем еще три дифференциальных уравнения. В результате получим систему дифференциальных уравнений для вероятностей состояний:

(4.7)

Это – система из 4-х линейных дифференциальных уравнений с четырьмя неизвестными функциями P 1 , P 2 , P 3 , P 4 . Одно из них (любое) можно отбросить, пользуясь тем, что
; выразить любую из вероятностейP i через другие, это выражение подставить в (4.7), а соответствующее уравнение с производной отбросить.

Сформулируем теперь общее правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности какого-то (i -го) состояния. В правой части – сумма произведений вероятностей всех состояний, из которых идут стрелки в данное состояние, на интенсивности соответствующих потоков событий, минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i -го) состояния.

Пользуясь этим правилом, напишем уравнения Колмогорова для системы S (рис. 4.9):

(4.8)

Чтобы решить уравнения Колмогорова и найти вероятности состояний, необходимо задать начальные условия. Если мы точно знаем начальное состояние системы S i (при t=0) P i (0)=1, а все остальные начальные вероятности равны 0. Так уравнения (4.8) естественно решать при начальных условиях P 0 (0)=1, P 1 (0)=P 2 (0)=P 3 (0)=0 (в начальный момент оба узла исправны). Обычно, когда число уравнений больше двух (трех) их решают численно на ЭВМ.

Т.о., уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени.