Если в марковском процессе с непрерывным временем, дискретные состояния связаны между собой в одно кольцо и имеют односторонние переходы, то такой процесс называется циклическим (рисунок 4). Например, автомобиль последовательно может быть исправным и работать (), ожидать ремонта (), ремонтироваться (), ожидать работы после ремонта () и снова работать (). Платности вероятности переходов будут соответственно
|
|
|
|
Рисунок 4. Марковский циклический процесс
Для предельных вероятностей, то есть , и при переходе из первого во второе состояние имеем =, далее =; ; при переходе в последнее состояние ; при переходе из последнего в первое .