
,…,

. (3.1)
Здесь и в дальнейшем через

обозначена вероятность события, указанного в фигурных скобках.
Для трех моментов времени

формула (3.1) принимает вид:

,…,

.(3.2)
Поэтому часто говорят, что характерное свойство марковских процессов состоит в следующем: если точно (если настоящее состояние

известно не точно, то будущее состояние марковского процесса будет зависеть от прошлых состояний) известно состояние марковского процесса в настоящий момент времени (

), то будущее состояние (при

) не зависит от прошлого состояния (при

).
В случае, если пространство состояний

,

, …,

марковского процесса

является конечным или счетным, марковский процесс называется цепью Маркова. Если параметр

принимает значения только в дискретном множестве, то цепь Маркова называется цепью с дискретным временем. Если же параметр

принимает значения в некотором непрерывном множестве, то цепь Маркова называется цепью с непрерывным временем.
Важным частным случаем цепи Маркова с непрерывным временем является так называемый процесс гибели и размножения.
Случайный процесс

,

называется процессом гибели и размножения, если он удовлетворяет условиям:
– пространство состояний процесса есть множество неотрицательных целых чисел (или некоторое его подмножество;
– время пребывания процесса в состоянии

имеет показательное распределение с параметром

и не зависит от предыдущего поведения процесса;
– после завершения пребывания процесса в состоянии

он переходит в состояние

с вероятностью

,

и в состояние

с вероятностью

. Вероятность

полагается равной 1.
Состояние процесса

,

в момент времени

можно трактовать как размер некоторой популяции в этот момент времени. Переход из состояния

в состояние

трактуется как рождение нового члена популяции, а переход в состояние

– как гибель члена популяции. Такая трактовка процесса и объясняет его название.
В дальнейшем применительно к марковским процессам будем пользоваться следующими обозначениями:

, если пространство состояний (фазовое пространство) процесса непрерывно, и

, если пространство состояний дискретно.
Полумарковские процессы объединяют теорию цепей Маркова, разрывных марковских процессов и теорию восстановления. В соответствии с предложенной методикой анализа марковских процессов приведем определение полумарковского процесса.
Пусть поведение некоторой системы описывается следующим образом. В каждый момент времени система может находиться в одном из

возможных фазовых состояний

,

, …,

, причем известны начальное состояние системы (в начальный момент времени

она находиться в состоянии

) и одношаговые вероятности перехода

,

,

. следовательно, процесс

есть однородная цепь Маркова.
Сопоставим каждому ненулевому элементу

матрицы вероятностей перехода случайную величину

с функцией распределения

. В теории массового обслуживания случайную величину

обычно рассматривают как время пребывания системы в состоянии

при условии, что следующим состоянием, в которое перейдет система, будет

. При этом величина

считается неотрицательной и непрерывной с плотностью вероятности

. При такой интерпретации величину

можно назвать временем ожидания в состоянии

до перехода в

.
Представим, что точка, отображающая поведение системы на фазовой плоскости, остается в состоянии

в течении времени

, прежде чем она прейдет в

(рис. 3.1). По достижении

«мгновенного» (в соответствии с матрицей вероятностей перехода

) выбирается следующее состояние

, и после того как состояние

выбрано, время ожидания в

полагается равным

с функцией распределения

или плотностью вероятности

.Этот процесс затем следует неограниченно продолжать, выбирая каждый раз независимо следующее состояние и время ожидания. Если через

обозначить состояние системы, занятое в момент времени

. То полученный случайный момент принято называть полумарковским.