et= aet-1 +dt, (П2.15)
где a- некоторый числовой коэффициент, не превосходящий по абсолютной величине единицу (|a| < 1), а dt- последовательность случайных величин, образующая белый шум. При этом et зависит от dt и всех предшествующих d, но не зависит от будущих значений d. Соответственно, в уравнении (П2.15) dt не зависит от et-1 и более ранних значений e. В связи с этим, dt называют инновацией (обновлением).
Последовательности e, удовлетворяющие соотношению (П2.15), часто называют также марковскими процессами. Это означает, что
Eetº 0, (П2.16)
r(et,et±k) = ak, (П2.17)
Det =
, (П2.18)cov(et,et±k) = akDet. (П2.19)
Одно важное следствие (П2.19) состоит в том, что если величина |a| близка к единице, то дисперсия et будет намного больше дисперсии d. А это значит, что если соседние значения ряда et сильно коррелированы, то ряд довольно слабых возмущений dt будет порождать размашистые колебания остатков et.
Основные характеристики процесса авторегрессии 1-го порядка следующие.
Условие стационарности ряда (П2.15) определяется требованием к коэффициенту a: |a| < 1,
или, что то же, корень z0 уравнения 1 -az = 0 должен быть по абсолютной величине больше единицы.
Автокорреляционная функция марковского процесса определяется соотношением (П2.17):
r(t) =r(et,et±t) = at. (П2.20)
Отсюда же, в частности, следует простая вероятностная интерпретация параметра a: a= r(et,et±1),
т.е. значение a определяет величину корреляции между двумя соседними членами ряда et.
Из (П2.20) видно, что степень тесноты корреляционной связи между членами последовательности (П2.15) экспоненциально убывает по мере их взаимного удаления друг от друга во времени.
Частная автокорреляционная функцияrчаст(t) = r(et,et+t| et+1 =et+2=…= et+t-1 = 0) может быть подсчитана с помощью формул (П2.4)–(П2.5). Непосредственное вычисление по этим формулам дает следующий простой результат: значения частной корреляционной функции rчаст(t) равны нулю для всех t = 2, 3,…. Это свойство может быть использовано при подборе модели: если вычисленные выборочные частные корреляции
статистически незначимо отличаются от нуля при t = 2, 3,…, то использование модели авторегрессии 1-го порядка для описания поведения случайных остатков временного ряда не противоречит исходным статистическим данным.Спектральная плотность марковского процесса (П2.15) может быть подсчитана с учетом известного вида автокорреляционной функции (П2.20):
.В случае значения параметра a близкого к 1, соседние значения ряда et близки друг к другу по величине, автокорреляционная функция экспоненциально убывает оставаясь положительной, а в спектре преобладают низкие частоты, что означает достаточно большое среднее расстояние между пиками ряда et. При значении параметра a близком к –1, ряд быстро осциллирует (в спектре преобладают высокие частоты), а график автокорреляционной функции экспоненциально спадает до нуля с попеременным изменением знака.
Идентификация модели, т.е. статистическое оценивание ее параметров a и
по имеющейся реализации временного ряда xt (а не его остатков, которые являются ненаблюдаемыми), основана на соотношениях (П2.16)-(П2.19) и может быть осуществлена с помощью метода моментов. Для этого следует предварительно решить задачу выделения неслучайной составляющей , что позволит оперировать в дальнейшем остатками (П2.21)Затем подсчитывается выборочная дисперсия
остатков по формулегде
, а «невязки» (остатки) вычислены по формуле (П2.21).Оценку
параметра a получаем с помощью формулы (П2.18), подставляя в нее вместо коэффициента корреляции его выборочное значение, т.е. .Наконец, оценка
параметра основана на соотношении (П2.19), в котором величины Det и a заменяются оценками, соответственно, и :Модели авторегрессии 2-го порядка – AR(2) (процессы Юла). Эта модель, как и AR(1), представляет собой частный случай авторегрессионного процесса, когда все коэффициенты pj в правой части (П2.14) кроме первых двух, равны нулю. Соответственно, она может быть определена выражением
et= a1et-1+ a2et-2+ dt, (П2.22)
где последовательность d1,d2,… образует белый шум.
Условия стационарности ряда (П2.22) (необходимые и достаточные) определяются как:
В рамках общей теории моделей те же самые условия стационарности получаются из требования, чтобы все корни соответствующего характеристического уравнения лежали бы вне единичного круга. Характеристическое уравнение для модели авторегрессии 2-го порядка имеет вид:
Автокорреляционная функция процесса Юла подсчитывается следующим образом. Два первых значения r(1) и r(2) определены соотношениями
а значения для r(t), t = 3, 4,… вычисляются с помощью рекуррентного соотношения r(t) = a1r(t- 1) + a2r(t- 2).
Частная автокорреляционная функция временного ряда, сгенерированного моделью авторегрессии 2-го порядка, обладает следующим отличительным свойством: rчаст(t) = 0 при всех t = 3, 4,…
Спектральная плотность процесса Юла может быть вычислена с помощью формулы:
Идентификация модели авторегрессии 2-го порядка основана на соотношениях, связывающих между собой неизвестные параметры модели a1, a2 и
со значениями различных моментов «наблюдаемого» временного ряда et.По значениям
вычисляются оценки и , соответственно, дисперсии Det и автокорреляций r(1) и r(2). Это делается с помощью соотношений (П2.2) и (П2.3):После этого можно получить оценки
и из соотношенийНаконец, оценку параметра
получаем с помощьюМодели авторегрессии p-го порядка – AR(p) (p³ 3). Эти модели, образуя подмножество в классе общих линейных моделей, сами составляют достаточно широкий класс моделей. Если в общей линейной модели (П2.14) полагать все параметры pj, кроме первых p коэффициентов, равными нулю, то мы приходим к определению AR(p)-модели: