Определение 2. Решение x ( t ) = x ( t ; t
0 , x
0 ) системы (1) называется неустойчивып по Ляпунову в положительном направлении (или неустойчивым), если оно не является устойчивым в положительном направлении.
Аналогично определяется неустойчивость в отрицательном направлении.
Комментарий к определению 2. Геометрически неустойчивость по Ляпунову означает, что среди решений, близких в начальный момент t
0 к решению х ( t ) , найдется хотя бы одно, которое в некоторый момент t
1 ( свой для каждого такого решения) выйдет за пределы e - трубки (рис.3).
Приведем примеры из механики, иллюстрирующие определения различных типов устойчивости для одномерного случая, т.е. n = 1.
Рассмотрим маятник, состоящий из точечной массы m, укрепленной на невесомом стержне длиной l (рис.4). Выведем маятник из состояния I, отклонив стержень на угол a ; тогда, как известно из опыта, он будет стремиться занять вновь положение I. Если пренебречь сопротивлением окружающей среды, то маятник будет колебаться возле положения I сколь угодно долго с амплитудой, равной начальному отклонению, - это модель устойчивого положения равновесия. Если же учитывать сопротивление окружающей среды, то амплитуда колебаний маятника будет уменьшаться и в итоге он снова займет положение I - это модель асимптотически устойчивого положения равновесия. Если маятник находится в положении II, то малейшее его смещение приведет к удалению маятника от состояния II - это модель не устойчивого положения равновесия.

x
0 t
Рис.3 Рис.4

Исследование устойчивости произвольного решения x ( t ) системы (1) всегда можно свести к исследованию устойчивости нулевого решения некоторой преобразованной системы. Действительно, в системе (1) произведем подстановку y ( t ) = x - x (t). Тогда получим систему

y’ = F ( t, y ).
(4)

где F ( t , y ) = f ( t , y ( t ) + x ( t ) ) - f ( t , x ( t ) ) , F (t, 0) º 0 " t ³ t
0.

Решению x ( t ) системы (1) соответствует нулевое решение y (t) º 0 системы (4).

В дальнейшем будем предполагать, что система (1) имеет нулевое решение, т.е. f ( t , 0 ) = 0 " t ³ t
0, и ограгничимся исследованием устойчивости нулевого решения. Переформулируем определения различных типов устойчивости для нулевого решения x ( t ) º 0 системы (1).
Определение 3. Нулевое решение x ( t ) º 0 системы (1) называется устойчивым по Ляпунову в положительном направлении (или устойчивым), если "e > 0 $d = d ( e ) > 0 такое, что " x
0 | D x0 | £dÞ | x ( t ; t0 , x0 ) | £e" t ³ t0.
Если кроме того,

$

D > 0 " x
0 | D x
0 | £DÞ | x ( t ; t
0 , x
0 ) | ® 0 , t ® +
¥,

то решение x ( t ) º 0 системы (1) называется асимптотически устойчивым в положительном направлении ( или асимптотически устойчивым ) .
Определение 4. Нулевое решение x ( t ) º 0 системы (1) называется неустойчивым по Ляпунову в положительном направлении (или неустойчиво), если оно не является устойчивым в положительном направлении, т.е.

$e > 0 $ t
1 > t
0"d > 0 x
0¹ 0 | x
0 | £dÞ | x ( t ; t
0 , x
0 ) | > e .
Геометрическая интерпритация устойчивости, асимптотической устойчивости и неустойчивости нулевого решения x ( t ) º 0 системы (1) дана соответственно на рис.5-7.
2. Устойчивость решения автономной системы. Устойчивость решения системы линейных дифференциальных уравнений с постоянными коэффициентами.
Система обыкновенных дифференциальных уравнений называется автономной (или стационарной, или консервативной, или динамической), если независимая переменная не входит явно в систему уравнений.
Нормальную автономную систему n - го порядка можно записать в векторной форме :

dx / dt = f ( x ).
(5)Рассмотрим задачу Коши для системы (5) с начальными условиями (2). В дальнейшем предполагаем, что задача Коши (5), (2) удовлетворяет условиям теоремы существования и единственности.

Пусть x = x ( t ) - есть решение системы (5). Направленная кривая g , которую можно параметрически задать в виде x
i = x
i ( t ) ( i = 1, ... , n ), называется траекторией (фазовым графиком) системы (5) или траекторией решения x = x ( t ). Пространство R
n с координатами ( x
1 , ... , x
n ), в котором расположены траектории системы (5), называется фазовым пространством автономной системы (5). Известно, что интегральные кривые системы (5) можно параметрически задать в виде t = t , x
1 = x
1 ( t ), ... , x
n = x
n ( t ). Следовательно, интегральная кривая принадлежит пространству R
n+1 с координатами ( t , x
1 , x
2 , ... , x
n ) , а траектория является проекцией интегральной кривой на пространство R
n параллельно оси t. Проиллюстрируем это для случая n = 2 , т.е. когда R
n+1 - трехмерное пространство, а фазовое пространство R
n - двумерная плоскость. На рис.8,а изображена интегральная кривая, заданная параметрическими уравнениями t = t, x
1 = x
1 ( t ) , x
2 = x
2 ( t ), на рис.8,б - ее проекция на плоскость, т.е. траектория, заданная параметрическими уравнениями x
1 = x
1 ( t ) , x
2 = x
2 ( t ). Стрелкой указано направление возрастания параметра t.