
.
Следовательно, DV —отрицательная функция и множество M — интервал оси абсцисс при

. Так как при

при

, то множество M не содержит целых траекторий, отличных от положения равновесия

.
По теореме 3 решение

системы асимптотически устойчиво, что и требовалось доказать.
Перейдем к рассмотрению неустойчивости. Пусть

— функция Ляпунова. Обозначим через

любую связную компоненту открытого множества

с началом координат на ее границе.
Теорема 4. Пусть существует функция Ляпунова

такая, что

не пусто и при

. Тогда решение

уравнения (1) неустойчиво.
Доказательство. Пусть

. Будем рассматривать решения

с начальной точкой

. Достаточно показать, что для каждого из этих решений можно указать момент T (для каждого решения свой) такой, что

.
Пусть это неверно, т. е. существует решение

, удовлетворяющее при всех

неравенству

. Покажем, что траектория решения

принадлежит

при

. Действительно, по определению

она может покинуть область

только через ту часть ее границы, где

. Но это невозможно, так как

и при возрастании

функция

строго возрастает, пока

, в силу (3).
Итак, доказано, что при

и

. Следовательно, по условию теоремы

при

. Интегрируя (3) от

до

, получаем

,
что противоречит ограниченности

при

. Противоречие доказывает теорему.
Пример. Рассмотрим уравнение

, где

— удовлетворяющая условию Липшица при

функция такая, что

при

. Докажем неустойчивость решения

.
Рассмотрим систему

, соответствующую уравнению примера. В качестве функции Ляпунова возьмем

. Имеем:

.
По теореме 4 решение

системы неустойчиво, что и требовалось доказать.
3.3. Устойчивость по первому приближению.
Рассмотрим дифференциальное уравнение

, (8)
где

— заданная квадратичная форма.
Лемма 1. Если собственные числа матрицы A удовлетворяют условию

, (9)
то уравнение (8) имеет единственное решение

, являющееся квадратичной формой.
В следующих двух леммах будут построены квадратичные формы, являющиеся функциями Ляпунова для линейного уравнения

(10)
и удовлетворяющие условиям теорем 2 и 4.
Лемма 2. Пусть все собственные числа матрицы A имеют отрицательные вещественные части,

— определенно-отрицательная квадратичная форма. Тогда уравнение (8) имеет единственное решение

, являющееся определенно-положительной квадратичной формой.
Лемма 3. Пусть матрица A имеет собственные числа с положительными вещественными частями. Тогда можно подобрать

такое, что существует единственное решение

уравнения

,
причем если

— определенно-положительная квадратичная форма, то область

для квадратичной формы

непуста.
Докажем теперь теоремы 5 и 6 пункта 2.6. Рассмотрим уравнение (1), у которого

(11)
где

удовлетворяет условию

(12)
равномерно по

.
Теорема 5 (см. теорему 5 п. 2.6). Если все собственные числа матрицы A имеют отрицательные вещественные части и

удовлетворяет условию (12), то решение

уравнения (1) асимптотически устойчиво.
Доказательство. Построим функцию Ляпунова, удовлетворяющую условию теоремы 2 для линейного уравнения (10), и покажем, что она удовлетворяет условиям теоремы 2 и для уравнения (1).
Пусть

— квадратичная форма, удовлетворяющая уравнению

.
По лемме 2

определенно-положительная. Определим ее производную DV в силу уравнения (1). Из (2) и (11) имеем:

. Отсюда получаем:

. (13)
Из (12) следует, что для любого

можно указать

такое, что при

выполняется

. Так как

— квадратичная форма, то

,

, и

. Очевидно также, что

. Из (13) и записанных неравенств следует, что

. Следовательно, DV — определенно-отрицательная функция при

, если a выбрать по

. Итак, выполнены все условия теоремы 2, откуда следует, что решение

уравнения (1) асимптотически устойчиво. Теорема 5 доказана.