Несмещенные оценки элементов ковариационной матрицы Σ есть
Cледовательно, можно определить
Необходимо ввести предположение, что все классы, среди которых должна проводиться дискриминация, имеют нормальное распределение с одной и той же ковариационной матрицей Σ.
В результате существенно упрощается выражение для дискриминантной функции.
Класс, к которому должна принадлежать точка х, можно определить на
основе неравенства
Необходимо воспользоваться формулой (1.1) для случая, когда их ковариационные матрицы равны:
Если имеется два вектора Z и W, то скалярное произведение можно записать
Аналогично проводятся преобразования по индексу i. Необходимо сократить правую и левую часть неравенства (1.5) на 2 и, используя запись квадратичных форм, получается
Необходимо ввести обозначения в выражение (1.6):
Тогда выражение (1.6) примет вид
Следствие: проверяемая точка х относится к классу i, для которого линейная функция
Преимущество метода линейной дискриминации Фишера заключается в линейности дискриминантной функции (1.8) и надежности оценок ковариационных матриц классов.
Пример
Имеются два класса с параметрами
2. ДИСКРИМИНАНТНЫЙ АНАЛИЗ ПРИ НОРМАЛЬНОМ ЗАКОНЕ РАСПРЕДЕЛЕНИЯ ПОКАЗАТЕЛЕЙ
Имеются две генеральные совокупности Х и У, имеющие трехмерный нормальный закон распределения с неизвестными, но равными ковариационными матрицами.
Алгоритм выполнения дискриминантного анализа включает основные этапы:
1. Исходные данные представляются либо в табличной форме в виде q подмножеств (обучающих выборок) Mk и подмножества М0 объектов подлежащих дискриминации, либо сразу в виде матриц X(1), X(2), ..., X(q), размером (nk×p):
Таблица 1
Номер подмножества Mk (k = 1, 2, ..., q) | Номер объекта, i (i = 1, 2, ..., nk) | Свойства (показатель), j (j = 1, 2, ..., p) | |||
x1 | x2 | … | x0 | ||
Подмножество M1 (k = 1) | 1 | | | … | |
2 | | | … | | |
… | … | … | … | … | |
n1 | | | … | | |
Подмножество M2 (k = 2) | 1 | | | … | |
2 | | | … | | |
… | … | … | … | … | |
n2 | | | … | | |
… | … | … | … | … | … |
Подмножество Mq (k = q) | 1 | | | … | |
2 | | | … | | |
… | … | … | … | … | |
nq | | | … | | |
Подмножество M0, подлежащее дискриминации | 1 | | | … | |
2 | | | … | | |
… | … | … | … | … | |
m | | | … | |
где X(k) - матрицы с обучающими признаками (k = 1, 2, ..., q),
X(0) матрица новых m-объектов, подлежащих дискриминации (размером m×p),
р — количество свойств, которыми характеризуется каждый i-й объект.
Здесь должно выполняться условие: общее количество объектов N множества М должно быть равно сумме количества объектов m (в подмножестве M0), подлежащих дискриминации, и общего количества объектов