Останнє підставляємо в (1.1.21)
= + (X'X)-1A'(A(X'X)-1A')-1(c - A ) мінімізує ε'ε при обмеженнях Aβ = c.1.2 F-критерій
Розглянемо лінійну модель Y =Хβ + ε, в якій матриця X має розмір n
р і ранг р, ε ~ Nn(0, σ2In). Нехай ми хочемо перевірити гіпотезу H: Аβ = c, де А - відома (q p) - матриця рангу q, а с - відомий (q 1) - вектор. ПозначимоRSS = (Y –X
)'(Y-X ) = (n – p)S2RSSH = (Y –X
H)'(Y-X H)Де
H = + (Х'Х)-1А'[А(Х'Х)-1А']-1(с-А ), (1.2.1)і RSSH - мінімальне значення ε'ε при обмеженнях Аβ = с.
Теорема 1.2.1.
(I) RSSH - RSS = (А
- c)' [А (Х'Х)-1 А']-1 (А - c),(II) М [RSSH - RSS] = σ2q + (Аβ -с)' [А(Х'Х)-1А']-1(Аβ - с).
(III) Якщо гіпотеза Н: Аβ = с справедлива, то статистика
F =
має розподіл Фішера Fq,n-p (F-розподіл з q і n - p ступенями вільності відповідно).
(IV) Якщо с = 0, то статистика F приймає вигляд
F =
,де РH - симетрична і ідемпотентна матриця і РНP = PРН = РН
Доведення.
(I) Спочатку доведемо тотожність:
||Y - X
H||2 = ||Y - X ||2 + ||X( - H)||2Розглянемо
||X(
- )||2 = (X( - β))'X( - β) = ( - β)'X'X ( - β) = ( - H + H - β)'X'X ( - H + H - β) == (
- H)'X'X ( - H) + ( H - β)'X'X ( H - β) == 2
((X'X)-1A' )'X'X( H - β) = A(X'X)-1 X'X( H - β) = A( H - β) = (A H - Aβ) = (c – c) = 0 = (X( - H))'X( - H) + (X( H - β))'X( H - β) = ||X( - H)||2 + ||X( H- β)||2.Далі,
ε'ε = (Y – Xβ)'(Y – Xβ) = ||Y – Xβ||2 = (Y - X
)'(Y - X ) ++ (
- β)'X'X( - β) = ||Y - X ||2 + ||X( - β)||2Підставляємо
||X(
- β)||2:ε'ε = ||Y - X
||2 + ||X( - H)||2 + ||X( - β)||2ε'ε досягає мінімального значення при ||X(
- β)||2 = 0, тобтоX(
- β) = 0β =
, Х ≠ 0 (оскільки стовпці Х лінійно незалежні)Покладаючи в ε'ε β =
, знаходимо||Y - X
H||2 = ||Y - X ||2 + ||X( - H)||2Тоді
RSSH – RSS = (Y - X
H)'(Y - X H) – (Y - X )'(Y - X ) == ||Y - X
H||2 - ||Y - X ||2 = ||X( - H)||2 = (X( - H))'(X( - H)) =