Для получения уравнения регрессии достаточно первых четырех предпосылок. Требование выполнения пятой предпосылки (т.е. рассмотрение «нормальной регрессии») необходимо для оценки точности уравнения регрессии и его параметров.
Оценкой модели (2.2) по выборке является уравнение регрессии:
(1.8). Параметры этого уравнения и определяются на основе метода наименьших квадратов.Теорема Гауса-Маркова. Если регрессионная модель удовлетворяет предпосылкам 1-4, то оценки
и имеют наименьшую дисперсию в классе линейных несмещенных оценок, т.е. являются эффективными оценками параметров и .Воздействие неучтенных случайных факторов и ошибок наблюдений в модели (2.2) определяется с помощью дисперсии возмущений (ошибок) или остаточной дисперсии
. Несмещенной оценкой этой дисперсии является выборочная остаточная дисперсия (2.6)где
— групповая средняя, найденная по уравнению регрессии; — выборочная оценка возмущения , или остаток регрессии.В знаменателе выражения (2.6) стоит число степеней свободы n—2, а не n, так как две степени свободы теряются при определении двух параметров прямой
и .Построим доверительный интервал для функции регрессии, т.е. для условного математического ожидания
, который с заданной надежностью (доверительной вероятностью) =1— накрывает неизвестное значениеНайдем дисперсию групповой средней
, представляющей выборочную оценку С этой целью уравнение регрессии (1.15) представим в виде: (2.7)На рис. 2.1 линия регрессии (2.7) изображена графически. Для произвольного наблюдаемого значения
, выделены его составляющие: средняя , приращение , образующие расчетное значение , и возмущение ,. Дисперсия групповой средней равна сумме дисперсий двух независимых слагаемых выражения (2.7) : (2.8)Дисперсия выборочной средней
= (2.9)Для нахождения дисперсии
представим коэффициент регрессии в виде: (2.10)тогда
(2.11)Найдем оценку дисперсии групповых средних (2.8), учитывая (2.9) и (2.11) и заменяя
ее оценкой : (2.12)Исходя из того, что статистика t =
имеет -распределение Стьюдента с k=n—2 степенями свободы, можно построить доверительный интервал для условного математического ожидания (2.13)где
— стандартная ошибка групповой средней .Из формул (2,12) и (2,13) видно, что величина доверительного интервала зависит от значения объясняющей переменной х: при х =
она минимальна, а по мере удаления х от величина доверительного интервала увеличивается (рис. 2.2). Таким образом, прогноз значений (определение неизвестных значений) зависимой переменной у по уравнению регрессии оправдан, если значение объясняющей переменной не выходит за диапазон ее значений по выборке (причем тем более точный, чем ближе х к ). Другими словами, экстраполяция кривой регрессии, т.е. ее использование вне пределов обследованного диапазона значений объясняющей переменной (даже если она оправдана для рассматриваемой переменной исходя из смысла решаемой задачи) может привести к значительным погрешностям.Построенная доверительная область для
(см. рис. 2.2) определяет местоположение модельной линии регрессии (т.е. условного математического ожидания), но не отдельных возможных значений зависимой переменной, которые отклоняются от средней. Поэтому при определении доверительного интервала для индивидуальных значений зависимой переменной необходимо учитывать еще один источник вариации — рассеяние вокруг линии регрессии, т.е. в оценку суммарной дисперсии следует включить величину . В результате оценка дисперсии индивидуальных значений при х = равна: (2.14)а соответствующий доверительный интервал для прогнозов индивидуальных значений
будет определяться по формуле: (2.15)Проверить значимость уравнения регрессии — значит установить, соответствует ли математическая модель, выражающая зависимость между переменными, экспериментальным данным и достаточно ли включенных в уравнение объясняющих переменных (одной или нескольких) для описания зависимой переменной.
Проверка значимости уравнения регрессии производится на основе дисперсионного анализа. Дисперсионный анализ применяется как вспомогательное средство для изучения качества регрессионной модели.
Согласно основной идее дисперсионного анализа
(2.16)или
, (2.17)Где Q — общая сумма квадратов отклонений зависимой переменной от средней, a
и — соответственно сумма квадратов, обусловленная регрессией, и остаточная сумма квадратов, характеризующая влияние неучтенных факторов.Убедимся в том, что пропущенное в (2.17) третье слагаемое
равно нулю. Учитывая (2.7) и первое уравнение системы (1.11), имеем: