2.Поиск оценок коэффициентов линейной регрессии.

Коэффициенты b_i в регрессии (2.8) определяются методом наименьших квадратов (см. математический анонс в разделе 2.1.3). из условия минимума Ф:

.

Если в это выражение подставить в виде (2.8), то условием минимума функцииФ будет равенство нулю её частных производных по коэффициентам:

Ф/b₀ = 0, Ф/b₁ = 0, Ф/b₂ = 0, .... Ф/b_n = 0 . (2.13)

Выполнив дифференцирование, систему (2.13) можно представить в матричной форме:

XXB = XY, (2.14)

где:

Y=X=B=

Y – вектор наблюдений, X – матрица факторов (единицы в первом столбце - значения фиктивного фактора, который вводится для расчета коэффициента b₀), размерность матрицы m*(n+1). B – вектор коэффициентов, X-транспонированная матрица факторов, размерность матрицы (n+1)*m, XX –информационная матрица, размерность матрицы (n+1)*(n+1).

Решение системы (2.14) относительно вектора B:

B= (XX)^-1 XY , (2.15)

где (XX)^-1 - обратная матрица.

Погрешность расчета коэффициента b_i: = ,i = 0, 1,… n,

где: - выборочная оценка дисперсии коэффициента регрессииb_i, которая рассчитывается по формуле

, (2.16)

- дисперсия остатков, C_ii– диагональный элемент матрицы .

(2.17)

3.Анализ остатков и выявление выбросов.

По величине остатка r_i = можно судить о точности представления линейной моделью экспериментальных данных (см. математический анонс в разделе 2.1.3). Остаток является величиной случайной. Известно, что в случае достаточно точной модели остатки должны быть распределены по нормальному закону. Опыты, остатки в которых нарушают нормальность распределения, являются выбросами и их следует исключить из обработки, т.к. они искажают истинную картину регрессии. О соответствии распределения остатков нормальному закону можно судить по правилу двух сигм: все значения нормально распределенной величины с вероятностью 0.95 попадают в интервал [математическое ожидание 2σ], где σ – стандартное отклонение. Математическое ожидание остатка равно нулю, в качестве приближенного значения σ принимается выборочное отклонениеS_ост, которое определяется по остаточной дисперсии :

S_ост = ,(2.18)

Таким образом, опыт, в котором |r_i| > 2 S_ост является выбросом.

4.Проверка значимости влияния факторов на отклик.

При постановке экспериментального исследования, как правило, заранее неизвестна степень влияния отдельных факторов на отклик. Может возникнуть ситуация, когда результаты эксперимента не зависят или слабо зависят от некоторого фактора, который, тем не менее, включен в уравнение регрессии. Проверка значимости факторов определяется с помощью критерия Стьюдента

t _i =| b_i | / . (2.19)

По критерию Стьюдента для всех коэффициентов регрессии с помощью функции распределения можно рассчитать уровень значимости, назовём его p–level. Если для коэффициента при каком-то факторе значение p–level превысит 0.05 (уровень значимости при вероятности 0.95), то предполагается, что этот фактор не оказывает влияние на отклик, т.е. коэффициент незначим. Для проверки этого предположения следует исключить фактор из уравнения регрессии, пересчитать коэффициенты и проанализировать, как повлияло исключение фактора на точность регрессии. Если точность увеличилась (уменьшилась) или не изменилась, фактор действительно следует исключить из регрессии. Если точность уменьшилась (увеличилась), фактор исключать не следует.