Практикум по прикладой статистике

40

41

42

43

Тема 3. Компонентный анализ

Теоретические основы

Компонентный анализ – это метод снижения размерности информационного пространства путем линейного преобразования исходных переменных.

Компонентный анализ широко применяется в исследованиях в области медицины, социологии, психологии. Одной из самых распространенных задач, решаемых с помощью компонентного анализа, является обработка результатов маркетинговых исследований. Также метод применяется для исследования различий в территориальном развитии, в частности, регионов, городов и пр.

В качестве основных задач, решаемых с помощью метода главных компонент, указывают следующие:

снижение числа анализируемых переменных;

классификация переменных.

Компонентный анализ содержит один метод – метод главных компонент. В методе главных компонент производится вращение исходной системы координат к новой системе в полном пространстве параметров – ортогональное преобразование, при котором каждый из m параметров является линейной комбинацией m главных компонент. Метод главных компонент имеет много общего с методом главных факторов, некоторые исследователи включает его в состав факторного анализа. Укажем основные отличия компонентного анализа от факторного:

во-первых, возможность одновременного вычисления всех главных компонент, число которых равно числу исходных переменных;

во-вторых, главные компоненты объясняют 100% вариации исходных переменных, тогда как в факторном анализе допускается существование характерности переменных;

в-третьих, компонентный анализ основан на объяснении дисперсии переменных (минимизация остаточной дисперсии переменных), а факторный анализ – на объяснении корреляции переменных (минимизация остаточной корреляции).

44

Идея метода главных компонент заключается в том, что каждая компонента учитывает максимум суммарной дисперсии параметров: первая главная компонента есть линейная комбинация исходных параметров, учитывающая максимум их суммарной дисперсии; вторая главная компонента не коррелирует с первой и учитывает максимум оставшейся дисперсии и т.д. до тех пор, пока вся дисперсия начальных параметров не будет учтена [7, с. 152]. Таким образом, главные компоненты образуют ортогональную систему координат.

Математическая модель метода главных компонент имеет следующий вид:

xij ai1 f1 j ai 2 f2 j ... aim fmj ,

( i 1, n; j 1, m; r 1, m )

где n – число объектов наблюдения; m – число показателей, характеризующих объект; r – число значимых общих факторов; xij – центрированное значение j-го показателя (переменной) у i-го объекта исследования; fr – r-я главная компонента; a jr – весовой коэффициент j-й переменной на r-й главной компоненте.

Алгоритм метода главных компонент

1.Представление исходных данных в виде матрицы Х, размерностью n×m, где n - число объектов наблюдения, m - число признаков наблюдения.

2.Стандартизация матрицы исходных данных по формуле

признаков (Z).

3.Расчет матрицы парных коэффициентов корреляции по формуле R 1n Z Z .

4.Определение матрицы собственных чисел Λ путем решения характеристического уравнения R E 0 .

45

5.Определение матрицы собственных векторов U путем решения матричного уравнения R E U 0 .

6.Определение матрицы нормированных собственных векторов V путем преобразования ненормированных собственных

7. Определение матрицы факторного отображения A по

формуле A V 1 2 , элементы которой представляют собой частные коэффициенты корреляции между исходными переменными и главными компонентами.

8. Определение матрицы значений главных компонент по формуле F A 1Z .

Пример 3.1. В таблице представлены результаты обследования промышленных предприятий по четырем показателям:

х1 – годовой фонд оплаты труда, тыс. руб.; х2 – среднегодовая стоимость основных средств, тыс. руб.; х3 – производительность труда, тыс. руб.;

х4 – чистая прибыль предприятия за год, тыс. руб.

Необходимо найти матрицу значений главных компонент F.

Решение:

Матрица исходных данных Х имеет вид:

46

Далее составляется и решается характеристическое уравнение (для решения уравнения применяется метод множителей Лагранжа):

Решение уравнения представляется в виде диагональной матрицы собственных чисел:

47

На основе собственных значений определяются доля объясненной дисперсии исходных переменных каждой компонентой: первая главная компонента объясняет 63,9% вариации переменных (2,56/4*100%=63,9%), вторая главная компонента – 31,1% (1,25/4*100%=31,1%), третья главная компонента – (0,17/4*100%=4,3%), четвертая главная компонента –

0,7% (0,03/4*100%=0,7%).

Матрица нормированных значений собственных векторов:

Матрица факторного отображения принимает вид:

48

Элементы матрицы факторного отображения представляют собой коэффициенты парной корреляции между главными компонентами и исходными переменными.

На основе элементов матрицы осуществляется расчет коэффициента информативности (Ки) главной компоненты, который позволяет определить достаточность набора объясняющих переменных для содержательной интерпретации главных компонент. Коэффициент информативности для каждой компоненты определяется как отношение суммы квадратов значимых коэффициентов корреляции к сумме квадратов всех коэффициентов корреляции соответствующей компоненты с начальными переменными. К множеству значимых коэффициентов относятся коэффициенты, значения которых равны или больше 0,7.

Набор объясняющих переменных считается достаточным при значении коэффициента информативности равным 0,75-0,95.

Коэффициент информативности первой главной компоненты равен 0,83:

Коэффициент информативности второй главной компоненты равен 0,42:

Таким образом, набор объясняющих переменных для первой главной компоненты является достаточным, а для второй главной компоненты – недостаточным. Отметим, что применение процедуры вращения главных компонент позволит улучшить решение.

49