Эконометрика и эконометрическое моделирование

Данная тема знакомит студентов с некоторыми методами многомерного статистического анализа (МСА), которые получили наибольшее распространение. При изучении данной темы необходимо уделить особое внимание типам задач, для решения которых используются методы МСА. Технология решения задач подробно рассмотрена в [7]. Практическое применение методов МСА требует обязательного использования вычислительной техники и специального программного обеспечения. Программа курса предусматривает по данной теме выполнение лабораторной работы с помощью программы СтатЭксперт.

Факторный и компонентный анализ в большинстве случаев проводятся совместно.

Компонентный анализ является методом определения структурной зависимости между случайными переменными. В результате его использования получается сжатое описание малого объема, несущее почти всю информацию, содержащуюся в исходных данных. Главные компоненты получаются из исходных переменных путем целенаправленного вращения, т.е. как линейные комбинации исходных переменных. Вращение производится таким образом, чтобы главные компоненты были ортогональны и имели максимальную дисперсию среди возможных линейных комбинаций исходных переменных X. При этом переменные не коррелированы между собой и упорядочены по убыванию дисперсии (первая компонента имеет наибольшую дисперсию). Кроме того, общая дисперсия после преобразования остается без изменений.

Факторный анализ является более общим методом преобразования исходных переменных по сравнению с компонентным анализом.

Факторный анализ

Факторный анализ - выявление и обоснование действия различных признаков и их комбинаций на исследуемый процесс путем снижения их размерности. Такая задача решается, как правило, путем "сжатия" исходной информации и выделения из нее наиболее "существенной" информации, т.е. описание объектов меньшим числом обобщенных признаков, называемых факторами.

При использовании методов факторного анализа решаются следующие задачи: [3]

отыскание скрытых, но объективно существующих закономерностей исследуемого процесса, определяемых воздействием внутренних и внешних причин;

описание изучаемого процесса значительно меньшим числом факторов по сравнению с первоначально взятым количеством признаков;

выявление первоначальных признаков, наиболее тесно связанных с основными факторами;

прогнозирование процесса на основе уравнения регрессии, построенного по полученным факторам.

Кластерный анализ

Кластерный анализ -- это совокупность методов, позволяющих классифицировать многомерные наблюдения, каждое из которых описывается набором признаков (параметров) Х₁, Х₂, ..., Х_k. Целью кластерного анализа является образование групп схожих между собой объектов, которые принято называть кластерами (класс, таксон, сгущение).

Кластерный анализ -- одно из направлений статистического исследования. Особо важное место он занимает в тех отраслях науки, которые связаны с изучением массовых явлений и процессов. Необходимость развития методов кластерного анализа и их использования продиктована тем, что они помогают построить научно обоснованные классификации, выявить внутренние связи между единицами наблюдаемой совокупности. Кроме того, методы кластерного анализа могут использоваться с целью сжатия информации, что является важным фактором в условиях постоянного увеличения и усложнения потоков статистических данных.Методы кластерного анализа позволяют решать следующие задачи [2]:

* проведение классификации объектов с учетом признаков, отражающих сущность, природу объектов. Решение такой задачи, как правило, приводит к углублению знаний о совокупности классифицируемых объектов;

* проверка выдвигаемых предположений о наличии некоторой структуры в изучаемой совокупности объектов, т.е. поиск существующей структуры;

* построение новых классификаций для слабоизученных явлений, когда необходимо установить наличие связей внутри совокупности и попытаться привнести в нее структуру.

Дискриминантный анализ

Дискриминантный анализ является разделом многомерного статистического анализа, который включает в себя методы классификации многомерных наблюдений по принципу максимального сходства при наличии обучающих признаков.

Напомним, что в кластерном анализе рассматриваются методы многомерной классификации без обучения. В дискриминантном анализе новые кластеры не образуются, а формулируется правило, по которому объекты подмножества подлежащего классификации относятся к одному из уже существующих (обучающих) подмножеств (классов), на основе сравнения величины дискриминантной функции классифицируемого объекта, рассчитанной по дискриминантным переменным, с некоторой константой дискриминации.Предположим, что существуют две или более совокупности (группы) и что мы располагаем множеством выборочных наблюдений над ними. Основная задача дискриминантного анализа состоит в построении с помощью этих выборочных наблюдений правила, позволяющего отнести новое наблюдение к одной из совокупностей.

Постановка задачи дискриминантного анализа

Пусть имеется множество M единиц N объектов наблюдения, каждая i-я единица которого описывается совокупностью p значений дискриминантных переменных (признаков) x_ij , (i=1,2,..., N; j = 1,2,..., р). Причем все множество M объектов включает q обучающих подмножеств (q2) M_k размером п_k каждое и подмножество M₀ объектов подлежащих дискриминации (под дискриминацией понимается различие). Здесь k - номер подмножества (класса), (k = 1,2,..., q).

Требуется установить правило (линейную или нелинейную дискриминантную функцию f(Х)) распределения m-объектов подмножества M₀ по подмножествам M_k. Наиболее часто используется линейная форма дискриминантной функции, которая представляется в виде скалярного произведения векторов A=(a₁,a₂,…,a_p) дискриминантных множителей и вектора X_i=(x_i,1,x_i,2,…,x_i,p) дискриминантных переменных: , (6.1)

или .

Здесь _i - транспонированный вектор дискриминантных переменных x_ij - значений j -ых признаков у i -го объекта наблюдения.

Дискриминантный анализ проводится в условиях следующих основных предположений:

- множество M объектов разбито на два или более (q 2) подмножеств M_k (класса), которые отличаются от других групп переменными x_ij;

- в каждом подмножестве M_k находится, по крайней мере, два объекта (n_k 2), причем все объекты наблюдения множества M должны принадлежать какому либо из подмножеств (классов);

- число N объектов наблюдения должно превышать число р дискриминантных переменных (0< р< N-2) не менее чем на две единицы; линейная независимость между признаками (j), т.е. ни один из признаков не должен быть линейной комбинацией других признаков, в противном случае он не несет новой информации;нормальный закон распределения дискриминантных переменных x_ij (по признакам).

Если приведенные предположения не удовлетворяются, то ставится вопрос о целесообразности использования дискриминантного анализа для классификации новых наблюдений.

Основными проблемами дискриминантного анализа являются отбор дискриминантных переменных и выбор вида дискриминантной функции. Для получения наилучших различий обучающих подмножеств могут использоваться критерии последовательного отбора переменных [6] или пошаговый дискриминантный анализ. После определения набора дискриминантных переменных решается вопрос о выборе вида дискриминантной функции (линейной или нелинейной).

В качестве дискриминантных переменных могут выступать не только исходные (наблюдаемые) признаки, но и главные компоненты или главные факторы, выделенные в факторном анализе.

Дискриминантный анализ может использоваться и для прогнозирования поведения наблюдаемых единиц статистической совокупности путем сопоставления их с поведением аналогичных объектов обучающих подмножеств.

Алгоритм выполнения дискриминантного анализа

Алгоритм дискриминантного анализа рассмотрен применительно к линейной дискриминантной функции вида (6.1). Рассмотрим основные этапы алгоритма.

1. Исходные данные представляются либо в табличной форме

*) Здесь n_k - объем обучающей выборки в k-ом подмножестве

в виде q подмножеств (обучающих выборок) M_k и подмножества M₀ объектов подлежащих дискриминации, либо сразу в виде матриц X⁽¹⁾,X⁽²⁾,…,X^(q) размером

(n_k p):;;…

, ,

где X^(k), - матрицы с обучающими признаками (k=1,2,…,q), X⁽⁰⁾ матрица новых m-объектов, подлежащих дискриминации (размером mp), p- количество свойств, которыми характеризуется каждый i-ый объект. Здесь должно выполняться условие: общее количество объектов N множества M должно быть равно сумме количества объектов m (в подмножестве M₀) подлежащих дискриминации и общего количества объектов в обучающих подмножествах: , где q- количество обучающих подмножеств (q2). В реальной практике наиболее часто реализуется случай q=2, поэтому и алгоритм дискриминантного анализа приведен для данного варианта.

2. Определяются элементы векторов средних значений по каждому j-му признаку для i объектов внутри k-го подмножества (k=1,2):

, j=1,2,…,p.

Результаты расчета представляются в виде векторов столбцов:

.

3. Для каждого обучающего подмножества рассчитываются ковариационные матрицы (размером p p):

4. Рассчитывается объединенная ковариационная матрица по формуле:

.

5. Рассчитывается матрица обратная к объединенной ковариационной матрице :

,

где || - определитель матрицы , (причем ||),

- присоединенная матрица, элементы которой являются алгебраическими дополнениями элементов матрицы ?.

6. Рассчитывается вектор-столбец дискриминантных множителей с учетом всех элементов обучающих подмножеств, по формуле:

.

Данная расчетная формула получена с помощью метода наименьших квадратов из условия обеспечения наибольшего различия между дискриминантными функциями. Наилучшее разделение двух обучающих подмножеств обеспечивается сочетанием минимальной внутригрупповой вариации и максимальной межгрупповой вариации.

7. По каждому i-му объекту (i=1,2,…,N) множества M определяется соответствующее значение дискриминантной функции:

.

8. По совокупности найденных значений рассчитываются средние значения для каждого подмножества M_k

, k=1,2.

9. Определяется общее среднее (константа дискриминации) для дискриминантных функций

.

10. Выполняется распределение (дискриминация) объектов подмножества M₀ подлежащих дискриминации по обучающим выборкам M₁ и M₂. С этой целью рассчитанные в п.7. по каждому i-му объекту значения дискриминантных функций

, i=1,2,…,m

сравниваются с величиной общего среднего. На основе сравнения данный объект относят к одному из обучающих подмножеств.

Если , то i-ый объект подмножества M₀ относят к подмножеству M₁ при и к подмножеству M₂ при . Если же , то заданный объект относят к подмножеству M₁ при и к подмножеству M₂ в противном случае.

11. Далее делается оценка качества распределения новых объектов, для чего оценивается вклад переменных в дискриминантную функцию.

Влияние признаков на значение дискриминантной функции и результаты классификации, может оцениваться по дискриминантным множителям (коэффициентам дискриминации), по дискриминантным нагрузкам признаков или по дискриминантной матрице.

Дискриминантные множители зависят от масштабов единиц измерения признаков, поэтому они не всегда удобны для оценки. Дискриминантные нагрузки более надежны в оценке признаков, они вычисляются как парные линейные коэффициенты корреляции между рассчитанными уровнями дискриминантной функции F и признаками, взятыми для ее построения.

Дискриминантная матрица характеризует меру соответствия результатов классификации фактическому распределению объектов по подмножествам и используется для оценки качества анализа. В этом случае дискриминантная функция F формируется по данным объектов (с измеренными p признаками) обучающих подмножеств, а затем проверяется качество этой функции путем сопоставления фактической классовой принадлежности объектов с той, что получена в результате формальной дискриминации.

Пример применения дискриминантного анализа при наличии двух обучающих выборок (q=2) ^*)

Имеются данные по двум группам промышленных предприятий отрасли:

Х₁ -- среднегодовая стоимость основных производственных фондов, млн. д.ед.;

X₂ -- среднесписочная численность персонала тыс. чел;

X₃ -- балансовая прибыль млн. д. ед.

Исходные данные представляются в табличной форме

*) Расчеты данного примера выполнялись в среде EXCEL.

Необходимо провести классификацию (дискриминацию) трех новых предприятий, образующих группу М₀ с известными значениями исходных переменных.

Решение

Значения исходных переменных для обучающих подмножеств М₁ и М₂ (групп предприятий) записываются в виде матриц Х⁽¹⁾ и Х⁽²⁾:

;;

и для подмножества М₀ группы предприятий подлежащих классификации в виде матрицы X⁽⁰⁾:

.

Общее количество предприятий, составляющих множество M, будет равно N=3+4+5=12 ед.

2. Определяются элементы векторов средних значений по j признакам для i-х объектов по каждой k-ой выборке (k=1,2), которые представляются в виде двух векторов (по количеству обучающих выборок):

, .

3. Для каждого обучающего подмножества М₁ и М₂ рассчитываются ковариационные матрицы (размером pxp):

;

4. Рассчитывается объединенная ковариационная матрица

.

5. Рассчитывается матрица обратная к объединенной ковариационной матрице: .

6. Рассчитываются дискриминантные множители (коэффициенты дискриминантной функции) по всем элементам обучающих подмножеств:

7. Для каждого i-го объекта k-го подмножества M определяется значение дискриминантной функции:

=^.224,228+^. 17,115+()^.22,981 =55,38211

=^.151,827+^. 14,904+()^. 21,481=43,47791

=^.147,313+^. 13,627+()^. 28,669=39,41138

=^.152,253+^. 10,545+()^. 10,199=36,13924 =^.46,757+^. 4,428+()^. 11,124=12,44351

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . =^.63,979+^. 4,211+()^. 12,860=13,56655

8. По совокупности найденных значений рассчитываются средние значения для каждого подмножества M_k:

43,60266,

13,10853.

9. Определяется общее среднее (константа дискриминации) для дискриминантных функций

.

10. Выполняется распределение объектов подмножества M₀ по обучающим подмножествам М₁ и М₂ , для чего по каждому объекту (i=1,2,3) рассчитываются дискриминантные функции=^.55,451+^. 9,592+()^. 12,840=23,68661 =^.78,575+^. 11,727+()^. 15,535=30,11366 =^.98,353+^. 17,572+()^. 20,458=43,47699

и затем рассчитанные значения дискриминантных функций сравниваются с общей средней .

Поскольку , то i-ый объект подмножества M₀ относят к подмножеству M₁ при и к подмножеству M₂ при . С учетом этого в данном примере предприятия 2 и 3 подмножества М₀ относятся к М₁, а предприятие 1 к М_2.Если бы выполнялось условие , то объекты М₀ относились к подмножеству M₁ при и к подмножеству M₂ в противном случае.

11. Оценку качества распределения новых объектов выполним путем сравнения с константой дискриминации значений дискриминантных функций обучающих подмножеств М₁ и M₂. Поскольку для всех найденных значений выполняются неравенства > , и <, то можно предположить о правильном распределении объектов в уже существующих двух классах и верно выполненной классификации объектов подмножества M₀ .

Литература по теме 6.

1. Айвазян С.А., Мхитарян В.С. Прикладная статистика и основы эконометрики.- М.: ЮНИТИ, 1998. 1022 с.

2. Глинский В.В., Ионин В.Г. Статистический анализ. Учебное пособие. -М.: Информационно-издательский дом «Филинъ», 1998.- 264 с.

3. Дубров А.М., Мхитарян В.С., Трошин Л.И. Многомерные статистические методы: Учебник.- М.: Финансы и статистика, 1998. -352 с.

4. Клаичев А.П. Методы и средства анализа данных в среде Windows. STADIA 6.0. -M.: Информатика и компьютеры, 1998. 270 с.

5. Сошникова Л.А., Тамашевич В.Н., Уебе Г., Шефер М. Многомерный статистический анализ в экономике: Учеб. Пособие для вузов/Под ред. проф. В.Н. Тамашевича.- М.: ЮНИТИ-ДАНА, 1999.-558 с.

6. Факторный, дискриминантный и кластерный анализ: Пер. с англ./Дж.Щ.Ким, Ч.У. Мьюллер, У.Р. Клекка и др.; Под ред. И.С. Енюкова.-М.: Финансы и статистика, 1989.-215 с.

Задание для выполнения контрольной работы по дисциплине

Задача 1.

По предприятиям легкой промышленности региона получена информация, характеризующая зависимость объема выпуска продукции (, млн. руб.) от объема капиталовложений (, млн. руб.)

Требуется:

Найти параметры уравнения линейной регрессии, дать экономическую интерпретацию коэффициента регрессии.

Вычислить остатки; найти остаточную сумму квадратов; оценить дисперсию остатков ; построить график остатков.

Проверить выполнение предпосылок МНК.

Осуществить проверку значимости параметров уравнения регрессии с помощью t-критерия Стьюдента

Вычислить коэффициент детерминации, проверить значимость уравнения регрессии с помощью - критерия Фишера , найти среднюю относительную ошибку аппроксимации. Сделать вывод о качестве модели.

Осуществить прогнозирование среднего значения показателя при уровне значимости , если прогнозное значения фактора Х составит 80% от его максимального значения.

Представить графически: фактические и модельные значения точки прогноза.

Составить уравнения нелинейной регрессии:

· гиперболической;

· степенной;

· показательной.

Привести графики построенных уравнений регрессии.

Для указанных моделей найти коэффициенты детерминации и средние относительные ошибки аппроксимации. Сравнить модели по этим характеристикам и сделать вывод.

Вариант 1

Вариант 2

Вариант 3

Вариант 4

Вариант 5

Вариант 6

Вариант 7

Вариант 8

Вариант 9

Вариант 10

Задача 2.

Задача 2а и 2б. Для каждого варианта даны по две СФМ, которые заданы в виде матриц коэффициентов модели. Необходимо записать системы одновременных уравнений и проверить обе системы на идентифицируемость.