Размещено на http://www.allbest.ru/

Правительство Российской Федерации

Федеральное государственное автономное образовательное учреждение высшего профессионального образования

«Национальный исследовательский университет

«Высшая школа экономики»

Факультет Санкт-Петербургская школа экономики и менеджмента

Департамент экономики

Магистерская диссертация

«Прогнозирование региональной динамики с учетом пространственной взаимосвязи на основе нейронных сетей»

по магистерской программе

«Прикладная экономика и математические методы»

Студента группы № 1122

по направлению подготовки

080100.68 «Экономика»

Семеенко А.С.

Научный руководитель

Пырлик В. Н.

Санкт-Петербург 2015 г.



Аннотация

Прогнозирование различных показателей, характеризующих региональную динамику, является актуальной задачей и входит в сферы интересов ряда различных национальных и международных организаций, которые осуществляют мониторинг социально-экономического положения и динамики регионов мира, отдельных стран и их регионов и проводят оценку последствий изменения региональной динамики в результате осуществления мер экономической политики и иных событий.

В данном исследовании предлагается новый метод макроэкономического и регионального прогнозирования -- прогнозирование региональной динамики на основе моделей искусственных нейронных сетей с включением пространственно-временных лагов, объясняющих переменных и комбинирования прогнозов. Выдвигаются две гипотезы относительно минимизации функции отклонения ошибки прогноза. Первая гипотеза предполагает снижение ошибки прогноза путем введения в модель пространственного лага, полученного на основе моделей, не учитывающих пространственную корреляцию переменных. Вторая гипотеза предполагает снижение ошибки прогноза путем комбинирования отдельных моделей, за счет одновременного использования моделей, отличающихся в своей «манере» интерпретировать входные данные.

Эмпирическое исследование проводится с применением нейросетевых (с различными сочетаниями параметров нейросетевой структуры) и линейных регрессионных моделей панельных данных с учетом и без учета пространственно-временных лагов факторов, а также несколько вариантов комбинирования прогнозов этих моделей на основе взвешенной регрессии для построения и анализа качества прогнозов региональной динамики США за период с 1987 по 2013 гг. Показано, что при использовании отдельных моделей наилучшие результаты прогнозирования демонстрируют нейросетевые модели с использованием пространственного лага, тогда как при комбинировании результатов нейросетевых и линейных панельных моделей достигнуты прогнозы более высокого качества.

Данная работа вносит свой вклад в общую теорию прогнозирования, в частности макроэкономического прогнозирования и моделирования макроэкономических пространственных взаимосвязей.

Ключевые слова: прогнозирование временных рядов, нелинейные модели, панельные данные, комбинирование прогнозов, искусственная нейронная сеть, пространственная корреляция, региональная динамика, региональный рост.



Введение

Прогнозирование различных показателей, характеризующих региональную динамику, является актуальной задаче и входит в сферы интересов ряда различных национальных и международных организаций (центральные банки экономические агентства, Мировой Банк и пр.). Подобные прогнозы строятся на регулярной основе для постоянного мониторинга социально-экономического положения и динамики регионов мира, отдельных стран и их регионов, а также в отдельных случаях для оценки разного рода благоприятных и неблагоприятных последствий изменения региональной динамики в результате осуществления мер экономической политики и иных событий, влияющих на социально-экономическое состояние регионов. Для решения задач прогнозирования региональной динамики применяется широкий спектр моделей, и с каждым разом предпринимаются пути их совершенствования. Так наибольшее распространение получили линейные [18, 25, 11, 22] и нелинейные прогнозные модели [28, 24, 9, 10], глубокий сравнительный анализ этих моделей приведен в статье Стока и Уотсона [28].

Среди нелинейных моделей большое распространение получили нейросетевые модели, которые в настоящее время широко используются при решении самых различных задач там, где обычные алгоритмические решения оказываются неэффективными или вовсе невозможными. Экономическое нейросетевое моделирование широко используется в моделировании и прогнозировании временных рядов на разных уровнях экономики, в том числе на уровне фирм [9, 37], отраслевых рынках [30, 12, 2] и на международном уровне [12, 26, 16]. Отметим статью, в которой осуществляется применение нейросетевых моделей, при исследовании и анализе мирового экономического кризиса 2007-2009 гг. проведенное А. Коком и Т. Теравирстрой 2013 г.[4]. Исследование, затрагивающее тематику пространственного прогнозирования, было проведено Пинг-Фэн Пай и Вэй Чан-Хун в статье 2005 г. в которой они осуществили прогнозирование региональной нагрузки электроэнергии с применением генетических алгоритмов [33].

В ходе обзора литературы относительно прогнозирования региональной динамики, был замечен следующий факт: существует множество линейных и нелинейных моделей с использованием и без использования такого параметра как пространственный лаг [18, 17, 11, 14, 23,25]. Наиболее популярной работой в области прогнозирования региональной динамики с использованием пространственных взаимосвязей, является статья Х. Счейна, П. Вэплера, А. Ейха [31], в которой осуществлялось построение регрессионной модели прогноза относительного такого параметра, как безработица с использованием пространственного лага. [2] Так же существует множество нейросетевых моделей, относительно прогнозирования региональной динамики, например известная статья 2002 г. Че-Чан Хсу и Чиа-Йон Чена, в которой приводятся модели прогнозирования региональной динамики через нейронные сети, но нигде не проводилось исследования использования нейросетевых моделей с пространственными взаимосвязями [10]. Соответственно объектом исследования является влияние пространственного лага, как дополнительного параметра на функцию отклонения в нейросетевых моделях. Выдвигается следующая гипотеза: введение пространственного лага в нейросетевую модель оказывает влияние на минимизацию функции отклонения модели, при наличии ошибки пространственной корреляции зависимых параметров.

Стоит отметить некоторые достоинства и недостатки нейросетвых и регрессионных моделей. К достоинствам регрессионных моделей относится их простота, гибкость, единообразие их анализа и проектирования [13], так же достоинством является прозрачность моделирования [29], т. е. доступность для анализа всех промежуточных вычислений. Главным недостатком регрессионных моделей является низкая адаптивность и отсутствие способности моделирования нелинейных процессов [21], в свою очередь главной особенностью нейросетевых моделей является их нелинейность [1], т.е. способность устанавливать нелинейные зависимости между будущими и фактическими значениями процессов. Возникает вопрос возможности компенсирования недостатков одних моделей достоинствами других, что даст возможность повысить точность прогнозирования. Такую возможность нам дает комбинирование моделей [3, 7, 5, 36]. Комбинирование модели в последнее время получили очень большую популярность, в области прогнозирования. В данной работе будет рассмотрен метод комбинирования моделей как один из приемов увеличения точности прогнозирования.

Выдвигается следующая гипотеза: метод комбинирования, как один из способов прогнозирования, в большей степени оказывает влияние на минимизацию функции отклонения модели, по сравнению с индивидуальными моделями, используемыми при комбинировании.

Целью исследования является построение комбинированной модели, на основе которой может быть проведен анализ и разработка методов увеличения точности прогнозирования показателей с последующей оценкой динамики и влияющих на выходной параметр данных. В качестве нейросетевой модели используется архитектура монотонного многослойного персептрона (нейронная сеть с прямым распространением сигнала и обратным распространением ошибки), главной особенностью которой является монотонное ограничение, которое гарантирует монотонно возрастающее поведение результатов моделирования в отношении указанных факторов, модель сводится к архитектуре стандартного многослойного персептрона, если монотонное ограничение не вызывается. В качестве эконометрической модели, как второй составляющей компоненты комбинированной модели, будет использоваться линейная панельная модель.

Эмпирическая база исследования представлена двумя блоками:

· статистические данные по динамике следующих макроэкономических показателей: ВВП на душу населения США, уровень населения США и уровень занятости США;

· данные, полученные в результате составления модели для получения прогнозных показателей входных параметров с помощью нейросетевой и эконометрической моделей.

В качестве прогнозируемого параметра используется реальный ВВП на душу населения, в качестве зависимых параметров используются: временной лаг ВВП на душу населения (выраженный в приростах), временной лаг населения (выраженный в приростах), временной лаг уровня занятости (выраженный в приростах), пространственный лаг ВВП на душу населения, пространственный лаг уровня занятости. Вариации подачи прогнозируемых рядов данных будут описаны в виде спецификаций, которые будут составлены на основании дифференциации подачи зависимых данных к прогнозируемым.

В результате эмпирического исследования показано, что при использовании отдельных моделей наилучшие результаты прогнозирования демонстрируют нейросетевые модели с использованием пространственного лага, тогда как при комбинировании результатов нейросетевых и линейных панельных моделей достигнуты прогнозы более высокого качества.

Структура текста работы следующая. Во втором разделе «Методология моделирования прогнозирования макроэкономических пространственных взаимосвязей», осущетсвляется обзор сбора и преобразования данных исследования, выдвигаются гипотезы, осущетсвляется построение и трансформация моделей, дается общее описание принципов и методов исследования. В третьем разделе осуществляется анализ результатов исследования, подтверждение на основании эмпирических результатов выдвинутых ранее гипотез, подтврержается значимость исследования.



1. Методология моделирования прогнозирования макроэкономических пространственных взаимосвязей

прогноз нейросетевой комбинирование регрессионный

1.1 Формирование данных

В проводимом исследовании были взяты такие показатели, как реальный ВВП на душу населения, измеряемый в долларах США, за период с 1987 по 2013 гг., уровень занятости, измеряемый в количестве занятых рабочих мест, и население США, измеряемое в количестве человек, эти показатели были переведены в относительные, выраженные в процентах к предыдущему периоду. Источником данных является официальный сайт бюро экономического анализа США [38]. Данные для исследования преобразованы в панельную структуру, единицей наблюдения в которой является уровень каждого показателя в каждом штате США за каждый год в выборке. Основные преимущества панельных данных позволяют строить более гибкие и содержательные модели [8]. Панельные данные представляют исследователю большое количество наблюдений, увеличивая число степеней свободы и снижая зависимость между объясняющими переменными, а, следовательно, стандартные ошибки оценок. Это в первую очередь важно для работы с макроэкономическими данными, так как для осуществления данного исследования, использование панельной структуры данных является единственным выходом, в связи с большой ограниченностью необходимых рядов данных.

Исследование проводилось по 50-ти Штатам Америки. В работе осуществляется прогноз реального ВВП на душу населения и отношение уровня реального ВВП к предыдущему году (выраженного в процентном соотношении). В качестве зависимого фактора к обоим прогнозируемым параметрам использовался уровень занятости, уровень населения и пространственный лаг, рассчитанный для каждого прогнозируемого параметра. Вариации подачи прогнозируемых рядов данных будут описаны в виде спецификаций, которые будут составлены на основании дифференциации подачи зависимых данных к прогнозируемым.

На рисунке 1 представлена карта США, которая наглядным образом демонстрирует пространственное расположение штатов. На рисунках 2 и 3 приведены картограммы исходных данных за 1 год (2012) построенные при помощи прикладного пакета Stata. На данных рисунках по средствам визуального анализа, можно отметить, что наблюдается пространственная корреляция между штатами.

Рис. 1. Пространственное расположение США

Рис. 2 Исходные данные ВВП США на душу населения



Рис. 3 Исходные данные ВВП США (в приростах) на душу населения

В особенности выражена пространственная корреляция на рисунке 2, что вызывает необходимость введения пространственного лага в модель.

Выдвинутая выше гипотеза утверждает, что ошибку прогноза можно уменьшить, используя в модели пространственный параметр. В качестве пространственного параметра используется пространственный лаг рассматриваемых показателей регионов. Для построения пространственного лага была сформирована блочно-диагональная (квазидиагональная) матрица, диагональными блоками которой является матрица соседства, построенная на основании территориального расположения штатов представленного на рисунке 1.

Матрица выглядит следующим образом:

(*)

Блок в матрице (*) - это матрица соседства, которая строится следующим образом: при наличии соседства между штатами присваивается значение равное 1, при отсутствии соседства присваивается значение 0. Матрица соседства является квадратичной размером , где - это количество штатов, а значения элементов -- , где и - это индексы штатов в выборке. Построения пространственного лага для прогнозирования реального ВРП на душу населения использовалась матрица для 50 штатов за 27 лет (), с 1987 по 2013 г., т.е. матрица имеет размерность .

После составления блочно-диагональных матриц для каждого прогнозируемого параметра, осуществляется её умножение на ряд панельных данных представленных в виде вектора (**). В итоге мы получим пространственный лаг - представленный в виде вектора (***), он и будет использован как дополнительный параметр к прогнозируемым параметрам

(**) (***)

Все данные используемые в исследовании имеют панельную структуру и представляют собой отношение текущего временного периода зависимого параметра модели к предыдущему.

Подача данных в модели будет осуществляться по методу скользящего окна. Метод скользящего окна используется при работе с моделями с использованием временных последовательностей данных [28]. Окно представляет собой период времени, используемый для каждого случая обучения моделей. Например, если осуществляется ежегодно получение данных об уровне ВРП на душу населения в течение лет, и устанавливается окно в лет, то в первом случае обучения используются данные с 1 по год и полученный прогноз сравнивается с данными за год, во втором случае используются данные со 2 по год и т.д.



1.2 Построение разных типов моделей с учетом и без учета пространственной зависимости.

1.2.1 Линейные авторегрессионные модели

Стоит отметить, что построение линейных моделей так же будет осуществлено по данным спецификациям.

Общий вид линейной авторегрессинной модели выглядит следующим образом:

(1)

где i=1, …,N - индекс параметра модели (номер штата), t=1,…,T - временной индекс, в - вектор коэффициентов размерности Kx1,

- вектор-строка матрицы К, объясняющих переменных,

- случайная ошибка.

Обучение авторегрессинных моделей осущетсвляется по методу скользящего окна описанного выше. Оценка моделей осущетсвляется,как модели с фиксированными эффектами. Стоит обратить внимание на то, что в качкстве фиксированного эффекта используется штат.

Прогноз по результатам оценивания строиться следующим образом:

(2)

где - оценка фиксированного эффекта; - оценка коэффициента; - прогнозное значение.

Перечень панельных линейных моделей используемых в работе строиться на базе спецификаций предтсавленных в таблице 2. Рачет коэффициентов линейных панельных моделей осуществяется стандартным МНК. Таким образом, оценивется 19 спецификаций панельных регресий.

1.2.2 Нейросетевые модели

В практике прогнозирования широко применяется большой спектр нейросетевых архитектур, используемых для решения разного рода задач [1]. В настоящем исследовании для анализа и оценки прогнозирования использовалась архитектура нейронной сети с прямым распространением сигнала и обратным распространением ошибки (многослойный персептрон). Для таких сетей характерно то, что все связи направлены строго от входных нейронов к выходным. Схема архитектуры многослойного персептрона представлена на рисунке 4.

Рис. 4. Модель многослойного персептрона

Как и любую нейронную сеть следует для начала обучить на массиве исходных данных. Обучение производиться по одному из стандартных алгоритмов обучения с учителем (supervisor-based learning, [20]). Выполнение алгоритма продолжается до тех пор, пока для всех входных векторов, входящих в состав обучающей последовательности, погрешность на выходе не станет меньше априори заданного уровня (реализуется алгоритм численной оптимизации -- метод градиентного спуска).

На сегодняшний день многослойный персептрон -- одна из самых популярных и используемых НС. При обучение НС, за счёт своего внутреннего строения, выявляет закономерности в связи входных и выходных образов, тем самым как бы обобщает полученный на обучающей выборке опыт. Достаточно иметь большой набор векторов для которых известен ожидаемый выход. Основные задачи, которые может решать многослойный персептрон это прогнозирование временных рядов, анализ и прогнозирование финансовых рынков, экспертные системы и т. д.

Выделим свойства многослойного персептрона [1]:

1. Каждый нейрон сети имеет нелинейную функцию активации. Важно подчеркнуть, что такая нелинейная функция должна быть гладкой (т.е. всюду дифференцируемой. Самой популярной формой функции, удовлетворяющей этому требованию, является сигмоидальная.

2. Несколько скрытых слоев. Многослойный персептрон содержит один или несколько слоев скрытых нейронов, не являющихся частью входа или выхода сети. Эти нейроны позволяют сети обучаться решению сложных задач, последовательно извлекая наиболее важные признаки из входного образа.

3. Высокая связность. Многослойный персептрон обладает высокой степенью связности, реализуемой посредством синаптических соединений. Изменение уровня связности сети требует изменения множества синаптических соединений или их весовых коэффициентов.

Количество входных и выходных элементов в многослойном персептроне определяется условиями задачи. В качестве начального приближения можно взять один промежуточный слой, а число элементов в нем положить равным полусумме числа входных и выходных элементов.

Для целей данного исследования построение нейросетевых моделей осуществляется путем присвоения следующих групп параметров для каждой спецификации набора параметров модели. Представим параметризацию нейросетевых моделей в таблице 1.



Таблица 1. «Параметризация нейросетевых моделей»

№ параметризации
1	10	2	5	+
2	5	2	5	+
3	10	4	5	+
4	5	4	5	+

- количество нейронов на первом слое нейронной сети,

- количество соответствующих нейронных связей,

- количество повторных испытаний для избегания локальных минимумов,

- осуществляется удержание монотонности параметров с временным лагом

На базе таблицы 1 в дальнейшем будет осущетсвлена оценка и комбинирование спецификаций нейросетевых моделей.

1.2.3 Разработка спецификаций параметров моделей

Разработка спецификаций параметров моделей осущетсвляется с учетом рассмотрения наибольшей дифференциации влияния параметров на результат оценки прогноза моделей. Все спецификации моделей имеют пространственный лаг, но в то же время используется пространственно-временной лаг. Оценка моделей с пространственно-временным лаго и без него будет произведена отдельно, это будет сделано для проведения сравнительного анализа групп моделей.



Таблица 2. «Спецификации набора параметров моделей»

№ п/п	Временные лаги	Пространственно-временные лаги
	Прирост уровня ВРП	Прирост уровня населения	Прирост уровня занятости	Прирост уровня ВРП	Прирост уровня населения	Прирост уровня занятости
1	+	-	-	-	-	-
2	+	+	-	-	-	-
3	+	-	+	-	-	-
4	+	+	+	-	-	-
5	+	-	-	+	-	-
6	+	-	-	-	-	+
7	+	-	-	-	+	-
8	+	-	-	+	+	-
9	+	-	+	+	-	-
10	+	+	+	+	-	-
11	+	+	-	-	+	-
12	+	-	+	-	+	-
13	+	+	+	-	+	-
14	+	-	+	-	-	+
15	+	+	-	-	-	+
16	+	+	+	-	-	+
17	+	+	+	+	+	+
18	+	+	-	+	+	-
19	+	-	+	+	-	+

Спецификации набора факторов моделей с учетом и без учета пространственно-временного лага представлены в таблице 2, где «+» или «-», устанавливают наличие или отсутствие фактора в модели соответственно.

Таким образом, для построенияп прогнозов используется вариантов НС моделей.

1.2.4 Методика оценки качества прогноза

Оценка всех разработанных в исследовании моделей будет осуществляться при помощи функции отклонения MAPPE (средняя абсолютная ошибка в процентах), которая рассчитывается по следующей формуле:

(3)

где: N -- количество результатов прогноза временных рядов;

Z(t) -- фактическое значение временного ряда;

-- прогнозное значение временного ряда.

Оценка прогноза осуществляется для самого ВРП, но все параметры моделей строяться в терминах прироста, следовательно прогнозируемый параметр так же строиться в терминах прироста. Для такой оценки моделей следует восстанавливать значения прогнозируемого параметра модели. Восстановление прогнозируемого параметра строиться следующим образом:

Если - прогноз прироста ВРП штата i в год t, то

, (4)

где - прогноз ВРП штата i в год t в уровнях; - фактическое значение ВРП в штате i в год (t-1) в уровнях.

1.3 Комбинирование прогнозов для увеличения точности прогнозирования

Особое место в классификации методов прогнозирования занимают комбинированные модели, которые объединяют различные методы прогнозирования [6]. Использование комбинированных моделей особенно актуально для сложных социально-экономических систем, когда при разработке прогноза показателей элемента системы могут быть использованы различные сочетания методов прогнозирования.

Комбинированные модели являются самым современным направлением в развитии моделей прогнозирования временных рядов. Воспользуемся одной из методик построения комбинированных моделей, и осуществим оценку прогноза моделей.

Общий вид комбинированной модели прогноза разработанной для данного исследования, имеет следующий вид:

(5)

где - прогнозируемый параметр; набор комбинируемых индивидуальных прогнозов, - индекс соответствующий номеру комбинируемого индивидуального прогноза; - остатки комбинированной модели; весовые коэффициенты комбинированной модели.

Подбор коэффициентов комбинированной модели осуществляется методом наименьших квадратов (МНК). Подбор коэффициентов МНК для панельной комбинированной модели выглядит следующим образом:

где - весовые коэффициенты.

Дополнительно к каждой скомбинированной модели обозначим четыре вида расчета весовых коэффициентов, в зависимости от года который влияет на прогонозные показатели, как правило, большой ряд исторических данных оказывает непредсказуемое влияние на прогноз, следовательно в зависимости от расположения лет ближе или дальше от начала периода будут присваиваться веса с соответствующим коэффициентом.

Обозначим четыре схемы взвешивания категорий:

А. без использования весовых коэффициентов;

В. частное от деления единицы на временной показатель (год);

С. квадратный корень с временного показателя (год);

D. возведение временного показателя (год) в квадрат.

Выбор отдельных моделей для построения комбинированного прогноза производится на основе анализа матрицы корреляций ошибок прогнозов отдельных моделей. Предполагается, что чем ниже корреляция между моделями, тем в большей степени произойдет снижение ошибки прогноза при комбинировании данных моделей, путем взаимного сглаживания результатов прогноза [9]. Стоит учесть тот момент, что в качестве нейросетевых моделей будут использоваться только те модели, которые использовались в разделах ранее, для дальнейшего анализа методов прогнозирования.

Оценка и анализ всех видов моделей разработанных в исследовании, а так же подтверждение и опровержения выдвинутых в исследовании гипотез осуществляется в следующем разделе.



2. Анализ и оценка разработанной методологии улучшения качества прогнозирования

2.1 Сравнительный анализ нейросетевых и регрессионных моделей прогноза без учета пространственного лага

Приведем результаты оценки прогноза за период 1994-2013 гг. на основе описанных спецификаций без учета пространственного лага.

В таблице 3 представлена оценка прогноза показателей ВВП на душу населения на базе нейросетевых и регрессионных моделей. Так как нейросетевые модели в некоторых случаях выдают неадекватные результаты прогноза, то анализ моделей с неадекватными результатами прогноза осуществлен не будет. Номер параметризации НС показывает отношение результата прогноза к определенной параметризации нейросетевой модели. Знаком "*" указано наименьшее значение функции отклонения при сравнении разных спецификаций модели.

Таблица 3. «Оценка прогноза показателей ВВП на душу населения (в спецификациях без простраснтвенных лагов)»

Спецификация № (набор фаторов)	MAPPE (%)
	НС (разные параметризации)	Линейные модели
	1	2	3	4	-
1	2,62	-	2,41	-	2,57
2	-	-	2,73	-	2,44
3	2,74	2,47	2,32*	2,34	2,39
4	-	3,12	-	-	2,25*

На основании приведенной итоговой таблицы в нейросетевой модели в наибольшей степени минимизирует ошибку спецификация №3 с третьим набором параметров, а в регрессионной модели наилучшей является спецификация №4.В то же время ошибка прогноза у регрессионной модели меньше, чем у нейросетевой.

Произведем расчет пространственной автокорреляции ошибки. Пространственная автокорреляция ошибки рассчитывается на основании двух векторов: результирующего вектора ошибки прогноза по каждому Штату Америки и результирующему вектору пространственной ошибки прогноза по каждому Штату Америки. Результирующий вектор пространственной ошибки прогноза строиться как умножение результирующего вектора ошибки прогноза на матрицу «соседства». Матрица «соседства» представляет собой матрицу состоящую из нулей и единиц, где единица ставиться в случае соседства штата, и ноль в обратном случае.

Расчетные данные пространственной автокорреляции ошибки по данным полученным на основании спецификаций описанных выше представлены в таблице 4.

Таблица 4. «Пространственная автокорреляция ошибки прогноза ВВП на душу населения»

Спецификация № (набор фаторов)	MAPPE (%)
	НС (разные параметризации)	Линейные модели
	1	2	3	4	-
1	0,0249	-	0,4141	-	0,0723
2	-	-	-0,3147	-	0,0098
3	0,1763	0,2419	0,374	0,3778	0,0256
4	-	-0,4677	-	-	0,0117

Полученные результаты, расчета пространственной автокорреляции свидетельствуют о том, что автокорреляция между вектором ошибки и вектором пространственной ошибки в нейросетевых значительная, что подтверждает наш вывод сделанный посредствам визуального анализа данных представленных в виде карты, полученной при помощи прикладного статистического программного продукта Stata.

Выясним подтверждается ли гипотеза о том, что ошибку прогноза можно уменьшить введя в модель нейронной сети параметр отражающий пространственную зависимость.

2.2 Тестирование гипотезы о введении пространственного лага

Гипотеза, выдвинутая в начале исследования состоит в том, что учет пространственной взаимосвязи регионов посредством ввода в модель пространственных лагов должен в большей степени способствовать минимизации ошибки прогноза, по сравнению с другими факторами.

Оценка спецификаций к нейросетевым и регрессионным моделям, в которых используется пространственный лаг представлена в таблице 5. Стоит отметить, что пространственный лаг используется как в зависимых параметрах, так и в прогнозируемых, соответственно в наборе спецификаций с пространственным лагом рассматриваются основные ситуации взаимодействия параметров. В качестве прогнозируемого параметра используется тот же, что и ранее - ВВП на душу населения.

Таблица 5. «Оценка прогноза показателей ВВП на душу населения
(в спецификациях с пространственными лагами факторов)»

Спецификация № (набор фаторов)	MAPPE (%)
	НС (разные параметризации)	Линейные модели
	1	2	3	4	-
5	-	2,28	-	-	2,46
6	-	-	-	-	2,27
7	-	2,16	1,99	2,01	2,34
8	-	-	-	-	2,23
9	-	-	-	-	2,61
10	2,79	-	-	-	2,41
11	3,01	-	-	2,03	2,44
12	-	-	-	-	2,52
13	-	-	-	-	2,37
14	-	-	-	-	2,29
15	-	2,37	-	-	2,36
16	-	3,12	-	2,59	2,39
17	-	2,58	-	-	2,41
18	-	1,93*	-	-	2,45
19	-	3,87	2,55	-	2,21*

Проанализировав таблицу 5, стоит сделать вывод о том, что гипотеза относительно снижения ошибки прогноза введя пространственный параметр в модели с имеющийся пространственной автокорреляцией подтвердилась. Так как в большей степени пространственная автокорреляция преобладала в нейросетевых моделях, что видно в таблице 4, а проведя сравнительный анализ таблицы 3 и таблицы 5, стоит сделать вывод о том, что ошибка прогноза снизилась в нейросетевых моделях, а в регрессионным ошибка прогноза осталось практически неизменной. Стоит отметить при введении пространственного лага в нейросетевые модели, ошибка прогноза в некоторых из них стала ниже, чем ошибка прогноза в регрессионных моделях.

Произведем расчет и анализ пространственной автокорреляции ошибки по данным из спецификаций с использованием пространственного лага. Расчетные данные пространственной автокорреляции ошибки по спецификациям с использованием пространственного лага представлен в таблице 6. Пример картограмм ошибки прогноза для спецификаций с использованием и без использования пространственного лага в нейросетевых моделях приведен на рисунке 5, данные картограммы построены при помощи прикладного программного продукта stata.

Таблица 6. «Пространственная автокорреляция ошибки прогноза ВВП на душу населения»

Спецификация № (набор фаторов)	MAPPE (%)
	НС (разные параметризации)	Линейные модели
	1	2	3	4	-
5	-	0,0354	-	-	0,0341
6	-	-	-	-	0,0268
7	-	0,0567	0,0993	0,1128	0,0564
8	-	-	-	-	0,0323
9	-	-	-	-	0,0161
10	0,0379	-	-	-	0,0631
11	0,0251	-	-	0,0598	0,0342
12	-	-	-	-	0,0428
13	-	-	-	-	0,0773
14	-	-	-	-	0,0209
15	-	0,0373	-	-	0,0368
16	-	0,0912	-	0,1597	0,0409
17	-	0,0458	-	-	0,0191
18	-	0,0893	-	-	0,0815
19	-	0,0467	0,0557	-	0,0731

Данные представленные в таблицах 3 и 5 подтверждают то, что наличие пространственной автокорреляции ошибки прогноза говорит о возможности снижения ошибки прогноза введя в модель пространственный параметр, после чего как видно из анализа выше происходит снижение ошибки прогноза и в то же время снижение пространственной автокорреляции ошибки.

Сведем данные всех спецификаций модели в единую таблицу 7. Проведем анализ результатов функций отклонения спецификаций построенных без использования пространственного лага и с его использованием.

Таблица 7. «Сводная таблица оценки прогноза ВВП на душу населения по спецификациям разного рода»

Спецификация № (набор фаторов)	MAPPE (%)
	НС (разные параметризации)	Линейные модели
	1	2	3	4	-
1	3,62	-	4,41	-	2,57
2	-	-	2,73	-	2,44
3	3,74	2,47	2,32*	5,34	2,39
4	-	5,12	-	-	2,25*
5	-	3,28	-	-	2,46
6	-	-	-	-	2,27
7	-	2,16	1,99	2,01	2,34
8	-	-	-	-	2,23
9	-	-	-	-	2,61
10	2,79	-	-	-	2,41
11	3,01	-	-	2,03	2,44
12	-	-	-	-	2,52
13	-	-	-	-	2,37
14	-	-	-	-	2,29
15	-	2,37	-	-	2,36
16	-	3,12	-	2,59	2,39
17	-	2,58	-	-	2,41
18	-	1,93*	-	-	2,45
19	-	2,52	2,55	-	2,21*

Составленная сводная таблица наглядно показывают, что в моделях без использования пространственного лага наименьшую ошибку прогноза имеют регрессионные модели, что говорит о слабой эффективности применения нейросетевых архитектур моделей для прогнозирования макроэкономических показателей. Но стоило заметить факт присутствия пространственной автокорреляции ошибки в нейросетевых моделях. Как показывают результаты таблицы 7, введение пространственного параметра в нейросетевые модели в достаточной степени минимизировал ошибку прогноза, и по сравнению с регрессионными моделями, нейросетевые модели с использованием пространственного лага осуществляют прогноз с большей точностью. Более наглядно результаты оценки прогнозов с использованием пространственного параметра представлены в таблице 8 (в скобках указан номер параметризации НС). Наглядность результатов связана с отбором спецификаций моделей демонстрирующих наименьшую ошибку прогноза.



Таблица 8. «Сводная таблица наилучших оценок результатов прогноза спецификаций моделей»

Тип модели	Спецификация №	Параметризация НС №	Присутствие пространственного лага «+», его отсутствие «-»	MAPPE (%)
Нейро-сетевая	18	2	+	1,93
	3	3	-	2,32
Линейная	4	-	+	2,25
	19	-	-	2,21

Минимизация ошибки прогноза в нейросетевых моделях связано с наличием ощутимого уровня пространственной автокорреляции в нейросетевых моделях, в регрессионных же моделях уровень пространственной автокорреляции оказался очень низким, в итоге введения пространственного лага практически не повлияло на минимизацию ошибки прогноза. На основании вышесказанного стоит сделать вывод о целесообразности использования нейросетевых моделей для прогнозирования региональных показателей.

2.3 Результаты оценки прогнозов при комбинировании моделей

Для комбинирования отобраны модели с наименьшей корреляцией между собой с помощью корреляционной матрицы. Корреляционная матрица состоит из числовых и визуальных оценок корреляции между ошибками прогноза моделей. Числовые оценки корреляции показывают коэффициент корреляции между моделями, визуальные оценки демонстрируют так же коэффициент корреляции следующим образом: при более темном закрашивании клетки на пересечении моделей, корреляция между этими моделями выше, в обратном случае соответственно корреляция ниже.

Фрагмент корреляционной матрицы ошибок прогноза нейросетевых и регрессионных моделей представлен на рисунке 5. Данный фрагмент корреляционной матрицы ошибок прогноза состоит только из моделей дающих адекватные результаты прогноза.

Изначальный вид матрицы представляет собой диагональную матрицу размерностью 95х95, включающую в себя все модели исследования.

Рис. 5 Корреляционная матрица ошибок прогноза нейросетевых и регрессионных моделей

Перечень комбинаций моделей представим в виде таблицы 9. В первой колонке представлен фиксированный номер комбинированной модели, в дальнейшем на базе данной нумерации моделей будет осуществлен их анализ. В остальных колонках знаком «+» обозначен выбор компоненты для комбинации в модели, а в скобках для спецификаций нейросетевых моделей указан номер параметризации НС.

Таблица 9. «Выбор компонент для комбинации моделей»

№ п/п комбини-рованной модели	№ п/п спецификации нейросетевой модели	№ п/п регресс-сионной модели
	1	2	3	4	5	6	7	8	9	10	11	12	13	14	15	16	17	18	19
1	+(1)						+(3)
2							+(3)				+(1)
3			+(2)				+(3)
4					+(2)														+(3)
5							+(2) +(3)
6							+(3)								+(2)
7							+(3)												+(2)
8		+(3)					+(3)												+(2)
9							+(3)												+(2)	1
10		+(3)					+(3)													2
11		+(3)					+(3)												+(2)	7
12																	+(2)	+(2)
13																+(2)				7
14																			+(2)	7

Результаты оценки моделей разработанных по методике комбинирования моделей описанной выше представлены в таблице 10.

Таблица 10. «Оценка прогноза ВВП на душу населения на базе комбинированных моделей с использованием весов»

	MAPPE (A), в %	MAPPE (B), в %	MAPPE (C), в %	MAPPE (D), в %
Модель №1	1.90*	2.04	1.93	1.91
Модель №2	3.55	6.04	3.23	2.27*
Модель №3	2.04	2.27	2.04	1.96*
Модель №4	5.57	7.91	5.63	5.48*
Модель №5	7.54*	11.88	8.45	9.43
Модель №6	25.61	9.94*	35.24	61.65
Модель №7	3.02	3.37	3.03	2.91*
Модель №8	3.51	4.01	3.48	3.24*
Модель №9	2.57	2.54	2.59	2.49*
Модель №10	3.28	3.41	3.02	2.31*
Модель №11	3.25	3.33	2.96	2.65*
Модель №12	2.81	1.89*	3.13	3.43
Модель №13	2.18*	2.28	2.23	2.28
Модель №14	2.45	2.31*	2.49	2.43

Проанализировав таблицу 10, можно сделать вывод о том, комбинированные модели минимизируют ошибку прогноза в большей степени, чем индивидуальные модели прогнозов. Стоит отметить модели под номерами 1, 3, 12, они достигли такой ошибки прогноза, которой не смогла достичь не одна модель нейросетевая или регрессионная в отдельности. Данный факт подтверждает вторую гипотезу, выдвинутую в начале исследования о том, что комбинирование моделей в большей степени влияют на минимизацию ошибки прогноза, чем индивидуальные модели прогнозов.

2.4 Обзор результатов исследования

Таким образом, в проведенном эмпирическом исследовании был использован ряд нейросетевых (с различными сочетаниями параметров нейросетевой структуры) и линейных регрессионных моделей панельных данных с учетом и без учета пространственно-временных лагов факторов, а также несколько вариантов комбинирования прогнозов этих моделей на основе взвешеной регрессии. Основной целью моделирваония было получение прогнозов выского качества показателей региональной динамики США за период с 1987 по 2013 гг., а именно -- ВРП шататов на душу населения. На основании анализа литературы и обзора имеющихся данных были выдвинуты две гипотезы, которые получили эмпиричекое подтверждение.

Во-первых, показано, что если без включения в набор факторов пространственных лагов объясняющих переменных линейные авторегрессионные модели демонстрируют лучшее качество прогнозов, то при учете пространственных взаимосвязей регионов и включении в модели пространственных лагов используемых переменных использовании отдельных моделей наилучшие результаты прогнозирования демонстрируют нейросетевые модели.

Во-вторых, при наличии широкого множества (несколько десятков) отдельных вариантов прогнозов, полученных на основе раличных вариантов линейных и нейросетевых моделей, существенно улучшить качество прогнозов можно за счет комбинирования отдельных прогнозов. Наилучшие результаты (наименьшие значения срденей абсолютной ошибки прогноза в процентах) демонстрируют комбинированные модели, основанные на нейросетевых моделях разной структуры с пространственными лагами факторов.

Кроме того, уровень ошибки прогноза наилучших комбинированных моделей (не более 2% в среднем в год по всем штатам) позволяет рекомендовать разработанную методику прогнозирования для применения в реальных эконмических задачах.



Список использованной литературы

1. Хайкин С.Нейронные сети: полный курс. М.: ООО «И. Д. Вильямс», 2010. 1104 с.

2. A. Azadeh, M. Moghaddam, M. Khakzad, V. Ebrahimipour, A flexible neural network-fuzzy mathematical programming algorithm for improvement of oil price estimation and forecasting, Computers & Industrial Engineering 62 (2) (2012) 421-430.

3. A. Azadeh, S. F. Ghaderi, B. P. Nokhandan, S. Nassiri, Improved one day-ahead price forecasting using combined time series and artificial neural network models for the electricity market, International Journal of Industrial and Systems Engineering 9 (3) (2011)

4. A. B. Kock, Timo Terasvirta Forecasting performances of three automated modelling techniques during the economic crisis 2007-2009 (2013).

5. A. Shabri, R. Samsudin, A hybrid GMDH and Box-Jenkins models in time series forecasting, Applied Mathematical Sciences 8 (61-64) (2014) 3051-3062

6. Alfares H.K., Nazeeruddin M. Electric load forecasting: literature survey and classifcation of methods// International Journal of Systems Science. 2010, Vol 33. P. 23 - 34.

7. B. Rong, H. Wang, Z. Chen, Y. Xiang, C. Feng, T. Song, Research on GMDH-based combination forecast, International Journal of Advancements in Computing Technology 4 (18) (2012) 616-623

8. Badi H. Baltagi, Georges Bresson, Alain Pirotte Forecasting with spatial panel data (2012).

9. C.-J. Lu, Sales forecasting of computer products based on variable selection scheme and support vector regression, Neurocomputing 128 (2014)

10. Che-Chiang Hsu, Chia-Yon Chen, Regional load forecasting in Taiwan-applications of artificial neural networks (2002)

11. D. A. Black, S. S. Rosenthal, Spatial panel methods with applications to House Prices: A symposium, Journal of Urban Economics 69 (1) (2011) 1

12. D. Srinivasan, Energy demand prediction using GMDH networks, Neurocomputing 72 (1-3) (2008) 625-629.

13. Draper N., Smith H. Applied regression analysis. New York: Wiley, In press, 1981. 693 p.

14. F. Lan, Y. Zhang, Spatial Autoregressive Model of Commodity Housing Price and Empirical Research, Systems Engineering Procedia 1 (2011) 206-212

15. G. C. Mishra, A. Singh, A study on forecasting prices of groundnut oil in Delhi by arima methodology and artificial neural networks, Agris On-line Papers in Economics and Informatics 5

16. G. Zhang, Time series forecasting using a hybrid ARIMA and neural network model, Neurocomputing 50 (2003) 159-175.

17. H. Enrґэquez Sierra, C. Barreto Nieto, C. Correa Caro, J. Campo Robledo, Precio del suelo y regalґэas en Colombia: un anґalisis espacial para los municipios productores de petrґoleo, Desarrollo y Sociedad 71 (1) (2013) 193-225

18. H. H. Kelejian, I. R. Prucha, The relative efficiencies of various predictors in spatial econometric models containing spatial lags, Regional Science and Urban Economics 37 (3) (2007) 363-374.

19. H. Zou, G. Xia, F. Yang, H. Wang, An investigation and comparison of artificial neural network and time series models for Chinese food grain price forecasting, Neurocomputing 70 (16-18) (2007)

20. Hinton, G. E.; Osindero, S.; Teh, Y. (2006)."A fast learning algorithm for deep belief nets".Neural Computation 18 (7)

21. J. Catalao An Artificial Neural Network Approach for Day-Ahead Electricity Prices Forecasting // 6th WSEAS international conference on Neural networks, USA, Stevens Point, 2005. P. 80 - 83.

22. J. P. ELHORST, Specification and Estimation of Spatial Panel Data Models, International Regional Science Review 26 (3) (2003) 244-268

23. J. Tao, J. Yu, The spatial time lag in panel data models, Economics Letters 117 (3) (2012) 544-547

24. J.Wesley Burnett, John C. Bergstrom, Jeffrey H. Dorfman A spatial panel data approach to estimating U.S. state-level energy emissions.

25. L. Anselin, Thirty years of spatial econometrics, Papers in Regional Science 89 (1) (2010) 3-25.

26. L. Yu, S. Wang, K. K. Lai, Forecasting crude oil price with an EMD-based neural network ensemble learning paradigm, Energy Economics 30 (5) (2008) 2623-2635.

27. Lei JIANG, Henk FOLMER, Minhe JI The drivers of energy intensity in China: A spatial panel data approach (2014).

28. Massimiliano Marcellinoa, James H. Stockb, Mark W. Watsonc A comparison of direct and iterated multistep AR methods for forecasting macroeconomic time series (2006).

29. Mazengia D.H. Forecasting Spot Electricity Market Prices Using Time Series Models: Thesis for the degree of Master of Science in Electric Power Engineering. Gothenburg, Chalmers University of Technology, 2008. 89 p.

30. N. Mahbub, S. K. Paul, A. Azeem, A neural approach to product demand forecasting, International Journal of Industrial and Systems Engineering 15 (1) (2013) 1

31. N. Schanne, R. Wapler, A. Weyh Regional unemployment forecasts with spatial interdependencies (2010).

32. Nikolas Kourentzes, Devon K. Barrow, Sven F. Crone, Neural network ensemble operators for time series forecasting (2014)

33. Ping-Feng Pai, Wei-Chiang Hong, Forecasting regional electricity load based on recurrent support vector machines with genetic algorithms (2005)

34. Scherer Perlin M. Nearest neighbor method // Revista Eletronica de Administracao [электронный ресурс]. 2011, Vol. 13, No. 2. 15 p.

35. Singh S. Pattern Modelling in Time-Series Forecasting // Cybernetics and Systems-AnInternational Journal. 2010, Vol. 31, No. 1. P. 49 - 65.

Приложение 1

«Матрица соседства»

Калифорния (California)	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Техас (Texas)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	1	0	0	0	1	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Нью-Йорк (New York)	0	0	0	0	0	1	0	0	0	0	1	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0
Флорида (Florida)	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Иллинойс (Illinois)	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	1	0	1	0	0	0	0	0	1	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Пенсильвания (Pennsylvania)	0	0	1	0	0	0	1	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0
Огайо (Ohio)	0	0	0	0	0	1	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0
Мичиган (Michigan)	0	0	0	0	1	0	1	0	0	0	0	0	0	0	0	1	0	0	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Джорджия (Georgia)	0	0	0	1	0	0	0	0	0	1	0	0	0	0	0	0	1	0	0	0	0	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Северная Каролина (North Carolina)	0	0	0	0	0	0	0	0	1	0	0	1	0	0	0	0	1	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Нью-Джерси (New Jersey)	0	0	1	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0
Вирджиния (Virginia)	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	1	0	1	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0
Вашингтон (Washington)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0
Аризона (Arizona)	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	1	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Массачусетс (Massachusetts)	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	1	0	0	0	0	0	1	0
Индиана (Indiana)	0	0	0	0	1	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Теннесси (Tennessee)	0	0	0	0	0	0	0	0	1	1	0	1	0	0	0	0	0	1	0	0	0	0	1	0	0	1	0	0	0	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Миссури (Missouri)	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	1	0	1	0	1	0	1	1	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0
Мэриленд (Maryland)	0	0	0	0	0	1	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0
Висконсин (Wisconsin)	0	0	0	0	1	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Миннесота (Minnesota)	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	1	0	0
Колорадо (Colorado)	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	1	1	0	1	0	1	0	0	0	0	0	0	0	0	0	0	0	1
Алабама (Alabama)	0	0	0	1	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Южная Каролина (South Carolina)	0	0	0	0	0	0	0	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Луизиана (Louisiana)	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Кентукки (Kentucky)	0	0	0	0	1	0	1	0	0	0	0	1	0	0	1	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0
Орегон (Oregon)	1	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0
Оклахома (Oklahoma)	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	1	0	0	0	0	0	0	0	0	0	1	1	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Коннектикут (Connecticut)	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0
Айова (Iowa)	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0
Миссисипи (Mississippi)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	1	0	1	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Арканзас (Arkansas)	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	1	0	0	0	0	0	0	1	0	0	1	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Канзас (Kansas)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	1	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0
Юта (Utah)	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1
Невада (Nevada)	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	1	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0
Нью-Мексико (New Mexico)	0	1	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Западная Вирджиния (Western Virginia)	0	0	0	0	0	1	1	0	0	0	0	1	0	0	0	0	0	0	1	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Небраска (Nebraska)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	1	0	0	0	0	0	0	0	1	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	1
Айдахо (Idaho)	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	1	0	0	0	0	0	1
Нью-Хэмпшир (New Hampshire)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0
Мэн (Maine)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0
Гавайи (Hawaii)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Род-Айленд (Rhode Island)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Монтана (Montana)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	1	0	1	0	1
Делавэр (Delaware)	0	0	0	0	0	1	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Южная Дакота (South Dacota)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	1	0	0	0	0	0	1	0	0	0	1	0	1
Аляска (Alaska)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
Северная Дакота (North Dacota)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	1	0	0	0	0
Вермонт (Vermont)	0	0	1	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0
Вайоминг (Wyoming)	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	1	1	0	0	0	0	1	0	1	0	0	0	0

Приложение 2

«Программный код анализа, оценки и построения моделей в среде R»

install.packages('monmlp')

install.packages('plm')

install.packages('stargazer')

install.packages('corrgram')

library(plm)

library(monmlp)

library(corrgram)

setwd('C:\\USA_GDP')

mydata <- read.csv('all_panel.csv',header=TRUE,sep=';',dec=',')

attach(mydata)

summary(mydata)

T <- max(year)-min(year)+1

W <- as.matrix(read.csv('matr.csv',header=FALSE,sep=';'))

W2 <- as.matrix(read.csv('matr2.csv',header=FALSE,sep=';',dec=','))

TW <- diag(T) %x% W

TW2 <- diag(T) %x% W2

gdp.r.tlag <- NA

pop.r.tlag <- NA

lab.r.tlag <- NA

gdp.r.slag <- NA

pop.r.slag <- NA

lab.r.slag <- NA

gdp.r.tslag <- NA

pop.r.tslag <- NA

lab.r.tslag <- NA

gdp.r.tlag[year>=1989] <- gdp.r[year>=1988 & year<=2012]

pop.r.tlag[year>=1989] <- pop.r[year>=1988 & year<=2012]

lab.r.tlag[year>=1989] <- lab.r[year>=1988 & year<=2012]

gdp.r.slag[51:1350] <- TW[51:1350,51:1350] %*% gdp.r[51:1350]

pop.r.slag[101:1350] <- TW[101:1350,101:1350] %*% pop.r[101:1350]

lab.r.slag[101:1350] <- TW[101:1350,101:1350] %*% lab.r[101:1350]

gdp.r.tslag[year>=1989] <- gdp.r.slag[year>=1988 & year<=2012]

pop.r.tslag[year>=1989] <- pop.r.slag[year>=1988 & year<=2012]

lab.r.tslag[year>=1989] <- lab.r.slag[year>=1988 & year<=2012]

year0 <- 1990

window <- 4

k <- 2013-year0-window+1

m <- 119

gdp.01 <- NA

gdp.02 <- NA

gdp.03 <- NA

gdp.04 <- NA

gdp.05 <- NA

gdp.06 <- NA

gdp.07 <- NA

gdp.08 <- NA

gdp.09 <- NA

gdp.10 <- NA

gdp.11 <- NA

gdp.12 <- NA

gdp.13 <- NA

gdp.14 <- NA

gdp.15 <- NA

gdp.16 <- NA

gdp.17 <- NA

gdp.18 <- NA

gdp.19 <- NA

gdp.20 <- NA

gdp.21 <- NA

gdp.22 <- NA

gdp.23 <- NA

gdp.24 <- NA

gdp.25 <- NA

gdp.26 <- NA

gdp.27 <- NA

gdp.28 <- NA

gdp.29 <- NA

gdp.30 <- NA

gdp.31 <- NA

gdp.32 <- NA

gdp.33 <- NA

gdp.34 <- NA

gdp.35 <- NA

gdp.36 <- NA

gdp.37 <- NA

gdp.38 <- NA

gdp.39 <- NA

gdp.40 <- NA

gdp.41 <- NA

gdp.42 <- NA

gdp.43 <- NA

gdp.44 <- NA

gdp.45 <- NA

gdp.46 <- NA

gdp.47 <- NA

gdp.48 <- NA

gdp.49 <- NA

gdp.50 <- NA

gdp.51 <- NA

gdp.52 <- NA

gdp.53 <- NA

gdp.54 <- NA

gdp.55 <- NA

gdp.56 <- NA

gdp.57 <- NA

gdp.58 <- NA

gdp.59 <- NA

gdp.60 <- NA

gdp.61 <- NA

gdp.62 <- NA

gdp.63 <- NA

gdp.64 <- NA

gdp.65 <- NA

gdp.66 <- NA

gdp.67 <- NA

gdp.68 <- NA

gdp.69 <- NA

gdp.70 <- NA

gdp.71 <- NA

gdp.72 <- NA

gdp.73 <- NA

gdp.74 <- NA

gdp.75 <- NA

gdp.76 <- NA

gdp.101 <- NA

gdp.102 <- NA

gdp.103 <- NA

gdp.104 <- NA

gdp.105 <- NA

gdp.106 <- NA

gdp.107 <- NA

gdp.108 <- NA

gdp.109 <- NA

gdp.110 <- NA

gdp.111 <- NA

gdp.112 <- NA

gdp.113 <- NA

gdp.114 <- NA

gdp.115 <- NA

gdp.116 <- NA

gdp.117 <- NA

gdp.118 <- NA

gdp.119 <- NA

MAPPE <- matrix(rep(NA,m*k),nrow=m,ncol=k)

sPPE <- matrix(rep(NA,m*k),nrow=m,ncol=k)

factors.all <- data.frame (gdp.r, state, year,

gdp.r.tlag,

gdp.r.tslag,

pop.r.tlag,

pop.r.tslag,

lab.r.tlag,

lab.r.tslag)

f01 <- gdp.r ~ gdp.r.tlag

f02 <- gdp.r ~ gdp.r.tlag + pop.r.tlag

f03 <- gdp.r ~ gdp.r.tlag + lab.r.tlag

f04 <- gdp.r ~ gdp.r.tlag + pop.r.tlag + lab.r.tlag

f05 <- gdp.r ~ gdp.r.tlag + gdp.r.tslag

f06 <- gdp.r ~ gdp.r.tlag + lab.r.tslag

f07 <- gdp.r ~ gdp.r.tlag + pop.r.tslag

f08 <- gdp.r ~ gdp.r.tlag + pop.r.tlag + gdp.r.tslag

f09 <- gdp.r ~ gdp.r.tlag + lab.r.tlag + gdp.r.tslag

f10 <- gdp.r ~ gdp.r.tlag + pop.r.tlag + lab.r.tlag + gdp.r.tslag

f11 <- gdp.r ~ gdp.r.tlag + pop.r.tlag + pop.r.tslag

f12 <- gdp.r ~ gdp.r.tlag + lab.r.tlag + pop.r.tslag

f13 <- gdp.r ~ gdp.r.tlag + pop.r.tlag + lab.r.tlag + pop.r.tslag

f14 <- gdp.r ~ gdp.r.tlag + lab.r.tlag + lab.r.tslag