Содержание обобщенного метода наименьших квадратов и его геометрическая интерпретация

1. ТЕОРЕТИЧЕСКИЙ ВОПРОС

1.1 Объяснить основное содержание обобщенного метода наименьших квадратов, его геометрическую интерпретацию

При нарушении гомоскедастичности наличии автокорреляции ошибок рекомендуется традиционный метод наименьших квадратов (известный в английской терминологии как метод OLS - Ordinary Least Squares) заменять обобщенным методом, т.е. методом GLS (Generalized Least Squares).

Обобщенный метод наименьших квадратов применяется к преобразованным данным и позволяет получать оценки, которые обладают не только свойством несмещенности, но и имеют меньшие выборочные дисперсии. Специфика обобщенного МНК применительно к корректировке данных при автокорреляции остатков будет рассмотрена далее. Здесь остановимся на использовании обобщенного МНК для корректировки гетероскедастичности.

Как и раньше, будем предполагать, что среднее значение остаточных величин равна нулю. А вот дисперсия их не остается неизменной для разных значений фактора, а пропорциональна величине К_i, т.е.

Где - дисперсия ошибки при конкретном i - м значении фактора;

- постоянная дисперсия ошибки при соблюдении предпосылки о гомоскедастичности остатков;

К_i - коэффициент пропорциональности, меняющийся с изменением величины фактора, что и обусловливает неоднородность дисперсии.

При этом предполагается, что неизвестна, а в отношении величины К выдвигаются определенные гипотезы, характеризующие структуру гетероскедастичности.

В общем виде для уравнения

при

Модель примет вид:

В ней остаточные величины гетероскедастичны. Предполагая в них отсутствие автокорреляции, можно перейти к уравнению с гомоскедастичными остатками, поделив все переменные, зафиксированные в ходе i-го наблюдения на . Тогда дисперсия остатков будет величиной постоянной, т.е. .

Иными словами, от регрессии y по x мы перейдем к регрессии на новых переменных: y/ и x/.

Уравнение регрессии примет вид:

Исходные данные для данного уравнения будут иметь вид:

Y = X =

По отношению к обычной регрессии уравнение с новыми, преобразованными переменными представляет собой взвешенную регрессию, в которой переменные у и х взяты с весами 1/.

Оценка параметров нового уравнения с преобразованными переменными приводит к взвешенному методу наименьших квадратов, для которого необходимо минимизировать сумму квадратов отклонения вида

S = ²

Соответственно получим следующую систему нормальных уравнений:

Если преобразованные переменные х и у взять в отклонениях от средних уровней, то коэффициент регрессии b можно определить как

b=

При обычном применении метода наименьших квадратов к уравнению линейной регрессии для переменных в отклонениях от средних уровней коэффициент регрессии b определяется по формуле

b=

Как видим, при использовании обобщенного МНК с целью корректировки гетероскедастичности коэффициент регрессии b представляет собой взвешенную величину по отношению к обычному МНК с весами 1/К.

Аналогичный подход возможен не только для уравнения парной, но и для множественной регрессии. Предположим, что рассматривается модель вида

Y = a+ * * x₂ + K_i *

Для которой дисперсия остаточных величин оказалась пропорциональна - представляет собой коэффициент пропорциональности, принимающий различные значения для соответствующих i значений факторов х₁ и х₂. Ввиду того, что

Рассматриваемая модель примет вид

Где ошибки гетероскидастичны.

Для того чтобы получить уравнение, где остатки гомоскедастичны, перейдем к новым преобразованным переменным, разделив все члены исходного уравнения на коэффициент пропорциональности К. Уравнение с преобразованными переменными составит

= + b₁ * + b₂ *+

Это уравнение не содержит свободного члена. Вместе с тем, найдя переменные в новом преобразованном виде и применяя обычный МНК к ним, получим иную спецификацию модели:

=А + b₁* + b₂ *+

Параметры такой модели зависят от концепции, принятой для коэффициента пропорциональности К_i. В эконометрических исследованиях довольно часто выдвигается гипотеза, что остатки пропорциональны значениям фактора. Так, если в уравнении

Предположить, что Е = , т.е. К = х₁ и , то обобщенный МНК предполагает оценку параметров следующего трансформированного уравнения:

=b₁ + b₂* +……+ b_p *+

Если предположить, что ошибки пропорциональны х_р, то модель примет вид:

=b_р + b₁* +……+ b_p-1 *+

Применение в этом случае обобщенного МНК приводит к тому, что наблюдения с меньшими значениями преобразованных переменных х/К имеют при определении параметров регрессии относительно больший вес, чем с первоначальными переменными. Вместе с тем следует иметь ввиду, что новые преобразованные переменные получают новое экономическое содержание и их регрессия имеет иной смысл, чем регрессия по исходным данным.

Пример.

Пусть у - издержки производства, х₁ - объем продукции, х₂ - основные производственные фонды, х₃ - численность работников, тогда уравнение

Является моделью издержек производства с объемными факторами. Предполагая что пропорциональна квадрату численности работников х₃, мы получим в качестве результативного признака затраты на одного работника (у/х₃), а в качестве факторов следующие показатели: производительность труда (х₁/х₃) и фондовооруженность труда (х₂/х₃). Соответственно трансформированная модель примет вид

+

где параметры b₁, b₂, b₃ численно не совпадают с аналогичными параметрами предыдущей модели. Кроме того, коэффициенты регрессии меняют экономическое содержание: из показателей силы связи, характеризующих среднее абсолютное изменение издержек производства с изменением абсолютной величины соответствующего фактора на единицу, они фиксируют при обобщенном МНК среднее изменение затрат на работника; с изменением производительности труда на единицу при неизменном уровне фондовооруженности труда; и с изменением фондовооруженности труда на единицу при неизменном уровне производительности труда.

Если предположить, что в модели с первоначальными переменными дисперсия остатков пропорциональна квадрату объема продукции, , можно перейти к уравнению регрессии вида

+

В нем новые переменные у/х₁ - затраты на единицу (или на 1 руб. продукции), х₂/х₁ - фондоемкость продукции, х₃/х₁ - трудоемкость продукции.

Гипотеза о пропорциональности остатков велечине фактора может иметь реальное основание: при обработке недостаточно однородной совокупности, включающей как крупные, так и мелкие предприятия, большим объемным значениям фактора может соответствовать большая дисперсия результативного признака и большая дисперсия остаточных величин.

При наличии одной объясняющей переменной гипотеза трансформирует линейное уравнение у= a+b * x+е * x в уравнение в котором параметры a и b поменялись местами, константа стала коэффициентом наклона линии регрессии, а коэффициент регрессии - свободным членом.

Пример. Рассматривая зависимость сбережений у от дохода х, по первоначальным данным было получено уравнение регрессии

у = - 1,081 + 0,1178х.

Применяя обобщенный МНК к данной модели в предположении, что ошибки пропорциональны доходу, было получено уравнение для преобразованных данных:

Коэффициент регрессии первого уравнения сравнивают со свободным членом второго уравнения, т.е. 0,1178 и 0,1026 - оценки параметра b зависимости сбережений от дохода.

Переход к относительным величинам существенно снижает вариацию фактора и соответственно уменьшает дисперсию ошибки. Он представляет собой наиболее простой случай учета гетероскедастичности в регрессионных моделях с помощью обобщенного МНК. Процесс перехода к относительным величинам может быть осложнен выдвижением иных гипотез о пропорциональности ошибок относительно включенных в модель факторов. Например,

Ln= Ln+ b*Lnx + v,

т.е. рассматривается характер взаимосвязи от . использование той или иной гипотезы предполагает специальные исследования остаточных величин для соответствующих регрессионных моделей. Применение обобщенного МНК позволяет получить оценки параметров модели, обладающие меньшей дисперсией.

2. Практическое задание

2.1 Задание 1

Перечислить и охарактеризовать типы математических моделей и типы данных, используемых в моделях.

Эконометрика как наука расположена где-то между экономикой, статистикой и математикой. Эконометрика - это наука, связанная с эмпирическим выводом экономических законов. То есть мы используем данные или «наблюдения» для того, чтобы получить количественные зависимости для экономических соотношений.

Он так же формирует экономические модели, основываясь на экономической теории или на эмпирических данных, оценивает неизвестные величины (параметры) в этих моделях. Делает прогнозы (и оценивает их точность) и дает рекомендации по экономической политике.

Во всей этой деятельности существенным является использование моделей.

Математические модели широко применяются в бизнесе, экономике, общественных науках, исследовании экономической активности и даже в исследовании политических процессов.

Математические модели полезны для более полного понимания сущности происходящих процессов, их анализа. Модель, построенная и верифицированная на основе (уже имеющихся) наблюденных значений объясняющих переменных, может быть использована для прогноза значений зависимой переменной в будущем или для других наборов значений объясняющих переменных.

Можно выделить три основных класса моделей, которые применяются для анализа и/или прогноза.

1. Модели временных рядов

К этому классу относятся модели:

Тренда:

y(t) = T(t) + е_t ,где

T(t) - временной тренд заданного параметрического вида (например, линейный T(t) = а + bt),

е_t - случайная (стохастическая) компонента;

Сезонности:

y(t) = S(t) + е_t ,

где S(t) - периодическая (сезонная) компонента,

е_t - случайная (стохастическая) компонента;

Тренда и сезонности:

y(t) = T(t) + S(t) + е_t (аддитивная) или

y(t) = T(t) S(t) + е_t (мультипликативная), где

T(t) - временной тренд заданного параметрического вида,

S(t) - периодическая (сезонная) компонента,

е_t - случайная (стохастическая) компонента;

К моделям временных рядов относится множество более сложных моделей, таких, как модели адаптивного прогноза, модели авторегрессии и скользящего среднего и др. Их общей чертой является то, что они объясняют поведение временного ряда, исходя только из его предыдущих значений. Такие модели могут применяться, например, для изучения и прогнозирования объема продаж авиабилетов, спроса на мороженое, краткосрочного прогноза процентных ставок и т.п.

2. Регрессионные модели с одним уравнением

В таких моделях зависимая (объясняемая) переменная у представляется в виде функции

f (x, в) = f (x₁,…x_k,в₁,…, в_p), где

x₁,…x_k - независимые (объясняющие) переменные,

в₁,…, в_p - параметры.

В зависимости от вида функции f (x, в) модели делятся на линейные и нелинейные. Например, можно исследовать спрос на мороженое как функцию от времени, температуры воздуха, среднего уровня доходов или зависимость зарплаты от возраста, пола, уровня образования, стажа работы и т.п.

Область применения таких моделей, даже линейных, значительно шире, чем моделей временных рядов. Проблемам теории оценивания, верификации, отбора значимых параметров и другим посвящен огромный объем литературы. Эта тема является, пожалуй, стержневой в эконометрике и основной в данном курсе.

3. Системы одновременных уравнений

Эти модели описываются системами уравнений. Системы могут состоять из тождеств и регрессионных уравнений, каждое из которых может, кроме объясняющих переменных, включать в себя также объясняемые переменные из других уравнений системы.

Таким образом, мы имеем здесь набор объясняемых переменных, связанных через уравнения системы. Примером может служить модель спроса и предложения. Системы одновременных уравнений требуют относительно более сложный математический аппарат. Они могут использоваться для моделей становой экономики и др.

Типы данных

При моделировании экономических процессов мы встречаемся с двумя типами данных: пространственные данные и временные ряды.

Примером пространственных данных является, например, набор сведений (объем производства, количество работников, доход и др.) по разным фирмам в один и тот же момент времени (пространственный срез).

Примерами временных данных могут быть ежеквартальные данные по инфляции, средней заработной плате, национальному доходу, денежной эмиссии за последние годы или, например, ежедневный курс доллара США на ММВБ.

Отличительной чертой временных данных является то, что они естественным образом упорядочены по времени, кроме того, наблюдения в близкие моменты времени часто бывают зависимыми.

квадрат математический дисперсия

2.2 Задание 2

Условие: В течение месяца были получены 10 уровней маржинального дохода (в процентах к выручке): (N = 6)

N +5; N+3; N+6; N+7; N+8; N+4; N+3; N+2; N+6; N+5

Используя метод экспоненциального сглаживания для интервала (к = 0,2) получите прогнозируемое значение для 11-го результата.

Решение:

F₀ = F₁ +S (D₁ - F₁), где

F₀ - текущий прогноз,

F₁ - прогноз сделанный 1 период времени назад,

S - сглаживающая константа,

D₁ - последнее наблюдение.

1 - 11%

2 - 9% F₀ = 11 + 0,2 * 0 =11

3 - 12% F₀ = 11 + 0,2 * (9 - 11)=11+ 0,2*(-2) = 10,6

4 - 13% F₀ = 10,6 + 0,2 *(12-10,6) =10,6+0,28=10,88

5 - 14% F₀ = 10,88 + 0,2 *(13-10,88) =10,88+0,424=11,304

6 - 10% F₀ = 11,304 + 0,2*(14-11,304) =11,304+0,539=11,843

7 - 9% F₀ = 11,843 + 0,2 *(10-11,843) =11,843-0,369=11,474

8 - 8% F₀ = 11,474 + 0,2 *(9-11,474) =11,474-0,495=10,979

9 - 12% F₀ = 10,979 + 0,2 *(8-10,979) =10,979-0,596=10,383

10 - 11% F₀ = 10,383 + 0,2 *(12-10,383) =10,383+0,323=10,706

11 - ? F₀ = 10,706 + 0,2 *(11-10,706) =10,706+0,059=10,765

Вывод: Для 11-го результата прогнозируемое значение равно 10,765%.

2.3 Задание 3

Условие: Определите вид эмпирической формулы, отвечающей следующей таблице(N = 6):

Решение:

Парабола второй степени

y = ax² +bx + c

y₁ = ax₁² +bx₁ + c + V₁

y₂ = ax₂² +bx₂ + c + V₂

y_n = ax_n² +bx_n + c + V_n

y_i = ax_i² +bx_i + c + V_i

V_i = y_i - ax_i² - bx_i - c

V_i² = (y_i - ax_i² - bx_i - c)² - min

(y_i - ax_i² - bx_i - c)²

F_a,b,c =

Для a, b, c функция будет минимальной

= 0; = 0; = 0

(f²) = 2f*f

Cоставляем систему уравнений

y = ax² + bx + c

5c = 514 - 90a - 20b

10b = 683 - 80a

654a + 8(683 - 80a) = 5869

574a = 5869 - 5464

14a = 405

a = 28,93

b = = = - 163,14

c = = = = 234.62

Вывод: эмпирическая формула у =28,93х² - 163,14х + 234,62

Размещено на Allbest.ru