При проведении регрессионного анализа, основанного на методе наименьших квадратов, на практике следует обратить серьезное внимание на проблемы, связанные с выполнимостью свойств случайных отклонений моделей. Для получения качественных оценок необходимо следить за выполнимостью предпосылок МНК (условий Гаусса? Маркова), т.к. при их нарушении МНК может давать оценки с плохими статистическими свойствами.

Одной из предпосылок МНК является условие постоянства дисперсии случайных отклонений - гомоскедастичность. Нарушение этого условия, т.е. изменение дисперсии случайных отклонений при изменении значений фактора x_i называют гетероскедастичностью.

Поскольку наличие гетероскедастичности является нарушением одной из предпосылок МНК, при ее обнаружении необходимо выявить ее причину и устранить ее.

Существует несколько методов обнаружения гетероскедастичности:

графический метод;

тест ранговой корреляции Спирмена;

тест Голдфельда-Квандта.

Графический метод обнаружения гетероскедастичности заключается в построении диагностической диаграммы - точечной графической зависимости между прогнозируемыми значениями результирующего показателя y_i и эмпирическими случайными отклонениями e_i (в случае парной регрессии можно также рассматривать зависимость случайных отклонений e_i от значений фактора x_i).

Если дисперсии случайных отклонений приблизительно одинаковые для разных значений y_{i (}или x_i), т.е. точки на диаграмме представляют собой полосу вокруг оси абсцисс приблизительно равной ширины, значит, присутствует гомоскедастичность.

Если дисперсии случайных отклонений различаются для разных значений y_{i (}или x_i), т.е. разброс точек вокруг оси абсцисс на диаграмме постепенно увеличивается или уменьшается, значит, присутствует гетероскедастичность.

Пример диагностической диаграммы при наличии гетероскедастичности представлен на рисунке 1.

Рис.1 Пример диагностической диаграммы при наличии гетероскедастичности

Суть теста ранговой корреляции Спирмена для обнаружения гетероскедастичности сводится к оценке коэффициента корреляции между рангами значений переменной Х (для множественной регрессии Y) и модуля случайных отклонений |е|.

Ранг - это место данного числового значения среди упорядоченных значений анализируемого показателя.

Коэффициент ранговой корреляции рассчитывается по формуле:

гетероскедастичность регрессионный анализ отклонение модель

где - разность между рангами значений переменной Х и модуля е.

Необходимо проверить значимость коэффициента ранговой корреляции с помощью механизма проверки статистических гипотез.

Для этого формулируется гипотеза:

Н₀: r_x,e = 0 - коэффициент ранговой корреляции незначим

Н₁: r_x,e ? 0 - коэффициент ранговой корреляции значим

Проверка гипотезы осуществляется по критерию Стьюдента. Наблюдаемое значение критерия Стьюдента находится по формуле:

Критерий T имеет число степеней свободы = n - 2.

По таблице критических точек Стьюдента определяется значение критической точки tкр, которое зависит от следующих показателей:

уровня значимости б, значение которого задается при проверке гипотезы;

числа степеней свободы .

Чтобы сделать вывод о значимости коэффициента ранговой корреляции необходимо сравнить между собой рассчитанное значение критерия Т и значение критической точки tкр.

Если значение критерия Т попадает в область принятия гипотезы (-tкр< Т <tкр), можно сделать следующие выводы:

коэффициент ранговой корреляции признается незначимым; в генеральной совокупности наблюдается гомоскедастичность, т.е. дисперсия случайных отклонений постоянна.

Если значение критерия Т попадает в одну из критических областей Т - tкр или Т tкр), выводы оказываются следующими:

коэффициент ранговой корреляции признается значимым; в генеральной совокупности наблюдается гетероскедастичность, т.е. дисперсия случайных отклонений не является постоянной.

Тест Голдфельда-Квандта для обнаружения гетероскедастичности проводится по следующему алгоритму:

вся совокупность наблюдений размерностью п упорядочивается по возрастанию значений фактора Х (или Y для множественной регрессии);

упорядоченная совокупность делиться на 3 части размерностью k, п - 2*k, k - соответственно;

строятся отдельные уравнения регрессии для 1-ой и 3-ей частей выборки, и рассчитываются остаточные дисперсии для каждой из рассматриваемых частей по формулам:

,

где - квадрат значения случайного отклонения из первой части выборки;

m - число факторов в регрессионной модели m (в парной регрессионной модели m = 1).

,

где - квадрат значения случайного отклонения из третьей части выборки;

проверяется гипотеза о равенстве дисперсий двух совокупностей:

Н₀: Sе₃² = Sе₁² - дисперсии двух частей выборки практически не отличаются друг от друга

Н₁: Sе₃²>Sе₁² - дисперсия третьей части выборки значимо больше дисперсии первой части

Для проверки гипотезы используется критерий Фишера, наблюдаемое значение которого рассчитывается по формуле:

Критерий F имеет распределение Фишера с числами степеней свободы н₁=н₂=k-m-1.

По таблице критических точек Фишера определяется значение критической точки fкр, которое зависит от следующих показателей:

уровня значимости б, значение которого задается при проверке гипотезы;

числа степеней свободы ₁;

числа степеней свободы ₂.

Необходимо сравнить между собой рассчитанное значение критерия F и значение критической точки fкр.

Если значение критерия F попадает в область принятия гипотезы (F<fкр), можно сделать следующие выводы: разница между остаточными дисперсиями признается незначимой; наблюдается гомоскедастичность.

Если значение критерия F попадает в критическую область (Ffкр), выводы оказываются следующими: разница между остаточными дисперсиями признается значимой; наблюдается гетероскедастичность.

Если при расчете остаточных дисперсий оказывается, что Sе₁²>Sе₃², то гипотеза преобразуется следующим образом:

Н₀: Sе₁² = Sе₃²

Н₁: Sе₁²>Sе₃²

Для проверки гипотезы используется критерий:

т.е. значение критерия F всегда должно быть больше единицы.

При обнаружении значительной гетероскедастичности необходимо выяснить причины ее возникновения и предложить способ устранения.

Основными причинами наличия гетероскедастичности в регрессионных моделях являются:

ошибки спецификации - влияние значимого фактора, не учтенного в модели; для устранения гетероскедастичности в этом случае необходимо изменить спецификацию модели;

внутренние свойства изучаемых переменных (например, при анализе зависимости спроса от дохода потребителя выясняется, что чем больше доход, тем больше индивидуальное значение спроса колеблется относительно ожидаемого значения); в этом случае необходимо использовать специальные методы построения эконометрической модели.

2. Задание № 1

а) оценим коэффициенты регрессионной модели

Для оценки параметров уравнения множественной регрессии применяют МНК.

Определим вектор оценок коэффициентов регрессии. Согласно методу наименьших квадратов, вектор s получается из выражения: s = (X^TX) - ¹X^TY

К матрице с переменными X_j добавляем единичный столбец:

Представим ход решения и расчеты в excel.

Таблица 2.1 - Матрица Х

Таблица 2.2 - Матрица Y

Таблица 2.3 - Матрица X^T

Таблица 2.4 - Умножаем матрицы, (X^TX)

В матрице, (X^TX) число 9, лежащее на пересечении 1-й строки и 1-го столбца, получено как сумма произведений элементов 1-й строки матрицы X^T и 1-го столбца матрицы X

Таблица 2.5 - Умножаем матрицы, (X^TY)

Находим обратную матрицу (X^TX) - ¹

=

Вектор оценок коэффициентов регрессии равен:

= =

Расчет в Еxcel:

Уравнение регрессии (оценка уравнения регрессии)

Y = 60.0143 + 0.2392X₁ + 10.7183X₂-0.7517X₃

б) Оценим значимость полученного уравнения на 5-% уровне

Составим таблицу 2.6 с расчетом промежуточных данных

Таблица 2.6 - Расчет промежуточных значений

Определим коэффициент детерминации:

Оценка значимости уравнения множественной регрессии осуществляется путем проверки гипотезы о равенстве нулю коэффициент детерминации рассчитанного по данным генеральной совокупности: R2 или b1 = b2 =. = bm = 0 (гипотеза о незначимости уравнения регрессии, рассчитанного по данным генеральной совокупности).

Для ее проверки используют F-критерий Фишера.

При этом вычисляют фактическое (наблюдаемое) значение F-критерия, через коэффициент детерминации R², рассчитанный по данным конкретного наблюдения.

По таблицам распределения Фишера-Снедоккора находят критическое значение F-критерия (Fкр). Для этого задаются уровнем значимости б (равно 0,05) и двумя числами степеней свободы k1=m и k2=n-m-1.

Проверка этой гипотезы осуществляется с помощью F-статистики распределения Фишера.

Если F < Fkp = Fб; n-m-1, то нет оснований для отклонения гипотезы H0.

Табличное значение при степенях свободы k1 = 3 и k2 = n-m-1 = 9 - 3 - 1 = 5, Fkp (3;5) = 5.41

Вывод: Поскольку фактическое значение F (9,11) > Fkp (5,41), то коэффициент детерминации статистически значим и уравнение регрессии статистически надежно.

в) Проведём анализ модели на наличие мультиколлинеарности с помощью корреляционной матрицы

Коллинеарность - зависимость между факторами. В качестве критерия мультиколлинеарности может быть принято соблюдение следующих неравенств:

r (x_jy) > r (x_kx_j); r (x_ky) > r (x_kx_j).

Если одно из неравенств не соблюдается, то исключается тот параметр x_k или x_j, связь которого с результативным показателем Y оказывается наименее тесной.

Для отбора наиболее значимых факторов x_i учитываются следующие условия:

связь между результативным признаком и факторным должна быть выше межфакторной связи;

связь между факторами должна быть не более 0.7. Если в матрице есть межфакторный коэффициент корреляции r_xjxi > 0.7, то в данной модели множественной регрессии существует мультиколлинеарность.;

при высокой межфакторной связи признака отбираются факторы с меньшим коэффициентом корреляции между ними.

Наиболее полным алгоритмом исследования мультиколлинеарности является алгоритм Фаррара-Глобера. С его помощью тестируют три вида мультиколлинеарности:

1. Всех факторов (ч² - хи-квадрат).

2. Каждого фактора с остальными (критерий Фишера).

3. Каждой пары факторов (критерий Стьюдента).

Анализ модели на наличие мультиколлинеарности с помощью корреляционной матрицы это метод №2 (Критерий Фишера)

Составим матрицу парных коэффициентов R.

Число наблюдений n = 9. Число независимых переменных в модели равно 3, а число регрессоров с учетом единичного вектора равно числу неизвестных коэффициентов. С учетом признака Y, размерность матрицы становится равным 5. Матрица, независимых переменных Х имеет размерность (9 х 5).

Таблица 2.7 - Матрица A, составленная из Y и X

Таблица 2.8 - Транспонированная матрица.

Таблица 2.9 - Матрица X^TX.

Полученная матрица имеет следующее соответствие:

Таблица 2.10 - Структура корреляционной матрицы

Найдем парные коэффициенты корреляции.

Таблица 2.11 - Расчет промежуточных параметров

Таблица 2.12 - Дисперсии и среднеквадратические отклонения.

Таблица 2.13 - Матрица парных коэффициентов корреляции:

Проверим с помощью статистической функции Excel - корреляция

Расчет в Excel:

Вывод: в нашем случае (y и x_x2), имеют |r|>0.7, что говорит о мультиколлинеарности факторов и о необходимости исключения одного из них из дальнейшего анализа.

г) при наличии мультиколлинеарности исключить ее.

Определяем обратную матрицу D = R^-1:

Вычисляем F-критерии Фишера:

где d_kk - диагональные элементы матрицы.

Рассчитанные значения критериев сравниваются с табличными при v₁=n-m и v₂=m-1 степенях свободы и уровне значимости б. Если F_k > F_Табл, то k-я переменная мультиколлинеарна с другими.

v₁=9-3 = 7; v₂=3-1 = 3. F_Табл (7;3) = 8.89

Поскольку F₁ > F_табл, то переменная y мультиколлинеарна с другими.

Поскольку F₂ ? F_табл, то переменная x₁ немультиколлинеарна с другими.

Поскольку F₃ > F_табл, то переменная x₂ мультиколлинеарна с другими.

Поскольку F₄ ? F_табл, то переменная x₃ немультиколлинеарна с другими.

Можно сделать вывод, что при построении регрессионного уравнения следует отобрать факторы x₂.

Уравнение регрессии после устранения мультиколлинеарности:

Y = 60.0143 + 0.2392X₁ - 0.7517X₃

Список использованных источников

1 Айвазян, С.А. Эконометрика / С.А. Айвазян, С.С. Иванова. - М.: Маркет ДС, 2017. - 104 с.

2 Артамонов, Н.В. Введение в эконометрику / Н.В. Артамонов. - М.: МЦНМО, 2015. - 204 c.

3 Гладилин, А.В. Практикум по эконометрике / А.В. Гладилин, А.Н. Герасимов, Е.И. Громов. - М.: Феникс, 2016. - 336 c.

4 Кочетыгов, А.А. Основы эконометрики / А.А. Кочетыгов, Л.А. Толоконников. - М.: Издательский центр "МарТ", 2015. - 352 c.

5 Новак, Эдвард. Введение в методы эконометрики. Сборник задач / Эдвард Новак. - М.: Финансы и статистика, 2016. - 248 c.

6 Теория статистики с элементами эконометрики. Учебник. В 2 томах (комплект). - Москва: СИНТЕГ, 2015. - 682 c.

7 Эконометрика / Под редакцией В.Б. Уткина. - М.: Дашков и Ко, 2017. - 562 c.

8 Яновский, Л.П. Введение в эконометрику / Л.П. Яновский, А.Г. Буховец. - М.: КноРус, 2017. - 256 c.

Приложение А