Модель авторегрессии и скользящего среднего (ARMA)

Прогнозы перспектив, основанные на временных рядах, опираются на предположение о том, что развитие будущих событий будет подобно прошлому, а структура прошлых событий поддается адекватному описанию. Методика временных рядов является одной из наиболее часто применяемых для прогнозирования переменных, с постоянной и стабильной структурой изменений.

Методология Бокса-Дженкинса является очень мощным инструментом точного краткосрочного прогнозирования. Менеджеры должны учитывать, что создание удовлетворительной модели ARIMA по методике Бокса-Дженкинса требует довольно большого количества исторических данных и значительных затрат времени аналитика.

Практических применений методики Бокса-Дженкинса очень много. Модели ARIMA реально применялись для следующих целей:

оценка изменений в структуре цен в телефонной индустрии США;

изучение взаимосвязи между концентрацией аммония, скоростью течения и температурой воды в реках;

прогнозирование годовых объемов запасов;

прогнозирование количества действующих нефтяных скважин;

анализ количества построенных частных жилищных единиц;

анализ ежедневных наблюдений процентного роста количества единиц продаваемого товара;

анализ конкуренции между авиа- и железнодорожными перевозками;

прогнозирование уровня занятости;

анализ большого числа временных рядов энергопотребления для коммунальных предприятий;

анализ эффектов стимулирования продаж потребительских продуктов;

прогнозирование различных категорий гарантий качества продукции.

Пример 2. Аналитиком компании Y, был подготовлен временной ряд данных для производственного процесса, который необходимо спрогнозировать. Собранные им данные представлены в таблице 2, а соответствующий график показан на рис.7. Представляется, что метод Бокса-Дженкинса будет наиболее подходящим для обработки собранных данных.

Таблица 2 Значения выпусков продукции компании Atron

Период	Выпуск	Период	Выпуск	Период	Выпуск	Период	Выпуск	Период	Выпуск
1	60,0	16	88,5	31	79,5	46	84,0	61	72,0
2	81,0	17	76,5	32	64,5	47	73,5	62	66,0
3	72,0	18	82,5	33	99,0	48	78,0	63	73,5
4	78,0	19	72,0	34	72,0	49	49,5	64	66,0
5	61,5	20	76,5	35	78,0	50	78,0	65	73,5
6	78,0	21	75,0	36	63,0	51	88,5	66	103,5
7	57,0	22	78,0	37	66,0	52	51,0	67	60,0
8	84,0	23	66,0	38	84,0	53	85,5	68	81,0
9	72,0	24	97,5	39	66,0	54	58,5	69	87,0
10	67,8	25	60,0	40	87,0	55	90,0	70	73,5
11	99,0	26	97,5	41	61,5	56	60,0	71	90,0
12	25,5	27	61,5	42	81,0	57	78,0	72	78,0
13	93,0	28	96,0	43	76,5	58	66,0	73	87,0
14	75,0	29	79,5	44	84,0	59	97,5	74	99,0
15	57,0	30	72,0	45	57,0	60	64,5	75	72,0



Рисунок 7- График данных по производственному процессу, интересующему компанию Atron

Начнем поиск пробной модели с анализа графика данных и графика функции выборочной автокорреляции, показанного на рис. 8. Исходный временной ряд данных характеризуется вариацией значений в окрестности фиксированного уровня, приблизительно равного 80, а значения коэффициентов автокорреляции быстро убывают до нуля. Исходя из этого, можно сделать вывод, что данный временной ряд является стационарным.

Рисунок 8 - Выборочная автокорреляционная функция для данных компании Atron

Первый выборочный коэффициент автокорреляции (-0,53) существенно отличается нуля для уровня 5%, поскольку находится вне диапазона

.

Автокорреляция для запаздывания в 2 периода ближе к пороговому значению для уровня 5% и противоположна по знаку автокорреляции r₁ на интервале 1. Остальные автокорреляции малы и находятся в рамках установленных предельных ошибок. Можно предположить, что подобная структура коэффициентов автокорреляции соответствует либо модели AR(1), либо, что также допустимо, модели МА(2), если считать, что автокорреляции отсекаются (неотличимы от нуля) уже после второго интервала. В результате принимаем решение проанализировать график функции выборочной частной автокорреляции, показанный на рис. 9.

Рисунок 9 - Выборочная частная автокорреляционная функция для данных компании

Заметим, что первый коэффициент частной автокорреляции (-0,53) значительно отличается от нуля, но ни один из остальных коэффициентов частной автокорреляции не приближается к уровню значащего значения.^. В результате приходим к заключению, что поведение функций выборочной автокорреляции и выборочной частной автокорреляции соответствует модели AR(1) (или, что то же самое, ARIMA(1,0,0)), однако чтобы полностью исключить риск, смоделируем данные также с помощью модели МА(2) (или АRIМА(0,0,2)). Если обе модели окажутся адекватными, возможно выбрать лучшую модель, исходя из принципа экономии (Принцип экономии состоит в предпочтении простой модели более сложной).

Постоянное слагаемое включено в обе модели, чтобы учесть тот факт, что данные изменяются в окрестности уровня, отличного от нуля (если бы данные выражались как отклонение от выборочного среднего, то в обеих моделях постоянное слагаемое было бы ненужным).

Обе модели показали хорошее соответствие данным. Оцененные коэффициенты значительно отличаются от нуля. Среднеквадратические ошибки сходны.

МА(2):s²=135,1

AR(1):s²=137,9.

Прогнозы на один и два периода вперед для двух этих моделей отличаются в некоторых деталях, однако прогнозы на три периода вперед (период 78) весьма близки. При фиксированном источнике для предсказаний, прогнозы для стационарных процессов становятся, в конечном счете, равны предполагаемому среднему уровню. В рассматриваемом случае предполагаемый средний уровень приблизительно равен ? = 75 для обеих моделей.

Q_m-статистика Льюинга-Бокса (модифицированная статистика Бокса-Пирса) незначительна для коэффициентов корреляции на интервалах т = 12, 24, 36 и 48 для обеих моделей. Отдельные остаточные коэффициенты автокорреляции малы и находятся в рамках их предельных ошибок. Остаточная автокорреляционная функция для модели МА(2) аналогична. Не вызывает сомнений тот факт, что ошибки случайны в обеих этих моделях.

Поскольку модель AR(1) имеет два параметра (включая постоянное слагаемое), а модель МА(2) -- три (включая постоянное слагаемое), то, в соответствии с принципом экономии, для прогноза будущих значений данных решил воспользоваться более простой моделью AR(1).

Уравнение прогноза AR(1) будет иметь вид

y_t = 115,842 + (-0,538) y_t-1 = 115,842 - 0,538 y_t-1,так что для периода 76

y_t = 115,842 - 0,538 y₇₅ = 115,842 - 0,538(72) = 77,11.

Помимо этого, прогноз на два периода вперед будет следующим.

y₇₇ = 115,842-0,538 y₇₆ = 115,842-0,538(77,11) = 74,3.

Пример 3. Аналитик компании Atron, решил воспользоваться методом Бокса-Дженкинса для прогнозирования ошибок (отклонения от намеченных объемов производства компании), обнаруживаемых при контроле качества производственного процесса, находящегося под его управлением. Соответствующие данные приведены в таблице 3, а график этого временного ряда ошибок показан на рис. 10.

Таблица 3 Ошибки, обнаруженные при контроле качества в компании Atron (произв. 1)

Период (П)	Ошибка	(П)	Ошибка	(П)	Ошибка	(П)	Ошибка	(П)	Ошибка
1	-0,23	19	-0,20	37	-1,93	55	-0,97	73	0,10
2	0,63	20	0,21	38	1,87	56	0,83	74	-0,62
3	0,48	21	0,91	39	-0,97	57	-0,33	75	2,27
4	-0,83	22	-0,36	40	0,46	58	0,91	76	-0,62
5	-0,03	23	0,48	41	2,12	59	-1,13	77	0,74
6	1,31	24	0,61	42	-2,11	60	2,22	78	-0,16
7	0,86	25	-1,38	43	0,70	61	0,80	79	1,34
8	-1,28	26	-0,04	44	0,69	62	-1,95	80	-1,83
9	0	27	0,90	45	-0,24	63	2,61	81	0,31
10	-0,63	28	1,79	46	0,34	64	0,59	82	1,13
11	0,08	29	-0,37	47	0,60	65	0,71	83	-0,87
12	-1,30	30	0,40	48	0,15	66	-0,84	84	1,45
13	1,48	31	-1,19	49	-0,02	67	-0,11	85	-1,95
14	-0,28	32	0,98	50	0,46	68	1,27	86	-0,51
15	-0,79	33	-1,51	51	-0,54	69	-0,80	87	-0,41
16	1,86	34	0,90	52	0,89	70	-0,76	88	0,49
17	0,07	35	-1,56	53	1,07	71	1,58	89	1,54
18	0,09	36	2,18	54	0,20	72	-0,38	90	-0,96



Рисунок 10 - Ошибки (отклонения от намеченных значений объемов), обнаруженные при контроле качества в компании Atron

Начнем процесс определения модели с изучения графика временного ряда ошибок, а также проверки функций автокорреляции и частной автокорреляции, показанных на рис. 11 и 12.

Рисунок 11 - Функция выборочной автокорреляции для данных контроля качества компании Atron

Рисунок 12 - Функция выборочной автокорреляции для данных контроля качества

Графики временного ряда и автокорреляционных функций указывают на стационарность данного ряда. Поскольку имеется только один значимый коэффициент автокорреляции (для интервала 1, значение-0,50), а все остальные коэффициенты малы и находятся в рамках принятого диапазона незначимости, можно считать, что выборочные коэффициенты автокорреляции отсекаются уже после первого интервала.

График частной автокорреляции начинается со значимого значения для интервала 1, причем первые три коэффициента выборочной частной автокорреляции отрицательны и плавно затухают возле нуля. Можно сделать вывод, что поведение выборочных коэффициентов автокорреляции и частной автокорреляции весьма сходно с теоретическими показателями для процесса МА(1) (или ARIMA(0,0,1)). Приходим к заключению, что исследуемый временной ряд можно описать с помощью модели МА(1).

Параметры в модели МА(1) оцениваются как ? = 0,1513 и щ₁=0,5875. Каждый из них существенно отличается от нуля. Функция остаточной автокорреляции показана на рис. 13, а ?²-статистика Льюинга-Бокса (модифицированная статистика Бокса-Пирса) указывает на случайность ошибок.

Рисунок 13 - Автокорреляционная функция для остатков модели МА(1)

Уравнение прогноза по модели МА(1) будет следующим:

y_t = ? - щ₁е_t-1,

где е_t-1 оценивается с помощью соответствующего остатка e_t-1. Для прогноза ошибки (отклонения от намеченных цифр) на период 91 нужен остаток для периода 90, e₉₀= -0,4804. Вычисляем следующее:

y₉₁= 0,1513 - 0,5875(-0,4804) = 0,4335.

Прогноз относительно ошибки контроля качества в период 92 является просто предполагаемым средним ряда, так как, в начале прогноза t = 90, наилучшей оценкой порядка ошибки в период 91, е₉₁, является нуль. Таким образом,

y₉₂= 0,1513 -0,5875(0) = 0,1513.

Пример 4. Интерес представляет прогнозирование ошибок при контроле качества объема выпусков другого производства компании Atron. Попробуем применить метод Бокса-Дженкинса, с этим данным (таблица 4), а график этого временного ряда представлен на рис. 14.

Таблица 4. Ошибки, обнаруженные при контроле качества в компании Y (произв. 2)

Период	Ошибка	Период	Ошибка	Период	Ошибка	Период	Ошибка
1	0,77	21	-0,23	41	2,16	61	-0,75
2	0,33	22	0,49	42	0,04	62	-1,24
3	2,15	23	-0,87	43	1,91	63	-0,62
4	2,50	24	0,61	44	0,43	64	-0,54
5	1,36	25	0,20	45	-0,32	65	-0,23
6	0,48	26	0,98	46	-0,48	66	1,05
7	2,05	27	0,78	47	-0,13	67	-0,66
8	-1,46	28	0,80	48	-2,26	68	0,25
9	-1,13	29	0,86	49	-0,73	69	-0,63
10	-2,85	30	1,72	50	0,10	70	0,91
11	-2,67	31	0,15	51	-1,47	71	-0,21
12	-2,71	32	-1,15	52	-0,89	72	0,24
13	-1,30	33	-2,46	53	-0,53	73	0,05
14	-0,88	34	-0,37	54	-0,20	74	0,85
15	-0,07	35	0,80	55	-0,70	75	1,55
16	-1,47	36	0,49	56	-0,27	76	0,40
17	1,04	37	0,50	57	0,39	77	1,82
18	1,02	38	0,07	58	-0,07	78	0,81
19	-2,03	39	1,92	59	0,89	79	0,28
20	-2,54	40	1,00	60	0,37	80	1,06



Рисунок 14 - Ошибки (отклонения от намеченных цифр) контроля качества

Общий вид графиков исходного временного ряда и функции выборочной автокорреляции (рис. 15) наводит на мысль о том, что исходный ряд ошибок контроля качества является стационарным. Значения ошибок колеблются около фиксированного уровня -- нуля, а автокорреляции быстро и плавно затухают.

Рисунок 15 - Выборочные автокорреляции для данных контроля качества

Отметим, что два первых коэффициента автокорреляции существенно отличны от нуля и, что, при прочих равных условиях, более важно, коэффициенты автокорреляции для первых нескольких интервалов затухают подобно тому, как это определено в теоретическом описании процессов типа AR(1). Проанализируем также график функции выборочной частной автокорреляции, представленный на рис. 16. Все коэффициенты частной автокорреляции, кроме первого, практически незначимы. В совокупности структура функций выборочной автокорреляции и выборочной частотной автокорреляции точно соответствовала процессам типа AR(p). Поэтому представляется, что данные ряда ошибок (отклонений от намеченных значений выпусков) можно адекватно смоделировать как процесс AR(1) или же ARIMA(1,0,0).

Рисунок 16 - Выборочные частные автокорреляции для данных контроля качества

Поскольку выборочное среднее ряд ошибок чрезвычайно мало (порядка нуля) по сравнению со стандартным отклонением, в модель не будет включен постоянный член.

Параметр модели AR(1) оценивается как ц₁=0,501 и значительно отличается от нуля (t = 5,11). Остаточная среднеквадратическая ошибка s² = 1,0998. ?²-статистика Льюинга-Бокса и график функции остаточной автокорреляции (рис. 17) позволяют предположить, что найденная модель адекватна. Нет никаких причин сомневаться в соблюдении основного требования к значениям ошибок.

Рисунок 17 - Автокорреляционная функция для модели AR(1)

Уравнение прогноза имеет следующий вид:

y_t = 0,501y_t-1.

Таким образом, прогнозы на периоды 81 и 82 будут следующими:

y₈₁ = 0,501y₈₀ = 0,501(1,06) = 0,531

y₈₂ = 0,501y₈₁ = 0,501(0,531) = 0,266.

Опробуем чуть более сложную модель, чтобы получить результаты, которые подтверждали бы выбор в пользу модели AR(1). Используем для анализа ошибок контроля качества дополнительный параметр и опробуем модель ARMA(1,1) (или ARIMA(1,0,1)). Последнее можно обосновать тем, что если выбранная прежде модель верна, то дополнительный параметр скользящего среднего в новой модели будет давать очень незначительный вклад.

Результаты моделирования исходного ряда данных на основе модели ARIMA(1,0,1) показали, что параметр МА(1) не слишком отличается от нуля (t = 1,04), а это означает, что в модели он не нужен. Конечно, поскольку это более общая модель, нежели модель AR(1), ее адекватность представления данных, по меньшей мере, такая же, что подтверждается значением s² = 1,0958 и случайным поведением остатков.

Пример 4. Рассмотрим прогнозирование объемов продаж компании Keytron. Имеются данные об объемах продаж за 115 месяцев. Эти данные, охватывающие период с января 1987 г. по август 1996 г., представлены в таблице 5

Таблица 5 Ежемесячные объемы продаж компании Keytron

Месяц	Объем	Месяц	Объем	Месяц	Объем
1	1736,8	41	1796,6	82	2441,4
2	1297,4	42	1822,6	83	2113,8
3	559,0	43	1835,6	84	2035,8
4	1455,6	45	1944,8	85	2152,8
5	1526,2	46	2009,8	86	1708,2
6	1419,6	47	2116,4	87	806,0
7	1484,6	48	1994,2	88	2028,0
8	1651,0	49	1895,4	89	2236,0
9	1661,4	50	1947,4	90	2028,0
10	1851,2	51	1770,6	91	2100,8
11	1617,2	52	626,6	92	2327,0
12	1614,6	53	1768,0	93	2225,6
13	1757,6	54	1840,8	94	2321,8
14	1302,6	55	1804,4	95	2275,0
15	572,0	56	2007,2	96	2171,0
16	1458,6	57	2067,0	97	2431,0
17	1567,8	58	2048,8	98	2165,8
18	1627,6	59	2314,0	99	780,0
19	1575,6	60	2072,6	100	2056,6
20	16,82,2	61	2134,6	101	2340,0
21	1710,0	62	1799,2	102	2033,2
22	1853,8	63	756,6	103	2288,0
23	1788,8	64	1890,2	104	2275,0
24	1822,4	65	2256,8	105	2581,8
25	1838,2	66	2111,2	106	2540,2
26	1635,4	67	2080,0	107	2519,4
27	618,8	68	2191,8	108	2267,2
28	1593,8	69	2202,2	109	2615,6
29	1898,0	70	2449,2	110	2163,2
30	1911,0	71	2090,4	111	899,6
31	1695,0	72	2184,0	112	2210,0
32	1757,6	73	2267,2	113	2376,4
33	1944,8	74	1705,6	114	2259,4
34	2108,6	75	962,0	115	2584,4
35	1895,4	76	1929,2
36	1822,6	77	2202,2
37	2054,0	78	1903,2
38	1544,4	79	2337,4
39	600,6	80	2022,8
40	1604,2	81	2225,6

Внимательно изучив временной ряд, график которого показан на рис. 18, можно обнаружить в нем, наряду с возрастающим трендом, отчетливо проявляющуюся сезонную структуру. Приходим к заключению, что данный ряд является нестационарным, и поэтому следует применить к нему сезонную модель ARIMA

Рисунок 18 - График объемов продаж компании

Определение модели данных начнем с изучения функции выборочной автокорреляции, график которой приведен на рис. 19. Коэффициенты автокорреляции при малых интервалах практически отсекаются уже после интервала 1, хотя присутствует и незначительный всплеск на интервале 3. Следует также отметить, что коэффициенты автокорреляции на интервалах сезонности, т.е. 12, 24 и 36 (последний не показан), значительны, но быстро затухают. Это указывает на нестационарность ряда и подтверждает результаты исследования графика исходного временного ряда.

Рисунок 19 - Функция выборочной автокорреляции для данных об объемах компании

Прежде чем продолжить поиск адекватной модели, вычислим разностный ряд в соответствии с сезонной структурой, чтобы проверить, не удастся ли преобразовать исходный ряд данных в стационарный.

Сезонная разность для периода S=12 определяется следующим образом:

Д₁₂y_t = y_t - y_t-12.

Первой сезонной разностью, вычисляемой для данных продаж компании Keytron, будет следующая:

y₁₃ - y₁ = 1757,6 - 1736,8 = 20,8.

На рис. 20 представлен график вычисленного ряда сезонных разностей.

Рисунок 20 - Сезонные разности для данных об объемах продаж компании

На рис. 21 и 22 приведены соответственно функции выборочной автокорреляции и выборочной частной автокорреляции для разностного ряда. Из рис. 19 следует, что сезонные разностные данные вполне можно считать стационарными, причем они колеблются около значения порядка 100. Коэффициенты автокорреляции имеют один значительный пик при интервале 12 (отсеченный), а коэффициенты выборочной частичной автокорреляции имеют значительные пики при интервалах 12 и 24, которые постепенно уменьшают» (затухают). Подобное поведение указывает на элемент МА(1) при интервале 12.

Рисунок 21 - График выборочной автокорреляции сезонных разностей данных об объемах продаж компании

Рисунок 22 - График выборочной частной корреляции сезонных разностей данных об объемах продаж компании

Выберем для данных модель вида ARIMA(0,0,0)(0,1,1). Подобная запись подразумевает следующее.

р=0- обычные авторегрессионные слагаемые

d=0- обычные разности

q=0- обычные слагаемые скользящего среднего

Р=0- сезонные авторегрессионные слагаемые

D=1- сезонные разности на интервале 5-12

Q=1- слагаемые сезонного скользящего среднего.

Поскольку сезонный разностный ряд изменяется около ненулевого уровня, в уравнение пришлось добавить постоянное слагаемое. Окончательная модель имеет следующий вид

y_t - y_t-12 =? + е_t + ш₁е_t-12, (87)

где ? -- средний уровень сезонного разностного процесса, а величина ш -- это сезонный параметр скользящего среднего.

График функции автокорреляции остатков представлен на рис. 23, а прогноз на следующие 12 месяцев продолжает график объемов продаж компании (рис. 24).

Рисунок 23 - Авторегрессионная функция остатков модели ARIMA(0,0,0)(0,1,1)

Рисунок 24 - Объемы продаж компании и прогнозы объемов продаж

Получаем, что первоначальная модель хорошо описывает структуру данных. ?²- статистика Льюинга-Бокса для групп интервалов т = 12, 24, 36 и 48 не существенна, что показывает большое значение р. Автокорреляции остатков все одинаково малы без какой-либо видимой структуры.

Оцененными значениями параметров были ? = 85,457 и ш = 0,818. Исходя из значений этих величин, уравнение (87), разрешаемое относительно y_t, будет иметь следующий вид:

y_t = y_t-12 + 85,457 + 0,818е_t-12.

Прогнозируя продажи на период 116, приравниваем t = 116 и видим, что для периодов, на которые делается прогноз, лучшим предполагаемым значением е₁₁₆(ошибка на следующий период) будет нуль. Таким образом, уравнением прогноза будет

y_{116 =} y₁₁₄ + 85,147 - 0,818e₁₀₄,

где e₁₀₄-- это остаток (оценка ошибки) для периода 104.

y₁₁₆= 2275 + 85,457 - 0,818(-72,418) = 2419,7. Аналогичным образом

y₁₁₇ = y₁₀₅+ 85,457-0,8186,05e₁₀₅

y₁₁₇= 2581,8 + 85,457 - 0,818(119,214) = 2504,3.

Прогнозы полностью соответствуют поведению ряда. Можно предположить правильность описания сезонной структуры и в скором времени в компании будет отмечен рост объемов продаж.

Литература

эконометрический модель авторегрессия

1. Кендэл М. Временные ряды. - М.: "Финансы и статистика", 1981.

2. Рунова Л.П., Рунов И.Л. Анализ временных рядов и прогнозирование. Учебно-методические материалы по дисциплине “Методы социально-экономического прогнозирования” для студентов

са специальности “Математические методы в экономике”. Ростов-на-Дону, РГУ, 2006.

2. Скучалина Л. Н., Крутова Т. А. Организация и ведение базы данных временных рядов. Система показателей, методы определения, оценки прогнозирования информационных процессов. ГКС РФ. М., 1995.

3. Статистическое моделирование и прогнозирование. Учебное пособие / Под ред. А. Г. Гранберга. - М.:"Финансы и статистика", 1990.

4. Четыркин Е.Н. Статистические методы прогнозирования. -М.: ”Статистика”, 1975.

Размещено на Allbest.ru