Пакет
анализа —
это надстройка Excel,
которая
представляет широкие
возможности для проведения статистического
анализа. Установка средств Пакет
анализа
В
стандартной
конфигурации программы Excel
вы
не найдете средства Пакет
анализа. Это
средство надо установить в качестве
надстройки
Excel.
Для
этого выполните следующие действия:
-
Выберите
команду Сервис
=> Надстройки. -
В
диалоговом окне Надстройки
(рис.
12) установите флажок Пакет
анализа. -
Щелкните
по кнопке ОК.
В
результате выполненных действий в
нижней части меню Сервис
появится
новая команда Анализ
данных. Эта
команда предоставляет
доступ к средствам анализа, которые
есть в Excel.
Рис.
12. Диалоговое окно Надстройки
Продемонстрируем
возможности Пакета программ на следующем
примере.
Пример
Построим
модель объема реализации одного из
продуктов фирмы.
Объем
реализации — это зависимая переменная
Y.
В
качестве независимых,
объясняющих переменных выбраны:
Х1
— время,
Х2
—
расходы на материал,
Х3
— цена
изделия,
Х4
—
средняя цена по отрасли,
X5
—
индекс расходов.
Статистические
данные по всем переменным приведены в
табл. 5.
В
рассматриваемом примере число наблюдений
п
=
16, факторных
признаков т
=
5.
Таблица
5
Y |
X1 |
Х2 |
Х3 |
Х4 |
Х5 |
126 |
1 |
4 |
15 |
17 |
100 |
137 |
2 |
4,8 |
14,8 |
17,3 |
98,4 |
148 |
3 |
3,8 |
15,2 |
16,8 |
101,2 |
191 |
4 |
8,7 |
15,5 |
16,2 |
103,5 |
274 |
5 |
8,2 |
15,5 |
16 |
104,1 |
370 |
6 |
9,7 |
16 |
18 |
107 |
432 |
7 |
14,7 |
18,1 |
20,2 |
107,4 |
445 |
8 |
18,7 |
13 |
15,8 |
108,5 |
367 |
9 |
19,8 |
15,8 |
18,2 |
108,3 |
367 |
10 |
10,6 |
16,9 |
16,8 |
109,2 |
321 |
11 |
8,6 |
16,3 |
17 |
110,1 |
307 |
12 |
6,5 |
16,1 |
18,3 |
110,7 |
331 |
13 |
12,6 |
15,4 |
16,4 |
110,3 |
345 |
14 |
6,5 |
15,7 |
16,2 |
111,8 |
364 |
15 |
5,8 |
16 |
17,7 |
112,3 |
384 |
16 |
5,7 |
15,1 |
16,2 |
112,9 |
Использование
инструмента Корреляция
Для
проведения корреляционного анализа
нужно выполнить следующие
действия:
1)
расположить данные в смежных диапазонах
ячеек;
2)
выбрать команду Сервис
=>
Анализ
данных (рис.
13). Появится
диалоговое окно Анализ
данных (рис.
14);
Рис.13.
Выбор команды Анализ
данных
3)в диалоговом окне
Анализ
данных выбрать
инструмент Корреляция
(рис.14), щелкнуть по кнопке ОК.
Появится диалоговое окно Корреляция
(рис.15);
Рис.14.
Выбор команды Анализ
данных
4)в диалоговом окне
Корреляция
в поле
«Входной интервал» необходимо ввести
диапазон ячеек, содержащих исходные
данные. Если также выделены заголовки
столбцов, то установить флажок «Метки
в первой строке» (рис.15);
5) выбрать параметры
вывода. В данном примере — установить
переключатель «Новый рабочий лист»;
6) щелкнуть по
кнопке ОК.
Рис.15.
Диалоговое окно Корреляция
На новом рабочем
листе получаем результаты вычислений-
таблицу значений коэффициентов парной
корреляции(рис.16).
Рис.16.
Результаты корреляционного анализа
Выбор
вида модели
Анализ
матрицы коэффициентов парной корреляции
показывает, что
зависимая переменная, т.е. объем
реализации, имеет тесную связь:
— с
индексом расходов ryX5
=0,816,
-
с
расходами наматериал ryX2
=
0,646, -
со
временем ryX1
= 0,678.
Однако
факторы Х1
и
Х5
тесно
связаны между собой : rX1X5=0,96,
что
свидетельствует о наличии коллинеарости.
Из этих двух переменных
оставим в модели Х5
—
индекс расходов. Переменные X1
(время),
X3
(цена изделия) и Х4
(цена
отрасли) также исключаем
из модели, т.к. связь их с результативным
признаком Y
(объемом
реализации) невысокая.
После
исключения незначимых факторов имеем
п=16,k
= 2. Модель
приобретает вид:
= ао+а1Х2+а2Х5.
Оценка
параметров модели
На
основе метода наименьших квадратов
проведем оценку параметров
регрессии по формуле (3). При этом
используем данные, приведенные
в табл.6.
Таблица
6
Y |
Х0 |
X2 |
X5 |
Объем |
Реклама |
Инд. |
|
126 |
1 |
4 |
100 |
137 |
1 |
4,8 |
98,4 |
148 |
1 |
3,8 |
101,2 |
191 |
1 |
8,7 |
103,5 |
274 |
1 |
8,2 |
104,1 |
370 |
1 |
9,7 |
107 |
432 |
1 |
14,7 |
107,4 |
445 |
1 |
18,7 |
108,5 |
367 |
1 |
19,8 |
108,3 |
367 |
1 |
10,6 |
109,2 |
321 |
1 |
8,6 |
110,1 |
307 |
1 |
6,5 |
110,7 |
331 |
1 |
12,6 |
110,3 |
345 |
1 |
6,5 |
111,8 |
364 |
1 |
5,8 |
112,3 |
384 |
1 |
5,7 |
112,9 |
Непосредственное
вычисление (вычисление «вручную»)
вектора оценок
параметров регрессии а
согласно
формуле (3) весьма громоздко,
т.к. матрица независимых переменных X
имеет
довольно высокую
размерность (16 х 3), матрица Y-
размерности (16 х 1). В табл. 7
приведены размерности матриц — результатов
промежуточных действий.
Таблица
7
XT |
(3 |
ХTХ |
(3×3) |
(XTX)-1 |
(3×3) |
(ХTХ)-1ХT |
(3 |
(ХTX)-1ХTY |
(3×1) |
Задача
существенно упрощается при использовании
средств Excel.
Операции,
предписанные формулой (3) целесообразно
проводить с помощью следующих встроенных
в Excel
функций:
•МУМНОЖ
—
умножение матриц,
•ТРАНСП
—
транспонирование матриц,
•МОБР
—
вычисление обратной матрицы.
Для
вычисления вектора оценок параметров
регрессии а
в
Excel
необходимо
выполнить следующие действия:
-
Ввести
данные (табл. 6). -
Выделить
диапазон ячеек для записи вектора а,
соответствующий
его размерности (3×1)
(рис. 16). -
Используя
встроенные в Excel
функции,
ввести формулу (3), определяющую
вектор а. -
Нажать
одновременно клавиши CTRL
+ SHIFT
+ ENTER.
Появится
результат (рис. 17).
Таким
образом, имеем
Рис.
16. Выделение диапазона ячеек (3 х 1) для
записи вектора оценок
параметров регрессии а
Уравнение
регрессии зависимости объема реализации
от затрат на рекламу и индекса
потребительских расходов можно записать
в виде:
=
-1471,3143 + 9,5684*Х2+15,7529*Х5.
Рис.
17. Результат вычислений — вектор оценок
параметров
регрессии а
Расчетные
значения Y
определяются
путем последовательной подстановки
в эту модель значений факторов, взятых
для каждого момента
времени t.
Применение
инструмента Регрессия
Для
проведения регрессионного анализа с
помощью Excel
выполните
следующие действия:
-
выберите
команду Сервис
=> Анализ
данных;
-
в
диалоговом окне Анализ
данных выберите
инструмент Регрессия.
Щелкните
по кнопке ОК; -
в
диалоговом окне Регрессия
в
поле «Входной интервал F»
введите
адрес диапазона ячеек, который
представляет зависимую переменную
Y.
В
поле «Входной интервал X»
введите
адреса одного или
нескольких диапазонов, которые содержат
значения независимых
переменных
(в рассматриваемом примере — переменные
Х2,
Х5).
Если
выделены
заголовки столбцов, то установить
флажок «Метки в первой
строке»;
-
выберите
параметры вывода. В данном примере –
установите переключатель
«Новая рабочая книга»; -
в
поле «Остатки» поставьте необходимые
флажки; -
щелкните
по кнопки ОК.
Результаты
представлены на рис. 18 и заключены в
таблицах.
Пояснения
к
таблице
«Регрессионная статистика» (рис.
18)
Регрессионная |
||
Наименования |
Принятые |
Формула |
Множественный |
Коэффициент |
|
R |
Коэффициент |
|
Нормированный |
Скорректированный R2 |
|
Стандартная |
Стандартная оценки |
|
Наблюдения |
Количество |
п |
Рис.
18. Результаты регрессионного анализа,
проведенного с
помощью Excel
Пояснения
к
таблице
«Дисперсионный
анализ» (рис.
18)
Df |
SS |
MS |
F-критерий |
|
Регрессия |
k |
|||
Остаток |
n-k-1 |
|||
Итого |
n-1 |
|
Во
втором столбце таблицы дисперсионного
анализа (рис. 18) содержатся коэффициенты
уравнения регрессии а0,
а1
а2,
в
третьем столбце содержатся стандартные
ошибки коэффициентов уравнения регрессии,
в четвертом — F-статистика,
используемая для проверки значимости
коэффициентов уравнения регрессии.
Рис.19.
График остатков
Оценка
качества модели
В
таблице «Вывод остатка» (рис. 18) приведены
вычисленные по модели
значения
и
значения остаточной компоненты е.
Исследование
на наличие автокорреляции остатков
проведем с помощью
d-критерия
Дарбина — Уотсона. Для определения
величины d-критерия
воспользуемся расчетной таблицей 7.
Имеем:
.
В
качестве критических табличных уровней
при п
=
16, двух объясняющих факторах при
уровне значимости =
0,05 возьмем величины
вdL
= 0,98 и dU=1,54
(приложения
А и Б).
Расчетное значение d
= 1,3567
попало в интервал от dL=
0,98
до dU
=1,54 (рис.20)
Таблица
7
Набл. |
Y |
Предск.Y |
(Y-Yср)2 |
||||
1 |
126 |
142,2467 |
-16,2467 |
263,9565 |
32693,1602 |
||
2 |
137 |
124,6969 |
12,3031 |
151,3670 |
815,0949 |
-199,8857 |
28836,2852 |
3 |
148 |
159,2365 |
-11,2365 |
126,2590 |
554,1143 |
-138,2442 |
25221,4102 |
4 |
191 |
242,3533 |
-51,3533 |
2637,1658 |
1609,3607 |
577,0321 |
13412,5352 |
5 |
274 |
247,0209 |
26,9791 |
727,8740 |
6135,9778 |
-1385,469 |
1076,6602 |
6 |
370 |
307,0568 |
62,9432 |
3961,8444 |
1293,4125 |
1698,153 |
3992,6602 |
7 |
432 |
361,2000 |
70,8000 |
5012,6351 |
61,7290 |
4456,375 |
15671,9102 |
8 |
445 |
416,8019 |
28,1981 |
795,1356 |
1814,9148 |
1996,428 |
19095,7852 |
9 |
367 |
424,1765 |
-57,1765 |
3269,1558 |
7288,8361 |
-1612,272 |
3622,5352 |
10 |
367 |
350,3247 |
16,6753 |
278,0653 |
5454,0914 |
-953,4352 |
3622,5352 |
11 |
321 |
345,3655 |
-24,3655 |
593,6761 |
1684,3439 |
-406,3013 |
201,2852 |
12 |
307 |
334,7235 |
-27,7235 |
768,5939 |
11,2765 |
675,4967 |
0,0352 |
13 |
331 |
386,7897 |
-55,7897 |
3112,4907 |
787,7102 |
1546,687 |
585,0352 |
14 |
345 |
352,0517 |
-7,0517 |
49,7263 |
2375,3939 |
393,4115 |
1458,2852 |
15 |
364 |
353,2302 |
10,7698 |
115,9879 |
317,6042 |
-75,94502 |
3270,4102 |
16 |
384 |
361,7251 |
22,2749 |
496,1704 |
132,3677 |
239,8953 |
5957,9102 |
4909 |
4909,0000 |
0,0000 |
22360,1037 |
30336,2280 |
6811,9263 |
158718,4375 |
Рис.
20. Сравнение расчетного значения
d-критерия
Дарбина -Уотсона с критическими значениями
вdL
и
dU
Так
как расчетное значение d-критерия
Дарбина-Уотсона попало в
зону неопределенности, то нельзя сделать
окончательный вывод об автокорреляции
остатков по этому критерию.
Для
определения степени автокорреляции
вычислим коэффициент
автокорреляции и проверим его значимость
при помощи критерия стандартной ошибки.
Стандартная ошибка коэффициента
корреляции рассчитывается
по формуле:
Коэффициенты
автокорреляции случайных данных должны
обладать выборочным распределением,
приближающимся к нормальному с
нулевым математическим ожиданием и
средним квадратическим
отклонением, равным
Если
коэффициент автокорреляции первого
порядка r1
находится
в интервале
-1,96
* 0,25 < r1
< 1,96*
0,25,
то
можно считать, что данные не показывают
наличие автокорреляции
первого порядка.
Используя
расчетную таблицу 7, получаем:
.
Так
как -0,49
< r1
=0,3046 < 0,49, то
свойство независимости остатков
выполняется.
Вычислим
для построенной модели множественный
коэффициент
детерминации
.
Множественный
коэффициент детерминации показывает
долю вариации
результативного признака под воздействием
включенных в модель
факторов Х2
и
Х5.
Т.о.,
около 86 % вариации зависимой переменной
(объема реализации) в построенной модели
обусловлено влиянием
включенных факторов Х2
(расходы
на рекламу) и Х5
(индекс потребительских
расходов).
Проверку
значимости уравнения регрессии проведем
на основе F-критерия
Фишера
.
Табличное
значение F-критерия
при доверительной вероятности 0,95,
степенями свободы 1=k=2
и 2=(n-k-1)=16-2-1=13
составляет Fтабл=3,8.
Поскольку
Fфакт=39б599
Fтабл=3,8,
то
уравнение регрессии следует признать
адекватным.
Значимость
коэффициентов уравнения регрессии а1
и
а2
оценим
с
использованием t-критерия
Стьюдента:
ta1=a1/Sa1=9,5684/2,2659=4,2227,
ta2=a2/Sa2=15,7529/2,4669=6,3857.
Табличное
значение t-критерия
Стьюдента при уровне значимости
0,05 и степенях свободы (16-2-1) = 13 составляет
tma6n
=2,16.
Так
как
ta1=4,2227
tma6n
=2,16,
ta2=6,3857
tma6n
=2,16.
то
отвергаем гипотезу о незначимости
коэффициентов уравнения регрессии
а1
и
а2.
Влияние
факторов на зависимую переменную
Проанализируем
влияние включенных в модель факторов
на зависимую
переменную по модели. Учитывая, что
коэффициенты регрессии невозможно
использовать для непосредственной
оценки влияния факторов на зависимую
переменную из-за различия единиц
измерения, вычислим соответствующие
коэффициенты эластичности, -коэффициенты:
,
,
,
.
Таким
образом, при увеличении расходов на
материл на 1 % величина объема реализации
изменится приблизительно на 0,3 %, при
увеличении расходов на 1 % величина
объема реализации
изменится на 5,5 %.
Кроме
того, при увеличении затрат на материалы
на 4,9129 ед. объем реализации увеличится
на 47 тыс. руб. (0,4569*102,865147),
при увеличении
расходов на 4,5128 ед. объем реализации
увеличится на 71 ед. (0,6911*102,865171).
Точечное
и интервальное прогнозирование
Найдем
точечные и интервальные прогнозные
оценки объема реализации на два квартала
вперед.
Для
построения прогноза результативного
признака Y
и
оценок прогноза
необходимо определить прогнозные
значения, включенных в
модель факторов Х2
и
Х5.
В
п. 1.3 на рис. 10 приведен результат
построения
тренда и прогнозирования по тренду для
временного ряда «Индекс
расходов».
В
качестве аппроксимирующей функции
выбран полином второй степени — парабола:
Х5
=
97,008 + 1,739 t
—
0,0488 t2,
по
которой построен прогноз на два шага
вперед, причем прогнозные значения
на 17-ый и 18-ый периоды соответственно
составляют:
Х5(17)
= 97,008+1,739*17-0,0488*172=
112,4678,
Х5(18)
= 97,008
+1,739*18-0,0488* 182=
112,4988.
Описанным
выше способом (п. 1.3) построим линию
тренда для временного
ряда «Расходы на материалы» (рис. 20).
Рис.
20. Результат построения тренда и
прогнозирования по тренду для
временного ряда «Расходы на материал»
Для
фактора Х2
«затраты
на материал» выбираем полиномиальную
модель
пятой степени (этой модели соответствует
наибольшее значение коэффициента
детерминации):
Х2=
-0,00055157*t5
+ 0,02915029*t4
— 0,55145744
*t3
+
4,31897327*t2
— 11,61564797*t
+ 12,83076923.
Замечание.
Полиномы
высоких порядков редко используются
при
прогнозировании экономических
показателей. В этом случае при вычислении
прогнозных оценок коэффициентов модели
необходимо учитывать
большое число знаков после запятой.
Прогнозные
значения на 17-ый и 18-ый периоды
соответственно составляют:
Х2(17)
= 5,7485,
Х2(18)
= 4,8485.
Для
получения прогнозных оценок переменной
7 по модели
=-1471,3143 +
9,5684*X2+15,7529*X5
подставим
в нее найденные прогнозные значения
факторов Х2
и
Х5,
получим:
(17)
=-1471,3143 + 9,5684*5,7485 + 15,7529*112,4678 = 355,3805,
(18)
= -1471,3143 + 9,5684*4,8485 + 15,7529*112,4988 = 347,2573.
Доверительный
интервал прогноза имеет границы:
верхняя
граница прогноза:
(n+l)
+ U(l),
нижняя
граница прогноза:
(n+l)
— U(l),
где
,
Vпр=XпрT(XTX)-1Xпр.
Имеем
,
tкр=2,16
(по таблице при =0,05
и числе степеней свободы 13),
,
.
Тогда с использованием
Excel
, имеем
Vпр(17)=XпрT(XTX)-1Xпр=0,2300,
U(1)=41,473*2,16*=42,9714
и
Vпр(18)=XпрT(XTX)-1Xпр=0,2613,
U(2)=41,473*2,16*=45,7964.
Результаты
прогнозных оценок модели регрессии
представим в таблице
прогнозов (табл. 8).
Таблица
8
Упреждение |
Прогноз |
Нижняя |
Верхняя |
1 |
355,3805 |
312,4091 |
398,3520 |
2 |
347,2573 |
301,4609 |
393,0537 |
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
- #
- #
- #
- #
- #
- #
- #
- #
- #
- #
- #
Простая линейная регрессия в EXCEL
history 26 января 2019 г.
-
Группы статей
- Статистический анализ
Регрессия позволяет прогнозировать зависимую переменную на основании значений фактора. В MS EXCEL имеется множество функций, которые возвращают не только наклон и сдвиг линии регрессии, характеризующей линейную взаимосвязь между факторами, но и регрессионную статистику. Здесь рассмотрим простую линейную регрессию, т.е. прогнозирование на основе одного фактора.
Disclaimer : Данную статью не стоит рассматривать, как пересказ главы из учебника по статистике. Статья не обладает ни полнотой, ни строгостью изложения положений статистической науки. Эта статья – о применении MS EXCEL для целей Регрессионного анализа. Теоретические отступления приведены лишь из соображения логики изложения. Использование данной статьи для изучения Регрессии – плохая идея.
Статья про Регрессионный анализ получилась большая, поэтому ниже для удобства приведены ее разделы:
Примечание : Если прогнозирование переменной осуществляется на основе нескольких факторов, то имеет место множественная регрессия .
Чтобы разобраться, чем может помочь MS EXCEL при проведении регрессионного анализа, напомним вкратце теорию, введем термины и обозначения, которые могут отличаться в зависимости от различных источников.
Примечание : Для тех, кому некогда, незачем или просто не хочется разбираться в теоретических выкладках предлагается сразу перейти к вычислительной части — оценке неизвестных параметров линейной модели .
Немного теории и основные понятия
Пусть у нас есть массив данных, представляющий собой значения двух переменных Х и Y. Причем значения переменной Х мы можем произвольно задавать (контролировать) и использовать эту переменную для предсказания значений зависимой переменной Y. Таким образом, случайной величиной является только переменная Y.
Примером такой задачи может быть производственный процесс изготовления некого волокна, причем прочность этого волокна (Y) зависит только от рабочей температуры процесса в реакторе (Х), которая задается оператором.
Построим диаграмму рассеяния (см. файл примера лист Линейный ), созданию которой посвящена отдельная статья . Вообще, построение диаграммы рассеяния для целей регрессионного анализа де-факто является стандартом.
СОВЕТ : Подробнее о построении различных типов диаграмм см. статьи Основы построения диаграмм и Основные типы диаграмм .
Приведенная выше диаграмма рассеяния свидетельствует о возможной линейной взаимосвязи между Y от Х: очевидно, что точки данных в основном располагаются вдоль прямой линии.
Примечание : Наличие даже такой очевидной линейной взаимосвязи не может являться доказательством о наличии причинной взаимосвязи переменных. Наличие причинной взаимосвязи не может быть доказано на основании только анализа имеющихся измерений, а должно быть обосновано с помощью других исследований, например теоретических выкладок.
Примечание : Как известно, уравнение прямой линии имеет вид Y = m * X + k , где коэффициент m отвечает за наклон линии ( slope ), k – за сдвиг линии по вертикали ( intercept ), k равно значению Y при Х=0.
Предположим, что мы можем зафиксировать переменную Х ( рабочую температуру процесса ) при некотором значении Х i и произвести несколько наблюдений переменной Y ( прочность нити ). Очевидно, что при одном и том же значении Хi мы получим различные значения Y. Это обусловлено влиянием других факторов на Y. Например, локальные колебания давления в реакторе, концентрации раствора, наличие ошибок измерения и др. Предполагается, что воздействие этих факторов имеет случайную природу и для каждого измерения имеются одинаковые условия проведения эксперимента (т.е. другие факторы не изменяются).
Полученные значения Y, при заданном Хi, будут колебаться вокруг некого значения . При увеличении количества измерений, среднее этих измерений, будет стремиться к математическому ожиданию случайной величины Y (при Х i ) равному μy(i)=Е(Y i ).
Подобные рассуждения можно привести для любого значения Хi.
Чтобы двинуться дальше, воспользуемся материалом из раздела Проверка статистических гипотез . В статье о проверке гипотезы о среднем значении генеральной совокупности в качестве нулевой гипотезы предполагалось равенство неизвестного значения μ заданному μ0.
В нашем случае простой линейной регрессии в качестве нулевой гипотезы предположим, что между переменными μy(i) и Хi существует линейная взаимосвязь μ y(i) =α* Х i +β. Уравнение μ y(i) =α* Х i +β можно переписать в обобщенном виде (для всех Х и μ y ) как μ y =α* Х +β.
Для наглядности проведем прямую линию соединяющую все μy(i).
Данная линия называется регрессионной линией генеральной совокупности (population regression line), параметры которой ( наклон a и сдвиг β ) нам не известны (по аналогии с гипотезой о среднем значении генеральной совокупности , где нам было неизвестно истинное значение μ).
Теперь сделаем переход от нашего предположения, что μy=a* Х + β , к предсказанию значения случайной переменной Y в зависимости от значения контролируемой переменной Х. Для этого уравнение связи двух переменных запишем в виде Y=a*X+β+ε, где ε — случайная ошибка, которая отражает суммарный эффект влияния других факторов на Y (эти «другие» факторы не участвуют в нашей модели). Напомним, что т.к. переменная Х фиксирована, то ошибка ε определяется только свойствами переменной Y.
Уравнение Y=a*X+b+ε называют линейной регрессионной моделью . Часто Х еще называют независимой переменной (еще предиктором и регрессором , английский термин predictor , regressor ), а Y – зависимой (или объясняемой , response variable ). Так как регрессор у нас один, то такая модель называется простой линейной регрессионной моделью ( simple linear regression model ). α часто называют коэффициентом регрессии.
Предположения линейной регрессионной модели перечислены в следующем разделе.
Предположения линейной регрессионной модели
Чтобы модель линейной регрессии Yi=a*Xi+β+ε i была адекватной — требуется:
- Ошибки ε i должны быть независимыми переменными;
- При каждом значении Xi ошибки ε i должны быть иметь нормальное распределение (также предполагается равенство нулю математического ожидания, т.е. Е[ε i ]=0);
- При каждом значении Xi ошибки ε i должны иметь равные дисперсии (обозначим ее σ 2 ).
Примечание : Последнее условие называется гомоскедастичность — стабильность, гомогенность дисперсии случайной ошибки e. Т.е. дисперсия ошибки σ 2 не должна зависеть от значения Xi.
Используя предположение о равенстве математического ожидания Е[ε i ]=0 покажем, что μy(i)=Е[Yi]:
Е[Yi]= Е[a*Xi+β+ε i ]= Е[a*Xi+β]+ Е[ε i ]= a*Xi+β= μy(i), т.к. a, Xi и β постоянные значения.
Дисперсия случайной переменной Y равна дисперсии ошибки ε, т.е. VAR(Y)= VAR(ε)=σ 2 . Это является следствием, что все значения переменной Х являются const, а VAR(ε)=VAR(ε i ).
Задачи регрессионного анализа
Для проверки гипотезы о линейной взаимосвязи переменной Y от X делают выборку из генеральной совокупности (этой совокупности соответствует регрессионная линия генеральной совокупности , т.е. μy=a* Х +β). Выборка будет состоять из n точек, т.е. из n пар значений .
На основании этой выборки мы можем вычислить оценки наклона a и сдвига β, которые обозначим соответственно a и b . Также часто используются обозначения â и b̂.
Далее, используя эти оценки, мы также можем проверить гипотезу: имеется ли линейная связь между X и Y статистически значимой?
Первая задача регрессионного анализа – оценка неизвестных параметров ( estimation of the unknown parameters ). Подробнее см. раздел Оценки неизвестных параметров модели .
Вторая задача регрессионного анализа – Проверка адекватности модели ( model adequacy checking ).
Примечание : Оценки параметров модели обычно вычисляются методом наименьших квадратов (МНК), которому посвящена отдельная статья .
Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)
Неизвестные параметры простой линейной регрессионной модели Y=a*X+β+ε оценим с помощью метода наименьших квадратов (в статье про МНК подробно описано этот метод ).
Для вычисления параметров линейной модели методом МНК получены следующие выражения:
Таким образом, мы получим уравнение прямой линии Y= a *X+ b , которая наилучшим образом аппроксимирует имеющиеся данные.
Примечание : В статье про метод наименьших квадратов рассмотрены случаи аппроксимации линейной и квадратичной функцией , а также степенной , логарифмической и экспоненциальной функцией .
Оценку параметров в MS EXCEL можно выполнить различными способами:
Сначала рассмотрим функции НАКЛОН() , ОТРЕЗОК() и ЛИНЕЙН() .
Пусть значения Х и Y находятся соответственно в диапазонах C 23: C 83 и B 23: B 83 (см. файл примера внизу статьи).
Примечание : Значения двух переменных Х и Y можно сгенерировать, задав тренд и величину случайного разброса (см. статью Генерация данных для линейной регрессии в MS EXCEL ).
В MS EXCEL наклон прямой линии а ( оценку коэффициента регрессии ), можно найти по методу МНК с помощью функции НАКЛОН() , а сдвиг b ( оценку постоянного члена или константы регрессии ), с помощью функции ОТРЕЗОК() . В английской версии это функции SLOPE и INTERCEPT соответственно.
Аналогичный результат можно получить с помощью функции ЛИНЕЙН() , английская версия LINEST (см. статью об этой функции ).
Формула =ЛИНЕЙН(C23:C83;B23:B83) вернет наклон а . А формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) — сдвиг b . Здесь требуются пояснения.
Функция ЛИНЕЙН() имеет 4 аргумента и возвращает целый массив значений:
ЛИНЕЙН(известные_значения_y; [известные_значения_x]; [конст]; [статистика])
Если 4-й аргумент статистика имеет значение ЛОЖЬ или опущен, то функция ЛИНЕЙН() возвращает только оценки параметров модели: a и b .
Примечание : Остальные значения, возвращаемые функцией ЛИНЕЙН() , нам потребуются при вычислении стандартных ошибок и для проверки значимости регрессии . В этом случае аргумент статистика должен иметь значение ИСТИНА.
Чтобы вывести сразу обе оценки:
- в одной строке необходимо выделить 2 ячейки,
- ввести формулу в Строке формул
- нажать CTRL+SHIFT+ENTER (см. статью про формулы массива ).
Если в Строке формул выделить формулу = ЛИНЕЙН(C23:C83;B23:B83) и нажать клавишу F9 , то мы увидим что-то типа <3,01279389265416;154,240057900613>. Это как раз значения a и b . Как видно, оба значения разделены точкой с запятой «;», что свидетельствует, что функция вернула значения «в нескольких ячейках одной строки».
Если требуется вывести параметры линии не в одной строке, а одном столбце (ячейки друг под другом), то используйте формулу = ТРАНСП(ЛИНЕЙН(C23:C83;B23:B83)) . При этом выделять нужно 2 ячейки в одном столбце. Если теперь выделить новую формулу и нажать клавишу F9, то мы увидим что 2 значения разделены двоеточием «:», что означает, что значения выведены в столбец (функция ТРАНСП() транспонировала строку в столбец ).
Чтобы разобраться в этом подробнее необходимо ознакомиться с формулами массива .
Чтобы не связываться с вводом формул массива , можно использовать функцию ИНДЕКС() . Формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);1) или просто ЛИНЕЙН(C23:C83;B23:B83) вернет параметр, отвечающий за наклон линии, т.е. а . Формула =ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) вернет параметр b .
Оценка неизвестных параметров линейной модели (через статистики выборок)
Наклон линии, т.е. коэффициент а , можно также вычислить через коэффициент корреляции и стандартные отклонения выборок :
= КОРРЕЛ(B23:B83;C23:C83) *(СТАНДОТКЛОН.В(C23:C83)/ СТАНДОТКЛОН.В(B23:B83))
Вышеуказанная формула математически эквивалентна отношению ковариации выборок Х и Y и дисперсии выборки Х:
И, наконец, запишем еще одну формулу для нахождения сдвига b . Воспользуемся тем фактом, что линия регрессии проходит через точку средних значений переменных Х и Y.
Вычислив средние значения и подставив в формулу ранее найденный наклон а , получим сдвиг b .
Оценка неизвестных параметров линейной модели (матричная форма)
Также параметры линии регрессии можно найти в матричной форме (см. файл примера лист Матричная форма ).
В формуле символом β обозначен столбец с искомыми параметрами модели: β0 (сдвиг b ), β1 (наклон a ).
Матрица Х равна:
Матрица Х называется регрессионной матрицей или матрицей плана . Она состоит из 2-х столбцов и n строк, где n – количество точек данных. Первый столбец — столбец единиц, второй – значения переменной Х.
Матрица Х T – это транспонированная матрица Х . Она состоит соответственно из n столбцов и 2-х строк.
В формуле символом Y обозначен столбец значений переменной Y.
Чтобы перемножить матрицы используйте функцию МУМНОЖ() . Чтобы найти обратную матрицу используйте функцию МОБР() .
Пусть дан массив значений переменных Х и Y (n=10, т.е.10 точек).
Слева от него достроим столбец с 1 для матрицы Х.
и введя ее как формулу массива в 2 ячейки, получим оценку параметров модели.
Красота применения матричной формы полностью раскрывается в случае множественной регрессии .
Построение линии регрессии
Для отображения линии регрессии построим сначала диаграмму рассеяния , на которой отобразим все точки (см. начало статьи ).
Для построения прямой линии используйте вычисленные выше оценки параметров модели a и b (т.е. вычислите у по формуле y = a * x + b ) или функцию ТЕНДЕНЦИЯ() .
Формула = ТЕНДЕНЦИЯ($C$23:$C$83;$B$23:$B$83;B23) возвращает расчетные (прогнозные) значения ŷi для заданного значения Хi из столбца В2 .
Примечание : Линию регрессии можно также построить с помощью функции ПРЕДСКАЗ() . Эта функция возвращает прогнозные значения ŷi, но, в отличие от функции ТЕНДЕНЦИЯ() работает только в случае одного регрессора. Функция ТЕНДЕНЦИЯ() может быть использована и в случае множественной регрессии (в этом случае 3-й аргумент функции должен быть ссылкой на диапазон, содержащий все значения Хi для выбранного наблюдения i).
Как видно из диаграммы выше линия тренда и линия регрессии не обязательно совпадают: отклонения точек от линии тренда случайны, а МНК лишь подбирает линию наиболее точно аппроксимирующую случайные точки данных.
Линию регрессии можно построить и с помощью встроенных средств диаграммы, т.е. с помощью инструмента Линия тренда. Для этого выделите диаграмму, в меню выберите вкладку Макет , в группе Анализ нажмите Линия тренда , затем Линейное приближение. В диалоговом окне установите галочку Показывать уравнение на диаграмме (подробнее см. в статье про МНК ).
Построенная таким образом линия, разумеется, должна совпасть с ранее построенной нами линией регрессии, а параметры уравнения a и b должны совпасть с параметрами уравнения отображенными на диаграмме.
Примечание: Для того, чтобы вычисленные параметры уравнения a и b совпадали с параметрами уравнения на диаграмме, необходимо, чтобы тип у диаграммы был Точечная, а не График , т.к. тип диаграммы График не использует значения Х, а вместо значений Х используется последовательность 1; 2; 3; . Именно эти значения и берутся при расчете параметров линии тренда . Убедиться в этом можно если построить диаграмму График (см. файл примера ), а значения Хнач и Хшаг установить равным 1. Только в этом случае параметры уравнения на диаграмме совпадут с a и b .
Коэффициент детерминации R 2
Коэффициент детерминации R 2 показывает насколько полезна построенная нами линейная регрессионная модель .
Предположим, что у нас есть n значений переменной Y и мы хотим предсказать значение yi, но без использования значений переменной Х (т.е. без построения регрессионной модели ). Очевидно, что лучшей оценкой для yi будет среднее значение ȳ. Соответственно, ошибка предсказания будет равна (yi — ȳ).
Примечание : Далее будет использована терминология и обозначения дисперсионного анализа .
После построения регрессионной модели для предсказания значения yi мы будем использовать значение ŷi=a*xi+b. Ошибка предсказания теперь будет равна (yi — ŷi).
Теперь с помощью диаграммы сравним ошибки предсказания полученные без построения модели и с помощью модели.
Очевидно, что используя регрессионную модель мы уменьшили первоначальную (полную) ошибку (yi — ȳ) на значение (ŷi — ȳ) до величины (yi — ŷi).
(yi — ŷi) – это оставшаяся, необъясненная ошибка.
Очевидно, что все три ошибки связаны выражением:
(yi — ȳ)= (ŷi — ȳ) + (yi — ŷi)
Можно показать, что в общем виде справедливо следующее выражение:
или в других, общепринятых в зарубежной литературе, обозначениях:
Total Sum of Squares = Regression Sum of Squares + Error Sum of Squares
Примечание : SS — Sum of Squares — Сумма Квадратов.
Как видно из формулы величины SST, SSR, SSE имеют размерность дисперсии (вариации) и соответственно описывают разброс (изменчивость): Общую изменчивость (Total variation), Изменчивость объясненную моделью (Explained variation) и Необъясненную изменчивость (Unexplained variation).
По определению коэффициент детерминации R 2 равен:
R 2 = Изменчивость объясненная моделью / Общая изменчивость.
Этот показатель равен квадрату коэффициента корреляции и в MS EXCEL его можно вычислить с помощью функции КВПИРСОН() или ЛИНЕЙН() :
R 2 принимает значения от 0 до 1 (1 соответствует идеальной линейной зависимости Y от Х). Однако, на практике малые значения R2 вовсе не обязательно указывают, что переменную Х нельзя использовать для прогнозирования переменной Y. Малые значения R2 могут указывать на нелинейность связи или на то, что поведение переменной Y объясняется не только Х, но и другими факторами.
Стандартная ошибка регрессии
Стандартная ошибка регрессии ( Standard Error of a regression ) показывает насколько велика ошибка предсказания значений переменной Y на основании значений Х. Отдельные значения Yi мы можем предсказывать лишь с точностью +/- несколько значений (обычно 2-3, в зависимости от формы распределения ошибки ε).
Теперь вспомним уравнение линейной регрессионной модели Y=a*X+β+ε. Ошибка ε имеет случайную природу, т.е. является случайной величиной и поэтому имеет свою функцию распределения со средним значением μ и дисперсией σ 2 .
Оценив значение дисперсии σ 2 и вычислив из нее квадратный корень – получим Стандартную ошибку регрессии. Чем точки наблюдений на диаграмме рассеяния ближе находятся к прямой линии, тем меньше Стандартная ошибка.
Примечание : Вспомним , что при построении модели предполагается, что среднее значение ошибки ε равно 0, т.е. E[ε]=0.
Оценим дисперсию σ 2 . Помимо вычисления Стандартной ошибки регрессии эта оценка нам потребуется в дальнейшем еще и при построении доверительных интервалов для оценки параметров регрессии a и b .
Для оценки дисперсии ошибки ε используем остатки регрессии — разности между имеющимися значениями yi и значениями, предсказанными регрессионной моделью ŷ. Чем лучше регрессионная модель согласуется с данными (точки располагается близко к прямой линии), тем меньше величина остатков.
Для оценки дисперсии σ 2 используют следующую формулу:
где SSE – сумма квадратов значений ошибок модели ε i =yi — ŷi ( Sum of Squared Errors ).
SSE часто обозначают и как SSres – сумма квадратов остатков ( Sum of Squared residuals ).
Оценка дисперсии s 2 также имеет общепринятое обозначение MSE (Mean Square of Errors), т.е. среднее квадратов ошибок или MSRES (Mean Square of Residuals), т.е. среднее квадратов остатков . Хотя правильнее говорить сумме квадратов остатков, т.к. ошибка чаще ассоциируется с ошибкой модели ε, которая является непрерывной случайной величиной. Но, здесь мы будем использовать термины SSE и MSE, предполагая, что речь идет об остатках.
Примечание : Напомним, что когда мы использовали МНК для нахождения параметров модели, то критерием оптимизации была минимизация именно SSE (SSres). Это выражение представляет собой сумму квадратов расстояний между наблюденными значениями yi и предсказанными моделью значениями ŷi, которые лежат на линии регрессии.
Математическое ожидание случайной величины MSE равно дисперсии ошибки ε, т.е. σ 2 .
Чтобы понять почему SSE выбрана в качестве основы для оценки дисперсии ошибки ε, вспомним, что σ 2 является также дисперсией случайной величины Y (относительно среднего значения μy, при заданном значении Хi). А т.к. оценкой μy является значение ŷi = a * Хi + b (значение уравнения регрессии при Х= Хi), то логично использовать именно SSE в качестве основы для оценки дисперсии σ 2 . Затем SSE усредняется на количество точек данных n за вычетом числа 2. Величина n-2 – это количество степеней свободы ( df – degrees of freedom ), т.е. число параметров системы, которые могут изменяться независимо (вспомним, что у нас в этом примере есть n независимых наблюдений переменной Y). В случае простой линейной регрессии число степеней свободы равно n-2, т.к. при построении линии регрессии было оценено 2 параметра модели (на это было «потрачено» 2 степени свободы ).
Итак, как сказано было выше, квадратный корень из s 2 имеет специальное название Стандартная ошибка регрессии ( Standard Error of a regression ) и обозначается SEy. SEy показывает насколько велика ошибка предсказания. Отдельные значения Y мы можем предсказывать с точностью +/- несколько значений SEy (см. этот раздел ). Если ошибки предсказания ε имеют нормальное распределение , то примерно 2/3 всех предсказанных значений будут на расстоянии не больше SEy от линии регрессии . SEy имеет размерность переменной Y и откладывается по вертикали. Часто на диаграмме рассеяния строят границы предсказания соответствующие +/- 2 SEy (т.е. 95% точек данных будут располагаться в пределах этих границ).
В MS EXCEL стандартную ошибку SEy можно вычислить непосредственно по формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))
или с помощью функции ЛИНЕЙН() :
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
Стандартные ошибки и доверительные интервалы для наклона и сдвига
В разделе Оценка неизвестных параметров линейной модели мы получили точечные оценки наклона а и сдвига b . Так как эти оценки получены на основе случайных величин (значений переменных Х и Y), то эти оценки сами являются случайными величинами и соответственно имеют функцию распределения со средним значением и дисперсией . Но, чтобы перейти от точечных оценок к интервальным , необходимо вычислить соответствующие стандартные ошибки (т.е. стандартные отклонения ).
Стандартная ошибка коэффициента регрессии a вычисляется на основании стандартной ошибки регрессии по следующей формуле:
где Sx – стандартное отклонение величины х, вычисляемое по формуле:
где Sey – стандартная ошибка регрессии, т.е. ошибка предсказания значения переменой Y ( см. выше ).
В MS EXCEL стандартную ошибку коэффициента регрессии Se можно вычислить впрямую по вышеуказанной формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))/ СТАНДОТКЛОН.В(B23:B83) /КОРЕНЬ(СЧЁТ(B23:B83) -1)
или с помощью функции ЛИНЕЙН() :
Формулы приведены в файле примера на листе Линейный в разделе Регрессионная статистика .
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
При построении двухстороннего доверительного интервала для коэффициента регрессии его границы определяются следующим образом:
где — квантиль распределения Стьюдента с n-2 степенями свободы. Величина а с «крышкой» является другим обозначением наклона а .
Например для уровня значимости альфа=0,05, можно вычислить с помощью формулы =СТЬЮДЕНТ.ОБР.2Х(0,05;n-2)
Вышеуказанная формула следует из того факта, что если ошибки регрессии распределены нормально и независимо, то выборочное распределение случайной величины
является t-распределением Стьюдента с n-2 степенью свободы (то же справедливо и для наклона b ).
Примечание : Подробнее о построении доверительных интервалов в MS EXCEL можно прочитать в этой статье Доверительные интервалы в MS EXCEL .
В результате получим, что найденный доверительный интервал с вероятностью 95% (1-0,05) накроет истинное значение коэффициента регрессии. Здесь мы считаем, что коэффициент регрессии a имеет распределение Стьюдента с n-2 степенями свободы (n – количество наблюдений, т.е. пар Х и Y).
Примечание : Подробнее о построении доверительных интервалов с использованием t-распределения см. статью про построение доверительных интервалов для среднего .
Стандартная ошибка сдвига b вычисляется по следующей формуле:
В MS EXCEL стандартную ошибку сдвига Seb можно вычислить с помощью функции ЛИНЕЙН() :
При построении двухстороннего доверительного интервала для сдвига его границы определяются аналогичным образом как для наклона : b +/- t*Seb.
Проверка значимости взаимосвязи переменных
Когда мы строим модель Y=αX+β+ε мы предполагаем, что между Y и X существует линейная взаимосвязь. Однако, как это иногда бывает в статистике, можно вычислять параметры связи даже тогда, когда в действительности она не существует, и обусловлена лишь случайностью.
Единственный вариант, когда Y не зависит X (в рамках модели Y=αX+β+ε), возможен, когда коэффициент регрессии a равен 0.
Чтобы убедиться, что вычисленная нами оценка наклона прямой линии не обусловлена лишь случайностью (не случайно отлична от 0), используют проверку гипотез . В качестве нулевой гипотезы Н 0 принимают, что связи нет, т.е. a=0. В качестве альтернативной гипотезы Н 1 принимают, что a <>0.
Ниже на рисунках показаны 2 ситуации, когда нулевую гипотезу Н 0 не удается отвергнуть.
На левой картинке отсутствует любая зависимость между переменными, на правой – связь между ними нелинейная, но при этом коэффициент линейной корреляции равен 0.
Ниже — 2 ситуации, когда нулевая гипотеза Н 0 отвергается.
На левой картинке очевидна линейная зависимость, на правой — зависимость нелинейная, но коэффициент корреляции не равен 0 (метод МНК вычисляет показатели наклона и сдвига просто на основании значений выборки).
Для проверки гипотезы нам потребуется:
- Установить уровень значимости , пусть альфа=0,05;
- Рассчитать с помощью функции ЛИНЕЙН() стандартное отклонение Se для коэффициента регрессии (см. предыдущий раздел );
- Рассчитать число степеней свободы: DF=n-2 или по формуле = ИНДЕКС(ЛИНЕЙН(C24:C84;B24:B84;;ИСТИНА);4;2)
- Вычислить значение тестовой статистики t 0 =a/S e , которая имеет распределение Стьюдента с числом степеней свободы DF=n-2;
- Сравнить значение тестовой статистики |t0| с пороговым значением t альфа ,n-2. Если значение тестовой статистики больше порогового значения, то нулевая гипотеза отвергается ( наклон не может быть объяснен лишь случайностью при заданном уровне альфа) либо
- вычислить p-значение и сравнить его с уровнем значимости .
В файле примера приведен пример проверки гипотезы:
Изменяя наклон тренда k (ячейка В8 ) можно убедиться, что при малых углах тренда (например, 0,05) тест часто показывает, что связь между переменными случайна. При больших углах (k>1), тест практически всегда подтверждает значимость линейной связи между переменными.
Примечание : Проверка значимости взаимосвязи эквивалентна проверке статистической значимости коэффициента корреляции . В файле примера показана эквивалентность обоих подходов. Также проверку значимости можно провести с помощью процедуры F-тест .
Доверительные интервалы для нового наблюдения Y и среднего значения
Вычислив параметры простой линейной регрессионной модели Y=aX+β+ε мы получили точечную оценку значения нового наблюдения Y при заданном значении Хi, а именно: Ŷ= a * Хi + b
Ŷ также является точечной оценкой для среднего значения Yi при заданном Хi. Но, при построении доверительных интервалов используются различные стандартные ошибки .
Стандартная ошибка нового наблюдения Y при заданном Хi учитывает 2 источника неопределенности:
- неопределенность связанную со случайностью оценок параметров модели a и b ;
- случайность ошибки модели ε.
Учет этих неопределенностей приводит к стандартной ошибке S(Y|Xi), которая рассчитывается с учетом известного значения Xi.
где SS xx – сумма квадратов отклонений от среднего значений переменной Х:
В MS EXCEL 2010 нет функции, которая бы рассчитывала эту стандартную ошибку , поэтому ее необходимо рассчитывать по вышеуказанным формулам.
Доверительный интервал или Интервал предсказания для нового наблюдения (Prediction Interval for a New Observation) построим по схеме показанной в разделе Проверка значимости взаимосвязи переменных (см. файл примера лист Интервалы ). Т.к. границы интервала зависят от значения Хi (точнее от расстояния Хi до среднего значения Х ср ), то интервал будет постепенно расширяться при удалении от Х ср .
Границы доверительного интервала для нового наблюдения рассчитываются по формуле:
Аналогичным образом построим доверительный интервал для среднего значения Y при заданном Хi (Confidence Interval for the Mean of Y). В этом случае доверительный интервал будет уже, т.к. средние значения имеют меньшую изменчивость по сравнению с отдельными наблюдениями ( средние значения, в рамках нашей линейной модели Y=aX+β+ε, не включают ошибку ε).
Стандартная ошибка S(Yср|Xi) вычисляется по практически аналогичным формулам как и стандартная ошибка для нового наблюдения:
Как видно из формул, стандартная ошибка S(Yср|Xi) меньше стандартной ошибки S(Y|Xi) для индивидуального значения .
Границы доверительного интервала для среднего значения рассчитываются по формуле:
Проверка адекватности линейной регрессионной модели
Модель адекватна, когда все предположения, лежащие в ее основе, выполнены (см. раздел Предположения линейной регрессионной модели ).
Проверка адекватности модели в основном основана на исследовании остатков модели (model residuals), т.е. значений ei=yi – ŷi для каждого Хi. В рамках простой линейной модели n остатков имеют только n-2 связанных с ними степеней свободы . Следовательно, хотя, остатки не являются независимыми величинами, но при достаточно большом n это не оказывает какого-либо влияния на проверку адекватности модели.
Чтобы проверить предположение о нормальности распределения ошибок строят график проверки на нормальность (Normal probability Plot).
В файле примера на листе Адекватность построен график проверки на нормальность . В случае нормального распределения значения остатков должны быть близки к прямой линии.
Так как значения переменной Y мы генерировали с помощью тренда , вокруг которого значения имели нормальный разброс, то ожидать сюрпризов не приходится – значения остатков располагаются вблизи прямой.
Также при проверке модели на адекватность часто строят график зависимости остатков от предсказанных значений Y. Если точки не демонстрируют характерных, так называемых «паттернов» (шаблонов) типа вор о нок или другого неравномерного распределения, в зависимости от значений Y, то у нас нет очевидных доказательств неадекватности модели.
В нашем случае точки располагаются примерно равномерно.
Часто при проверке адекватности модели вместо остатков используют нормированные остатки. Как показано в разделе Стандартная ошибка регрессии оценкой стандартного отклонения ошибок является величина SEy равная квадратному корню из величины MSE. Поэтому логично нормирование остатков проводить именно на эту величину.
SEy можно вычислить с помощью функции ЛИНЕЙН() :
Иногда нормирование остатков производится на величину стандартного отклонения остатков (это мы увидим в статье об инструменте Регрессия , доступного в надстройке MS EXCEL Пакет анализа ), т.е. по формуле:
Вышеуказанное равенство приблизительное, т.к. среднее значение остатков близко, но не обязательно точно равно 0.
Регрессионный анализ в Microsoft Excel
Регрессионный анализ является одним из самых востребованных методов статистического исследования. С его помощью можно установить степень влияния независимых величин на зависимую переменную. В функционале Microsoft Excel имеются инструменты, предназначенные для проведения подобного вида анализа. Давайте разберем, что они собой представляют и как ими пользоваться.
Подключение пакета анализа
Но, для того, чтобы использовать функцию, позволяющую провести регрессионный анализ, прежде всего, нужно активировать Пакет анализа. Только тогда необходимые для этой процедуры инструменты появятся на ленте Эксель.
-
Перемещаемся во вкладку «Файл».
Переходим в раздел «Параметры».
В самой нижней части открывшегося окна переставляем переключатель в блоке «Управление» в позицию «Надстройки Excel», если он находится в другом положении. Жмем на кнопку «Перейти».
Теперь, когда мы перейдем во вкладку «Данные», на ленте в блоке инструментов «Анализ» мы увидим новую кнопку – «Анализ данных».
Виды регрессионного анализа
Существует несколько видов регрессий:
- параболическая;
- степенная;
- логарифмическая;
- экспоненциальная;
- показательная;
- гиперболическая;
- линейная регрессия.
О выполнении последнего вида регрессионного анализа в Экселе мы подробнее поговорим далее.
Линейная регрессия в программе Excel
Внизу, в качестве примера, представлена таблица, в которой указана среднесуточная температура воздуха на улице, и количество покупателей магазина за соответствующий рабочий день. Давайте выясним при помощи регрессионного анализа, как именно погодные условия в виде температуры воздуха могут повлиять на посещаемость торгового заведения.
Общее уравнение регрессии линейного вида выглядит следующим образом: У = а0 + а1х1 +…+акхк . В этой формуле Y означает переменную, влияние факторов на которую мы пытаемся изучить. В нашем случае, это количество покупателей. Значение x – это различные факторы, влияющие на переменную. Параметры a являются коэффициентами регрессии. То есть, именно они определяют значимость того или иного фактора. Индекс k обозначает общее количество этих самых факторов.
- Кликаем по кнопке «Анализ данных». Она размещена во вкладке «Главная» в блоке инструментов «Анализ».
Открывается небольшое окошко. В нём выбираем пункт «Регрессия». Жмем на кнопку «OK».
Открывается окно настроек регрессии. В нём обязательными для заполнения полями являются «Входной интервал Y» и «Входной интервал X». Все остальные настройки можно оставить по умолчанию.
В поле «Входной интервал Y» указываем адрес диапазона ячеек, где расположены переменные данные, влияние факторов на которые мы пытаемся установить. В нашем случае это будут ячейки столбца «Количество покупателей». Адрес можно вписать вручную с клавиатуры, а можно, просто выделить требуемый столбец. Последний вариант намного проще и удобнее.
В поле «Входной интервал X» вводим адрес диапазона ячеек, где находятся данные того фактора, влияние которого на переменную мы хотим установить. Как говорилось выше, нам нужно установить влияние температуры на количество покупателей магазина, а поэтому вводим адрес ячеек в столбце «Температура». Это можно сделать теми же способами, что и в поле «Количество покупателей».
С помощью других настроек можно установить метки, уровень надёжности, константу-ноль, отобразить график нормальной вероятности, и выполнить другие действия. Но, в большинстве случаев, эти настройки изменять не нужно. Единственное на что следует обратить внимание, так это на параметры вывода. По умолчанию вывод результатов анализа осуществляется на другом листе, но переставив переключатель, вы можете установить вывод в указанном диапазоне на том же листе, где расположена таблица с исходными данными, или в отдельной книге, то есть в новом файле.
После того, как все настройки установлены, жмем на кнопку «OK».
Разбор результатов анализа
Результаты регрессионного анализа выводятся в виде таблицы в том месте, которое указано в настройках.
Одним из основных показателей является R-квадрат. В нем указывается качество модели. В нашем случае данный коэффициент равен 0,705 или около 70,5%. Это приемлемый уровень качества. Зависимость менее 0,5 является плохой.
Ещё один важный показатель расположен в ячейке на пересечении строки «Y-пересечение» и столбца «Коэффициенты». Тут указывается какое значение будет у Y, а в нашем случае, это количество покупателей, при всех остальных факторах равных нулю. В этой таблице данное значение равно 58,04.
Значение на пересечении граф «Переменная X1» и «Коэффициенты» показывает уровень зависимости Y от X. В нашем случае — это уровень зависимости количества клиентов магазина от температуры. Коэффициент 1,31 считается довольно высоким показателем влияния.
Как видим, с помощью программы Microsoft Excel довольно просто составить таблицу регрессионного анализа. Но, работать с полученными на выходе данными, и понимать их суть, сможет только подготовленный человек.
Помимо этой статьи, на сайте еще 12771 полезных инструкций.
Добавьте сайт Lumpics.ru в закладки (CTRL+D) и мы точно еще пригодимся вам.
Отблагодарите автора, поделитесь статьей в социальных сетях.
Корреляционно-регрессионный анализ в Excel: инструкция выполнения
Регрессионный и корреляционный анализ – статистические методы исследования. Это наиболее распространенные способы показать зависимость какого-либо параметра от одной или нескольких независимых переменных.
Ниже на конкретных практических примерах рассмотрим эти два очень популярные в среде экономистов анализа. А также приведем пример получения результатов при их объединении.
Регрессионный анализ в Excel
Показывает влияние одних значений (самостоятельных, независимых) на зависимую переменную. К примеру, как зависит количество экономически активного населения от числа предприятий, величины заработной платы и др. параметров. Или: как влияют иностранные инвестиции, цены на энергоресурсы и др. на уровень ВВП.
Результат анализа позволяет выделять приоритеты. И основываясь на главных факторах, прогнозировать, планировать развитие приоритетных направлений, принимать управленческие решения.
- линейной (у = а + bx);
- параболической (y = a + bx + cx 2 );
- экспоненциальной (y = a * exp(bx));
- степенной (y = a*x^b);
- гиперболической (y = b/x + a);
- логарифмической (y = b * 1n(x) + a);
- показательной (y = a * b^x).
Рассмотрим на примере построение регрессионной модели в Excel и интерпретацию результатов. Возьмем линейный тип регрессии.
Задача. На 6 предприятиях была проанализирована среднемесячная заработная плата и количество уволившихся сотрудников. Необходимо определить зависимость числа уволившихся сотрудников от средней зарплаты.
Модель линейной регрессии имеет следующий вид:
Где а – коэффициенты регрессии, х – влияющие переменные, к – число факторов.
В нашем примере в качестве У выступает показатель уволившихся работников. Влияющий фактор – заработная плата (х).
В Excel существуют встроенные функции, с помощью которых можно рассчитать параметры модели линейной регрессии. Но быстрее это сделает надстройка «Пакет анализа».
Активируем мощный аналитический инструмент:
- Нажимаем кнопку «Офис» и переходим на вкладку «Параметры Excel». «Надстройки».
- Внизу, под выпадающим списком, в поле «Управление» будет надпись «Надстройки Excel» (если ее нет, нажмите на флажок справа и выберите). И кнопка «Перейти». Жмем.
- Открывается список доступных надстроек. Выбираем «Пакет анализа» и нажимаем ОК.
После активации надстройка будет доступна на вкладке «Данные».
Теперь займемся непосредственно регрессионным анализом.
- Открываем меню инструмента «Анализ данных». Выбираем «Регрессия».
- Откроется меню для выбора входных значений и параметров вывода (где отобразить результат). В полях для исходных данных указываем диапазон описываемого параметра (У) и влияющего на него фактора (Х). Остальное можно и не заполнять.
- После нажатия ОК, программа отобразит расчеты на новом листе (можно выбрать интервал для отображения на текущем листе или назначить вывод в новую книгу).
В первую очередь обращаем внимание на R-квадрат и коэффициенты.
R-квадрат – коэффициент детерминации. В нашем примере – 0,755, или 75,5%. Это означает, что расчетные параметры модели на 75,5% объясняют зависимость между изучаемыми параметрами. Чем выше коэффициент детерминации, тем качественнее модель. Хорошо – выше 0,8. Плохо – меньше 0,5 (такой анализ вряд ли можно считать резонным). В нашем примере – «неплохо».
Коэффициент 64,1428 показывает, каким будет Y, если все переменные в рассматриваемой модели будут равны 0. То есть на значение анализируемого параметра влияют и другие факторы, не описанные в модели.
Коэффициент -0,16285 показывает весомость переменной Х на Y. То есть среднемесячная заработная плата в пределах данной модели влияет на количество уволившихся с весом -0,16285 (это небольшая степень влияния). Знак «-» указывает на отрицательное влияние: чем больше зарплата, тем меньше уволившихся. Что справедливо.
Корреляционный анализ в Excel
Корреляционный анализ помогает установить, есть ли между показателями в одной или двух выборках связь. Например, между временем работы станка и стоимостью ремонта, ценой техники и продолжительностью эксплуатации, ростом и весом детей и т.д.
Если связь имеется, то влечет ли увеличение одного параметра повышение (положительная корреляция) либо уменьшение (отрицательная) другого. Корреляционный анализ помогает аналитику определиться, можно ли по величине одного показателя предсказать возможное значение другого.
Коэффициент корреляции обозначается r. Варьируется в пределах от +1 до -1. Классификация корреляционных связей для разных сфер будет отличаться. При значении коэффициента 0 линейной зависимости между выборками не существует.
Рассмотрим, как с помощью средств Excel найти коэффициент корреляции.
Для нахождения парных коэффициентов применяется функция КОРРЕЛ.
Задача: Определить, есть ли взаимосвязь между временем работы токарного станка и стоимостью его обслуживания.
Ставим курсор в любую ячейку и нажимаем кнопку fx.
- В категории «Статистические» выбираем функцию КОРРЕЛ.
- Аргумент «Массив 1» — первый диапазон значений – время работы станка: А2:А14.
- Аргумент «Массив 2» — второй диапазон значений – стоимость ремонта: В2:В14. Жмем ОК.
Чтобы определить тип связи, нужно посмотреть абсолютное число коэффициента (для каждой сферы деятельности есть своя шкала).
Для корреляционного анализа нескольких параметров (более 2) удобнее применять «Анализ данных» (надстройка «Пакет анализа»). В списке нужно выбрать корреляцию и обозначить массив. Все.
Полученные коэффициенты отобразятся в корреляционной матрице. Наподобие такой:
Корреляционно-регрессионный анализ
На практике эти две методики часто применяются вместе.
- Строим корреляционное поле: «Вставка» — «Диаграмма» — «Точечная диаграмма» (дает сравнивать пары). Диапазон значений – все числовые данные таблицы.
- Щелкаем левой кнопкой мыши по любой точке на диаграмме. Потом правой. В открывшемся меню выбираем «Добавить линию тренда».
- Назначаем параметры для линии. Тип – «Линейная». Внизу – «Показать уравнение на диаграмме».
- Жмем «Закрыть».
Теперь стали видны и данные регрессионного анализа.
источники:
http://lumpics.ru/regression-analysis-in-excel/
http://exceltable.com/otchety/korrelyacionno-regressionnyy-analiz
АЛГОРИТМ ПРОЦЕДУРЫ ОЦЕНКИ МОДЕЛИ СО СЛУЧАЙНЫМИ ЭФФЕКТАМИ В Excel
- Авторы
- Файлы
- Литература
Бабешко Л.О.
1
Дуваа В.А.
1
1 Финансовый университет при Правительстве Российской Федерации
1. Бабешко Л.О. Модели панельных данных: рекуррентный метод оценки параметров // Страховое дело. – 2014. – № 8 (257). – С. 42-50.
2. Бабешко Л.О. Оценка мультипликативной структуры тарифов в рамках модели с фиксированным эффектом // Управление риском. – 2012. – № 4. – С. 26-31.
3. Магнус Я.Р., Катышев П.К., Пересецкий А.А. Эконометрика. Начальный курс. – М.: Дело, 2007. – 507 с.
4. Эконометрика: учебник / И.И. Елисеева, С.В. Курышева, Т.В. Костеева и др.; под ред. И.И. Елисеевой. – 2-е изд. – М.: Финансы и статистика, 2008. – 576 с.
5. Носко В.П. Эконометрика. Кн. 2. Ч. 3,4: учебник. – М.: Издательский дом «Дело» РАНиГС, 2011. –576 с. (Сер. «Академический учебник»).
Модель со случайным эффектом относится к моделям для панельных данных (ПД). Под панельными данными, в современных эконометрических методах изучения социально-экономических процессов, понимается множество данных, состоящих из наблюдений за однотипными экономическими объектами в течение нескольких временных периодов. Отличительной особенностью панельных данных является то, что они включают как пространственные данные, так и данные временных рядов, и поэтому содержат не только информацию о развитии объектов во времени, но и служат базой для выявления различий между исследуемыми объектами [1], [2]. Основным преимуществом панельных данных является значительное увеличение выборочных данных по сравнению с данными временных рядов и пространственными данными для одного объекта, это обеспечивает большую эффективность оценкам параметров эконометрической модели.
В данной работе рассматриваются методы оценки параметров моделей для панельных данных на примере построения эконометрической модели зависимости величины инвестиций фирмы от её прибыли в рамках модели со случайным эффектом.
Основными регрессионными моделями, применяемыми к панельным данным, являются [3]:
объединённая модель (pooled model), предполагающая, что у экономических единиц нет индивидуальных различий
yit = μi + xit ∙ β + εit , , (1)
модель с фиксированным эффектом (fixed effect model,FE), базирующаяся на «уникальности» экономических единиц (индивидуальные различия между экономическими объектами учитываются в параметрах)
yit = μi + xit ∙ β + εit , , (2)
модель со случайным эффектом (random effect model,RE), учитывающая «случайность» попадания объекта в панель в результате выборки из большой совокупности (индивидуальные различия между экономическими объектами учитываются в случайных возмущениях)
yit = μi + xit ∙ β + εit , , , (3)
yit = μi + xit ∙ β + νit , νit = mi + εit .
Спецификации записаны для i-ой панели в момент времени t,
(). Обозначения в моделях (1)-(3) следующие: yit – зависимая переменная, xit – вектор-строка регрессоров (размерностью k), εit – случайное возмущение: E{εit} = 0, Var{εit} = σε2, μ – параметр местоположения – общий для всех экономических объектов во все моменты времени, μi – параметр местоположения – индивидуальный для каждого экономического объекта, β – вектор параметров влияния, mi – независящая от времени специфическая составляющая ошибки: , ,
Cov{mi , εit} = 0, для ,
Cov{εit , xis} = 0, для ,
Cov{mi , xjt} = 0, для ,
E{νit} = E{mi} + E{εit} = 0 ,
. (4)
Автоковариационная матрица вектора случайных возмущений не диагональная, в силу (4). Вектор случайных возмущений v – гетероскедастичный, поэтому для оценки параметров модели (3) следует использовать обобщённый метод наименьших квадратов (ОМНК), в частности, выполнимый ОМНК (ВОМНК), так как значения дисперсий и при решении практических задач, как правило, неизвестны, и необходима их оценка по имеющейся эмпирической информации.
Оценка дисперсии может быть получена в рамках внутригруппового оценивания (within group) по переменным , – это центрированные переменные по выборочным средним по времени (,) для каждой панели:
. (5)
Дисперсия специфической составляющей связана с – дисперсией межгруппового оценивания (between estimator)1 по переменным , , представляющим собой отклонения средних по каждой панели от общих средних (,). Оценка выполняется по формуле:
. (6)
Выражение для автоковариационной матрицы возмущений имеет вид [4]:
. (7)
Матрицы P и M, входящие в формулу (7), идемпотентны, поэтому справедливо следующее соотношение
,
в частности, это используется для вычисления обратной матрицы и для случая :
,
, (8)
где
(9)
– параметр корректировки.
ОМНК-оценки параметров модели со случайными эффектами
, (10)
где – параметры местоположения и влияния (постоянные для всех объектов наблюдения во все моменты времени), вычисляются через оценку матрицы :
. (11)
При реализации алгоритма ОМНК в Excel удобно вычислять оценки параметров обычным МНК, но исходную спецификацию (10) подвергнуть преобразованию, с учётом (8):
, (12)
где
, (13)
. (14)
Легко показать, что МНК-оценка параметров модели (12) по преобразованным данным (13), (14), совпадает с ВОМНК-оценкой (11):
.
При практической реализации данного алгоритма параметр корректировки заменяется его оценкой, которая вычисляется через оценки дисперсий (5) и (6).
Оценим в Excel эконометрическую модель зависимости объёмов инвестиций от прибыли предприятия, используя данные по трём предприятиям (число панелей ) за 10 лет (объём выборки по каждому предприятию T = 10) в рамках модели со случайными эффектами. Данные приводятся в таблице 1 [5].
Таблица 1
Объём инвестиций (Y) и прибыль (X)
Время t |
предприятие 1 |
предприятие 2 |
предприятие 3 |
|||
|
|
|
|
|
|
|
1 |
13,32 |
12,85 |
20,3 |
22,93 |
8,85 |
8,65 |
2 |
26,3 |
25,69 |
17,47 |
17,96 |
19,6 |
16,55 |
3 |
2,62 |
5,48 |
9,31 |
9,16 |
3,87 |
1,47 |
4 |
14,94 |
13,79 |
18,01 |
18,73 |
24,19 |
24,91 |
5 |
15,8 |
15,41 |
7,63 |
11,31 |
3,99 |
5,01 |
6 |
12,2 |
12,59 |
19,84 |
21,15 |
5,73 |
8,34 |
7 |
14,93 |
16,64 |
13,76 |
16,13 |
26,68 |
22,7 |
8 |
29,82 |
26,45 |
10 |
11,61 |
11,49 |
8,36 |
9 |
20,32 |
19,64 |
19,51 |
19,55 |
18,49 |
15,44 |
10 |
4,77 |
5,43 |
18,32 |
17,06 |
20,84 |
17,87 |
Алгоритм процедуры представим в виде последовательности следующих шагов.
Шаг 1. Оценка межгрупповой регрессии.
1. Вычисление средних по времени для каждой панели (каждого предприятия) (при помощи функции СРЗНАЧ, категория «Статистические»)
Таблица 2
Значения индивидуальных средних по выборке
|
|
|
|
|
1 |
2 |
3 |
4 |
5 |
1 |
15,502 |
15,397 |
0,405 |
0,435 |
2 |
15,415 |
16,pic559 |
0,318 |
1,597 |
3 |
14,373 |
12,93 |
-0,724 |
-2,032 |
общие средние |
15,09667 |
14,962 |
2. По данным столбцов 4 и 5 таблицы 2, используя функцию ЛИНЕЙН (категория «Статистические»), выполняется оценка межгрупповой регрессии:
Таблица 3
Выходная информация функции ЛИНЕЙН
0,313771 |
0 |
0,090731 |
#Н/Д |
0,856728 |
0,23779 |
11,9595 |
2 |
0,676237 |
0,113088 |
Откуда следует, что .
Шаг 2. Оценка внутригрупповой регрессии.
1. Центрирование ПД по индивидуальным средним. Можно выполнить путём формирования таблицы 4.
Таблица 4
Формирование центрированных данных y*it , x*it
номер наблюдения |
yit |
xit |
|
|
|
|
1 |
2 |
3 |
4 |
5 |
6 |
7 |
1 |
13,32 |
12,85 |
15,502 |
15,397 |
-2,182 |
-2,547 |
2 |
26,3 |
25,69 |
15,502 |
15,397 |
10,798 |
10,293 |
|
|
|
|
|
|
|
29 |
18,49 |
15,44 |
14,373 |
12,93 |
4,117 |
2,51 |
30 |
20,84 |
17,87 |
14,373 |
12,93 |
6,467 |
4,94 |
2. Оценка внутригрупповой регрессии по данным 6 и 7 столбцов таблицы 4. (Функция ЛИНЕЙН, категория «Статистические»).
Таблица 5
Выходная информация функции ЛИНЕЙН
1,102192 |
0 |
0,048024 |
#Н/Д |
0,947818 |
1,652407 |
526,7496 |
29 |
1438,263 |
79,18302 |
Откуда следует, что .
Шаг 3. Вычисление коэффициента корректировки (по формуле (9)):
.
Шаг 4. Корректировка выборочных данных (по формулам (13) и (14).
Таблица 6
Корректировка данных: y*it , x*it
номер наблюдения |
yit |
xit |
|
|
|
|
1 |
2 |
3 |
4 |
5 |
6 |
7 |
1 |
13,32 |
12,85 |
15,502 |
15,397 |
31,883 |
31,288 |
2 |
26,3 |
25,69 |
15,502 |
15,397 |
44,863 |
44,128 |
|
|
|
|
|
|
|
29 |
18,49 |
15,44 |
14,373 |
12,93 |
35,701 |
30,923 |
30 |
20,84 |
17,87 |
14,373 |
12,93 |
38,051 |
33,353 |
Шаг 5. Оценка модели со случайным эффектом по данным 6 и 7 столбцов таблицы 6. (Функция ЛИНЕЙН, категория «Статистические»).
Таблица 7
Выходная информация функции ЛИНЕЙН
1,005458 |
0 |
0,016089 |
#Н/Д |
0,992629 |
2,964243 |
3905,578 |
29 |
34317,29 |
254,8154 |
МНК-Оценки параметров по данным, преобразованным по правилу
, ,
совпадают с МНК-оценками по данным, преобразованным по формулам (13) и (14), а оценку ско возмущения, приведённую в таблице 7 в третьей строке правого столбца, нужно скорректировать:
.
Таким образом, оцененная по данным таблицы 1 модель со случайным эффектом имеет вид
, , .
Как показывают результаты оценивания, оценки параметров всех трёх моделей (1)-(3), отличаются незначительно. Тестирование характера данных говорят в пользу модели (1) [5].
Библиографическая ссылка
Бабешко Л.О., Дуваа В.А. АЛГОРИТМ ПРОЦЕДУРЫ ОЦЕНКИ МОДЕЛИ СО СЛУЧАЙНЫМИ ЭФФЕКТАМИ В Excel // Международный студенческий научный вестник. – 2015. – № 4-1.
;
URL: https://eduherald.ru/ru/article/view?id=12604 (дата обращения: 16.04.2023).
Предлагаем вашему вниманию журналы, издающиеся в издательстве «Академия Естествознания»
(Высокий импакт-фактор РИНЦ, тематика журналов охватывает все научные направления)
Здравствуйте на этой странице я собрала теорию и практику с примерами решения задач по предмету эконометрика с решением по каждой теме, чтобы вы смогли освежить знания!
Если что-то непонятно — вы всегда можете написать мне в WhatsApp и я вам помогу!
Эконометрика
Эконометрика — это наука, изучающая конкретные количественные и качественные взаимосвязи экономических объектов и процессов с помощью математических и статистических методов и моделей.
Эконометрика — эффективный инструмент научного анализа и моделирования в профессиональной деятельности экономиста, менеджера и инженера
Парная регрессия и корреляция
Парная регрессия — уравнение связи двух переменных и :
где — зависимая переменная (результативный признак);
— независимая, объясняющая переменная (признак-фактор).
Различают линейные и нелинейные регрессии.
Линейная регрессия :
Нелинейные регрессии делятся на два класса: регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, и регрессии, нелинейные по оцениваемым параметрам.
Возможно эта страница вам будет полезна:
Регрессии, нелинейные по объясняющим переменным:
• полиномы разных степеней
• равносторонняя гипербола
Регрессии, нелинейные по оцениваемым параметрам’.
• степенная
• показательная
• экспоненциальная
Построение уравнения регрессии сводится к оценке ее параметров. Для оценки параметров регрессий, линейных по параметрам, используют метод наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака от теоретических минимальна, т.е.
Для линейных и нелинейных уравнений, приводимых к линейным, решается следующая система относительно и :
Можно воспользоваться готовыми формулами, которые вытекают из этой системы:
Тесноту связи изучаемых явлений оценивает линейный коэффициент парной корреляции для линейной регрессии :
и индекс корреляции — для нелинейной регрессии :
Оценку качества построенной модели даст коэффициент (индекс) детерминации, а также средняя ошибка аппроксимации.
Средняя ошибка аппроксимации — среднее отклонение расчетных значений от фактических:
Допустимый предел значений — не более 8 — 10%.
Средний коэффициент эластичности показывает, на сколько процентов в среднем по совокупности изменится результат у от своей средней величины при изменении фактора на 1% от своего среднего значения:
Задача дисперсионного анализа состоит в анализе дисперсии зависимой переменной:
где — общая сумма квадратов отклонений;
— сумма квадратов отклонений, обусловленная регрессией («объясненная» или «факторная»);
— остаточная сумма квадратов отклонений.
Долю дисперсии, объясняемую регрессией, в общей дисперсии результативного признака у характеризует коэффициент (индекс) детерминации :
Коэффициент детерминации — квадрат коэффициента или индекса корреляции.
-тест — оценивание качества уравнения регрессии — состоит в проверке гипотезы о статистической незначимости уравнения регрессии и показателя тесноты связи. Дня этого выполняется сравнение фактического и критического (табличного) значений -критерия Фишера. определяется из соотношения значений факторной и остаточной дисперсий, рассчитанных на одну степень свободы:
где — число единиц совокупности;
— число параметров при переменных .
— это максимально возможное значение критерия под влиянием случайных факторов при данных степенях свободы и уровне значимости . Уровень значимости — вероятность отвергнуть правильную гипотезу при условии, что она верна. Обычно принимается равной 0,05 или 0,01.
Если , то — гипотеза о случайной природе оцениваемых характеристик отклоняется и признается их статистическая значимость и надежность. Если , то гипотеза не отклоняется и признается статистическая незначимость, ненадежность уравнения регрессии.
Для оценки статистической значимости коэффициентов регрессии и корреляции рассчитываются -критерий Стьюдента и доверительные интервалы каждого из показателей. Выдвигается гипотеза о случайной природе показателей, т.е. о незначимом их отличии от нуля. Оценка значимости коэффициентов регрессии и корреляции с помощью -критерия Стьюдента проводится путем сопоставления их значений с величиной случайной ошибки:
Случайные ошибки параметров линейной регрессии и коэффициента корреляции определяются по формулам:
Сравнивая фактическое и критическое (табличное) значения -статистики — и — принимаем или отвергаем гипотезу .
Связь между -критерием Фишера и -статистикой Стьюдента выражается равенством
Если то отклоняется, т.е. и не случайно отличаются от нуля и сформировались под влиянием систематически действующего фактора . Если , то гипотеза не отклоняется и признается случайная природа формирования или .
Для расчета доверительного интервала определяем предельную ошибку для каждого показателя:
Формулы для расчета доверительных интервалов имеют следующий вид:
Если в границы доверительного интервала попадает ноль, т.е. нижняя граница отрицательна, а верхняя положительна, то оцениваемый параметр принимается нулевым, так как он не может одновременно принимать и положительное, и отрицательное значения.
Прогнозное значение определяется путем подстановки в уравнение регрессии соответствующего (прогнозного) значения . Вычисляется средняя стандартная ошибка прогноза и строится доверительный интервал прогноза :
где
Пример задачи №1
По семи территориям Уральского района за 199Х г. известны значения двух признаков (табл. 1.1).
Требуется:
а)линейной;
б) степенной;
в) показательной;
г) равносторонней гиперболы.
Оценить каждую модель через среднюю ошибку аппроксимации и -критерий Фишера.
Решение:
1а. Для расчета параметров и линейной регрессии
решаем систему нормальных уравнений относительно и :
По исходным данным рассчитываем
Уравнение регрессии:
С увеличением среднедневной заработной платы на 1 руб. доля расходов на покупку продовольственных товаров снижается в среднем на 0,35 %-ных пункта. Рассчитаем линейный коэффициент парной корреляции:
Связь умеренная, обратная.
Определим коэффициент детерминации:
Вариация результата на 12,7% объясняется вариацией фактора . Подставляя в уравнение регрессии фактические значения , определим теоретические (расчетные) значения . Найдем величину средней ошибки аппроксимации :
В среднем расчетные значения отклоняются от фактических на 8,1%.
Рассчитаем -критерий:
поскольку , следует рассмотреть
Полученное значение указывает на необходимость принять гипотезу о случайной природе выявленной зависимости и статистической незначимости параметров уравнения и показателя тесноты связи.
- Построению степенной модели предшествует процедура линеаризации переменных. В примере линеаризация производится путем логарифмирования обеих частей уравнения:
Для расчетов используем данные табл. 1.3.
Рассчитаем и :
Получим линейное уравнение:
Выполнив его потенцирование, получим:
Подставляя в данное уравнение фактические значения , получаем теоретические значения результата . По ним рассчитаем показатели: тесноты связи — индекс корреляции и среднюю ошибку аппроксимации :
Характеристики степенной модели указывают, что она несколько лучше линейной функции описывает взаимосвязь.
1в. Построению уравнения показательной кривой предшествует процедура линеаризации переменных при логарифмировании обеих частей уравнения:
где
Для расчетов используем данные табл. 1.4.
Значения параметров регрессии и составили:
Получено линейное уравнение:
Произведем потенцирование полученного уравнения и запишем его в обычной форме:
Тесноту связи оценим через индекс корреляции :
Связь умеренная.
, что говорит о повышенной ошибке аппроксимации, но в допустимых пределах. Показательная функция чуть хуже, чем степенная, она описывает изучаемую зависимость.
1г. Уравнение равносторонней гиперболы линеаризуется при замене:. Тогда .
Для расчетов используем данные табл. 1.5.
Значения параметров регрессии и составили:
Получено уравнение:
Индекс корреляции:
. По уравнению равносторонней гиперболы полумена наибольшая оценка тесноты связи: =0,3944 (по сравнению с линейной, степенной и показательной регрессиями). остается на допустимом уровне:
где
Следовательно, принимается гипотеза о статистически незначимых параметрах этого уравнения. Этот результат можно объяснить сравнительно невысокой теснотой выявленной зависимости и небольшим числом наблюдений.
Пример задачи №2
По территориям региона приводятся данные за 199Х г. (табл. 1.6).
Требуется:
- Построить линейное уравнение парной регрессии у от х.
- Рассчитать линейный коэффициент парной корреляции и среднюю ошибку аппроксимации.
- Оценить статистическую значимость параметров регрессии и корреляции.
- Выполнить прогноз заработной платы у при прогнозном значении среднедушевого прожиточного минимумах, составляющем 107% от среднего уровня.
- Оценить точность прогноза, рассчитав ошибку прогноза и его доверительный интервал.
Решение:
- Для расчета параметров уравнения линейной регрессии строим расчетную таблицу (табл. 1.7).
Получено уравнение регрессии:
С увеличением среднедушевого прожиточного минимума на 1 руб. среднедневная заработная плата возрастает в среднем на 0,92 руб.
- Тесноту линейной связи оценит коэффициент корреляции:
Это означает, что 52% вариации заработной платы () объясняется вариацией фактора — среднедушевого прожиточного минимума. Качество модели определяет средняя ошибка аппроксимации:
Качество построенной модели оценивается как хорошее, так как не превышает 8 — 10%.
- Оценку статистической значимости параметров регрессии проведем с помощью -статистики Стьюдента и путем расчета доверительного интервала каждого из показателей.
Выдвигаем гипотезу о статистически незначимом отличии показателей от нуля:
для числа степеней свободы
составит 2,23.
Определим случайные ошибки :
Тогда
Фактические значения -статистики превосходят табличные значения:
поэтому гипотеза отклоняется, т.е. и не случайно отличаются от нуля, а статистически значимы.
Рассчитаем доверительный интервал для и . Для этого определим предельную ошибку для каждого показателя:
Доверительные интервалы:
Анализ верхней и нижней границ доверительных интервалов приводит к выводу о том, что с вероятностью
параметры и , находясь в указанных границах, не принимают нулевых значений, т.е. не являются статистически незначимыми и существенно отличны от нуля.
Полученные оценки уравнения регрессии позволяют использовать его для прогноза. Если прогнозное значение прожиточного минимума составит:
тогда прогнозное значение прожиточного минимума составит:
5. Ошибка прогноза составит:
Предельная ошибка прогноза, которая в 95% случаев не будет превышена, составит:
Доверительный интервал прогноза:
Выполненный прогноз среднемесячной заработной платы оказался надежным
но неточным, так как диапазон верхней и нижней границ доверительного интервала составляет 1,95 раза:
Пример задачи №3
По группе предприятий, производящих однородную продукцию, известно, как зависит себестоимость единицы продукции у от факторов, приведенных в табл. 1.8.
Требуется:
- Определить с помощью коэффициентов эластичности силу влияния каждого фактора на результат.
- Ранжировать факторы по силе влияния.
Решение:
- Для уравнения равносторонней гиперболы
Для уравнения прямой
Для уравнения степенной зависимости
Для уравнения показательной зависимости
Сравнивая значения , ранжируем по силе их влияния на себестоимость единицы продукции:
Для формирования уровня себестоимости продукции фуппы предприятий первоочередное значение имеют цены на энергоносители; в гораздо меньшей степени влияют трудоемкость продукции и отчисляемая часть прибыли. Фактором снижения себестоимости выступает размер производства: с ростом его на 1% себестоимость единицы продукции снижается на -0,97%.
Пример задачи №4
Зависимость потребления продукта А от среднедушевого дохода по данным 20 семей характеризуется следующим образом:
уравнение регрессии
индекс корреляции
остаточная дисперсия
Требуется:
Провести дисперсионный анализ полученных результатов.
Решение:
Результаты дисперсионного анализа приведены в табл. 1.9.
В силу того что
гипотеза о случайности различий факторной и остаточной дисперсий отклоняется. Эти различия существенны, статистически значимы, уравнение надежно, значимо, показатель тесноты связи надежен и отражает устойчивую зависимость потребления продукта от среднедушевого дохода.
Реализация типовых задач в Excel
Решение с помощью ППП Excel
- Встроенная статистическая функция ЛИНЕЙН определяет параметры линейной регрессии . Порядок вычисления следующий:
1) введите исходные данные или откройте существующий файл, содержащий анализируемые данные;
2) выделите область пустых ячеек 5×2 (5 строк, 2 столбца) для вывода результатов регрессионной статистики или область 1×2 — для получения только оценок коэффициентов регрессии;
3) активизируйте Мастер функций любым нз способов:
а) в главном меню выберите Вставка/Функция;
б) на панели инструментов Стандартная щелкните по кнопке Вставка функции;
4) в окне Категория (рис. 1.1) выберите Статистические, в окне Функция — ЛИНЕЙН. Щелкните по кнопке ОК;
5) заполните аргументы функции (рис. 1.2):
Известные значенияу — диапазон, содержащий данные результативного признака;
Известные значения_х — диапазон, содержащий данные факторов независимого признака;
Константа — логическое значение, которое указывает на наличие или на отсутствие свободного члена в уравнении; если Константа = 1, то свободный член рассчитывается обычным образом, если Константа = 0, то свободный член равен 0; Статистика — логическое значение, которое указывает, выводить дополнительную информацию по регрессионному анализу или нет. Если Статистика = 1, то дополнительная информация выводится, если Статистика — 0, то выводятся только оценки параметров уравнения. Щелкните по кнопке ОК;
6) в левой верхней ячейке выделенной области появится первый элемент итоговой таблицы. Чтобы раскрыть всю таблицу, нажмите на клавишу , а затем — на комбинацию клавиш
Дополнительная регрессионная статистика будет выводиться в порядке, указанном в следующей схеме:
Для вычисления параметров экспоненциальной кривой в MS Excel применяется встроенная статистическая функция ЛГРФПРИБЛ. Порядок вычисления аналогичен применению функции ЛИНЕЙН.
Для данных из примера 2 результат вычисления функции ЛИНЕЙН представлен на рис. 1.3, функции ЛГРФПРИБЛ — на рис. 1.4.
- С помощью инструмента анализа данных Регрессия, помимо результатов регрессионной статистики, дисперсионного анализа и доверительных интервалов, можно получить остатки и графики подбора линии регрессии, остатков и нормальной вероятности. Порядок действий следующий:
1) проверьте доступ к пакету анализа. В главном меню последовательно выберите Сервис /Надстройки. Установите флажок Пакет анализа (рис. 1.5);
2) в главном меню выберите Сервис/Анализ данных/Регрессия. Щелкните по кнопке ОК;
3) заполните диалоговое окно ввода данных и параметров вывода (рис. 1.6):
Входной интервал — диапазон, содержащий данные результативного признака;
Входной интервал — диапазон, содержащий данные факторов независимого признака;
Метки — флажок, который указывает, содержит ли первая строка названия столбцов или нет;
Константа — ноль — флажок, указывающий на наличие или отсутствие свободного члена в уравнении;
Выходной интервал — достаточно указать левую верхнюю ячейку будущего диапазона;
Новый рабочий лист — можно задать произвольное имя нового листа.
Если необходимо получить информацию и графики остатков, установите соответствующие флажки в диалоговом окне. Щелкните по кнопке ОК.
Результаты регрессионного анализа для данных из примера 2 представлены на рис. 1.7.
Решение с помощью ППП Statgraphics
Порядок вычислений при использовании функции Simple Regression следующий:
1) введите исходные данные (рис. 1.8) или откройте существующий файл, содержащий исходные данные;
2) в главном меню последовательно выберите Relate/Simple Regression;
3) заполните диалоговое окно ввода данных. В поле «» введите название столбца, содержащего зависимую переменную, в поле «» -название столбца, содержащего значения факторного признака. Щелкните по кнопке ОК;
4) в окне табличных настроек поставьте флажок напротив Analysis Summary.
Результаты вычислений появятся в отдельном окне. Для данных из примера 2 результат применения функции Simple Regression представлен на рис. 1.9.
Как видим, результаты вычислений вручную и с помощью компьютера совпадают.
Возможно эта страница вам будет полезна:
Множественная регрессия и корреляция
Множественная регрессия — уравнение связи с несколькими независимыми переменными:
где — зависимая переменная (результативный признак);
— независимые переменные (факторы).
Для построения уравнения множественной регрессии чаще используются следующие функции:
• линейная —
• степенная —
• экспонента —
• гипербола —
Можно использовать и другие функции, приводимые к линейному виду.
Для оценки параметров уравнения множественной регрессии применяют метод наименьших квадратов (МНК). Для линейных уравнений и нелинейных уравнений, приводимых к линейным, строится следующая система нормальных уравнений, решение которой позволяет получить оценки параметров регрессии:
Для ее решения может быть применен метод определителей:
где
определитель системы.
— частные определители; которые получаются путем замены соответствующего столбца матрицы определителя системы данными левой части системы.
Другой вид Уравнения множественной регрессии — уравнение регрессии в стандартизованном масштабе:
у-у
где — стандартизованные переменные;
— стандартизованные коэффициенты регрессии.
К уравнению множественной регрессии в стандартизованном масштабе применим МНК. Стандартизованные коэффициенты регрессии (-коэффициенты) определяются из следующей системы уравнений:
Связь коэффициентов множественной регрессии со стандартизованными коэффициентами описывается соотношением
Параметр определяется как
Средние коэффициенты эластичности для линейной регрессии рассчитываются по формуле
Для расчета частных коэффициентов эластичности применяется следующая формула:
Тесноту совместного влияния факторов на результат оценивает индекс множественной корреляции:
Значение индекса множественной корреляции лежит в пределах от 0 до 1 и должно быть больше или ранно максимальному парному индексу корреляции:
Индекс множественной корреляции для уравнения в стандартизованном масштабе можно записать и виде
При линейной зависимости коэффициент множественной корреляции можно определить через матрицу парных коэффициентов корреляции:
где
определитель матрицы парных коэффициентов корреляии;
определитель матрицы межфакторной корреляции.
Частные коэффициенты (или индексы) корреляции, измеряющие влияние на у фактора при неизменном уровне других факторов, можно определить по формуле
или по рекуррентной формуле:
Частные коэффициенты корреляции изменяются в пределах от —1 до 1.
Качество построенной модели в целом оценивает коэффициент (индекс) детерминации. Коэффициент множественной детерминации рассчитывается как квадрат индекса множественной корреляции:
Скорректированный индекс множественной детерминации содержит поправку на число степеней свободы и рассчитывается по формуле
где — число наблюдений; — число факторов.
Значимость уравнения множественной регрессии в целом оценивается с помощью -критерия Фишера:
Частный -критерий оценивает статистическую значимость присутствия каждого из факторов в уравнении. В общем виде для фактора частный -критерий определится как
Оценка значимости коэффициентов чистой регрессии с помощью -критерия Стьюдента сводится к вычислению значения
где — средняя квадратичсская ошибка коэффициента регрессии она может быть определена по следующей формуле:
При построении уравнения множественной регрессии может возникнуть проблема мупьтиколлинеарности факторов, их тесной линейной связанности.
Считается, что две переменные явно коллинеарны, т.е. находятся между собой в линейной зависимости, если .
По величине парных коэффициентов корреляции обнаруживается лишь явная коллинеарность факторов. Наибольшие трудности в использовании аппарата множественной регрессии возникают при наличии мультиколлинеарности факторов. Чем сильнее мультикол-линеарность факторов, тем менее надежна оценка распределения суммы объясненной вариации по отдельным факторам с помощью метода наименьших квадратов.
Для оценки мультиколлинеарности факторов может использоваться определитель матрицы парных коэффициентов корреляции между факторами.
Если бы факторы не коррелировали между собой, то матрица парных коэффициентов корреляции между факторами была бы единичной матрицей, поскольку все недиагональные элементы были бы равны нулю. Так, для включающего три объясняющих переменных уравнения
матрица коэффициентов корреляции между факторами имела бы определитель, равный 1:
так как
Если же наоборот, между факторами существует полная линейная зависимость и все коэффициенты корреляции равны 1, то определитель такой матрицы равен 0:
Чем ближе к 0 определитель матрицы межфакторной корреляции, тем сильнее мультиколлинеарность факторов и ненадежнее результаты множественной регрессии. И наоборот, чем ближе к 1 определитель матрицы межфакторной корреляции, тем меньше мультиколлинеарность факторов.
Проверка мультиколлинеарности факторов может быть проведена методом испытания гипотезы о независимости переменных
Доказано, что величина
имеет приближенное распределение
степенями свободы. Если фактическое значение превосходит табличное (критическое) то гипотеза отклоняется. Это означает, что , недиагональные ненулевые коэффициенты корреляции указывают на коллинеарность факторов. Мультиколлинеарность считается доказанной.
Для применения МНК требуется, чтобы дисперсия остатков была гомоскедастичной. Это значит, что для каждого значения фактора остатки имеют одинаковую дисперсию. Если это условие не соблюдается, то имеет место гетероскедастичность.
При нарушении гомоскедастичности мы имеем неравенства
При малом объеме выборки для оценки гетероскедастичности может использоваться метод Гольдфельда Кнандта. Основная идея теста Гольдфельда — Квандта состоит в следующем:
1) упорядочение и наблюдений по мере возрастания переменной ;
2) исключение из рассмотрения центральных наблюдений; при этом , где — число оцениваемых параметров;
3) разделение совокупности из наблюдений на две группы (соответственно с малыми и с большими значениями фактора ) и определение по каждой из групп ураннсний регрессии;
4) определение остаточной суммы киндратов для первой и второй групп и нахождение их отношения:
При выполнении нулевой гипотезы о гомоскедастичности отношение будет удовлетворять -критерию со степенями свободы для каждой остаточной суммы квадратов. Чем больше величина превышает табличное значение -критерия, тем более нарушена предпосылка о равенстве дисперсий остаточных величин.
Уравнения множественной регрессии могут включать в качестве независимых переменных качественные признаки (например, профессия, пол, образование, климатические условия, отдельные регионы и т.д.). Чтобы ввести такие переменные в регрессионную модель, их необходимо упорядочить и присвоить им те или иные значения, т.е. качественные переменные преобразовать в количественные.
Такого вида сконструированные переменные принято в эконометрике называть фиктивными переменными. Например, включать в модель фактор «пол» в виде фиктивной переменной можно в следующем виде:
Коэффициент регрессии при фиктивной переменной интерпретируется как среднее изменение зависимой переменной при переходе от одной категории (женский пол) к другой (мужской пол) при неизменных значениях остальных параметров. На основе -критерия Стьюдента делается вывод о значимости влияния фиктивной переменной, существенности расхождения между категориями.
Пример задачи №5
По 30 территориям России имеются данные, представленные в табл. 2.1.
Требуется:
- Построить уравнение множественной регрессии в стандартизованной и естественной форме; рассчитать частные коэффициенты эластичности, сравнить их с и пояснить различия между ними.
- Рассчитать линейные коэффициенты частной корреляции и коэффициент множественной корреляции, сравнить их с линейными коэффициентами парной корреляции, пояснить различия между ними.
- Рассчитать общий и частные -критерии Фишера.
Решение:
Линейное уравнение множественной регрессии от и имеет вид:
Для расчета его параметров применим метод стандартизации переменных и построим искомое уравнение в стандартизованном масштабе:
Расчет -коэффициентов выполним по формулам
Получим уравнение
Для построения уравнения в естественной форме рассчитаем и , используя формулы для перехода от к ;
Значение а определим из соотношения
Для характеристики относительной силы влияния и на рассчитаем средние коэффициенты эластичности:
С увеличением средней заработной платы на 1% от ее среднего уровня средний душевой доход у возрастает на 1,02% от своего среднего уровня; при повышении среднего возраста безработного на 1% среднедушевой доход у снижается на 0,87% от своего среднего уровня. Очевидно, что сила влияния средней заработной платы на средний душевой доход у оказалась большей, чем сила влияния среднего возраста безработного . К аналогичным выводам о силе связи приходим при сравнении модулей значений и :
Различия в силе влияния фактора на результат, полученные при сравнении и объясняются тем, что коэффициент эластичности исходит из соотношения средних:
-коэффициент — из соотношения средних квадратических отклонений:
- Линейные коэффициенты частной корреляции здесь рассчитываются по рекуррентной формуле:
Если сравнить значения коэффициентов парной и частной корреляции, то приходим к выводу, что из-за слабой межфакторной связи коэффициенты парной и частной корреляции отличаются незначительно: выводы о тесноте и направлении связи на основе коэффициентов парной и частной корреляции совпадают:
Расчет линейного коэффициента множественной корреляции выполним с использованием коэффициентов и :
Зависимость от и характеризуется как тесная, в которой 72% вариации среднего душевого дохода определяются вариацией учтенных в модели факторов: средней заработной платы и среднего возраста безработного. Прочие факторы, не включенные в модель, составляют соответственно 28% от общей вариации .
Сравнивая приходим к выводу о необходимости отклонить гипотезу , так как
С вероятностью делаем заключение о статистической значимости уравнения в целом и показателя тесноты связи которые сформировались под неслучайным воздействием факторов и .
Частные -критерии — и оценивают статистическую значимость присутствия факторов и в уравнении множественной регрессии, оценивают целесообразность включения в уравнение одного фактора после другого фактора, т.е. оценивает целесообразность включения в уравнение фактора после того, как в него был включен фактор . Соответственно указывает на целесообразность включения в модель фактора после фактора :
Сравнивая приходим к выводу о целесообразности включения в модель фактора после’ фактора , так как
Гипотезу о несущественности прироста за счет включения дополнительного фактора отклоняем и приходим к выводу о статистически подтвержденной целесообразности включения фактора после фактора .
Целесообразность включения в модель фактора после фактора проверяет :
Низкое значение (немногим больше 1) свидетельствует о статистической незначимости прироста за счет включения в модель фактора после фактора . Следовательно, подтверждается нулевая гипотеза нецелесообразности включения в модель фактора (средний возраст безработного). Это означает, что парная регрессионная модель зависимости среднего дохода от средней заработной платы является достаточно статистически значимой, надежной и что нет необходимости улучшать ее, включая дополнительный фактор (средний возраст безработного).
Пример задачи №6
По 20 территориям России изучаются следующие данные (табл. 2.2): зависимость среднегодового душевого дохода у (тыс. руб.) от доли занятых тяжелым физическим трудом в общей численности занятых (%) и от доли экономически активного населения в численности всего населения (%).
Требуется:
- Составить таблицу дисперсионного анализа для проверки при уровне значимости статистической значимости уравнения множественной регрессии и его показателя тесноты связи.
- С помощью частных -критериев Фишера оценить, насколько целесообразно включение в уравнение множественной регрессии фактора после фактора и насколько целесообразно включение после .
- Оценить с помощью -критерия Стыодента статистическую значимость коэффициентов при переменных и множественного уравнения регрессии.
Решение:
- Задача дисперсионного анализа состоит в проверке нулевой гипотезы о статистической незначимости уравнения регрессии в целом и показателя тесноты связи.
Анализ выполняется при сравнении фактического и табличного (критического) значений -критерия Фишера
определяется из соотношения значений факторной и остаточной дисперсий, рассчитанных на одну степень свободы:
где — число единиц совокупности;
— число факторов в уравнении линейной регрессии; — фактическое значение результативного признака; — расчетное значение результативного признака.
Результаты дисперсионного анализа представлены в табл. 2.3.
Сравнивая приходим к выводу о необходимости отклонить гипотезу и сделать вывод о статистической значимости уравнения регрессии в целом и значения , так как они статистически надежны и сформировались под систематическим действием неслучайных причин. Вероятность того, что допускаются ошибки при отклонении нулевой гипотезы, не превышает 5%, и это является достаточно малой величиной.
Возможно эта страница вам будет полезна:
Результаты дисперсионного анализа представлены в табл. 2.4.
Включение фактора после фактора оказалось статистически значимым и оправданным: прирост факторной дисперсии (в расчете на одну степень свободы) оказался существенным, т.е. следствием дополнительного включения в модель систематически действующего фактора так как
Аналогично проверим целесообразность включения в модель дополнительного фактора после включенного ранее фактора . Расчет выполним с использованием показателей тесноты связи
В силу того что
приходим к выводу, что включение после оказалось бесполезным: прирост факторной дисперсии в расчете на одну степень свободы был несуществен, статистически незначим, т.е. влияние не является устойчивым, систематическим. Вполне возможно было ограничиться построением линейного уравнения парной регрессии у от .
Табличные (критические) значения -критерия Стьюдента зависят от принятого уровня значимости (обычно это 0,1; 0,05 или 0,01) и от числа степеней свободы , где — число единиц совокупности, — число факторов в уравнении.
В нашем примере при
Сравнивая , приходим к выводу, что так как коэффициент регрессии является статистически значимым, надежным, на него можно опираться в анализе и в прогнозе. Так как
приходим к заключению, что величина является статистически незначимой, ненадежной в силу того, что она формируется преимущественно под воздействием случайных факторов. Еще раз подтверждается статистическая значимость влияния (доли занятых тяжелым физическим трудом) на у (среднедушевой доход) и ненадежность, незначимость влияния (доли экономически активного населения в численности всего населения).
Возможно эта страница вам будет полезна:
Пример задачи №7
Зависимость спроса на свинину от цены на нее и от цены на говядину представлена уравнением
Требуется:
- Представить данное уравнение в естественной форме (не в логарифмах).
- Оценить значимость параметров данного уравнения, если известно, что -критерий для параметра при составил 0,827, а для параметра при — 1,015.
Решение:
- Представленное степенное уравнение множественной регрессии приводим к естественной форме путём потенцирования обеих частей уравнения:
Значения коэффициентов регрессии и в степенной функции равны коэффициентам эластичности результата от и .
Спрос на свинину сильнее связан с ценой на говядину — он увеличивается в среднем на 2,83% при росте цен на 1%. С ценой на свинину спрос на нее связан обратной зависимостью: с ростом цен на 1% потребление снижается в среднем на 0,21%.
- Это весьма небольшие значения -критерия, которые свидетельствуют о случайной природе взаимосвязи, о статистической ненадежности всего уравнения, поэтому применять полученное уравнение для прогноза не рекомендуется.
Возможно эта страница вам будет полезна:
Пример задачи №8
По 20 предприятиям региона (табл. 2.5) изучается зависимость выработки продукции на одного работника у (тыс. руб.) от ввода в действие новых основных фондов (% от стоимости фондов на конец года) и от удельного веса рабочих высокой квалификации в общей численности рабочих (%).
Требуется:
- Оценить показатели вариации каждого признака и сделать вывод о возможностях применения МНК для их изучения.
- Проанализировать линейные коэффициенты парной и частной корреляции.
- Написать уравнение множественной регрессии, оценить значимость его параметров, пояснить их экономический смысл.
- С помощью -критерия Фишера оценить статистическую надежность уравнения регрессии и . Сравнить значения скорректированного и нескорректированного линейных коэффициентов множественной детерминации.
- С помощью частных -критериев Фишера оценить целесообразность включения в уравнение множественной регрессии фактора после и фактора после .
- Рассчитать средние частные коэффициенты эластичности и дать на их основе сравнительную оценку силы влияния факторов на результат.
Возможно эта страница вам будет полезна:
Реализация типовых задач в Excel
- Решение примера проведем с использованием ППП MS Excel и Statgraphics.
Решение с помощью ППП Excel
Сводную таблицу основных статистических характеристик для одного или нескольких массивов данных можно получить с помощью инструмента анализа данных Описательная статистика. Для этого выполните следующие шаги:
1) введите исходные данные или откройте существующий файл, содержащий анализируемые данные;
2) в главном меню выберите последовательно пункты Сервис / Анализ данных / Описательная статистика, после чего щелкните по кнопке ОК;
3) заполните диалоговое окно ввода данных и параметров вывода (рис. 2.1):
Входной интервал — диапазон, содержащий анализируемые данные, это может быть одна или несколько строк (столбцов); Группирование — по столбцам или по строкам — необходимо указать дополнительно;
Метки — флажок, который указывает, содержит ли первая строка названия столбцов или нет;
Выходной интервал — достаточно указать левую верхнюю ячейку будущего диапазона;
Новый рабочий лист — можно задать произвольное имя нового листа.
Если необходимо получить дополнительную информацию Итоговой статистики, Уровня надежности, k-го наибольшего и наименьшего значений, установите соответствующие флажки в диалоговом окне. Щелкните по кнопке ОК.
Результаты вычисления соответствующих показателей для каждого признака представлены на рис. 2.2.
Решение с помощью ППП Statgraphics
Для проведения многофакторного анализа в ППП Statgraphics используется пункт меню Multiple Variable Analysis. Для получения показателей описательной статистики необходимо проделать следующие операции:
1) ввести исходные данные или открыть существующий файл, содержащий анализируемые данные;
2) в главном меню выбрать Describe/Numeric Data/Multiple Variable Analysis;
3) заполнить диалоговое окно ввода данных (рис. 2.3). Ввести названия всех столбцов, значения которых вы хотите включить в анализ; щелкнуть по кнопке ОК;
4) в окне табличных настроек поставить флажок напротив Summary Statistics (рис. 2.4). Итоговая статистика — показатели вариации -появится в отдельном окне.
Для данных примера 4 результат применения функции Multiple Variable Analysis представлен на рис. 2.5.
Сравнивая значения средних квадратических отклонений и средних величин и определяя коэффициенты вариации:
приходим к выводу о повышенном уровне варьирования признаков, хотя и в допустимых пределах, не превышающих 35%. Совокупность предприятий однородна, и для ее изучения могут использоваться метод наименьших квадратов и вероятностные методы оценки статистических гипотез.
- Значения линейных коэффициентов парной корреляции определяют тесноту попарно связанных переменных, использованных в данном уравнении множественной регрессии. Линейные коэффициенты частной корреляции оценивают тесноту связи значений двух переменных, исключая влияние всех других переменных, представленных в уравнении множественной регрессии.
Решение с помощью ППП Excel
К сожалению, в ППП MS Excel нет специального инструмента для расчета линейных коэффициентов частной корреляции. Матрицу парных коэффициентов корреляции переменных можно рассчитать, используя инструмент анализа данных Корреляция. Для этого:
1) в главном меню последовательно выберите пункты Сервис / Анализ данных / Корреляция. Щелкните по кнопке ОК;
2) заполните диалоговое окно ввода данных и параметров вывода (см. рис. 2.1);
3) результаты вычислений — матрица коэффициентов парной корреляции — представлены на рис. 2.6.
Решение с помощью ППП Stat graphics
При проведении многофакторного анализа — Multiple Variable Analysis — вычисляются линейные коэффициенты парной корреляции и линейные коэффициенты частной корреляции. Последовательность операций описана в п.1 этого примера. Для отображения результатов вычисления на экране необходимо установить флажки напротив Correlations и Partial Correlations в окне табличных настроек (рис. 2.7).
В результате получим матрицы коэффициентов парной и частной корреляции (рис. 2.8).
Значения коэффициентов парной корреляции указывают на весьма тесную связь выработки у как с коэффициентом обновления основных фондов — , так и с долей рабочих высокой квалификации
Но в то же время межфакторная связь весьма тесная и превышает тесноту связи с . В связи с этим для улучшения данной модели можно исключить из нее фактор как малоинформативный, недостаточно статистически надежный.
Коэффициенты частной корреляции дают более точную характеристику тесноты связи двух признаков, чем коэффициенты парной корреляции, так как очищают парную зависимость от взаимодействия данной пары признаков с другими признаками, представленными в модели. Наиболее тесно связаны и :
связь и гораздо слабее:
а межфакторная зависимость и выше, чем парная и :
Все это приводит к выводу о необходимости исключить фактор — доля высококвалифицированных рабочих — из правой части уравнения множественной регрессии.
Если сравнить коэффициенты парной и частной корреляции, то можно увидеть, что из-за высокой межфакторной зависимости коэффициенты парной корреляции дают завышенные оценки тесноты связи:
Именно по этой причине рекомендуется при наличии сильной коллинеарности (взаимосвязи) факторов исключать из исследования тот фактор, у которого теснота парной зависимости меньше, чем теснота межфакторной связи.
- Вычисление параметров линейного уравнения множественной регрессии.
Решение с помощью ППП Excel
Эта операция проводится с помощью инструмента анализа данных Регрессия. Она аналогична расчету параметров парной линейной регрессии, описанной в 1-м разделе практикума, только в отличие от парной регрессии в диалоговом окне при заполнении параметра входной интервал и следует указать не один столбец, а все столбцы, содержащие значения факторных признаков. Результаты анализа представлены на рис. 2.9.
Для вычисления параметров множестнсшшП регрессии можно использовать процедуру Multiple Regression. Дни »нно:
1) введите исходные данные или откройте сущее i иун>щи11 файл;
2) в главном меню последовательно выберите Heinle / Multiple Regression;
3) заполните диалоговое окно ввода данных. II ноне Depended Variable введите название столбца, содержащею шичпш» зависимой переменной, в поле Independed Variable — нашими* i ишбцов, содержащих значения факторов. Щелкните по кнопке ОК
Результаты вычисления функции Multiple КсЦ1 гм1«ш появятся в отдельном окне (рис. 2.10).
По результатам вычислений составим урцниемн* множественной регрессии вида
Значения случайных ошибок параметров с учетом округления:
Они показывают, какое значение данной характеристики сформировалось под влиянием случайных факторов. Эти значения используются для расчета -критерия С п.юдснта:
Если значения -критерия больше 2-3, можно сделать вывод о существенности данного параметра, который формируется под воздействием неслучайных причин. Здесь статистически значимыми являются и , а величина сформировалась под воздействием случайных причин, поэтому фактор силу влияния которого оценивает , можно исключить как несущественно влияющий, неинформативный.
На это же указывает показатель вероятности случайных значений параметров регрессии: если а меньше принятого нами уровня (обычно 0,1; 0,05 или 0,01; это соответствует 10%; 5% или 1% вероятности), делают вывод о неслучайной природе данного значения параметра, т.е. о том, что он статистически значим и надежен. В противном случае принимается гипотеза о случайной природе значения коэффициентов уравнения. Здесь
что позволяет рассматривать как неинформативный фактор и удалить его для улучшения данного уравнения.
Величина оценивает агрегированное влияние прочих (кроме учтенных в модели факторов и ) факторов на результату.
Величины и указывают, что с увеличением и на единицу их значений результат увеличивается соответственно на 0,9459 и на 0,0856 млн руб. Сравнивать эти значения не следует, так как они зависят от единиц измерения каждого признака и потому несопоставимы между собой.
Оценку надежности уравнения регрессии в целом и показателя тесноты связи дает -критерий Фишера:
По данным таблиц дисперсионного анализа, представленным на рис. 2.9 и 2.10, . Вероятность случайно получить такое значение -критерия составляет 0,0000, что не превышает допустимый уровень значимости 5%; об этом свидетельствует величина — значения из этих же таблиц. Следовательно, полученное значение не случайно, оно сформировалось под алюминием существенных факторов, т.е. подтверждается статистически значимость всего уравнения и показателя тесноты связи .
Значения скорректированного и нескорремирпианпого линейных коэффициентов множественной детерминации приведены на рис. 2.9 и 2.10 в рамках регрессионной статистики.
Нескорректированный коэффициент множественной детерминации
оценивает долю вариации результата за счет представленных в уравнении фактором в общей вариации результата. Здесь эта доля составляет 94,7% и указывает на весьма высокую степень обусловленности вариации вариацией факторов, иными словами — на весьма теси> i факторов с результатом.
Скорректированный коэффициент множественной детерминации
определяет тесноту связи с учетом степеней свободы общей и остаточной дисперсий. Он дает такую оценку тесноты связи, которая не зависит от числа факторов и потому может сравниваться по разным моделям с разным что ном факторов. Оба коэффициента указывают на весьма высокую (Ооиес 90%) детерминированность результата в модели факторами.
1) введите исходные данные или откройте существующий файл;
2) в главном меню последовательно выберите пункты Relate / Multiple Regression;
3) заполните диалоговое окно ввода данных. В поле Depended Variable введите название столбца, содержащего значения зависимой переменной, в поле Independed Variable — названия столбцов, содержащих значения факторов, в том порядке, в котором будет проводиться анализ целесообразности включения факторов в модель. Чтобы оценить статистическую значимость включения в модель фактора после фактора , сначала введите фактор затем . Для оценки обратного порядка включения факторов в модель после введите , затем . Щелкните по кнопке ОК;
4) в окне табличных настроек поставьте флажок напротив поля Conditional Sums of Squares.
Результаты вычисления показаны на рис. 2.11.
Частный -критерий — показывает статистическую значимость включения фактора в модель после того, как в нее включен фактор .
= 2 . Вероятность случайной природы его значения (-значение = 0,1750) составляет 17,5% против принятого уровня значимости (5%). Следовательно, включение в модель фактора — доля высококвалифицированных рабочих — после того, как в уравнение включен фактор — коэффициент обновления основных фондов — статистически нецелесообразно: прирост факторной дисперсии за счет дополнительного признака оказывается незначимым, несущественным; фактор включать в уравнение после фактора не следует.
Если поменять первоначальный порядок включения факторов в модель и рассмотреть вариант включения после , то результат расчета частного -критерия для будет иным.
Вероятность его случайного формирования составила 0,04%, это значительно меньше принятого стандарта (5%). Следовательно, значение частного -критерия для дополнительно включенного фактора не случайно, является статистически значимым, надежным, достоверным: прирост факторной дисперсии за счет дополнительного фактора является существенным. Фактор должен присутствовать в уравнении, в том числе в варианте, когда он дополнительно включается после фактора .
Общий вывод состоит в том, что множественная модель с факторами и с
содержит неинформативный фактор . Если исключить фактор , то можно (ограничиться уравнением парной регрессии:
более простым, хорошо детерминированным, ириголным для анализа и для прогноза.
- Средние частные коэффициенты эластичности показывают, на сколько процентов от значения своей средней изменяется результат при изменении фактора на 1% от своей средней и
при фиксированном воздействии на у всех прочих факторов, включенных в уравнение регрессии. Для линейной зависимости
где — коэффициент регрессии при в уравнении множественной регрессии. Здесь
По значениям частных коэффициентов эластичности можно сделать вывод о более сильном влиянии на результат у признака фактора , чем признака фактора :0,6% против 0,2%.
Возможно эта страница вам будет полезна:
Система эконометрических уравнений
Сложные экономические процессы описывают с помощью системы взаимосвязанных (одновременных) уравнений.
Различают несколько видов систем уравнений: • система независимых уравнений — когда каждая зависимая переменная рассматривается как функция одного и того же набора факторов :
Для решения этой системы и нахождения ее параметров используется метод наименьших квадратов;
• система рекурсивных уравнений — когда зависимая переменная одного уравнения выступает в виде фактора в другом уравнении:
Для решения этой системы и нахождения ее параметров используется метод наименьших квадратов;
• система взаимосвязанных (совместных) уравнений — когда одни и те же зависимые переменные в одних уравнениях входят в левую часть, а в других — в правую:
Такая система уравнений называется структурной формой модели.
Эндогенные переменные — взаимозависимые переменные, которые определяются внутри модели (системы) .
Экзогенные переменные — независимые переменные, которые определяются вне системы .
Предопределенные переменные — экзогенные и лаговые (за предыдущие моменты времени) эндогенные переменные системы.
Коэффициенты и при переменных — структурные коэффициенты модели.
Система линейных функций эндогенных переменных от всех предопределенных переменных системы — приведенная форма модели.
где — коэффициенты приведенной формы модели.
Необходимое условие идентификации — выполнение счетного правила:
— уравнение идентифицируемо;
— уравнение неидентифицируемо;
— уравнение сверхидентифицируемо,
где — число эндогенных переменных в уравнении,
— число предопределенных переменных, отсутствующих в уравнении, но присутствующих в системе.
Достаточное условие идентификации — определитель матрицы, составленной из коэффициентов при переменных, отсутствующих в исследуемом уравнении, не равен нулю, и ранг этой матрицы не менее числа эндогенных переменных системы без единицы.
Для решения идентифицируемого уравнения применяется косвенный метод наименьших квадратов, для решения сверхидентифицированных — двухшаговый метод наименьших квадратов.
Косвенный МНК состоит в следующем:
• составляют приведенную форму модели и определяют численные значения параметров каждого ее уравнения обычным МНК;
• путем алгебраических преобразований переходят от приведенной формы к уравнениям структурной формы модели, получая тем самым численные оценки структурных параметров.
Двухшаговый МНК заключается в следующем:
• составляют приведенную форму модели и определяют численные значения параметров каждого ее уравнения обычным МНК;
• выявляют эндогенные переменные, находящиеся в правой части структурного уравнения, параметры которого определяют двухша-говым МНК, и находят расчетные значения по соответствующим уравнениям приведенной формы модели;
• обычным МНК определяют параметры структурного уравнения, используя в качестве исходных данных фактические значения предопределенных переменных и расчетные значения эндогенных переменных, стоящих в правой части данного структурного уравнения.
Пример задачи №9
Требуется:
- Оценить следующую структурную модель на идентификацию:
- Исходя из приведенной формы модели уравнений
найти структурные коэффициенты модели.
Решение:
Проверим каждое уравнение системы на необходимое (Н) и достаточное (Д) условия идентификации.
Первое уравнение. Н: эндогенных переменных — , отсутствующих экзогенных — . Выполняется необходимое равенство: 2 = 1 + 1, следовательно, уравнение точно идентифицируемо.
Д: в первом уравнений отсутствуют и . Построим матрицу из коэффициентов при них в других уравнениях системы:
Определитель матрицы не равен 0, ранг матрицы равен 2; следовательно, выполняется достаточное условие идентификации, и первое уравнение точно идентифицируемо.
Второе уравнение.
Н: эндогенных переменных — , отсутствующих экзогенных —
Выполняется необходимое равенство: 3 = 2+ 1, следовательно, уравнение точно идентифицируемо.
Д: во втором уравнении отсутствуют и . Построим матрицу из коэффициентов при них в других уравнениях системы:
Определитель матрицы не равен 0, ранг матрицы равен 2, следовательно, выполняется достаточное условие идентификации, и второе уравнение точно идентифицируемо.
Третье уравнение.
Н: эндогенных переменных — , отсутствующих экзогенных — .
Выполняется необходимое равенство: 2=1 + 1, следовательно, уравнение точно идентифицируемо.
Д: в третьем уравнении отсутствуют и . Построим матрицу из коэффициентов при них в других уравнениях системы:
Определитель матрицы не равен 0, ранг матрицы равен 2, следовательно, выполняется достаточное условие идентификации, и третье уравнение точно идентифицируемо.
Следовательно, исследуемая система точно идентифицируема и может быть решена косвенным методом наименьших квадратов.
- Вычислим структурные коэффициенты модели:
1)из третьего уравнения приведенной формы выразим (так как его нет в первом уравнении структурной формы):
Данное выражение содержит переменные которые нужны для первого уравнения структурной формы модели (СФМ). Подставим полученное выражение в первое уравнение приведенной формы модели (ПФМ):
2) во втором уравнении СФМ нет переменных и . Структурные параметры второго уравнения СФМ можно будет определить в два этапа:
Первый этап: выразим в данном случае из первого или третьего уравнения ПФМ. Например, из первого уравнения:
Подстановка данного выражения во второе уравнение ПФМ не решило бы задачу до конца, так как в выражении присутствует , которого нет в СФМ.
Выразим из третьего уравнения ПФМ:
Подставим его в выражение :
Второй этап: аналогично, чтобы выразить через искомые и и , заменим в выражении значение на полученное из первого уравнения ПФМ:
Следовательно,
Подставим полученные и во второе уравнение ПФМ:
Это уравнение можно получить из ПФМ иным путем. Суммируя все уравнения, получим
Далее из первого и второго уравнений ПФМ исключим домножив первое уравнение на 3, а второе — на (-2) и просуммировав их:
Затем аналогичным путем из полученных уравнений исключаем , а именно:
3) из второго уравнения ПФМ выразим , так как его нет в третьем уравнении СФМ:
Подставим полученное выражение в третье уравнение ПФМ:
Таким образом, СФМ примет вид
Пример задачи №10
Изучается модель вида
где — валовой национальный доход;
— валовой национальный доход предшествующего года;
— личное потребление;
— конечный спрос (помимо личного потребления);
— случайные составляющие.
Информация за девять лет о приростах всех показателей дана в табл. 3.1*.
Для данной модели была получена система приведенных уравнений:
Требуется:
- Провести идентификацию модели.
- Рассчитать параметры первого уравнения структурной модели.
Решение:
В данной модели две эндогенные переменные ( и ) и две экзогенные переменные ( и ). Второе уравнение точно идентифицировано, так как содержит две эндогенные переменные и не содержит одну экзогенную переменную из системы. Иными словами, для второго уравнения имеем по счетному правилу идентификации равенство: 2=1 + 1.
Первое уравнение сверхидентифицировано, так как в нем на параметры при и наложено ограничение: они должны бьггь равны. В этом уравнении содержится одна эндогенная переменная . Переменная в данном уравнении не рассматривается как эндогенная, так как она участвует в уравнении не самостоятельно, а вместе с переменной . В данном уравнении отсутствует одна экзогенная переменная, имеющаяся в системе. По счетному правилу идентификации получаем: 1 + 1 = 2: + 1 > Н. Это больше, чем число эндогенных переменных в данном уравнении, следовательно, система сверх-идентифицирована.
- Для определения параметров сверхидентифицированной модели используется двухшаговый метод наименьших квадратов.
Шаг 1. На основе системы приведенных уравнений по точно идентифицированному второму уравнению определим теоретические значения эндогенной переменной . Для этого в приведенное уравнение
подставим значения и , имеющиеся в условии задачи. Получим:
Шаг 2. По сверхидентифицированному уравнению структурной формы модели заменяем фактические значения на теоретические и рассчитываем новую переменную + (табл. 3.2).
Далее к сверхидентифицированному уравнению применяется метод наименьших квадратов. Обозначим новую переменную + через . Решаем уравнение
Система нормальных уравнений составит:
Итак, первое уравнение структурной модели будет таким:
Пример задачи №11
Имеются данные за 1990-1994 гг. (табл. 3.3).
Требуется: Построить модель вида
рассчитав соответствующие структурные коэффициенты.
Решение:
Система одновременных уравнений с двумя эндогенными и двумя экзогенными переменными имеет вид
В каждом уравнении две эндогенные и одна отсутствующая экзогенная переменная из имеющихся в системе. Для каждого уравнения данной системы действует счетное правило 2=1 + 1. Это означает, что каждое уравнение и система в целом идентифицированы.
Для определения параметров такой системы применяется косвенный метод наименьших квадратов.
С этой целью структурная форма модели преобразуется в приведенную форму:
в которой коэффициенты при определяются методом наименьших квадратов.
Для нахождения значений и запишем систему нормальных уравнений:
При ее решении предполагается, что и выражены через отклонения от средних уровней, т. е. матрица исходных данных составит:
Применительно к ней необходимые суммы оказываются следующими:
Система нормальных уравнений составит:
Решая ее, получим:
Итак, имеем
Аналогично строим систему нормальных уравнений для определения коэффициентов и :
Следовательно,
тогда второе уравнение примет вид
Приведенная форма модели имеет вид
Из приведенной формы модели определяем коэффициенты структурной модели:
Итак, структурная форма модели имеет вид
Пример задачи №12
Рассматривается следующая модель:
где
Требуется:
- В предположении, что имеются временные ряды данных по всем переменным модели, предложите способ оценки ее параметров.
- Как изменится ваш ответ на вопрос п. 1, если из модели исключить тождество дохода?
Решение:
- Модель представляет собой систему одновременных уравнений. Для ответа на вопрос о способе оценки параметров модели проверим каждое ее уравнение на идентификацию.
Модель включает четыре эндогенные переменные и четыре предопределенные переменные (две экзогенные переменные — и и две лаговые эндогенные переменные — и ).
Проверим необходимое условие идентификации для уравнений модели уравнение.
Это уравнение включает две эндогенные переменные и одну предопределенную переменную . Следовательно, число предопределенных переменных, не входящих в это уравнение, плюс 1, больше числа эндогенных переменных, входящих в уравнение: 3 + 1 > 2. Уравнение сверх идентифицировано.
II уравнение.
Уравнение II включает две эндогенные переменные, и не включает три предопределенные переменные. Как и I уравнение, оно сверхидентифицировано.
III уравнение.
Уравнение III тоже включает две эндогенные переменные и не включает три предопределенные переменные. Это уравнение сверхидентифицировано.
IV уравнение.
Уравнение IV представляет собой тождество, параметры которого известны. Необходимости в его идентификации нет.
Проверим для каждого из уравнений достаточное условие идентификации. Для этого составим матрицу коэффициентов при переменных модели:
В соответствии с достаточным условием идентификации определитель матрицы коэффициентов при переменных, не входящих в исследуемое уравнение, не должен быть равен нулю, а ранг матрицы должен быть равен числу эндогенных переменных модели минус 1, т.е. 4-1=3.
I уравнение.
Матрица коэффициентов при переменных, не входящих в уравнение, имеет вид
Ее ранг равен 3, так как определитель квадратной подматрицы 3×3 этой матрицы не равен нулю:
Достаточное условие идентификации для I уравнения выполняется.
II уравнение.
Выпишем матрицу коэффициентов при переменных, не входящих в уравнение:
Ее ранг равен трем, так как определитель квадратной подматрицы 3 х 3 этой матрицы не равен нулю:
Достаточное условие идентификации для II уравнения выполняется.
Ill уравнение.
Выпишем матрицу коэффициентов при переменных, не входящих в уравнение:
Ее ранг равен трем, так как определитель квадратной подматрицы 3 х 3 этой матрицы не равен нулю:
Достаточное условие идентификации для III уравнения выполняется.
Таким образом, все уравнения модели сверхидентифицированы. Для оценки параметров каждого из уравнений будем применять двухшаговый МНК.
Шаг 1. Запишем приведенную форму модели в общем виде:
где — случайные ошибки.
Определим параметры каждого из приведенных выше уравнений в отдельности обычным МНК. Затем найдем расчетные значения
эндогенных переменных , используемых в правой части структурной модели, подставляя в каждое уравнение приведенной формы соответствующее значение предопределенных переменных.
Шаг 2. В исходных структурных уравнениях заменим эндогенные переменные, выступающие в качестве факторных признаков, их расчетными значениями:
Применяя к каждому из полученных уравнений в отдельности обычный МНК, определим структурные параметры
Если из модели исключить тождество дохода, число предопределенных переменных модели уменьшится на 1 (из модели будет исключена переменная ). Число эндогенных переменных модели также снизится на единицу — переменная станет экзогенной. В правых частях функции потребления и функции денежного рынка будут находиться только предопределенные переменные. Функция инвестиций постулирует зависимость эндогенной переменной от эндогенной переменной (которая зависит только от предопределенных переменных) и предопределенной переменной . Таким образом, мы получим рекурсивную систему. Ее параметры можно оценивать обычным МНК, и нет необходимости исследования системы уравнения на идентификацию.
Временные ряды в эконометрических исследованиях
Модели, построенные по данным, характеризующим один объект за ряд последовательных моментов (периодов), называются моделями временных рядов.
Временной ряд — это совокупность значений какого-либо показателя за несколько последовательных моментов или периодов.
Каждый уровень временного ряда формируется из трендовой , циклической и случайной компонент.
Модели, в которых временной ряд представлен как сумма перечисленных компонент, — аддитивные модели, как произведение -мультипликативные модели временного ряда. Аддитивная модель имеет вид:
мультипликативная модель:
Построение аддитивной и мультипликативной моделей сводится к расчету значений для каждого уровня ряда. Построение модели включает следующие шаги:
1) выравнивание исходного ряда методом скользящей средней;
2) расчет значений сезонной компоненты ;
3) устранение сезонной компоненты из исходных уровней ряда и получение выровненных данных в аддитивной или в мультипликативной модели;
4) аналитическое выравнивание уровней или и расчет значений Т с использованием полученного уравнения тренда;
5) расчет полученных по модели значений или ;
6) расчет абсолютных и/или относительных ошибок.
Автокорреляция уровней ряда — это корреляционная зависимость между последовательными уровнями временного ряда:
где
коэффициент автокорреляции уровней ряда первого порядка;
где
коэффициент автокорреляции уровней ряда второго порядка.
Формулы для расчета коэффициентов автокорреляции старших порядков легко получить из формулы линейного коэффициента корреляции.
Последовательность коэффициентов автокорреляции уровней первого, второго и т.д. порядков называют автокорреляционной функцией временного ряда, а график зависимости ее значений от величины лага (порядка коэффициента автокорреляции) — коррело-граммой.
Построение аналитической функции для моделирования тенденции (тренда) временного ряда называют аналитическим выравниванием временного ряда. Для этого чаще всего применяются следующие функции:
• линейная
• гипербола
• экспонента
• степенная функция
• парабола второго и более высоких порядков
Параметры трендов определяются обычным МНК, в качестве независимой переменной выступает время , а в качестве зависимой переменной — фактические уровни временного ряда . Критерием отбора наилучшей формы тренда является наибольшее значение скорректированного коэффициента детерминации .
При построении моделей регрессии по временным рядам для устранения тенденции используются следующие методы.
Метод отклонений от тренда предполагает вычисление трендовых значений для каждого временного ряда модели, например и расчет отклонений от трендов:
Для дальнейшего анализа используют не исходные данные, а отклонения от тренда.
Метод последовательных разностей заключается в следующем: если ряд содержит линейный тренд, тогда исходные данные заменяются первыми разностями:
если параболический тренд — вторыми разностями:
В случае экспоненциального и степенного тренда метод последовательных разностей применяется к логарифмам исходных данных.
Модель, включающая фактор времени, имеет вид
Параметры а и b этой модели определяются обычным МНК.
Автокорреляция в остатках — корреляционная зависимость между значениями остатков за текущий и предыдущие моменты времени.
Для определения автокорреляции остатков используют критерий Дарвина — Уотсона и расчет величины:
Коэффициент автокорреляции остатков первого порядка определяется по формуле
Критерий Дарбина — Уотсона и коэффициент автокорреляции остатков первого порядка связаны соотношением
Эконометрические модели, содержащие не только текущие, но и лаговые значения факторных переменных, называются моделями с распределенным лагом.
Модель с распределенным лагом в предположении, что максимальная величина лага конечна, имеет вид
Коэффициент регрессии при переменной характеризует среднее абсолютное изменение при изменении на 1 ед. своего измерения в некоторый фиксированный момент времени , без учета воздействия лаговых значений фактора . Этот коэффициент называют краткосрочным мультипликатором.
В момент воздействие факторной переменной на результат составит условных единиц; в момент времени воздействие можно охарактеризовать суммой и т.д. Эти суммы называют промежуточными мультипликаторами. Для максимального лага воздействие фактора на результат описывается суммой которая называется долгосрочным мультипликатором.
Величины
называются относительными коэффициентами модели с распределенным лагом. Если все коэффициенты имеют одинаковые знаки, то для любого
Величина среднего лага модели множественной регрессии определяется по формуле средней арифметической взвешенной:
и представляет собой средний период, в течение которого будет происходить изменение результата под воздействием изменения фактора в момент .
Медианный лаг — это период, в течение которого с момента времени будет реализована половина общего воздействия фактора на результат:
где — медианный лаг.
Оценку параметров моделей с распределенными лагами можно проводить согласно одному из двух методов: методу Койка или методу Алмон.
В распределении Койка делается предположение, что коэффициенты при лаговых значениях объясняющей переменной убывают в геометрической прогрессии:
Уравнение регрессии преобразуется к виду
После несложных преобразований получаем уравнение, оценки параметров которого приводят к оценкам параметров исходного уравнения.
В методе Алмон предполагается, что веса текущих и лаговых значений объясняющих переменных подчиняются полиномиальному распределению:
Уравнение регрессии примет вид
Расчет параметров модели с распределенным лагом методом Алмон проводится по следующей схеме:
1) устанавливается максимальная величина лага ;
2) определяется степень полинома , описывающего структуру лага;
3) рассчитываются значения переменных ;
4) определяются параметры уравнения линейной регрессии от ;
5) рассчитываются параметры исходной модели с распределенным лагом.
Модели, содержащие в качестве факторов лаговые значения зависимой переменной, называются моделями авторегрессии, например:
Как и в модели с распределенным лагом, в этой модели характеризует краткосрочное изменение под воздействием изменения на 1 ед. Долгосрочный мультипликатор в модели авторегрессии рассчитывается как сумма краткосрочного и промежуточных мультипликаторов:
Отметим, что такая интерпретация коэффициентов модели авторегрессии и расчет долгосрочного мультипликатора основаны на предпосылке о наличии бесконечного лага в воздействии текущего значения зависимой переменной на ее будущие значения.
Пример задачи №13
По данным за 18 месяцев построено уравнение регрессии зависимости прибыли предприятия (млн руб.) от цен на сырье (тыс. руб. за 1 т) и производительности труда (ед. продукции на 1 работника):
При анализе остаточных величин были использованы значения, приведенные в табл. 4.1.
Требуется:
- По трем позициям рассчитать
- Рассчитать критерий Дарбина — Уотсона.
- Оценить полученный результат при 5%-ном уровне значимости.
- Указать, пригодно ли уравнение для прогноза.
Решение:
- определяется путем подстановки фактических значений и в уравнение регрессии:
Остатки рассчитываются по формуле
Следовательно,
— те же значения, что и , но со сдвигом на один месяц. Результаты вычислений оформим в виде табл. 4.2.
- Критерий Дарбина — Уотсона рассчитывается по формуле
4-4 = 4-3,81 =0,19,
что значительно меньше, чем . Это означает наличие в остатках автокорреляции.
- Уравнение регрессии не может быть использовано для прогноза, так как в нем не устранена автокорреляция в остатках, которая может иметь разные причины. Автокорреляция в остатках может означать, что в уравнение не включен какой-либо существенный фактор. Возможно также, что форма связи неточна, а может быть, в рядах динамики имеется общая тенденция.
Пример задачи №14
Имеются следующие данные о величине дохода на одного члена семьи и расхода на товар (табл. 4.3).
Требуется:
- Определить ежегодные абсолютные приросты доходов и расходов и сделать выводы о тенденции развития каждого ряда.
- Перечислить основные пути устранения тенденции для построения модели спроса на товар в зависимости от дохода.
- Построить линейную модель спроса, используя первые разности уровней исходных динамических рядов.
- Пояснить экономический смысл коэффициента регрессии.
- Построить линейную модель спроса на товар , включив в нее фактор времен». Интерпретировать полученные параметры.
Решение:
Обозначим расходы на товар через , а доходы одного члена семьи — через . Ежегодные абсолютные приросты определяются по формулам
Расчеты можно оформить в виде таблицы (табл. 4.4).
Значения не имеют четко выраженной тенденции, они варьируют вокруг среднего уровня, что означает наличие в ряде динамики линейного тренда (линейной тенденции). Аналогичный вывод можно сделать и по ряду : абсолютные приросты не имеют систематической направленности, они примерно стабильны, а следовательно, ряд характеризуется линейной тенденцией.
Так как ряды динамики имеют общую тенденцию к росту, то для построения регрессионной модели спроса на товар в зависимости от дохода необходимо устранить тенденцию. С этой целью модель может строиться по первым разностям, т.е. , если ряды динамики характеризуются линейной тенденцией.
Другой возможный путь учета тенденции при построении моделей — найти по каждому ряду уравнение тренда:
и отклонения от него:
Далее модель строится по отклонениям от тренда:
При построении эконометрических моделей чаще используется другой путь учета тенденции — включение в модель фактора времени. Иными словами, модель строится по исходным данным, но в нее в качестве самостоятельного фактора включается время, т.е. .
Модель имеет вид
Для определения параметров и применяется МНК. Система нормальных уравнений следующая:
Применительно к нашим данным имеем
Решая эту систему, получим:
откуда модель имеет вид
Коэффициент регрессии
Он означает, что с ростом прироста душевого дохода на 1%-ный пункт расходы на товар увеличиваются со средним ускорением, равным 0,565 руб.
Модель имеет вид
Применяя МНК, получим систему нормальных уравнений:
Расчеты оформим в виде табл. 4.5.
Система уравнений примет вид
Решая ее, получим
Уравнение регрессии имеет вид
Параметр фиксирует силу связи и . Его величина означает, что с ростом дохода на одного члена семьи на 1%-ный пункт при условии неизменной тенденции расходы на товар А возрастают в среднем на 0,322 руб. Параметр характеризует среднегодовой абсолютный прирост расходов на товар под воздействием прочих факторов при условии неизменного дохода.
Пример задачи №15
По данным за 30 месяцев некоторого временного ряда были получены значения коэффициентов автокорреляции уровней;
Требуется:
- Охарактеризовать структуру этого ряда, используя графическое изображение.
- Для прогнозирования значений в будущие периоды предполагается построить уравнение авторегрессии. Выбрать наилучшее уравнение, обосновать выбор. Указать общий вид этого уравнения.
Решение:
- Так как значения всех коэффициентов автокорреляции достаточно высокие, ряд содержит тенденцию. Поскольку наибольшее абсолютное значение имеет коэффициент автокорреляции 4-го порядка , ряд содержит периодические колебания, цикл этих колебаний равен 4.
Наиболее целесообразно построение уравнения авторегрессии:
так как значение = 0,97 свидетельствует о наличии очень тесной связи между уровнями ряда с лагом в 4 месяца.
Кроме того, возможно построение и множественного уравнения авторегрессии от и , так как = 0,72:
Сравнить полученные уравнения и выбрать наилучшее решение можно с помощью скорректированного коэффициента детерминации.
Пример задачи №16
На основе помесячных данных о числе браков (тыс.) в регионе за последние три года была построена аддитивная модель временного ряда. Скорректированные значения сезонной компоненты за соответствующие месяцы приводятся в табл. 4.6.
Уравнение тренда выглядит следующим образом:
при расчете параметров тренда использовались фактические моменты времени .
Требуется:
- Определить значение сезонной компоненты за декабрь.
- На основе построенной модели дать прогноз общего числа браков, заключенных в течение первого квартала следующего года.
Решение:
- Сумма значений сезонной компоненты внутри одного цикла должна быть равна нулю (в соответствии с методикой построения аддитивной модели временного ряда). Следовательно, значение сезонной компоненты за декабрь составит:
Число браков, заключенных в первом квартале следующего года, есть сумма числа браков, заключенных в январе в феврале и в марте .
Для расчета трендовых значений воспользуемся уравнением тренда, указанным в условии задачи:
Соответствующие значения сезонных компонент составят:
Таким образом,
Количество браков, заключенных в первом квартале следующего года, составит: 2,61 + 5,64 + 3,17 = 11,42 тыс., или 11420.
Пример задачи №17
Динамика выпуска продукции Финляндии характеризуется данными (млн долл.), представленными в табл. 4.7.
Требуется:
- Провести расчет параметров линейного и экспоненциального трендов.
- Построить графики ряда динамики и трендов.
- Выбрать наилучший вид тренда на основании графического изображения и значения коэффициента детерминации.
Реализация типовых задач в Excel
Решение с использованием ППП MS Excel
- Для определения параметров линейного тренда по методу наименьших квадратов используется статистическая функция ЛИНЕЙН, для определения экспоненциального тренда -ЛГРФПРИБЛ. Порядок вычисления был рассмотрен в 1-м разделе практикума. В качестве зависимой переменной в данном примере выступает время . Приведем результаты вычисления функций ЛИНЕЙН и ЛГРФПРИБЛ (рис. 4.2 и 4.3).
Запишем уравнения линейного и экспоненциального тренда, используя данные рис. 4.2 и 4.3:
- Построение графиков осуществляется с помощью Мастера диаграмм.
Порядок построения следующий:
1) введите исходные данные или откройте существующий файл, содержащий анализируемые данные;
2) активизируйте Мастер диаграмм любым из следующих способов:
а) в главном меню выберите Вставка/Диаграмма;
б) на панели инструментов Стандартная щелкните по кнопке Мастер диаграмм;
3) в окне Тип выберите График (рис. 4.4); вид графика выберите в поле рядом со списком типов. Щелкните по кнопке Далее;
4) заполните диапазон данных, как показано на рис. 4.5. Установите флажок размещения данных в столбцах (строках). Щелкните по кнопке Далее;
5) заполните параметры диаграммы на разных закладках (рис. 4.6): названия диаграммы и осей, значения осей, линии сетки, параметры легенды, таблица и подписи данных. Щелкните по кнопке Далее;
6) укажите место размещения диаграммы на отдельном или на имеющемся листе (рис. 4.7). Щелкните по кнопке Далее. Готовая диаграмма, отражающая динамику уровней изучаемого ряда, представлена на рис. 4.8.
В ППП MS Excel линия тренда может быть добавлена в диаграмму с областями гистограммы или в график. Для этого:
1) выделите область построения диаграммы; в главном меню выберите Диаграмма/Добавить линию тренда;
2) в появившемся диалоговом окне (рис. 4.9) выберите вид линии тренда и задайте соответствующие параметры. Для полиномиального тренда необходимо задать степень аппроксимирующего полинома, для скользящего среднего — количество точек усреднения.
В качестве дополнительной информации на диаграмме можно отобразить уравнение регрессии и значение среднеквадратического отклонения, установив соответствующие флажки на закладке Параметры (рис. 4.10). Щелкните по кнопке ОК.
На рис. 4.11 — 4.15 представлены различные виды трендов, описывающие исходные данные задачи.
Сравним значения по разным уравнениям трендов: полиномиальный 6-й степени — = 0,9728; экспоненциальный — = 0,9647; линейный — = 0,8841; степенной — = 0,8470; логарифмический — = 0,5886.
Исходные данные лучше всего описывает полином 6-й степени. Следовательно, в рассматриваемом примере для расчета прогнозных значений следует использовать полиномиальное уравнение.
Кстати готовые на продажу задачи тут, и там же теория из учебников может быть вам поможет она.
Пример задачи №18
Имеются данные о динамике товарооборота и доходов населения России за 1997 — 1999 гг. (табл. 4.8).
Требуется:
- Оценить параметры модели с распределенными лагами методом Алмон.
- Постройте таблицу результатов дисперсионного анализа. Оцените значимость построенной модели.
Решение:
Решение с использованием ППП Statistica
- Для построения регрессионной модели с распределенными лагами необходимо априори задать длину максимального лага, для этой задачи выберем длину 3. Тогда уравнение регрессии будет выглядеть следующим образом:
Для оценки параметров этой модели согласно методу Алмон необходимо задать степень аппроксимирующего полинома. Для решения используем соответствующую процедуру ППП Statistica. Порядок расчетов следующий:
1) введите исходные данные или откройте существующий файл другого формата, содержащий анализируемые данные, в опции Data Management в окне переключения модулей (рис. 4.16). Если создаете новый файл данных, в соответствующих ячейках укажите количество строк и столбцов. В нашем случае — 2 столбца, 36 строк;
2) из модуля управления данными перейдите в модуль анализа временных рядов, выбрав в меню пункт Time Series / Forecasting;
3) откройте файл, содержащий данные — Open Data (рис. 4.17);
4) выделите все переменные, используемые для анализа, — Variables. Щелкните по кнопке ОК (рис. 4.18).
5) щелкните по кнопке Distributed lags analysis (см. рис. 4.17);
6) в окне Distributed Lags Analysis (рис. 4.19) выделите название зависимой переменной, в появляющемся окне Independent variable -название независимой переменной. В ячейке Lag length укажите значение максимального лага, в ячейке Almon polynomial lags — степень аппроксимирующего полинома. Степень полинома не должна превышать значение максимального лага. Щелкните по кнопке ОК (Begin analysis);
7) результаты расчетов — оценки регрессионных коэффициентов и значимость уравнения — приведены на рис. 4.20 и 4.21.
Согласно данным таблицы дисперсионного анализа (см. рис. 4.21), полученные значения -критерия Фишера и коэффициента детерминации показывают высокий уровень аппроксимации исходных данных.
Задачи с решением по всем темам эконометрики
Эконометрика – это раздел экономики, занимающийся разработкой и применением статистических методов для измерений взаимосвязей между экономическими переменными.
Эконометрика – это самостоятельная научная дисциплина, объединяющая совокупность теоретических результатов, приемов, методов и моделей.
Парный регрессионный анализ. Функциональная, статистическая и корреляционная зависимости
Из математики известно понятие функциональной зависимости (связи), когда каждому значению одной переменной соответствует вполне определенное значение другой (например, площадь круга в зависимости от радиуса и т.д.).
В экономике в большинстве случаев между переменными величинами существуют зависимости, когда каждому значению одной переменной соответствует не какое-то определенное, а множества возможных значений другой переменной Иначе говоря, каждому значению одной переменной соответствует определенное (условное) распределение другой переменной. Такая зависимость получила название статистической (или стохастической, вероятностной).
Возникновение понятия статистической связи обуславливается тем, что зависимая переменная подвержена влиянию множества неконтролируемых или неучтенных факторов, а таюке тем, что измерение значений переменных сопровождается случайными ошибками. Примером статистической связи является зависимость урожайности от количества внесенных удобрений, производительности труда на предприятии от его энерговооруженности и т.п.
В силу неоднозначности статистической зависимости между и представляет интерес усредненная по схема зависимости, т. е. закономерность в измерении условного математического ожидания (математического ожидания случайной переменной , вычисленного в предположении, что переменная приняла значение ) в зависимости от .
Корреляционной зависимостью между двумя переменными называется функциональная зависимость между значениями одной из них и условным математическим ожиданием другой.
Корреляционная зависимость может быть представлена в виде
где
В регрессионном анализе рассматривается односторонняя зависимость случайной переменной от одной (или нескольких) неслучайной независимой переменной . Такая зависимость от (иногда ее называют регрессионной) может быть представлена в виде модельного уравнения регрессии по (1.1). При этом -зависимую переменную называют также функцией отклика объясняемой, выходной. результирухпцей. эндогенной переменной, результативным признаком, а независимую переменную — объясняющей, входной. предскашлаюгцей, предикторной, экзогенной переменной, фактором, регрессором, факторным признаком.
Уравнение (1.1) называется модельным уравнением регрессии (или просто уравнением регрессии), а функция — модельной функцией регрессии (или просто функцией регрессии), а ее график — модельной линией регрессии (или просто линией регрессии).
Для точного описания уравнения регрессии необходимо знать условный закон распределения зависимой переменной при условии, что переменная примет значение , т.е. . На практике такую информацию получить, как правило, не удается, так как обычно исследователь располагает лишь выборкой пар значений ограниченного объема . В этом случае речь может идти об оценке {приближенном выражении, аппроксимации) по выборке функции регрессии. Такой оценкой является выборочная линия (кривая) регрессии
где —условная (групповая) средняя переменной при фиксированном значении переменной ;
— параметры кривой.
Уравнение (1.2) называется выборочным уравнением регрессии
При правильно определенной аппроксимирующей функции с увеличением объема выборки она будет сходиться по вероятности к функции регрессии
Линейная парная регрессия
Рассмотрим в качестве примера зависимость между сменной добычей угля на одного рабочего (в тоннал) и мощностью пласта (в метрах) по следующим (условным) данным, характеризующим процесс добычи угля в = 10 шахтах.
Изобразим полученную зависимость графически точками координатной плоскости (рис. 1.1). Такое изображение статистической зависимости называется полем корреляции.
По расположению эмпирических точек можно предполагать наличие линейной корреляционной (регрессионной) зависимости между переменными и . Поэтому уравнение регрессии (1.2) будем искать в виде линейного уравнения
Найдем формулы расчета неизвестных параметров уравнения линейной регрессии. Согласно методу наименьших квадратов неизвестные параметры и выбираются таким образом, чтобы сумма квадратов отклонений эмпирических значений от значений найденных по уравнению регрессии (3.3), была минимальной:
На основании необходимого условия экстремума функции двух переменных приравниваем к нулю ее частные производные, т. е.
откуда после преобразований получим систему нормальных уравнений для определения параметров линейной регрессии
Разделив обе части уравнений (1.5) на , получим систему нормальных уравнении в виде:
где соответствующие средние определяются по формулам:
Решая систему (1.6), найдем
Коэффициент называется выборочным коэффициентом регрессии (или просто коэффициентом регрессии) по
Коэффициент регрессии по показывает, на сколько единиц в среднем изменяется переменная при увеличении переменной на одну единицу.
выборочная дисперсия переменной .
выборочная ковариация.
Уравнение регрессии примет вид:
Задача №1.1.
По данным табл. 1.1 найти уравнение регрессии по .
Решение:
Вычислим все необходимые суммы:
Затем находим параметры уравнения регрессии:
Уравнение регрессии по имеет вид:
Из полученного уравнения регрессии (см. рис. I 1) следует, что при увеличении мощности пласта на 1 м добыча угля на одного рабочего увеличивается в среднем на 1,12т .
Коэффициент корреляции
Оценим тесноту корреляционной зависимости. Рассмотрим случай линейной зависимости вида (1.10):
На первый взгляд, подходящим измерителем тесноты связи от является коэффициент регрессии , так как он показывает, на сколько единиц в среднем изменяется , когда увеличивается на одну единицу. Однако зависит от единиц измерения переменных Например, в полученной ранее зависимости он увеличится в 100 раз, если мощность пласта выразить не в метрах, а в сантиметрах. Поэтому для выбора показателя тесноты связи нужна такая система единиц измерения, в которой данные по различным характеристикам оказались бы сравнимы между собой. Представим уравнение (1.10) в эквивалентном виде:
В этом выражении величина показывает на сколько величин изменится в среднем , когда увеличится на одно .
Величина является показателем тесноты связи и называется выборочным коэффициентом корреляции (или просто коэффициентом корреляции). Две корреляционные зависимости переменной от приведены на рис. 1.2. Очевидно, что в случае а) зависимость между переменными менее тесная и коэффициент корреляции должен быть меньше, чем в случае б), так как точки корреляционного поля а) дальше отстоят от линии регрессии, чем точки поля б).
Если то корреляционная связь между переменными называется прямой, если — обратной. При прямой (обратной) связи увеличение одной из переменных ведет к увеличению (уменьшению) условной (групповой) средней другой. Учитывая (1.9), формулу для представим в виде:
Отметим другие модификации формулы :
Выборочный коэффициент корреляции (при достаточно большом объеме выборки ) обладает следующими свойствами.
- Коэффициент корреляции принимает значения на отрезке [-1;1], т.е. . Чем ближе к единице, тем теснее связь.
- При корреляционная связь представляет линейную функциональную зависимость. При этом все наблюдаемые значения располагаются на прямой линии (рис. 1.3 а, 6).
- При линейная корреляционная связь отсутствует. При этом линия регрессии параллельна оси (рис. 1.3 в).
Следует отметить, что является непосредственно оценкой генерального коэффициента корреляции между и лишь в случае двумерного нормального закона распределения случайных величин и . В других случаях (когда распределения и отклоняются от нормального, одна из исследуемых величин, например , не является случайной и т.п.) выборочный коэффициент корреляции не следует рассматривать как строгую меру взаимосвязи переменных.
Возможно эта страница вам будет полезна:
Задача №1.2.
По данным табл. 1.1 вычислить коэффициент корреляции между переменными и
Решение:
В примере 1.1 были вычислены суммы
Вычислим сумму:
Вычислим коэффициент корреляции:
т. е. связь между переменными достаточно тесная
Основные положения регрессионного анализа. Оценка параметров парной регрессионной модели
Рассматриваемая в регрессионном анализе зависимость от может быть представлена в виде молельного уравнения регрессии (1.1), но из-за воздействия неучтенных случайных факторов и причин отдельные наблюдения переменной будут в большей или меньшей мере отклоняться от функции регрессии . В этом случае уравнение взаимосвязи двух переменных может быть представлено в виде:
где — случайная переменная (случайный член), характеризующая отклонение от функции регрессии. Эту переменную будем называть возмущающей или просто возмущением (либо ошибкой). Таким образом, в регрессионной модели зависимая переменная есть некоторая функция с точностью до случайного возмущения .
Рассмотрим линейный регрессионный анализ, для которого функция линейна относительно оцениваемых параметров:
Предположим, что для оценки параметров линейной функции регрессии (1.16) взята выборка, содержащая пар значений переменных , где . В этом случае линейная парная регрессионная модель имеет вид:
Отметим основные предпосылки регрессионного анализа.
(или математическое ожидание зависимой переменной — равно линейной функции регрессии:
или
условие гомоскедастичности или равноизменчивости возмущения (зависимой переменной)).
В этом случае модель (1.17) называется классической нормальной линейной регрессионной моделью.
Для получения уравнения регрессии достаточно предпосылок 1-4. Требование выполнения предпосылки 5 (т. е. рассмотрение «нормальной регрессии») необходимо для оценки точности уравнения регрессии и его параметров.
Оценкой модели (1.17) по выборке является уравнение регрессии
Параметры этого уравнения и определяются на основе метода наименьших квадратов.
Воздействие неучтенных случайных факторов и ошибок наблюдений в модели (1.17) определяется с помощью дисперсии возмущений (ошибок) или остаточной дисперсии . Несмещенной оценкой этой дисперсии является выборочная остаточная дисперсия
где — групповая средняя, найденная по уравнению регрессии; — выборочная оценка возмущения или остаток репрессии.
В знаменателе выражения (1.18) стоит число степеней свободы , так как две степени свободы теряются при определении двух параметров прямой из системы нормальных уравнений (1.5).
Ответ на вопрос, являются ли оценки параметров «наилучшими», дает следующая теорема.
Теорема Гаусса—Маркова. Если регрессионная модель (1.17) удовлетворяет предпосылкам 1 -4 , то оценки и имеют наименьшую дисперсию в классе всех линейных несмещенных оценок. Таким образом, оценки и в определенном смысле являются наиболее эффективными линейными оценками параметров и .
Интервальная оценка функции регрессии и ее параметров
Построим доверительный интервал для функции регрессии, т.е. для условного математического ожидания , который с заданной надежностью (доверительной вероятностью) накрывает неизвестное значение .
Найдем дисперсию групповой средней представляющей выборочную оценку . С этой целью уравнение регрессии (1.10) представим в виде:
На рис. 1.4 линия регрессии (1.19) изображена графически. Для произвольного наблюдаемого значения выделены его составляющие: средняя , приращение , образующие расчетное значение и остаток .
Дисперсия групповой средней равна сумме дисперсий двух независимых слагаемых выражения (1.19):
Здесь учтено, что — неслучайная величина, при вынесении которой за знак дисперсии ее необходимо возвести в квадрат.
Дисперсии выборочной средней и параметра находятся по формулам
Оценка дисперсии групповых средних вычисляется по формуле:
Основываясь на предпосылках 1 — 5 регрессионного анализа можно показать, что статистика имеет — распределение Стьюдента с степенями свободы и построить доверительный интервал для условного математического ожидания :
где — стандартная ошибка групповой средней . Из формул (1.22) и (1.23) видно, что величина (длина) доверительного интервала зависит от значения объясняющей переменной : три она минимальна, а по мере удаления от величина доверительного интервала увеличивается (рис. 1.5). Таким образом, прогноз значений (определение неизвестных значений) зависимой переменной по уравнению регрессии оправдан, если значение объясняющей переменной не выходит за диапазон ее значений по выборке (причем тем более точный, чем ближе к ). Другими словами, экстраполяция кривой регрессии, т.е. ее использование вне пределов обследованного диапазона значений объясняющей переменной (даже если она оправдана для рассматриваемой переменной исходя из смысла решаемой задачи) может привести к значительным погрешностям
Определим доверительный интервал для индивидуальных значений зависимой переменной. Построенная доверительная область для (см. рис. 1.5) определяет местоположение модельной линии регрессии (т.е. условного математического ожидания), но не отдельных возможных значений зависимой переменной, которые отклоняются от средней. Поэтому при определении доверительного интервала для индивидуальных значений зависимой переменной необходимо учитывать еще один источник вариации рассеяние вокруг линии регрессии, т.е. в оценку суммарной дисперсии следует включить величину . В результате оценка дисперсии индивидуальных значений при равна
а соответствующий доверительный интервал для прогнозов индивидуальных значений будет определятся по формуле:
Построим доверительный интервал для параметров регрессионной модели, в частности для параметров регрессионной модели и .
При выполнении предпосылки 5 регрессионного анализа статистика имеет нормальный закон распределения, а статистика
имеет -распределение Стьюдента с степенями свободы.
Поэтому интервальная опенка параметра на уровне значимости а имеет вид:
При построении доверительного интервала для параметра снисходят из того, что статистика имеет -распределение с степенями свободы. Поэтому интервальная оценка для на уровне значимости имеет вид :
доверительный интервал выбирается таким образом, чтобы
Задача №1.3.
По данным табл. 1.1 требуется:
1) оценить сменную среднюю добычу угля на одного рабочего для шахт с мощностью пласта 8 м;
2) найти 95% — ные доверительные интервалы для индивидуального и среднего значений сменной добычи угля на 1 рабочего для таких же шахт;
3) найти с надежностью 0,95 интервальные оценки коэффициента рецессии и дисперсии .
Решение:
Уравнение регрессии по было получено в примере ранее , т.е. при увеличении мощности пласта на 1м добыча угля на одного рабочего увеличивается в среднем на 1,12 т.
Для построения доверительного интервала для необходимо знать дисперсию его оценки, т.е. . Составим вспомогательную таблицу подставив значение в полученное уравнению регрессии.
Подставим из таблицы найденные значения в формулы
Следовательно
По таблице значений -критерия Стьюдента находим . Искомый доверительный интервал имеет вид
Средняя сменная добыча угля на одного рабочего для шахт с мощностью пласта 8м с надежностью 0,95 находится в пределах от 2,77 до 6,03 т. 2. Чтобы построить доверительный интервал для индивидуального значения найдем дисперсию его оценки по формуле:
Искомый доверительный интервал примет вид:
Таким образом, индивидуальная сменная добыча угля на одного рабочего для шахт с мощностью пласта 8м с надежностью 0,95 находится в пределах от 0,57 до 8,23 т.
- Найдем 95% -ный доверительный интервал для параметра по формуле (1.27)
т. е. с надежностью 0,95 при изменении мощности пласта на 1м суточная выработка будет изменяться на величину, заключенную в интервале от 0,332 до 1,907 (т).
Найдем 95%-ный доверительный интервал для параметра
Учитывая, что , найдем по таблице значений -критерия Пирсона
Подставим найденные значения в формулу для оценки интервала получим:
Таким образом, с надежностью 0,95 дисперсия возмущений заключена в пределах от 1,29 до 10,36, а их стандартное отклонение — от 1,13 до 3,22 (т).
Оценка значимости уравнения регрессии. Коэффициент детерминации
Проверить значимость уравнения регрессии — значит установить, соответствует ли математическая модель, выражающая зависимость между переменными, экспериментальным данным и достаточно ли включенных в уравнение объясняющих переменных (одной или нескольких) для описания зависимой переменной.
Проверка значимости уравнения регрессии производится на основе дисперсионного анализа.
Согласно основной идее дисперсионного анализа
или
где — общая сумма квадратов отклонений зависимой переменной от средней; — сумма квадратов, обусловленная регрессией; — остаточная сумма квадратов, характеризующая влияние неучтенных факторов
Нетрудно убедиться, что третье слагаемое
Представим полученные соотношения в виде таблицы 1.3
Средние квадраты и представляют собой несмещенные оценки дисперсий зависимой переменной, обусловленных соответственно регрессий или объясняющей переменной и воздействием неучтенных случайных факторов и ошибок; — число оцениваемых параметров уравнения регрессии; — число наблюдений.
Уравнение регрессии значимо на уровне , если фактически наблюдаемое значение статистики
Задача №1.4.
По данным табл. 1.1 оценить на уровне значимость уравнения регрессии по .
Решение:
Ранее, были
Вычислим суммы квадратов для определения компонент дисперсии:
Находим значение — распределения
По таблице значений -распределения Фишера определяем табличное значение
Так как
то уравнение регрессии значимо.
Одной из наиболее эффективных оценок адекватности регрессионной модели, мерой качества уравнения регрессии, (или, как говорят, мерой качества подгонки регрессионной модели к найденным значениям ), характеристикой прогностической анализируемой регрессионной модели является коэффициент детерминации, определяемый по формуле
Величина показывает, какая часть (доля) вариации зависимой переменной обусловлена вариацией объясняющей переменной.
Так как , то Чем ближе к единице, тем лучше регрессия аппроксимирует эмпирические данные, тем теснее наблюдения примыкают к линии регрессии. Если , то эмпирические точки лежат на линии регрессии (см. рис. 1.3 а.б) и между переменными и существует линейная функциональная зависимость. Если то (вариация зависимой переменной полностью обусловлена воздействием неучтенных в модели переменных, и линия регрессии параллельна оси абсцисс (рис. 1.3 в).
Заметим, что коэффициент имеет смысл рассматривать только при наличии свободного члена в уравнении регрессии, так как лишь в этом случае, как уже отмечалось, верно, равенство (1.29), а следовательно, и соотношение (1.32).
Если известен коэффициент детерминации , то критерий значимости (1.30) уравнения регрессии или самого коэффициента детерминация может быть записан в виде
В случае парной линейной регрессионной модели коэффициент детерминации равен квадрату коэффициента корреляции, т. е. .
Задача №1.5.
По данным табл. 1.1 найти коэффициент детерминации и пояснить его смысл.
Решение:
В примере 1.4 было получено . Находим
Коэффициент детерминации можно было вычислить и иначе, если учесть, что в примере 1.2 был вычислен коэффициент корреляции . Так как для парной линейной регрессионной модели , то .
Это означает, что вариация зависимой переменной — сменной добычи угля на одного рабочего — на 62% объясняется изменчивостью объясняющей переменной — мощностью пласта.
Множественный регрессионный анализ. Классическая нормальная линейная модель множественной регрессии
Экономические явления, как правило, определяются большим числом одновременно и совокупно действующих факторов. В связи с этим часто возникает задача исследования зависимости одной зависимой переменной от нескольких объясняющих переменных . Эта задача решается с помощью множественного регрессионного анализа.
Обозначим -е наблюдение зависимой переменной а объясняющих переменных — . Тогда модель множественной линейной регрессии можно представить в виде:
где
— удовлетворяет приведенным выше (см. Главу 1) предпосылкам 1-5.
Включение в регрессионную модель новых объясняющих переменных приводит к целесообразности использования матричных обозначений. Магричное описание регрессии облегчает как теоретические концепции анализа, так и необходимые расчетные процедуры.
Введем обозначения:
— матрица-столбец, или вектор значений зависимой переменной размерности ;
матрица значений объясняющих переменных, или матрица плана размерности (в матрицу дополнительно введен столбец, все элементы которого равны 1, т.е. условно полагается, что в модели свободный член умножается на фиктивную переменную принимающую значение 1 дня всех ;
— матрица-столбец, или вектор параметров размерности ,
— матрица-столбец, или вектор, возмущений (случайных ошибок, остатков) размера .
Тогда в матричной форме модель примет вид:
Оценкой этой модели по выборке является уравнение
где
Оценка параметров классической регрессионной модели методом наименьших квадратов
Для оценки вектора неизвестных параметров применим метод наименьших квадратов.
Условие минимизации остаточной суммы квадратов запишется в виде:
На основании необходимого условия экстремума функции нескольких переменных необходимо приравнять нулю частные производные по этим переменным или в матричной форме— вектор частных производных
После вычисления вектора частных производных приравняем его 0 — , откуда получаем систему нормальных уравнений в матричной форме для определения вектора :
Для решения этого матричного уравнения относительно вектора оценок параметров введём еще одну предпосылку о том, что матрица является неособенной, т. е. ее определитель не равен нулю. Следовательно, ранг матрицы равен ее порядку, т.е. но , значит, (ранг матрицы плана равен числу ее столбцов). В соответствии с этим сформулируем упомянутую выше предпосылку множественного регрессионного анализа в следующем виде:
Кроме того, полагают, что число имеющихся наблюдений (значений) каждой из объясняющих и зависимой переменных превосходит ранг-матрицы , т. е. или , ибо в противном случае в принципе невозможно получение сколько-нибудь надежных статистических выводов.
В новых терминах приведенные ранее предпосылки для множественного регрессионного анализа могут быть записаны следующим образом:
Модель (2.2), удовлетворяющая приведенным предпосылкам 1-6, называется классической нормальной линейной моделью множественной регрессии, если же среди приведенных не выполняется лишь предпосылка о нормальном законе распределения вектора возмущений с , то модель называется просто классической линейной моделью множественной рефессии.
Решением уравнения (2.4) является вектор
где — матрица, обратная матрице , — матрица-столбец, или вектор ее свободных членов.
Рассмотренная выше для парной регрессионной модели теорема Гаусса — Маркова оказывается верной для модели (2.2) множественной регрессии и может быть сформулирована в следующем виде
При выполнении предпосылок множественного регрессионного анализа оценка метода наименьших квадратов является наиболее эффективной, т е обладает наименьшей дисперсией в классе линейных несмещенных оценок.
Зная вектор , выборочное уравнение множественной регрессии представим в виде:
где групповая (условная) средняя переменной при заданном векторе значений объясняющей переменной
Задача №2.1.
Имеются следующие данные о сменной добыче угля на одного рабочего (т), мощности пласта (м) и уровне механизации работ (%), характеризующие процесс добычи угля в 10 шахтах. Предполагая, что между переменными , и существует линейная корреляционная зависимость, найти ее аналитическое выражение (уравнение регрессии по и ).
Решение:
Обозначим
(в матрицу вводится дополнительный столбец чисел, состоящий из единиц).
Для удобства вычислений составляем вспомогательную таблицу.
Вычислим матрицы:
Умножим матрицу на вектор и получим
Уравнение множественной регрессии имеет вид:
Оно показывает, что при увеличении только мощности пласта (при неизменном ) на 1м добыча угля на одного рабочего увеличивается в среднем на 0,660 т, а при увеличении только уровня механизации работ (при неизменной ) — в среднем на 0,90 т.
Добавление в регрессионную модель новой объясняющей переменной изменило коэффициент регрессии ( по ) с 1,12 для парной регрессии (см. пример 1.1) до 0,66 — для множественной регрессии. В случае парной регрессии учитывает воздействие на не только переменной но и косвенно корреляционно связанной с ней переменной .
Ковариационная матрица и ее выборочная оценка
Вариации оценок параметров определяют точность уравнения множественной регрессии. Для их измерения в многомерном регрессионном анализе рассматривают так называемую ковариационную матрицу вектора оценок параметров , являющуюся матричным аналогом дисперсии одной переменной
где элементы — ковариации (или корреляционные моменты) оценок параметров и . Ковариация двух переменных определяется как математическое ожидание произведения отклонений этих переменных от их математических ожиданий:
Учитывая, что оценки , полученные методом наименьших квадратов, являются несмещенными оценками параметров , т. е. выражение примет вид
Ковариация характеризует как степень рассеяния значений двух переменных относительно их математических ожиданий, так и взаимосвязь этих переменных.
Определение доверительных интервалов для коэффициентов и функции регрессии
Доверительный интервал для параметров регрессионной модели
Оценка дисперсии коэффициента регрессии определяется по формуле:
где — несмещенная оценка параметра ;
— диагональный элемент матрицы Среднее квадратическое отклонение (стандартная ошибка) коэффициента регрессии вычисляется по формуле:
Учитывая, что статистика имеет -распределение Стьюдента с степенями свободы, можно проверить значимость коэффициента регрессии . Гипотеза о равенстве параметра нулю отвергается, если , где табличное значение -критерия Стьюдента, определенное на уровне значимости при числе степеней свободы , т. е. отличается от нуля на уровне значимости .
В обшей постановке гипотеза о равенстве параметра заданному числу отвергается, если
Доверительный интервал для параметра имеет вид.
- Доверительный интервал для функции репрессии или для условного математического ожидания зависимой переменной
где — групповая средняя, определяемая по уравнению регрессии;
— ее стандартная ошибка, определяемая по формуле:
- Доверительный интервал для индивидуальных значений зависимой переменной
где
- Доверительный интервал для параметра .
В множественной регрессии он строится аналогично парной модели с соответствующим изменением числа степеней свободы с критерия
Задача №2.2
По данным примера 2.1 оценить сменную добычу угля на одного рабочего для шахт с мощностью пласта 8 м и уровнем механизации работ 6%; наши 95%-ные доверительные интервалы для индивидуального и среднего значений сменной добычи угля на одного рабочего для таких же шахт. Проверить значимость коэффициентов регрессии и построить для них 95%-ные доверительные интервалы. Найти интервачьную оценку для дисперсии .
Решение:
В примере 2.1 уравнение регрессии получено в виде
По условию надо оценить , где . Выборочной оценкой является групповая средняя, которую найдем по уравнению регрессии:
Для построения доверительного инггерала для воспользуемся формулой (2.11). Вначале найдем дисперсию . При ей вычислении используем две последних строки табл. 2.2 (групповые средние в них определяются по полученному уравнению регрессии).
Находим
Вычисляем
По таблице значений — критерия Стьюдента при числе степеней свободы
находим . Следовательно, доверительный интервал для равен
Итак, с надежностью 0,95 средняя сменная добыча угля на одного рабочего для шахт с мощностью пласта 8 м и уровнем механизации работ 6% находится в пределах от 4,27 до 7,29 т.
Сравнивая новый доверительный интервал для функции регрессии , полученный с учетом двух объясняющих переменных, с аналогичным интервалом с учетом одной объясняющей переменной (см пример 1.3), можно заметить некоторое уменьшение его величины.
Это связано с тем, что включение в модель новой объясняющей переменной позволяет несколько повысить точность модели за счет увеличения взаимосвязи зависимой и объясняющей переменных.
Найдем доверительный интервал для индивидуального значения при
Вычислим
Итак, с надежностью 0,95 индивидуальное значение сменной добычи угля в шахтах с мощностью пласта 8 м и уровнем механизации работ 6% находится в пределах от 2,80 до 8,76 (т).
Проверим значимость коэффициентов регрессии и . Для стандартная ошибка равна
Так как
тo коэффициент значим.
Аналогично для стандартная ошибка, равна
т. е. коэффициент значим.
Доверительный интервал коэффициента регрессии имеет вид;
Доверительный интервал коэффициента регрессии имеет вид:
Итак, с надежностью 0,95 за счет изменения на 1 м мощности пласта (при неизменном ) сменная добыча угля на одного рабочего будет изменяться в пределах от 0,15 до 1,17 (т), а за счёт изменения на 1% механизации работ (при неизменном ) значения будут изменяться в пределах от 0,27 до 1,53 (т).
Найдем 95%-ный доверительный интервал для параметра . Учитывая, что
степени свободы найдем по таблице значений критерия Пирсона
С помощью формулы (2.14) находим интервал
Таким образом, с надежностью 0,95 дисперсия возмущений заключена в пределах от 0,738 до 6,99, а их стандартное отклонение — от 0,859 до 2,64(т).
Оценка значимости множественной регрессии. Коэффициенты детерминации R²
В модели множественной регрессии, как и в случае парной регрессионной модели, общая вариация — сумма квадратов отклонений зависимой переменной от средней может быть разложена на две составляющие:
где — соответственно сумма квадратов отклонений, обусловленная регрессией, и остаточная сумма квадратов, характеризующая влияние неучтенных факторов. Они вычисляются по следующим формулам:
Уравнение множественной регрессии значимо (иначе — гипотеза о равенстве нулю параметров регрессионной модели, т. е.
отвергается), если
где — табличное значение -критерия Фишера — Снелекора.
Коэффициент детерминации является оценкой адекватности модели, мерой качества уравнения регрессии, характеристикой его прогностической силы Множественный коэффициент детерминации определяется по формулам;
Величина характеризует долю вариации зависимой переменной, обусловленной регрессией или изменчивостью объясняющих переменных; чем ближе к единице, тем лучше регрессия описывает зависимость между объясняющими и зависимой переменными.
Вместе с тем использование только одного коэффициента детерминации для выбора наилучшего уравнения регрессии может оказаться недостаточным. Недостатком коэффициента детерминации является то, что он, вообще говоря, увеличивается при добавлении новых объясняющих переменных, хотя это и не обязательно означает улучшение качества регрессионной модели. На практике встречаются случаи, когда плохо определенная модель регрессии может дать сравнительно высокий коэффициент .
Поэтому предпочтительнее использовать скорректированный (адаптированный, поправленный) коэффициент детерминации определяемый по формулам:
Из формул следует, что чем больше число объясняющих переменных , тем меньше по сравнению с . В отличие от скорректированный коэффициент может уменьшаться при введении в модель новых объясняющих переменных, не оказывающих существенного влияния на зависимую переменную. Однако даже увеличение скоррекгированного коэффициента детерминации при введении в модель новой объясняющей переменной не всегда получается, что ее коэффициент регрессии значим (это происходит, как можно показать, только в случае, если соответствующее значение -статистики больше единицы (по абсолютной величине), т. е. . Другими словами, увеличение еще не означает улучшения качества регрессионной модели.
Если известен коэффициент детерминации , то критерий значимости уравнения регрессии может быть записан в виде:
где , т. к. в уравнении множественной регрессии вместе со свободным членом оценивается параметров
Возможно эта страница вам будет полезна:
Задача №2.3.
По данным примера 2.1 определить множественный коэффициент детерминации и проверить значимость полученного уравнения регрессии по и на уровне .
Решение:
Вычислим произведения векторов (см. пример 2.1):
По формуле (2 18) определим множественный коэффициент детерминации
Коэффициент детерминации свидетельствует о том, что вариация исследуемой зависимой переменной У — сменной добычи угля на одного рабочего на 69,1% объясняется изменчивостью включенных в модель объясняющих переменных— мощности пласта и уровня механизации работ .
Зная , проверим значимость уравнения регрессии. Вычислим фактическое значение критерия:
Оно больше табличного , определенного на уровне значимости при степенях свободы, т. е. уравнение регрессии значимо, следовательно, исследуемая зависимая переменная достаточно хорошо описывается включенными в регрессионную модель переменными и .
Временные ряды и прогнозирование. Общие сведения о временных рядах и задачах их анализа
Под временным рядом (динамическим рядом, или рядом динамики) в экономике подразумевается последовательность наблюдений некоторого признака (случайной величины) в последовательные моменты времени. Отдельные наблюдения называются уровнями ряда, которые будем обозначать , где — число уровней.
В табл. 3.1 приведены данные, отражающие спрос на некоторый товар за восьмилетний период (усл. ед.), т. е. временной ряд спроса .
На рис. 3.1 временной ряд изображен графически ломаной линией.
Методы исследования моделей, основанных на данных пространственных выборок и временных рядов, вообще говоря, отличаются Объясняется это Tev что в отличие от пространственных выборок наблюдения во временных ряда как правило, нельзя считать независимыми.
При анализе точности этих моделей и определении интервальных ошибок прогноза на их основе, будем полагать, что рассматриваемые в главе регрессионные модели временных рядов удовлетворяют условиям классической модели.
В общем виде при исследовании экономического временного ряда выделяются несколько составляющих:
где — тренд, плавно меняющаяся компонента, описывающая чистое влияние долговременных факторов, т. е. длительную тенденцию изменения признака (например, показатели экономического развития, рост населения, и т. п.);
— сезонная компонента, отражающая повторяемость экономических процессов в течение не очень длительного периода (года, месяца, недели и т. д., например, объем продаж туристических путевок или перевозок авиапассажиров в различные времена года);
— циклическая компонента, отражающая повторяемость экономических процессов в течение длительных периодов (например, влияние волн экономической активности Кондратьева, демографических «ям», циклов солнечной активности и т. п.);
— случайная компонента, отражающая влияние не поддающихся учету и регистрации случайных факторов.
Первые три составляющие (компоненты) и , в отличие от , являются закономерными, неслучайными.
Важнейшей классической задачей при исследовании экономических временных рядов является выявление и статистическая оценка основной тенденции развития изучаемого процесса и отклонений от нее.
Основные этапы анализа временных рядов:
графическое представление и описание поведения временного ряда; выделение и удаление закономерных (неслучайных) составляющих временного ряда (тренда, сезонных и циклических сост авляющих);
сглаживание и фильтрация (удаление низко — или высокочастотных составляющих временного ряда);
исследование случайной составляющей временного ряда, построение и проверка адекватности математической модели для ее описания;
прогнозирование развития изучаемого процесса на основе имеющегося временного ряда;
исследование взаимосвязи между различными временными рядами. Наиболее распространенными методами анализа временных рядов являются корреляционный и спектральный анализ, модели авторегрессии и скользящей средней
Временной ряд рассматривается как одна из реализаций (траекторий) случайного процесса . Вместе с тем следует иметь в виду принципиальные отличия временного ряда от последовательности наблюдений образующих случайную выборку. Во-первых, в отличие от элементов случайной выборки члены временного ряда, как правило, не являются статистически независимыми. Во-вторых, члены временного ряда не являются одинаково распределенными. Выборка рассматривается как одна из реализаций случайной величины .
Стационарные временные ряды и их характеристики. Автокорреляционная функция
Важное значение в анализе временных рядов имеют стационарные временные ряды, вероятностные свойства которых не изменяются во времени.
Временной ряд называется строго стационарным (или стационарным в узком смысле), если совместное распределение вероятностей наблюдений такое же, как и наблюдений при любых и . Другими словами, свойства строю стационарных рядов не зависят от момента , т е закон распределения и его числовые характеристики не зависят от . Следовательно, математическое ожидание среднее квадратическое отклонение могут быть оценены по наблюдениям по формулам:
Степень тесноты связи между последовательностями наблюдений временного ряда
(сдвинутых относительно друг друга на единиц, или, как говорят, с лагом ) может быть определена с помощью коэффициента корреляции
Коэффициент измеряет корреляцию между членами одного и того же ряда, поэтому его называют коэффициентом автокорреляции, а зависимость — автокор реляционной функцией. В силу стационарности временного ряда автокорреляционная функция зависит только от лага , причем , т. е. при изучении можно ограничиться рассмотрением только положительных значений .
Статистической оценкой является выборочный коэффициент автокорреляции , определяемый по формуле:
Функция называется выборочной автокорреляционной функцией, а ее график — коррелограимой.
При расчете необходимо учитывать, что с увеличением число пар наблюдений уменьшается, поэтому лаг должен быть таким, чтобы число было достаточным для определения . Обычно принимается .
Для стационарного временного ряда с увеличением лага г взаимосвязь членов временного ряда и ослабевает , и автокорреляционная функция должна убывать по абсолютной величине, а для ее выборочного (эмпирического) аналога , особенно при небольшом числе пар наблюдений , свойство монотонного убывания (по абсолютной величине) при возрастании может нарушаться.
Наряду с автокорреляционной функцией при исследовании стационарных временных рядов рассматриваем частная автокорреляционная функция , где есть частный коэффициент корреляции между членами временного ряда и , т. е. коэффициент корреляции между и при устранении влияния промежуточных (между и ) членов.
Статистической оценкой является выборочная частная автокорреляционная функция , где — выборочный частный коэффициент корреляции Например, выборочный частный коэффициент автокорреляции 1-го порядка между членами временного, ряда и при устранении влияния может быть вычислен по формуле:
где — выборочные коэффициенты автокорреляции между соответственно.
Задача №3.1
По данным табл. 1 для временного ряда у, найти среднее чначение, среднее квадратическое отклонение, коэффициенты автокорреляции (для лагов г=1;2) и частный коэффициент автокорреляции I-го порядка.
Решение:
Среднее значение временного ряда находим по формуле (3.1):
Дисперсию и среднее квадратическое отклонение вычислим, воспользовавшись соотношением:
Найдем коэффициент автокорреляции временного ряда (для лага ), т. е. коэффициент корреляции между последовательностями семи пар наблюдений , представленных в табл. 3.2.
Сначала вычисляем необходимые суммы:
Затем подставим их в формулу:
при
получим:
Коэффициенты автокорреляции для лага между членами ряда и по шести парам наблюдений и между членами ряда и вычисляются аналогично:
Для определения частного коэффициента корреляции 1-го порядка между членами ряда и при исключении влияния найденные значения подставим в формулу:
Знание автокорреляционных функций и может оказать существенную помощь при подборе и идентификации модели анализируемого временного ряда и статистической оценке его параметров.
Аналитическое выравнивание (сглаживание) временного ряда
Одной из важнейших задач исследования экономического временного ряда является выявление основной тенденции изучаемого процесса, выраженной неслучайной составляющей (тренда либо тренда с циклической или (и) сезонной компонентой).
Для решения этой задачи вначале необходимо выбрать вид функции Часто используются следующие функции:
При выборе соответствующей функции используют содержательный анализ (который может установить характер динамики процесса), а также визуальные наблюдения (на основе графического изображения временного ряда). Из двух функций предпочтение обычно отдается той, при которой меньше сумма квадратов отклонений фактических данных от расчетных на основе этих функций. Следует заметить, что для любого ряда из точек можно подобрать полином (-1)-й степени, проходящий через все точки, и соответственно с минимальной ( нулевой ) суммой квадратов отклонений, однако в этом случае не следует говорить о выделении основной тенденции, учитывая случайный характер этих точек. Поэтому при прочих равных условиях предпочтение следует отдавать более простым функциям.
При использовании метола наименьших квадратов для выявления основной тенденции значения временного ряда рассматриваются как зависимая переменная, а время — как объясняющая:
где — возмущения, удовлетворяющие основным предпосылкам регрессионного анализа, т. е. представляющие независимые и одинаково распределенные случайные величины, распределение которых предполагаем нормальным.
Для линейной функции согласно методу наименьших квадратов параметры прямой находятся из системы нормальных уравнений
Задача №3.2.
По данным табл. 3.1 найти уравнение неслучайной составляющей (тренда) для временного ряда у, полагая тренд линейным.
Решение:
Вначале вычислим необходимые суммы:
Система нормальных уравнений имеет вид:
Решая эту систему, находим уравнение тренда:
Это значит, что спрос (см. рис 3.1) ежегодно увеличивается в среднем на 26,5 ед.
Уравнение регрессии с учётом зависимостей (1.7) — (1.10) и (3.7) можно представить в виде:
Проверим значимость полученного уравнения тренда по -критерию на 5%-ном уровне значимости. Вначале подставим в формулу (1.29) соотношения из (3.8) и вычислим:
а) сумму квадратов, обусловленную регрессией
б) общую сумму квадратов отклонений зависимой переменной от средней
в) остаточную сумму квадратов, характеризующую влияние неучтённых факторов
Затем найдем по формуле (1.30) при значение статистики:
По таблице значений критерия Фишера-Снсдекора определяем .
Так как , то условие неравенства (1.31) выполняется и уравнение тренда значимо.
Другим методом выравнивания (сглаживания) временного ряда является метод скользящих средних. Он основан на переходе от начальных значений членов ряда к их средним значениям на интервале времени, длина которого определена заранее. При что и сам выбранный интервал времени «скользит» вдоль ряда.
Получаемый таким образом ряд скользящих средних ведет себя более гладко, чем исходный ряд, из-за усреднения отклонений ряда.
Действительно, если разброс значений члена временного ряда , около своего среднего значения характеризуется дисперсией , то разброс-средней из членов временного ряда около того же значения а будет характеризоваться существенно меньшей величиной дисперсии, равной . Для усреднения могут быть использованы средняя арифметическая (простая и с некоторыми весами), медиана и др
Задача №3.3.
Провести сглаживание временного ряда по данным табл 3.1 методом скользящих средних, используя простую среднюю арифметическую с интервалом сглаживания года.
Решение:
Скользящие средние вычисляем по формуле:
При получим .
Для находим
Для находим
В результате получим сглаженный ряд, представленный в табл. 3.3.
На рис. 3.1 этот ряд изображен графически в виде пунктирной линии
Прогнозирование на основе моделей временных рядов
Одна из нажнейших задач (этапов) анализа временного (динамического) ряда состоит в прогнозировании на его основе развития изучаемого процесса. При этом исходят из того, что тенденция развития, установленная в прошлом, может быть распространена (экстраполирована) на будущий период.
Задача ставится так: имеется временной ряд и требуется дать прогноз уровня этого ряда на момент . Выше, в § 1.5, 2.2, 2.4, мы рассматривали точечный и интервальный прогноз значений зависимой переменной , т. е определение точечных и интервальных оценок , полученных для парной и множественной регрессий для значений объясняющих переменных , расположенных вне пределов обследованного диапазона значений .
Если рассматривать временной ряд как регрессионную модель изучаемого признака по переменной «время», то к нему могут быть применены рассмотренные выше методы анализа. Следует, однако, вспомнить, что одна из основных предпосылок регрессионного анализа состоит в том, что возмущения представляют собой независимые случайные величины с математическим ожиданием (средним значением), равным нулю. А при работе с временными рядами такое допущение оказывается во многих случаях неверным. В данной главе мы полагаем, что возмущения удовлетворяют предпосылкам регрессионного анализа, т. е. условиям нормальной классической регрессионной модели.
Задача №3.4.
По данным табл. 3.1 дать точечную и с надежностью 0,95 интервальную оценки прогноза среднего и индивидуального значений спроса на некоторый товар на момент (девятый год). (Полагаем, что тренд линейный, а возмущения удовлетворяют требованиям классической модели).
Решение:
Выше, в примере 3.2, получено уравнение регрессии т. е. ежегодно спрос на товар увеличивался в среднем на 26,5 ед. Надо оценить условное математическое ожидание .
Оценкой является групповая средняя
Найдем оценку дисперсии
Находим табличное значение . Подставив найденные значения в (1.23) определим интервальную оценку прогноза среднего значения спроса
или
Для нахождения интервальной оценки прогноза индивидуального значения по формуле (1.24) вычислим дисперсию его оценки:
Интервальная оценка для :
или
Итак, с надежностью 0,95 среднее значение спроса на товар на девятый год будет заключено от 345,9 до 468,9 (ед ), а ею индивидуальное значение -от 307,3 до 507,5 (ед ).
Как правило, прогноз развития изучаемого процесса на основе экстраполяции временных рядов оказывается эффективным, r рамка, краткосрочного или среднесрочного периода прогнозирования.
Автокорреляция остатков временного ряда
При моделировании реальных экономических процессов част возникают ситуации, в которых условия классической линейной модели регрессии оказываются нарушенными В частности, могут не выполняться предпосылки 3 и 4 регрессионного анализа (см. § 1.4) о том, что случайные возмущения (ошибки) модели имеют постоянную дисперсию и не коррелированны между собой. Так, например, при рассмотрении зависимости расходов на потребление от уровня доходов семей можно ожидать, что в более обеспеченных семьях вариация расходов выше, чем в малообеспеченных, т. е. дисперсии возмущений не одинаковы.
При анализе временных рядов мы часто сталкиваемся с ситуацией, когда наблюдаемые в данный момент значения зависимой переменной коррелированны с их значениями в предыдущие моменты времени, т. е. имеется корреляция между возмущениями в разные моменты времени.
Рассмотрим регрессионную модель временного (динамического) ряда. Упорядоченность наблюдений оказывается существенной в том случае, если прослеживается механизм влияния результатов предыдущих наблюдений на результаты последующих. Математически это выражается в том, что случайные величины в регрессионной модели не оказываются независимыми, в частности, условие не выполняется Такие модели называются моделями с наличием автокорреляции (сериальной корреляции). Рассмотрим в качестве примера /6 / временной ряд — ряд последовательных значений курса ценной бумаги , наблюдаемых в моменты времени 1,…. 100. Результаты наблюдений графически изображены на рис. 3.2. Из рисунка видно, что курс ценной бумаги имеет тенденцию к росту.
Оценивая методом наименьших квадратов зависимость курса от времени (номера наблюдений), получим следующие результаты:
Естественно предположить, что результаты предыдущих торгов оказывают влияние на результаты последующих: если в какой-то момент курс окажется завышенным по сравнению с реальным, то скорее всего он будет завышен на следующих торгах, т. е. имеет место положительная автокорреляция. Графически (см. рис 3.2) положительная автокорреляция выражается в чередовании тех зон, где наблюдаемые значения оказываются выше объясненных (лежащих на прямой ), с зонами, где наблюдаемые значения ниже.
Отрицательная автокорреляция встречается в тех случаях, когда завышенные значения в предыдущих наблюдениях приводят к занижению их в наблюдениях последующих (наблюдения действуют друг на друга по принципу «маятника»). Графически это выражается в том, что результаты наблюдений и оказываются по разные стороны относительно прямой .
Метод наименьших квадратов при наличии коррелированности ошибок регрессии даст несмещенные и состоятельные (разумеется, неэффективные) оценки коэффициентов регрессии, однако, оценки их дисперсий несостоятельные и смешенные (как правило, в сторону занижения), т. е. результаты тестирования гипотез оказываются недостоверными.
Как правило, если автокорреляция присутствует, то наибольшее влияние на последующее наблюдение оказывает результат предыдущего наблюдения Так, например, если рассматривается ряд значений курса какой-либо ценной бумаги, то, очевидно, именно результат последних торгов служит основой для формирования курса на следующих торгах. Ситуация, когда на значение наблюдения у, оказывает основное влияние не результат , а более ранние значения, является достаточно редкой Чаще всего при этом влияние носит циклический характер, например, если наблюдения осуществляются ежедневно и имеют недельный цикл (например, сбор кинотеатра). В этом случае можно составить ряды наблюдений отдельно по субботам, воскресеньям и так далее, после чего наиболее сильная корреляция будет наблюдаться между соседними членами.
Таким образом, отсутствие корреляции между соседними членами позволяет считать, что корреляция отсутствует в целом, и обычный метод наименьших квадратов дает адекватные и эффективные результаты.
Наличие автокорреляции между соседними членами можно определить с помощью теста Дарбина- Уотсона. Этот критерий (тест) Дарбина- Уотсона основан на простой идее: если корреляция ошибок регрессии не равна нулю, то она присутствует и в остатках регрессии получающихся в результате применения обычного метода наименьших квадратов. В тесте Дарбина -Уотсона для оценки корреляции используется статистика вида
В случае отсутствия автокорреляции выборочный коэффициент будет близким к нулю, а значение статистики — близко к двум, близость наблюдаемого значения к нулю должна означать наличие положительной автокорреляции, к четырем — отрицательной..
Тест Дарбина-Уотсона имеет один существенный недостаток -распределение статистики зависит не только от числа наблюдений, но и от значений регрессоров Это означает, что тест Дарбина -Уотсона, вообще говоря, не представляет собой статистический критерий, в том смысле, что нельзя указать критическую область, которая позволяла бы отвергнуть гипотезу об отсутствии корреляции, если бы оказалось, что в эту область попало наблюдаемое значение статистики .
Однако существуют два пороговых значения и зависящие только от числа наблюдений, числа регрессоров и уровня значимости, такие, что выполняются следующие условия.
Если фактически наблюдаемое значение :
а) то гипотеза об отсутствии автокорреляции не отвергается (принимается);
б) , то вопрос об отвержении или принятии гипотезы остается открытым (область неопределенности критерия);
в) , то принимается альтернативная гипотеза о положительной автокорреляции;
г) , то принимается альтернативная гипотеза об отрицательной автокорреляции
Графическая иллюстрация теста Дарбина-Уотсона приведена на рис. 3.3:
Для -статистики найдены верхняя и нижняя границы на уровнях значимости
Недостатками критерия Дарбина -Уотсона является наличие области неопределенности критерия и то, что критические значения -статистики определены для объемов выборки не менее 15. Тем не менее, тест Дарбина -Уотсона является наиболее употребляемым.
Задача №3.5.
Выявить на уровне значимости 0,05 наличие втокорреляции возмущений для временного ряда_у, по данным табл. 3.1.
Решение:
В примере 3.2 получено уравнение тренда
В табл. 3.4 приведен расчет данных, необходимых для вычисления ^-статистики.
Находим суммы
подставляем в формулу (3.9) и вычисляем значение статистики
По таблице значений критерия Дарбина — Уотсона при определим критические значения: . Фактически найденное находится в пределах от до . При критических значений -статистики в таблице нет, но судя по тенденции их изменений с уменьшением , можно предполагать, что найденное значение останется в игтервале .
Для рассматриваемого временного ряда спроса на уровне значимости 0,05 гипотеза об отсутствии автокорреляции возмущений принимается.
Готовые задачи по эконометрике
Эконометрика – это самостоятельная научная дисциплина, объединяющая совокупность теоретических результатов, приемов, методов и моделей, предназначенных для того, чтобы на базе экономической теории, экономической статистики и экономических измерений, математико-статистического инструментария придавать конкретное количественное выражение общим (качественным) закономерностям, обусловленным экономической теорией.
Эконометрика – одна из базовых дисциплин экономического образования во всем мире.
Эконометрические модели парной регрессии
Эконометрика является одной из важнейших составляющих современного экономического образования. Применение эконометрических методов является необходимым условием проведения качественных экономических исследований.
Современную эконометрику можно разделить на два направления: теоретическую и прикладную.
Теоретическая эконометрика занимается изучением специальных вероятностных (т.н. регрессионных) моделей, используя при этом аппарат теории вероятностей и математической статистики.
В основе прикладной эконометрики лежит применение вероятностных моделей для количественного описания и анализа экономических явлений и процессов.
Между этими направления существует глубокая двусторонняя взаимосвязь. Основные результаты теоретической эконометрики в виде статистических тестов и новых классов вероятностных моделей находят свое применение при решении прикладных задач. С другой стороны, в прикладной эконометрике в процессе исследования экономических явлений возникают ситуации или наблюдаются эффекты, которые не описываются существующими моделями. Это является предпосылкой для дальнейшего развития теоретического аппарата.
Термин «эконометрика» дословно читается как «измерения в экономике». Однако не каждое измерение в экономике относится к эконометрике, поэтому дадим точное определение.
Эконометрика (или эконометрия) изучает методы оценивания параметров моделей, характеризующих количественную взаимосвязь между экономическими показателями, а также рассматривает основные направления применения этих моделей в экономических исследованиях.
Предметом изучения эконометрики являются социально-экономические системы, процессы или явления, описываемые моделями. Методы исследования — математические методы, базирующиеся на теории вероятностей и математической статистике (далее ТВиМС), и других разделах математики. Структурно эконометрические исследования приведены на рис. 1.1.
Построение эконометрической модели условно делят на четыре этапа:
- спецификация модели, т.е. её запись в математической форме;
- сбор и подготовка экономической информации;
- оценивание параметров модели;
- проверка модели на достоверность.
Этапы 1) и 2) взаимозаменяемы. Полученную модель применяют для прогнозирования, планирования и с другими целями.
Термин «эконометрика» был введен в научный оборот в начале 20-го века. В 1928 г. была опубликована работа Ч. Кобба и П. Дугласа, посвященная исследованию производственной функции, связывающей объём выпуска продукции в отрасли, затраты труда и затраты капитала. Модель производственной функции Кобба-Дугласа является, пожалуй, первым примером использования эконометрики и отражает классический подход к эконометрическому анализу.
Окончательное становление эконометрики относят к 1930 году, когда европейскими и американскими учёными было основано «Эконометриче-ское сообщество». С 1933 г. выходит журнал «Эконометрия», издающийся этим сообществом.
Основателями эконометрии считаются Р. Фриш, Я. Тинберген, И. Шумпетер, Л. Клейн, Р. Стоун и другие учёные. Их целью было объединение экономической теории с математическими и статистическими методами. Модели, предложенные этими учеными, способствовали развитию математического и статистического аппарата и расширению области применения эконометрики.
После Второй мировой войны были построены комплексные эконо-метрические модели на макроуровне, в которых основное внимание уделялось спросу, финансовому состоянию, налогам, прибылям, ценам и другим важнейшим экономическим показателям.
Наиболее используемыми в эконометрии являются: производственные функции; функции потребления различных групп населения; функции предпочтения потребителей; межотраслевые модели производства, распределения и потребления продукции; модели экономического равновесия.
Помимо экономических исследований, эконометрические методы успешно применяются в биологии, истории, социологии и некоторых других общественных и естественных науках, где необходимо оценивать взаимосвязи между большим количеством переменных.
Важность данной науки подчеркивает тот факт, что за эконометрические исследования многократно присуждалась Нобелевская премия в области экономики.
В настоящее время эконометрия продолжает динамично развиваться и охватывает всё новые сферы экономических знаний.
Особенности эконометрических моделей
Математическая модель социально-экономической системы, процесса или явления представляет собой абстрактную запись основных его закономерностей с помощью математических формул и соотношений. Эконометрические модели относятся к функциональным стохастическим моделям. Они количественно описывают корреляционно-регрессионную связь между исследуемыми показателями.
Эконометрическая модель содержит три группы элементов: вектор — неизвестные характеристики объекта, которые необходимо определить; вектор — характеристики внешних по отношению к объекту условий, которые, изменяясь, влияют на изучаемые параметры; матрица — совокупность внутренних параметров объекта.
В данном случае и являются экзогенными параметрами (т.е., параметрами, которые определяются вне модели), a — эндогенный параметр, значения которого определяются из модели.
В общем виде эконометрическую модель можно записать в виде:
Здесь — входные экономические показатели, — случайная (стохастическая) составляющая, которые посредством функции регрессии влияют на .
Для построения эконометрической модели необходимо выполнение следующих условий:
наличие достаточно большой совокупности наблюдений;
- однородность совокупности наблюдений;
- точность входных данных.
В отношении оценивания степени однородности совокупности наблюдений существует много различных подходов. Впрочем, все исследователи согласны с тем, что экономические наблюдения, как правило, неоднородны. Поэтому речь может идти лишь о достижении определенной степени однородности, которая обеспечит достоверность экономических выводов.
Различают качественную и количественную однородность. Под первой подразумевается однотипность экономических объектов, их одинаковое качество и определенное назначение. Под второй — однородность группы единиц совокупности, которая определяется на основе количественных показателей.
В математической статистике есть ряд критериев, которые позволяют сделать вывод, являются ли рассматриваемые случайные выборки однородными и можно ли их объединять в одну совокупность для проведения эконометрических исследований.
Точность выходных данных существенно влияет на выводы, которые могут быть сделаны на основе эконометрического моделирования. Погрешности могут возникать при формировании алгоритма расчёта показателей, при округлении, повторном учёте тех или иных показателей и др. Все ошибки делят на систематические, т.е. такие, которые имеют постоянную величину, либо изменяются, подчиняясь определенной функциональной зависимости, и случайные, которые обусловлены влиянием случайных факторов при формировании показателей.
При формировании совокупности наблюдений необходимо обращать внимание и на наличие ошибок во входных данных. Если нет возможности избежать этих ошибок, то необходимо применять специальные методы оценивания параметров эконометрической модели.
Наиболее часто используемым методом для количественной оценки взаимосвязей в эконометрии является корреляционно-регрессионный анализ. Суть метода заключается в определении оценок количественного влияния показателей на исследуемую величину и построении на этой основе строгой зависимости между ними, которая в общем виде записывается в виде некоторой функции:
где — исследуемая величина, — показатели, влияющие на исследуемую величину.
Чаще всего с этой целью используется линейная функция. Однако возможны и другие формы зависимостей: экспоненциальная, степенная, гиперболическая и другие.
Каждая из рассматриваемых функций может быть сведена к линейной с помощью алгебраических преобразований или путем замены. По этой причине именно исследованию линейной зависимости уделяется значительное внимание.
В реальной ситуации наблюдаемые величины отклоняются от данной функциональной формы связи, поэтому в регрессионную модель включается стохастическая составляющая , которую еще называют отклонением или остатком.
В классической линейной эконометрической модели переменная s интерпретируется как случайная переменная, которая имеет нормальный закон распределения с математическим ожиданием, равным нулю, и постоянной дисперсией.
Парная регрессия. Однофакторные линейные эконометрические модели
Простейшими эконометрическими моделями являются модели парной регрессии. Парная регрессия представляет собой зависимость между двумя переменными — и , т.е. модель вида:
Здесь — зависимая переменная (результативный признак); -независимая, или объясняющая, переменная (признак-фактор). Знак означает, что между переменными и нет строгой функциональной зависимости, поэтому величина у складывается из двух составляющих:
Таким образом, — фактическое значение результативного признака; — теоретическое значение результативного признака, найденное по уравнению регрессии; — случайная величина, характеризующая отклонения между и . Случайная величина s включает влияние не учтённых в модели факторов, случайных ошибок и особенностей измерения.
В парной регрессии выбор вида математической функции (спецификация) может быть осуществлён тремя способами:
1) графическим;
2) аналитическим, т.е. исходя из теории изучаемой взаимосвязи;
3) экспериментальным.
Чаще всего эти способы применяют комплексно.
Графический способ основан на внешнем виде корреляционного поля. Напомним, что корреляционным полем называют множество точек в декартовой системе координат. Здесь — номер наблюдения, — количество наблюдений (объём статистической выборки).
Если точки корреляционного поля выстраиваются как бы вдоль гипотетической прямой, то в качестве модели парной регрессии следует брать линейную модель:
В противном случае нужно выбирать нелинейную модель.
Аналитический способ выбора типа уравнения регрессии основан на изучении материальной природы связи исследуемых признаков. Здесь важную роль играет опыт экономиста, который знаком с наработанными схемами зависимостей между социально-экономическими показателями.
При использовании экспериментального способа сравнивают величины остаточной дисперсии, рассчитанной для разных моделей:
Чем меньше величина остаточной дисперсии , тем меньше влияние не учтённых в уравнении регрессии факторов и тем лучше уравнение регрессии подходит к исходным данным.
В эконометрическом моделировании следует придерживаться принципа — чем сложнее модель, тем большее количество наблюдений требуется для её построения.
Сложность модели можно определить показателем — количеством неизвестных параметров, которые являются множителями при переменной или при функциях от переменной .
Например, для следующих моделей:
Соответственно для моделей:
При построении эконометрической модели необходимо придерживаться статистического правила:
Таким образом, если , то . Следовательно, модель можно строить, имея не менее семи наблюдений. При соответственно имеем .
Простейшими эконометрическими моделями являются однофакторные линейные модели парной регрессии. В этом случае предполагается, что между двумя исследуемыми показателями существует линейная корреляционная зависимость. В общем виде однофакторная линейная эконометрическая модель имеет вид:
где — зависимая переменная, — независимая переменная, -оцениваемые параметры, — отклонение линии регрессии от фактических наблюдений.
Чтобы найти уравнение регрессии, необходимо найти неизвестные параметры и . Их оценка осуществляется на основании статистических данных (совокупности наблюдений).
При нахождении оценок параметров уравнения регрессии возникает вопрос, каким критерием следует воспользоваться, чтобы найденная прямая наиболее точно отражала зависимость между показателями. В любом случае расчетные значения зависимой переменной, найденные с помощью уравнения регрессии, будут отклоняться истинных наблюдений.
В качестве критерия можно было бы рассматривать сумму этих отклонений. Однако, поскольку одни имеют разные знаки, то при суммировании будут взаимно «погашаться». Чтобы избежать этого, в качестве критерия предлагается рассматривать сумму квадратов этих отклонений. Этот принцип и лежит в основе метода наименьших квадратов (МНК).
Постановка задачи следующая. Уравнение регрессии будем искать в виде:
где — оценки величин и . Необходимо подобрать такие значения , которые минимизируют сумму квадратов отклонении расчетного значения от наблюдаемого , т.е. .
Заметим, что применение МНК возможно при выполнении следующих условий:
- Математическое ожидание остатков (ошибок) равно нулю.
- Случайные величины имеют одинаковую дисперсию.
- Остатки распределены по нормальному закону с математическим ожиданием, равным нулю и постоянной дисперсией.
Рассмотрим сумму квадратов отклонений как функцию двух переменных :
Для того чтобы найти минимум этой функции, вычислим ее частные производные первого порядка по переменным и приравняем их к нулю:
После преобразований получаем систему нормальных уравнений:
Решаем её относительно и , и получаем формулы, для вычисления параметров уравнения регрессии:
Отметим следующее свойство оценок МНК: линия регрессии всегда проходит через среднюю точку то есть: . С учётом этого оценку параметра можно найти, воспользовавшись соотношением:
Преобразовав формулу, имеем:
Умножив числитель и знаменатель на , получаем ещё одну формулу оценки коэффициента регрессии:
Рассмотрим экономический смысл этого коэффициента. Если в уравнении регрессии в качестве аргумента взять , то получим:
Таким образом, коэффициент регрессии в линейной модели показывает, на сколько единиц в среднем изменится зависимая переменная, если независимую переменную увеличить на единицу при прочих неизменных условиях. Значению свободного члена объяснений не дают.
Задача №1.1.
В таблице 1.1 приведены данные за восемь лет об объёме прямых иностранных инвестициях (далее ПИИ) в экономику страны и объёме валового внутреннего продукта (далее ВВП).
Необходимо найти уравнение линейной регрессии, отражающее зависимость ВВП от ПИИ.
Решение:
Введём в MS Excel данные. С помощью «Мастера диаграмм» построим точечную диаграмму — корреляционное поле (рис. 1.2).
Для упрощения расчётов составим таблицу 1.2.
Найдём оценки параметров уравнения регрессии, используя формулы:
Уравнение регрессии имеет вид:
Коэффициент регрессии показывает, что при увеличении ПИИ на 1 млрд. долларов, ВВП увеличится в среднем на 23,5982 млрд. долл.
Проверка адекватности однофакторной линейной эконометрической модели, значимости её параметров и построение прогнозов
Следующий этап эконометрического моделирования заключается в оценке качества полученного уравнения и его параметров.
Для оценки тесноты и направления связи между двумя показателями используется коэффициент парной корреляции. Его можно вычислить по формуле:
где — ковариация, а — дисперсия и соответственно.
Для вычисления коэффициента парной корреляции можно также использовать преобразованную формулу:
В отличие от коэффициента регрессии, коэффициент корреляции является показателем относительной меры связи между двумя показателями. Значения коэффициента корреляции всегда находятся в пределах:
Положительное значение коэффициента свидетельствует о прямой связи, т.е. с увеличением независимой переменной , увеличивается в среднем и значение . Если коэффициент корреляции отрицательный, то связь обратная.
Если модуль коэффициента парной корреляции близок к 1 , то линейная связь между показателями тесная. Если же коэффициент близок к 0 , то связь практически отсутствует.
Если , то между случайными величинами и существует линейная функциональная зависимость. Коэффициент корреляции равен нулю, когда случайные величины и независимы
В случае, когда и , то между случайными величинами и существует корреляционная зависимость. Причём, чем ближе значение коэффициента по модулю к единице, тем теснее линейная связь между показателями.
Таким образом, коэффициент парной корреляции характеризует тесноту и направление линейной связи между показателями. Следует отметить, что знак коэффициента корреляции всегда совпадает со знаком коэффициента регрессии.
Связь между коэффициентом парной корреляции и коэффициентом регрессии выражается следующей формулой:
Ещё одним показателем адекватности линейной модели является коэффициент детерминации . Он определяется по формуле:
где — общая дисперсия, а — дисперсия, объясняемая регрессией.
Эти показатели вычисляются по формулам:
Таким образом, коэффициент детерминации — это часть дисперсии, которая объясняет регрессию. Величина коэффициента детерминации изменяется в пределах от нуля до единицы:
Если значение близко к единице, то модель адекватна, если близко к нулю, то неадекватна.
Кроме того, коэффициент детерминации показывают, какая часть вариации (изменения) зависимой переменной объясняется вариацией независимой переменной . Для определения доли вариации за счет неучтенных в модели факторов рассчитывается т.н. коэффициент остаточной детерминации:
Рассмотренные выше коэффициенты парной корреляции и детерминации, как показатели адекватности модели, имеют между собой связь, которая выражается формулой:
т.е. коэффициент детерминации равен квадрату коэффициента корреляции.
Осуществляется также проверка значимости коэффициента корреляции, которая подразумевает проверку статистической гипотезы против альтернативной гипотезы , т.е. проверяется гипотеза, заключающаяся в том, что случайные величины и не коррелируют друг с другом.
Для проверки гипотезы рассчитывается -статистика Стьюдента:
где — число степеней свободы.
Для заданного уровня значимости (допустимой вероятности ошибки) и числа степеней свободы находится табличное значение критерия. Если , то гипотеза об отсутствии корреляционной связи между переменными отвергается, в противном случае — принимает.
Для проверки значимости параметров уравнения парной регрессии и также используется -статистика Стьюдента. Расчётные значения критерия можно найти по формулам:
В знаменателях этих дробей стоят случайные ошибки параметров эконометрической модели:
где — несмещенная оценка дисперсии остатков.
Найденные расчётные значения берут по модулю и сравнивают с табличным , которое определено по уровню значимости и числу степеней свободы . Если модуль расчётного значения больше табличного, то соответствующий параметр является значимым. В противном случае он не значим.
Замечание 1.1. Требование значимости коэффициента регрессии является обязательным. Свободный член носит вспомогательный характер. Его незначимость по критерию Стьюдента не является критичным для эконометрической модели.
Для проверки адекватности эконометрической модели используют -критерий Фишера. Расчётное значение критерия находится по формуле:
Данное число сравнивается с табличным значением распределения Фишера, найденного по заданному уровню значимости и числам степеней свободы . Если расчётное значение -критерия превышает табличное, то нулевая гипотеза о равенстве нулю коэффициента регрессии отвергается, и модель признаётся адекватной. В противном случае — гипотеза принимается.
Возможно эта страница вам будет полезна:
Задача №1.2.
По данным примера 1.1 найти значение коэффициентов парной корреляции и детерминации. Проверить значимость коэффициента корреляции, параметров регрессии и значимость модели в целом при уровне значимости = 0,05.
Согласно таблице 1.1, объём ПИИ в последнем временном периоде составлял млрд. долл. Предполагается, что прогнозное значение ПИИ в следующем году составит 120% от , т.е. млрд. долл. Требуется построить точечный и интервальный прогнозы для объёма ВВП на следующий год.
Решение:
Рассчитаем линейный коэффициент корреляции:
Близость коэффициента корреляции к единице указывает на тесную линейную связь между признаками. Коэффициент детерминации
показывает, что уравнением регрессии объясняется 98,41% дисперсии результативного признака, а на долю прочих факторов приходится 1,59%.
Проверим значимость коэффициента парной корреляции по критерию Стьюдента. Расчётное значение критерия равно:
По уровню значимости и количеству степеней свободы определим табличное значение критерия .
Расчётное значение, взятое по модулю, больше табличного. Следовательно, коэффициент корреляции является значимым с надёжностью не менее 95% .
Для оценки статистической значимости параметров регрессии рассчитаем -критерий Стьюдента. Вычислим случайные ошибки параметров и фактические значения -статистик:
Табличное значение -критерия Стьюдента при и числе степеней свободы определено выше и составляет .
Модули обоих расчётных значения больше табличного, поэтому признаём статистическую значимость параметров регрессии с надёжностью не менее 95%.
Оценим качество уравнения регрессии в целом с помощью -критерия Фишера. Рассчитаем фактическое значение -критерия:
Количество степеней свободы для критерия Фишера , . При уровне значимости табличное значение критерия равно:
Так как , то найденная эконометрическая модель является статистически значимой с надёжностью не менее 95%.
Для вычисления точечного прогноза объёма ВВП достаточно в уравнение регрессии подставить предполагаемый объём ПИИ, т.е. 30,72 млрд. долл. Точечный прогноз для ВВП будет следующим:
Ошибка прогноза составляет:
Интервальный прогноз для оценивают по формуле .
Поэтому доверительный интервал будет следующим:
Замечание 1.2. Эконометрическую модель можно считать достоверной, если построенные с помощью неё прогнозы отклоняются от фактических данных не более, чем на 10%. Модель из Задача 1.1 была построена по статистическим данным 2007-2014 гг. Фактические данные за 2015 г. составили млрд. долл. и млрд. долл. Подставив в найденное уравнение регрессии , мы оценим теоретическое (прогнозное) значение у, т.е.
Абсолютное отклонение составит:
Относительное отклонение:
Так как , то построенную модель парной регрессии можно считать адекватной и пригодной для краткосрочных прогнозов.
Оценивание параметров в однофакторных нелинейных эконометрических моделях
Необходимость построения нелинейных моделей парной регрессии приводит к некоторому усложнению преобразований данных и вычислений. Однако при современном развитии информационных технологий эти трудности вполне преодолимы.
Задача №1.3.
В таблице 1.3 приведены данные по десяти однотипным заводам, специализирующихся на ремонте шахтного оборудования в Донецком регионе. Годовой объём выпуска продукции (млн. руб.) зависит от фонда оплаты труда (млн. руб.).
Требуется:
1) средствами MS Excel построить нелинейные уравнения парной регрессии от ;
2) выбрать лучшую модель.
Решение:
Принято различать два класса уравнений нелинейных регрессий. Первый из них включает нелинейные уравнения относительно объясняющих переменных, но линейные по оцениваемым параметрам.
К ним, например, относятся: многочлены (полиномы) различных степеней
и т.д.; равносторонняя гипербола
полулогарифмическая функция
Регрессии первого класса приводятся к линейному виду заменой переменных. Дальнейшая оценка параметров производится с помощью МНК.
Например, парабола второй степени
приводится к линейному виду с помощью замены:
В результате приходим к двухфакторному уравнению
оценка параметров которого осуществляется при помощи МНК.
Равносторонняя гипербола
может быть использована для характеристики связи удельных расходов сырья, материалов, топлива от объёма выпускаемой продукции, времени обращения товаров от величины товарооборота, процента прироста заработной платы от уровня безработицы (кривая Филипса), расходов на непродовольственные товары от доходов или общей суммы расходов (кривые Энгеля) и в других случаях. Гипербола приводится к линейному уравнению заменой: . Аналогичным образом приводятся к линейному виду зависимости , и др.
Второй класс нелинейных уравнений — регрессии, нелинейные по оцениваемым параметрам. К ним, например, относятся: степенная ; показательная ; экспоненциальная . Эти модели приводятся к линейному виду логарифмированием и заменой переменных.
Покажем, как это делается на примере степенной функции :
где
Таким образом, мы применяем МНК к преобразованным данным, а затем потенцированием (обратная замена) находим искомое уравнение.
Широкое использование степенной функции связано с тем, что параметр в ней имеет чёткое экономическое истолкование — он является коэффициентом эластичности.
Такие задачи удобно решать в MS Excel. Для этого нужно выполнить следующую последовательность действий:
• ввести экспериментальные данные в столбцы (или построчно);
• на основании введённых данных построить точечную диаграмму;
• активизировать данные диаграммы, щелкнув по точкам левой кнопкой «мыши»;
• в пункте меню «Диаграмма» выбрать опцию «Добавить линию тренда…»;
• в пункте меню «Тип» выбрать «Полиномиальная (степень 2-я)» или «Логарифмическая», или «Степенная», или «Экспоненциальная»;
• в пункте «Параметры» — «Показывать уравнение на диаграмме» и «Поместить на диаграмму величину достоверности аппроксимации (R1)».
Для величины достоверности аппроксимации выполняется неравенство: . Формула расчёта (см. справку MS Excel) содержит сумму квадратов отклонений. Чем ближе к единице, тем лучше модель описывает фактические данные.
На рис. 1.3-1.6 поместим корреляционное поле, соответствующую линию регрессии, уравнение регрессии и величину достоверности аппроксимации .
Наибольшую величину достоверности аппроксимации имеет полиномиальная модель второй степени (рис. 1.4). Поэтому, на первый взгляд, эту модель можно признать лучшей.
Однако ранее было приведено статистическое правило:
Полиномиальная модель второй степени
имеет два неизвестных параметра и , которые являются множителями при переменной или при функциях от переменной . Поэтому и должно выполняться условие .
Т.к. в Задаче 1.3 имеем , то признать данную модель лучшей было бы некорректно. Отвергаем полиномиальную модель второй степени и рассматриваем остальные.
Среди оставшихся моделей наибольшую величину достоверности аппроксимации имеет экспоненциальная модель (рис. 1.6):
Введём замену и запишем модель в виде, который используется в MS Excel:
Логарифмируя обе части уравнения, получим
Следовательно, экспоненциальная модель имеет один неизвестный параметр , который является множителем при переменной . Поэтому и условие выполняется,т.к. .
Значит, лучшей моделью является экспоненциальная модель (рис. 1.6),
Задача 1.3 выполнена.
Заканчивая эту главу, заметим, что, эконометрические модели парной регрессии описаны во многих учебниках и учебных пособиях. Несмотря на свою простоту, эти модели весьма востребованы в практических задачах экономики.
Множественная регрессия в эконометрических задачах. Производственная функция Кобба-Ду гласа в эконометрическом моделировании
Американский экономист Пол Дуглас в 30-е годы XX в. наблюдал за данными перерабатывающей промышленности США на протяжении двадцати лет и заметил зависимость между экономическими показателями. Он не сумел определить функцию, описывающую эту зависимость, и обратился в 1927 г. к математику Чарльзу Коббу, который предложил следующую функцию:
где — объём выпущенной продукции; — затраты труда; — затраты производственных фондов; и — неизвестные параметры модели, определяемые с помощью МНК на основе эмпирических данных.
Так появилась производственная функция Кобба-Дугласа, принадлежащая к наиболее известным производственным функциям, широко применяемым в экономических исследованиях.
С точки зрения эконометрии эта функция — не что иное, как двух-факторная нелинейная регрессионная модель. С точки зрения математики — мультипликативная степенная функция.
Для определения неизвестных параметров этой модели прологарифмируем левую и правую части функции:
Введём замены
и получим линейную модель
С помощью МНК будем искать параметры и Система нормальных уравнений имеет вид:
Продемонстрируем на конкретных данных этапы построения производственной функции Кобба-Дугласа.
Задача №2.1.
Финансово-промышленная группа «Росслад» владеет шестнадцатью заводами по производству сахара. Имеются данные (табл. 9.3) прошлого года о выпуске продукции у (млн. руб.), затратах труда (млн. руб.) и затратах производственных фондов (ПФ) (млн. руб.).
Требуется:
A) Построить производственную функцию Кобба-Дугласа. Б) Рассчитать характеристики:
1) среднюю производительность труда;
2) среднюю фондоотдачу;
3) предельную производительность труда;
4) предельную фондоотдачу;
5) эластичность выпуска продукции по затратам труда;
6) эластичность выпуска продукции по ПФ;
7) потребность в ресурсах труда;
потребность в ПФ;
9) фондовооружённость труда;
10) предельную норму замещения затрат труда производственными фондами;
11) эластичность замещения ресурсов.
B) Найти прогноз выпуска для заданных значений . руб. и . руб.
Решение:
А) Составим расчётную таблицу 2.2.
Для наших данных система нормальных уравнений будет следующей:
Введём в рассмотрение матрицы
Запишем систему в матричном виде
Согласно методу обратной матрицы
Обратную матрицу находим с помощью Microsoft Excel. Напомним, что операции с матрицами желательно завершать нажатием клавиши «F2» и «Ctrl+Shift+Enter». Итак, имеем:
Так как
Значения неизвестных параметров:
Производственная функция Кобба-Дугласа имеет вид:
Б) Рассчитаем основные характеристики производственной функции: 1) средняя производительность труда равна:
Следовательно, с увеличением затрат труда (при неизменных затратах ПФ ) средняя производительность труда снижается. И, наоборот, увеличение затрат ПФ (при неизменных затратах труда) ведёт к росту средней производительности труда;
2) средняя фондоотдача равна:
Таким образом, с увеличением затрат ПФ (при неизменных затратах труда) средняя фондоотдача снижается. Увеличение же затрат труда (при неизменных затратах ПФ) ведёт к росту средней фондоотдачи; 3) предельная производительность труда:
Следовательно, с увеличением затрат труда (при неизменных затратах ПФ) предельная производительность труда снижается. Наоборот, увеличение затрат ПФ (при неизменных затратах труда) ведёт к росту предельной производительности труда;
4) предельная фондоотдача:
Таким образом, с увеличением затрат ПФ (при неизменных затратах труда) предельная фондоотдача снижается. Увеличение же затрат труда (при неизменных затратах ПФ) ведёт к росту предельной фондоотдачи; 5) эластичность выпуска продукции по затратам труда:
Данный показатель указывает на то, что при увеличении затрат труда на 1% выпуск продукции у предельно увеличивается на 0,2743%; 6) эластичность выпуска продукции по ПФ:
При увеличении ПФ на 1% выпуск продукции может предельно увеличиться на 0,6892%;
7) производственная функция позволяет рассчитать потребность в одном из ресурсов при заданном объеме выпуска продукции и заданной величине другого ресурса.
Потребность в ресурсах труда:
потребность в ПФ:
9) производственная функция позволяет исследовать вопросы соотношения, замещения, взаимодействия ресурсов. В частности, определяется важный экономический показатель — фондовооружённость труда:
10) взаимодействующие в рамках производственной функции ресурсы могут замещать друг друга. Предельная норма замещения затрат труда производственными фондами равна:
Предельная норма замещения зависит не только от параметров и производственной функции Кобба-Дугласа, но и от соотношения объёмов ресурсов. Знак «минус» означает, что при фиксированном объёме выпуска продукции необходимо при уменьшении одного ресурса увеличивать другой.
11) влияние соотношения объемов ресурсов на предельную норму замещения находит свое выражение в эластичности замещения ресурсов. Этот показатель определяется как отношение относительных приращений фондовооружённости труда и предельной нормы замещения ресурсов:
Эластичность замещения ресурсов для производственной функции Кобба-Дугласа всегда равна единице. Т.е. изменению фондовооружённости труда на 1% соответствует изменение предельной нормы замещения также на 1%.
В) Найдём точечный прогноз выпуска продукции для заданных значений
Задача 2.1 решена полностью.
Многофакторные линейные эконометрические модели
Ввиду чёткой интерпретации результатов наиболее широко в множественной регрессии используется линейная функция.
Рассмотрим многофакторную линейную эконометрическую модель:
Ей соответствует линейное уравнение множественной регрессии
Параметры, являющиеся множителями при независимых переменных, называются коэффициентами «чистой» регрессии. Они характеризуют среднее изменение результата с изменением соответствующего фактора на единицу при неизмененном значении других факторов.
Классический подход к оцениванию параметров линейной модели множественной регрессии основан на МНК:
Задача №2.2.
Открытое акционерное общество «РосСельхозХолдинг» более десяти лет производит пшеницу в своих тридцати агроцехах, расположенных в разных областях Российской Федерации. Имеются данные прошлого года (табл. 9.5) о прибыли предприятия (млн. руб.), среднегодовом
удельном весе сельскохозяйственных рабочих в составе агроцеха , среднегодовой численности персонала (тыс. чел.), среднесуточном времени простоя техники в рабочее время (часы), среднемесячных выплатах за вредность труда на одного работника (руб.), среднегодовой текучести кадров (%).
Предполагая, что между переменной и независимыми переменными существует линейная зависимость, требуется:
- Найти линейное уравнение множественной регрессии;
- С помощью алгоритма пошаговой регрессии построить эконометрическую модель с максимальным числом значимых коэффициентов при уровне значимости 0,05.
- Построить точечный и интервальный прогнозы для при допущении, что средние показатели по независимым переменным будут превышены на 5%.
Решение:
В Microsoft Excel имеется пункт меню «Сервис», который содержит надстройку «Анализ данных». В нём выбираем инструмент анализа «Регрессия». Вводим входной интервал для у и входной интервал для . Т.к. в условии задан уровень значимости , то выбираем уровень надёжности 95% . В параметрах вывода отмечаем «Новый рабочий лист» и жмём «ОК». Результаты вычислений, округлённые до четвёртого знака приведены на рис. 2.1.
- Столбец «Коэффициенты» (рис. 2.1) содержит найденные параметры уравнения регрессии. Т.о. линейная пятифакторная регрессионная модель имеет вид:
По коэффициентам регрессии можно давать объяснения. Например, если текучесть кадров увеличится на 1%, то прибыль предприятия снизится в среднем на 0,1714 млн. руб. При этом значения переменных должны оставаться неизменными. Значение свободного члена не объясняют.
- Прокомментируем данные отчета на рис. 9.8.
Множественный коэффициент корреляции характеризует тесноту линейной связи рассматриваемого набора факторов с исследуемым признаком . Границы изменения коэффициента множественной корреляции от 0 до 1. Чем ближе его значение к 1 (в нашем примере ), тем теснее линейная связь результативного признака со всем набором исследуемых факторов.
Множественный коэффициент детерминации , то дисперсия (т.е. разброс) прибыли у на 99,48% объясняется регрессией, т.е. зависимостью от показателей . Величина (т.е. 0,52%) характеризует долю дисперсии , вызванную влиянием не учтённых в модели факторов.
В разделе «Дисперсионный анализ» (рис. 9.8) на пересечении строки «Остаток» и столбца «MS» находится несмещённая оценка дисперсии остатков . Извлекая квадратный корень, получим среднее квадратическое отклонение — стандартную ошибку . В следующей строке располагается число наблюдений .
Раздел «Дисперсионный анализ» называют ANOVA-таблицей (analysis of variance). Она содержит обозначение (degree of freedom) — число степеней свободы. В уравнение регрессии входит независимых переменных (строка «Регрессия»), в строке «Остаток» содержится , что в сумме (строка «Итого») составляет .
Значимость уравнения множественной регрессии в целом определяется с помощью статистического -критерия Фишера. Вероятность того, что будет меньше фактического значения , можно оценить по формуле
Для нашей задаче:
Эту вероятность сравниваем с заданным уровнем значимости . Так как , т.е. вероятность ошибки не превысила 5%, то пятифак-торное уравнение регрессии значимо с надёжностью не менее 95%.
Последний раздел отчёта на рис. 9.8 содержит коэффициенты регрессии
В столбце «Стандартная ошибка» расположены
Для проверки значимости коэффициентов регрессии применяют статистический -критерий Стьюдента. Пусть — случайная величина, имеющая распределение Стьюдента с числом степеней свободы . Вычисляются фактические значения -критерия Стьюдента:
Они помещены в столбце «-статистика»:
Заметим, что свободный член обычно не проверяется на статистическую значимость. Вероятность того, что будет меньше фактического значения , можно оценить по формуле
Для нашей задачи (столбец «-Значение») имеем:
Эти вероятности сравниваем с заданным уровнем значимости . Так как
то оценки коэффициентов регрессии
не являются значимыми. Т.к.
то оценки коэффициентов регрессии
значимы с надёжностью не менее 95%.
Среди незначимых оценок наибольшая вероятность ошибки
поэтому переменная должна быть исключена из модели. Эта процедура повторяется до тех пор, пока все оценки коэффициентов регрессии не будут статистически значимыми.
Такой подход называют алгоритмом пошагового регрессионного анализа. После завершения алгоритма мы получим уравнение регрессии с максимальным числом значимых коэффициентов.
На рис. 9.8 в столбцах «Нижние 95%» и «Верхние 95%» содержит интервальные оценки коэффициентов регрессии. Т.к. среди этих параметров оказались незначимые, то нет смысла давать объяснения их интервальным оценкам. Это будет сделано после построения окончательной модели.
Повторяем те же действия, что и в начале решения задачи. В Microsoft Excel в пункте меню «Сервис» выбираем пакет прикладных программ «Анализ данных». Пользуемся инструментом анализа «Регрессия». Вводим входной интервал для у и входной интервал для при уровне надёжности 95%. Результаты вычислений округляем до четвёртого знака и приводим отчет на рис. 2.2.
Получена линейная четырёхфакторная эконометрическая модель:
Т.к. множественный коэффициент корреляции близок к 1, то наблюдается высокая теснота линейной связи факторов с исследуемым признаком . Т.к. множественный коэффициент детерминации , то дисперсия прибыли на 99,47% объясняется найденной регрессией. Величина (т.е. 0,53%) характеризует долю дисперсии у, вызванную влиянием не учтённых в модели факторов.
Фактическое значение критерия Фишера составляет . Оценена вероятность . Эту вероятность сравниваем с заданным уровнем значимости . Т.к. , то четырёхфакторное уравнение регрессии значимо с надёжностью не менее 95%.
Найденная вероятность больше уровня значимости . Оценка коэффициента регрессии не является значимой, поэтому переменная должна быть исключена из модели.
Вводим входной интервал для и входной интервал для при уровне надёжности 95%. Округляем данные до четвёртого знака и приводим отчёт на рис. 2.3.
Линейная трёхфакторная эконометрическая модель имеет вид:
Отчет на рис. 9.10 содержит следующую информацию. Множественный коэффициент корреляции близок к 1. Следовательно, наблюдается высокая теснота линейной связи факторов с признаком . Множественный коэффициент детерминации . Значит, дисперсия у на 99,46% объясняется найденной регрессией. Величина (т.е. 0,54%) характеризует долю дисперсии у, вызванную влиянием не учтённых в модели факторов.
Фактическое значение критерия Фишера . Получена вероятность . Т.к. , то трёхфакторное уравнение регрессии значимо с надёжностью не менее 95%.
Столбец « -Значение» содержит вероятности для коэффициентов регрессии
(свободный член не анализируется). Все вероятности оказалась меньше уровня значимости . Следовательно, все оценки коэффициентов регрессии значимы.
Алгоритм пошагового регрессионного анализа завершён. Построенная трёхфакторная модель — это уравнение регрессии с максимальным числом значимых коэффициентов.
В столбцах «Нижние 95%» и «Верхние 95%» содержит интервальные оценки параметров уравнения регрессии. Они вычислены по данным столбцов «Коэффициенты» и «Стандартная ошибка»:
Численные значения доверительных интервалов объясняют следующим образом. Например, точеная оценка с надёжностью не менее 95% может колебаться от 5,7325 до 8,8249.
- Построим точечный и интервальный прогнозы для прибыли предприятия v при допущении, что средние показатели по будут превышены на 5%.
Так как
то предполагаемые значения:
Вектор предполагаемых значений:
Точечный прогноз для среднего значения прибыли агроцеха:
Вычислим дисперсию прогноза:
Извлекая квадратный корень, найдём среднеквадратическую ошибку прогноза .
Доверительный интервал для среднего значения (математического ожидания) прогноза зависимой переменной находим по формуле:
Рассчитаем дисперсию и среднее квадратическое отклонение индивидуального прогноза:
Доверительный интервал для индивидуального значения прогноза:
Задачи 2.2 выполнено полностью.
Возможно эта страница вам будет полезна:
Границы применимости классического метода наименьших квадратов в эконометрнческом моделировании
Рассмотрим многофакторную линейную эконометрическую модель:
При построении такой модели предполагают, что выполняются следующие гипотезы.
- Спецификация модели:
где — номер наблюдения.
- Числовые значения независимых переменных являются детерминированными (не случайными) величинами. Векторы
являются линейно независимыми в пространстве . 3. Случайные величины удовлетворяют условиям. Их математические ожидания равны нулю:
Дисперсии:
Причём значения математических ожиданий и дисперсий ошибок не зависят от номера наблюдений .
- При ковариации ошибок равны нулю:
Т.е. для разных наблюдений имеет место статистическая независимость (некоррелированность) ошибок.
При выполнении гипотез 1 — 5 эконометрическая модель называется нормальной линейной регрессионной моделью.
Важнейшую роль в эконометрическом анализе играет следующая теорема, формулировка которой приводится без доказательства.
Теорема Гаусса-Маркова. Предположим, что для линейной модели множественной регрессии выполняются гипотезы 1 — 4. Тогда оценки коэффициентов регрессии , найденные с помощью МНК, являются наиболее эффективными (в смысле наименьшей дисперсии) среди всех линейных несмещённых оценок.
Заметим, что при невыполнении отдельных гипотез теорема Гаусса-Маркова становится неприменимой. Следовательно, и классический МНК не будет давать достоверных результатов.
Нарушение условия линейной независимости векторов (гипотеза
2) приводит к нежелательному явлению, называемому мультиколлинеар-ностью. Условие независимости дисперсии ошибок от номера наблюдения (гипотеза 3) называется гомоскедастичностью. Нарушение данного условия называют гетероскедастичностью. Невыполнение гипотезы 4 называется автокорреляцией остатков.
В эконометрическом моделировании надо уметь выявлять эти нежелательные явления и устранять их. При невозможности устранения — научиться моделировать в условиях невозможности применения классического МНК.
Мультиколлинеарность в массиве независимых переменных эконометрической модели
Мультиколлинеарность означает существование тесной линейной зависимости, или сильной корреляции, между двумя или более объясняющими переменными.
Она негативно влияет на количественные характеристики эконометриче-ской модели, или делает её построение вообще невозможным.
Задача №2.3.
На производительность труда однотипных малых предприятий влияет ряд факторов, среди которых: удельный вес рабочих на предприятии ; премии и другие вознаграждения на одного работника (ден. ед.); оборачиваемость нормируемых оборотных средств (дни). Исследовать на мультиколлинеарность переменные . При наличии мультиколлинеарности предложить меры по её устранению. Статистические данные по десяти предприятиям приведены в табл. 2.4. Уровень значимости .
Решение:
Исследуем мультпколлинеарность в массиве независимых переменных при помощи алгоритма Фаррара-Глобера. Расчёты проведём в Microsoft Excel, округляя числа до четвёртого знака после запятой.
- Нахождение корреляционной матрицы выполним с помощью встроенной функции «Корреляция» (Сервиз—>Анализ данных —> Корреляция), которая позволяет находить коэффициенты корреляции более чем двух факторов:
Её определитель: Он вычислен с помощью функции МОПРЕД().
При имеется полная мультиколлинеарность, а если , то мультиколлинеарность отсутствует. В нашем случае , поэтому продолжим исследование на наличие мультиколлинеарности.
- Определим фактическое значение критерия «хи»-квадрат Пирсона:
Фактическое значение критерия сравнивается с табличным значением при степенях свободы и уровне значимости : Т.к. то в массиве объясняющих переменных существует мультиколлинеарность.
- С помощью функции МОБР() определим обратную матрицу:
- Вычисление -критериев Фишера осуществляем по формуле
где — диагональные элементы матрицы . Имеем
Фактические значения критериев сравниваются с табличным при степенях свободы и уровне значимости :
Т.к. , то независимые переменные и мультиколлинеарны с другими.
- Находим частные коэффициенты корреляции по формуле
где — элемент матрицы , содержащийся в -ой строке и -ом столбце; и — диагональные элементы матрицы . Получаем:
Вычисление -критериев Стьюдента осуществляем по формуле
Имеем
Фактические значения критериев сравниваются с табличным при степенях свободы и уровне значимости .
Т.к. , то между независимыми переменными и существует мультиколлинеарность.
Для того, чтобы избавиться от мультиколлинеарности, можно исключить одну из переменных мультиколлинеарной пары и . Удалить следует переменную , т.к. у неё больше значение -критерия. Следовательно, она больше влияет на общую мультиколлинеарность модели. Однако этот шаг не должен противоречить экономическому смыслу задачи.
Гетсроскедастичность в эконометрическом моделировании
Условие независимости дисперсии ошибок от номера наблюдения называется гомоскедастичностью. Нарушение данного условия вызывает нежелательное явление, называемое гетероскедастичиостью.
Гетероскедастичность возникает, когда значения переменных в уравнении регрессии сильно отличаются в разных наблюдениях, т.е. если анализируемые объекты неоднородны. Неоднородность объектов может отражаться в несопоставимости их «размеров».
Например, в одну выборку объединены крупные и мелкие банки, у которых анализируется зависимость прибыли от величины активов . В этом случае можно ожидать, что для крупных банков колебание прибыли будет выше, чем для мелких. Величина колебаний повлияет на дисперсию ошибок.
Неоднородность может также проявляться, когда в одну выборку объединяются предприятия разного профиля деятельности.
Часто при исследовании совокупности данных на гетероскедастичность предполагается, что дисперсия остатков пропорциональна квадрату значений одной из независимых переменных .
В этом случае наиболее эффективен параметрический тест Гольд-фельда-Квандта. Опишем его алгоритм.
Задача №2.4.
В таблице 2.5 приведены данные по зависимой переменной и независимым переменным . Требуется проверить наличие гетероскедастичности с помощью параметрического теста Гольд-фельда-Квандта при уровне значимости .
Решение:
Применим параметрический тест Гольдфельда-Квандта.
Предположим, что дисперсия остатков пропорциональна квадрату значений одной из независимых переменных . Графически определим эту переменную. Построим поля парной корреляции (рис. 2.4 — 2.6).
Как видно из рис. 2.4 — 2.6 источником гетероскедастичности является, скорее всего, переменная .
Данные примут вид (табл. 2.6).
В MS Excel в пункте меню «Сервис» выбираем надстройку «Анализ данных». Пользуемся инструментом анализа «Регрессия». Вводим входной интервал для и входной интервал для при уровне надёжности 95%. Имеем следующие модели:
Текст работы размещён без изображений и формул.
Полная версия работы доступна во вкладке «Файлы работы» в формате PDF
Метод наименьших квадратов (МНК, англ. Ordinary Least Squares, OLS) — один из методов оценки параметров регрессионных моделей. Достоинством метода являются — статистические свойства МНК-оценок (при выполнении предпосылок Гаусса-Маркова — несмещенность и эффективность), простота математических выводов и практической реализации.
МНК позволяет решить задачу «наилучшего» приближения выборочных данных , линейной функцией
(1)
— для парной регрессии.
Смысл «наилучшего» приближения определяется выбором критерия. В методе наименьших квадратов — это сумма квадратов отклонений (остатков)
=,
и оценки параметров и должны быть подобраны таким образом, чтобы функция была минимальна:
. (2)
Для решения задачи (2) (задача на безусловный экстремум) составляются необходимые условия экстремума(First Order Condition):
,
которые, можно также записать следующим образом:
, (3)
или в компактной форме:
.
Система (3) называется системой нормальных уравнений. В (3) столько уравнений, сколько параметров требуется оценить по выборочным данным. Из решения системы нормальных уравнений находятся МНК-оценки параметров:
,
где и — средние значения по выборке:
, .
Подстановка, полученного для выражения, во второе уравнение системы нормальных уравнений
,
приводит к следующей оценке параметра b
,
где
, — значения переменных центрированные по средним выборочным;
Таким образом, МНК — оценки параметров парной регрессионной модели выражаются через выборочные данные следующим образом:
. (4)
Реализация регрессионного анализа в программе MS Excel
Для проведения расчетов по линейному методу МНК можно использовать программу Microsoft Excel (входит в программный пакет Microsoft Office).
Наиболее просто реализуются вычисления коэффициентов линейной регрессионной модели (1).
Для этого можно использовать следующие встроенные функций MS Excel:
ОТРЕЗОК (диапозон_Y; диапазон_X)
НАКЛОН (диапазон_Y; диапазон_X)
КОРРЕЛ (диапазон_Y; диапазон_X)
Первая функция вычисляет свободный член уравнения регрессии ( в выражении (1)), вторая – наклон прямой (b в выражении (1)). Третья функция позволяет вычислить коэффициент корреляции.
Каждая из функций принимает два аргумента, разделяемых знаком точка с запятой “;”. Каждый из аргументов определяет диапазон ячеек, в котором находятся значения зависимой (диапазон_Y) и независимой (диапазон_Х) переменных. Диапазоны должны быть одинаковой формы (вектор-строка или вектор-столбец одинаковой длины).
В более общем виде линейный МНК может быть реализован с помощью встроенной функции ЛИНЕЙН, которая производит вычисления коэффициентов линейной регрессии и дополнительно рассчитывает ряд статистических показателей. Вычисленные коэффициенты регрессии и статистики возвращаются в виде массива чисел. Поскольку возвращается массив значений, функция должна задаваться в виде формулы массива.
Функция ЛИНЕЙН может принимать от одного до четырех аргументов. Обязателен только первый аргумент, остальные – необязательные:
ЛИНЕЙН (диапазон Y, [диапазон X], [константа], [статистика])
Диапазон Y — обязательный аргумент. Диапазон ячеек, содержащий множество значений зависимой переменной (y);
Диапазон Х — Диапазон ячеек, содержащий множество значений независимых переменных. Если переменных несколько, то они должны располагаться в смежных ячейках. Каждый диапазон значений независимой переменной должен иметь форму, аналогичную диапазону Y.
Константа. Необязательный аргумент. Логическое значение, которое указывает, требуется ли, чтобы константа была равна 0. Если аргумент константа имеет значение ИСТИНА или опущен, то свободный член вычисляется обычным образом.
Если аргумент константа имеет значение ЛОЖЬ, то значение полагается равным 0 и значения коэффициентов регрессии подбираются с этим условием.
Статистика. Необязательный аргумент. Логическое значение, которое указывает, требуется ли возвратить дополнительную регрессионную статистику. Если аргумент статистика имеет значение ИСТИНА, функция ЛИНЕЙН возвращает дополнительную регрессионную статистику. Возвращаемый массив чисел будет иметь следующий вид:
Если аргумент статистика имеет значение ЛОЖЬ или опущен, функция ЛИНЕЙН возвращает только коэффициенты (то есть, вектор-строку). Размер диапазона ячеек, в которые будет записан результат выполнения функции ЛИНЕЙН следующий:
1. Если статистика=ЛОЖЬ, то 1 строка и n столбцов (n-число определяемых параметров)
2. Если статистика=ИСТИНА, то 5 строк и k столбцов (число столбцов равно числу оцениваемых параметров, для парной регрессии — 2).
Описание значений, вычисляемых функцией приведены в таблице ниже.
Величина |
Описание |
МНК-оценки параметров. |
|
и т.д. |
Стандартные значения ошибок для коэффициентов b;a; … |
Коэффициент детерминации. Он характеризует тесноту связи между результативным показателем и набором факторных показателей. Принимает только положительные значения в пределах от 0 до 1. Чем ближе значение коэффициента к 1, тем больше теснота связи. И, наоборот, чем ближе к 0, тем зависимость меньше. |
|
Оценка ско возмущения. |
|
F |
F-статистика или F-наблюдаемое значение. F-статистика используется для определения того, является ли случайной наблюдаемая взаимосвязь между зависимой и независимой переменными. |
Степени свободы. Степени свободы полезны для нахождения F-критических значений в статистической таблице. Для определения уровня надежности модели необходимо сравнить значения в таблице с F-статистикой, возвращаемой функцией ЛИНЕЙН. |
|
RSS |
Регрессионная сумма квадратов. |
ESS |
Остаточная сумма квадратов, равна сумме квадратов разностей для каждой точки между прогнозируемым значением y и фактическим значением y. |
Практическая часть
Пример. По территориям региона приводятся данные за 20ХХ г.
Таблица П1.
Номер региона |
Среднедневная заработная плата, руб., y |
Среднедушевой прожиточный минимум в день одного трудоспособного, руб., x |
1 |
133 |
78 |
2 |
148 |
82 |
3 |
134 |
87 |
4 |
154 |
79 |
5 |
162 |
89 |
6 |
195 |
106 |
7 |
139 |
67 |
8 |
158 |
88 |
9 |
152 |
73 |
10 |
162 |
87 |
11 |
159 |
76 |
12 |
173 |
115 |
Используя функцию ЛИНЕЙН, оценим регрессионную модель зависимости размера средней заработной платы в регионе от среднедушевого прожиточного минимума:
0,920431 |
76,97649 |
||
0,279716 |
24,21156 |
||
0,519877 |
12,54959 |
||
10,82801 |
10 |
||
1705,328 |
1574,922 |
Можем записать стандартную форму записи оцененной модели:
Y=76.98+0.92×Xt+et
24.21 (0.28) (12.55)
Таким образом, в нашем случае коэффициент детерминации равен 0,52, следовательно, оцененная модель среднего качества.
С увеличением среднедневной зарплаты среднедушевой прожиточный минимум увеличивается на 0,92 процентных пунктов.
Список использованной литературы
1. Бабешко Л.О. Основы эконометрического моделирования. — М.: КомКнига, 2010. —432 с.
-
Бородич С.А. «Эконометрика» Минск: Новое знание, 2001. – 408 с.
-
Орлов А.И. «Эконометрика» М.: Издательство «Экзамен», 2002.
-
Кремер Н.Ш., Путко Б.А. «Эконометрика» Учебник для вузов / Под ред. Проф. Н.Ш. Кремера. – М.: ЮНИТА-ДАНА, 2005. -311с.