2.6.1
Коэффициент детерминации.
Для оценки качества построенной модели
регрессии можно использовать коэффициент
детерминации
.
Коэффициент детерминации может быть
вычислен по формуле:

С другой стороны,
для парной линейной регрессии верно
равенство:
.
При
близости значения коэффициента
детерминации к 1 говорят, что уравнение
регрессии статистически значимо и
фактор
оказывает сильное воздействие на
результирующий признак.
При анализе модели
парной линейной регрессии по значению
коэффициента детерминации можно сделать
следующие предварительные выводы о
качестве модели:
-
Если
,
то будем считать, что использование
регрессионной модели для аппроксимации
зависимости между переменнымии
статистически необоснованно.
-
Если
,
то использование регрессионной модели
возможно, но после оценивания параметров
модель подлежит дальнейшему многостороннему
статистическому анализу. -
Если
,
то будем. считать, что у нас есть основания
для использования регрессионной модели
при анализе поведения переменной.
2.6.2 Средняя ошибка аппроксимации.
Другой
показатель качества построенной модели
–– среднее относительное отклонение
расчетных значений от фактических или
средняя
ошибка аппроксимации:
.
Построенное
уравнение регрессии считается
удовлетворительным, если значение
не превышает 10% – 12% .
3. Пример.
По
21 региону страны изучается зависимость
розничной продажи телевизоров ()
от среднедушевого денежного дохода в
месяц ().
|
Номер региона |
Среднедушевой |
Объем |
|
1 |
2 |
28 |
|
2 |
2,4 |
21,3 |
|
3 |
2,1 |
21 |
|
4 |
2,6 |
23,3 |
|
5 |
1,7 |
15,8 |
|
6 |
2,5 |
21,9 |
|
7 |
2,4 |
20 |
|
8 |
2,6 |
22 |
|
9 |
2,8 |
23,9 |
|
10 |
2,6 |
26 |
|
11 |
2,6 |
24,6 |
|
12 |
2,5 |
21 |
|
13 |
2,9 |
27 |
|
14 |
2,6 |
21 |
|
15 |
2,2 |
24 |
|
16 |
2,6 |
24 |
|
17 |
3,3 |
31,9 |
|
18 |
3,9 |
33 |
|
19 |
4 |
35,4 |
|
20 |
3,7 |
34 |
|
21 |
3,4 |
31 |
Необходимо
найти зависимость, наилучшим образом
отражающую связь между переменными
и
.
Рассмотрим вопрос
применения модели линейной регрессии
в этой задаче.
Построим
поле корреляции, т.е. нанесем исходные
данные на координатную плоскость. Для
этого воспользуемся, например,
возможностями MS
Excel
2003.
Подготовим таблицу
исходных данных.
Нанесем на
координатную плоскость исходные данные:
Характер
расположения точек на графике дает нам
основание предположить, что искомая
функция регрессии линейная:
.
Для оценки коэффициентов уравнения
регрессии необходимо составить и решить
систему нормальных уравнений ( ).
По исходным данным
рассчитываем необходимые суммы:
|
Номер региона |
|
|
|
|
|
|
1 |
2 |
28 |
56 |
4 |
784 |
|
2 |
2,4 |
21,3 |
51,12 |
5,76 |
453,69 |
|
3 |
2,1 |
21 |
44,1 |
4,41 |
441 |
|
4 |
2,6 |
23,3 |
60,58 |
6,76 |
542,89 |
|
5 |
1,7 |
15,8 |
26,86 |
2,89 |
249,64 |
|
6 |
2,5 |
21,9 |
54,75 |
6,25 |
479,61 |
|
7 |
2,4 |
20 |
48 |
5,76 |
400 |
|
8 |
2,6 |
22 |
57,2 |
6,76 |
484 |
|
9 |
2,8 |
23,9 |
66,92 |
7,84 |
571,21 |
|
10 |
2,6 |
26 |
67,6 |
6,76 |
676 |
|
11 |
2,6 |
24,6 |
63,96 |
6,76 |
605,16 |
|
12 |
2,5 |
21 |
52,5 |
6,25 |
441 |
|
13 |
2,9 |
27 |
78,3 |
8,41 |
729 |
|
14 |
2,6 |
21 |
54,6 |
6,76 |
441 |
|
15 |
2,2 |
24 |
52,8 |
4,84 |
576 |
|
16 |
2,6 |
24 |
62,4 |
6,76 |
576 |
|
17 |
3,3 |
31,9 |
105,27 |
10,89 |
1017,61 |
|
18 |
3,9 |
33 |
128,7 |
15,21 |
1089 |
|
19 |
4 |
35,4 |
141,6 |
16 |
1253,16 |
|
20 |
3,7 |
34 |
125,8 |
13,69 |
1156 |
|
21 |
3,4 |
31 |
105,4 |
11,56 |
961 |
|
Сумма |
57,4 |
530,1 |
1504,46 |
164,32 |
13926,97 |
Составляем систему
уравнений:
Имеем систему
линейных алгебраических уравнений,
которая может быть решена, например, по
формулам Крамера. Для этого вычислим
следующие определители:
Тогда, согласно
теореме Крамера,
Получаем уравнение
регрессии:
Величина
коэффициента регрессии
означает, что увеличение среднедушевого
месячного дохода на 1 тыс. руб. приведет
к увеличение объема розничной продажи
в среднем на 7 540 телевизоров. Коэффициентв данном случае не имеет содержательной
интерпретации.
Оценим тесноту
линейной связи между переменными и
качество построенной модели в целом.
Для оценки тесноты
линейной зависимости рассчитаем
коэффициент детерминации. Для этого
необходимо провести ряд дополнительных
вычислений.
Прежде
всего, найдем выборочное
среднее
по формуле:
.
Для рассматриваемого
примера имеем:
Теперь произведем
расчет остальных вспомогательных
величин:
|
Номер региона |
|
|
|
|
|
|
|
|
1 |
2 |
28 |
19,76 |
8,24 |
67,89 |
2,76 |
7,60 |
|
2 |
2,4 |
21,3 |
22,75 |
-1,45 |
2,11 |
-3,94 |
15,55 |
|
3 |
2,1 |
21 |
20,51 |
0,49 |
0,24 |
-4,24 |
18,00 |
|
4 |
2,6 |
23,3 |
24,25 |
-0,95 |
0,90 |
-1,94 |
3,77 |
|
5 |
1,7 |
15,8 |
17,52 |
-1,72 |
2,95 |
-9,44 |
89,17 |
|
6 |
2,5 |
21,9 |
23,50 |
-1,60 |
2,56 |
-3,34 |
11,17 |
|
7 |
2,4 |
20 |
22,75 |
-2,75 |
7,57 |
-5,24 |
27,49 |
|
8 |
2,6 |
22 |
24,25 |
-2,25 |
5,04 |
-3,24 |
10,52 |
|
9 |
2,8 |
23,9 |
25,74 |
-1,84 |
3,39 |
-1,34 |
1,80 |
|
10 |
2,6 |
26 |
24,25 |
1,75 |
3,08 |
0,76 |
0,57 |
|
11 |
2,6 |
24,6 |
24,25 |
0,35 |
0,13 |
-0,64 |
0,41 |
|
12 |
2,5 |
21 |
23,50 |
-2,50 |
6,24 |
-4,24 |
18,00 |
|
13 |
2,9 |
27 |
26,49 |
0,51 |
0,26 |
1,76 |
3,09 |
|
14 |
2,6 |
21 |
24,25 |
-3,25 |
10,54 |
-4,24 |
18,00 |
|
15 |
2,2 |
24 |
21,26 |
2,74 |
7,53 |
-1,24 |
1,54 |
|
16 |
2,6 |
24 |
24,25 |
-0,25 |
0,06 |
-1,24 |
1,54 |
|
17 |
3,3 |
31,9 |
29,48 |
2,42 |
5,86 |
6,66 |
44,32 |
|
18 |
3,9 |
33 |
33,96 |
-0,96 |
0,93 |
7,76 |
60,17 |
|
19 |
4 |
35,4 |
34,71 |
0,69 |
0,47 |
10,16 |
103,17 |
|
20 |
3,7 |
34 |
32,47 |
1,53 |
2,34 |
8,76 |
76,69 |
|
21 |
3,4 |
31 |
30,23 |
0,77 |
0,60 |
5,76 |
33,14 |
|
Сумма |
57,4 |
530,1 |
130,68 |
545,73 |
Здесь
столбец «»
– это значения,
рассчитанные с помощью построенного
уравнения регрессии, столбцы «»
и– это столбцы, так называемых, «остатков»:
разностей между исходными значениями,
и рассчитанными с помощью уравнения
регрессии,
а также их квадратов, а в последних двух
столбцах – разности между исходными
значениями,
выборочным средним,
а также их квадраты.
Для
вычисления коэффициента детерминации
воспользуемся формулой ( ):
Значение
коэффициента детерминации позволяет
сделать предварительный вывод о том,
что у нас имеются основания использовать
модель линейной регрессии в данной
задаче, поскольку
.
Построим
линию регрессии на корреляционном поле,
для чего добавим на координатной
плоскости точки, соответствующие
уравнению регрессии ().
Нанесем
теперь уравнение регрессии на диаграмму,
используя специальные средства Excel.
Для этого необходимо выделить правой
кнопкой мыши исходные точки и выбрать
опцию Добавить
линию тренда.
В
открывшемся меню Параметры
линии тренда
выбрать Линейную
аппроксимацию.
Далее поставить флажок напротив полей
Показывать
уравнение на диаграмме
и Поместить
на диаграмму величину достоверности
аппроксимации .
Нажав
на ОК, получаем еще одну прямую на
диаграмме, которая совпадает с построенными
ранее точками линии регрессии:
Сплошная
черная линия на диаграмме – это линия
регрессии, рассчитанная средствами
Excel.
Линия регрессии, построенная нами ранее,
совпала с данной линией регрессии.
Нетрудно убедиться, что уравнение
регрессии и коэффициент детерминации
тоже совпадают с полученными ранее
вручную.
Найдем
теперь среднюю ошибку аппроксимации
для оценки погрешности модели. Для этого
нам потребуется вычислить еще ряд
промежуточных величин:
|
Номер региона |
|
|
|
|
|
|
1 |
2 |
28 |
19,76 |
8,24 |
0,29 |
|
2 |
2,4 |
21,3 |
22,75 |
-1,45 |
0,07 |
|
3 |
2,1 |
21 |
20,51 |
0,49 |
0,02 |
|
4 |
2,6 |
23,3 |
24,25 |
-0,95 |
0,04 |
|
5 |
1,7 |
15,8 |
17,52 |
-1,72 |
0,11 |
|
6 |
2,5 |
21,9 |
23,50 |
-1,60 |
0,07 |
|
7 |
2,4 |
20 |
22,75 |
-2,75 |
0,14 |
|
8 |
2,6 |
22 |
24,25 |
-2,25 |
0,10 |
|
9 |
2,8 |
23,9 |
25,74 |
-1,84 |
0,08 |
|
10 |
2,6 |
26 |
24,25 |
1,75 |
0,07 |
|
11 |
2,6 |
24,6 |
24,25 |
0,35 |
0,01 |
|
12 |
2,5 |
21 |
23,50 |
-2,50 |
0,12 |
|
13 |
2,9 |
27 |
26,49 |
0,51 |
0,02 |
|
14 |
2,6 |
21 |
24,25 |
-3,25 |
0,15 |
|
15 |
2,2 |
24 |
21,26 |
2,74 |
0,11 |
|
16 |
2,6 |
24 |
24,25 |
-0,25 |
0,01 |
|
17 |
3,3 |
31,9 |
29,48 |
2,42 |
0,08 |
|
18 |
3,9 |
33 |
33,96 |
-0,97 |
0,03 |
|
19 |
4 |
35,4 |
34,71 |
0,69 |
0,02 |
|
20 |
3,7 |
34 |
32,47 |
1,53 |
0,05 |
|
21 |
3,4 |
31 |
30,23 |
0,77 |
0,02 |
Здесь
столбец «»
– это значения,
рассчитанные с помощью построенного
уравнения регрессии, столбец «»
– это столбец так называемых «остатков»:
разностей между исходными значениями,
и рассчитанными с помощью уравнения
регрессии,
и, наконец, последний столбец «
»
– это вспомогательный столбец для
вычисления элементов суммы по формуле
( ). Просуммируем теперь элементы
последнего столбца и разделим полученную
сумму на 21 – общее количество исходных
данных:
.
Переведем это
число в проценты и запишем окончательное
выражение для средней ошибки аппроксимации:
.
Итак,
средняя ошибка аппроксимации оказалась
около 8%, что говорит о небольшой
погрешности построенной модели. Данную
модель, с учетом неплохих характеристик
ее качества, вполне можно использовать
для прогноза – одной из основных целей
эконометрического анализа. Предположим,
что среднедушевой месячный доход в
одном из регионов составит 4,1 тыс. руб.
Оценим, каков будет уровень продаж
телевизоров в этом регионе согласно
построенной модели? Для этого необходимо
выбранное значение фактора
подставить в уравнение регрессии (
):
(тыс.
руб.),
т.е. при таком
уровне дохода, розничная продажа
телевизоров составит, в среднем, 35 480
телевизоров.
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
- #
- #
- #
- #
- #
- #
- #
- #
- #
- #
- #
Здравствуйте на этой странице я собрала теорию и практику с примерами решения задач по предмету эконометрика с решением по каждой теме, чтобы вы смогли освежить знания!
Если что-то непонятно — вы всегда можете написать мне в WhatsApp и я вам помогу!
Эконометрика
Эконометрика — это наука, изучающая конкретные количественные и качественные взаимосвязи экономических объектов и процессов с помощью математических и статистических методов и моделей.
Эконометрика — эффективный инструмент научного анализа и моделирования в профессиональной деятельности экономиста, менеджера и инженера
Парная регрессия и корреляция
Парная регрессия — уравнение связи двух переменных 

где 

Различают линейные и нелинейные регрессии.
Линейная регрессия :
Нелинейные регрессии делятся на два класса: регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, и регрессии, нелинейные по оцениваемым параметрам.
Возможно эта страница вам будет полезна:
Регрессии, нелинейные по объясняющим переменным:
• полиномы разных степеней
• равносторонняя гипербола
Регрессии, нелинейные по оцениваемым параметрам’.
• степенная
• показательная
• экспоненциальная
Построение уравнения регрессии сводится к оценке ее параметров. Для оценки параметров регрессий, линейных по параметрам, используют метод наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака 

Для линейных и нелинейных уравнений, приводимых к линейным, решается следующая система относительно 

Можно воспользоваться готовыми формулами, которые вытекают из этой системы:
Тесноту связи изучаемых явлений оценивает линейный коэффициент парной корреляции 

и индекс корреляции 

Оценку качества построенной модели даст коэффициент (индекс) детерминации, а также средняя ошибка аппроксимации.
Средняя ошибка аппроксимации — среднее отклонение расчетных значений от фактических:
Допустимый предел значений 
Средний коэффициент эластичности 

Задача дисперсионного анализа состоит в анализе дисперсии зависимой переменной:
где 


Долю дисперсии, объясняемую регрессией, в общей дисперсии результативного признака у характеризует коэффициент (индекс) детерминации 
Коэффициент детерминации — квадрат коэффициента или индекса корреляции.






где 






Если 



Для оценки статистической значимости коэффициентов регрессии и корреляции рассчитываются 


Случайные ошибки параметров линейной регрессии и коэффициента корреляции определяются по формулам:
Сравнивая фактическое и критическое (табличное) значения 



Связь между 

Если 








Для расчета доверительного интервала определяем предельную ошибку 
Формулы для расчета доверительных интервалов имеют следующий вид:
Если в границы доверительного интервала попадает ноль, т.е. нижняя граница отрицательна, а верхняя положительна, то оцениваемый параметр принимается нулевым, так как он не может одновременно принимать и положительное, и отрицательное значения.
Прогнозное значение 



где
Пример задачи №1
По семи территориям Уральского района за 199Х г. известны значения двух признаков (табл. 1.1).
Требуется:
а)линейной;
б) степенной;
в) показательной;
г) равносторонней гиперболы.
Оценить каждую модель через среднюю ошибку аппроксимации 

Решение:
1а. Для расчета параметров 

решаем систему нормальных уравнений относительно 

По исходным данным рассчитываем
Уравнение регрессии:
С увеличением среднедневной заработной платы на 1 руб. доля расходов на покупку продовольственных товаров снижается в среднем на 0,35 %-ных пункта. Рассчитаем линейный коэффициент парной корреляции:
Связь умеренная, обратная.
Определим коэффициент детерминации:
Вариация результата на 12,7% объясняется вариацией фактора 



В среднем расчетные значения отклоняются от фактических на 8,1%.
Рассчитаем 
поскольку 
Полученное значение указывает на необходимость принять гипотезу 
- Построению степенной модели
предшествует процедура линеаризации переменных. В примере линеаризация производится путем логарифмирования обеих частей уравнения:
Для расчетов используем данные табл. 1.3.
Рассчитаем 

Получим линейное уравнение:
Выполнив его потенцирование, получим:
Подставляя в данное уравнение фактические значения 



Характеристики степенной модели указывают, что она несколько лучше линейной функции описывает взаимосвязь.
1в. Построению уравнения показательной кривой 
где
Для расчетов используем данные табл. 1.4.
Значения параметров регрессии 

Получено линейное уравнение:
Произведем потенцирование полученного уравнения и запишем его в обычной форме:
Тесноту связи оценим через индекс корреляции 
Связь умеренная.

1г. Уравнение равносторонней гиперболы 


Для расчетов используем данные табл. 1.5.
Значения параметров регрессии 

Получено уравнение:
Индекс корреляции:



где
Следовательно, принимается гипотеза 
Пример задачи №2
По территориям региона приводятся данные за 199Х г. (табл. 1.6).
Требуется:
- Построить линейное уравнение парной регрессии у от х.
- Рассчитать линейный коэффициент парной корреляции и среднюю ошибку аппроксимации.
- Оценить статистическую значимость параметров регрессии и корреляции.
- Выполнить прогноз заработной платы у при прогнозном значении среднедушевого прожиточного минимумах, составляющем 107% от среднего уровня.
- Оценить точность прогноза, рассчитав ошибку прогноза и его доверительный интервал.
Решение:
- Для расчета параметров уравнения линейной регрессии строим расчетную таблицу (табл. 1.7).
Получено уравнение регрессии:
С увеличением среднедушевого прожиточного минимума на 1 руб. среднедневная заработная плата возрастает в среднем на 0,92 руб.
- Тесноту линейной связи оценит коэффициент корреляции:
Это означает, что 52% вариации заработной платы (

Качество построенной модели оценивается как хорошее, так как 
- Оценку статистической значимости параметров регрессии проведем с помощью
-статистики Стьюдента и путем расчета доверительного интервала каждого из показателей.
Выдвигаем гипотезу 

составит 2,23.
Определим случайные ошибки 
Тогда
Фактические значения 
поэтому гипотеза 


Рассчитаем доверительный интервал для 

Доверительные интервалы:
Анализ верхней и нижней границ доверительных интервалов приводит к выводу о том, что с вероятностью
параметры 

Полученные оценки уравнения регрессии позволяют использовать его для прогноза. Если прогнозное значение прожиточного минимума составит:
тогда прогнозное значение прожиточного минимума составит:
5. Ошибка прогноза составит:
Предельная ошибка прогноза, которая в 95% случаев не будет превышена, составит:
Доверительный интервал прогноза:
Выполненный прогноз среднемесячной заработной платы оказался надежным
но неточным, так как диапазон верхней и нижней границ доверительного интервала 
Пример задачи №3
По группе предприятий, производящих однородную продукцию, известно, как зависит себестоимость единицы продукции у от факторов, приведенных в табл. 1.8.
Требуется:
- Определить с помощью коэффициентов эластичности силу влияния каждого фактора на результат.
- Ранжировать факторы по силе влияния.
Решение:
- Для уравнения равносторонней гиперболы
Для уравнения прямой
Для уравнения степенной зависимости
Для уравнения показательной зависимости
Сравнивая значения 

Для формирования уровня себестоимости продукции фуппы предприятий первоочередное значение имеют цены на энергоносители; в гораздо меньшей степени влияют трудоемкость продукции и отчисляемая часть прибыли. Фактором снижения себестоимости выступает размер производства: с ростом его на 1% себестоимость единицы продукции снижается на -0,97%.
Пример задачи №4
Зависимость потребления продукта А от среднедушевого дохода по данным 20 семей характеризуется следующим образом:
уравнение регрессии
индекс корреляции
остаточная дисперсия
Требуется:
Провести дисперсионный анализ полученных результатов.
Решение:
Результаты дисперсионного анализа приведены в табл. 1.9.
В силу того что
гипотеза о случайности различий факторной и остаточной дисперсий отклоняется. Эти различия существенны, статистически значимы, уравнение надежно, значимо, показатель тесноты связи надежен и отражает устойчивую зависимость потребления продукта 
Реализация типовых задач в Excel
Решение с помощью ППП Excel
- Встроенная статистическая функция ЛИНЕЙН определяет параметры линейной регрессии
. Порядок вычисления следующий:
1) введите исходные данные или откройте существующий файл, содержащий анализируемые данные;
2) выделите область пустых ячеек 5×2 (5 строк, 2 столбца) для вывода результатов регрессионной статистики или область 1×2 — для получения только оценок коэффициентов регрессии;
3) активизируйте Мастер функций любым нз способов:
а) в главном меню выберите Вставка/Функция;
б) на панели инструментов Стандартная щелкните по кнопке Вставка функции;
4) в окне Категория (рис. 1.1) выберите Статистические, в окне Функция — ЛИНЕЙН. Щелкните по кнопке ОК;
5) заполните аргументы функции (рис. 1.2):
Известные значенияу — диапазон, содержащий данные результативного признака;
Известные значения_х — диапазон, содержащий данные факторов независимого признака;
Константа — логическое значение, которое указывает на наличие или на отсутствие свободного члена в уравнении; если Константа = 1, то свободный член рассчитывается обычным образом, если Константа = 0, то свободный член равен 0; Статистика — логическое значение, которое указывает, выводить дополнительную информацию по регрессионному анализу или нет. Если Статистика = 1, то дополнительная информация выводится, если Статистика — 0, то выводятся только оценки параметров уравнения. Щелкните по кнопке ОК;
6) в левой верхней ячейке выделенной области появится первый элемент итоговой таблицы. Чтобы раскрыть всю таблицу, нажмите на клавишу 
Дополнительная регрессионная статистика будет выводиться в порядке, указанном в следующей схеме:
Для вычисления параметров экспоненциальной кривой 
Для данных из примера 2 результат вычисления функции ЛИНЕЙН представлен на рис. 1.3, функции ЛГРФПРИБЛ — на рис. 1.4.
- С помощью инструмента анализа данных Регрессия, помимо результатов регрессионной статистики, дисперсионного анализа и доверительных интервалов, можно получить остатки и графики подбора линии регрессии, остатков и нормальной вероятности. Порядок действий следующий:
1) проверьте доступ к пакету анализа. В главном меню последовательно выберите Сервис /Надстройки. Установите флажок Пакет анализа (рис. 1.5);
2) в главном меню выберите Сервис/Анализ данных/Регрессия. Щелкните по кнопке ОК;
3) заполните диалоговое окно ввода данных и параметров вывода (рис. 1.6):
Входной интервал 
Входной интервал 
Метки — флажок, который указывает, содержит ли первая строка названия столбцов или нет;
Константа — ноль — флажок, указывающий на наличие или отсутствие свободного члена в уравнении;
Выходной интервал — достаточно указать левую верхнюю ячейку будущего диапазона;
Новый рабочий лист — можно задать произвольное имя нового листа.
Если необходимо получить информацию и графики остатков, установите соответствующие флажки в диалоговом окне. Щелкните по кнопке ОК.
Результаты регрессионного анализа для данных из примера 2 представлены на рис. 1.7.
Решение с помощью ППП Statgraphics
Порядок вычислений при использовании функции Simple Regression следующий:
1) введите исходные данные (рис. 1.8) или откройте существующий файл, содержащий исходные данные;
2) в главном меню последовательно выберите Relate/Simple Regression;
3) заполните диалоговое окно ввода данных. В поле «

4) в окне табличных настроек поставьте флажок напротив Analysis Summary.
Результаты вычислений появятся в отдельном окне. Для данных из примера 2 результат применения функции Simple Regression представлен на рис. 1.9.
Как видим, результаты вычислений вручную и с помощью компьютера совпадают.
Возможно эта страница вам будет полезна:
Множественная регрессия и корреляция
Множественная регрессия — уравнение связи с несколькими независимыми переменными:
где 

Для построения уравнения множественной регрессии чаще используются следующие функции:
• линейная —
• степенная —
• экспонента —
• гипербола —
Можно использовать и другие функции, приводимые к линейному виду.
Для оценки параметров уравнения множественной регрессии применяют метод наименьших квадратов (МНК). Для линейных уравнений и нелинейных уравнений, приводимых к линейным, строится следующая система нормальных уравнений, решение которой позволяет получить оценки параметров регрессии:
Для ее решения может быть применен метод определителей:
где
определитель системы.

Другой вид Уравнения множественной регрессии — уравнение регрессии в стандартизованном масштабе:
у-у
где 

К уравнению множественной регрессии в стандартизованном масштабе применим МНК. Стандартизованные коэффициенты регрессии (
Связь коэффициентов множественной регрессии 

Параметр 
Средние коэффициенты эластичности для линейной регрессии рассчитываются по формуле
Для расчета частных коэффициентов эластичности применяется следующая формула:
Тесноту совместного влияния факторов на результат оценивает индекс множественной корреляции:
Значение индекса множественной корреляции лежит в пределах от 0 до 1 и должно быть больше или ранно максимальному парному индексу корреляции:
Индекс множественной корреляции для уравнения в стандартизованном масштабе можно записать и виде
При линейной зависимости коэффициент множественной корреляции можно определить через матрицу парных коэффициентов корреляции:
где
определитель матрицы парных коэффициентов корреляии;
определитель матрицы межфакторной корреляции.
Частные коэффициенты (или индексы) корреляции, измеряющие влияние на у фактора 
или по рекуррентной формуле:
Частные коэффициенты корреляции изменяются в пределах от —1 до 1.
Качество построенной модели в целом оценивает коэффициент (индекс) детерминации. Коэффициент множественной детерминации рассчитывается как квадрат индекса множественной корреляции:
Скорректированный индекс множественной детерминации содержит поправку на число степеней свободы и рассчитывается по формуле
где 

Значимость уравнения множественной регрессии в целом оценивается с помощью 
Частный 


Оценка значимости коэффициентов чистой регрессии с помощью 
где 

При построении уравнения множественной регрессии может возникнуть проблема мупьтиколлинеарности факторов, их тесной линейной связанности.
Считается, что две переменные явно коллинеарны, т.е. находятся между собой в линейной зависимости, если 
По величине парных коэффициентов корреляции обнаруживается лишь явная коллинеарность факторов. Наибольшие трудности в использовании аппарата множественной регрессии возникают при наличии мультиколлинеарности факторов. Чем сильнее мультикол-линеарность факторов, тем менее надежна оценка распределения суммы объясненной вариации по отдельным факторам с помощью метода наименьших квадратов.
Для оценки мультиколлинеарности факторов может использоваться определитель матрицы парных коэффициентов корреляции между факторами.
Если бы факторы не коррелировали между собой, то матрица парных коэффициентов корреляции между факторами была бы единичной матрицей, поскольку все недиагональные элементы 
матрица коэффициентов корреляции между факторами имела бы определитель, равный 1:
так как
Если же наоборот, между факторами существует полная линейная зависимость и все коэффициенты корреляции равны 1, то определитель такой матрицы равен 0:
Чем ближе к 0 определитель матрицы межфакторной корреляции, тем сильнее мультиколлинеарность факторов и ненадежнее результаты множественной регрессии. И наоборот, чем ближе к 1 определитель матрицы межфакторной корреляции, тем меньше мультиколлинеарность факторов.
Проверка мультиколлинеарности факторов может быть проведена методом испытания гипотезы о независимости переменных
Доказано, что величина
имеет приближенное распределение
степенями свободы. Если фактическое значение 



Для применения МНК требуется, чтобы дисперсия остатков была гомоскедастичной. Это значит, что для каждого значения фактора 

При нарушении гомоскедастичности мы имеем неравенства
При малом объеме выборки для оценки гетероскедастичности может использоваться метод Гольдфельда Кнандта. Основная идея теста Гольдфельда — Квандта состоит в следующем:
1) упорядочение и наблюдений по мере возрастания переменной 
2) исключение из рассмотрения 


3) разделение совокупности из 

4) определение остаточной суммы киндратов для первой 

При выполнении нулевой гипотезы о гомоскедастичности отношение 




Уравнения множественной регрессии могут включать в качестве независимых переменных качественные признаки (например, профессия, пол, образование, климатические условия, отдельные регионы и т.д.). Чтобы ввести такие переменные в регрессионную модель, их необходимо упорядочить и присвоить им те или иные значения, т.е. качественные переменные преобразовать в количественные.
Такого вида сконструированные переменные принято в эконометрике называть фиктивными переменными. Например, включать в модель фактор «пол» в виде фиктивной переменной можно в следующем виде:
Коэффициент регрессии при фиктивной переменной интерпретируется как среднее изменение зависимой переменной при переходе от одной категории (женский пол) к другой (мужской пол) при неизменных значениях остальных параметров. На основе 
Пример задачи №5
По 30 территориям России имеются данные, представленные в табл. 2.1.
Требуется:
- Построить уравнение множественной регрессии в стандартизованной и естественной форме; рассчитать частные коэффициенты эластичности, сравнить их с
и
пояснить различия между ними.
- Рассчитать линейные коэффициенты частной корреляции и коэффициент множественной корреляции, сравнить их с линейными коэффициентами парной корреляции, пояснить различия между ними.
- Рассчитать общий и частные
-критерии Фишера.
Решение:
Линейное уравнение множественной регрессии 


Для расчета его параметров применим метод стандартизации переменных и построим искомое уравнение в стандартизованном масштабе:
Расчет 
Получим уравнение
Для построения уравнения в естественной форме рассчитаем 



Значение а определим из соотношения
Для характеристики относительной силы влияния 


С увеличением средней заработной платы 





Различия в силе влияния фактора на результат, полученные при сравнении 


- Линейные коэффициенты частной корреляции здесь рассчитываются по рекуррентной формуле:
Если сравнить значения коэффициентов парной и частной корреляции, то приходим к выводу, что из-за слабой межфакторной связи 
Расчет линейного коэффициента множественной корреляции выполним с использованием коэффициентов 

Зависимость 



Сравнивая 

С вероятностью 



Частные 










Сравнивая 


Гипотезу 




Целесообразность включения в модель фактора 


Низкое значение 






Пример задачи №6
По 20 территориям России изучаются следующие данные (табл. 2.2): зависимость среднегодового душевого дохода у (тыс. руб.) от доли занятых тяжелым физическим трудом в общей численности занятых 

Требуется:
- Составить таблицу дисперсионного анализа для проверки при уровне значимости
статистической значимости уравнения множественной регрессии и его показателя тесноты связи.
- С помощью частных
-критериев Фишера оценить, насколько целесообразно включение в уравнение множественной регрессии фактора
после фактора
и насколько целесообразно включение
после
.
- Оценить с помощью
-критерия Стыодента статистическую значимость коэффициентов при переменных
и
множественного уравнения регрессии.
Решение:
- Задача дисперсионного анализа состоит в проверке нулевой гипотезы
о статистической незначимости уравнения регрессии в целом и показателя тесноты связи.
Анализ выполняется при сравнении фактического и табличного (критического) значений 
определяется из соотношения значений факторной и остаточной дисперсий, рассчитанных на одну степень свободы:
где 



Результаты дисперсионного анализа представлены в табл. 2.3.
Сравнивая 


Возможно эта страница вам будет полезна:
Результаты дисперсионного анализа представлены в табл. 2.4.
Включение фактора 


Аналогично проверим целесообразность включения в модель дополнительного фактора 

В силу того что
приходим к выводу, что включение 



Табличные (критические) значения 




В нашем примере при
Сравнивая 


приходим к заключению, что величина 


Возможно эта страница вам будет полезна:
Пример задачи №7
Зависимость спроса на свинину 


Требуется:
- Представить данное уравнение в естественной форме (не в логарифмах).
- Оценить значимость параметров данного уравнения, если известно, что
-критерий для параметра
при
составил 0,827, а для параметра
при
— 1,015.
Решение:
- Представленное степенное уравнение множественной регрессии приводим к естественной форме путём потенцирования обеих частей уравнения:
Значения коэффициентов регрессии 




Спрос на свинину 
- Это весьма небольшие значения
-критерия, которые свидетельствуют о случайной природе взаимосвязи, о статистической ненадежности всего уравнения, поэтому применять полученное уравнение для прогноза не рекомендуется.
Возможно эта страница вам будет полезна:
Пример задачи №8
По 20 предприятиям региона (табл. 2.5) изучается зависимость выработки продукции на одного работника у (тыс. руб.) от ввода в действие новых основных фондов 

Требуется:
- Оценить показатели вариации каждого признака и сделать вывод о возможностях применения МНК для их изучения.
- Проанализировать линейные коэффициенты парной и частной корреляции.
- Написать уравнение множественной регрессии, оценить значимость его параметров, пояснить их экономический смысл.
- С помощью
-критерия Фишера оценить статистическую надежность уравнения регрессии и
. Сравнить значения скорректированного и нескорректированного линейных коэффициентов множественной детерминации.
- С помощью частных
-критериев Фишера оценить целесообразность включения в уравнение множественной регрессии фактора
после
и фактора
после
.
- Рассчитать средние частные коэффициенты эластичности и дать на их основе сравнительную оценку силы влияния факторов на результат.
Возможно эта страница вам будет полезна:
Реализация типовых задач в Excel
- Решение примера проведем с использованием ППП MS Excel и Statgraphics.
Решение с помощью ППП Excel
Сводную таблицу основных статистических характеристик для одного или нескольких массивов данных можно получить с помощью инструмента анализа данных Описательная статистика. Для этого выполните следующие шаги:
1) введите исходные данные или откройте существующий файл, содержащий анализируемые данные;
2) в главном меню выберите последовательно пункты Сервис / Анализ данных / Описательная статистика, после чего щелкните по кнопке ОК;
3) заполните диалоговое окно ввода данных и параметров вывода (рис. 2.1):
Входной интервал — диапазон, содержащий анализируемые данные, это может быть одна или несколько строк (столбцов); Группирование — по столбцам или по строкам — необходимо указать дополнительно;
Метки — флажок, который указывает, содержит ли первая строка названия столбцов или нет;
Выходной интервал — достаточно указать левую верхнюю ячейку будущего диапазона;
Новый рабочий лист — можно задать произвольное имя нового листа.
Если необходимо получить дополнительную информацию Итоговой статистики, Уровня надежности, k-го наибольшего и наименьшего значений, установите соответствующие флажки в диалоговом окне. Щелкните по кнопке ОК.
Результаты вычисления соответствующих показателей для каждого признака представлены на рис. 2.2.
Решение с помощью ППП Statgraphics
Для проведения многофакторного анализа в ППП Statgraphics используется пункт меню Multiple Variable Analysis. Для получения показателей описательной статистики необходимо проделать следующие операции:
1) ввести исходные данные или открыть существующий файл, содержащий анализируемые данные;
2) в главном меню выбрать Describe/Numeric Data/Multiple Variable Analysis;
3) заполнить диалоговое окно ввода данных (рис. 2.3). Ввести названия всех столбцов, значения которых вы хотите включить в анализ; щелкнуть по кнопке ОК;
4) в окне табличных настроек поставить флажок напротив Summary Statistics (рис. 2.4). Итоговая статистика — показатели вариации -появится в отдельном окне.
Для данных примера 4 результат применения функции Multiple Variable Analysis представлен на рис. 2.5.
Сравнивая значения средних квадратических отклонений и средних величин и определяя коэффициенты вариации:
приходим к выводу о повышенном уровне варьирования признаков, хотя и в допустимых пределах, не превышающих 35%. Совокупность предприятий однородна, и для ее изучения могут использоваться метод наименьших квадратов и вероятностные методы оценки статистических гипотез.
- Значения линейных коэффициентов парной корреляции определяют тесноту попарно связанных переменных, использованных в данном уравнении множественной регрессии. Линейные коэффициенты частной корреляции оценивают тесноту связи значений двух переменных, исключая влияние всех других переменных, представленных в уравнении множественной регрессии.
Решение с помощью ППП Excel
К сожалению, в ППП MS Excel нет специального инструмента для расчета линейных коэффициентов частной корреляции. Матрицу парных коэффициентов корреляции переменных можно рассчитать, используя инструмент анализа данных Корреляция. Для этого:
1) в главном меню последовательно выберите пункты Сервис / Анализ данных / Корреляция. Щелкните по кнопке ОК;
2) заполните диалоговое окно ввода данных и параметров вывода (см. рис. 2.1);
3) результаты вычислений — матрица коэффициентов парной корреляции — представлены на рис. 2.6.
Решение с помощью ППП Stat graphics
При проведении многофакторного анализа — Multiple Variable Analysis — вычисляются линейные коэффициенты парной корреляции и линейные коэффициенты частной корреляции. Последовательность операций описана в п.1 этого примера. Для отображения результатов вычисления на экране необходимо установить флажки напротив Correlations и Partial Correlations в окне табличных настроек (рис. 2.7).
В результате получим матрицы коэффициентов парной и частной корреляции (рис. 2.8).
Значения коэффициентов парной корреляции указывают на весьма тесную связь выработки у как с коэффициентом обновления основных фондов — 
Но в то же время межфакторная связь 



Коэффициенты частной корреляции дают более точную характеристику тесноты связи двух признаков, чем коэффициенты парной корреляции, так как очищают парную зависимость от взаимодействия данной пары признаков с другими признаками, представленными в модели. Наиболее тесно связаны 

связь 

а межфакторная зависимость 



Все это приводит к выводу о необходимости исключить фактор 
Если сравнить коэффициенты парной и частной корреляции, то можно увидеть, что из-за высокой межфакторной зависимости коэффициенты парной корреляции дают завышенные оценки тесноты связи:
Именно по этой причине рекомендуется при наличии сильной коллинеарности (взаимосвязи) факторов исключать из исследования тот фактор, у которого теснота парной зависимости меньше, чем теснота межфакторной связи.
- Вычисление параметров линейного уравнения множественной регрессии.
Решение с помощью ППП Excel
Эта операция проводится с помощью инструмента анализа данных Регрессия. Она аналогична расчету параметров парной линейной регрессии, описанной в 1-м разделе практикума, только в отличие от парной регрессии в диалоговом окне при заполнении параметра входной интервал и следует указать не один столбец, а все столбцы, содержащие значения факторных признаков. Результаты анализа представлены на рис. 2.9.
Для вычисления параметров множестнсшшП регрессии можно использовать процедуру Multiple Regression. Дни »нно:
1) введите исходные данные или откройте сущее i иун>щи11 файл;
2) в главном меню последовательно выберите Heinle / Multiple Regression;
3) заполните диалоговое окно ввода данных. II ноне Depended Variable введите название столбца, содержащею шичпш» зависимой переменной, в поле Independed Variable — нашими* i ишбцов, содержащих значения факторов. Щелкните по кнопке ОК
Результаты вычисления функции Multiple КсЦ1 гм1«ш появятся в отдельном окне (рис. 2.10).
По результатам вычислений составим урцниемн* множественной регрессии вида
Значения случайных ошибок параметров 
Они показывают, какое значение данной характеристики сформировалось под влиянием случайных факторов. Эти значения используются для расчета 
Если значения 




На это же указывает показатель вероятности случайных значений параметров регрессии: если а меньше принятого нами уровня (обычно 0,1; 0,05 или 0,01; это соответствует 10%; 5% или 1% вероятности), делают вывод о неслучайной природе данного значения параметра, т.е. о том, что он статистически значим и надежен. В противном случае принимается гипотеза о случайной природе значения коэффициентов уравнения. Здесь
что позволяет рассматривать 
Величина 


Величины 



Оценку надежности уравнения регрессии в целом и показателя тесноты связи 

По данным таблиц дисперсионного анализа, представленным на рис. 2.9 и 2.10, 



Значения скорректированного и нескорремирпианпого линейных коэффициентов множественной детерминации приведены на рис. 2.9 и 2.10 в рамках регрессионной статистики.
Нескорректированный коэффициент множественной детерминации
оценивает долю вариации результата за счет представленных в уравнении фактором в общей вариации результата. Здесь эта доля составляет 94,7% и указывает на весьма высокую степень обусловленности вариации вариацией факторов, иными словами — на весьма теси> i факторов с результатом.
Скорректированный коэффициент множественной детерминации
определяет тесноту связи с учетом степеней свободы общей и остаточной дисперсий. Он дает такую оценку тесноты связи, которая не зависит от числа факторов и потому может сравниваться по разным моделям с разным что ном факторов. Оба коэффициента указывают на весьма высокую (Ооиес 90%) детерминированность результата в модели факторами.
1) введите исходные данные или откройте существующий файл;
2) в главном меню последовательно выберите пункты Relate / Multiple Regression;
3) заполните диалоговое окно ввода данных. В поле Depended Variable введите название столбца, содержащего значения зависимой переменной, в поле Independed Variable — названия столбцов, содержащих значения факторов, в том порядке, в котором будет проводиться анализ целесообразности включения факторов в модель. Чтобы оценить статистическую значимость включения в модель фактора 







4) в окне табличных настроек поставьте флажок напротив поля Conditional Sums of Squares.
Результаты вычисления показаны на рис. 2.11.
Частный 











Если поменять первоначальный порядок включения факторов в модель и рассмотреть вариант включения 



Вероятность его случайного формирования составила 0,04%, это значительно меньше принятого стандарта 





Общий вывод состоит в том, что множественная модель с факторами 

содержит неинформативный фактор 

более простым, хорошо детерминированным, ириголным для анализа и для прогноза.
- Средние частные коэффициенты эластичности показывают, на сколько процентов от значения своей средней изменяется результат при изменении фактора
на 1% от своей средней
и
при фиксированном воздействии на у всех прочих факторов, включенных в уравнение регрессии. Для линейной зависимости
где 

По значениям частных коэффициентов эластичности можно сделать вывод о более сильном влиянии на результат у признака фактора 

Возможно эта страница вам будет полезна:
Система эконометрических уравнений
Сложные экономические процессы описывают с помощью системы взаимосвязанных (одновременных) уравнений.
Различают несколько видов систем уравнений: • система независимых уравнений — когда каждая зависимая переменная 

Для решения этой системы и нахождения ее параметров используется метод наименьших квадратов;
• система рекурсивных уравнений — когда зависимая переменная 

Для решения этой системы и нахождения ее параметров используется метод наименьших квадратов;
• система взаимосвязанных (совместных) уравнений — когда одни и те же зависимые переменные в одних уравнениях входят в левую часть, а в других — в правую:
Такая система уравнений называется структурной формой модели.
Эндогенные переменные — взаимозависимые переменные, которые определяются внутри модели (системы) 
Экзогенные переменные — независимые переменные, которые определяются вне системы 
Предопределенные переменные — экзогенные и лаговые (за предыдущие моменты времени) эндогенные переменные системы.
Коэффициенты 

Система линейных функций эндогенных переменных от всех предопределенных переменных системы — приведенная форма модели.
где 
Необходимое условие идентификации — выполнение счетного правила:



где 

Достаточное условие идентификации — определитель матрицы, составленной из коэффициентов при переменных, отсутствующих в исследуемом уравнении, не равен нулю, и ранг этой матрицы не менее числа эндогенных переменных системы без единицы.
Для решения идентифицируемого уравнения применяется косвенный метод наименьших квадратов, для решения сверхидентифицированных — двухшаговый метод наименьших квадратов.
Косвенный МНК состоит в следующем:
• составляют приведенную форму модели и определяют численные значения параметров каждого ее уравнения обычным МНК;
• путем алгебраических преобразований переходят от приведенной формы к уравнениям структурной формы модели, получая тем самым численные оценки структурных параметров.
Двухшаговый МНК заключается в следующем:
• составляют приведенную форму модели и определяют численные значения параметров каждого ее уравнения обычным МНК;
• выявляют эндогенные переменные, находящиеся в правой части структурного уравнения, параметры которого определяют двухша-говым МНК, и находят расчетные значения по соответствующим уравнениям приведенной формы модели;
• обычным МНК определяют параметры структурного уравнения, используя в качестве исходных данных фактические значения предопределенных переменных и расчетные значения эндогенных переменных, стоящих в правой части данного структурного уравнения.
Пример задачи №9
Требуется:
- Оценить следующую структурную модель на идентификацию:
- Исходя из приведенной формы модели уравнений
найти структурные коэффициенты модели.
Решение:
Проверим каждое уравнение системы на необходимое (Н) и достаточное (Д) условия идентификации.
Первое уравнение. Н: эндогенных переменных — 

Д: в первом уравнений отсутствуют 

Определитель матрицы не равен 0, ранг матрицы равен 2; следовательно, выполняется достаточное условие идентификации, и первое уравнение точно идентифицируемо.
Второе уравнение.
Н: эндогенных переменных — 
Выполняется необходимое равенство: 3 = 2+ 1, следовательно, уравнение точно идентифицируемо.
Д: во втором уравнении отсутствуют 

Определитель матрицы не равен 0, ранг матрицы равен 2, следовательно, выполняется достаточное условие идентификации, и второе уравнение точно идентифицируемо.
Третье уравнение.
Н: эндогенных переменных — 

Выполняется необходимое равенство: 2=1 + 1, следовательно, уравнение точно идентифицируемо.
Д: в третьем уравнении отсутствуют 

Определитель матрицы не равен 0, ранг матрицы равен 2, следовательно, выполняется достаточное условие идентификации, и третье уравнение точно идентифицируемо.
Следовательно, исследуемая система точно идентифицируема и может быть решена косвенным методом наименьших квадратов.
- Вычислим структурные коэффициенты модели:
1)из третьего уравнения приведенной формы выразим 
Данное выражение содержит переменные 

2) во втором уравнении СФМ нет переменных 

Первый этап: выразим 
Подстановка данного выражения во второе уравнение ПФМ не решило бы задачу до конца, так как в выражении присутствует 
Выразим 
Подставим его в выражение 
Второй этап: аналогично, чтобы выразить 





Следовательно,
Подставим полученные 

Это уравнение можно получить из ПФМ иным путем. Суммируя все уравнения, получим
Далее из первого и второго уравнений ПФМ исключим домножив первое уравнение на 3, а второе — на (-2) и просуммировав их:
Затем аналогичным путем из полученных уравнений исключаем 
3) из второго уравнения ПФМ выразим 
Подставим полученное выражение в третье уравнение ПФМ:
Таким образом, СФМ примет вид
Пример задачи №10
Изучается модель вида
где 




Информация за девять лет о приростах всех показателей дана в табл. 3.1*.
Для данной модели была получена система приведенных уравнений:
Требуется:
- Провести идентификацию модели.
- Рассчитать параметры первого уравнения структурной модели.
Решение:
В данной модели две эндогенные переменные ( и ) и две экзогенные переменные ( и ). Второе уравнение точно идентифицировано, так как содержит две эндогенные переменные и не содержит одну экзогенную переменную из системы. Иными словами, для второго уравнения имеем по счетному правилу идентификации равенство: 2=1 + 1.
Первое уравнение сверхидентифицировано, так как в нем на параметры при 





- Для определения параметров сверхидентифицированной модели используется двухшаговый метод наименьших квадратов.
Шаг 1. На основе системы приведенных уравнений по точно идентифицированному второму уравнению определим теоретические значения эндогенной переменной 
подставим значения 

Шаг 2. По сверхидентифицированному уравнению структурной формы модели заменяем фактические значения 



Далее к сверхидентифицированному уравнению применяется метод наименьших квадратов. Обозначим новую переменную 


Система нормальных уравнений составит:
Итак, первое уравнение структурной модели будет таким:
Пример задачи №11
Имеются данные за 1990-1994 гг. (табл. 3.3).
Требуется: Построить модель вида
рассчитав соответствующие структурные коэффициенты.
Решение:
Система одновременных уравнений с двумя эндогенными и двумя экзогенными переменными имеет вид
В каждом уравнении две эндогенные и одна отсутствующая экзогенная переменная из имеющихся в системе. Для каждого уравнения данной системы действует счетное правило 2=1 + 1. Это означает, что каждое уравнение и система в целом идентифицированы.
Для определения параметров такой системы применяется косвенный метод наименьших квадратов.
С этой целью структурная форма модели преобразуется в приведенную форму:
в которой коэффициенты при 
Для нахождения значений 

При ее решении предполагается, что 

Применительно к ней необходимые суммы оказываются следующими:
Система нормальных уравнений составит:
Решая ее, получим:
Итак, имеем
Аналогично строим систему нормальных уравнений для определения коэффициентов 

Следовательно,
тогда второе уравнение примет вид
Приведенная форма модели имеет вид
Из приведенной формы модели определяем коэффициенты структурной модели:
Итак, структурная форма модели имеет вид
Пример задачи №12
Рассматривается следующая модель:
где
Требуется:
- В предположении, что имеются временные ряды данных по всем переменным модели, предложите способ оценки ее параметров.
- Как изменится ваш ответ на вопрос п. 1, если из модели исключить тождество дохода?
Решение:
- Модель представляет собой систему одновременных уравнений. Для ответа на вопрос о способе оценки параметров модели проверим каждое ее уравнение на идентификацию.
Модель включает четыре эндогенные переменные 




Проверим необходимое условие идентификации для уравнений модели уравнение.
Это уравнение включает две эндогенные переменные 

II уравнение.
Уравнение II включает две эндогенные переменные, 
III уравнение.
Уравнение III тоже включает две эндогенные переменные и не включает три предопределенные переменные. Это уравнение сверхидентифицировано.
IV уравнение.
Уравнение IV представляет собой тождество, параметры которого известны. Необходимости в его идентификации нет.
Проверим для каждого из уравнений достаточное условие идентификации. Для этого составим матрицу коэффициентов при переменных модели:
В соответствии с достаточным условием идентификации определитель матрицы коэффициентов при переменных, не входящих в исследуемое уравнение, не должен быть равен нулю, а ранг матрицы должен быть равен числу эндогенных переменных модели минус 1, т.е. 4-1=3.
I уравнение.
Матрица коэффициентов при переменных, не входящих в уравнение, имеет вид
Ее ранг равен 3, так как определитель квадратной подматрицы 3×3 этой матрицы не равен нулю:
Достаточное условие идентификации для I уравнения выполняется.
II уравнение.
Выпишем матрицу коэффициентов при переменных, не входящих в уравнение:
Ее ранг равен трем, так как определитель квадратной подматрицы 3 х 3 этой матрицы не равен нулю:
Достаточное условие идентификации для II уравнения выполняется.
Ill уравнение.
Выпишем матрицу коэффициентов при переменных, не входящих в уравнение:
Ее ранг равен трем, так как определитель квадратной подматрицы 3 х 3 этой матрицы не равен нулю:
Достаточное условие идентификации для III уравнения выполняется.
Таким образом, все уравнения модели сверхидентифицированы. Для оценки параметров каждого из уравнений будем применять двухшаговый МНК.
Шаг 1. Запишем приведенную форму модели в общем виде:
где 
Определим параметры каждого из приведенных выше уравнений в отдельности обычным МНК. Затем найдем расчетные значения
эндогенных переменных 
Шаг 2. В исходных структурных уравнениях заменим эндогенные переменные, выступающие в качестве факторных признаков, их расчетными значениями:
Применяя к каждому из полученных уравнений в отдельности обычный МНК, определим структурные параметры
Если из модели исключить тождество дохода, число предопределенных переменных модели уменьшится на 1 (из модели будет исключена переменная 




Временные ряды в эконометрических исследованиях
Модели, построенные по данным, характеризующим один объект за ряд последовательных моментов (периодов), называются моделями временных рядов.
Временной ряд — это совокупность значений какого-либо показателя за несколько последовательных моментов или периодов.
Каждый уровень временного ряда формируется из трендовой 


Модели, в которых временной ряд представлен как сумма перечисленных компонент, — аддитивные модели, как произведение -мультипликативные модели временного ряда. Аддитивная модель имеет вид:
мультипликативная модель:
Построение аддитивной и мультипликативной моделей сводится к расчету значений 
1) выравнивание исходного ряда методом скользящей средней;
2) расчет значений сезонной компоненты 
3) устранение сезонной компоненты из исходных уровней ряда и получение выровненных данных в аддитивной 

4) аналитическое выравнивание уровней 

5) расчет полученных по модели значений 

6) расчет абсолютных и/или относительных ошибок.
Автокорреляция уровней ряда — это корреляционная зависимость между последовательными уровнями временного ряда:
где
коэффициент автокорреляции уровней ряда первого порядка;
где
коэффициент автокорреляции уровней ряда второго порядка.
Формулы для расчета коэффициентов автокорреляции старших порядков легко получить из формулы линейного коэффициента корреляции.
Последовательность коэффициентов автокорреляции уровней первого, второго и т.д. порядков называют автокорреляционной функцией временного ряда, а график зависимости ее значений от величины лага (порядка коэффициента автокорреляции) — коррело-граммой.
Построение аналитической функции для моделирования тенденции (тренда) временного ряда называют аналитическим выравниванием временного ряда. Для этого чаще всего применяются следующие функции:
• линейная
• гипербола
• экспонента
• степенная функция
• парабола второго и более высоких порядков
Параметры трендов определяются обычным МНК, в качестве независимой переменной выступает время 


При построении моделей регрессии по временным рядам для устранения тенденции используются следующие методы.
Метод отклонений от тренда предполагает вычисление трендовых значений для каждого временного ряда модели, например 

Для дальнейшего анализа используют не исходные данные, а отклонения от тренда.
Метод последовательных разностей заключается в следующем: если ряд содержит линейный тренд, тогда исходные данные заменяются первыми разностями:
если параболический тренд — вторыми разностями:
В случае экспоненциального и степенного тренда метод последовательных разностей применяется к логарифмам исходных данных.
Модель, включающая фактор времени, имеет вид
Параметры а и b этой модели определяются обычным МНК.
Автокорреляция в остатках — корреляционная зависимость между значениями остатков 
Для определения автокорреляции остатков используют критерий Дарвина — Уотсона и расчет величины:
Коэффициент автокорреляции остатков первого порядка определяется по формуле
Критерий Дарбина — Уотсона и коэффициент автокорреляции остатков первого порядка связаны соотношением
Эконометрические модели, содержащие не только текущие, но и лаговые значения факторных переменных, называются моделями с распределенным лагом.
Модель с распределенным лагом в предположении, что максимальная величина лага конечна, имеет вид
Коэффициент регрессии 





В момент 







Величины
называются относительными коэффициентами модели с распределенным лагом. Если все коэффициенты 
Величина среднего лага модели множественной регрессии определяется по формуле средней арифметической взвешенной:
и представляет собой средний период, в течение которого будет происходить изменение результата под воздействием изменения фактора в момент 
Медианный лаг — это период, в течение которого с момента времени 
где 
Оценку параметров моделей с распределенными лагами можно проводить согласно одному из двух методов: методу Койка или методу Алмон.
В распределении Койка делается предположение, что коэффициенты при лаговых значениях объясняющей переменной убывают в геометрической прогрессии:
Уравнение регрессии преобразуется к виду
После несложных преобразований получаем уравнение, оценки параметров которого приводят к оценкам параметров исходного уравнения.
В методе Алмон предполагается, что веса текущих и лаговых значений объясняющих переменных подчиняются полиномиальному распределению:
Уравнение регрессии примет вид
Расчет параметров модели с распределенным лагом методом Алмон проводится по следующей схеме:
1) устанавливается максимальная величина лага 
2) определяется степень полинома 
3) рассчитываются значения переменных 
4) определяются параметры уравнения линейной регрессии 

5) рассчитываются параметры исходной модели с распределенным лагом.
Модели, содержащие в качестве факторов лаговые значения зависимой переменной, называются моделями авторегрессии, например:
Как и в модели с распределенным лагом, 


Отметим, что такая интерпретация коэффициентов модели авторегрессии и расчет долгосрочного мультипликатора основаны на предпосылке о наличии бесконечного лага в воздействии текущего значения зависимой переменной на ее будущие значения.
Пример задачи №13
По данным за 18 месяцев построено уравнение регрессии зависимости прибыли предприятия 


При анализе остаточных величин были использованы значения, приведенные в табл. 4.1.
Требуется:
- По трем позициям рассчитать
- Рассчитать критерий Дарбина — Уотсона.
- Оценить полученный результат при 5%-ном уровне значимости.
- Указать, пригодно ли уравнение для прогноза.
Решение:
определяется путем подстановки фактических значений
и
в уравнение регрессии:
Остатки 
Следовательно,


- Критерий Дарбина — Уотсона рассчитывается по формуле
4-4 = 4-3,81 =0,19,
что значительно меньше, чем 
- Уравнение регрессии не может быть использовано для прогноза, так как в нем не устранена автокорреляция в остатках, которая может иметь разные причины. Автокорреляция в остатках может означать, что в уравнение не включен какой-либо существенный фактор. Возможно также, что форма связи неточна, а может быть, в рядах динамики имеется общая тенденция.
Пример задачи №14
Имеются следующие данные о величине дохода на одного члена семьи и расхода на товар 
Требуется:
- Определить ежегодные абсолютные приросты доходов и расходов и сделать выводы о тенденции развития каждого ряда.
- Перечислить основные пути устранения тенденции для построения модели спроса на товар
в зависимости от дохода.
- Построить линейную модель спроса, используя первые разности уровней исходных динамических рядов.
- Пояснить экономический смысл коэффициента регрессии.
- Построить линейную модель спроса на товар
, включив в нее фактор времен». Интерпретировать полученные параметры.
Решение:
Обозначим расходы на товар 


Расчеты можно оформить в виде таблицы (табл. 4.4).
Значения 

Так как ряды динамики имеют общую тенденцию к росту, то для построения регрессионной модели спроса на товар 

Другой возможный путь учета тенденции при построении моделей — найти по каждому ряду уравнение тренда:
и отклонения от него:
Далее модель строится по отклонениям от тренда:
При построении эконометрических моделей чаще используется другой путь учета тенденции — включение в модель фактора времени. Иными словами, модель строится по исходным данным, но в нее в качестве самостоятельного фактора включается время, т.е. 
Модель имеет вид
Для определения параметров 

Применительно к нашим данным имеем
Решая эту систему, получим:
откуда модель имеет вид
Коэффициент регрессии
Он означает, что с ростом прироста душевого дохода на 1%-ный пункт расходы на товар 
Модель имеет вид
Применяя МНК, получим систему нормальных уравнений:
Расчеты оформим в виде табл. 4.5.
Система уравнений примет вид
Решая ее, получим
Уравнение регрессии имеет вид
Параметр 




Пример задачи №15
По данным за 30 месяцев некоторого временного ряда 
Требуется:
- Охарактеризовать структуру этого ряда, используя графическое изображение.
- Для прогнозирования значений
в будущие периоды предполагается построить уравнение авторегрессии. Выбрать наилучшее уравнение, обосновать выбор. Указать общий вид этого уравнения.
Решение:
- Так как значения всех коэффициентов автокорреляции достаточно высокие, ряд содержит тенденцию. Поскольку наибольшее абсолютное значение имеет коэффициент автокорреляции 4-го порядка
, ряд содержит периодические колебания, цикл этих колебаний равен 4.
Наиболее целесообразно построение уравнения авторегрессии:
так как значение 
Кроме того, возможно построение и множественного уравнения авторегрессии 



Сравнить полученные уравнения и выбрать наилучшее решение можно с помощью скорректированного коэффициента детерминации.
Пример задачи №16
На основе помесячных данных о числе браков (тыс.) в регионе за последние три года была построена аддитивная модель временного ряда. Скорректированные значения сезонной компоненты за соответствующие месяцы приводятся в табл. 4.6.
Уравнение тренда выглядит следующим образом:
при расчете параметров тренда использовались фактические моменты времени 
Требуется:
- Определить значение сезонной компоненты за декабрь.
- На основе построенной модели дать прогноз общего числа браков, заключенных в течение первого квартала следующего года.
Решение:
- Сумма значений сезонной компоненты внутри одного цикла должна быть равна нулю (в соответствии с методикой построения аддитивной модели временного ряда). Следовательно, значение сезонной компоненты за декабрь составит:
Число браков, заключенных в первом квартале следующего года, есть сумма числа браков, заключенных в январе 


Для расчета трендовых значений воспользуемся уравнением тренда, указанным в условии задачи:
Соответствующие значения сезонных компонент составят:
Таким образом,
Количество браков, заключенных в первом квартале следующего года, составит: 2,61 + 5,64 + 3,17 = 11,42 тыс., или 11420.
Пример задачи №17
Динамика выпуска продукции Финляндии характеризуется данными (млн долл.), представленными в табл. 4.7.
Требуется:
- Провести расчет параметров линейного и экспоненциального трендов.
- Построить графики ряда динамики и трендов.
- Выбрать наилучший вид тренда на основании графического изображения и значения коэффициента детерминации.
Реализация типовых задач в Excel
Решение с использованием ППП MS Excel
- Для определения параметров линейного тренда по методу наименьших квадратов используется статистическая функция ЛИНЕЙН, для определения экспоненциального тренда -ЛГРФПРИБЛ. Порядок вычисления был рассмотрен в 1-м разделе практикума. В качестве зависимой переменной в данном примере выступает время
. Приведем результаты вычисления функций ЛИНЕЙН и ЛГРФПРИБЛ (рис. 4.2 и 4.3).
Запишем уравнения линейного и экспоненциального тренда, используя данные рис. 4.2 и 4.3:
- Построение графиков осуществляется с помощью Мастера диаграмм.
Порядок построения следующий:
1) введите исходные данные или откройте существующий файл, содержащий анализируемые данные;
2) активизируйте Мастер диаграмм любым из следующих способов:
а) в главном меню выберите Вставка/Диаграмма;
б) на панели инструментов Стандартная щелкните по кнопке Мастер диаграмм;
3) в окне Тип выберите График (рис. 4.4); вид графика выберите в поле рядом со списком типов. Щелкните по кнопке Далее;
4) заполните диапазон данных, как показано на рис. 4.5. Установите флажок размещения данных в столбцах (строках). Щелкните по кнопке Далее;
5) заполните параметры диаграммы на разных закладках (рис. 4.6): названия диаграммы и осей, значения осей, линии сетки, параметры легенды, таблица и подписи данных. Щелкните по кнопке Далее;
6) укажите место размещения диаграммы на отдельном или на имеющемся листе (рис. 4.7). Щелкните по кнопке Далее. Готовая диаграмма, отражающая динамику уровней изучаемого ряда, представлена на рис. 4.8.
В ППП MS Excel линия тренда может быть добавлена в диаграмму с областями гистограммы или в график. Для этого:
1) выделите область построения диаграммы; в главном меню выберите Диаграмма/Добавить линию тренда;
2) в появившемся диалоговом окне (рис. 4.9) выберите вид линии тренда и задайте соответствующие параметры. Для полиномиального тренда необходимо задать степень аппроксимирующего полинома, для скользящего среднего — количество точек усреднения.
В качестве дополнительной информации на диаграмме можно отобразить уравнение регрессии и значение среднеквадратического отклонения, установив соответствующие флажки на закладке Параметры (рис. 4.10). Щелкните по кнопке ОК.
На рис. 4.11 — 4.15 представлены различные виды трендов, описывающие исходные данные задачи.
Сравним значения 





Исходные данные лучше всего описывает полином 6-й степени. Следовательно, в рассматриваемом примере для расчета прогнозных значений следует использовать полиномиальное уравнение.
Кстати готовые на продажу задачи тут, и там же теория из учебников может быть вам поможет она.
Пример задачи №18
Имеются данные о динамике товарооборота и доходов населения России за 1997 — 1999 гг. (табл. 4.8).
Требуется:
- Оценить параметры модели с распределенными лагами методом Алмон.
- Постройте таблицу результатов дисперсионного анализа. Оцените значимость построенной модели.
Решение:
Решение с использованием ППП Statistica
- Для построения регрессионной модели с распределенными лагами необходимо априори задать длину максимального лага, для этой задачи выберем длину 3. Тогда уравнение регрессии будет выглядеть следующим образом:
Для оценки параметров этой модели согласно методу Алмон необходимо задать степень аппроксимирующего полинома. Для решения используем соответствующую процедуру ППП Statistica. Порядок расчетов следующий:
1) введите исходные данные или откройте существующий файл другого формата, содержащий анализируемые данные, в опции Data Management в окне переключения модулей (рис. 4.16). Если создаете новый файл данных, в соответствующих ячейках укажите количество строк и столбцов. В нашем случае — 2 столбца, 36 строк;
2) из модуля управления данными перейдите в модуль анализа временных рядов, выбрав в меню пункт Time Series / Forecasting;
3) откройте файл, содержащий данные — Open Data (рис. 4.17);
4) выделите все переменные, используемые для анализа, — Variables. Щелкните по кнопке ОК (рис. 4.18).
5) щелкните по кнопке Distributed lags analysis (см. рис. 4.17);
6) в окне Distributed Lags Analysis (рис. 4.19) выделите название зависимой переменной, в появляющемся окне Independent variable -название независимой переменной. В ячейке Lag length укажите значение максимального лага, в ячейке Almon polynomial lags — степень аппроксимирующего полинома. Степень полинома не должна превышать значение максимального лага. Щелкните по кнопке ОК (Begin analysis);
7) результаты расчетов — оценки регрессионных коэффициентов и значимость уравнения — приведены на рис. 4.20 и 4.21.
Согласно данным таблицы дисперсионного анализа (см. рис. 4.21), полученные значения 

Задачи с решением по всем темам эконометрики
Эконометрика – это раздел экономики, занимающийся разработкой и применением статистических методов для измерений взаимосвязей между экономическими переменными.
Эконометрика – это самостоятельная научная дисциплина, объединяющая совокупность теоретических результатов, приемов, методов и моделей.
Парный регрессионный анализ. Функциональная, статистическая и корреляционная зависимости
Из математики известно понятие функциональной зависимости (связи), когда каждому значению одной переменной соответствует вполне определенное значение другой (например, площадь круга в зависимости от радиуса и т.д.).
В экономике в большинстве случаев между переменными величинами существуют зависимости, когда каждому значению одной переменной соответствует не какое-то определенное, а множества возможных значений другой переменной Иначе говоря, каждому значению одной переменной соответствует определенное (условное) распределение другой переменной. Такая зависимость получила название статистической (или стохастической, вероятностной).
Возникновение понятия статистической связи обуславливается тем, что зависимая переменная подвержена влиянию множества неконтролируемых или неучтенных факторов, а таюке тем, что измерение значений переменных сопровождается случайными ошибками. Примером статистической связи является зависимость урожайности от количества внесенных удобрений, производительности труда на предприятии от его энерговооруженности и т.п.
В силу неоднозначности статистической зависимости между 







Корреляционной зависимостью между двумя переменными называется функциональная зависимость между значениями одной из них и условным математическим ожиданием другой.
Корреляционная зависимость может быть представлена в виде
где
В регрессионном анализе рассматривается односторонняя зависимость случайной переменной 







Уравнение (1.1) называется модельным уравнением регрессии (или просто уравнением регрессии), а функция 
Для точного описания уравнения регрессии необходимо знать условный закон распределения зависимой переменной 





где 



Уравнение (1.2) называется выборочным уравнением регрессии
При правильно определенной аппроксимирующей функции 

Линейная парная регрессия
Рассмотрим в качестве примера зависимость между сменной добычей угля на одного рабочего 


Изобразим полученную зависимость графически точками координатной плоскости (рис. 1.1). Такое изображение статистической зависимости называется полем корреляции.
По расположению эмпирических точек можно предполагать наличие линейной корреляционной (регрессионной) зависимости между переменными 

Найдем формулы расчета неизвестных параметров уравнения линейной регрессии. Согласно методу наименьших квадратов неизвестные параметры 



На основании необходимого условия экстремума функции двух переменных 
откуда после преобразований получим систему нормальных уравнений для определения параметров линейной регрессии
Разделив обе части уравнений (1.5) на 
где соответствующие средние определяются по формулам:
Решая систему (1.6), найдем
Коэффициент 

Коэффициент регрессии 



выборочная дисперсия переменной 
выборочная ковариация.
Уравнение регрессии примет вид:
Задача №1.1.
По данным табл. 1.1 найти уравнение регрессии 

Решение:
Вычислим все необходимые суммы:
Затем находим параметры уравнения регрессии:
Уравнение регрессии 

Из полученного уравнения регрессии (см. рис. I 1) следует, что при увеличении мощности пласта 

Коэффициент корреляции
Оценим тесноту корреляционной зависимости. Рассмотрим случай линейной зависимости вида (1.10):
На первый взгляд, подходящим измерителем тесноты связи 






В этом выражении величина 




Величина 


Если 


Отметим другие модификации формулы 
Выборочный коэффициент корреляции 

- Коэффициент корреляции принимает значения на отрезке [-1;1], т.е.
. Чем ближе
к единице, тем теснее связь.
- При
корреляционная связь представляет линейную функциональную зависимость. При этом все наблюдаемые значения располагаются на прямой линии (рис. 1.3 а, 6).
- При
линейная корреляционная связь отсутствует. При этом линия регрессии параллельна оси
(рис. 1.3 в).
Следует отметить, что 








Возможно эта страница вам будет полезна:
Задача №1.2.
По данным табл. 1.1 вычислить коэффициент корреляции между переменными 
Решение:
В примере 1.1 были вычислены суммы
Вычислим сумму:
Вычислим коэффициент корреляции:
т. е. связь между переменными достаточно тесная
Основные положения регрессионного анализа. Оценка параметров парной регрессионной модели
Рассматриваемая в регрессионном анализе зависимость 



где 



Рассмотрим линейный регрессионный анализ, для которого функция 
Предположим, что для оценки параметров линейной функции регрессии (1.16) взята выборка, содержащая 


Отметим основные предпосылки регрессионного анализа.
(или математическое ожидание зависимой переменной 
или
условие гомоскедастичности или равноизменчивости возмущения (зависимой переменной)).
В этом случае модель (1.17) называется классической нормальной линейной регрессионной моделью.
Для получения уравнения регрессии достаточно предпосылок 1-4. Требование выполнения предпосылки 5 (т. е. рассмотрение «нормальной регрессии») необходимо для оценки точности уравнения регрессии и его параметров.
Оценкой модели (1.17) по выборке является уравнение регрессии
Параметры этого уравнения 

Воздействие неучтенных случайных факторов и ошибок наблюдений в модели (1.17) определяется с помощью дисперсии возмущений (ошибок) или остаточной дисперсии 
где 


В знаменателе выражения (1.18) стоит число степеней свободы 
Ответ на вопрос, являются ли оценки 

Теорема Гаусса—Маркова. Если регрессионная модель (1.17) удовлетворяет предпосылкам 1 -4 , то оценки 





Интервальная оценка функции регрессии и ее параметров
Построим доверительный интервал для функции регрессии, т.е. для условного математического ожидания 


Найдем дисперсию групповой средней 

На рис. 1.4 линия регрессии (1.19) изображена графически. Для произвольного наблюдаемого значения 




Дисперсия групповой средней равна сумме дисперсий двух независимых слагаемых выражения (1.19):
Здесь учтено, что 
Дисперсии выборочной средней 

Оценка 

Основываясь на предпосылках 1 — 5 регрессионного анализа можно показать, что статистика 



где 










Определим доверительный интервал для индивидуальных значений зависимой переменной. Построенная доверительная область для 





а соответствующий доверительный интервал для прогнозов индивидуальных значений 
Построим доверительный интервал для параметров регрессионной модели, в частности для параметров регрессионной модели 

При выполнении предпосылки 5 регрессионного анализа статистика 
имеет 

Поэтому интервальная опенка параметра 
При построении доверительного интервала для параметра 





доверительный интервал выбирается таким образом, чтобы
Задача №1.3.
По данным табл. 1.1 требуется:
1) оценить сменную среднюю добычу угля на одного рабочего для шахт с мощностью пласта 8 м;
2) найти 95% — ные доверительные интервалы для индивидуального и среднего значений сменной добычи угля на 1 рабочего для таких же шахт;
3) найти с надежностью 0,95 интервальные оценки коэффициента рецессии 

Решение:
Уравнение регрессии 




Для построения доверительного интервала для 


Подставим из таблицы найденные значения в формулы
Следовательно
По таблице значений 

Средняя сменная добыча угля на одного рабочего для шахт с мощностью пласта 8м с надежностью 0,95 находится в пределах от 2,77 до 6,03 т. 2. Чтобы построить доверительный интервал для индивидуального значения 
Искомый доверительный интервал примет вид:
Таким образом, индивидуальная сменная добыча угля на одного рабочего для шахт с мощностью пласта 8м с надежностью 0,95 находится в пределах от 0,57 до 8,23 т.
- Найдем 95% -ный доверительный интервал для параметра
по формуле (1.27)
т. е. с надежностью 0,95 при изменении мощности пласта 

Найдем 95%-ный доверительный интервал для параметра
Учитывая, что 

Подставим найденные значения в формулу для оценки интервала получим:
Таким образом, с надежностью 0,95 дисперсия возмущений заключена в пределах от 1,29 до 10,36, а их стандартное отклонение — от 1,13 до 3,22 (т).
Оценка значимости уравнения регрессии. Коэффициент детерминации
Проверить значимость уравнения регрессии — значит установить, соответствует ли математическая модель, выражающая зависимость между переменными, экспериментальным данным и достаточно ли включенных в уравнение объясняющих переменных (одной или нескольких) для описания зависимой переменной.
Проверка значимости уравнения регрессии производится на основе дисперсионного анализа.
Согласно основной идее дисперсионного анализа
или
где 


Нетрудно убедиться, что третье слагаемое
Представим полученные соотношения в виде таблицы 1.3
Средние квадраты 




Уравнение регрессии значимо на уровне 
Задача №1.4.
По данным табл. 1.1 оценить на уровне 


Решение:
Ранее, были
Вычислим суммы квадратов для определения компонент дисперсии:
Находим значение 
По таблице значений 
Так как
то уравнение регрессии значимо.
Одной из наиболее эффективных оценок адекватности регрессионной модели, мерой качества уравнения регрессии, (или, как говорят, мерой качества подгонки регрессионной модели к найденным значениям 
Величина 
Так как 







Заметим, что коэффициент 
Если известен коэффициент детерминации 
В случае парной линейной регрессионной модели коэффициент детерминации равен квадрату коэффициента корреляции, т. е. 
Задача №1.5.
По данным табл. 1.1 найти коэффициент детерминации и пояснить его смысл.
Решение:
В примере 1.4 было получено 
Коэффициент детерминации можно было вычислить и иначе, если учесть, что в примере 1.2 был вычислен коэффициент корреляции 


Это означает, что вариация зависимой переменной 

Множественный регрессионный анализ. Классическая нормальная линейная модель множественной регрессии
Экономические явления, как правило, определяются большим числом одновременно и совокупно действующих факторов. В связи с этим часто возникает задача исследования зависимости одной зависимой переменной 

Обозначим 

где

Включение в регрессионную модель новых объясняющих переменных приводит к целесообразности использования матричных обозначений. Магричное описание регрессии облегчает как теоретические концепции анализа, так и необходимые расчетные процедуры.
Введем обозначения:


матрица значений объясняющих переменных, или матрица плана размерности 







Тогда в матричной форме модель примет вид:
Оценкой этой модели по выборке является уравнение
где
Оценка параметров классической регрессионной модели методом наименьших квадратов
Для оценки вектора неизвестных параметров 
Условие минимизации остаточной суммы квадратов запишется в виде:
На основании необходимого условия экстремума функции нескольких переменных 
После вычисления вектора частных производных приравняем его 0 — 

Для решения этого матричного уравнения относительно вектора оценок параметров 






Кроме того, полагают, что число имеющихся наблюдений (значений) каждой из объясняющих и зависимой переменных превосходит ранг-матрицы 


В новых терминах приведенные ранее предпосылки для множественного регрессионного анализа могут быть записаны следующим образом:
Модель (2.2), удовлетворяющая приведенным предпосылкам 1-6, называется классической нормальной линейной моделью множественной регрессии, если же среди приведенных не выполняется лишь предпосылка о нормальном законе распределения вектора возмущений с , то модель называется просто классической линейной моделью множественной рефессии.
Решением уравнения (2.4) является вектор
где 


Рассмотренная выше для парной регрессионной модели теорема Гаусса — Маркова оказывается верной для модели (2.2) множественной регрессии и может быть сформулирована в следующем виде
При выполнении предпосылок множественного регрессионного анализа оценка метода наименьших квадратов 
Зная вектор 
где 

Задача №2.1.
Имеются следующие данные о сменной добыче угля на одного рабочего 








Решение:
Обозначим
(в матрицу 
Для удобства вычислений составляем вспомогательную таблицу.
Вычислим матрицы:
Умножим матрицу 

Уравнение множественной регрессии имеет вид:
Оно показывает, что при увеличении только мощности пласта 




Добавление в регрессионную модель новой объясняющей переменной







Ковариационная матрица и ее выборочная оценка
Вариации оценок параметров определяют точность уравнения множественной регрессии. Для их измерения в многомерном регрессионном анализе рассматривают так называемую ковариационную матрицу вектора оценок параметров 
где элементы 


Учитывая, что оценки 

Ковариация характеризует как степень рассеяния значений двух переменных относительно их математических ожиданий, так и взаимосвязь этих переменных.
Определение доверительных интервалов для коэффициентов и функции регрессии
Доверительный интервал для параметров регрессионной модели
Оценка 


где 




Учитывая, что статистика 













В обшей постановке гипотеза 


Доверительный интервал для параметра 
- Доверительный интервал для функции репрессии или для условного математического ожидания зависимой переменной
где 

- Доверительный интервал для индивидуальных значений зависимой переменной
где
- Доверительный интервал для параметра
.
В множественной регрессии он строится аналогично парной модели с соответствующим изменением числа степеней свободы с критерия
Задача №2.2
По данным примера 2.1 оценить сменную добычу угля на одного рабочего для шахт с мощностью пласта 8 м и уровнем механизации работ 6%; наши 95%-ные доверительные интервалы для индивидуального и среднего значений сменной добычи угля на одного рабочего для таких же шахт. Проверить значимость коэффициентов регрессии и построить для них 95%-ные доверительные интервалы. Найти интервачьную оценку для дисперсии 
Решение:
В примере 2.1 уравнение регрессии получено в виде
По условию надо оценить 


Для построения доверительного инггерала для 


Находим
Вычисляем
По таблице значений 
находим 

Итак, с надежностью 0,95 средняя сменная добыча угля на одного рабочего для шахт с мощностью пласта 8 м и уровнем механизации работ 6% находится в пределах от 4,27 до 7,29 т.
Сравнивая новый доверительный интервал для функции регрессии 
Это связано с тем, что включение в модель новой объясняющей переменной позволяет несколько повысить точность модели за счет увеличения взаимосвязи зависимой и объясняющей переменных.
Найдем доверительный интервал для индивидуального значения 
Вычислим
Итак, с надежностью 0,95 индивидуальное значение сменной добычи угля в шахтах с мощностью пласта 8 м и уровнем механизации работ 6% находится в пределах от 2,80 до 8,76 (т).
Проверим значимость коэффициентов регрессии 



Так как
тo коэффициент 
Аналогично для 

т. е. коэффициент 
Доверительный интервал коэффициента регрессии 
Доверительный интервал коэффициента регрессии 
Итак, с надежностью 0,95 за счет изменения на 1 м мощности пласта 





Найдем 95%-ный доверительный интервал для параметра 
степени свободы найдем по таблице значений критерия Пирсона
С помощью формулы (2.14) находим интервал
Таким образом, с надежностью 0,95 дисперсия возмущений заключена в пределах от 0,738 до 6,99, а их стандартное отклонение — от 0,859 до 2,64(т).
Оценка значимости множественной регрессии. Коэффициенты детерминации R²
В модели множественной регрессии, как и в случае парной регрессионной модели, общая вариация 
где 
Уравнение множественной регрессии значимо (иначе — гипотеза о равенстве нулю параметров регрессионной модели, т. е.
отвергается), если
где 

Коэффициент детерминации 

Величина 

Вместе с тем использование только одного коэффициента детерминации 


Поэтому предпочтительнее использовать скорректированный (адаптированный, поправленный) коэффициент детерминации 
Из формул следует, что чем больше число объясняющих переменных 








Если известен коэффициент детерминации 
где 

Возможно эта страница вам будет полезна:
Задача №2.3.
По данным примера 2.1 определить множественный коэффициент детерминации и проверить значимость полученного уравнения регрессии 



Решение:
Вычислим произведения векторов (см. пример 2.1):
По формуле (2 18) определим множественный коэффициент детерминации
Коэффициент детерминации 


Зная 
Оно больше табличного 





Временные ряды и прогнозирование. Общие сведения о временных рядах и задачах их анализа
Под временным рядом (динамическим рядом, или рядом динамики) в экономике подразумевается последовательность наблюдений некоторого признака (случайной величины) 


В табл. 3.1 приведены данные, отражающие спрос на некоторый товар за восьмилетний период (усл. ед.), т. е. временной ряд спроса 
На рис. 3.1 временной ряд 
Методы исследования моделей, основанных на данных пространственных выборок и временных рядов, вообще говоря, отличаются Объясняется это Tev что в отличие от пространственных выборок наблюдения во временных ряда как правило, нельзя считать независимыми.
При анализе точности этих моделей и определении интервальных ошибок прогноза на их основе, будем полагать, что рассматриваемые в главе регрессионные модели временных рядов удовлетворяют условиям классической модели.
В общем виде при исследовании экономического временного ряда 
где 



Первые три составляющие (компоненты) 


Важнейшей классической задачей при исследовании экономических временных рядов является выявление и статистическая оценка основной тенденции развития изучаемого процесса и отклонений от нее.
Основные этапы анализа временных рядов:
графическое представление и описание поведения временного ряда; выделение и удаление закономерных (неслучайных) составляющих временного ряда (тренда, сезонных и циклических сост авляющих);
сглаживание и фильтрация (удаление низко — или высокочастотных составляющих временного ряда);
исследование случайной составляющей временного ряда, построение и проверка адекватности математической модели для ее описания;
прогнозирование развития изучаемого процесса на основе имеющегося временного ряда;
исследование взаимосвязи между различными временными рядами. Наиболее распространенными методами анализа временных рядов являются корреляционный и спектральный анализ, модели авторегрессии и скользящей средней
Временной ряд 





Стационарные временные ряды и их характеристики. Автокорреляционная функция
Важное значение в анализе временных рядов имеют стационарные временные ряды, вероятностные свойства которых не изменяются во времени.
Временной ряд 












Степень тесноты связи между последовательностями наблюдений временного ряда
(сдвинутых относительно друг друга на 

Коэффициент 







Статистической оценкой 

Функция 
При расчете 







Для стационарного временного ряда с увеличением лага г взаимосвязь членов временного ряда 





Наряду с автокорреляционной функцией при исследовании стационарных временных рядов рассматриваем частная автокорреляционная функция 







Статистической оценкой 





где 

Задача №3.1
По данным табл. 1 для временного ряда у, найти среднее чначение, среднее квадратическое отклонение, коэффициенты автокорреляции (для лагов г=1;2) и частный коэффициент автокорреляции I-го порядка.
Решение:
Среднее значение временного ряда находим по формуле (3.1):
Дисперсию и среднее квадратическое отклонение вычислим, воспользовавшись соотношением:
Найдем коэффициент автокорреляции 


Сначала вычисляем необходимые суммы:
Затем подставим их в формулу:
при
получим:
Коэффициенты автокорреляции 






Для определения частного коэффициента корреляции 1-го порядка 




Знание автокорреляционных функций 

Аналитическое выравнивание (сглаживание) временного ряда
Одной из важнейших задач исследования экономического временного ряда является выявление основной тенденции изучаемого процесса, выраженной неслучайной составляющей 
Для решения этой задачи вначале необходимо выбрать вид функции 
При выборе соответствующей функции 


При использовании метола наименьших квадратов для выявления основной тенденции значения временного ряда 

где 
Для линейной функции согласно методу наименьших квадратов параметры прямой 
Задача №3.2.
По данным табл. 3.1 найти уравнение неслучайной составляющей (тренда) для временного ряда у, полагая тренд линейным.
Решение:
Вначале вычислим необходимые суммы:
Система нормальных уравнений имеет вид:
Решая эту систему, находим уравнение тренда:
Это значит, что спрос (см. рис 3.1) ежегодно увеличивается в среднем на 26,5 ед.
Уравнение регрессии с учётом зависимостей (1.7) — (1.10) и (3.7) можно представить в виде:
Проверим значимость полученного уравнения тренда по 
а) сумму квадратов, обусловленную регрессией
б) общую сумму квадратов отклонений зависимой переменной от средней
в) остаточную сумму квадратов, характеризующую влияние неучтённых факторов
Затем найдем по формуле (1.30) при 
По таблице значений критерия Фишера-Снсдекора определяем 
Так как 
Другим методом выравнивания (сглаживания) временного ряда является метод скользящих средних. Он основан на переходе от начальных значений членов ряда к их средним значениям на интервале времени, длина которого определена заранее. При что и сам выбранный интервал времени «скользит» вдоль ряда.
Получаемый таким образом ряд скользящих средних ведет себя более гладко, чем исходный ряд, из-за усреднения отклонений ряда.
Действительно, если разброс значений члена временного ряда 





Задача №3.3.
Провести сглаживание временного ряда 

Решение:
Скользящие средние вычисляем по формуле:
При 

Для 
Для 
В результате получим сглаженный ряд, представленный в табл. 3.3.
На рис. 3.1 этот ряд изображен графически в виде пунктирной линии
Прогнозирование на основе моделей временных рядов
Одна из нажнейших задач (этапов) анализа временного (динамического) ряда состоит в прогнозировании на его основе развития изучаемого процесса. При этом исходят из того, что тенденция развития, установленная в прошлом, может быть распространена (экстраполирована) на будущий период.
Задача ставится так: имеется временной ряд 





Если рассматривать временной ряд как регрессионную модель изучаемого признака по переменной «время», то к нему могут быть применены рассмотренные выше методы анализа. Следует, однако, вспомнить, что одна из основных предпосылок регрессионного анализа состоит в том, что возмущения 

Задача №3.4.
По данным табл. 3.1 дать точечную и с надежностью 0,95 интервальную оценки прогноза среднего и индивидуального значений спроса на некоторый товар на момент 
Решение:
Выше, в примере 3.2, получено уравнение регрессии 

Оценкой 
Найдем оценку 
Находим табличное значение 
или
Для нахождения интервальной оценки прогноза индивидуального значения 
Интервальная оценка для 
или
Итак, с надежностью 0,95 среднее значение спроса на товар на девятый год будет заключено от 345,9 до 468,9 (ед ), а ею индивидуальное значение -от 307,3 до 507,5 (ед ).
Как правило, прогноз развития изучаемого процесса на основе экстраполяции временных рядов оказывается эффективным, r рамка, краткосрочного или среднесрочного периода прогнозирования.
Автокорреляция остатков временного ряда
При моделировании реальных экономических процессов част возникают ситуации, в которых условия классической линейной модели регрессии оказываются нарушенными В частности, могут не выполняться предпосылки 3 и 4 регрессионного анализа (см. § 1.4) о том, что случайные возмущения (ошибки) модели имеют постоянную дисперсию и не коррелированны между собой. Так, например, при рассмотрении зависимости расходов на потребление от уровня доходов семей можно ожидать, что в более обеспеченных семьях вариация расходов выше, чем в малообеспеченных, т. е. дисперсии возмущений не одинаковы.
При анализе временных рядов мы часто сталкиваемся с ситуацией, когда наблюдаемые в данный момент значения зависимой переменной коррелированны с их значениями в предыдущие моменты времени, т. е. имеется корреляция между возмущениями в разные моменты времени.
Рассмотрим регрессионную модель временного (динамического) ряда. Упорядоченность наблюдений оказывается существенной в том случае, если прослеживается механизм влияния результатов предыдущих наблюдений на результаты последующих. Математически это выражается в том, что случайные величины 




Оценивая методом наименьших квадратов зависимость курса от времени (номера наблюдений), получим следующие результаты:
Естественно предположить, что результаты предыдущих торгов оказывают влияние на результаты последующих: если в какой-то момент курс окажется завышенным по сравнению с реальным, то скорее всего он будет завышен на следующих торгах, т. е. имеет место положительная автокорреляция. Графически (см. рис 3.2) положительная автокорреляция выражается в чередовании тех зон, где наблюдаемые значения оказываются выше объясненных (лежащих на прямой 
Отрицательная автокорреляция встречается в тех случаях, когда завышенные значения в предыдущих наблюдениях приводят к занижению их в наблюдениях последующих (наблюдения действуют друг на друга по принципу «маятника»). Графически это выражается в том, что результаты наблюдений 


Метод наименьших квадратов при наличии коррелированности ошибок регрессии даст несмещенные и состоятельные (разумеется, неэффективные) оценки коэффициентов регрессии, однако, оценки их дисперсий несостоятельные и смешенные (как правило, в сторону занижения), т. е. результаты тестирования гипотез оказываются недостоверными.
Как правило, если автокорреляция присутствует, то наибольшее влияние на последующее наблюдение оказывает результат предыдущего наблюдения Так, например, если рассматривается ряд значений курса какой-либо ценной бумаги, то, очевидно, именно результат последних торгов служит основой для формирования курса на следующих торгах. Ситуация, когда на значение наблюдения у, оказывает основное влияние не результат 
Таким образом, отсутствие корреляции между соседними членами позволяет считать, что корреляция отсутствует в целом, и обычный метод наименьших квадратов дает адекватные и эффективные результаты.
Наличие автокорреляции между соседними членами можно определить с помощью теста Дарбина- Уотсона. Этот критерий (тест) Дарбина- Уотсона основан на простой идее: если корреляция ошибок регрессии не равна нулю, то она присутствует и в остатках регрессии 
В случае отсутствия автокорреляции выборочный коэффициент 

Тест Дарбина-Уотсона имеет один существенный недостаток -распределение статистики 


Однако существуют два пороговых значения 

Если фактически наблюдаемое значение 
а) 
б) 
в) 
г) 
Графическая иллюстрация теста Дарбина-Уотсона приведена на рис. 3.3:
Для 


Недостатками критерия Дарбина -Уотсона является наличие области неопределенности критерия и то, что критические значения 
Задача №3.5.
Выявить на уровне значимости 0,05 наличие втокорреляции возмущений для временного ряда_у, по данным табл. 3.1.
Решение:
В примере 3.2 получено уравнение тренда
В табл. 3.4 приведен расчет данных, необходимых для вычисления ^-статистики.
Находим суммы
подставляем в формулу (3.9) и вычисляем значение статистики
По таблице значений критерия Дарбина — Уотсона при 








Для рассматриваемого временного ряда спроса на уровне значимости 0,05 гипотеза об отсутствии автокорреляции возмущений принимается.
Готовые задачи по эконометрике
Эконометрика – это самостоятельная научная дисциплина, объединяющая совокупность теоретических результатов, приемов, методов и моделей, предназначенных для того, чтобы на базе экономической теории, экономической статистики и экономических измерений, математико-статистического инструментария придавать конкретное количественное выражение общим (качественным) закономерностям, обусловленным экономической теорией.
Эконометрика – одна из базовых дисциплин экономического образования во всем мире.
Эконометрические модели парной регрессии
Эконометрика является одной из важнейших составляющих современного экономического образования. Применение эконометрических методов является необходимым условием проведения качественных экономических исследований.
Современную эконометрику можно разделить на два направления: теоретическую и прикладную.
Теоретическая эконометрика занимается изучением специальных вероятностных (т.н. регрессионных) моделей, используя при этом аппарат теории вероятностей и математической статистики.
В основе прикладной эконометрики лежит применение вероятностных моделей для количественного описания и анализа экономических явлений и процессов.
Между этими направления существует глубокая двусторонняя взаимосвязь. Основные результаты теоретической эконометрики в виде статистических тестов и новых классов вероятностных моделей находят свое применение при решении прикладных задач. С другой стороны, в прикладной эконометрике в процессе исследования экономических явлений возникают ситуации или наблюдаются эффекты, которые не описываются существующими моделями. Это является предпосылкой для дальнейшего развития теоретического аппарата.
Термин «эконометрика» дословно читается как «измерения в экономике». Однако не каждое измерение в экономике относится к эконометрике, поэтому дадим точное определение.
Эконометрика (или эконометрия) изучает методы оценивания параметров моделей, характеризующих количественную взаимосвязь между экономическими показателями, а также рассматривает основные направления применения этих моделей в экономических исследованиях.
Предметом изучения эконометрики являются социально-экономические системы, процессы или явления, описываемые моделями. Методы исследования — математические методы, базирующиеся на теории вероятностей и математической статистике (далее ТВиМС), и других разделах математики. Структурно эконометрические исследования приведены на рис. 1.1.
Построение эконометрической модели условно делят на четыре этапа:
- спецификация модели, т.е. её запись в математической форме;
- сбор и подготовка экономической информации;
- оценивание параметров модели;
- проверка модели на достоверность.
Этапы 1) и 2) взаимозаменяемы. Полученную модель применяют для прогнозирования, планирования и с другими целями.
Термин «эконометрика» был введен в научный оборот в начале 20-го века. В 1928 г. была опубликована работа Ч. Кобба и П. Дугласа, посвященная исследованию производственной функции, связывающей объём выпуска продукции в отрасли, затраты труда и затраты капитала. Модель производственной функции Кобба-Дугласа является, пожалуй, первым примером использования эконометрики и отражает классический подход к эконометрическому анализу.
Окончательное становление эконометрики относят к 1930 году, когда европейскими и американскими учёными было основано «Эконометриче-ское сообщество». С 1933 г. выходит журнал «Эконометрия», издающийся этим сообществом.
Основателями эконометрии считаются Р. Фриш, Я. Тинберген, И. Шумпетер, Л. Клейн, Р. Стоун и другие учёные. Их целью было объединение экономической теории с математическими и статистическими методами. Модели, предложенные этими учеными, способствовали развитию математического и статистического аппарата и расширению области применения эконометрики.
После Второй мировой войны были построены комплексные эконо-метрические модели на макроуровне, в которых основное внимание уделялось спросу, финансовому состоянию, налогам, прибылям, ценам и другим важнейшим экономическим показателям.
Наиболее используемыми в эконометрии являются: производственные функции; функции потребления различных групп населения; функции предпочтения потребителей; межотраслевые модели производства, распределения и потребления продукции; модели экономического равновесия.
Помимо экономических исследований, эконометрические методы успешно применяются в биологии, истории, социологии и некоторых других общественных и естественных науках, где необходимо оценивать взаимосвязи между большим количеством переменных.
Важность данной науки подчеркивает тот факт, что за эконометрические исследования многократно присуждалась Нобелевская премия в области экономики.
В настоящее время эконометрия продолжает динамично развиваться и охватывает всё новые сферы экономических знаний.
Особенности эконометрических моделей
Математическая модель социально-экономической системы, процесса или явления представляет собой абстрактную запись основных его закономерностей с помощью математических формул и соотношений. Эконометрические модели относятся к функциональным стохастическим моделям. Они количественно описывают корреляционно-регрессионную связь между исследуемыми показателями.
Эконометрическая модель содержит три группы элементов: вектор 


В данном случае 


В общем виде эконометрическую модель можно записать в виде:
Здесь 


Для построения эконометрической модели необходимо выполнение следующих условий:
наличие достаточно большой совокупности наблюдений;
- однородность совокупности наблюдений;
- точность входных данных.
В отношении оценивания степени однородности совокупности наблюдений существует много различных подходов. Впрочем, все исследователи согласны с тем, что экономические наблюдения, как правило, неоднородны. Поэтому речь может идти лишь о достижении определенной степени однородности, которая обеспечит достоверность экономических выводов.
Различают качественную и количественную однородность. Под первой подразумевается однотипность экономических объектов, их одинаковое качество и определенное назначение. Под второй — однородность группы единиц совокупности, которая определяется на основе количественных показателей.
В математической статистике есть ряд критериев, которые позволяют сделать вывод, являются ли рассматриваемые случайные выборки однородными и можно ли их объединять в одну совокупность для проведения эконометрических исследований.
Точность выходных данных существенно влияет на выводы, которые могут быть сделаны на основе эконометрического моделирования. Погрешности могут возникать при формировании алгоритма расчёта показателей, при округлении, повторном учёте тех или иных показателей и др. Все ошибки делят на систематические, т.е. такие, которые имеют постоянную величину, либо изменяются, подчиняясь определенной функциональной зависимости, и случайные, которые обусловлены влиянием случайных факторов при формировании показателей.
При формировании совокупности наблюдений необходимо обращать внимание и на наличие ошибок во входных данных. Если нет возможности избежать этих ошибок, то необходимо применять специальные методы оценивания параметров эконометрической модели.
Наиболее часто используемым методом для количественной оценки взаимосвязей в эконометрии является корреляционно-регрессионный анализ. Суть метода заключается в определении оценок количественного влияния показателей на исследуемую величину и построении на этой основе строгой зависимости между ними, которая в общем виде записывается в виде некоторой функции:
где 

Чаще всего с этой целью используется линейная функция. Однако возможны и другие формы зависимостей: экспоненциальная, степенная, гиперболическая и другие.
Каждая из рассматриваемых функций может быть сведена к линейной с помощью алгебраических преобразований или путем замены. По этой причине именно исследованию линейной зависимости уделяется значительное внимание.
В реальной ситуации наблюдаемые величины отклоняются от данной функциональной формы связи, поэтому в регрессионную модель включается стохастическая составляющая 
В классической линейной эконометрической модели переменная s интерпретируется как случайная переменная, которая имеет нормальный закон распределения с математическим ожиданием, равным нулю, и постоянной дисперсией.
Парная регрессия. Однофакторные линейные эконометрические модели
Простейшими эконометрическими моделями являются модели парной регрессии. Парная регрессия представляет собой зависимость между двумя переменными — 

Здесь 




Таким образом, 




В парной регрессии выбор вида математической функции (спецификация) 
1) графическим;
2) аналитическим, т.е. исходя из теории изучаемой взаимосвязи;
3) экспериментальным.
Чаще всего эти способы применяют комплексно.
Графический способ основан на внешнем виде корреляционного поля. Напомним, что корреляционным полем называют множество точек 


Если точки корреляционного поля выстраиваются как бы вдоль гипотетической прямой, то в качестве модели парной регрессии следует брать линейную модель:
В противном случае нужно выбирать нелинейную модель.
Аналитический способ выбора типа уравнения регрессии основан на изучении материальной природы связи исследуемых признаков. Здесь важную роль играет опыт экономиста, который знаком с наработанными схемами зависимостей между социально-экономическими показателями.
При использовании экспериментального способа сравнивают величины остаточной дисперсии, рассчитанной для разных моделей:
Чем меньше величина остаточной дисперсии 
В эконометрическом моделировании следует придерживаться принципа — чем сложнее модель, тем большее количество наблюдений 
Сложность модели можно определить показателем 


Например, 
Соответственно 
При построении эконометрической модели необходимо придерживаться статистического правила:
Таким образом, если 



Простейшими эконометрическими моделями являются однофакторные линейные модели парной регрессии. В этом случае предполагается, что между двумя исследуемыми показателями существует линейная корреляционная зависимость. В общем виде однофакторная линейная эконометрическая модель имеет вид:
где 



Чтобы найти уравнение регрессии, необходимо найти неизвестные параметры 

При нахождении оценок параметров уравнения регрессии возникает вопрос, каким критерием следует воспользоваться, чтобы найденная прямая наиболее точно отражала зависимость между показателями. В любом случае расчетные значения зависимой переменной, найденные с помощью уравнения регрессии, будут отклоняться истинных наблюдений.
В качестве критерия можно было бы рассматривать сумму этих отклонений. Однако, поскольку одни имеют разные знаки, то при суммировании будут взаимно «погашаться». Чтобы избежать этого, в качестве критерия предлагается рассматривать сумму квадратов этих отклонений. Этот принцип и лежит в основе метода наименьших квадратов (МНК).
Постановка задачи следующая. Уравнение регрессии будем искать в виде:
где 






Заметим, что применение МНК возможно при выполнении следующих условий:
- Математическое ожидание остатков (ошибок) равно нулю.
- Случайные величины
имеют одинаковую дисперсию.
- Остатки распределены по нормальному закону с математическим ожиданием, равным нулю и постоянной дисперсией.
Рассмотрим сумму квадратов отклонений как функцию двух переменных 
Для того чтобы найти минимум этой функции, вычислим ее частные производные первого порядка по переменным 
После преобразований получаем систему нормальных уравнений:
Решаем её относительно 

Отметим следующее свойство оценок МНК: линия регрессии всегда проходит через среднюю точку 


Преобразовав формулу, имеем:
Умножив числитель и знаменатель на 
Рассмотрим экономический смысл этого коэффициента. Если в уравнении регрессии 

Таким образом, коэффициент регрессии в линейной модели показывает, на сколько единиц в среднем изменится зависимая переменная, если независимую переменную увеличить на единицу при прочих неизменных условиях. Значению свободного члена 
Задача №1.1.
В таблице 1.1 приведены данные за восемь лет об объёме прямых иностранных инвестициях (далее ПИИ) в экономику страны и объёме валового внутреннего продукта (далее ВВП).
Необходимо найти уравнение линейной регрессии, отражающее зависимость ВВП от ПИИ.
Решение:
Введём в MS Excel данные. С помощью «Мастера диаграмм» построим точечную диаграмму — корреляционное поле (рис. 1.2).
Для упрощения расчётов составим таблицу 1.2.
Найдём оценки параметров уравнения регрессии, используя формулы:
Уравнение регрессии имеет вид:
Коэффициент регрессии 
Проверка адекватности однофакторной линейной эконометрической модели, значимости её параметров и построение прогнозов
Следующий этап эконометрического моделирования заключается в оценке качества полученного уравнения и его параметров.
Для оценки тесноты и направления связи между двумя показателями используется коэффициент парной корреляции. Его можно вычислить по формуле:
где 



Для вычисления коэффициента парной корреляции можно также использовать преобразованную формулу:
В отличие от коэффициента регрессии, коэффициент корреляции является показателем относительной меры связи между двумя показателями. Значения коэффициента корреляции всегда находятся в пределах:
Положительное значение коэффициента свидетельствует о прямой связи, т.е. с увеличением независимой переменной 

Если модуль коэффициента парной корреляции близок к 1 

Если 




В случае, когда 



Таким образом, коэффициент парной корреляции характеризует тесноту и направление линейной связи между показателями. Следует отметить, что знак коэффициента корреляции всегда совпадает со знаком коэффициента регрессии.
Связь между коэффициентом парной корреляции 

Ещё одним показателем адекватности линейной модели является коэффициент детерминации 
где 

Эти показатели вычисляются по формулам:
Таким образом, коэффициент детерминации — это часть дисперсии, которая объясняет регрессию. Величина коэффициента детерминации изменяется в пределах от нуля до единицы:
Если значение 
Кроме того, коэффициент детерминации показывают, какая часть вариации (изменения) зависимой переменной 


Рассмотренные выше коэффициенты парной корреляции и детерминации, как показатели адекватности модели, имеют между собой связь, которая выражается формулой:
т.е. коэффициент детерминации равен квадрату коэффициента корреляции.
Осуществляется также проверка значимости коэффициента корреляции, которая подразумевает проверку статистической гипотезы 



Для проверки гипотезы рассчитывается 
где 
Для заданного уровня значимости (допустимой вероятности ошибки) 



Для проверки значимости параметров уравнения парной регрессии 


В знаменателях этих дробей стоят случайные ошибки параметров эконометрической модели:
где 
Найденные расчётные значения берут по модулю и сравнивают с табличным 


Замечание 1.1. Требование значимости коэффициента регрессии 

Для проверки адекватности эконометрической модели используют 
Данное число сравнивается с табличным значением распределения Фишера, найденного по заданному уровню значимости 


Возможно эта страница вам будет полезна:
Задача №1.2.
По данным примера 1.1 найти значение коэффициентов парной корреляции и детерминации. Проверить значимость коэффициента корреляции, параметров регрессии и значимость модели в целом при уровне значимости 
Согласно таблице 1.1, объём ПИИ в последнем временном периоде составлял 


Решение:
Рассчитаем линейный коэффициент корреляции:
Близость коэффициента корреляции к единице указывает на тесную линейную связь между признаками. Коэффициент детерминации
показывает, что уравнением регрессии объясняется 98,41% дисперсии результативного признака, а на долю прочих факторов приходится 1,59%.
Проверим значимость коэффициента парной корреляции по критерию Стьюдента. Расчётное значение критерия равно:
По уровню значимости 


Расчётное значение, взятое по модулю, больше табличного. Следовательно, коэффициент корреляции является значимым с надёжностью не менее 95% 
Для оценки статистической значимости параметров регрессии рассчитаем 

Табличное значение 



Модули обоих расчётных значения больше табличного, поэтому признаём статистическую значимость параметров регрессии с надёжностью не менее 95%.
Оценим качество уравнения регрессии в целом с помощью 

Количество степеней свободы для критерия Фишера 


Так как 
Для вычисления точечного прогноза объёма ВВП достаточно в уравнение регрессии подставить предполагаемый объём ПИИ, т.е. 30,72 млрд. долл. Точечный прогноз для ВВП будет следующим:
Ошибка прогноза составляет:
Интервальный прогноз для 

Поэтому доверительный интервал будет следующим:
Замечание 1.2. Эконометрическую модель можно считать достоверной, если построенные с помощью неё прогнозы отклоняются от фактических данных не более, чем на 10%. Модель из Задача 1.1 была построена по статистическим данным 2007-2014 гг. Фактические данные за 2015 г. составили 


Абсолютное отклонение составит:
Относительное отклонение:
Так как 
Оценивание параметров в однофакторных нелинейных эконометрических моделях
Необходимость построения нелинейных моделей парной регрессии приводит к некоторому усложнению преобразований данных и вычислений. Однако при современном развитии информационных технологий эти трудности вполне преодолимы.
Задача №1.3.
В таблице 1.3 приведены данные по десяти однотипным заводам, специализирующихся на ремонте шахтного оборудования в Донецком регионе. Годовой объём выпуска продукции 

Требуется:
1) средствами MS Excel построить нелинейные уравнения парной регрессии 

2) выбрать лучшую модель.
Решение:
Принято различать два класса уравнений нелинейных регрессий. Первый из них включает нелинейные уравнения относительно объясняющих переменных, но линейные по оцениваемым параметрам.
К ним, например, относятся: многочлены (полиномы) различных степеней
и т.д.; равносторонняя гипербола
полулогарифмическая функция
Регрессии первого класса приводятся к линейному виду заменой переменных. Дальнейшая оценка параметров производится с помощью МНК.
Например, парабола второй степени
приводится к линейному виду с помощью замены:
В результате приходим к двухфакторному уравнению
оценка параметров которого осуществляется при помощи МНК.
Равносторонняя гипербола
может быть использована для характеристики связи удельных расходов сырья, материалов, топлива от объёма выпускаемой продукции, времени обращения товаров от величины товарооборота, процента прироста заработной платы от уровня безработицы (кривая Филипса), расходов на непродовольственные товары от доходов или общей суммы расходов (кривые Энгеля) и в других случаях. Гипербола приводится к линейному уравнению заменой: 


Второй класс нелинейных уравнений — регрессии, нелинейные по оцениваемым параметрам. К ним, например, относятся: степенная 


Покажем, как это делается на примере степенной функции 
где
Таким образом, мы применяем МНК к преобразованным данным, а затем потенцированием (обратная замена) находим искомое уравнение.
Широкое использование степенной функции связано с тем, что параметр 
Такие задачи удобно решать в MS Excel. Для этого нужно выполнить следующую последовательность действий:
• ввести экспериментальные данные в столбцы (или построчно);
• на основании введённых данных построить точечную диаграмму;
• активизировать данные диаграммы, щелкнув по точкам левой кнопкой «мыши»;
• в пункте меню «Диаграмма» выбрать опцию «Добавить линию тренда…»;
• в пункте меню «Тип» выбрать «Полиномиальная (степень 2-я)» или «Логарифмическая», или «Степенная», или «Экспоненциальная»;
• в пункте «Параметры» — «Показывать уравнение на диаграмме» и «Поместить на диаграмму величину достоверности аппроксимации (R1)».
Для величины достоверности аппроксимации выполняется неравенство: 


На рис. 1.3-1.6 поместим корреляционное поле, соответствующую линию регрессии, уравнение регрессии и величину достоверности аппроксимации 
Наибольшую величину достоверности аппроксимации 
Однако ранее было приведено статистическое правило:
Полиномиальная модель второй степени
имеет два неизвестных параметра 





Т.к. в Задаче 1.3 имеем 
Среди оставшихся моделей наибольшую величину достоверности аппроксимации 
Введём замену 
Логарифмируя обе части уравнения, получим
Следовательно, экспоненциальная модель имеет один неизвестный параметр 




Значит, лучшей моделью является экспоненциальная модель (рис. 1.6),
Задача 1.3 выполнена.
Заканчивая эту главу, заметим, что, эконометрические модели парной регрессии описаны во многих учебниках и учебных пособиях. Несмотря на свою простоту, эти модели весьма востребованы в практических задачах экономики.
Множественная регрессия в эконометрических задачах. Производственная функция Кобба-Ду гласа в эконометрическом моделировании
Американский экономист Пол Дуглас в 30-е годы XX в. наблюдал за данными перерабатывающей промышленности США на протяжении двадцати лет и заметил зависимость между экономическими показателями. Он не сумел определить функцию, описывающую эту зависимость, и обратился в 1927 г. к математику Чарльзу Коббу, который предложил следующую функцию:
где 




Так появилась производственная функция Кобба-Дугласа, принадлежащая к наиболее известным производственным функциям, широко применяемым в экономических исследованиях.
С точки зрения эконометрии эта функция — не что иное, как двух-факторная нелинейная регрессионная модель. С точки зрения математики — мультипликативная степенная функция.
Для определения неизвестных параметров этой модели прологарифмируем левую и правую части функции:
Введём замены
и получим линейную модель
С помощью МНК будем искать параметры 

Продемонстрируем на конкретных данных этапы построения производственной функции Кобба-Дугласа.
Задача №2.1.
Финансово-промышленная группа «Росслад» владеет шестнадцатью заводами по производству сахара. Имеются данные (табл. 9.3) прошлого года о выпуске продукции у (млн. руб.), затратах труда 

Требуется:
A) Построить производственную функцию Кобба-Дугласа. Б) Рассчитать характеристики:
1) среднюю производительность труда;
2) среднюю фондоотдачу;
3) предельную производительность труда;
4) предельную фондоотдачу;
5) эластичность выпуска продукции по затратам труда;
6) эластичность выпуска продукции по ПФ;
7) потребность в ресурсах труда;
потребность в ПФ;
9) фондовооружённость труда;
10) предельную норму замещения затрат труда производственными фондами;
11) эластичность замещения ресурсов.
B) Найти прогноз выпуска 


Решение:
А) Составим расчётную таблицу 2.2.
Для наших данных система нормальных уравнений будет следующей:
Введём в рассмотрение матрицы
Запишем систему в матричном виде
Согласно методу обратной матрицы
Обратную матрицу находим с помощью Microsoft Excel. Напомним, что операции с матрицами желательно завершать нажатием клавиши «F2» и «Ctrl+Shift+Enter». Итак, имеем:
Так как
Значения неизвестных параметров:
Производственная функция Кобба-Дугласа имеет вид:
Б) Рассчитаем основные характеристики производственной функции: 1) средняя производительность труда равна:
Следовательно, с увеличением затрат труда 

2) средняя фондоотдача равна:
Таким образом, с увеличением затрат ПФ (при неизменных затратах труда) средняя фондоотдача снижается. Увеличение же затрат труда (при неизменных затратах ПФ) ведёт к росту средней фондоотдачи; 3) предельная производительность труда:
Следовательно, с увеличением затрат труда (при неизменных затратах ПФ) предельная производительность труда снижается. Наоборот, увеличение затрат ПФ (при неизменных затратах труда) ведёт к росту предельной производительности труда;
4) предельная фондоотдача:
Таким образом, с увеличением затрат ПФ (при неизменных затратах труда) предельная фондоотдача снижается. Увеличение же затрат труда (при неизменных затратах ПФ) ведёт к росту предельной фондоотдачи; 5) эластичность выпуска продукции по затратам труда:
Данный показатель указывает на то, что при увеличении затрат труда 
При увеличении ПФ на 1% выпуск продукции может предельно увеличиться на 0,6892%;
7) производственная функция позволяет рассчитать потребность в одном из ресурсов при заданном объеме выпуска продукции 
Потребность в ресурсах труда:
потребность в ПФ:
9) производственная функция позволяет исследовать вопросы соотношения, замещения, взаимодействия ресурсов. В частности, определяется важный экономический показатель — фондовооружённость труда:
10) взаимодействующие в рамках производственной функции ресурсы могут замещать друг друга. Предельная норма замещения затрат труда 

Предельная норма замещения зависит не только от параметров 


11) влияние соотношения объемов ресурсов на предельную норму замещения 
Эластичность замещения ресурсов для производственной функции Кобба-Дугласа всегда равна единице. Т.е. изменению фондовооружённости труда на 1% соответствует изменение предельной нормы замещения также на 1%.
В) Найдём точечный прогноз выпуска продукции для заданных значений
Задача 2.1 решена полностью.
Многофакторные линейные эконометрические модели
Ввиду чёткой интерпретации результатов наиболее широко в множественной регрессии используется линейная функция.
Рассмотрим многофакторную линейную эконометрическую модель:
Ей соответствует линейное уравнение множественной регрессии
Параметры, являющиеся множителями при независимых переменных, называются коэффициентами «чистой» регрессии. Они характеризуют среднее изменение результата с изменением соответствующего фактора на единицу при неизмененном значении других факторов.
Классический подход к оцениванию параметров линейной модели множественной регрессии основан на МНК:
Задача №2.2.
Открытое акционерное общество «РосСельхозХолдинг» более десяти лет производит пшеницу в своих тридцати агроцехах, расположенных в разных областях Российской Федерации. Имеются данные прошлого года (табл. 9.5) о прибыли предприятия 
удельном весе сельскохозяйственных рабочих в составе агроцеха 





Предполагая, что между переменной 

- Найти линейное уравнение множественной регрессии;
- С помощью алгоритма пошаговой регрессии построить эконометрическую модель с максимальным числом значимых коэффициентов при уровне значимости 0,05.
- Построить точечный и интервальный прогнозы для
при допущении, что средние показатели по независимым переменным будут превышены на 5%.
Решение:
В Microsoft Excel имеется пункт меню «Сервис», который содержит надстройку «Анализ данных». В нём выбираем инструмент анализа «Регрессия». Вводим входной интервал для у и входной интервал для 


- Столбец «Коэффициенты» (рис. 2.1) содержит найденные параметры уравнения регрессии. Т.о. линейная пятифакторная регрессионная модель имеет вид:
По коэффициентам регрессии можно давать объяснения. Например, если текучесть кадров 


- Прокомментируем данные отчета на рис. 9.8.
Множественный коэффициент корреляции 



Множественный коэффициент детерминации 



В разделе «Дисперсионный анализ» (рис. 9.8) на пересечении строки «Остаток» и столбца «MS» находится несмещённая оценка дисперсии остатков 


Раздел «Дисперсионный анализ» называют ANOVA-таблицей (analysis of variance). Она содержит обозначение 



Значимость уравнения множественной регрессии в целом определяется с помощью статистического 


Для нашей задаче:
Эту вероятность сравниваем с заданным уровнем значимости 

Последний раздел отчёта на рис. 9.8 содержит коэффициенты регрессии
В столбце «Стандартная ошибка» расположены
Для проверки значимости коэффициентов регрессии применяют статистический 



Они помещены в столбце «
Заметим, что свободный член 


Для нашей задачи (столбец «
Эти вероятности сравниваем с заданным уровнем значимости 
то оценки коэффициентов регрессии
не являются значимыми. Т.к.
то оценки коэффициентов регрессии
значимы с надёжностью не менее 95%.
Среди незначимых оценок наибольшая вероятность ошибки
поэтому переменная 
Такой подход называют алгоритмом пошагового регрессионного анализа. После завершения алгоритма мы получим уравнение регрессии с максимальным числом значимых коэффициентов.
На рис. 9.8 в столбцах «Нижние 95%» и «Верхние 95%» содержит интервальные оценки коэффициентов регрессии. Т.к. среди этих параметров оказались незначимые, то нет смысла давать объяснения их интервальным оценкам. Это будет сделано после построения окончательной модели.
Повторяем те же действия, что и в начале решения задачи. В Microsoft Excel в пункте меню «Сервис» выбираем пакет прикладных программ «Анализ данных». Пользуемся инструментом анализа «Регрессия». Вводим входной интервал для у и входной интервал для 
Получена линейная четырёхфакторная эконометрическая модель:
Т.к. множественный коэффициент корреляции 





Фактическое значение критерия Фишера составляет 



Найденная вероятность 



Вводим входной интервал для 

Линейная трёхфакторная эконометрическая модель имеет вид:
Отчет на рис. 9.10 содержит следующую информацию. Множественный коэффициент корреляции 




Фактическое значение критерия Фишера 


Столбец «
(свободный член 

Алгоритм пошагового регрессионного анализа завершён. Построенная трёхфакторная модель — это уравнение регрессии с максимальным числом 
В столбцах «Нижние 95%» и «Верхние 95%» содержит интервальные оценки параметров уравнения регрессии. Они вычислены по данным столбцов «Коэффициенты» и «Стандартная ошибка»:
Численные значения доверительных интервалов объясняют следующим образом. Например, точеная оценка 
- Построим точечный и интервальный прогнозы для прибыли предприятия v при допущении, что средние показатели по
будут превышены на 5%.
Так как
то предполагаемые значения:
Вектор предполагаемых значений:
Точечный прогноз для среднего значения прибыли агроцеха:
Вычислим дисперсию прогноза:
Извлекая квадратный корень, найдём среднеквадратическую ошибку прогноза 
Доверительный интервал для среднего значения (математического ожидания) прогноза зависимой переменной находим по формуле:
Рассчитаем дисперсию и среднее квадратическое отклонение индивидуального прогноза:
Доверительный интервал для индивидуального значения прогноза:
Задачи 2.2 выполнено полностью.
Возможно эта страница вам будет полезна:
Границы применимости классического метода наименьших квадратов в эконометрнческом моделировании
Рассмотрим многофакторную линейную эконометрическую модель:
При построении такой модели предполагают, что выполняются следующие гипотезы.
- Спецификация модели:
где 
- Числовые значения независимых переменных
являются детерминированными (не случайными) величинами. Векторы
являются линейно независимыми в пространстве 

Дисперсии:
Причём значения математических ожиданий и дисперсий ошибок не зависят от номера наблюдений 
- При
ковариации ошибок равны нулю:
Т.е. для разных наблюдений имеет место статистическая независимость (некоррелированность) ошибок.
При выполнении гипотез 1 — 5 эконометрическая модель называется нормальной линейной регрессионной моделью.
Важнейшую роль в эконометрическом анализе играет следующая теорема, формулировка которой приводится без доказательства.
Теорема Гаусса-Маркова. Предположим, что для линейной модели множественной регрессии выполняются гипотезы 1 — 4. Тогда оценки коэффициентов регрессии 
Заметим, что при невыполнении отдельных гипотез теорема Гаусса-Маркова становится неприменимой. Следовательно, и классический МНК не будет давать достоверных результатов.
Нарушение условия линейной независимости векторов 
2) приводит к нежелательному явлению, называемому мультиколлинеар-ностью. Условие независимости дисперсии ошибок от номера наблюдения (гипотеза 3) называется гомоскедастичностью. Нарушение данного условия называют гетероскедастичностью. Невыполнение гипотезы 4 называется автокорреляцией остатков.
В эконометрическом моделировании надо уметь выявлять эти нежелательные явления и устранять их. При невозможности устранения — научиться моделировать в условиях невозможности применения классического МНК.
Мультиколлинеарность в массиве независимых переменных эконометрической модели
Мультиколлинеарность означает существование тесной линейной зависимости, или сильной корреляции, между двумя или более объясняющими переменными.
Она негативно влияет на количественные характеристики эконометриче-ской модели, или делает её построение вообще невозможным.
Задача №2.3.
На производительность труда однотипных малых предприятий влияет ряд факторов, среди которых: удельный вес рабочих на предприятии 




Решение:
Исследуем мультпколлинеарность в массиве независимых переменных при помощи алгоритма Фаррара-Глобера. Расчёты проведём в Microsoft Excel, округляя числа до четвёртого знака после запятой.
- Нахождение корреляционной матрицы выполним с помощью встроенной функции «Корреляция» (Сервиз—>Анализ данных —> Корреляция), которая позволяет находить коэффициенты корреляции более чем двух факторов:
Её определитель: 
При 


- Определим фактическое значение критерия «хи»-квадрат Пирсона:
Фактическое значение критерия 




- С помощью функции МОБР() определим обратную матрицу:
- Вычисление
-критериев Фишера осуществляем по формуле
где 

Фактические значения критериев сравниваются с табличным 


Т.к. 


- Находим частные коэффициенты корреляции по формуле
где 






Вычисление 
Имеем
Фактические значения критериев сравниваются с табличным 


Т.к. 


Для того, чтобы избавиться от мультиколлинеарности, можно исключить одну из переменных мультиколлинеарной пары 



Гетсроскедастичность в эконометрическом моделировании
Условие независимости дисперсии ошибок от номера наблюдения называется гомоскедастичностью. Нарушение данного условия вызывает нежелательное явление, называемое гетероскедастичиостью.
Гетероскедастичность возникает, когда значения переменных в уравнении регрессии сильно отличаются в разных наблюдениях, т.е. если анализируемые объекты неоднородны. Неоднородность объектов может отражаться в несопоставимости их «размеров».
Например, в одну выборку объединены крупные и мелкие банки, у которых анализируется зависимость прибыли 

Неоднородность может также проявляться, когда в одну выборку объединяются предприятия разного профиля деятельности.
Часто при исследовании совокупности данных на гетероскедастичность предполагается, что дисперсия остатков пропорциональна квадрату значений одной из независимых переменных 
В этом случае наиболее эффективен параметрический тест Гольд-фельда-Квандта. Опишем его алгоритм.
Задача №2.4.
В таблице 2.5 приведены данные по зависимой переменной 


Решение:
Применим параметрический тест Гольдфельда-Квандта.
Предположим, что дисперсия остатков пропорциональна квадрату значений одной из независимых переменных 
Как видно из рис. 2.4 — 2.6 источником гетероскедастичности является, скорее всего, переменная 
Данные примут вид (табл. 2.6).
В MS Excel в пункте меню «Сервис» выбираем надстройку «Анализ данных». Пользуемся инструментом анализа «Регрессия». Вводим входной интервал для 

АКТУАЛЬНОСТЬ ТЕМЫ
Общие положения
Про регрессионный анализ вообще, и его применение в DataScience написано очень много. Есть множество учебников, монографий, справочников и статей по прикладной статистике, огромное количество информации в интернете, примеров расчетов. Можно найти множество кейсов, реализованных с использованием средств Python. Казалось бы — что тут еще можно добавить?
Однако, как всегда, есть нюансы:
1. Регрессионный анализ — это прежде всего процесс, набор действий исследователя по определенному алгоритму: «подготовка исходных данных — построение модели — анализ модели — прогнозирование с помощью модели». Это ключевая особенность. Не представляет особой сложности сформировать DataFrame исходных данных и построить модель, запустить процедуру из библиотеки statsmodels. Однако подготовка исходных данных и последующий анализ модели требуют гораздо больших затрат человеко-часов специалиста и строк программного кода, чем, собственно, построение модели. На этих этапах часто приходится возвращаться назад, корректировать модель или исходные данные. Этому, к сожалению, во многих источниках, не удаляется достойного внимания, а иногда — и совсем не уделяется внимания, что приводит к превратному представлению о регрессионном анализе.
2. Далеко не во всех источниках уделяется должное внимание интерпретации промежуточных и финальных результатов. Специалист должен уметь интерпретировать каждую цифру, полученную в ходе работы над моделью.
3. Далеко не все процедуры на этапах подготовки исходных данных или анализа модели в источниках разобраны подробно. Например, про проверку значимости коэффициента детерминации найти информацию не представляет труда, а вот про проверку адекватности модели, построение доверительных интервалов регрессии или про специфические процедуры (например, тест Уайта на гетероскедастичность) информации гораздо меньше.
4. Своеобразная сложность может возникнуть с проверкой статистических гипотез: для отечественной литературы по прикладной статистике больше характерно проверять гипотезы путем сравнения расчетного значения критерия с табличным, а в иностранных источниках чаще определяется расчетный уровень значимости и сравнивается с заданным (чаще всего 0.05 = 1-0.95). В разных источниках информации реализованы разные подходы. Инструменты python (прежде всего библиотеки scipy и statsmodels) также в основном оперируют с расчетным уровнем значимости.
5. Ну и, наконец, нельзя не отметить, что техническая документация библиотеки statsmodels составлена, на мой взгляд, далеко не идеально: информация излагается путано, изобилует повторами и пропусками, описание классов, функций и свойств выполнено фрагментарно и количество примеров расчетов — явно недостаточно.
Поэтому я решил написать ряд обзоров по регрессионному анализу средствами Python, в которых акцент будет сделан на практических примерах, алгоритме действий исследователя, интерпретации всех полученных результатов, конкретных методических рекомендациях. Буду стараться по возможности избегать теории (хотя совсем без нее получится) — все-таки предполагается, что специалист DataScience должен знать теорию вероятностей и математическую статистику, хотя бы в рамках курса высшей математики для технического или экономического вуза.
В данном статье остановимся на самои простом, классическом, стереотипном случае — простой линейной регрессии (simple linear regression), или как ее еще принято называть — парной линейной регрессионной модели (ПЛРМ) — в ситуации, когда исследователя не подстерегают никакие подводные камни и каверзы — исходные данные подчиняются нормальному закону, в выборке отсутствуют аномальные значения, отсутствует ложная корреляция. Более сложные случаи рассмотрим в дальнейшем.
Для построение регрессионной модели будем пользоваться библиотекой statsmodels.
В данной статье мы рассмотрим по возможности полный набор статистических процедур. Некоторые из них (например, дескриптивная статистика или дисперсионный анализ регрессионной модели) могут показаться избыточными. Все так, но эти процедуры улучшают наше представление о процессе и об исходных данных, поэтому в разбор я их включил, а каждый исследователь сам вправе для себя определить, потребуются ему эти процедуры или нет.
Краткий обзор источников
Источников информации по корреляционному и регрессионному анализу огромное количество, в них можно просто утонуть. Поэтому позволю себе просто порекомендовать ряд источников, на мой взгляд, наиболее полезных:
-
Кобзарь А.И. Прикладная математическая статистика. Для инженеров и научных работников. — М.: ФИЗМАТЛИТ, 2006. — 816 с.
-
Львовский Е.Н. Статистические методы построения эмпирических формул. — М.: Высшая школа, 1988. — 239 с.
-
Фёрстер Э., Рёнц Б. Методы корреляционного и регрессионного анализа / пер с нем. — М.: Финансы и статистика, 1983. — 302 с.
-
Афифи А., Эйзен С. Статистический анализ. Подход с использованием ЭВМ / пер с англ. — М.: Мир, 1982. — 488 с.
-
Дрейпер Н., Смит Г. Прикладной регрессионный анализ. Книга 1 / пер.с англ. — М.: Финансы и статистика, 1986. — 366 с.
-
Айвазян С.А. и др. Прикладная статистика: Исследование зависимостей. — М.: Финансы и статистика, 1985. — 487 с.
-
Прикладная статистика. Основы эконометрики: В 2 т. 2-е изд., испр. — Т.2: Айвазян С.А. Основы эконометрики. — М.: ЮНИТИ-ДАНА, 2001. — 432 с.
-
Магнус Я.Р. и др. Эконометрика. Начальный курс — М.: Дело, 2004. — 576 с.
-
Носко В.П. Эконометрика. Книга 1. — М.: Издательский дом «Дело» РАНХиГС, 2011. — 672 с.
-
Брюс П. Практическая статистика для специалистов Data Science / пер. с англ. — СПб.: БХВ-Петербург, 2018. — 304 с.
-
Уатт Дж. и др. Машинное обучение: основы, алгоритмы и практика применения / пер. с англ. — СПб.: БХВ-Петербург, 2022. — 640 с.
Прежде всего следует упомянуть справочник Кобзаря А.И. [1] — это безусловно выдающийся труд. Ничего подобного даже близко не издавалось. Всем рекомендую иметь под рукой.
Есть очень хорошее практическое пособие [2] — для начинающих и практиков.>
Добротная работа немецких авторов [3]. Все разобрано подробно, обстоятельно, с примерами — очень хорошая книга. Примеры приведены из области экономики.
Еще одна добротная работа — [4], с примерами медико-биологического характера.
Работа [5] считается одним из наиболее полных изложений прикладного регрессионного анализа.
Более сложные работы — [6] (классика жанра), [7], [8], [9] — выдержаны на достаточно высоком математическом уровне, примеры из экономической области.
Свежие работы [10] (с примерами на языке R) и [11] (с примерами на python).
Cтатьи
Статей про регрессионный анализ в DataScience очень много, обращаю внимание на некоторые весьма полезные из них.
Серия статей «Python, корреляция и регрессия», охватывающая весь процесс регрессионного анализа:
-
первичная обработка данных, визуализация и корреляционный анализ;
-
регрессия;
-
теория матриц в регрессионном анализе, проверка адекватности, мультиколлинеарность;
-
прогнозирование с помощью регрессионных моделей.
Очень хороший обзор «Интерпретация summary из statsmodels для линейной регрессии». В этой статье даны очень полезные ссылки:
-
Statistical Models
-
Interpreting Linear Regression Through statsmodels .summary()
Статья «Регрессионные модели в Python».
Основные предпосылки (гипотезы) регрессионного анализа
Очень кратко — об этом написано тысячи страниц в учебниках — но все же вспомним некоторые основы теории.
Проверка исходных предпосылок является очень важным моментом при статистическом анализе регрессионной модели. Если мы рассматриваем классическую линейную регрессионную модель вида:
то основными предпосылками при использовании обычного метода наименьших квадратов (МНК) для оценки ее параметров являются:
-
Среднее значение (математическое ожидание) случайной составляющей равно нулю:
-
Дисперсия случайной составляющей является постоянной:
В случае нарушения данного условия мы сталкиваемся с явлением гетероскедастичности.
-
Значения случайной составляющей статистически независимы (некоррелированы) между собой:
В случае нарушения данного условия мы сталкиваемся с явлением автокорреляции.
-
Условие существования обратной матрицы
что эквивалентно одному из двух следующих условий:
то есть число наблюдений должно превышать число параметров.
-
Значения случайной составляющей некоррелированы со значениями независимых переменных:
-
Случайная составляющая имеет нормальный закон распределения (с математическим ожиданием равным нулю — следует из условия 1):
Более подробно — см.: [3, с.90], [4, с.147], [5, с.122], [6, с.208], [7, с.49], [8, с.68], [9, с.88].
Кроме гетероскедастичности и автокорреляции возможно возникновение и других статистических аномалий — мультиколлинеарности, ложной корреляции и т.д.
Доказано, что оценки параметров, полученные с помощью МНК, обладают наилучшими свойствами (несмещенность, состоятельность, эффективность) при соблюдении ряда условий:
-
выполнение приведенных выше исходных предпосылок регрессионного анализа;
-
число наблюдений на одну независимую переменную должно быть не менее 5-6;
-
должны отсутствовать аномальные значения (выбросы).
Кроме обычного МНК существуют и другие его разновидности (взвешенный МНК, обобщенный МНК), которые применяются при наличии статистических аномалий. Кроме МНК применяются и другие методы оценки параметров моделей. В этом обзоре мы эти вопросы рассматривать не будем.
Алгоритм проведения регрессионного анализа
Алгоритм действий исследователя при построении регрессионной модели (полевые работы мы, по понятным причинам, не рассматриваем — считаем, что исходные данные уже получены):
-
Подготовительный этап — постановка целей и задач исследования.
-
Первичная обработка исходных данных — об этом много написано в учебниках и пособиях по DataScience, сюда могут относится:
-
выявление нерелевантных признаков (признаков, которые не несут полезной информации), нетипичных данных (выбросов), неинформативных признаков (имеющих большое количество одинаковых значений) и работа с ними (удаление/преобразование);
-
выделение категориальных признаков;
-
работа с пропущенными значениями;
-
преобразование признаков-дат в формат datetime и т.д.
-
Визуализация исходных данных — предварительный графический анализ.
-
Дескриптивная (описательная) статистика — расчет выборочных характеристик и предварительные выводы о свойствах исходных данных.
-
Исследование закона распределения исходных данных и, при необходимости, преобразование исходных данных к нормальному закону распределения.
-
Выявление статистически аномальных значений (выбросов), принятие решения об их исключении.
Этапы 4, 5 и 6 могут быть при необходимости объединены.
-
Корреляционный анализ — исследование корреляционных связей между исходными данными; это разведка перед проведением регрессионного анализа.
-
Построение регрессионной модели:
-
выбор моделей;
-
выбор методов;
-
оценка параметров модели.
-
Статистический анализ регрессионной модели:
-
оценка ошибок аппроксимации (error metrics);
-
анализ остатков (проверка нормальности распределения остатков и гипотезы о равенстве нулю среднего значения остатков);
-
проверка адекватности модели;
-
проверка значимости коэффициента детерминации;
-
проверка значимости коэффициентов регрессии;
-
проверка мультиколлинеарности (для множественных регрессионных моделей; вообще мультиколлинеарные переменные выявляются еще на стадии корреляционного анализа);
-
проверка автокорреляции;
-
проверка гетероскедастичности.
Этапы 8 и 9 могут быть при необходимости повторяться несколько раз.
-
Сравнительный анализ нескольких регрессионных моделей, выбор наилучшей (при необходимости).
-
Прогнозирование с помощью регрессионной модели и оценка качества прогноза.
-
Выводы и рекомендации.
Само собой, этот алгоритм не есть истина в последней инстанции — в зависимости от особенностей исходных данных и вида модели могут возникать дополнительные задачи.
Применение пользовательских функций
Далее в обзоре мной будут использованы несколько пользовательских функций для решения разнообразных задач. Все эти функции созданы для облегчения работы и уменьшения размера программного кода. Данные функции загружается из пользовательского модуля my_module__stat.py, который доступен в моем репозитории на GitHub. Лично мне так удобнее работать, хотя каждый исследователь сам формирует себе инструменты по душе — особенно в части визуализации. Желающие могут пользоваться этими функциями, либо создать свои.
Итак, вот перечень данных функций:
-
graph_scatterplot_sns — функция позволяет построить точечную диаграмму средствами seaborn и сохранить график в виде png-файла;
-
graph_hist_boxplot_probplot_XY_sns — функция позволяет визуализировать исходные данные для простой линейной регрессии путем одновременного построения гистограммы, коробчатой диаграммы и вероятностного графика (для переменных X и Y) средствами seaborn и сохранить график в виде png-файла; имеется возможность выбирать, какие графики строить (h — hist, b — boxplot, p — probplot);
-
descriptive_characteristics — функция возвращает в виде DataFrame набор статистических характеристики выборки, их ошибок и доверительных интервалов;
-
detecting_outliers_mad_test — функция выполняет проверку наличия аномальных значений (выбросов) по критерию наибольшего абсолютного отклонения (более подробно — см.[1, с.547]);
-
norm_distr_check — проверка нормальности распределения исходных данных с использованием набора из нескольких статистических тестов;
-
corr_coef_check — функция выполняет расчет коэффициента линейной корреляции Пирсона, проверку его значимости и расчет доверительных интервалов; об этой функции я писал в своей статье.
-
graph_regression_plot_sns — — функция позволяет построить график регрессионной модели.
Ряд пользовательских функций мы создаем в процессе данного обзора (они тоже включены в пользовательский модуль my_module__stat.py):
-
regression_error_metrics — расчет ошибок аппроксимации регрессионной модели;
-
ANOVA_table_regression_model — вывод таблицы дисперсионного анализа регрессионной модели;
-
regression_model_adequacy_check — проверка адекватности регрессионной модели по критерию Фишера;
-
determination_coef_check — проверка значимости коэффициента детерминации по критерию Фишера;
-
regression_coef_check — проверка значимости коэффициентов регрессии по критеирю Стьюдента;
-
Goldfeld_Quandt_test, Breush_Pagan_test, White_test — проверка гетероскедастичности с использование тестов Голдфелда-Квандта, Бриша-Пэгана и Уайта соответственно;
-
regression_pair_predict — функция для прогнозирования с помощью парной регрессионной модели: рассчитывает прогнозируемое значение переменной Y по заданной модели, а также доверительные интервалы среднего и индивидуального значения для полученного прогнозируемого значения Y;
-
graph_regression_pair_predict_plot_sns — прогнозирование: построение графика регрессионной модели (с доверительными интервалами) и вывод расчетной таблицы с данными для заданной области значений X.
ПОСТАНОВКА ЗАДАЧИ
В качестве примера рассмотрим практическую задачу из области экспертизы промышленной безопасности — калибровку ультразвукового прибора для определения прочности бетона.
Итак, суть задачи: при обследовании несущих конструкций зданий и сооружений эксперт определяет прочность бетона с использованием ультразвукового прибора «ПУЛЬСАР-2.1», для которого необходимо предварительно построить градуировочную зависимость. Заключается это в следующем — производятся замеры с фиксацией следующих показателей:
-
X — показания ультразвукового прибора «ПУЛЬСАР-2.1» (м/с)
-
Y — результаты замера прочности бетона (методом отрыва со скалыванием) склерометром ИПС-МГ4.03.
Предполагается, что между показателями X и Y имеется линейная регрессионная зависимость, которая позволит прогнозировать прочность бетона на основании измерений, проведенных прибором «ПУЛЬСАР-2.1».
Были выполнены замеры фактической прочности бетона конструкций для бетонов одного вида с одним типом крупного заполнителя, с единой технологией производства. Для построения были выбраны 14 участков (не менее 12), включая участки, в которых значение косвенного показателя максимальное, минимальное и имеет промежуточные значения.
Настройка заголовков отчета:
# Общий заголовок проекта
Task_Project = 'Калибровка ультразвукового прибора "ПУЛЬСАР-2.1" nдля определения прочности бетона'
# Заголовок, фиксирующий момент времени
AsOfTheDate = ""
# Заголовок раздела проекта
Task_Theme = ""
# Общий заголовок проекта для графиков
Title_String = f"{Task_Project}n{AsOfTheDate}"
# Наименования переменных
Variable_Name_X = "Скорость УЗК (м/с)"
Variable_Name_Y = "Прочность бетона (МПа)"
# Константы
INCH = 25.4 # мм/дюйм
DecPlace = 5 # number of decimal places - число знаков после запятой
# Доверительная вероятность и уровень значимости:
p_level = 0.95
a_level = 1 - p_level
Подключение модулей и библиотек:
# Стандартные модули и библиотеки
import os # загрузка модуля для работы с операционной системой
import sys
import platform
print('{:<35}{:^0}'.format("Текущая версия Python: ", platform.python_version()), 'n')
import math
from math import * # подключаем все содержимое модуля math, используем без псевдонимов
import numpy as np
#print ("Текущая версия модуля numpy: ", np.__version__)
print('{:<35}{:^0}'.format("Текущая версия модуля numpy: ", np.__version__))
from numpy import nan
import scipy as sci
print('{:<35}{:^0}'.format("Текущая версия модуля scipy: ", sci.__version__))
import scipy.stats as sps
import pandas as pd
print('{:<35}{:^0}'.format("Текущая версия модуля pandas: ", pd.__version__))
import matplotlib as mpl
print('{:<35}{:^0}'.format("Текущая версия модуля matplotlib: ", mpl.__version__))
import matplotlib.pyplot as plt
import seaborn as sns
print('{:<35}{:^0}'.format("Текущая версия модуля seaborn: ", sns.__version__))
import statsmodels.api as sm
import statsmodels.formula.api as smf
import statsmodels.graphics.api as smg
import statsmodels.stats.api as sms
from statsmodels.compat import lzip
print('{:<35}{:^0}'.format("Текущая версия модуля statsmodels: ", sm.__version__))
import statistics as stat # module 'statistics' has no attribute '__version__'
import sympy as sym
print('{:<35}{:^0}'.format("Текущая версия модуля sympy: ", sym.__version__))
# Настройки numpy
np.set_printoptions(precision = 4, floatmode='fixed')
# Настройки Pandas
pd.set_option('display.max_colwidth', None) # текст в ячейке отражался полностью вне зависимости от длины
pd.set_option('display.float_format', lambda x: '%.4f' % x)
# Настройки seaborn
sns.set_style("darkgrid")
sns.set_context(context='paper', font_scale=1, rc=None) # 'paper', 'notebook', 'talk', 'poster', None
# Настройки Mathplotlib
f_size = 8 # пользовательская переменная для задания базового размера шрифта
plt.rcParams['figure.titlesize'] = f_size + 12 # шрифт заголовка
plt.rcParams['axes.titlesize'] = f_size + 10 # шрифт заголовка
plt.rcParams['axes.labelsize'] = f_size + 6 # шрифт подписей осей
plt.rcParams['xtick.labelsize'] = f_size + 4 # шрифт подписей меток
plt.rcParams['ytick.labelsize'] = f_size + 4
plt.rcParams['legend.fontsize'] = f_size + 6 # шрифт легенды
# Пользовательские модули и библиотеки
Text1 = os.getcwd() # вывод пути к текущему каталогу
#print(f"Текущий каталог: {Text1}")
sys.path.insert(1, "D:REPOSITORYMyModulePython")
from my_module__stat import *
ФОРМИРОВАНИЕ ИСХОДНЫХ ДАННЫХ
Показания ультразвукового прибора «ПУЛЬСАР-2.1» (м/с):
X = np.array([
4416, 4211, 4113, 4110, 4122,
4427, 4535, 4311, 4511, 4475,
3980, 4490, 4007, 4426
])
Результаты замера прочности бетона (методом отрыва со скалыванием) прибором ИПС-МГ4.03:
Y = np.array([
34.2, 35.1, 31.5, 30.8, 30.0,
34.0, 35.4, 35.8, 38.0, 37.7,
30.0, 37.8, 31.0, 35.2
])
Запишем данные в DataFrame:
calibrarion_df = pd.DataFrame({
'X': X,
'Y': Y})
display(calibrarion_df)
calibrarion_df.info()
Сохраняем данные в csv-файл:
calibrarion_df.to_csv(
path_or_buf='data/calibrarion_df.csv',
mode='w+',
sep=';')
Cоздаем копию исходной таблицы для работы:
dataset_df = calibrarion_df.copy()
ВИЗУАЛИЗАЦИЯ ДАННЫХ
Границы значений переменных (при построении графиков):
(Xmin_graph, Xmax_graph) = (3800, 4800)
(Ymin_graph, Ymax_graph) = (25, 45)
# Пользовательская функция
graph_scatterplot_sns(
X, Y,
Xmin=Xmin_graph, Xmax=Xmax_graph,
Ymin=Ymin_graph, Ymax=Ymax_graph,
color='orange',
title_figure=Task_Project,
x_label=Variable_Name_X,
y_label=Variable_Name_Y,
s=100,
file_name='graph/scatterplot_XY_sns.png')
Существует универсальный набор графиков — гистограмма, коробчатая диаграмма, вероятностный график — которые позволяют исследователю сделать предварительные выводы о свойствах исходных данных.
Так как объем выборки невелик (n=14), строить гистограммы распределения переменных X и Y не имеет смысла, поэтому ограничимся построением коробчатых диаграмм и вероятностных графиков:
# Пользовательская функция
graph_hist_boxplot_probplot_XY_sns(
data_X=X, data_Y=Y,
data_X_min=Xmin_graph, data_X_max=Xmax_graph,
data_Y_min=Ymin_graph, data_Y_max=Ymax_graph,
graph_inclusion='bp', # выбираем для построения виды графиков: b - boxplot, p - probplot)
data_X_label=Variable_Name_X,
data_Y_label=Variable_Name_Y,
title_figure=Task_Project,
file_name='graph/hist_boxplot_probplot_XY_sns.png')
Для сравнения характера распределений переменных X и Y возможно также построить совмещенную коробчатую диаграмму по стандартизованным данным:
# стандартизуем исходные данные
standardize_df = lambda X: ((X - np.mean(X))/np.std(X))
dataset_df_standardize = dataset_df.copy()
dataset_df_standardize = dataset_df_standardize.apply(standardize_df)
display(dataset_df_standardize)
# построим график
fig, axes = plt.subplots(figsize=(210/INCH, 297/INCH/2))
axes.set_title("Распределение стандартизованных переменных X и Y", fontsize = 16)
sns.boxplot(
data=dataset_df_standardize,
orient='h',
width=0.5,
ax=axes)
plt.show()
Графический анализ позволяет сделать следующие выводы:
-
Отсутствие выбросов на коробчатых диаграммах свидетельствует об однородности распределения переменных.
-
Смещение медианы вправо на коробчатых диаграммах свидетельствует о левосторонней асимметрии распределения.
ДЕСКРИПТИВНАЯ (ОПИСАТЕЛЬНАЯ СТАТИСТИКА)
Собственно говоря, данный этап требуется проводить далеко не всегда, однако с помощью статистических характеристик выборки мы тоже можем сделать полезные выводы.
Описательная статистика исходных данных средствами библиотеки Pandas — самый простой вариант:
dataset_df.describe()
Описательная статистика исходных данных средствами библиотеки statsmodels — более развернутый вариант, с большим количеством показателей:
from statsmodels.stats.descriptivestats import Description
result = Description(
dataset_df,
stats=["nobs", "missing", "mean", "std_err", "ci", "ci", "std", "iqr", "mad", "coef_var", "range", "max", "min", "skew", "kurtosis", "mode",
"median", "percentiles", "distinct", "top", "freq"],
alpha=a_level,
use_t=True)
display(result.summary())
Описательная статистика исходных данных с помощью пользовательской функции descriptive_characteristics:
# Пользовательская функция
descriptive_characteristics(X)
Выводы:
-
Сравнение показателей среднего арифметического (mean) и медианы (median) свидетельствует о левосторонней асимметрии (т.к.mean < median).
-
Значение коэффициента вариации CV = 0.0445 и доверительный интервал для него 0.0336 ≤ CV ≤ 0.0657 свидетельствует об однородности исходных данных (т.к. CV ≤ 0.33).
-
Значение показателя асимметрии skew (As) = -0.3101 свидетельствует об умеренной левосторонней асимметрии распределении (т.к. |As| ≤ 0.5, As < 0).
-
Значение показателя эксцесса kurtosis (Es) = -1.4551 свидетельствует о плосковершинном распределении (platykurtic distribution) (т.к. Es < 0).
# Пользовательская функция
descriptive_characteristics(Y)
Выводы:
-
Сравнение показателей среднего арифметического (mean) и медианы (median) свидетельствует о левосторонней асимметрии (т.к.mean < median).
-
Значение коэффициента вариации CV = 0.0822 и доверительный интервал для него 0.06202 ≤ CV ≤ 0.1217 свидетельствует об однородности исходных данных (т.к. CV ≤ 0.33).
-
Значение показателя асимметрии skew (As) = -0.1109 свидетельствует о приблизительно симметричном распределении (т.к. |As| ≤ 0.25).
-
Значение показателя эксцесса kurtosis (Es) = -1.3526 свидетельствует о плосковершинном распределении (platykurtic distribution) (т.к. Es < 0).
ПРОВЕРКА НОРМАЛЬНОСТИ РАСПРЕДЕЛЕНИЯ
Для проверки нормальности распределения использована пользовательская функция norm_distr_check, которая объединяет в себе набор стандартных статистических тестов проверки нормальности. Все тесты относятся к стандартному инструментарию Pyton (библиотека scipy, модуль stats), за исключением теста Эппса-Палли (Epps-Pulley test); о том, как реализовать этот тест средствами Pyton я писал в своей статье https://habr.com/ru/post/685582/.
Примечание: для использования функции norm_distr_check в каталог с ipynb-файлом необходимо поместить папку table c файлом Tep_table.csv, который содержит табличные значения статистики критерия Эппса-Палли.
# пользовательская функция
norm_distr_check(X)
# Пользовательская функция
norm_distr_check (Y)
Вывод: большинство статистических тестов позволяют принять гипотезу о нормальности распределения переменных X и Y.
ПРОВЕРКА АНОМАЛЬНЫХ ЗНАЧЕНИЙ (ВЫБРОСОВ)
Статистическую проверку аномальных значений (выбросов) не стоит путать с проверкой выбросов, которая проводится на этапе первичной обработки результатов наблюдений. Последняя проводится с целью отсеять явные ошибочные данные (например, в результате неправильно поставленной запятой величина показателя может увеличиться/уменьшиться на порядок); здесь же мы говорим о статистической проверке данных, которые уже прошли этап первичной обработки.
Имеется довольно много критериев для проверки аномальных значений (подробнее см.[1]); вообще данная процедура довольно неоднозначная:
-
критерии зависят от вида распределения;
-
мало данных о сравнительной мощности этих критериев;
-
даже в случае принятии гипотезы о нормальном распределении в выборке могут быть обнаружены аномальные значения и пр.
Кроме существует дилемма: если какие-то значения в выборке признаны выбросами — стоит или не стоит исследователю исключать их? Ведь каждое значение несет в себе информацию, причем иногда весьма ценную, а сильно отклоняющиеся от основного массива данные (которые не являются выбросами в смысле первичной обработки, но являются статистическим значимыми аномальными значениями) могут кардинально изменить статистический вывод.
В общем, о задаче выявления аномальных значений (выбросов) можно написать отдельно, а пока, в данном разборе, ограничимся проверкой аномальных значений по критерию наибольшего максимального отклонения (см.[1, с.547]) с помощью пользовательской функции detecting_outliers_mad_test. Данные функция возвращает DataFrame, которые включает список аномальных значений со следующими признаками:
-
value — проверяемое значение из выборки;
-
mad_calc и mad_table — расчетное и табличное значение статистики критерия;
-
outlier_conclusion — вывод (выброс или нет).
Обращаю внимание, что критерий наибольшего максимального отклонения можно использовать только для нормально распределенных данных.
# пользовательская функция
print("Проверка наличия выбросов переменной X:n")
result = detecting_outliers_mad_test(X)
mask = (result['outlier_conclusion'] == 'outlier')
display(result[mask])
# пользовательская функция
print("Проверка наличия выбросов переменной Y:n")
result = detecting_outliers_mad_test(Y)
mask = (result['outlier_conclusion'] == 'outlier')
display(result[mask])
Вывод: в случае обеих переменных X и Y список пуст, следовательно, аномальных значений (выбросов) не выявлено.
КОРРЕЛЯЦИОННЫЙ АНАЛИЗ
Корреляционный анализ — это разведка перед построением регрессионной модели.
Выполним расчет коэффициента линейной корреляции Пирсона, проверку его значимости и построение доверительных интервалов с помощью пользовательской функции corr_coef_check (про эту функцию более подробно написано в моей статье https://habr.com/ru/post/683442/):
# пользовательская функция
display(corr_coef_check(X, Y, scale='Evans'))
Выводы:
-
Значение коэффициента корреляции coef_value = 0.8900 свидетельствует о весьма сильной корреляционной связи (по шкале Эванса).
-
Коэффициент корреляции значим по критерию Стьюдента: t_calc ≥ t_table, a_calc ≤ a_level.
-
Доверительный интервал для коэффициента корреляции: 0.6621 ≤ coef_value ≤ 0.9625.
РЕГРЕССИОННЫЙ АНАЛИЗ
Предварительная визуализация
python позволяет выполнить предварительную визуализацию, например, с помощью функции jointplot библиотеки seaborn:
fig = plt.figure(figsize=(297/INCH, 210/INCH))
axes = sns.jointplot(
x=X, y=Y,
kind='reg',
ci=95)
plt.show()
Построение модели
Выполним оценку параметров и анализ простой линейной регрессии (simple linear regression), используя библиотеку statsmodels (https://www.statsmodels.org/) и входящий в нее модуль линейной регрессии Linear Regression (https://www.statsmodels.org/stable/regression.html).
Данный модуль включает в себя классы, реализующие различные методы оценки параметров моделей линейной регрессии, в том числе:
-
класс OLS (https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.OLS.html#statsmodels.regression.linear_model.OLS) — Ordinary Least Squares (обычный метод наименьших квадратов).
-
класс WLS (https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.WLS.html#statsmodels.regression.linear_model.WLS) — Weighted Least Squares (метод взвешенных наименьших квадратов) (https://en.wikipedia.org/wiki/Weighted_least_squares), применяется, если имеет место гетероскедастичность данных (https://ru.wikipedia.org/wiki/Гетероскедастичность).
-
класс GLS (https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.GLS.html#statsmodels.regression.linear_model.GLS) — Generalized Least Squares (обобщенный метод наименьших квадратов) (https://en.wikipedia.org/wiki/Generalized_least_squares), применяется, если существует определенная степень корреляции между остатками в модели регрессии.
-
класс GLSAR (https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.GLSAR.html#statsmodels.regression.linear_model.GLSAR) — Generalized Least Squares with AR covariance structure (обобщенный метод наименьших квадратов, ковариационная структура с автокорреляцией — экспериментальный метод)
-
класс RecurciveLS (https://www.statsmodels.org/stable/examples/notebooks/generated/recursive_ls.html) — Recursive least squares (рекурсивный метод наименьших квадратов) (https://en.wikipedia.org/wiki/Recursive_least_squares_filter)
-
классы RollingOLS (https://www.statsmodels.org/stable/generated/statsmodels.regression.rolling.RollingOLS.html#statsmodels.regression.rolling.RollingOLS) и RollingWLS (https://www.statsmodels.org/stable/generated/statsmodels.regression.rolling.RollingWLS.html#statsmodels.regression.rolling.RollingWLS) — скользящая регрессия (https://www.statsmodels.org/stable/examples/notebooks/generated/rolling_ls.html, https://help.fsight.ru/ru/mergedProjects/lib/01_regression_models/rolling_regression.htm)
и т.д.
Так как исходные данные подчиняются нормальному закону распределения и аномальные значения (выбросы) отсутствуют, воспользуемся для оценки параметров обычным методом наименьших квадратов (класс OLS):
model_linear_ols = smf.ols(formula='Y ~ X', data=dataset_df)
result_linear_ols = model_linear_ols.fit()
print(result_linear_ols.summary())
Альтернативная форма выдачи результатов:
print(result_linear_ols.summary2())
Результаты построения модели мы получаем как класс statsmodels.regression.linear_model.RegressionResults (https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.RegressionResults.html#statsmodels.regression.linear_model.RegressionResults).
Экспресс-выводы, которые мы можем сразу сделать из результатов построения модели:
-
Коэффициенты регрессии модели Y = b0 + b1∙X:
-
Intercept = b0 = -21.3741
-
b1 = 0.0129
-
-
Коэффициент детерминации R-squared = 0.776, его скорректированная оценка Adj. R-squared = 0.757 — это означает, что регрессионная модуль объясняет 75.75% вариации переменной Y.
-
Проверка значимости коэффициента детерминации:
-
расчетное значение статистики критерия Фишера: F-statistic = 41.61
-
расчетный уровень значимости Prob (F-statistic) = 3.16e-05
-
так как значение Prob (F-statistic) < 0.05, то нулевая гипотеза R-squared = 0 НЕ ПРИНИМАЕТСЯ, т.е. коэффициент детерминации ЗНАЧИМ
-
-
Проверка значимости коэффициентов регрессии:
-
расчетный уровень значимости P>|t| не превышает 0.05 — это означает, что оба коэффициента регрессии значимы
-
об этом же свидетельствует то, что доверительный интервал для обоих коэффициентов регрессии ([0.025; 0.975]) не включает в себя точку 0
Также в таблице результатов содержится прочая информация по коэффициентам регрессии: стандартная ошибка Std.Err. расчетное значение статистики критерия Стьюдента t для проверки гипотезы о значимости.
-
-
Анализ остатков модели:
-
Тест Omnibus — про этот тест подробно написано в https://en.wikipedia.org/wiki/Omnibus_test, https://medium.com/swlh/interpreting-linear-regression-through-statsmodels-summary-4796d359035a, http://work.thaslwanter.at/Stats/html/statsModels.html.
Расчетное значение статистики критерия Omnibus = 3.466 — по сути расчетное значение F-критерия (см. https://en.wikipedia.org/wiki/Omnibus_test).
Prob(Omnibus) = 0.177 — показывает вероятность нормального распределения остатков (значение 1 указывает на совершенно нормальное распределение).
Учитывая, что в дальнейшем мы проверим нормальность распределения остатков по совокупности различных тестов, в том числе с достаточно высокой мощностью, и все тесты позволят принять гипотезу о нормальном распределении — в данном случае к тесту Omnibus возникают вопросы. С этим тестом нужно разбираться отдельно.
-
Skew = 0.014 и Kurtosis = 1.587 — показатели асимметрии и эксцесса остатков свидетельствуют, что распределение остатков практически симметричное, островершинное.
-
проверка нормальности распределения остатков по критерию Харке-Бера: расчетное значение статистики критерия Jarque-Bera (JB) = 1.164 и расчетный уровень значимости Prob(JB) = 0.559. К данным результатам также возникают вопросы, особенно, если учесть, что критерий Харке-Бера является асимптотическим, расчетное значение имеет распределение хи-квадрат, поэтому данный критерий рекомендуют применять только для больших выборок (см. https://en.wikipedia.org/wiki/Jarque–Bera_test). Проверку нормальности распределения остатков модели лучше проводить с использованием набора стандартных статистических тестов python (см. далее).
-
-
Проверка автокорреляции по критерию Дарбина-Уотсона: Durbin-Watson = 1.443.
Мы не будем здесь разбирать данный критерий, так как явление автокорреляции больше характерно для данных, выражаемых в виде временных рядов. Однако, для грубой оценки считается, что при расчетном значении статистики криетрия Дарбина=Уотсона а интервале [1; 2] автокорреляция отсутствует (см.https://en.wikipedia.org/wiki/Durbin–Watson_statistic).
Более подробно про критерий Дарбина-Уотсона — см. [1, с.659].
Прочая информация, которую можно извлечь из результатов построения модели:
-
Covariance Type — тип ковариации, подробнее см. https://habr.com/ru/post/681218/, https://towardsdatascience.com/simple-explanation-of-statsmodel-linear-regression-model-summary-35961919868b#:~:text=Covariance type is typically nonrobust,with respect to each other.
-
Scale — масштабный коэффициент для ковариационной матрицы (https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.RegressionResults.scale.html#statsmodels.regression.linear_model.RegressionResults.scale), равен величине Mean squared error (MSE) (cреднеквадратической ошибке), об подробнее см. далее, в разделе про ошибки аппроксимации моделей.
-
Показатели сравнения качества различных моделей:
-
Log-Likelihood — логарифмическая функция правдоподобия, подробнее см. https://en.wikipedia.org/wiki/Likelihood_function#Log-likelihood, https://habr.com/ru/post/433804/
-
AIC — информационный критерий Акаике (Akaike information criterion), подробнее см. https://en.wikipedia.org/wiki/Akaike_information_criterion
-
BIC — информационный критерий Байеса (Bayesian information criterion), подробнее см. https://en.wikipedia.org/wiki/Bayesian_information_criterion
В данной статье мы эти показатели рассматривать не будем, так как задача выбора одной модели из нескольких перед нами не стоит.
-
-
Число обусловленности Cond. No = 96792 используется для проверки мультиколлинеарности (считается, что мультиколлинеарность есть, если значение Cond. No > 30) (см. http://work.thaslwanter.at/Stats/html/statsModels.html). В нашем случае парной регрессионной модели о мультиколлинеарности речь не идет.
Далее будем извлекать данные из стандартного набора выдачи результатов и анализировать их более подробно. Последующие этапы вовсе не обязательно проводить в полном объеме при решении задач, но здесь мы рассмотрим их подробно.
Параметры и уравнение регрессионной модели
Извлечем параметры полученной модели — как свойство params модели:
print('Параметры модели: n', result_linear_ols.params, type(result_linear_ols.params))
Имея параметры модели, можем формализовать уравнение модели Y = b0 + b1*X:
b0 = result_linear_ols.params['Intercept']
b1 = result_linear_ols.params['X']
Y_calc = lambda x: b0 + b1*x
График регрессионной модели
Для построения графиков регрессионных моделей можно воспользоваться стандартными возможностями библиотек statsmodels, seaborn, либо создать пользовательскую функцию — на усмотрение исследователя:
1. Построение графиков регрессионных моделей с использованием библиотеки statsmodels
С помощью функции statsmodels.graphics.plot_fit (https://www.statsmodels.org/stable/generated/statsmodels.graphics.regressionplots.plot_fit.html#statsmodels.graphics.regressionplots.plot_fit) — отображается график Y and Fitted vs.X (фактические и расчетные значения Y с доверительным интервалом для каждого значения Y):
fig, ax = plt.subplots(figsize=(297/INCH, 210/INCH))
fig = sm.graphics.plot_fit(
result_linear_ols, 'X',
vlines=True, # это параметр отвечает за отображение доверительных интервалов для Y
ax=ax)
ax.set_ylabel(Variable_Name_Y)
ax.set_xlabel(Variable_Name_X)
ax.set_title(Task_Project)
plt.show()
С помощью функции statsmodels.graphics.plot_regress_exog (https://www.statsmodels.org/stable/generated/statsmodels.graphics.regressionplots.plot_regress_exog.html#statsmodels.graphics.regressionplots.plot_regress_exog) — отображается область 2х2, которая содержит:
-
предыдущий график Y and Fitted vs.X;
-
график остатков Residuals versus X;
-
график Partial regression plot — график частичной регрессии, пытается показать эффект добавления другой переменной в модель, которая уже имеет одну или несколько независимых переменных (более подробно см. https://en.wikipedia.org/wiki/Partial_regression_plot);
-
график CCPR Plot (Component-Component plus Residual Plot) — еще один способ оценить влияние одной независимой переменной на переменную отклика, принимая во внимание влияние других независимых переменных (более подробно — см. https://towardsdatascience.com/calculating-price-elasticity-of-demand-statistical-modeling-with-python-6adb2fa7824d, https://www.kirenz.com/post/2021-11-14-linear-regression-diagnostics-in-python/linear-regression-diagnostics-in-python/).
fig = plt.figure(figsize=(297/INCH, 210/INCH))
sm.graphics.plot_regress_exog(result_linear_ols, 'X', fig=fig)
plt.show()
2. Построение графиков регрессионных моделей с использованием библиотеки seaborn
Воспользуемся модулем regplot библиотеки seaborn (https://seaborn.pydata.org/generated/seaborn.regplot.html). Данный модуль позволяет визуализировать различные виды регрессии:
-
линейную
-
полиномиальную
-
логистическую
-
взвешенную локальную регрессию (LOWESS — Locally Weighted Scatterplot Smoothing) (см. http://www.machinelearning.ru/wiki/index.php?title=Алгоритм_LOWESS, https://www.statsmodels.org/stable/generated/statsmodels.nonparametric.smoothers_lowess.lowess.html)
Более подробно про модуль regplot можно прочитать в статье: https://pyprog.pro/sns/sns_8_regression_models.html.
Есть более совершенный модуль lmplot (https://seaborn.pydata.org/generated/seaborn.lmplot.html), который объединяет в себе regplot и FacetGrid, но мы его здесь рассматривать не будем.
# создание рисунка (Figure) и области рисования (Axes)
fig = plt.figure(figsize=(297/INCH, 420/INCH/1.5))
ax1 = plt.subplot(2,1,1)
ax2 = plt.subplot(2,1,2)
# заголовок рисунка (Figure)
title_figure = Task_Project
fig.suptitle(title_figure, fontsize = 18)
# заголовок области рисования (Axes)
title_axes_1 = 'Линейная регрессионная модель'
ax1.set_title(title_axes_1, fontsize = 16)
# график регрессионной модели
order_mod = 1 # порядок модели
#label_legend_regr_model = 'фактические данные'
sns.regplot(
#data=dataset_df,
x=X, y=Y,
#x_estimator=np.mean,
order=order_mod,
logistic=False,
lowess=False,
robust=False,
logx=False,
ci=95,
scatter_kws={'s': 30, 'color': 'red'},
line_kws={'color': 'blue'},
#label=label_legend_regr_model,
ax=ax1)
ax1.set_ylabel(Variable_Name_Y)
ax1.legend()
# график остатков
title_axes_2 = 'График остатков'
ax2.set_title(title_axes_2, fontsize = 16)
sns.residplot(
#data=dataset_df,
x=X, y=Y,
order=order_mod,
lowess=False,
robust=False,
scatter_kws={'s': 30, 'color': 'darkorange'},
ax=ax2)
ax2.set_xlabel(Variable_Name_X)
plt.show()
3. Построение графиков регрессионных моделей с помощью пользовательской функции
# Пользовательская функция
graph_regression_plot_sns(
X, Y,
regression_model=Y_calc,
Xmin=Xmin_graph, Xmax=Xmax_graph,
Ymin=Ymin_graph, Ymax=Ymax_graph,
title_figure=Task_Project,
x_label=Variable_Name_X,
y_label=Variable_Name_Y,
label_legend_regr_model=f'линейная регрессия Y = {b0:.3f} + {b1:.4f}*X',
s=80,
file_name='graph/regression_plot_lin.png')
Статистический анализ регрессионной модели
1. Расчет ошибки аппроксимации (Error Metrics)
Ошибки аппроксимации (Error Metrics) позволяют получить общее представление о качестве модели, а также позволяют сравнивать между собой различные модели.
Создадим пользовательскую функцию, которая рассчитывает основные ошибки аппроксимации для заданной модели:
-
Mean squared error (MSE) или Mean squared deviation (MSD) — среднеквадратическая ошибка (https://en.wikipedia.org/wiki/Mean_squared_error):
-
Root mean square error (RMSE) или Root mean square deviation (RMSD) — квадратный корень из MSE (https://en.wikipedia.org/wiki/Root-mean-square_deviation):
-
Mean absolute error (MAE) — средняя абсолютная ошибка (https://en.wikipedia.org/wiki/Mean_absolute_error):
-
Mean squared prediction error (MSPE) — среднеквадратическая ошибка прогноза (среднеквадратическая ошибка в процентах) (https://en.wikipedia.org/wiki/Mean_squared_prediction_error):
-
Mean absolute percentage error (MAPE) — средняя абсолютная ошибка в процентах (https://en.wikipedia.org/wiki/Mean_absolute_percentage_error):
Про выбор метрики см. также https://machinelearningmastery.ru/how-to-select-the-right-evaluation-metric-for-machine-learning-models-part-2-regression-metrics-d4a1a9ba3d74/.
# Пользовательская функция
def regression_error_metrics(model, model_name=''):
model_fit = model.fit()
Ycalc = model_fit.predict()
n_fit = model_fit.nobs
Y = model.endog
MSE = (1/n_fit) * np.sum((Y-Ycalc)**2)
RMSE = sqrt(MSE)
MAE = (1/n_fit) * np.sum(abs(Y-Ycalc))
MSPE = (1/n_fit) * np.sum(((Y-Ycalc)/Y)**2)
MAPE = (1/n_fit) * np.sum(abs((Y-Ycalc)/Y))
model_error_metrics = {
'MSE': MSE,
'RMSE': RMSE,
'MAE': MAE,
'MSPE': MSPE,
'MAPE': MAPE}
result = pd.DataFrame({
'MSE': MSE,
'RMSE': RMSE,
'MAE': MAE,
'MSPE': "{:.3%}".format(MSPE),
'MAPE': "{:.3%}".format(MAPE)},
index=[model_name])
return model_error_metrics, result
(model_error_metrics, result) = regression_error_metrics(model_linear_ols, model_name='linear_ols')
display(result)
В литературе по прикладной статистике нет единого мнения о допустимом размере относительных ошибок аппроксимации: в одних источниках допустимой считается ошибка 5-7%, в других она может быть увеличена до 8-10%, и даже до 15%.
Вывод: модель хорошо аппроксимирует фактические данные (относительная ошибка аппроксимации MAPE = 3.405% < 10%).
2. Дисперсионный анализ регрессионной модели (ДАРМ)
ДАРМ не входит в стандартную форму выдачи результатов Regression Results, однако я решил написать здесь о нем по двум причинам:
-
Именно анализ дисперсии регрессионной модели, разложение этой дисперсии на составляющие дает фундаментальное представление о сути регрессии, а термины, используемые при ДАРМ, применяются на последующих этапах анализа.
-
С терминами ДАРМ в литературе по прикладной статистике имеется некоторая путаница, в разных источниках они могут именоваться по-разному (см., например, [8, с.52]), поэтому, чтобы двигаться дальше, необходимо определиться с понятиями.
При ДАРМ общую вариацию результативного признака (Y) принято разделять на две составляющие — вариация, обусловленная регрессией и вариация, обусловленная отклонениями от регрессии (остаток), при этом в разных источниках эти термины могут именоваться и обозначаться по-разному, например:
-
Вариация, обусловленная регрессией — может называться Explained sum of squares (ESS), Sum of Squared Regression (SSR) (https://en.wikipedia.org/wiki/Explained_sum_of_squares, https://towardsdatascience.com/anova-for-regression-fdb49cf5d684), Sum of squared deviations (SSD).
-
Вариация, обусловленная отклонениями от регрессии (остаток) — может называться Residual sum of squares (RSS), Sum of squared residuals (SSR), Squared estimate of errors, Sum of Squared Error (SSE) (https://en.wikipedia.org/wiki/Residual_sum_of_squares, https://towardsdatascience.com/anova-for-regression-fdb49cf5d684); в отчественной практике также применяется термин остаточная дисперсия.
-
Общая (полная) вариация — может называться Total sum of squares (TSS), Sum of Squared Total (SST) (https://en.wikipedia.org/wiki/Partition_of_sums_of_squares, https://towardsdatascience.com/anova-for-regression-fdb49cf5d684).
Как видим, путаница знатная:
-
в разных источниках под SSR могут подразумеваться различные показатели;
-
легко перепутать показатели ESS и SSE;
-
в библиотеке statsmodel также есть смешение терминов: для показателя Explained sum of squares используется свойство ess, а для показателя Sum of squared (whitened) residuals — свойство ssr.
Мы будем пользоваться системой обозначений, принятой в большинстве источников — SSR (Sum of Squared Regression), SSE (Sum of Squared Error), SST (Sum of Squared Total). Стандартная таблица ДАРМ в этом случае имеет вид:
Примечания:
-
Здесь приведена таблица ДАРМ для множественной линейной регрессионной модели (МЛРМ), в нашем случае при ПЛРМ мы имеем частный случай p=1.
-
Показатели Fcalc-ad и Fcalc-det — расчетные значения статистики критерия Фишера при проверке адекватности модели и значимости коэффициента детерминации (об этом — см.далее).
Более подробно про дисперсионный анализ регрессионной модели — см.[4, глава 3].
Класс statsmodels.regression.linear_model.RegressionResults позволяет нам получить данные для ANOVA (см. https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.RegressionResults.html#statsmodels.regression.linear_model.RegressionResults) как свойства класса:
-
Сумма квадратов, обусловленная регрессией / SSR (Sum of Squared Regression) — свойство ess.
-
Сумма квадратов, обусловленная отклонением от регрессии / SSE (Sum of Squared Error) — свойство ssr.
-
Общая (полная) сумма квадратов / SST (Sum of Squared Total) — свойство centered_tss.
-
Кол-во наблюдений / Number of observations — свойство nobs.
-
Число степеней свободы модели / Model degrees of freedom — равно числу переменных модели (за исключением константы, если она присутствует — свойство df_model.
-
Среднеквадратичная ошибка модели / Mean squared error the model — сумма квадратов, объясненная регрессией, деленная на число степеней свободы регрессии — свойство mse_model.
-
Среднеквадратичная ошибка остатков / Mean squared error of the residuals — сумма квадратов остатков, деленная на остаточные степени свободы — свойство mse_resid.
-
Общая среднеквадратичная ошибка / Total mean squared error — общая сумма квадратов, деленная на количество наблюдений — свойство mse_total.
Также имеется модуль statsmodels.stats.anova.anova_lm, который позволяет получить результаты ДАРМ (нескольких типов — 1, 2, 3):
# тип 1
print('The type of Anova test: 1')
display(sm.stats.anova_lm(result_linear_ols, typ=1))
# тип 2
print('The type of Anova test: 2')
display(sm.stats.anova_lm(result_linear_ols, typ=2))
# тип 3
print('The type of Anova test: 3')
display(sm.stats.anova_lm(result_linear_ols, typ=3))
На мой взгляд, форма таблица результатов statsmodels.stats.anova.anova_lm не вполне удобна, поэтому сформируем ее самостоятельно, для чего создадим пользовательскую функцию ANOVA_table_regression_model:
# Пользовательская функция
def ANOVA_table_regression_model(model_fit):
n = int(model_fit.nobs)
p = int(model_fit.df_model)
SSR = model_fit.ess
SSE = model_fit.ssr
SST = model_fit.centered_tss
result = pd.DataFrame({
'sources_of_variation': ('regression (SSR)', 'deviation from regression (SSE)', 'total (SST)'),
'sum_of_squares': (SSR, SSE, SST),
'degrees_of_freedom': (p, n-p-1, n-1)})
result['squared_error'] = result['sum_of_squares'] / result['degrees_of_freedom']
R2 = 1 - result.loc[1, 'sum_of_squares'] / result.loc[2, 'sum_of_squares']
F_calc_adequacy = result.loc[2, 'squared_error'] / result.loc[1, 'squared_error']
F_calc_determ_check = result.loc[0, 'squared_error'] / result.loc[1, 'squared_error']
result['F-ratio'] = (F_calc_determ_check, F_calc_adequacy, '')
return result
result = ANOVA_table_regression_model(result_linear_ols)
display(result)
print(f"R2 = 1 - SSE/SST = {1 - result.loc[1, 'sum_of_squares'] / result.loc[2, 'sum_of_squares']}")
print(f"F_calc_adequacy = MST / MSE = {result.loc[2, 'squared_error'] / result.loc[1, 'squared_error']}")
print(f"F_calc_determ_check = MSR / MSE = {result.loc[0, 'squared_error'] / result.loc[1, 'squared_error']}")
ДАРМ позволяет визуализировать вариацию:
fig, axes = plt.subplots(figsize=(210/INCH, 297/INCH/1.5))
axes.pie(
(result.loc[0, 'sum_of_squares'], result.loc[1, 'sum_of_squares']),
labels=(result.loc[0, 'sources_of_variation'], result.loc[1, 'sources_of_variation']),
autopct='%.1f%%',
startangle=60)
plt.show()
На основании данных ДАРМ мы рассчитали ряд показателей (R2, Fcalc-ad и Fcalc-det), которые будут использоваться в дальнейшем.
3. Анализ остатков (проверка нормальности распределения остатков и гипотезы о равенстве нулю среднего значения остатков)
Проверка нормальности распределения остатков — один их важнейших этапов анализа регрессионной модели. Требование нормальности распределения остатков не требуется для отыскания параметров модели, но необходимо в дальнейшем для проверки статистических гипотез с использованием критериев Фишера и Стьюдента (проверка адекватности модели, значимости коэффициента детерминации, значимости коэффициентов регрессии) и построения доверительных интервалов [5, с.122].
Остатки регрессионной модели:
print('Остатки регрессионной модели:n', result_linear_ols.resid, type(result_linear_ols.resid))
res_Y = np.array(result_linear_ols.resid)
statsmodels может выдавать различные преобразованные виды остатков (см. https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.RegressionResults.resid_pearson.html, https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.RegressionResults.wresid.html).
График остатков:
# Пользовательская функция
graph_scatterplot_sns(
X, res_Y,
Xmin=Xmin_graph, Xmax=Xmax_graph,
Ymin=-3.0, Ymax=3.0,
color='red',
#title_figure=Task_Project,
title_axes='Остатки линейной регрессионной модели', title_axes_fontsize=18,
x_label=Variable_Name_X,
y_label='ΔY = Y - Ycalc',
s=75,
file_name='graph/residuals_plot_sns.png')
Проверка нормальности распределения остатков:
# Пользовательская функция
graph_hist_boxplot_probplot_sns(
data=res_Y,
data_min=-2.5, data_max=2.5,
graph_inclusion='bp',
data_label='ΔY = Y - Ycalc',
#title_figure=Task_Project,
title_axes='Остатки линейной регрессионной модели', title_axes_fontsize=16,
file_name='graph/residuals_hist_boxplot_probplot_sns.png')
norm_distr_check(res_Y)
Вывод: большинство статистических тестов позволяют принять гипотезу о нормальности распределения остатков.
Проверка гипотезы о равенстве нулю среднего значения остатков — так как остатки имеют нормальное распределение, воспользуемся критерием Стьюдента (функция scipy.stats.ttest_1samp, https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.ttest_ind.html):
sps.ttest_1samp(res_Y, popmean=0)
Вывод: так как расчетный уровень значимости превышает заданный (0.05), то нулевая гипотеза о равенстве нулю остатков ПРИНИМАЕТСЯ.
4. Проверка адекватности модели
Суть проверки адекватности регрессионной модели заключается в сравнении полной дисперсии MST и остаточной дисперсии MSE — проверяется гипотеза о равенстве этих дисперсий по критерию Фишера. Если дисперсии различаются значимо, то модель считается адекватной. Более подробно про проверку адекватности регрессионной — см.[1, с.658], [2, с.49], [4, с.154].
Для проверки адекватности регрессионной модели создадим пользовательскую функцию regression_model_adequacy_check:
def regression_model_adequacy_check(
model_fit,
p_level: float=0.95,
model_name=''):
n = int(model_fit.nobs)
p = int(model_fit.df_model) # Число степеней свободы регрессии, равно числу переменных модели (за исключением константы, если она присутствует)
SST = model_fit.centered_tss # SST (Sum of Squared Total)
dfT = n-1
MST = SST / dfT
SSE = model_fit.ssr # SSE (Sum of Squared Error)
dfE = n - p - 1
MSE = SSE / dfE
F_calc = MST / MSE
F_table = sci.stats.f.ppf(p_level, dfT, dfE, loc=0, scale=1)
a_calc = 1 - sci.stats.f.cdf(F_calc, dfT, dfE, loc=0, scale=1)
conclusion_model_adequacy_check = 'adequacy' if F_calc >= F_table else 'adequacy'
# формируем результат
result = pd.DataFrame({
'SST': (SST),
'SSE': (SSE),
'dfT': (dfT),
'dfE': (dfE),
'MST': (MST),
'MSE': (MSE),
'p_level': (p_level),
'a_level': (a_level),
'F_calc': (F_calc),
'F_table': (F_table),
'F_calc >= F_table': (F_calc >= F_table),
'a_calc': (a_calc),
'a_calc <= a_level': (a_calc <= a_level),
'adequacy_check': (conclusion_model_adequacy_check),
},
index=[model_name]
)
return result
regression_model_adequacy_check(result_linear_ols, p_level=0.95, model_name='linear_ols')
Вывод: модель является АДЕКВАТНОЙ.
5. Коэффициент детерминации и проверка его значимости
Различают несколько видов коэффициента детерминации:
-
Собственно обычный коэффициент детерминации:
Его значение может быть получено как свойство rsquared модели.
-
Скорректированный (adjusted) коэффициент детерминации — используется для того, чтобы была возможность сравнивать модели с разным числом признаков так, чтобы число регрессоров (признаков) не влияло на статистику R2, при его расчете используются несмещённые оценки дисперсий:
Его значение может быть получено как свойство rsquared_adj модели.
-
Обобщённый (extended) коэффициент детерминации — используется для сравнения моделей регрессии со свободным членом и без него, а также для сравнения между собой регрессий, построенных с помощью различных методов: МНК, обобщённого метода наименьших квадратов (ОМНК), условного метода наименьших квадратов (УМНК), обобщённо-условного метода наименьших квадратов (ОУМНК). В данном разборе ПЛРМ рассматривать этот коэффициент мы не будем.
Более подробно с теорией вопроса можно ознакомиться, например: http://www.machinelearning.ru/wiki/index.php?title=Коэффициент_детерминации), а также в [7].
Значения коэффициента детерминации и скорректированного коэффициента детерминации, извлеченные с помощью свойств rsquared и rsquared_adj модели.
print('R2 =', result_linear_ols.rsquared)
print('R2_adj =', result_linear_ols.rsquared_adj)
Значимость коэффициента детерминации можно проверить по критерию Фишера [3, с.201-203; 8, с.83].
Расчетное значение статистики критерия Фишера может быть получено с помощью свойства fvalue модели:
print(f"result_linear_ols.fvalue = {result_linear_ols.fvalue}")
Расчетный уровень значимости при проверке гипотезы по критерию Фишера может быть получено с помощью свойства f_pvalue модели:
print(f"result_linear_ols.f_pvalue = {result_linear_ols.f_pvalue}")
Можно рассчитать уровень значимости самостоятельно (так сказать, для лучшего понимания и общей демонстрации возможностей) — для этого воспользуемся библиотекой scipy, модулем распределения Фишера scipy.stats.f, свойством cdf (функция распределения):
df1 = int(result_linear_ols.df_model)
df2 = int(result_linear_ols.nobs - result_linear_ols.df_model - 1)
F_calc = result_linear_ols.fvalue
a_calc = 1 - sci.stats.f.cdf(F_calc, df1, df2, loc=0, scale=1)
print(a_calc)
Как видим, результаты совпадают.
Табличное значение статистики критерия Фишера получить с помощью Regression Results нельзя. Рассчитаем его самостоятельно — для этого воспользуемся библиотекой scipy, модулем распределения Стьюдента scipy.stats.f, свойством ppf (процентные точки):
F_table = sci.stats.f.ppf(p_level, df1, df2, loc=0, scale=1)
print(F_table)
Для удобства создадим пользовательскую функцию determination_coef_check для проверки значимости коэффициента детерминации, которая объединяет все вышеперечисленные расчеты:
# Пользовательская функция
def determination_coef_check(
model_fit,
p_level: float=0.95):
a_level = 1 - p_level
R2 = model_fit.rsquared
R2_adj = model_fit.rsquared_adj
n = model_fit.nobs # объем выборки
p = model_fit.df_model # Model degrees of freedom. The number of regressors p. Does not include the constant if one is present.
F_calc = R2 / (1 - R2) * (n-p-1)/p
df1 = int(p)
df2 = int(n-p-1)
F_table = sci.stats.f.ppf(p_level, df1, df2, loc=0, scale=1)
a_calc = 1 - sci.stats.f.cdf(F_calc, df1, df2, loc=0, scale=1)
conclusion_determ_coef_sign = 'significance' if F_calc >= F_table else 'not significance'
# формируем результат
result = pd.DataFrame({
'notation': ('R2'),
'coef_value (R)': (sqrt(R2)),
'coef_value_squared (R2)': (R2),
'p_level': (p_level),
'a_level': (a_level),
'F_calc': (F_calc),
'df1': (df1),
'df2': (df2),
'F_table': (F_table),
'F_calc >= F_table': (F_calc >= F_table),
'a_calc': (a_calc),
'a_calc <= a_level': (a_calc <= a_level),
'significance_check': (conclusion_determ_coef_sign),
'conf_int_low': (''),
'conf_int_high': ('')
},
index=['Coef. of determination'])
return result
determination_coef_check(
result_linear_ols,
p_level=0.95)
Вывод: коэффициент детерминации ЗНАЧИМ.
6. Коэффициенты регрессии и проверка их значимости
Ранее мы уже извлекли коэффициенты регрессии как параметры модели b0 и b1 (как свойство params модели). Также можно получить их значения, как свойство bse модели:
print(b0, b1)
print(result_linear_ols.bse, type(result_linear_ols.bse))
Значимость коэффициентов регрессии можно проверить по критерию Стьюдента [3, с.203-212; 8, с.78].
Расчетные значения статистики критерия Стьюдента могут быть получены с помощью свойства tvalues модели:
print(f"result_linear_ols.tvalues = n{result_linear_ols.tvalues}")
Расчетные значения уровня значимости при проверке гипотезы по критерию Стьюдента могут быть получены с помощью свойства pvalues модели:
print(f"result_linear_ols.pvalues = n{result_linear_ols.pvalues}")
Доверительные интервалы для коэффициентов регрессии могут быть получены с помощью свойства conf_int модели:
print(result_linear_ols.conf_int(), 'n')
Можно рассчитать уровень значимости самостоятельно (как ранее для критерия Фишера — для лучшего понимания и общей демонстрации возможностей) — для этого воспользуемся библиотекой scipy, модулем распределения Стьюдента scipy.stats.t, свойством cdf (функция распределения):
t_calc = result_linear_ols.tvalues
df = int(result_linear_ols.nobs - result_linear_ols.df_model - 1)
a_calc = 2*(1-sci.stats.t.cdf(abs(t_calc), df, loc=0, scale=1))
print(a_calc)
Как видим, результаты совпадают.
Табличные значения статистики критерия Стьюдента получить с помощью Regression Results нельзя. Рассчитаем их самостоятельно — для этого воспользуемся библиотекой scipy, модулем распределения Стьюдента scipy.stats.t, свойством ppf (процентные точки):
t_table = sci.stats.t.ppf((1 + p_level)/2 , df)
print(t_table)
Для удобства создадим пользовательскую функцию regression_coef_check для проверки значимости коэффициентов регрессии, которая объединяет все вышеперечисленные расчеты:
def regression_coef_check(
model_fit,
notation_coef: list='',
p_level: float=0.95):
a_level = 1 - p_level
# параметры модели (коэффициенты регрессии)
model_params = model_fit.params
# стандартные ошибки коэффициентов регрессии
model_bse = model_fit.bse
# проверка гипотезы о значимости регрессии
t_calc = abs(model_params) / model_bse
n = model_fit.nobs # объем выборки
p = model_fit.df_model # Model degrees of freedom. The number of regressors p. Does not include the constant if one is present.
df = int(n - p - 1)
t_table = sci.stats.t.ppf((1 + p_level)/2 , df)
a_calc = 2*(1-sci.stats.t.cdf(t_calc, df, loc=0, scale=1))
conclusion_ = ['significance' if elem else 'not significance' for elem in (t_calc >= t_table).values]
# доверительный интервал коэффициента регрессии
conf_int_low = model_params - t_table*model_bse
conf_int_high = model_params + t_table*model_bse
# формируем результат
result = pd.DataFrame({
'notation': (notation_coef),
'coef_value': (model_params),
'std_err': (model_bse),
'p_level': (p_level),
'a_level': (a_level),
't_calc': (t_calc),
'df': (df),
't_table': (t_table),
't_calc >= t_table': (t_calc >= t_table),
'a_calc': (a_calc),
'a_calc <= a_level': (a_calc <= a_level),
'significance_check': (conclusion_),
'conf_int_low': (conf_int_low),
'conf_int_high': (conf_int_high),
})
return result
regression_coef_check(
result_linear_ols,
notation_coef=['b0', 'b1'],
p_level=0.95)
Вывод: коэффициенты регрессии b0 и b1 ЗНАЧИМЫ.
7. Проверка гетероскедастичности
Для проверка гетероскедастичности statsmodels предлагает нам следующие инструменты:
-
тест Голдфелда-Квандта (https://www.statsmodels.org/stable/generated/statsmodels.stats.diagnostic.het_goldfeldquandt.html#statsmodels.stats.diagnostic.het_goldfeldquandt) — теорию см. [8, с.178], также https://ru.wikipedia.org/wiki/Тест_Голдфелда_—_Куандта.
-
тест Бриша-Пэгана (Breush-Pagan test) (https://www.statsmodels.org/stable/generated/statsmodels.stats.diagnostic.het_breuschpagan.html#statsmodels.stats.diagnostic.het_breuschpagan) — теорию см.[8, с.179], также https://en.wikipedia.org/wiki/Breusch–Pagan_test.
-
тест Уайта (White test) (https://www.statsmodels.org/stable/generated/statsmodels.stats.diagnostic.het_white.html#statsmodels.stats.diagnostic.het_white) — теорию см.[8, с.177], а также https://ru.wikipedia.org/wiki/Тест_Уайта.
Тест Голдфелда-Квандта (Goldfeld–Quandt test)
# тест Голдфелда-Квандта (Goldfeld–Quandt test)
test = sms.het_goldfeldquandt(result_linear_ols.resid, result_linear_ols.model.exog)
test_result = lzip(['F_calc', 'p_calc'], test) # распаковка результатов теста
# расчетное значение статистики F-критерия
F_calc_tuple = test_result[0]
F_calc = F_calc_tuple[1]
print(f"Расчетное значение статистики F-критерия: F_calc = {round(F_calc, DecPlace)}")
# расчетный уровень значимости
p_calc_tuple = test_result[1]
p_calc = p_calc_tuple[1]
print(f"Расчетное значение доверительной вероятности: p_calc = {round(p_calc, DecPlace)}")
#a_calc = 1 - p_value
#print(f"Расчетное значение уровня значимости: a_calc = 1 - p_value = {round(a_calc, DecPlace)}")
# вывод
if p_calc < a_level:
conclusion_GQ_test = f"Так как p_calc = {round(p_calc, DecPlace)} < a_level = {round(a_level, DecPlace)}" +
", то дисперсии в подвыборках отличаются значимо, т.е. гипотеза о наличии гетероскедастичности ПРИНИМАЕТСЯ"
else:
conclusion_GQ_test = f"Так как p_calc = {round(p_calc, DecPlace)} >= a_level = {round(a_level, DecPlace)}" +
", то дисперсии в подвыборках отличаются незначимо, т.е. гипотеза о наличии гетероскедастичности ОТВЕРГАЕТСЯ"
print(conclusion_GQ_test)
Для удобства создадим пользовательскую функцию Goldfeld_Quandt_test:
def Goldfeld_Quandt_test(
model_fit,
p_level: float=0.95,
model_name=''):
a_level = 1 - p_level
# реализация теста
test = sms.het_goldfeldquandt(model_fit.resid, model_fit.model.exog)
test_result = lzip(['F_statistic', 'p_calc'], test) # распаковка результатов теста
# расчетное значение статистики F-критерия
F_calc_tuple = test_result[0]
F_statistic = F_calc_tuple[1]
# расчетный уровень значимости
p_calc_tuple = test_result[1]
p_calc = p_calc_tuple[1]
# вывод
conclusion_test = 'heteroscedasticity' if p_calc < a_level else 'not heteroscedasticity'
result = pd.DataFrame({
'test': ('Goldfeld–Quandt test'),
'p_level': (p_level),
'a_level': (a_level),
'F_statistic': (F_statistic),
'p_calc': (p_calc),
'p_calc < a_level': (p_calc < a_level),
'heteroscedasticity_check': (conclusion_test)
},
index=[model_name])
return result
Goldfeld_Quandt_test(result_linear_ols, p_level=0.95, model_name='linear_ols')
Тест Бриша-Пэгана (Breush-Pagan test)
# тест Бриша-Пэгана (Breush-Pagan test)
name = ["Lagrange multiplier statistic", "p-value", "f-value", "f p-value"]
test = sms.het_breuschpagan(result_linear_ols.resid, result_linear_ols.model.exog)
lzip(name, test)
Для удобства создадим пользовательскую функцию Breush_Pagan_test:
def Breush_Pagan_test(
model_fit,
p_level: float=0.95,
model_name=''):
a_level = 1 - p_level
# реализация теста
test = sms.het_breuschpagan(model_fit.resid, model_fit.model.exog)
name = ['Lagrange_multiplier_statistic', 'p_calc_LM', 'F_statistic', 'p_calc']
test_result = lzip(name, test) # распаковка результатов теста
# расчетное значение статистики теста множителей Лагранжа
LM_calc_tuple = test_result[0]
Lagrange_multiplier_statistic = LM_calc_tuple[1]
# расчетный уровень значимости статистики теста множителей Лагранжа
p_calc_LM_tuple = test_result[1]
p_calc_LM = p_calc_LM_tuple[1]
# расчетное значение F-статистики гипотезы о том, что дисперсия ошибки не зависит от x
F_calc_tuple = test_result[2]
F_statistic = F_calc_tuple[1]
# расчетный уровень значимости F-статистики
p_calc_tuple = test_result[3]
p_calc = p_calc_tuple[1]
# вывод
conclusion_test = 'heteroscedasticity' if p_calc < a_level else 'not heteroscedasticity'
# вывод
conclusion_test = 'heteroscedasticity' if p_calc < a_level else 'not heteroscedasticity'
result = pd.DataFrame({
'test': ('Breush-Pagan test'),
'p_level': (p_level),
'a_level': (a_level),
'Lagrange_multiplier_statistic': (Lagrange_multiplier_statistic),
'p_calc_LM': (p_calc_LM),
'p_calc_LM < a_level': (p_calc_LM < a_level),
'F_statistic': (F_statistic),
'p_calc': (p_calc),
'p_calc < a_level': (p_calc < a_level),
'heteroscedasticity_check': (conclusion_test)
},
index=[model_name])
return result
Breush_Pagan_test(result_linear_ols, p_level=0.95, model_name='linear_ols')
Тест Уайта (White test)
# тест Уайта (White test)
name = ["Lagrange multiplier statistic", "p-value", "f-value", "f p-value"]
test = sms.het_white(result_linear_ols.resid, result_linear_ols.model.exog)
lzip(name, test)
Для удобства создадим пользовательскую функцию White_test:
def White_test(
model_fit,
p_level: float=0.95,
model_name=''):
a_level = 1 - p_level
# реализация теста
test = sms.het_white(model_fit.resid, model_fit.model.exog)
name = ['Lagrange_multiplier_statistic', 'p_calc_LM', 'F_statistic', 'p_calc']
test_result = lzip(name, test) # распаковка результатов теста
# расчетное значение статистики теста множителей Лагранжа
LM_calc_tuple = test_result[0]
Lagrange_multiplier_statistic = LM_calc_tuple[1]
# расчетный уровень значимости статистики теста множителей Лагранжа
p_calc_LM_tuple = test_result[1]
p_calc_LM = p_calc_LM_tuple[1]
# расчетное значение F-статистики гипотезы о том, что дисперсия ошибки не зависит от x
F_calc_tuple = test_result[2]
F_statistic = F_calc_tuple[1]
# расчетный уровень значимости F-статистики
p_calc_tuple = test_result[3]
p_calc = p_calc_tuple[1]
# вывод
conclusion_test = 'heteroscedasticity' if p_calc < a_level else 'not heteroscedasticity'
# вывод
conclusion_test = 'heteroscedasticity' if p_calc < a_level else 'not heteroscedasticity'
result = pd.DataFrame({
'test': ('White test'),
'p_level': (p_level),
'a_level': (a_level),
'Lagrange_multiplier_statistic': (Lagrange_multiplier_statistic),
'p_calc_LM': (p_calc_LM),
'p_calc_LM < a_level': (p_calc_LM < a_level),
'F_statistic': (F_statistic),
'p_calc': (p_calc),
'p_calc < a_level': (p_calc < a_level),
'heteroscedasticity_check': (conclusion_test)
},
index=[model_name])
return result
White_test(result_linear_ols, p_level=0.95, model_name='linear_ols')
Объединим результаты всех тестов гетероскедастичность в один DataFrame:
Goldfeld_Quandt_test_df = Goldfeld_Quandt_test(result_linear_ols, p_level=0.95, model_name='linear_ols')
Breush_Pagan_test_df = Breush_Pagan_test(result_linear_ols, p_level=0.95, model_name='linear_ols')
White_test_df = White_test(result_linear_ols, p_level=0.95, model_name='linear_ols')
heteroscedasticity_tests_df = pd.concat([Breush_Pagan_test_df, White_test_df, Goldfeld_Quandt_test_df])
display(heteroscedasticity_tests_df)
Выводы
Итак, мы провели статистический анализ регрессионной модели и установили:
-
исходные данные имеют нормальное распределение;
-
между переменными имеется весьма сильная корреляционная связь;
-
регрессионная модель хорошо аппроксимирует фактические данные;
-
остатки модели имеют нормальное распределение;
-
регрессионная модель адекватна по критерию Фишера;
-
коэффициент детерминации значим по критеию Фишера;
-
коэффициенты регрессии значимы по критерию Стьюдента;
-
гетероскедастичность отсутствует.
Применительно к рассматриваемой задаче выполнять проверку автокорреляции не имеет особого смысла из-за особенностей исходных данных (результаты замеров прочности бетона на разных участках здания).
Про статистический анализ регрессионных моделей с помощью statsmodels— см. еще https://www.statsmodels.org/stable/examples/notebooks/generated/regression_diagnostics.html.
Доверительные интервалы регрессионной модели
Для регрессионных моделей определяют доверительные интервалы двух видов [3, с.184-192; 4, с.172; 8, с.205-209]:
-
Доверительный интервал средних значений переменной Y.
-
Доверительный интервал индивидуальных значений переменной Y.
При этом размер доверительного интервала для индивидуальных значений больше, чем для средних значений.
Доверительные интервалы регрессионных моделей (ДИРМ) могут быть найдены разными способами:
-
непосредственно путем расчетов по формулам (см., например, https://habr.com/ru/post/558158/);
-
с использованием инструментария библиотеки statsmodels (см., например, https://www.stackfinder.ru/questions/17559408/confidence-and-prediction-intervals-with-statsmodels).
Разбререм более подробно способ с использованием библиотеки statsmodels. Прежде всего, с помощью свойства summary_table класса statsmodels.stats.outliers_influence.OLSInfluence (https://www.statsmodels.org/stable/generated/statsmodels.stats.outliers_influence.OLSInfluence.html?highlight=olsinfluence) мы можем получить таблицу данных, содержащую необходимую нам информацию:
-
Dep Var Population — фактические значения переменной Y;
-
Predicted Value — предсказанные значения переменной Y по по регрессионной модели;
-
Std Error Mean Predict — среднеквадратическая ошибка предсказанного среднего;
-
Mean ci 95% low и Mean ci 95% upp — границы доверительного интервала средних значений переменной Y;
-
Predict ci 95% low и Predict ci 95% upp — границы доверительного интервала индивидуальных значений переменной Y;
-
Residual — остатки регрессионной модели;
-
Std Error Residual — среднеквадратическая ошибка остатков;
-
Student Residual — стьюдентизированные остатки (подробнее см. http://statistica.ru/glossary/general/studentizirovannie-ostatki/);
-
Cook’s D — Расстояние Кука (Cook’s distance) — оценивает эффект от удаления одного (рассматриваемого) наблюдения; наблюдение считается выбросом, если Di > 4/n (более подробно — см.https://translated.turbopages.org/proxy_u/en-ru.ru.f584ceb5-63296427-aded8f31-74722d776562/https/en.wikipedia.org/wiki/Cook’s_distance, http://www.machinelearning.ru/wiki/index.php?title=Расстояние_Кука).
from statsmodels.stats.outliers_influence import summary_table
st, data, ss2 = summary_table(result_linear_ols, alpha=0.05)
print(st, 'n', type(st))
В нашем случае критическое значение расстояния Кука равно:
print(f'D_crit = 4/n = {4/result_linear_ols.nobs}')
то есть выбросов, смещающих оценки коэффициентов регрессии, не наблюдается.
Мы получили данные как класс statsmodels.iolib.table.SimpleTable. Свойство data преобразует данные в список. Далее для удобства работы преобразуем данные в DataFrame:
st_data_df = pd.DataFrame(st.data)
Будем использовать данный DataFrame в дальнейшем, несколько преобразуем его:
-
изменим наименование столбцов (с цифр на названия показателей из таблицы summary_table)
-
удалим строки с текстовыми значениями
-
изменим индекс
-
добавим новый столбец — значения переменной X
-
отсортируем по возрастанию значений переменной X (это необходимо, чтобы графики границ доверительных интервалов выглядели как линии)
st_df = st_data_df.copy()
# изменим наименования столбцов
str = st_df.iloc[0,0:] + ' ' + st_df.iloc[1,0:]
st_df = st_df.rename(str, axis='columns')
# удалим строки 0, 1
st_df = st_df.drop([0,1])
# изменим индекс
st_df = st_df.set_index(np.arange(0, result_linear_ols.nobs))
# добавим новый столбец - значения переменной X
st_df.insert(1, 'X', X)
# отсортируем по возрастанию значений переменной X
st_df = st_df.sort_values(by='X')
display(st_df)
С помощью полученных данных мы можем построить график регрессионной модели с доверительными интервалами:
# создание рисунка (Figure) и области рисования (Axes)
fig, axes = plt.subplots(figsize=(297/INCH, 210/INCH))
# заголовок рисунка (Figure)
title_figure = Task_Project
fig.suptitle(title_figure, fontsize = 16)
# заголовок области рисования (Axes)
title_axes = 'Линейная регрессионная модель'
axes.set_title(title_axes, fontsize = 14)
# фактические данные
sns.scatterplot(
x=st_df['X'], y=st_df['Dep Var Population'],
label='фактические данные',
s=50,
color='red',
ax=axes)
# график регрессионной модели
label_legend_regr_model=f'линейная регрессия Y = {b0:.3f} + {b1:.4f}*X'
sns.lineplot(
x=st_df['X'], y=st_df['Predicted Value'],
label=label_legend_regr_model,
color='blue',
ax=axes)
# доверительный интервал средних значений переменной Y
Mean_ci_low = st_df['Mean ci 95% low']
plt.plot(
st_df['X'], Mean_ci_low,
color='magenta', linestyle='--', linewidth=1,
label='доверительный интервал средних значений Y')
Mean_ci_upp = st_df['Mean ci 95% upp']
plt.plot(
st_df['X'], Mean_ci_upp,
color='magenta', linestyle='--', linewidth=1)
# доверительный интервал индивидуальных значений переменной Y
Predict_ci_low = st_df['Predict ci 95% low']
plt.plot(
st_df['X'], Predict_ci_low,
color='orange', linestyle='-.', linewidth=2,
label='доверительный интервал индивидуальных значений Y')
Predict_ci_upp = st_df['Predict ci 95% upp']
plt.plot(
st_df['X'], Predict_ci_upp,
color='orange', linestyle='-.', linewidth=2)
axes.set_xlabel(Variable_Name_X)
axes.set_ylabel(Variable_Name_Y)
axes.legend(prop={'size': 12})
plt.show()
Однако, мы получили данные о границах доверительных интервалов регрессионной модели только в пределах области фактических значений переменной X. Как быть, если мы хотим распространить прогноз за пределы этой области?
Прогнозирование
Под прогнозированием мы в данном случае будем понимать определение значений переменной Y и доверительных интервалов для ее средних и индивидуальных значений при заданном X. По сути, нам предстоит построить аналог рассмотренной выше таблицы summary_table, только с другими значениями X, причем эти значения могут выходить за пределы тех значений, которые использовались нами для построения регрессии.
Методика расчета доверительных интервалов регрессионных моделей разобрана в статье «Python, корреляция и регрессия: часть 4» (https://habr.com/ru/post/558158/), всем рекомендую ознакомиться.
Найти прогнозные значения Y не представляет труда, так как ранее мы уже формализовали модель в виде лямбда-функции, а вот для построения доверительных интервалов придется выполнить расчеты по формулам. Для этого создадим пользовательскую функцию regression_pair_predict, которая в случае парной регрессии (pair regression) для заданного значения X возвращает:
-
прогнозируемое по регрессионной модели значение y_calc
-
доверительный интервал [y_calc_mean_ci_low, y_calc_mean_ci_upp] средних значений переменной Y
-
доверительный интервал [y_calc_predict_ci_low, y_calc_predict_ci_upp] индивидуальных значений переменной Y
Алгоритм расчета доверительных интервалов для множественной регрессии (multiple regression) отличается и в данном обзоре не рассматривается (рассмотрим в дальнейшем).
Про прогнозирование с помощью регрессионных моделей — см.также:
-
https://www.statsmodels.org/stable/generated/statsmodels.regression.linear_model.RegressionResults.predict.html?highlight=predict#statsmodels.regression.linear_model.RegressionResults.predict
-
How to Make Predictions Using Regression Model in Statsmodels
-
https://www.statsmodels.org/stable/examples/notebooks/generated/predict.html
def regression_pair_predict(
x_in,
model_fit,
regression_model,
p_level: float=0.95):
a_level = 1 - p_level
X = pd.DataFrame(model_fit.model.exog)[1].values # найти лучшее решение
Y = model_fit.model.endog
# вспомогательные величины
n = int(result_linear_ols.nobs)
SSE = model_fit.ssr # SSE (Sum of Squared Error)
dfE = n - p - 1
MSE = SSE / dfE # остаточная дисперсия
Xmean = np.mean(X)
SST_X = np.sum([(X[i] - Xmean)**2 for i in range(0, n)])
t_table = sci.stats.t.ppf((1 + p_level)/2 , dfE)
S2_y_calc_mean = MSE * (1/n + (x_in - Xmean)**2 / SST_X)
S2_y_calc_predict = MSE * (1 + 1/n + (x_in - Xmean)**2 / SST_X)
# прогнозируемое значение переменной Y
y_calc=regression_model(x_in)
# доверительный интервал средних значений переменной Y
y_calc_mean_ci_low = y_calc - t_table*sqrt(S2_y_calc_mean)
y_calc_mean_ci_upp = y_calc + t_table*sqrt(S2_y_calc_mean)
# доверительный интервал индивидуальных значений переменной Y
y_calc_predict_ci_low = y_calc - t_table*sqrt(S2_y_calc_predict)
y_calc_predict_ci_upp = y_calc + t_table*sqrt(S2_y_calc_predict)
result = y_calc, y_calc_mean_ci_low, y_calc_mean_ci_upp, y_calc_predict_ci_low, y_calc_predict_ci_upp
return result
Сравним результаты расчета доверительных интервалов разными способами — с использованием функции regression_pair_predict и средствами statsmodels, для этого сформируем DaraFrame с новыми данными:
regression_pair_predict_df = pd.DataFrame(
[regression_pair_predict(elem, result_linear_ols, regression_model=Y_calc) for elem in st_df['X'].values],
columns=['y_calc', 'y_calc_mean_ci_low', 'y_calc_mean_ci_upp', 'y_calc_predict_ci_low', 'y_calc_predict_ci_upp'])
regression_pair_predict_df.insert(0, 'X', st_df['X'].values)
display(regression_pair_predict_df)
Видим, что результаты расчетов идентичны, следовательно мы можем использовать функцию regression_pair_predict для прогнозирования.
def graph_regression_pair_predict_plot_sns(
model_fit,
regression_model_in,
Xmin=None, Xmax=None, Nx=10,
Ymin_graph=None, Ymax_graph=None,
title_figure=None, title_figure_fontsize=18,
title_axes=None, title_axes_fontsize=16,
x_label=None,
y_label=None,
label_fontsize=14, tick_fontsize=12,
label_legend_regr_model='', label_legend_fontsize=12,
s=50, linewidth_regr_model=2,
graph_size=(297/INCH, 210/INCH),
result_output=True,
file_name=None):
# фактические данные
X = pd.DataFrame(model_fit.model.exog)[1].values # найти лучшее решение
Y = model_fit.model.endog
X = np.array(X)
Y = np.array(Y)
# границы
if not(Xmin) and not(Xmax):
Xmin=min(X)
Xmax=max(X)
Xmin_graph=min(X)*0.99
Xmax_graph=max(X)*1.01
else:
Xmin_graph=Xmin
Xmax_graph=Xmax
if not(Ymin_graph) and not(Ymax_graph):
Ymin_graph=min(Y)*0.99
Ymax_graph=max(Y)*1.01
# формируем DataFrame данных
Xcalc = np.linspace(Xmin, Xmax, num=Nx)
Ycalc = regression_model_in(Xcalc)
result_df = pd.DataFrame(
[regression_pair_predict(elem, model_fit, regression_model=regression_model_in) for elem in Xcalc],
columns=['y_calc', 'y_calc_mean_ci_low', 'y_calc_mean_ci_upp', 'y_calc_predict_ci_low', 'y_calc_predict_ci_upp'])
result_df.insert(0, 'x_calc', Xcalc)
# заголовки графика
fig, axes = plt.subplots(figsize=graph_size)
fig.suptitle(title_figure, fontsize = title_figure_fontsize)
axes.set_title(title_axes, fontsize = title_axes_fontsize)
# фактические данные
sns.scatterplot(
x=X, y=Y,
label='фактические данные',
s=s,
color='red',
ax=axes)
# график регрессионной модели
sns.lineplot(
x=Xcalc, y=Ycalc,
color='blue',
linewidth=linewidth_regr_model,
legend=True,
label=label_legend_regr_model,
ax=axes)
# доверительный интервал средних значений переменной Y
Mean_ci_low = result_df['y_calc_mean_ci_low']
plt.plot(
result_df['x_calc'], Mean_ci_low,
color='magenta', linestyle='--', linewidth=1,
label='доверительный интервал средних значений Y')
Mean_ci_upp = result_df['y_calc_mean_ci_upp']
plt.plot(
result_df['x_calc'], Mean_ci_upp,
color='magenta', linestyle='--', linewidth=1)
# доверительный интервал индивидуальных значений переменной Y
Predict_ci_low = result_df['y_calc_predict_ci_low']
plt.plot(
result_df['x_calc'], Predict_ci_low,
color='orange', linestyle='-.', linewidth=2,
label='доверительный интервал индивидуальных значений Y')
Predict_ci_upp = result_df['y_calc_predict_ci_upp']
plt.plot(
result_df['x_calc'], Predict_ci_upp,
color='orange', linestyle='-.', linewidth=2)
axes.set_xlim(Xmin_graph, Xmax_graph)
axes.set_ylim(Ymin_graph, Ymax_graph)
axes.set_xlabel(x_label, fontsize = label_fontsize)
axes.set_ylabel(y_label, fontsize = label_fontsize)
axes.tick_params(labelsize = tick_fontsize)
#axes.tick_params(labelsize = tick_fontsize)
axes.legend(prop={'size': label_legend_fontsize})
plt.show()
if file_name:
fig.savefig(file_name, orientation = "portrait", dpi = 300)
if result_output:
return result_df
else:
return
graph_regression_pair_predict_plot_sns(
model_fit=result_linear_ols,
regression_model_in=Y_calc,
Xmin=Xmin_graph-300, Xmax=Xmax_graph+200, Nx=25,
Ymin_graph=Ymin_graph-5, Ymax_graph=Ymax_graph+5,
title_figure=Task_Project, title_figure_fontsize=16,
title_axes='Линейная регрессионная модель', title_axes_fontsize=14,
x_label=Variable_Name_X,
y_label=Variable_Name_Y,
label_legend_regr_model=f'линейная регрессия Y = {b0:.3f} + {b1:.4f}*X',
s=50,
result_output=True,
file_name='graph/regression_plot_lin.png')
Выводы и рекомендации
Исследована зависимость показаний ультразвукового прибора «ПУЛЬСАР-2.1» (X) и результатов замера прочности бетона (методом отрыва со скалыванием) склерометром ИПС-МГ4.03 (Y).
Между переменными имеется весьма сильная линейная корреляционная связь. Получена регрессионная модель:
Y = b0 + b1∙X = -21.3741 + 0.0129∙X
Модель хорошо аппроксимирует фактические данные, является адекватной, значимой и может использоваться для предсказания прочности бетона.
Также построен график прогноза с доверительными интервалами.
ИТОГИ
Итак, мы рассмотрели все этапы регрессионного анализа в случае простой линейной регрессии (simple linear regression) с использованием библиотеки statsmodels на конкретном практическом примере; подробно остановились на статистическом анализа модели с проверкой гипотез; также предложен ряд пользовательских функций, облегчающих работу исследователя и уменьшающих размер программного кода.
Конечно, мы разобрали далеко не все вопросы анализа регрессионных моделей и возможности библиотеки statsmodels применительно к simple linear regression, в частности статистики влияния (Influence Statistics), инструмент Leverage, анализ стьюдентизированных остатков и пр. — это темы для отдельных обзоров.
Исходный код находится в моем репозитории на GitHub.
Надеюсь, данный обзор поможет специалистам DataScience в работе.
Рисунок 4 Результат вычисления функции ЛИНЕЙН
Получили уровнение регрессии:
Делаем вывод: С увеличением среднедушевого прожиточного минимума на 1 руб. среднедневная заработная плата возрастает в среднем на 0,92 руб.
Означает, что 52% вариации заработной платы (у) объясняется вариацией фактора х — среднедушевого прожиточного минимума, а 48% — действием других факторов, не включённых в модель.
По вычисленному коэффициенту детерминации можно рассчитать коэффициент корреляции: 
Связь оценивается как тесная.
4. С помощью среднего (общего) коэффициента эластичности определим силу влияния фактора на результат.
Для уравнения прямой средний (общий) коэффициент эластичности определим по формуле:
Средние значения найдём, выделив область ячеек со значениями х, и выберем Формулы / Автосумма / Среднее , и то же самое произведём со значениями у.
Рисунок 5 Расчёт средних значений функции и аргумент
Таким образом, при изменении среднедушевого прожиточного минимума на 1% от своего среднего значения среднедневная заработная плата изменится в среднем на 0,51%.
С помощью инструмента анализа данных Регрессия можно получить:
— результаты регрессионной статистики,
— результаты дисперсионного анализа,
— результаты доверительных интервалов,
— остатки и графики подбора линии регрессии,
— остатки и нормальную вероятность.
Порядок действий следующий:
1) проверьте доступ к Пакету анализа . В главном меню последовательно выберите: Файл/Параметры/Надстройки .
2) В раскрывающемся списке Управление выберите пункт Надстройки Excel и нажмите кнопку Перейти.
3) В окне Надстройки установите флажок Пакет анализа , а затем нажмите кнопку ОК .
Если Пакет анализа отсутствует в списке поля Доступные надстройки , нажмите кнопку Обзор , чтобы выполнить поиск.
Если выводится сообщение о том, что пакет анализа не установлен на компьютере, нажмите кнопку Да , чтобы установить его.
4) В главном меню последовательно выберите: Данные / Анализ данных / Инструменты анализа / Регрессия , а затем нажмите кнопку ОК .
5) Заполните диалоговое окно ввода данных и параметров вывода:
Входной интервал Y — диапазон, содержащий данные результативного признака;
Входной интервал X — диапазон, содержащий данные факторного признака;
Метки — флажок, который указывает, содержит ли первая строка названия столбцов или нет;
Константа — ноль — флажок, указывающий на наличие или отсутствие свободного члена в уравнении;
Выходной интервал — достаточно указать левую верхнюю ячейку будущего диапазона;
6) Новый рабочий лист — можно задать произвольное имя нового листа.
Затем нажмите кнопку ОК .
Рисунок 6 Диалоговое окно ввода параметров инструмента Регрессия
Результаты регрессионного анализа для данных задачи представлены на рисунке 7.
Рисунок 7 Результат применения инструмента регрессия
5. Оценим с помощью средней ошибки аппроксимации качество уравнений. Воспользуемся результатами регрессионного анализа представленного на Рисунке 8.
Рисунок 8 Результат применения инструмента регрессия «Вывод остатка»
Составим новую таблицу как показано на рисунке 9. В графе С рассчитаем относительную ошибку аппроксимации по формуле:
Рисунок 9 Расчёт средней ошибки аппроксимации
Средняя ошибка аппроксимации рассчитывается по формуле:
Качество построенной модели оценивается как хорошее, так как не превышает 8 — 10%.
6. Из таблицы с регрессионной статистикой (Рисунок 4) выпишем фактическое значение F-критерия Фишера:
Поскольку 
8. Оценку статистической значимости параметров регрессии проведём с помощью t-статистики Стьюдента и путём расчёта доверительного интервала каждого из показателей.
Выдвигаем гипотезу Н 0 о статистически незначимом отличии показателей от нуля:


На рисунке 7 имеются фактические значения t-статистики:
t-критерий для коэффициента корреляции можно рассчитать двумя способами:
где 
Данные для расчёта возьмём из таблицы на Рисунке 7.
Фактические значения t-статистики превосходят табличные значения:
Поэтому гипотеза Н 0 отклоняется, то есть параметры регрессии и коэффициент корреляции не случайно отличаются от нуля, а статистически значимы.
Доверительный интервал для параметра a определяется как
Для параметра a 95%-ные границы как показано на рисунке 7 составили:
Доверительный интервал для коэффициента регрессии определяется как
Для коэффициента регрессии b 95%-ные границы как показано на рисунке 7 составили:
Анализ верхней и нижней границ доверительных интервалов приводит к выводу о том, что с вероятностью 
7. Полученные оценки уравнения регрессии позволяют использовать его для прогноза. Если прогнозное значение прожиточного минимума составит:
Тогда прогнозное значение прожиточного минимума составит:
Ошибку прогноза рассчитаем по формуле:
где
Дисперсию посчитаем также с помощью ППП Excel. Для этого:
1) Активизируйте Мастер функций : в главном меню выберете Формулы / Вставить функцию .
3) Заполните диапазон, содержащий числовые данные факторного признака. Нажмите ОК .
Рисунок 10 Расчёт дисперсии
Получили значение дисперсии
Для подсчёта остаточной дисперсии на одну степень свободы воспользуемся результатами дисперсионного анализа как показано на Рисунке 7.
Доверительные интервалы прогноза индивидуальных значений у при с вероятностью 0,95 определяются выражением:
Интервал достаточно широк, прежде всего, за счёт малого объёма наблюдений. В целом выполненный прогноз среднемесячной заработной платы оказался надёжным.
Условие задачи взято из: Практикум по эконометрике: Учеб. пособие / И.И. Елисеева, С.В. Курышева, Н.М. Гордеенко и др.; Под ред. И.И. Елисеевой. — М.: Финансы и статистика, 2003. — 192 с.: ил.
Для общей оценки качества построенной эконометрической определяются такие характеристики как коэффициент детерминации, индекс корреляции, средняя относительная ошибка аппроксимации, а также проверяется значимость уравнения регрессии с помощью F -критерия Фишера. Перечисленные характеристики являются достаточно универсальными и могут применяться как для линейных, так и для нелинейных моделей, а также моделей с двумя и более факторными переменными. Определяющее значение при вычислении всех перечисленных характеристик качества играет ряд остатков ε i , который вычисляется путем вычитания из фактических (полученных по наблюдениям) значений исследуемого признака y i значений, рассчитанных по уравнению модели y рi .
показывает, какая доля изменения исследуемого признака учтена в модели. Другими словами коэффициент детерминации показывает, какая часть изменения исследуемой переменной может быть вычислена, исходя из изменений включённых в модель факторных переменных с помощью выбранного типа функции, связывающей факторные переменные и исследуемый признак в уравнении модели.
Коэффициент детерминации R 2 может принимать значения от 0 до 1. Чем ближе коэффициент детерминации R 2 к единице, тем лучше качество модели.
Индекс корреляции можно легко вычислить, зная коэффициент детерминации:
Индекс корреляции R характеризует тесноту выбранного при построении модели типа связи между учтёнными в модели факторами и исследуемой переменной. В случае линейной парной регрессии его значение по абсолютной величине совпадает с коэффициентом парной корреляции r (x, y) , который мы рассмотрели ранее, и характеризует тесноту линейной связи между x и y . Значения индекса корреляции, очевидно, также лежат в интервале от 0 до 1. Чем ближе величина R к единице, тем теснее выбранный вид функции связывает между собой факторные переменные и исследуемый признак, тем лучше качество модели.

выражается в процентах и характеризует точность модели. Приемлимая точность модели при решении практических задач может определяться, исходя из соображений экономической целесообразности с учётом конкретной ситуации. Широко применяется критерий, в соответствии с которым точность считается удовлетворительной, если средняя относительная погрешность меньше 15%. Если E отн.ср. меньше 5%, то говорят, что модель имеет высокую точность. Не рекомендуется применять для анализа и прогноза модели с неудовлетворительной точностью, то есть, когда E отн.ср. больше 15%.
F-критерий Фишера используется для оценки значимости уравнения регрессии. Расчётное значение F-критерия определяется из соотношения:

Критическое значение F -критерия определяется по таблицам при заданном уровне значимости α и степенях свободы (можно использовать функцию FРАСПОБР в Excel). Здесь, по-прежнему, m – число факторов, учтённых в модели, n – количество наблюдений. Если расчётное значение больше критического, то уравнение модели признаётся значимым. Чем больше расчётное значение F -критерия, тем лучше качество модели.
Определим характеристики качества построенной нами линейной модели для Примера 1 . Воспользуемся данными Таблицы 2. Коэффициент детерминации :
Следовательно, в рамках линейной модели изменение объёма продаж на 90,1% объясняется изменением температуры воздуха.

Значение индекса корреляции в случае парной линейной модели как мы видим, действительно по модулю равно коэффициенту корреляции между соответствующими переменными (объём продаж и температура). Поскольку полученное значение достаточно близко к единице, то можно сделать вывод о наличии тесной линейной связи между исследуемой переменной (объём продаж) и факторной переменноё (температура).
Критическое значение F кр при α = 0,1; ν 1 =1; ν 2 =7-1-1=5 равно 4,06. Расчётное значение F -критерия больше табличного, следовательно, уравнение модели является значимым.
Средняя относительная ошибка аппроксимации
Построенная линейная модель парной регрессии имеет неудовлетворительную точность (>15%), и её не рекомендуется использовать для анализа и прогнозирования.
В итоге, несмотря на то, что большинство статистических характеристик удовлетворяют предъявляемым к ним критериям, линейная модель парной регрессии непригодна для прогнозирования объёма продаж в зависимости от температуры воздуха. Нелинейный характер зависимости между указанными переменными по данным наблюдений достаточно хорошо виден на Рис.1. Проведённый анализ это подтвердил.
Среди различных методов прогнозирования нельзя не выделить аппроксимацию. С её помощью можно производить приблизительные подсчеты и вычислять планируемые показатели, путем замены исходных объектов на более простые. В Экселе тоже существует возможность использования данного метода для прогнозирования и анализа. Давайте рассмотрим, как этот метод можно применить в указанной программе встроенными инструментами.
Наименование данного метода происходит от латинского слова proxima – «ближайшая» Именно приближение путем упрощения и сглаживания известных показателей, выстраивание их в тенденцию и является его основой. Но данный метод можно использовать не только для прогнозирования, но и для исследования уже имеющихся результатов. Ведь аппроксимация является, по сути, упрощением исходных данных, а упрощенный вариант исследовать легче.
Главный инструмент, с помощью которого проводится сглаживания в Excel – это построение линии тренда. Суть состоит в том, что на основе уже имеющихся показателей достраивается график функции на будущие периоды. Основное предназначение линии тренда, как не трудно догадаться, это составление прогнозов или выявление общей тенденции.
Но она может быть построена с применением одного из пяти видов аппроксимации:
- Линейной;
- Экспоненциальной;
- Логарифмической;
- Полиномиальной;
- Степенной.
Рассмотрим каждый из вариантов более подробно в отдельности.
Способ 1: линейное сглаживание
Прежде всего, давайте рассмотрим самый простой вариант аппроксимации, а именно с помощью линейной функции. На нем мы остановимся подробнее всего, так как изложим общие моменты характерные и для других способов, а именно построение графика и некоторые другие нюансы, на которых при рассмотрении последующих вариантов уже останавливаться не будем.
Прежде всего, построим график, на основании которого будем проводить процедуру сглаживания. Для построения графика возьмем таблицу, в которой помесячно указана себестоимость единицы продукции, производимой предприятием, и соответствующая прибыль в данном периоде. Графическая функция, которую мы построим, будет отображать зависимость увеличения прибыли от уменьшения себестоимости продукции.
Сглаживание, которое используется в данном случае, описывается следующей формулой:
В конкретно нашем случае формула принимает такой вид:
Величина достоверности аппроксимации у нас равна 0,9418 , что является довольно приемлемым итогом, характеризующим сглаживание, как достоверное.
Способ 2: экспоненциальная аппроксимация
Теперь давайте рассмотрим экспоненциальный тип аппроксимации в Эксель.
Общий вид функции сглаживания при этом такой:
где e – это основание натурального логарифма.
В конкретно нашем случае формула приняла следующую форму:
Способ 3: логарифмическое сглаживание
Теперь настала очередь рассмотреть метод логарифмической аппроксимации.
В общем виде формула сглаживания выглядит так:
где ln – это величина натурального логарифма. Отсюда и наименование метода.
В нашем случае формула принимает следующий вид:
Способ 4: полиномиальное сглаживание
Настал черед рассмотреть метод полиномиального сглаживания.
Формула, которая описывает данный тип сглаживания, приняла следующий вид:
Способ 5: степенное сглаживание
В завершении рассмотрим метод степенной аппроксимации в Excel.
Данный способ эффективно используется в случаях интенсивного изменения данных функции. Важно учесть, что этот вариант применим только при условии, что функция и аргумент не принимают отрицательных или нулевых значений.
Общая формула, описывающая данный метод имеет такой вид:
В конкретно нашем случае она выглядит так:
Как видим, при использовании конкретных данных, которые мы применяли для примера, наибольший уровень достоверности показал метод полиномиальной аппроксимации с полиномом в шестой степени (0,9844 ), наименьший уровень достоверности у линейного метода (0,9418 ). Но это совсем не значит, что такая же тенденция будет при использовании других примеров. Нет, уровень эффективности у приведенных выше методов может значительно отличаться, в зависимости от конкретного вида функции, для которой будет строиться линия тренда. Поэтому, если для этой функции выбранный метод наиболее эффективен, то это совсем не означает, что он также будет оптимальным и в другой ситуации.
Если вы пока не можете сразу определить, основываясь на вышеприведенных рекомендациях, какой вид аппроксимации подойдет конкретно в вашем случае, то есть смысл попробовать все методы. После построения линии тренда и просмотра её уровня достоверности можно будет выбрать оптимальный вариант.
Контрольная работа: Парная регрессия
Смысл регрессионного анализа – построение функциональных зависимостей между двумя группами переменных величин Х1 , Х2 , … Хр и Y. При этом речь идет о влиянии переменных Х (это будут аргументы функций) на значения переменной Y (значение функции). Переменные Х мы будем называть факторами, а Y – откликом.
Наиболее простой случай – установление зависимости одного отклика y от одного фактора х. Такой случай называется парной (простой) регрессией.
Парная регрессия – уравнение связи двух переменных у иx :
,
где у – зависимая переменная (результативный признак);
х – независимая, объясняющая переменная (признак-фактор).
Различают линейные и нелинейные регрессии.
Линейная регрессия:.
Нелинейные регрессии делятся на два класса: регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, и регрессии, нелинейные по оцениваемым параметрам.
Регрессии, нелинейные по объясняющим переменным:
• полиномы разных степеней
•равносторонняя гипербола
Регрессии, нелинейные по оцениваемым параметрам:
• степенная ;
• показательная
• экспоненциальная
Построение уравнения регрессии сводится к оценке ее параметров. Для оценки параметров регрессий, линейных по параметрам, используют метод наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака у от теоретических минимальна, т.е.
Для линейных и нелинейных уравнений, приводимых к линейным, решается следующая система относительно а и b :
Можно воспользоваться готовыми формулами, которые вытекают из этой системы:
Тесноту связи изучаемых явлений оценивает линейный коэффициент парной корреляции для линейной регрессии
и индекс корреляции — для нелинейной регрессии ():
Оценку качества построенной модели даст коэффициент (индекс) детерминации, а также средняя ошибка аппроксимации.
Средняя ошибка аппроксимации – среднее отклонение расчетных значений от фактических:
Допустимый предел значений – не более 8 – 10%.
Средний коэффициент эластичности показывает, на сколько процентов в среднем по совокупности изменится результат у от своей средней величины при изменении фактора x на 1% от своего среднего значения:
Задача дисперсионного анализа состоит в анализе дисперсии зависимой переменной:
где – общая сумма квадратов отклонений;
– сумма квадратов отклонений, обусловленная регрессией («объясненная» или «факторная»);
–остаточная сумма квадратов отклонений.
Долю дисперсии, объясняемую регрессией, в общей дисперсии результативного признака у характеризует коэффициент (индекс) детерминации R 2 :
Коэффициент детерминации – квадрат коэффициента или индекса корреляции.
F -тест – оценивание качества уравнения регрессии – состоит в проверке гипотезы Но о статистической незначимости уравнения регрессии и показателя тесноты связи. Для этого выполняется сравнение фактического Fфакт и критического (табличного) Fтабл значений F -критерия Фишера. F факт определяется из соотношения значений факторной и остаточной дисперсий, рассчитанных на одну степень свободы:
п – число единиц совокупности;
т – число параметров при переменных х.
Fтабл – это максимально возможное значение критерия под влиянием случайных факторов при данных степенях свободы и уровне значимости а. Уровень значимости а – вероятность отвергнуть правильную гипотезу при условии, что она верна. Обычно а принимается равной 0,05 или 0,01.
Если Fтабл Fфакт , то гипотеза Н0 не отклоняется и признается статистическая незначимость, ненадежность уравнения регрессии.
Для оценки статистической значимости коэффициентов регрессии и корреляции рассчитываются t -критерий Стьюдента и доверительные интервалы каждого из показателей. Выдвигается гипотеза Н0 о случайной природе показателей, т.е. о незначимом их отличии от нуля. Оценка значимости коэффициентов регрессии и корреляции с помощью f-критерия Стьюдента проводится путем сопоставления их значений с величиной случайной ошибки:
Случайные ошибки параметров линейной регрессии и коэффициента корреляции определяются по формулам:
Сравнивая фактическое и критическое (табличное) значения t-статистики – tтабл и tфакт – принимаем или отвергаем гипотезу Hо .
Связь между F-критерием Фишера и t-статистикой Стьюдента выражается равенством
Если tтабл tфакт , то гипотеза Но не отклоняется и признается случайная природа формирования a , b или .
Для расчета доверительного интервала определяем предельную ошибку ∆ для каждого показателя:
Формулы для расчета доверительных интервалов имеют следующий вид:
Если в границы доверительного интервала попадает ноль, т.е. нижняя граница отрицательна, а верхняя положительна, то оцениваемый параметр принимается нулевым, так как он не может одновременно принимать и положительное, и отрицательное значения.
Прогнозное значение определяется путем подстановки в уравнение регрессии соответствующего (прогнозного) значения . Вычисляется средняя стандартная ошибка прогноза :
где
и строится доверительный интервал прогноза:
где
По 22 регионам страны изучается зависимость розничной продажи телевизоров, y от среднедушевых денежных доходов в месяц, x (табл. 1):
| Название: Парная регрессия Раздел: Рефераты по математике Тип: контрольная работа Добавлен 13:41:57 15 апреля 2011 Похожие работы Просмотров: 3780 Комментариев: 22 Оценило: 4 человек Средний балл: 4.5 Оценка: неизвестно Скачать |
| № региона | X | Y |
| 1,000 | 2,800 | 28,000 |
| 2,000 | 2,400 | 21,300 |
| 3,000 | 2,100 | 21,000 |
| 4,000 | 2,600 | 23,300 |
| 5,000 | 1,700 | 15,800 |
| 6,000 | 2,500 | 21,900 |
| 7,000 | 2,400 | 20,000 |
| 8,000 | 2,600 | 22,000 |
| 9,000 | 2,800 | 23,900 |
| 10,000 | 2,600 | 26,000 |
| 11,000 | 2,600 | 24,600 |
| 12,000 | 2,500 | 21,000 |
| 13,000 | 2,900 | 27,000 |
| 14,000 | 2,600 | 21,000 |
| 15,000 | 2,200 | 24,000 |
| 16,000 | 2,600 | 34,000 |
| 17,000 | 3,300 | 31,900 |
| 19,000 | 3,900 | 33,000 |
| 20,000 | 4,600 | 35,400 |
| 21,000 | 3,700 | 34,000 |
| 22,000 | 3,400 | 31,000 |
1. Постройте поле корреляции и сформулируйте гипотезу о форме связи.
2. Рассчитайте параметры уравнений линейной, степенной, экспоненциальной, полулогарифмической, обратной, гиперболической парной регрессий.
3. Оцените тесноту связи с помощью показателей корреляции и детерминации.
4. С помощью среднего (общего) коэффициента эластичности дайте сравнительную оценку силы связи фактора с результатом.
5. Качество уравнений оцените с помощью средней ошибки аппроксимации.
6. С помощью F-критерия Фишера определите статистическую надежность результатов регрессионного моделирования. Выберите лучшее уравнение регрессии и дайте его обоснование.
7. Рассчитайте прогнозное значение результата по линейному уравнению регрессии, если прогнозное значение фактора увеличится на 7% от его среднего уровня. Определите доверительный интервал прогноза для уровня значимости α=0,05.
8. Оцените полученные результаты, выводы оформите в аналитической записке.
1. Поле корреляции для:
· Линейной регрессии y=a+b*x:
Гипотеза о форме связи: чем больше размер среднедушевого денежного дохода в месяц (факторный признак), тем больше при прочих равных условиях розничная продажа телевизоров (результативный признак). В данной модели параметр b называется коэффициентом регрессии и показывает, насколько в среднем отклоняется величина результативного признака у при отклонении величины факторного признаках на одну единицу.
· Степенной регрессии :
Гипотеза о форме связи : степенная функция имеет вид Y=ax b .
Параметр b степенного уравнения называется показателем эластичности и указывает, на сколько процентов изменится у при возрастании х на 1%. При х = 1 a = Y.
· Экспоненциальная регрессия :
· Равносторонняя гипербола :
Гипотеза о форме связи: В ряде случаев обратная связь между факторным и результативным признаками может быть выражена уравнением гиперболы: Y=a+b/x.
· Обратная гипербола :
· Полулогарифмическая регрессия :
2. Рассчитайте параметры уравнений линейной, степенной, экспоненциальной, полулогарифмической, обратной, гиперболической парной регрессий.
· Рассчитаем параметры уравнений линейной парной регрессии. Для расчета параметров a и b линейной регрессии y=a+b*x решаем систему нормальных уравнений относительно a и b:
По исходным данным рассчитываем ∑y, ∑x, ∑yx, ∑x 2 , ∑y 2 (табл. 2):
| № региона | X | Y | XY | X^2 | Y^2 | Y^cp | Y-Y^cp | Ai |
| 1 | 2,800 | 28,000 | 78,400 | 7,840 | 784,000 | 25,719 | 2,281 | 0,081 |
| 2 | 2,400 | 21,300 | 51,120 | 5,760 | 453,690 | 22,870 | -1,570 | 0,074 |
| 3 | 2,100 | 21,000 | 44,100 | 4,410 | 441,000 | 20,734 | 0,266 | 0,013 |
| 4 | 2,600 | 23,300 | 60,580 | 6,760 | 542,890 | 24,295 | -0,995 | 0,043 |
| 5 | 1,700 | 15,800 | 26,860 | 2,890 | 249,640 | 17,885 | -2,085 | 0,132 |
| 6 | 2,500 | 21,900 | 54,750 | 6,250 | 479,610 | 23,582 | -1,682 | 0,077 |
| 7 | 2,400 | 20,000 | 48,000 | 5,760 | 400,000 | 22,870 | -2,870 | 0,144 |
| 8 | 2,600 | 22,000 | 57,200 | 6,760 | 484,000 | 24,295 | -2,295 | 0,104 |
| 9 | 2,800 | 23,900 | 66,920 | 7,840 | 571,210 | 25,719 | -1,819 | 0,076 |
| 10 | 2,600 | 26,000 | 67,600 | 6,760 | 676,000 | 24,295 | 1,705 | 0,066 |
| 11 | 2,600 | 24,600 | 63,960 | 6,760 | 605,160 | 24,295 | 0,305 | 0,012 |
| 12 | 2,500 | 21,000 | 52,500 | 6,250 | 441,000 | 23,582 | -2,582 | 0,123 |
| 13 | 2,900 | 27,000 | 78,300 | 8,410 | 729,000 | 26,431 | 0,569 | 0,021 |
| 14 | 2,600 | 21,000 | 54,600 | 6,760 | 441,000 | 24,295 | -3,295 | 0,157 |
| 15 | 2,200 | 24,000 | 52,800 | 4,840 | 576,000 | 21,446 | 2,554 | 0,106 |
| 16 | 2,600 | 34,000 | 88,400 | 6,760 | 1156,000 | 24,295 | 9,705 | 0,285 |
| 17 | 3,300 | 31,900 | 105,270 | 10,890 | 1017,610 | 29,280 | 2,620 | 0,082 |
| 19 | 3,900 | 33,000 | 128,700 | 15,210 | 1089,000 | 33,553 | -0,553 | 0,017 |
| 20 | 4,600 | 35,400 | 162,840 | 21,160 | 1253,160 | 38,539 | -3,139 | 0,089 |
| 21 | 3,700 | 34,000 | 125,800 | 13,690 | 1156,000 | 32,129 | 1,871 | 0,055 |
| 22 | 3,400 | 31,000 | 105,400 | 11,560 | 961,000 | 29,992 | 1,008 | 0,033 |
| Итого | 58,800 | 540,100 | 1574,100 | 173,320 | 14506,970 | 540,100 | 0,000 | |
| сред значение | 2,800 | 25,719 | 74,957 | 8,253 | 690,808 | 0,085 | ||
| станд. откл | 0,643 | 5,417 |
Система нормальных уравнений составит:
Ур-ие регрессии: = 5,777+7,122∙x. Данное уравнение показывает, что с увеличением среднедушевого денежного дохода в месяц на 1 тыс. руб. доля розничных продаж телевизоров повышается в среднем на 7,12%.
· Рассчитаем параметры уравнений степенной парной регрессии. Построению степенной модели предшествует процедура линеаризации переменных. В примере линеаризация производится путем логарифмирования обеих частей уравнения:
где
Для расчетов используем данные табл. 3:
| № рег | X | Y | XY | X^2 | Y^2 | Yp^cp | y^cp |
| 1 | 1,030 | 3,332 | 3,431 | 1,060 | 11,104 | 3,245 | 25,67072 |
| 2 | 0,875 | 3,059 | 2,678 | 0,766 | 9,356 | 3,116 | 22,56102 |
| 3 | 0,742 | 3,045 | 2,259 | 0,550 | 9,269 | 3,004 | 20,17348 |
| 4 | 0,956 | 3,148 | 3,008 | 0,913 | 9,913 | 3,183 | 24,12559 |
| 5 | 0,531 | 2,760 | 1,465 | 0,282 | 7,618 | 2,827 | 16,90081 |
| 6 | 0,916 | 3,086 | 2,828 | 0,840 | 9,526 | 3,150 | 23,34585 |
| 7 | 0,875 | 2,996 | 2,623 | 0,766 | 8,974 | 3,116 | 22,56102 |
| 8 | 0,956 | 3,091 | 2,954 | 0,913 | 9,555 | 3,183 | 24,12559 |
| 9 | 1,030 | 3,174 | 3,268 | 1,060 | 10,074 | 3,245 | 25,67072 |
| 10 | 0,956 | 3,258 | 3,113 | 0,913 | 10,615 | 3,183 | 24,12559 |
| 11 | 0,956 | 3,203 | 3,060 | 0,913 | 10,258 | 3,183 | 24,12559 |
| 12 | 0,916 | 3,045 | 2,790 | 0,840 | 9,269 | 3,150 | 23,34585 |
| 13 | 1,065 | 3,296 | 3,509 | 1,134 | 10,863 | 3,275 | 26,4365 |
| 14 | 0,956 | 3,045 | 2,909 | 0,913 | 9,269 | 3,183 | 24,12559 |
| 15 | 0,788 | 3,178 | 2,506 | 0,622 | 10,100 | 3,043 | 20,97512 |
| 16 | 0,956 | 3,526 | 3,369 | 0,913 | 12,435 | 3,183 | 24,12559 |
| 17 | 1,194 | 3,463 | 4,134 | 1,425 | 11,990 | 3,383 | 29,4585 |
| 19 | 1,361 | 3,497 | 4,759 | 1,852 | 12,226 | 3,523 | 33,88317 |
| 20 | 1,526 | 3,567 | 5,443 | 2,329 | 12,721 | 3,661 | 38,90802 |
| 21 | 1,308 | 3,526 | 4,614 | 1,712 | 12,435 | 3,479 | 32,42145 |
| 22 | 1,224 | 3,434 | 4,202 | 1,498 | 11,792 | 3,408 | 30,20445 |
| итого | 21,115 | 67,727 | 68,921 | 22,214 | 219,361 | 67,727 | 537,270 |
| сред зн | 1,005 | 3,225 | 3,282 | 1,058 | 10,446 | 3,225 | |
| стан откл | 0,216 | 0,211 |
Рассчитаем С и b:
Получим линейное уравнение: . Выполнив его потенцирование, получим:
Подставляя в данное уравнение фактические значения х, получаем теоретические значения результата y .
· Рассчитаем параметры уравнений экспоненциальной парной регрессии. Построению экспоненциальной модели предшествует процедура линеаризации переменных. В примере линеаризация производится путем логарифмирования обеих частей уравнения:
где
Для расчетов используем данные табл. 4:
| № региона | X | Y | XY | X^2 | Y^2 | Yp | y^cp |
| 1 | 2,800 | 3,332 | 9,330 | 7,840 | 11,104 | 3,225 | 25,156 |
| 2 | 2,400 | 3,059 | 7,341 | 5,760 | 9,356 | 3,116 | 22,552 |
| 3 | 2,100 | 3,045 | 6,393 | 4,410 | 9,269 | 3,034 | 20,777 |
| 4 | 2,600 | 3,148 | 8,186 | 6,760 | 9,913 | 3,170 | 23,818 |
| 5 | 1,700 | 2,760 | 4,692 | 2,890 | 7,618 | 2,925 | 18,625 |
| 6 | 2,500 | 3,086 | 7,716 | 6,250 | 9,526 | 3,143 | 23,176 |
| 7 | 2,400 | 2,996 | 7,190 | 5,760 | 8,974 | 3,116 | 22,552 |
| 8 | 2,600 | 3,091 | 8,037 | 6,760 | 9,555 | 3,170 | 23,818 |
| 9 | 2,800 | 3,174 | 8,887 | 7,840 | 10,074 | 3,225 | 25,156 |
| 10 | 2,600 | 3,258 | 8,471 | 6,760 | 10,615 | 3,170 | 23,818 |
| 11 | 2,600 | 3,203 | 8,327 | 6,760 | 10,258 | 3,170 | 23,818 |
| 12 | 2,500 | 3,045 | 7,611 | 6,250 | 9,269 | 3,143 | 23,176 |
| 13 | 2,900 | 3,296 | 9,558 | 8,410 | 10,863 | 3,252 | 25,853 |
| 14 | 2,600 | 3,045 | 7,916 | 6,760 | 9,269 | 3,170 | 23,818 |
| 15 | 2,200 | 3,178 | 6,992 | 4,840 | 10,100 | 3,061 | 21,352 |
| 16 | 2,600 | 3,526 | 9,169 | 6,760 | 12,435 | 3,170 | 23,818 |
| 17 | 3,300 | 3,463 | 11,427 | 10,890 | 11,990 | 3,362 | 28,839 |
| 19 | 3,900 | 3,497 | 13,636 | 15,210 | 12,226 | 3,526 | 33,978 |
| 20 | 4,600 | 3,567 | 16,407 | 21,160 | 12,721 | 3,717 | 41,140 |
| 21 | 3,700 | 3,526 | 13,048 | 13,690 | 12,435 | 3,471 | 32,170 |
| 22 | 3,400 | 3,434 | 11,676 | 11,560 | 11,792 | 3,389 | 29,638 |
| Итого | 58,800 | 67,727 | 192,008 | 173,320 | 219,361 | 67,727 | 537,053 |
| сред зн | 2,800 | 3,225 | 9,143 | 8,253 | 10,446 | ||
| стан откл | 0,643 | 0,211 |
Рассчитаем С и b:
Получим линейное уравнение: . Выполнив его потенцирование, получим:
Для расчета теоретических значений y подставим в уравнение значения x .
· Рассчитаем параметры уравнений полулогарифмической парной регрессии. Построению полулогарифмической модели предшествует процедура линеаризации переменных. В примере линеаризация производится путем замены:
где
Для расчетов используем данные табл. 5:
| № региона | X | Y | XY | X^2 | Y^2 | y^cp |
| 1 | 1,030 | 28,000 | 28,829 | 1,060 | 784,000 | 26,238 |
| 2 | 0,875 | 21,300 | 18,647 | 0,766 | 453,690 | 22,928 |
| 3 | 0,742 | 21,000 | 15,581 | 0,550 | 441,000 | 20,062 |
| 4 | 0,956 | 23,300 | 22,263 | 0,913 | 542,890 | 24,647 |
| 5 | 0,531 | 15,800 | 8,384 | 0,282 | 249,640 | 15,525 |
| 6 | 0,916 | 21,900 | 20,067 | 0,840 | 479,610 | 23,805 |
| 7 | 0,875 | 20,000 | 17,509 | 0,766 | 400,000 | 22,928 |
| 8 | 0,956 | 22,000 | 21,021 | 0,913 | 484,000 | 24,647 |
| 9 | 1,030 | 23,900 | 24,608 | 1,060 | 571,210 | 26,238 |
| 10 | 0,956 | 26,000 | 24,843 | 0,913 | 676,000 | 24,647 |
| 11 | 0,956 | 24,600 | 23,506 | 0,913 | 605,160 | 24,647 |
| 12 | 0,916 | 21,000 | 19,242 | 0,840 | 441,000 | 23,805 |
| 13 | 1,065 | 27,000 | 28,747 | 1,134 | 729,000 | 26,991 |
| 14 | 0,956 | 21,000 | 20,066 | 0,913 | 441,000 | 24,647 |
| 15 | 0,788 | 24,000 | 18,923 | 0,622 | 576,000 | 21,060 |
| 16 | 0,956 | 34,000 | 32,487 | 0,913 | 1156,000 | 24,647 |
| 17 | 1,194 | 31,900 | 38,086 | 1,425 | 1017,610 | 29,765 |
| 19 | 1,361 | 33,000 | 44,912 | 1,852 | 1089,000 | 33,351 |
| 20 | 1,526 | 35,400 | 54,022 | 2,329 | 1253,160 | 36,895 |
| 21 | 1,308 | 34,000 | 44,483 | 1,712 | 1156,000 | 32,221 |
| 22 | 1,224 | 31,000 | 37,937 | 1,498 | 961,000 | 30,406 |
| Итого | 21,115 | 540,100 | 564,166 | 22,214 | 14506,970 | 540,100 |
| сред зн | 1,005 | 25,719 | 26,865 | 1,058 | 690,808 | |
| стан откл | 0,216 | 5,417 |
Рассчитаем a и b:
Получим линейное уравнение: .
· Рассчитаем параметры уравнений обратной парной регрессии. Для оценки параметров приведем обратную модель к линейному виду, заменив , тогда
Для расчетов используем данные табл. 6:
| № региона | X | Y | XY | X^2 | Y^2 | Y^cp |
| 1 | 2,800 | 0,036 | 0,100 | 7,840 | 0,001 | 24,605 |
| 2 | 2,400 | 0,047 | 0,113 | 5,760 | 0,002 | 22,230 |
| 3 | 2,100 | 0,048 | 0,100 | 4,410 | 0,002 | 20,729 |
| 4 | 2,600 | 0,043 | 0,112 | 6,760 | 0,002 | 23,357 |
| 5 | 1,700 | 0,063 | 0,108 | 2,890 | 0,004 | 19,017 |
| 6 | 2,500 | 0,046 | 0,114 | 6,250 | 0,002 | 22,780 |
| 7 | 2,400 | 0,050 | 0,120 | 5,760 | 0,003 | 22,230 |
| 8 | 2,600 | 0,045 | 0,118 | 6,760 | 0,002 | 23,357 |
| 9 | 2,800 | 0,042 | 0,117 | 7,840 | 0,002 | 24,605 |
| 10 | 2,600 | 0,038 | 0,100 | 6,760 | 0,001 | 23,357 |
| 11 | 2,600 | 0,041 | 0,106 | 6,760 | 0,002 | 23,357 |
| 12 | 2,500 | 0,048 | 0,119 | 6,250 | 0,002 | 22,780 |
| 13 | 2,900 | 0,037 | 0,107 | 8,410 | 0,001 | 25,280 |
| 14 | 2,600 | 0,048 | 0,124 | 6,760 | 0,002 | 23,357 |
| 15 | 2,200 | 0,042 | 0,092 | 4,840 | 0,002 | 21,206 |
| 16 | 2,600 | 0,029 | 0,076 | 6,760 | 0,001 | 23,357 |
| 17 | 3,300 | 0,031 | 0,103 | 10,890 | 0,001 | 28,398 |
| 19 | 3,900 | 0,030 | 0,118 | 15,210 | 0,001 | 34,844 |
| 20 | 4,600 | 0,028 | 0,130 | 21,160 | 0,001 | 47,393 |
| 21 | 3,700 | 0,029 | 0,109 | 13,690 | 0,001 | 32,393 |
| 22 | 3,400 | 0,032 | 0,110 | 11,560 | 0,001 | 29,301 |
| Итого | 58,800 | 0,853 | 2,296 | 173,320 | 0,036 | 537,933 |
| сред знач | 2,800 | 0,041 | 0,109 | 8,253 | 0,002 | |
| стан отклон | 0,643 | 0,009 |
Рассчитаем a и b:
Получим линейное уравнение: . Выполнив его потенцирование, получим:
Для расчета теоретических значений y подставим в уравнение значения x .
· Рассчитаем параметры уравнений равносторонней гиперболы парной регрессии. Для оценки параметров приведем модель равносторонней гиперболы к линейному виду, заменив , тогда
Для расчетов используем данные табл. 7:
| № региона | X=1/z | Y | XY | X^2 | Y^2 | Y^cp |
| 1 | 0,357 | 28,000 | 10,000 | 0,128 | 784,000 | 26,715 |
| 2 | 0,417 | 21,300 | 8,875 | 0,174 | 453,690 | 23,259 |
| 3 | 0,476 | 21,000 | 10,000 | 0,227 | 441,000 | 19,804 |
| 4 | 0,385 | 23,300 | 8,962 | 0,148 | 542,890 | 25,120 |
| 5 | 0,588 | 15,800 | 9,294 | 0,346 | 249,640 | 13,298 |
| 6 | 0,400 | 21,900 | 8,760 | 0,160 | 479,610 | 24,227 |
| 7 | 0,417 | 20,000 | 8,333 | 0,174 | 400,000 | 23,259 |
| 8 | 0,385 | 22,000 | 8,462 | 0,148 | 484,000 | 25,120 |
| 9 | 0,357 | 23,900 | 8,536 | 0,128 | 571,210 | 26,715 |
| 10 | 0,385 | 26,000 | 10,000 | 0,148 | 676,000 | 25,120 |
| 11 | 0,385 | 24,600 | 9,462 | 0,148 | 605,160 | 25,120 |
| 12 | 0,400 | 21,000 | 8,400 | 0,160 | 441,000 | 24,227 |
| 13 | 0,345 | 27,000 | 9,310 | 0,119 | 729,000 | 27,430 |
| 14 | 0,385 | 21,000 | 8,077 | 0,148 | 441,000 | 25,120 |
| 15 | 0,455 | 24,000 | 10,909 | 0,207 | 576,000 | 21,060 |
| 16 | 0,385 | 34,000 | 13,077 | 0,148 | 1156,000 | 25,120 |
| 17 | 0,303 | 31,900 | 9,667 | 0,092 | 1017,610 | 29,857 |
| 19 | 0,256 | 33,000 | 8,462 | 0,066 | 1089,000 | 32,564 |
| 20 | 0,217 | 35,400 | 7,696 | 0,047 | 1253,160 | 34,829 |
| 21 | 0,270 | 34,000 | 9,189 | 0,073 | 1156,000 | 31,759 |
| 22 | 0,294 | 31,000 | 9,118 | 0,087 | 961,000 | 30,374 |
| Итого | 7,860 | 540,100 | 194,587 | 3,073 | 14506,970 | 540,100 |
| сред знач | 0,374 | 25,719 | 9,266 | 0,146 | 1318,815 | |
| стан отклон | 0,079 | 25,639 |
Рассчитаем a и b:
Получим линейное уравнение: . Получим уравнение регрессии: .
3. Оценка тесноты связи с помощью показателей корреляции и детерминации :
· Линейная модель. Тесноту линейной связи оценит коэффициент корреляции. Был получен следующий коэффициент корреляции rxy =b=7,122*, что говорит о прямой сильной связи фактора и результата. Коэффициент детерминации r²xy =(0,845)²=0,715. Это означает, что 71,5% вариации результативного признака (розничнаяпродажа телевизоров, у) объясняется вариацией фактора х – среднедушевой денежный доход в месяц.
· Степенная модель. Тесноту нелинейной связи оценит индекс корреляции. Был получен следующий индекс корреляции =, что говорит о очень сильной тесной связи, но немного больше чем в линейной модели. Коэффициент детерминации r²xy =0,7175. Это означает, что 71,75% вариации результативного признака (розничнаяпродажа телевизоров, у) объясняется вариацией фактора х – среднедушевой денежный доход в месяц.
· Экспоненциальная модель. Был получен следующий индекс корреляции ρxy =0,8124, что говорит о том, что связь прямая и очень сильная, но немного слабее, чем в линейной и степенной моделях. Коэффициент детерминации r²xy =0,66. Это означает, что 66% вариации результативного признака (розничнаяпродажа телевизоров, у) объясняется вариацией фактора х – среднедушевой денежный доход в месяц.
· Полулогарифмическая модель. Был получен следующий индекс корреляции ρxy =0,8578, что говорит о том, что связь прямая и очень сильная, но немного больше чем в предыдущих моделях. Коэффициент детерминации r²xy =0,7358. Это означает, что 73,58% вариации результативного признака (розничнаяпродажа телевизоров, у) объясняется вариацией фактора х – среднедушевой денежный доход в месяц.
· Гиперболическая модель. Был получен следующий индекс корреляции ρxy =0,8448 и коэффициент корреляции rxy =-0,1784 что говорит о том, что связь обратная очень сильная. Коэффициент детерминации r²xy =0,7358. Это означает, что 73,5% вариации результативного признака (розничнаяпродажа телевизоров, у) объясняется вариацией фактора х – среднедушевой денежный доход в месяц.
· Обратная модель. Был получен следующий индекс корреляции ρxy =0,8114 и коэффициент корреляции rxy =-0,8120, что говорит о том, что связь обратная очень сильная. Коэффициент детерминации r²xy =0,6584. Это означает, что 65,84% вариации результативного признака (розничнаяпродажа телевизоров, у) объясняется вариацией фактора х – среднедушевой денежный доход в месяц.
Вывод: по полулогарифмическому уравнению получена наибольшая оценка тесноты связи: ρxy =0,8578 (по сравнению с линейной, степенной, экспоненциальной, гиперболической, обратной регрессиями).
4. С помощью среднего (общего) коэффициента эластичности дайте сравнительную оценку силы связи фактора с результатом.
Рассчитаем коэффициент эластичности для линейной модели:
· Для уравнения прямой:y = 5,777+7,122∙x
· Для уравнениястепенноймодели :
· Для уравненияэкспоненциальноймодели :
Для уравненияполулогарифмическоймодели :
· Для уравнения обратной гиперболической модели :
· Для уравнения равносторонней гиперболической модели :
Сравнивая значения , характеризуем оценку силы связи фактора с результатом:
·
·
·
·
·
·
Известно, что коэффициент эластичности показывает связь между фактором и результатом, т.е. на сколько% изменится результат y от своей средней величины при изменении фактора х на 1% от своего среднего значения. В данном примере получилось, что самая большая сила связи между фактором и результатом в полулогарифмической модели, слабая сила связи в обратной гиперболической модели.
5. Оценка качества уравнений с помощью средней ошибки аппроксимации.
Подставляя в уравнение регрессии фактические значения х, определим теоретические (расчетные) значения . Найдем величину средней ошибки аппроксимации :
В среднем расчетные значения отклоняются от фактических на:
· Линейная регрессия. =*100%= 8,5%, что говорит о повышенной ошибке аппроксимации, но в допустимых пределах.
Качество построенной модели оценивается как хорошее, так как не превышает 8 -10%.
· Степенная регрессия. =*100%= 8,2%, что говорит о повышенной ошибке аппроксимации, но в допустимых пределах.
Качество построенной модели оценивается как хорошее, так как не превышает 8 -10%.
· Экспоненциальная регрессия. =*100%= 9%, что говорит о повышенной ошибке аппроксимации, но в допустимых пределах.
Качество построенной модели оценивается как хорошее, так как не превышает 8 -10%.
· Полулогарифмическая регрессия. =*100%= 7,9 что говорит о повышенной ошибке аппроксимации, но в допустимых пределах.
Качество построенной модели оценивается как хорошее, так как не превышает 8 -10%.
· Гиперболическая регрессия. =*100%= 9,3 что говорит о повышенной ошибке аппроксимации, но в допустимых пределах.
Качество построенной модели оценивается как хорошее, так как не превышает 8 -10%.
· Обратная регрессия. =*100%= 9,9 3 что говорит о повышенной ошибке аппроксимации, но в допустимых пределах.
Качество построенной модели оценивается как хорошее, так как не превышает 8 -10%.
6. Рассчитаем F-критерий:
· Линейная регрессия. = *19= 47,579
http://welom.ru/srednyaya-oshibka-approksimacii-v-excel-ocenka-kachestva-uravneniya/
http://www.bestreferat.ru/referat-268496.html














































предшествует процедура линеаризации переменных. В примере линеаризация производится путем логарифмирования обеих частей уравнения:




















































. Порядок вычисления следующий:




































































статистической значимости уравнения множественной регрессии и его показателя тесноты связи.













при 



-критерия Фишера оценить статистическую надежность уравнения регрессии и 



























































































































определяется путем подстановки фактических значений 

































. Приведем результаты вычисления функций ЛИНЕЙН и ЛГРФПРИБЛ (рис. 4.2 и 4.3).














































. Чем ближе
корреляционная связь представляет линейную функциональную зависимость. При этом все наблюдаемые значения располагаются на прямой линии (рис. 1.3 а, 6).
линейная корреляционная связь отсутствует. При этом линия регрессии параллельна оси
(рис. 1.3 в).


































по формуле (1.27)












































































































































имеют одинаковую дисперсию.


























































































































являются детерминированными (не случайными) величинами. Векторы


ковариации ошибок равны нулю:





-критериев Фишера осуществляем по формуле




































































































