Здравствуйте на этой странице я собрала теорию и практику с примерами решения задач по предмету эконометрика в программе Microsoft Excel с решением по каждой теме, чтобы вы смогли освежить знания!
Если что-то непонятно — вы всегда можете написать мне в WhatsApp и я вам помогу!
Эконометрика
Становление эконометрики как научной дисциплины представляет значительный интерес с точки зрения как определения объектов исследования, так и формирования набора методов. Сам термин «эконометрика» сформировался из двух частей: «эконо-» – от «экономика» и «-метрика» – от «измерение». Поэтому статистический анализ экономических данных называется эконометрикой, что буквально означает «наука об экономических измерениях».
Эконометрика – это наука, связанная с эмпирическим выводом экономических законов.
Статистические ряды данных
Методы систематизации, обработки и использования статистических данных, выявление закономерностей являются основой эконометрических исследований. Пусть требуется исследовать какой-нибудь признак, свойственный большой группе однородных объектов. Напомним основные понятия и характеристики статистических данных.
Возможно эта страница вам будет полезна:
Генеральной совокупностью (генеральной выборкой) называется совокупность значений признака всех объектов данного типа, а их число объемом совокупности. При этом предполагается, что число большое, такое, что исследование физически невозможно. Тогда из всей совокупности выбирают ограниченное число объектов и подвергают их изучению.
Выборочной совокупностью (выборкой) называется совокупность случайно отобранных объектов, а её объем обозначается .
Статистические исследования позволяют распространить выводы, сделанные на основе случайной выборки, на всю генеральную совокупность исследуемых случайных величин. Это является основой выборочного метода.
Графическое представление статистических данных
Пусть из генеральной совокупности извлекается выборка объема , причем значение признака наблюдается раз, где сумма равна объему выборки .
Статистическим распределением выборки называется перечень наблюдаемых значений и соответствующих им частот или относительных частот (частостей)
Упорядоченный в порядке возрастания или убывания ряд значений признака с соответствующими ему частотами называют вариационным рядом.
В целях наглядности строятся различные графики статистического распределения.
Полигоном частот (относительных частот) называется ломаная линия, которая соединяет точки с координатами или .
Для построения гистограммы частот (относительных частот) необходимо найти границы интервалов признаков. Если данные наблюдений представляют в виде рядов с равными интервалами, то их величина находится по формуле Стэрд-жесса:
где — объем выборки;
— наибольшее и наименьшее значения вариантов выборки. Гистограмма представляет собой столбчатую диаграмму.
По оси абсцисс откладываются границы интервалов так, чтобы они покрыли все значения вариационного ряда, а по оси ординат откладываются абсолютная плотность распределения или относительную плотность .
Аналогом функции распределения для вариационного ряда является функция накопленных частот, её обозначают а график строят по следующему правилу:
по оси абсцисс откладывают значения признака, а по оси ординат — накопленные частоты или частости. Такую кривую иногда называют кумулятой: по данным интервального ряда на оси абсцисс откладывают точки, являющиеся верхними границами интервалов, а на оси ординат накопленные частоты (частости) соответствующих интервалов. Часто добавляют ещё одну точку, абсцисса которой соответствует левой границе первого интервала, а ордината равна нулю.
Числовые характеристики статистических распределений
Для описания статистических распределений обычно используют три вида характеристик:
- средние, или характеристики центральной тенденции;
- характеристики изменения вариант (рассеяния);
- характеристики, отражающие дополнительные особенности распределений, в частности их форму.
Все эти характеристики вычисляются по результатам наблюдений и построенных вариационных рядов.
Основным видом средних характеристик является средняя арифметическая (среднее выборочное значение), определяемая по формуле:
где — значение признака в вариационном ряде (дискретном или интервальном); — соответствующая ему частота;
Довольно часто в статистическом анализе применяют структурные или порядковые средние:
1) медиана — значение признака, разделяющее вариационный ряд на две численно равные группы, такие, что элементы первой группы строго меньше медианы, второй строго больше её значения. Можно определить графически с помощью кумуляты, так как ;
2) мода — значение признака, которому соответствует большая частота.
Величины моды и медианы определяются по интерполяционным формулам, непосредственно из их определения, которые можно найти в дополнительной литературе.
Средние характеристики должны быть дополнены изменением вариации признака (рассеянием). Для этого рассчитываются квадраты отклонений вариант от среднего арифметического значения. Средний квадрат отклонений по данной выборке называется дисперсией и вычисляется по формуле:
На базе дисперсии вводятся две характеристики:
1) среднее квадратическое отклонение ;
2) коэффициент вариации, равный процентному отношению среднего квадратического отклонения к значению средней арифметической исследуемой случайной величины, помогает решить вопрос об однородности выборки:
Величина о является чаще всего применяемой характеристикой рассеяния. Для характеристики формы распределения вводятся моменты к-того порядка, впервые предложенные Чебышсвым П. Л.:
которые называются центральными моментами к-того порядка. Чем больше моментов для данного признака вычислено, тем точнее можно описать свойства распределения. Однако с ростом К растет влияние случайных погрешностей, поэтому на практике используются моменты до четвертого порядка.
Центральный момент третьего порядка называется асимметрией распределения, а четвертого — эксцесс .
Инструмент анализа описательная статистика и гистограмма в Excel
Наиболее полный анализ статистических данных позволяет выполнить пакет Анализ данных из меню Сервис. Если команда Анализ данных отсутствует в меню Сервис, выберите Надстройки и в появившемся списке отметьте Analysis ToolPak (Пакет анализа). В случае отсутствия этого пункта в Надстройках, вам придется установить его вручную с помощью Microsoft Excel Setup (меню Сервис > Надстройки > подключите Пакет Анализа).
При выполнении этой лабораторной работы будут использоваться инструменты Описательная статистика и Гистограмма из Анализа данных. Надо сказать, что в Excel есть набор встроенных статистических функций, которыми можно пользоваться, если нет необходимости во всех характеристиках исследуемых данных. Для вызова нужной функции необходимо выполнить действия: из меню Вставка и выбрать команду Функция и перейти к категории Статистические.
Возможно эта страница вам будет полезна:
Пример с решением №1.1.
При обследовании 50 семей получены данные о количестве детей, которые имеют БИНОМРАСЩ) с числом испытаний равным 10 и вероятностью успеха 0,3 (сгенерировать с помощью пакета Анализа данных). Определите средний размер семьи. Охарактеризуйте колеблемость размера семьи с помощью показателя вариации. Постройте гистограмму и функцию распределения.
Данные для решения примера задают изначально в виде таблиц и их надо поместить на лист Excel; или можно воспользоваться инструментом Анализа данных Генерация случайных чисел.
Генерация случайных чисел позволяет быстро получить нужное количество значений одной или нескольких вариант, имеющих одно из распределений: Равномерное, Нормальное, Бернулли, Биномиальное, Пуассона и другие. Надо помнить, что каждое распределение имеет свои параметры, которые задаются пользователем. Достоверность полученных выводов в этом случае мала.
- В меню Сервис выберите Анализ данных, а затем выделите инструмент анализа Генерация случайных чисел (найти его можно с помощью линейки прокрутки). Выделите в диалоговом окне нужный инструмент и нажмите ОК (рис. 1.1).
- Заполните поля диалогового окна так же как на рис. 1.2 и нажмите ОК. Результатом является набор из пятидесяти чисел, которые располагаются в столбце В рис 1.3.
- Примените инструмент Описательная статистика для поиска числовых характеристик выборочных данных, расположенных в диапазоне В2:В51. Для этого выберите инструмент анализа Описательная статистика в диалоговом окне Анализ данных рис. 1.1. В одноименном диалоговом окне надо указать: входной интервал (В2:В51), ячейку левого верхнего угла для вывода итогов D1, обязательно включите опцию Итоговая Статистика. Результат применения инструмента Описательная статистика показан на рис. 1.3. в диапазоне D1:Е18.
Значения в диапазоне Е2: Е18 не обновляются в случае изменения исходных данных В2:В51.
В столбце рис. 1.3. приводятся встроенные функции Excel, которые позволяют получить те же результаты, что и при использовании инструмента Описательная статистика. Функции листа следует использовать, если необходим автоматический перерасчет значений числовых характеристик выборки или нет необходимости во всех значениях Описательной статистики.
Построение гистограммы и функции распределения можно выполнить, выбрав инструмент, Гистограмма (рис. 1.1). Перед использованием этого инструмента надо решить вопрос об интервале разбиения ( — Excel называет это значение карманом, а список всех границ интервалов — интервал карманов). Вы можете найти его сами по формуле Стэрджесса или разрешить Excel разбить на равные интервалы (тогда заполнять поле Интервал карманов не надо). Включите опцию вывод графика.
Описание результатов.
Описательная статистика содержит три результата средней характеристики исследования числа детей в пятидесяти семьях: Среднее (3,34), Моду (3) и Медиану (3). Найдем значение коэффициента вариации по формуле (1.4):
Так как 43% > 35%, можно сделать вывод, что изучаемая совокупность семей является неоднородной, чем и объясняется высокая колеблемость количества детей в семьях. В виду неоднородности семей, попавших в выборку, можно в качестве среднего использовать моду или медиану
Стандартное отклонение (1,44) — наиболее широко используемая характеристика изменения данных — измеряется в тех же единицах, что и исходные данные.
Стандартная ошибка является характеристикой достоверности среднего выборочного значения и используется в статистических исследованиях (0,20).
Эксцесс и Асснметрнн позволяют сделать вывод о незначительных отклонениях гистограммы частостей от нормально распределенной случайной величины, характеризующей количество детей в семьях с средним равным 3,34 и средним квад-ратическим отклонением 1,44.
Напомним, что эталоном этих величин являются нормальное распределение (рис. 1.5), для которого Ассиметрия равна нулю, а центральный момент четвертого порядка (1.5) равен трем.
Ассиметрия имеет отрицательное значение. Это означает, что гистограмма не симметрична по отношению к среднему значению выборки и имеет скос вправо, то есть количество семей имеющих менее трех детей больше, чем семей количество детей в которых больше трех.
Эксцесс тоже имеет отрицательное значение. То есть значение гистограммы в точке ниже аналогичного нормального распределения.
Математическая статистика статистические оценки
Имеется случайная величина , закон распределения которой известен и зависит от параметров . Требуется на основании наблюдаемых данных оценить значения этих параметров.
Числовые характеристики генеральной совокупности, как правило, неизвестны. Их называют параметрами генеральной совокупности (среднее, дисперсия, среднее квадратическое отклонение, доля признака генеральной совокупности объема ).
Из генеральной совокупности извлекается выборка объёма . По данным выборки рассчитывают числовые характеристики, которые называют статистиками (выборочное среднее, выборочная дисперсия и выборочное среднее квадратическое отклонение). Статистики, полученные по различным выборкам, могут отличаться друг от друга, поэтому они являются только оценками неизвестных параметров генеральной совокупности и обозначают .
Обозначим через выбранные значения наблюдаемой случайной величины (СВ) . Пусть на основе данных выборки получена статистика , которая является оценкой параметра . Наблюдаемые значения случайные величины, каждая из которых распределена по тому же закону, что и случайная величина . Поэтому тоже является величиной случайной, закон распределения которой зависит от распределения СВ и объема выборки . Для того, чтобы имела практическую ценность, она должна обладать свойствами несмещенности, состоятельности и эффективности.
Несмещенной называют оценку, для которой выполняется условие:
Состоятельной называется оценка, удовлетворяющая условию:
Для выполнения условия 2.2 достаточно, чтобы:
Эффективной считается оценка, которая при заданном объеме выборки имеет наименьшую возможную дисперсию.
Выборочная средняя является несмещенной и состоятельной оценкой генеральной средней и вычисляется по формуле (1.1).
Выборочная дисперсия найденная по формуле (1.2) является смещенной оценкой для дисперсии генеральной совокупности.
Вводится понятие исправленной выборочной дисперсии, которая является несмещенной оценкой генеральной дисперсии и вычисляется по формуле:
Исправленное выборочное средне квадратическое отклонение будет равно:
Теоретическое обоснование использования этих выборочных оценок для определения характеристик генеральной совокупности дают закон больших чисел и предельные теоремы.
Основные виды распределения и функции excel, позволяющие проводить статистическое оценивание
Чтобы построить модели статистических закономерностей возникает необходимость использовать известные виды распределения. Каждое распределение характеризует некоторую случайную величину — результат определенного вида испытаний. С функциями, задающими эти распределения, а также их параметрами можно познакомиться в любом учебнике по теории вероятностей. Выбранное распределение может рассматриваться только как теоретическое (генеральное), а результат опыта — как статистическое (выборочное) распределение. Последнее, в силу ограниченности числа наблюдений, будет лишь приближенно характеризовать теоретическое распределение.
По виду гистограммы и полученным числовым характеристикам выборки делается предположение о теоретическом виде распределения исследуемого признака. Если это удается, то можно найти оценки числовых характеристик и сделать выводы о параметрах генеральной совокупности. Если закон распределения не возможно установить, то подбирается кривая, наилучшим образом сглаживающая данные статистического ряда. Распределения делятся на дискретные и непрерывные.
Дискретные распределения описываются конечные набором чисел и соответствующими им частотами. Например, оценки, которые может получить студент на экзамене, описываются множеством (2, 3, 4, 5). Поэтому случайная величина -получить определенную оценку на экзамене будет иметь дискретное распределение
Непрерывные распределения описывают случайные величины с непрерывной областью значений. Для непрерывных распределений вероятность сопоставляется не с отдельным значением, а интервалом чисел. Непрерывные распределения в теории вероятностей задаются функцией плотности распределения , которую называют плотность вероятности или функцией распределения .
Площадь фигуры, ограниченной и прямыми , осью определяет вероятность попадания случайной величины в интервал , которую обозначим . Так как вероятность в точке для непрерывного распределения равна нулю, то имеет место равенство:
Нормальное распределение
Чаще других в статистических исследованиях применяется нормальное распределение. Теоретическим основанием к его применению служит центральная предельная теорема Ляпунова. Оно имеет два параметра: среднее (а) и стандартное отклонение . В дальнейшем будем использовать сокращенную запись для обозначения этого распределения .
Синтаксис функции:
Значение функции распределения случайной величины , распределенной по нормальному закону распределения, получится, если аргумент интегральная равен ИСТИНА (1). Если аргумент интегральная имеет значение ЛОЖЬ (0), то получите значение плотности вероятности нормального распределения .
Графики плотности распределения и функции распределения случайной величины построенные в Excel изображены на рис. 2.1.
Вероятность попадания случайной величины в интервал (с, d) определяется по формуле:
Если случайная величина нормально распределена и имеет среднее арифметическое равное нулю и среднее квадратическое отклонение равное единицы, то её называют стандартизованной а для вычисления вероятности попадания в интервал таких случайных величин в Excel существует функция:
которая возвращает интегральное стандартное распределение.
называют интегральной функцией Лапласа. Для ее вычисления созданы специальные таблицы.
При статистических исследованиях оценок довольно часто приходится решать обратную задачу: находить значение варианты по заданной вероятности. Для этого в Excel имеются обратные функции, позволяющие её решить: НОРМОБР (вероятность;) и НОРМСТОБР (вероятность).
Распределения, связанные с нормальным распределением
Несмотря на широкое распространение нормального распределения, в некоторых случаях при построении статистических моделей возникает необходимость в использовании других распределений. Приведем примеры некоторых функций в Excel.
Логнормальное распределение
Свидетельством близости распределения к логнормальному является значительная ассиметрия, обусловленная ограничением . Например, может использоваться для описания распределения доходов банковских вкладов, месячной заработной платы, посевных площадей и т.д.
Функция ЛОГНОРМРАСП(; среднее; стандартное откл) используется для анализа данных, которые были логарифмически преобразованы. Возвращает интегральное логарифмическое нормальное распределение для , где является нормально распределенным с параметрами среднее и стандартное откл.
Хи-квадрат распределение
Чаще всего это распределение используется для определения критического значения статистики с заданным уровнем значимости , для которого выполняется равенство
— значение, для которого требуется вычислить распределение, степени свободы — число слагаемых минус число линейных связей между элементами совокупности.
Если задано значение вероятности, то функция ХИ20БР позволяет найти значение , для которого справедливо равенство
В функции ХИ20БР для поиска применяется метод итераций. Если поиск не закончится после 100 итераций, функция возвращает сообщение об ошибке #Н/Д.
Распределение стьюдента t
Это распределение имеет важное значение для статистических выводов. Функция СТЬЮДРАСП возвращает вероятностную меру «хвостов» распределения. Её синтаксис:
— численное значение, для которого требуется вычислить распределение; степени свободы — целое, указывающее число степеней свободы; хвосты — число возвращаемых хвостов распределения.
Если «хвосты» = 1, то функция СТЬЮДРАСП возвращает одностороннее распределение (вероятность правого хвоста).
Если «хвосты» = 2, то функция СТЬЮДРАСП возвращает двухстороннее распределение.
При этом значение не должно быть отрицательным.
Так как функция симметричная относительно нуля, то справедливо следующие равенства:
Функция СТЬЮДРАСПОБР(вероятность; степени свободы) является обратной для распределения Стьюдента и соответствует положительному значению для которого задана вероятность суммы двух «хвостов».
РАСПРЕДЕЛЕНИЕ ФИШЕРА Эту функцию можно использовать, чтобы определить, имеют ли два множества данных различные степени разброса результатов. Например, можно проанализировать результаты тестирования старшеклассников и определить, различается ли разброс результатов для мальчиков и девочек.
— значение, для которого вычисляется функция; степени свободы1— число степеней свободы числителя; степенисвободы2—число степеней свободы знаменателя.
Обратное значение для -распределения вероятностей возвращает функция
Распределения дискретной случайной величины в excel биномиальное распределение
Распределение используется для моделирования случайной величины с конечным числом испытанной. В каждом испытании случайная величина может принимать только два значения: успех или неуспех (0 или 1). Вероятность успеха постоянна и не зависит от результатов других испытаний. Биномиальное распределение описывает общее число успехов при указанном числе испытаний. Данное распределение требует указать два параметра: число испытаний и вероятность успеха .
Пример с решением №2.1.
Группа из 20 студентов сдает экзамен. Вероятность сдать экзамен по данным прошлых лет равна 0,3. Отобрано 5 человек составьте закон распределения случайной величины — числа студентов, сдавших экзамен.
В ячейку В7 помещена функция БИНОМРАСЩА7; SBS1; $В$2; 0) (рис 2.3.). Скопируйте формулу для остальных ячеек столбца В, как показано на рис. 2.2. Чтобы получить данные столбца С надо в качестве аргумента интегральная поставить единицу.
С помощью функции БИНОМРАСП можно получить только вероятности равные числу успеха к (интегральная равна нулю) или не большие к (интегральная равна единицы). Для вычисления других вероятностей надо воспользуйтесь значениями столбцов и . Значения в столбцах находятся по формулам:
Для построение диаграммы биномиального распределения выделите ячейки В7:В12 и нажмите кнопку мастер диаграмм на стандартной панели инструментов. Отформатируйте её как показано на рис. 2.2.
В качестве обратной функции к БИНОМРАСП в Exccl рассматривается функция КРИТБИНОМ. Её синтаксис:
Гипергеометрическое распределение
Распределение возвращает вероятность заданного количества успехов в выборке, если заданы: размер выборки , количество успехов в генеральной совокупности и размер генеральной совокупности . Функция ГИПЕРГЕОМЕТ используется для задач с конечным числом элементов генеральной совокупностью, где каждое наблюдение — это успех или неудача, а каждое подмножество заданного размера () выбирается с вероятностью равной
Синтаксис:
ГИПЕРГЕОМЕТ (числоуспеховввыборке; размер выборки; числоуспеховвсовокупности; размерсовокумности)
Распределение Пуассона
Обычное применение распределения Пуассона состоит в предсказании количества событий, происходящих за определенное время, например: количество машин, появляющихся за 1 минуту на станции техобслуживания.
Синтаксис: ПУАССОН(; среднее; интегральная)
— количество событий.
среднее — ожидаемое численное значение.
интегральная — логическое значение, определяющее форму возвращаемого распределения вероятностей.
Если аргумент «интегральная» имеет значение ИСТИНА, то функция ПУАССОН возвращает интегральное распределение Пуассона, то есть вероятность того, что число случайных событий будет от 0 до включительно.
Если этот аргумент имеет значение ЛОЖЬ, то вычисляется значение функции плотности распределения Пуассона, то есть вероятность того, что событий появится равно раз.
Интервальные оценки
Величина оценки , найденная по выборке, является лишь приближенным значением неизвестного параметра . Вопрос о точности оценки в математической статистике устанавливается с помощью соотношения:
где — доверительная вероятность или надежность интервальной оценки (принимает значения 90%, 91%,…99%, 99,9%);
— предельная ошибка (точность) оценки. Для случайной величины, имеющей нормальное распределенние
Значение вычисляется с помощью функции Лапласа, если задано в условии по формуле .
Если стандартное отклонение находится по выборке, то рассматривают два случая:
1) используется функция Стьюдента:
2) используется функция Лапласа
Если раскрыть модуль в уравнении (2.7), то получим неравенство:
Числа называют доверительными границами, а интервал — доверительным интервалом или интервальной оценкой параметра .
Границы доверительного интервала симметричны относительно точечной оценки . Поэтому точность оценки . иногда называют половиной длины доверительного интервала.
Так как величина случайная, то границы доверительного интервала могут меняться, кроме того, они будут меняться с изменением доверительной вероятности, поэтому соотношение (2.7) следует читать так: «со статистической надежностью -100% доверительный интервал содержит параметр генеральной совокупности ».
Рассмотрим на примерах, как строятся доверительные интервалы для математического ожидания, дисперсии и среднего квадратического отклонения нормально распределенного количественного признака .
Доверительный интервал для математического ожидания с известной дисперсией
При построении доверительного интервала используется функция НОРМОБР для . Границы доверительного интервала можно определить из уравнений:
где называют уровнем значимости.
Пример с решением №2.2.
Спонсоры телевизионных программ хотят знать, сколько времени дети проводят за экраном телевизора. После опроса 100 человек оказалось, что среднее число часов в неделю соответствует 27,5 часов, а средне квадратическое отклонение равно 8,0 часов. Найдите 95% доверительный интервал для оценки среднего количества часов в неделю, которое дети проводят за просмотром телепередач
На основании исследований с 95% вероятностью можно утверждать, что за просмотром телевизора дети проводят от 25,93 до 28,65 часов. Формулы для вычисления приведены на рис 2.4.
Доверительный интервал для математического ожидания с неизвестной дисперсией
Как правило, дисперсия оцениваемого параметра является величиной неизвестной. Тогда находят исправленную выборочную дисперсию, а доверительный интервал строится с помощью -распределения (Стьюдента).
Функция СТЬЮДРАСПОБРО возвращает значение , для которого:
где — это случайная величина, соответствующая распределению Стьюдента и
Пример с решением №2.3.
Владелец таксопарка хочет спрогнозировать свои расходы на следующий год. Основной статьей расходов является покупка топлива. Так как бензин стоит дорого, владелец стал использовать газ. Были выбраны восемь такси, и оказалось, что число миль на галлон соответственно равно 28,1, 33,6, 41,1, 37,5, 27,6,36,8, 39,0 и 29,4. Оцените с доверительной вероятностью 95% средний пробег на один галлон газа для всех такси в парке, предполагая, что он распределен нормально.
После исследования оказалось, что средний пробег на один галлон для всех такси в парке находится между 29,71 и 38,81 миль на галлон. Формулы для вычисления приведены на рис.2.5.
Доверительный интервал для дисперсии и среднего квадратического отклонения
Рассмотрим нормально распределенную случайную величину, дисперсия которой неизвестна. По результатам наблюдений: можно определить среднее значение (1.1) и исправленную выборочную дисперсию (2.4).
Теперь с доверительной вероятностью определим половину длины доверительного интервала для которого выполняется условие:
Доверительный интервал для дисперсии запишется в виде неравенства:
Выборочня исправленная дисперсия несмещенная оценка генеральной дисперсии равна:
Так как — результаты независимых наблюдений нормально распределенной СВ, значит сумма квадратов
имеет распределение с степенью свободы. Выразив через и , получим:
Тогда уравнение 2.9 примет вид:
из которого доверительный интервал для :
С помощью функции ХИ20БР можно найти верхнюю и нижнюю границы и для :
Подставив найденные значения в уравнения:
получим верхнюю и нижнюю границы доверительного интервала для дисперсии:
Доверительный интервал для среднего выборочного значения а получится, если извлечь корень из каждой части предыдущего неравенства.
Доверительный интервал для доли признака генеральной совокупности
Проводится серия из испытаний, в каждом из которых наблюдается событие (событие может произойти или нет). Пусть событие произошло раз, тогда называют частотой появления события или выборочной долей признака.
Если вероятность с которой событие может произойти (называют генеральной долей распределения количественного признака) в каждом из испытаний, то частота является точечной несмещенной оценкой вероятности .
Зададим доверительную вероятность и найдем такие числа и для которых выполняется соотношение
Интервал является доверительным интервалом для , отвечающий надежности .
При большом числе испытаний Бернулли выборочная доля является нормально распределенной случайной величиной
где является дисперсией выборочной доли признака,
a её математическим ожиданием.
Тогда доверительный интервал генеральной доли признака можно найти, используя функцию Лапласа:
Откуда
Рассматривают два случая: большое количество проведенных испытаний и малое. В случае малого объема выборки найти и можно с помощью специальных таблиц распределения Бернулли.
Проверка статистических гипотез о числовых значениях параметров нормального распределения
Данные выборочных обследований часто являются основой для принятия одного из нескольких решений. При этом любое суждение о генеральной совокупности будет сопровождаться случайной погрешностью и поэтому может рассматриваться лишь как предположительное.
Под статистической гипотезой понимается всякое высказывание о виде неизвестного распределения, или параметрах генеральной совокупности известных распределений, или о равенстве параметров двух распределений, или о независимости выборок, которое можно проверить статистически, то есть опираясь на результаты случайных наблюдений.
Наиболее часто формулируются и проверяются гипотезы о числовых значениях параметров генеральной совокупности, подчиняющихся одному из известных законов распределения: нормальному, Стьюдента, Фишера и др.
Основные понятия статистической гипотезы
Подлежащая проверке гипотеза называется основной (нулевой) обозначают её . Содержание гипотезы записывается после двоеточия
Каждой основной гипотезе противопоставляется альтернативная (конкурирующая) гипотеза . Как правило, основной гипотезе можно противопоставить несколько альтернативных гипотез. Если выборочные данные противоречат гипотезе , то гипотеза отклоняется, в противном случае принимается.
Статистическая проверка гипотез, основанная на результатах выборки, связана с риском, принять ложное решение. Если по выборочным данным основная гипотеза отвергнута, в то время как для генеральной совокупности она справедлива, то говорят об ошибке первого рода. Вероятность допустить такую ошибку принято называть уровнем значимости и обозначать а (10%, 9%,… 1%).
Рассматривается и ошибка второго рода, когда основная гипотеза принимается, в действительности же верной оказывается альтернативная гипотеза. В таком случае говорят об ошибке второго рода, а вероятность допустить эту ошибку обозначают , величину 1- называют мощностью критерия.
Поскольку ошибки первого и второго рода исключить невозможно, то в каждом конкретном случае пытаются минимизировать потери от этих ошибок. Увеличение объема выборки является одним из таких путей.
Критерии проверки. Критическая область
Вывод о соответствии выборочных данных с проверяемой гипотезой делается на основе некоторого критерия. Критерий проверки гипотезы реализуют с помощью некоторой статистики (статистической характеристики определяемой по выборочным данным). Эту величину принято обозначать: — если она нормально распределена с , — если она нормально распределена с , — если она распределена по закону Стьюдента, — если она распределена по закону , — если она имеет распределение Фишера.
После выбора критерия множество всех его возможных значений разбивают на два непересекающихся подмножества. Одно содержит значения критерия, при которых нулевая гипотеза отклоняется, это множество значений называют критической областью. Другое, называют областью принятия гипотезы — содержит совокупность значений, при которых нулевая гипотеза принимается.
Вычисленное по выборке значение критерия () может принадлежать одному из этих множеств и в зависимости от этого нулевая гипотеза принимается, если принадлежит области принятия гипотезы и отвергается в противном случае. Точки, разделяющие эти две области, называют критическими и обозначают . Различают три вида критических областей: левосторонняя правосторонняя и двухсторонняя
Если попадает в критическую область, то надо говорят, что основная гипотеза отвергается в пользу альтернативной при заданном уровне значимости.
Общая схема проверки гипотезы
Проверка гипотезы с помощью уровня значимости.
- Формулируется нулевая гипотеза и альтернативная ей.
- Выбирается уровень значимости.
- Определяется критическая область и область принятия гипотезы.
- Выбирают критерий, и находят его расчетное значение по выборочным данным.
- Вычисляют критические точки.
- Принимается решение.
Другим способом проверки гипотезы является вывод р-значения (значения вероятности). В этом случае не указывается уровень значимости и не принимается решения об отбрасывании нулевой гипотезы. Вместо этого проверяем насколько правдоподобно, что полученная оценка соответствует значению генеральной совокупности. При левостороннем или правостороннем критерии рассчитываются вероятности попадания статистики 0 в критическую область. Если применяется двухсторонний критерий, то оценивается разность между выборочным средним и предполагаемым средним совокупности по модулю. Если р-значснис мало, то выборочное среднее значительно отличается от среднего совокупности.
Проверка гипотезы о математическом ожидании нормально распределенной (m0) случайной величины при известной дисперсии
Пусть генеральная совокупность имеет нормальное распределение, причем её математическое ожидание равно , а дисперсия равна . По выборочным данным найдено . Есть основания утверждать, что ?
На рис. 2.6. приведены возможные варианты проверки нулевой гипотезы. Результаты проверки включают в себя решение о принятии нулевой или альтернативной гипотез, основанные на уровне значимости альфа и р-значении.
Пример с решением №2.4.
Клиенты банка в среднем снимают со своего счета 100$ при среднем квадратическом отклонении = 50$. Если выплаты отдельным клиентам независимы, то, сколько денег должно быть зарезервировано в банке на выплаты клиентам, чтобы их хватило на 100 человек с вероятностью 0,95? Каков при этом будет остаток денег, гарантированный с той же надежностью, если для выплат зарезервировано 16000$?
На каждого клиента банк резервирует сумму в 160$. По выборочным данным эта сумма составляет 100$.
Проверим гипотезу, может ли банк снизить свои резервы, то есть основная гипотеза может быть записана
В качестве альтернативной гипотезы рассмотрим ситуацию: «банк сможет обеспечить клиентов, если расчетная сумма выплат для каждого клиента будет снижена до 100$», тогда
Принимается гипотеза (рис2.7)., что означает: банк может снизить сумму резервов до 10000$. Используя р-значения можно сделать вывод, если альтернативная гипотеза верна (в среднем клиент берет 100S и меньше), то с вероятностью 100%, случайная величина ( 100$, 50$).
С надежностью 95% можно гарантировать, что у банка имеется остаток более 6000$.
Проверка гипотезы о математическом ожидании при неизвестной дисперсии
Пусть генеральная совокупность имеет нормальное распределение, причем её дисперсия неизвестна. Данная ситуация более реалистична, чем предыдущая. Пусть есть основания утверждать, что .
По результатам выборки найдем и .Сформулируем основную гипотезу:
где — нормативное значение. Введем статистику:
которая имеет распределение Стьюдента с степенью свободы. Зададим уровень значимости альфа и найдем критическую область. На рис. 2.8 приведены формулы левостороннего, правостороннего или двухстороннего критериев проверки среднего выборки с использованием распределения Стьюдента.
Пример с решением №2.5.
Производитель выпускает стальные стержни. Для улучшения качества планируется внедрить новую технологию, которая получить стержни по средней прочности лучшие на излом. Текущий стандарт прочности на излом составлял 500 фунтов.
Характеристики прочности стержней, произведенных по новой технологии, представлены в D3:D14 рис. 2.9. сформулируем гипотезу об увеличении прочности стержней.
Если
Возьмем выборочное среднее и проверим правосторонний критерий. Результаты приведены на рис. 2.9.
Новая технология позволит улучшить среднюю прочность стержней. Так как , то можно с уверенностью сказать, что новая технология дает статистически существенные изменения показателя прочности на излом.
Построим сравнительные графики новой технологии и стандарта (рис2.10).
Большинство наблюдений превышает стандартную прочность излома стержней. Такая ситуация практически невозможна, если случайная величина имеет нормальное распределение со средним значением 500 фунтов следовательно по данным выборки можно предположить, что новая технология дает увеличение прочности.
Проверка гипотезы относительно доли признака
Рассматривается два основных типа задач:
1) сравнение выборочной доли признака с генеральной долей
Для проверки этой гипотезы используют статистику :
которая имеет нормальное распределение .
Критическое значение этой статистики можно найти по заданному уровню значимости с помощью функции НОРМСТОБР см. рис.2.6.
2) для сравнения долей признака двух выборок и выдвигается гипотеза: что две выборки из одной совокупности с долей признака , а полученное расхождение есть результат случайностей, сопровождаемых отбором.
Для больших выборок вводится статистика имеющая
Используют функцию НОРМРАСПОБР для поиска критического значения по уровню значимости альфа, и сравнивают с расчетным значением
Малые выборки ( — малые числа) не могут быть исследованы с помощью нормального распределения.
Оценка среднего по двум выборкам
При анализе экономических показателей довольно часто приходится сравнивать две генеральные совокупности. Например, можно сравнить два варианта инвестирования по размерам средних дивидендов, качество знаний студентов двух университетов — по среднему баллу на комплексном тестовом экзамене. Если дисперсии известны, то можно использовать Двухвыборочный z-тест для средних. Кроме этого существуют три варианта Двухвыборочный t-тестов. Эти три средства допускают следующие условия: равные дисперсии генерального распределения, дисперсии выборок не равны, а также представление двух выборок до и после наблюдения по одному и тому же субъекту.
Для запуска этих инструментов анализа данных надо выполнить действия меню Сервис/Анализ данных выберите из списка нужный вам пункт.
Для выполнения таких проверок инструментами анализа Excel требуется наличие двух выборок, оценка полагаемой разницы между средними значениями выборок и альфа — уровень значимости. Все перечисленные критерии предполагают, что рассматриваемые совокупности нормально распределены, и выборки получены случайно.
Случай равных дисперсий
Рассмотрим данный критерий на примере.
Пример с решением №4.1.
На заводе проводится эксперимент по оценке новой технологии сборки устройств. Рабочие делятся на две группы; одна обучается новой технологии, другая — стандартной. В конце обучения измеряется время (в минутах), необходимое рабочему для сборки устройства. Результаты приведены в диапазоне A L:В10 рис 4.1. Можно ли сделать вывод, исходя из данных выборок, что время сборки по новой технологии меньше, чем по стандартной.
На листе Exccl постройте графики для выборок Стандартная и Новая. Разброс (дисперсии равны) данных практически одинаковый, этот вывод можно сделать, изучив амплитуды колебания графиков (рис. 4.1). Маркеры графика Новая расположены ниже, поэтому можно предположить, что среднее время сбора устройств по новой технологии меньше.
Выдвигаем гипотезу: «Среднее время сборки по новой технологии не изменилось», . эту гипотезу можно записать в виде:
альтернативная гипотеза, утверждающая «Новая технология сокращает время сборки». Необходимо проверить левосторонний критерий для основной гипотезы.
В диалоговом окне Анализ данных и выберите Двухвыборочный t-тест с одинаковыми дисперсиями. Заполните поля, как показано на рис.3.2. и нажмите кнопку ОК. результат появится на листе Excel в диапазоне D4: F16, как на рис 3.3.
Описание полученных результатов сравнения средних двух выборок (рис.3.3).
Объединенная дисперсия — это взвешенное среднее выборочных дисперсий, со степенями свободы каждой дисперсии в качестве весов (8). Она является оценкой общей дисперсии двух выборок и используется для определения стандартной ошибки разности средних.
— число степеней свободы критерия (18-2).
-статистика вычисляется как отношение разности средних к стандартной ошибке.
одностороннее является односторонним -значением, если если то . Двухстороннее -значение равно удвоенному одностороннему -значению.
Найденное расчетное значение -статистика= 1,649 и -критическое равное 1,746 сравниваем с учетом, что рассматривалась правосторонняя критическая область, делаем вывод: « принимается». С 5% уровнем значимости мы не можем отвергнуть предположение о равенстве средних значений выборки.
Если бы рассматривалась левосторонняя гипотеза, то:
Можно построить доверительный интервал для разности средних значений выборок (результат в диапазоне Н3:18 рис. 3.4).
Среднее разности находится как разность ЕЗ — F3,
— статистика для разности равна критическому двухстороннему (Е14), стандартная ошибка найдена делением (13 -Е8)/ ЕЮ.
Половина длины равна произведению на стандартную ошибку.
Доверительный интервал для разности средних значений равен (-1,046; 8,379) с вероятностью 95%.
Случай разных дисперсий
В данном случае не предполагается равенство дисперсий выборок, но сохраняется требование их нормальности и независимости.
Для принятия решения в таких случаях надо использовать Двухвыборочный t-тест с различными дисперсиями.
Пример с решением №3.2.
Для производства нового продукта предлагается две схемы размещения рабочих. Шесть случайно отобранных рабочих собирают изделие по схеме А, а другие восемь — по схеме В. Время сборки записывается соответственно в столбец А и В рис 3.5. Можно ли сделать вывод с 5% уровнем значимости, что время сборки различаются в схемах, при условии, что они нормальные.
Построим диаграммы данных выборок и сравним среднее время сборки и разброс.
Сравнивая графики для схем и можно сделать вывод, что разброс данных в схеме больше, однако среднее время сборки меньше.
Выдвинем гипотезу: «Размещение рабочих не влияет на время сборки изделий:
В качестве альтернативной гипотезы выдвинем предположение: «время сборки изделий по схеме и не равны».
Для проверки этой гипотезы следует применить двухсторонний критерий. Инструкции по использованию -теста те же, что и в примере 4.1. Результаты применения критерия приведены на рис.3.6.
Сравнивая расчетное значение -статистики и -критическое двухстороннее можно сделать вывод, что принимается гипотеза , то есть размещение рабочих не влияет на время сборки изделий.
Используя -значение 0,180 (18%) можно сделать вывод, что с вероятностью 18% можно получить выборку со средним отличающимся на 1,6 мин в любом направлении. Доверительный интервал для разности средних составил (-4,138; 0,938).
Парный выборочный критерий
Критерий используется в случае, когда одна и та же группа наблюдается дважды. Обычно это происходит при измерении характеристик до и после эксперимента. Например, студенты могут тестироваться дважды до и после курса по некоторой дисциплине. Можно использовать критерий и для других естественных пар наблюдений.
Пример с решением №3.3.
Исследователь хочет определить, имеется ли разница в успешности автомобильных сделок при их проведении продавцами женского и мужского пола. Для этого были выбраны восемь продавщиц и определена комиссия, заработанная каждой в прошедшем году. Так как опытность влияет на размер комиссии, то исследователь записала и стаж работы для каждой из восьми женщин. Данные приведены в столбцах и рис. 3.7. Для проверки предположения были взяты продавцы с тем же стажем работы, что и женщины; значения комиссий мужчин приведены в столбце С рис.4.7. Можем ли мы с уровнем значимости 5% утверждать, что женщины имеют существенно другие показатели, по сравнению с продавцами мужчинами?
Нулевая гипотеза состоит в том, что разность средних совокупностей равна нулю. Однако по результатам выборок получено среднее значение разности и она равна 2,25 тыс. рублей. Тогда в качестве альтернативной гипотезы рассмотрим утверждение, что продавцы различных полов имеют различные показатели. Для проверки гипотез применим Двухвыборочных парный t-тест для средних. После его запуска в диапазоне F1 :Н 14 будут помещены результаты применения этого критерия. Они практически ничем не отличаются от предыдущих результатов (пример 4.1, пример 4.2), только в ячейке G7 содержится коэффициент корреляции.
Принимая решение, для данного теста мы вынуждены принять гипотезу о равенстве средних значений комиссии у продавцов мужчин и женщин. Об этом говорят значения и : -2,365<1,895<2,365.
В случае проверки с гипотезы с помощью -значения (=14%) можно с вероятностью 14% получить выборку с разностью меньшей чем -2,25 тыс. рублей или большей, чем 2,25 тыс. рублей.
В диапазоне J1:K7 представлены вычисления 95% доверительного интервала для разности средних выборок.
Анализ дисперсий
-распределение может быть использовано для проверки нулевой гипотезы о равенстве дисперсий двух выборок. Критерий предполагает, что выборки из генеральной совокупности независимы и нормально распределены.
Двухсторонний критерий применяется в случае, если альтернативная гипотеза состоит в том, что дисперсии выборок различны. Для этого составляется отношение дисперсий, которое сравнивается с единицей.
Если альтернативная гипотеза проверяет утверждение о том, что дисперсия одной выборки строго больше дисперсии другой выборки, применяется односторонний критерий.
Напомним, что заданный уровень значимости альфа для двухстороннего критерия делится пополам.
В примере 3.2. проверялась гипотеза о равенстве средних значений выборок, представляющих две схемы размещения рабочих мест. При этом предполагалось, что дисперсии этих выборок не равны. Воспользуемся данными этого примера и проверим гипотезу о равенстве дисперсий. Применим двухсторонний тест для 10% уровня значимости (5% на каждый хвост распределения) для проверки нулевой гипотезы о равенстве дисперсий. В качестве альтернативной гипотезы рассматривается утверждение, что дисперсии не равны. На рис. 4.1. приведены данные -теста. Значение -статистики записано в ячейке Е8 и равно 3,060. в ячейке Е9 приведены данные р-значения, которое является правосторонней вероятностью получить значение большее или равное -статистики. Критическое значение для правосторонней области находится в ячейке ЕЮ и равно 3,972. такое же значение будет иметь правая граница двухсторонней области с уровнем значимости 10%. На рис. 4.1. в столбце I найдено критическое значение для левой границы. Так как =3,060 меньше =3,972, мы не можем отвергнуть нулевую гипотезу равенства дисперсий.
Можно не использовать двухвыборочный -тест для проверки гипотезы о равенстве дисперсий, а воспользоваться функцией FPACTIOBP, которая имеет синтаксис РРАСПОБР(всроятность;степенисвоб1; степенисвоб2), т.е.
Значение статистики тоже легко находится с использованием встроенных функций Excel.
Критерий хи-квадрат (критерий согласия)
Этот критерий используют для проверки гипотезы о виде распределения выборки. Её проверка состоит в том, чтобы на основе сравнения фактических и теоретических частот сделать вывод о соответствии фактического распределения аредполагаемому. В критерии используется статистика:
где — число групп, на которое разбито распределение;
— теоретическая частота, рассчитанная по предполагаемому распределению;
— наблюдаемая (фактическая) частота признака в -той группе.
Статистика 6.1 подчиняется ХИ-квадрат распределению с степенями свободы, где — число параметров генерального распределения, вычисляемых по выборочным данным. В таблице 6.1. указывается значение для основных видов распределения.
В некоторых случаях сравнение может проводиться с заранее данным распределением, или с распределением у которого часть параметров указана (а не рассчитывается по выборочным данным). В этом случае число к (параметров генерального распределения) уменьшается.
Для применения критерия ХИ-квадрат требуется выполнение условий:
- экспериментальные данные должны быть независимыми;
- объем выборки должен быть достаточно большим (не менее 50);
- частота в каждой группе должна быть не менее 5. Если это условие не выполняется, то проводят объединение малочисленных интервалов, при этом частоты объединенных интервалов суммируются.
При полном совпадении теоретического и фактического распределений , в противном случае . Проверка гипотезы о равенстве распределений осуществляется с помощью
которое находится по заданному уровню значимости. Гипотеза принимается, если , в противном случае отвергается
Основанием для выдвижения гипотезы о виде распределения генеральной совокупности могут служить:
- формальные свойства числовых характеристик выборочных данных:
a. равенство нулю ассиметрии и эксцесса является признаком нормального распределения;
b. дисперсия и среднее значение выборки равны является признаком распределения Пуассона и т.д;
- графический анализ выборочных данных: полигон, гистограмма, функция накопленных частот их сравнение с теоретическими функциями известных распределений.
Если статистический ряд не является интервальным, то его данные подвергаются группировке и представляются в виде q интервалов равной длины. Далее находят количество вариант, попавших в каждый частичный интервал. Если значения статистического ряда являются равноотстоящими вариантами с заданными частотами, то данные можно и не группировать.
Проверка гипотезы о нормальном распределении генеральной совокупности
В предыдущих примерах мы пользовались тем, что значения выборки распределены по нормальному закону распределения. Рассмотрим применение критерия согласия, проверяющего справедливость гипотезы о наличии нормального распределения в совокупности на примере.
Пример с решением №5.1.
Чтобы установить гарантийный срок на товар, производитель хочет проверить является ли срок службы выпускаемого товара нормально распределенным. Случайным образом отобранные 200 единиц товара при проверке распределились следующим образом по количеству отработанных часов:
Запишем нулевую и альтернативную гипотезы:
: Совокупность сроков службы нормально распределена.
: Совокупность сроков службы имеет другое распределение.
Проверку будем проводить с помощью встроенных функций Excel. Для этого внесем данные, как показано на рис. 5.1 в ячейки А7:В11.
ШАГ 1. Найдите среднее значение и дисперсию интервального ряда по формулам 1.1 и 1.2. Для этого в ячейки D15:D19 занесите середины интервалов. Середина первого интервала определяется по формуле:
где пять половина длины следующего интервала. Аналогично вычисляется середина последнего интервала, только учитывается половина длины предшествующего интервала. В диапазон Е15:Е19 скопируйте фактические частоты. В ячейку Е20 запишите формулу: =СУММ(Е15:Е19).
В ячейку F15 поместите произведениех^ =D15*E15 и скопируйте в остальные ячейки диапазона F15:F 19. Теперь можете воспользоваться формулой 1.1 для определения среднего, значение которого поместите в ячейку В4.
Дисперсию найдите самостоятельно, для этого лучше воспользоваться формулой:
Сначала выполните следующие действия в ячейках G 15:G19 найдите , а в Н15:Н 19 — . Результаты оформите как показано в таблице 6.2: В ячейке С4 (рис.6.1) находится среднее квадратическое отклонение, которое определяется по формуле 1.3
ШАГ 2. В столбце «Вероятность» (рис.5.1) находится вероятность попадания случайной величины в соответствующий интервал. Для вычисления этих значений использовалась функция НОРМРАСП. Для первого интервала левым концом является минус бесконечность, поэтому в ячейку С8 запишите формулу:
Для последнего интервала находим
поэтому вычисление проводится по формуле:
Для вычисления вероятности попадания в интервал воспользуйтесь формулой 2.6:
ШАГ 3. Диапазон «Ожидаемая частота» вычисляется как произведение соответствующих значений столбца «Вероятность» на объем выборки (200). ШАГ 4. Столбец представляет собой слагаемые формулы 6.1, вычисляемые по формуле:
В примере рассматривается пять интервалов, а количество параметров предполагаемого распределения два (среднее и стандартное отклонение) рассчитывается по выборке, поэтому число степеней свободы (СС) равно двум (5-2-1=2). В ячейки А14:В19 введите формулы согласно рис. 5.2.
В ячейке В19 делается вывод, что распределение часов работы, выпускаемого товара нормальное, это же подтверждает и р-значение.
Проверка гипотезы о распределении генеральной совокупности но закону Пуассона
Параметром этого распределения является -среднее значение. Поэтому по выборочным данным надо найти и взять его в качестве оценки параметра . Напомним, что дискретная случайная величина, имеющая распределение Пуассона, может принимать неотрицательные целые значения. Рассмотрим использование критерия Хи-квадрат для проверки гипотезы о распределении случайной величины по закону Пуассона на примере.
Пример с решением №5.2.
Проведено наблюдение за числом вызовов такси в праздничные дни. Для этого анализировалось 100 случайно выбранных одно минутных интервалов времени. Число вызовов такси в минуту распределилось следующим образом:
Проверить, используя критерий Хи-квадрат, гипотезу о том, что число вызовов согласуется с законом Пуассона с уровнем значимости .
ШАГ 1. Внесите данные на лист Excel и найдите теоретические частоты (диапазон D2:D7), как показано на рис 5.3.
ШАГ2. Найдите слагаемые формулы 5.1. Для этого скопируйте значения фактических и теоретических частот, как показано на рис. 5.4, в ячейку С12 запишите формулу:
Можно сделать вывод о том, что число вызовов такси в праздничные дни имеет распределение Пуассона.
Проверка гипотезы о распределении генеральной совокупности но равномерному закону
Пусть случайная величина распределена равномерно на отрезке выборочные данные сгруппируйте по частичным интервалам одинаковой длины и найдите соответствующие частоты. Для каждого интервала вычислите вероятность попадания , а затем теоретические частоты по формуле пр,.
Пример с решением №6.3.
На рис.6.5 приведена частота появление на остановке автобусов определенного маршрута, имеющих интервал движения, пять минут . Проверьте гипотезу о равномерном законе распределения.
При проверке гипотезы, так же как и в случае нормального распределения найдено критическое значение (рис. 5.2) и р-значение, которое характеризует вероятность выполнения гипотезы : можно утверждать, что она выполняется для 90% выборочных данных. В ячейке В15 сделан вывод о том, что гипотеза о равномерном распределении движения автобусов принимается.
Проверка гипотезы о распределении генеральной совокупности но показательному закону
Как и в предыдущих проверках, выборочные данные сгруппируйте и запишите в виде последовательности частичных интервалов и соответствующих им частот. Найдите выборочное среднее значение . Параметр показательного распределения (таблица 6.1) замените оценкой:
Вероятности попадания случайной величины в интервалы определите с помощью функции ЭКСПРАСП.
Выполните расчеты как показано на рис. 5.6. Столбцы Е, F заполните как в примере 5.1. В столбце вероятность:
В ячейку D4 запишите =ЭКСПРАСП(В4;$Р$19;1);
В ячейку D5 поместите =ЭКСПРАСП(В5;$Р$ 19; 1 )-ЭКСГ1РАСП(A5;$F$ 19; 1), скопируйте её в остальные ячейки столбца D.
Сравнивая критическое и расчетное значение статистики ХИ-квадрат при 5% уровне значимости, можно сделать вывод, что нет оснований отвергать гипотезу можно считать данные выборки (рис 5.6) распределены по показательному (экспоненциальному) закону распределения.
Проверка гипотезы о распределении генеральной совокупности но биномиальному закону распределения
Пример с решением №5.4.
В библиотеке отобрано 200 партий по пять книг для обучения студентов в семестре. Каждому студенту было предложено заполнить опросный лист числа повреждений в книге. В итоге был получен вариационный ряд:
При уровне значимости 5% проверьте гипотезу о биномиальном распределении числа повреждений в книгах.
Биномиальное распределение имеет один неизвестный параметр — , который надо оценить по выборочным данным. Проведем все расчеты в Excel (рис. 5.7).
Выделенные ячейки следует объединить в одну группу, тогда количество рассматриваемых интервалов равно четырем.
Относительная частота находится по формуле
Прежде чем перейти к столбцу вероятность найдите оценку параметра , используя формулы рис. 5.8.
Столбец вероятность заполните с помощью формул :
Остальные ячейки заполняем, копируя полученную формулу.
Вывод: можно считать число повреждений в книге подчиняется биномиальному закону распределения.
Использование статистики ХИ-квадрат для изучения зависимостей двух переменных
Одним из приложений критерия является его использование при анализе таблиц сопряженности двух переменных для установления факта наличия и уровня значимости их взаимосвязи. Для этого выдвигается нулевая гипотеза: связи между рассматриваемыми переменными нет, в противном случае связь между переменными существует с уровнем значимости альфа.
Пример с решением №5.5.
Компания продает четыре сорта колы в Москве. Чтобы определить, будет ли успешным тот же способ распространения в Ростове и Краснодаре, фирма анализирует связь между предпочтениями и городом потребителя. Аналитик распределяет покупателей на четыре класса по предпочтениям сортов колы: обычная, без кофеина и сахара, только без кофеина, только без сахара. Опрашивают 250 случайно выбранных потребителей колы из трех городов и записывают их предпочтения. В результате получается таблица частот.
Так как аналитик определяет связь между городом и предпочтением определенного вида колы, то нулевая и альтернативная гипотезы следующие: : Классификации статистически независимы.
Классификации зависимы.
На лист Excel поместим данные о распространении сортов кофе в диапазон В5:Е7 (рис 6.8). Расчет ожидаемых частот проводится в предположении, что нулевая гипотеза выполняется, то есть переменные независимые, а значит вероятность их произведения равна произведению вероятностей каждой их них. Поэтому таблица ожидаемых частот строится по формуле:
Ожидаемые частоты поместите в диапазон В12:Е 14. Для их вычисления, воспользуйтесь смешанной и абсолютной ссылками на ячейки сумма по строке, сумма по столбцу, общая сумма. Результаты вычисления приведены на рис. 6.9.
Для сравнения ожидаемых и фактических частот воспользуемся ХИ2ТЕСТОМ (рис. 5.8). В ячейку В17 внесите формулу:
Получите р-значение равное 0,00000013, которое определяет вероятность выполнения нулевой гипотезы. Можно сделать вывод, что нулевая гипотеза отвергается, то есть люди из разных городов предпочитают различные сорта колы.
Проверим эту же гипотезу с помощью статистики ХИ-квадрат. Слагаемые формулы 6.1 найдем с помощью Фактических и Ожидаемых частот. Для этого в ячейку В21 введите формулу:
и скопируйте её для всего диапазона B21:F23 (рис.5.9).
- Сумму слагаемых ХИ-квадрат поместите в ячейку В25 (рис.5.9).
- В ячейке В27 задайте уровень значимости (альфа равно 0,01).
- Число степеней свободы (СС) найдите по формуле:
- Критическое значение (В29) найдем с помощью
- В ячейку ВЗО помести функцию:
Так как ХИ-квадрат больше критического значения, то принимается гипотеза .
Критерии Колмогорова-Смирнова
Этот критерий является альтернативой критерию ХИ-квадрат. Его применение не требует вычисления ожидаемых частот и может использоваться для малых выборок. Данные должны представлять случайную выборку и обязательно должна быть сформулирована гипотеза о распределении генеральной совокупности. Нулевая гипотеза утверждает, что генеральная совокупность имеет выбранное распределение с определенным уровнем значимости.
Применение критерия Колмогорова-Смирнова основано на оценке разности функции накопленных частот и функции распределения , найденной в предположении, что нулевая гипотеза верна. Статистика критерия вычисляется по формуле:
где — функция накопленных частот для -того значения или интервала; — функция распределения в точке .
Если D больше критического значения, взятого из таблицы соответствующего критерия для объема выборки п и уровня значимости , то нулевая гипотеза отклоняется. В противном случае нулевая гипотеза принимается. Для большого объема выборки используется предельное распределение критерия.
Если необходимо проверить нулевую гипотезу о принадлежности двух выборок (объема и ) одной и той же генеральной совокупности, то строится статистика:
где — функции накопленных частот, построенные по первой и второй выборкам соответственно;
Статистика сравнивается с критическим значением значения которой находятся по таблице критических точек распределения Колмогорова:
Пример с решением №6.1.
Получена случайная выборка о среднем дневном заработке, руб/день, для пяти работников: 288, 231, 249, 146, 291. можно ли считать на 10% уровне значимости, что выборка проведена из нормально распределенной генеральной совокупности со средним значением
: выборка взята из нормально распределенной генеральной совокупности с
нет оснований утверждать, что выборка взята из нормально распределенной генеральной совокупности с . Вычисления проведем в Excel, как показано на рис.6.1.
ШАГ 1. Заполните диапазон А5:А9 выборочными данными и отсортируйте их по возрастанию.
ШАГ 2. Найдите относительные частоты для перечисленных вариант и поместите их в столбец В.
ШАГ 3. Для определения значений функции накопленных частот в ячейку С5 внесите формулу: = В5, в ячейку С6 запишите: =С5+В6 и скопируйте её для ячеек диапазона С7:С9.
ШАГ 3. Для заполнения столбца D, внесите в ячейку D5 формулу:
и скопируйте её на остальные ячейки диапазона D6: D9.
ШАГ 4. В ячейку Е5 внесите формулу: =ABS(C5-D5) и скопируйте для остальных ячеек диапазона Е5:Е9
ШАГ 5. Найдите максимальное значение статистики D и сравните с критическим, взятым из таблицы при уровне значимости 10% и числе степеней свободы равном пяти. Сравнивая эти можно сделать вывод, что выборка взята из нормально распределенной генеральной совокупности с
Линейная регрессия и корреляция
Регрессия и корреляция широко используется при анализе связей между явлениями. Прежде всего, в экономике — исследование зависимости объемов производства от целого ряда факторов: размера основных фондов, обеспеченности предприятия квалифицированным персоналом и других; зависимости спроса или потребления населения от уровня дохода, цен на товары и т.д. Экономические показатели являются многомерными случайными величинами.
В большинстве случаев между переменными, характеризующими экономические величины, существуют зависимости, отличающиеся от функциональных. Она возникает, когда один из факторов зависит не только от другого, но и от ряда случайных условий, оказывающих влияние на один или оба фактора. В этом случае ее называют стохастической (корреляционной) и говорят, что переменные коррелируют. Виды стохастических связей между факторами могут быть линейными и нелинейными, положительными или отрицательными. Возможна такая ситуация, когда между факторами невозможно установить какую-либо зависимость.
Однако при изучении влияния одного явления на другое удобно работать именно с функциями, связывающими эти явления. Задачи построения функциональной зависимости между факторами, анализа полученных результатов и прогнозирования решаются с помощью регрессионного анализа.
В пособии приводятся решения задач содержащих небольшое количество данных, для того чтобы пользователь мог быстро ввести значения в таблицу Excel. Каждое решение содержит подробную инструкцию. Сначала рассмотрите пример и проверьте результаты. Затем примените пошаговые инструкции к собственному множеству данных.
Корреляционная зависимость
Для изучения зависимости между двумя числовыми переменными ( и ) сначала строят графики рассеяния. В Excel данный вид графиков называется точечной диаграммой. Используя графическое представление, можно сделать вывод о корреляционной зависимости или независимости рассматриваемых данных. Если в массиве данных присутствуют «выбросы», то их следует исключить из рассмотрения, если это возможно сделать, или усреднить, используя соседние элементы.
Теперь можно выдвинуть предположение о существовании линейной или нелинейной зависимости между переменными. Для этого найдите коэффициент корреляции и проверьте его значимость.
Тесноту линейной зависимости изучаемых явлений оценивает линейный коэффициент парной корреляции :
где обозначают смешенный момент второго порядка (1.5), который называется ковариацией.
Ковариация является мерой взаимосвязи случайных величин и может служить для определения направления их изменения:
если , то случайные величины изменяются в одном направлении;
если , то случайные величины изменяются в разных направлениях.
Очевидными свойствами ковариации являются:
Коэффициент корреляции (1.1) является величиной безразмерной. Случайные величины и называют некоррелированными, если (отсутствует линейная зависимость между и ), в противном случаем можно говорить о линейной зависимости между величинами и , а величины называю коррелированными. Свойства коэффициента корреляции:
В пакете Анализ данных есть инструменты Ковариации и Корреляция, позволяющие сделать вывод о линейной зависимости случайных величин.
Пример с решением №7.1.
Для анализа зависимости объема потребления (у.е.) хозяйств от располагаемого ежемесячного дохода (у.е.) отобрана выборка , представленная таблицей.
Постройте график рассеяния и сделайте вывод о виде функциональной зависимости между объемом потребления и ежемесячным доходом в семье.
Инструкции по выполнению задания
- Расположите данные в столбцах таблицы так, чтобы значения х были слева, а у справа (рис. 1.1).
- Выделите диапазон ячеек.
- Щелкните мышью по кнопке Мастер диаграмм и выберите тип Точечная. Для форматирования диаграммы удобно использовать контекстное меню, которое вызывается щелчком правой кнопки мыши на форматируемом объекте.
- Дайте название диаграмме Корреляционное поле.
- Расположите диаграмму на листе, содержащем данные, как показано на рис.
Применим встроенную функцию КОРРЕЛ(диапазон ; диапазон) для установления линейной зависимости между переменными (рис. 1.1). Найденный коэффициент корреляции 0,99 свидетельствует о сильной линейной зависимости между объёмом потребления и уровнем доходов в семье.
Проверим значимость коэффициента корреляции. Для этого сформулируем основную и альтернативную гипотезы:
: , коэффициент незначимый;
, коэффициент значимый.
Для проверки гипотезы воспользуемся -критерием и уровнем значимости 5%,
Сравнивая эти значения, сделаем вывод о том, что основная гипотеза отклоняется в пользу альтернативной, т.е. коэффициент корреляции значим. По расположению точек на рис. 1.1 можно предположить, что между и существует линейная зависимость:
Корреляционный анализ данных
При выполнении многомерного анализа данных изучают корреляцию между каждой парой переменных. Эти результаты представляют в виде корреляционной матрицы. Инструмент анализа Корреляция позволяет определить парные корреляции для многих переменных. После его запуска получится нижняя треугольная часть матрицы, на диагонали которой будут стоять единицы . Верхняя часть матрицы является зеркальным отражением нижней ее части, поскольку .
Если надо изучить зависимость между переменными при условии управления одной или несколькими переменными, то находят коэффициенты частной корреляции. Частные коэффициенты корреляции могут оказаться полезными при определении ложных связей.
Например, изучается зависимость . Коэффициенты парной корреляции между и высокие, однако зависимость будет считаться ложной, если линейно зависит от . Если исключить влияние переменной , то корреляционная зависимость между и может исчезнуть,
Надо найти частные коэффициенты корреляции, т.е. элиминировать один из факторов (устранить его влияние). В случае трех факторов корреляцию между и при элиминированном факторе можно найти по формуле:
Подобным образом находят и остальные коэффициенты частной корреляции.
Пример с решением №7.2.
Формируется три портфеля из десяти акций. Первый состоит из 10 акций вида , второй содержит по 5 акций и ; а третий включает 5 акций вида , 3 вида и 2 вида . Данные о прибыли по каждому виду акций за десять месяцев представлены на рис 1.3.
Имеется ли зависимость между акциями , и ? Отличаются ли данные портфели по доходности и риску?
Инструкции по выполнению задания
- Введите данные в ячейки A1: C11, как показано на рис. 1.2.
- В меню сервис выберите Анализ данных / инструмент Корреляция. Заполните поля диалогового окна, как показано на рис. 1.3. и нажмите ОК.
- Аналогично найдите матрицу парных ковариаций.
Описание результатов
Коэффициенты корреляции не очень высокие:
Акции плохо коррелируют между собой, то есть между дивидендами по акциям существует слабая линейная зависимость.
Так как коэффициент ковариации для дивидендов по акциям и отрицательный, то прибыль по ним будет изменяться в разных направлениях (при увеличении дивидендов по акциям дивиденды по акциям будут уменьшаться). Правда, эти изменения не очень велики, около 10%.
Если рынок ценных бумаг устойчивый, то желательно исключить акции вида из портфеля, так как наибольшая, а значит риск в их вложение высокий.
Акции и коррелируют слабо , поэтому есть основания считать, что вложение капитала в равных долях в эти акции будет наименее рискованным. Для более правильного вывода надо вычислить дисперсии для каждого портфеля и сравнить их.
Дисперсии для первого портфеля :
Для второго:
Третий портфель имеет дисперсию:
Вывод: наименьший риск получается при покупке акций и в равных долях.
Чтобы принять окончательное решение надо построить множество Парето, характеризующее зависимость доходности портфеля от его риска, т.е. математического ожидания и дисперсии:
Построение тренда для двух рядов данных
Задача построения функциональной зависимости может быть выполнена с помощью команды Добавить линию тренда. В этом случае необходимо визуально исследовать зависимость между х и у и выбрать график элементарной функции, который даст лучшее приближение к экспериментальным данным. Форматирование графиков выполняется с помощью меню Диаграмма. Напомним, что форматируемый объект должен быть выделен.
Существуют и другие способы форматирования: контекстное меню — вызывается для объекта с помощью правой клавиши мыши.
Прежде всего, надо исследовать корреляционное поле и сделать вывод о характере зависимости между переменными. Затем выполните действия (тренд построен для данных примера 1.1):
- На диаграмме (рис. 1.1) выделите маркеры, щелкнув по любой из точек данных.
- В меню диаграмма выберите Добавить линию тренда (можно воспользоваться контекстным меню).
- Перейдите на вкладку Тип диалогового окна Линия тренда, как показано на рис. 1.5 и выделите пиктограмму Линейный.
- Откройте вкладку Параметры (рис. 1.6) включите опции Показывать уравнение на диаграмме и Поместить на диаграмму величину достоверности аппроксимации .
На вкладке параметры имеются и другие типы функциональных зависимостей. Предлагается самостоятельно построить остальные виды тренда и записать их уравнения. Не забывайте включать опции из пункт 4, приведенной выше инструкции.
Инструмент анализа регрессия
Дает возможность провести более полный анализ, полученного уравнения линейного тренда с использованием методов математической статистики.
Коэффициенты уравнения линейной регрессии находятся по выборочным данным и являются величинами случайными, поэтому надо провести анализ их значимости (значимости). Надо определить значимость всего уравнения регрессии и самое главное построить прогноз по построенному уравнению, а затем провести его оценку значимости.
При построении линейного тренда предполагается, что линейная модель наилучшим образом характеризует зависимость между и :
где и параметры модели; — случайная величина (возмущение), характеризующая влияние неучтенных факторов.
Уравнение прямой (1.2), коэффициенты которого находят по выборочным данным, называют уравнением регрессии и обозначают :
Коэффициенты регрессии и находят по методу наименьших квадратов. Они являются только оценками параметров модели (соответственно и ). Для получения наилучших оценок необходимо, чтобы выполнялся ряд предпосылок относительно случайного отклонения
индекс означает значение факторов в одноименном испытании. Это условия Гаусса-Маркова (Приложение 1), а так же предположения:
• случайные отклонения имеют нормальный закон распределения;
• отсутствуют ошибки спецификации;
• число наблюдений достаточно большое: как минимум в шесть раз превышает число объясняющих факторов и другие.
Оценку называют коэффициентом регрессии. Ее значение показывает среднее изменение результата у с изменением фактора х на одну единицу.
Можно установить зависимость между коэффициентом регрессии и коэффициентом корреляции:
В качестве меры рассеивания фактического значения у относительно теоретического значения (находится по уравнению регрессии) используется стандартная ошибка уравнения регрессии, которая определяется по формуле:
Оценка качества полученного уравнения регрессии содержит следующие пункты:
- Оценка значимости коэффициентов регрессии;
- Построение доверительных интервалов для каждого коэффициента;
- Оценка значимости всего уравнения регрессии;
- Построение прогнозного значения и доверительного интервала к ним. Для определения статистической значимости коэффициентов регрессии и корреляции необходимо рассчитать -статистики Стьюдента лучше всего это сделать с помощью встроенной функции СТЬДРАСПОБР [1].
Оценка значимости коэффициентов регрессии и корреляции
Устанавливает надежность полученных результатов. Случайные ошибки коэффициента корреляции и оценок параметров линейной модели вычисляются по формулам:
стандартное отклонение коэффициента .
стандартное отклонение коэффициента .
стандартное отклонение коэффициента корреляции.
Любое стандартное отклонение иногда называют стандартной ошибкой соответствующего коэффициента.
Рассматривается основная гипотеза о равенстве параметров регрессии нулю.
— коэффициент незначим; — коэффициент значимый По выборке находят-статистики :
Критическое значение для -статистик находят с помощью распределения Стьюдента. Для этого надо знать объем выборки и задать уровень значимости . Например, для
Выдвинутая гипотеза:
Часто при проверке качества коэффициентов используют «грубое правило»:
• если то коэффициент статистически незначим;
• если , то коэффициент относительно слабо значим, рекомендуется воспользоваться таблицей критических точек распределения Стьюдента;
• если , то коэффициент значим (это утверждение считается гарантированным при );
• если , то коэффициент считается сильно значимым (вероятность ошибки при достаточном числе наблюдений не превосходит 0,001).
Каждая оценка дополняется доверительным интервалом. Для этого определяют предельную ошибку [1] для каждого коэффициента:
откуда границы доверительных интервалов находятся по формуле:
Коэффициент детерминации для парной регрессии совпадает с квадратом коэффициента корреляции и характеризует долю дисперсии результативного признака , объясняемую регрессией в общей дисперсии результативного при-знака. Соответственно величина характеризует долю дисперсии у, вызванную влиянием неучтенных факторов в общей дисперсии признака .
Разделив обе части уравнения на общую сумму квадратов отклонений, получим:
Таким образом, коэффициент детерминации является мерой, позволяющей определить, в какой степени найденная прямая регрессии дает лучший результат для объяснения поведения зависимой переменной , чем горизонтальная прямая . Очевидно, что . Откуда следует, что чем ближе он к единице, тем больше уравнение регрессии объясняет поведение фактических значений . Поэтому хотелось бы стремятся построить регрессию с наибольшим значением .
Корень квадратный из коэффициента детерминации называется индексом корреляции и обозначают .
Для проверки общего качества уравнения регрессии выдвигается предположение, что коэффициенты и одновременно равны нулю, тогда уравнение считают незначимым, в противном случае значимым. Данная гипотеза проверяется на основе дисперсионного анализа, при этом сравниваются объясненная и остаточная дисперсии:
— уравнение незначимо,
— уравнение значимо. Строится -статистика:
При выполнении условий МНК статистика имеет распределение Фишера с числом степеней свободы . При уровне значимости находят критичекую точку с помощью функции FHOBP и сравнивают его с наблюдаемым значением . Так как рассматриваемая гипотеза правосторонняя [1], то:
■ если то гипотеза отклоняется в пользу что означает объясненная дисперсия существенно больше остаточной, следовательно, уравнение регрессии достаточно качественно отражает динамику изменения зависимой переменной от объясняющей.
■ если , то гипотеза принимается, т.е. объясненная дисперсия соизмерима с остаточной дисперсией, вызванной случайными факторами. Это позволяет считать влияние объясняющих переменных модели несущественным, а следовательно, общее качество уравнения регрессии невысоким.
В случае линейной регрессии проверка нулевой гипотезы для -статистики равносильна проверке нулевой гипотезы для -статистики для коэффициента корреляции:
Можно доказать равенство:
Самостоятельную значимость коэффициент приобретает в случае множественной регрессии.
Поиск прогнозного значения и его оценка
Прогнозное значение определяется, если в уравнение регрессии подставить значение :
Границы доверительного интервала для параметра будут равны:
Чтобы найти стандартную ошибку прогнозного значения можно использовать два подхода: либо рассматривать параметр как отдельное значение переменной ; или разброс найти как условное среднее значение при известном значении .
Доверительный интервал для отдельного значения учитывает источники рассеяния: для коэффициентов регрессии (1.5, 1.6) и всего уравнения регрессии (1.4). В этом случае стандартная ошибка прогноза вычисляется по формуле:
Доверительный интервал для условного среднего не учитывает дисперсию для всего уравнения регрессии (1.4), поэтому формула для вычисления ошибки прогноза имеет вид:
Пример с решением №7.3.
Воспользуемся данными примера 1.1 для выполнения следующих заданий:
- по данным выборок постройте линейную модель ;
a. оценить параметры уравнения регрессии ;
b. оценить статистическую значимость коэффициентов регрессии;
c. оценить силу линейной зависимости между и ;
d. спрогнозируйте потребление при доходе .
- постройте модель, не содержащую свободный член .
a. найдите коэффициент регрессии ,
b. оценить статистическую значимость коэффициента ;
c. оценить силу общее качество уравнения регрессии;
- значимо или нет различаются коэффициенты на?
- какую модель вы выбираете?
Инструкции для выполнения примера с помощью инструмента Регрессия пакета анализ.
Для задания 1.
- Наберите исходные данные на лист Excel, как и раньше по столбцам (рис 1.1).
- Найдите инструмент Регрессия в пакете Анализ данных и нажмите ОК. появится диалоговое окно (рис. 1.8)
- Входной интервал : введите ссылки на значения переменной , включая метки диапазона.
- Входной интервал : введите ссылки на значения переменной , включая метки диапазона.
- Включите опцию Метки.
- Включите опцию Уровень надежности и введите в поле значение 98.
- Установите параметр вывода результатов, имя ячейки.
- Включите опцию вывод остатков для получения теоретических значений .
- Нажмите ОК.
- Появятся итоговые результаты (рис 1.9).
- Выделите диапазон Вывод остатков и перенесите его, как показано на рис. 1.9.
Все оценки по умолчанию проводятся в excel с уровнем значимости
Описание результатов поданным примера 1.1
Рисунок 1.9. состоит из четырех блоков: Регрессионная статистика, Дисперсионный анализ, данных для коэффициентов регрессии и их оценок, вывод остатков. Опишем более подробно полученные результаты.
Регрессионная статистика содержит строки, характеризующие построенное уравнение регрессии:
Для парной регрессии Множественный равен коэффициенту корреляции . По его значению 0,9952 можно сказать, что между и существует сильная линейная зависимость.
Строка -квадрат равна коэффициенту корреляции в квадрате. Нормированный -квадрат рассчитывается с учетом степеней свободы числителя и знаменателя по формуле 1.11. Более подробно свойства этого коэффициента будут рассмотрены в разделе множественная линейная регрессия. Стандартная ошибка регрессии вычисляется по формуле 1.4. Последняя строка содержит количество выборочных данных .
Дисперсионный анализ
Он позволяет исследовать общую дисперсию у (строка ИТОГО), дисперсию для теоретических данных (строка Регрессия) и остаточную дисперсию (строка Остаток).
Второй столбец содержит число степеней свободы для каждой из сумм формулы 1.11*.
В третьем столбе находятся суммы квадратов (1.11*).
Четвертый столбец содержит средние значения для регрессии и остатков.
В пятом столбце вычисляется по выборочным данным значение статистика (1.12). Последний столбец, содержит -значение равное
с уровнем значимости 0,05. С его помощью можно оценить значимость всего уравнения регрессии. Это значение можно считать вероятностью выполнения гипотезы . В нашем случае она практически равна нулю, следовательно, построенное уравнение дает хорошее приближение к исходным данным.
Построение уравнения регрессии и оценка значимости ее коэффициентов
Этот блок состоит из трех строк:
названия столбцов — первая строка
— пересечение — содержит все характеристики для коэффициента ; третья строка содержит все характеристики для коэффициента . В столбце коэффициенты находятся их значения
используя их можно записать уравнение линейной регрессии:
Столбец Стандартная ошибка содержит значения
В столбце -статистики находятся значения, вычисленные по выборочным данным:
По «грубому правилу» можно сделать вывод, что сильно значимый коэффициент, а незначим.
Подтвердить эти выводы можно с помощью данных столбца -значение. В этом столбе вычисляются вероятности
которое можно считать вероятностью выполнения гипотезы . Эта вероятность для равна нулю, что подтверждает вывод, сделанный по грубому правилу. Для коэффициента с надежностью 43% случаев можно говорить о его незначимости.
Доверительные интервалы строятся для коэффициентов по умолчанию с доверительной вероятностью 95%. Границы интервалов находятся в столбцах Нижнее 95%, Верхнее 95%:
Так как нами была включена опция уровень надежности 98%, то получены доверительные интервалы и для этого значения :
Описания, приведенные выше, практически позволили ответить на все вопросы задания 1, кроме построения прогнозного значения и доверительного интервала для него. Выполнить это задание можно с помощью блока вывод остатков и функции ТЕНДЕЦИЯ() или непосредственно по формулам (1.14-1.18).
Прогнозируемое потребление при доходе составит для данной модели:
Границы доверительного интервала условного среднего значения (1.17):
Таким образом, среднее потребление при доходе 160 у.е. с надежностью 95% будет находиться в интервале (152,8993; 15464624).
Для определения границ интервала, в котором сосредоточено не менее 95% возможных объемов потребления при неограниченно большом числе наблюдений и уровне дохода =160, воспользуемся формулой (1.16):
Получим границы интервала для прогнозного значения (151,4791; 155,61409). Нетрудно заметить, что он включает в себя интервал для среднего потребления.
Коэффициент может трактоваться как предельная склонность к потреблению. Фактически он показывает, на какую величину изменится объем потребления, если предполагаемый доход возрастет на единицу.
Свободный член уравнения регрессии определяет прогнозируемое значение при величине располагаемого дохода , равной нулю (т.е. автономное потребление). В нашем примере =2,9992 говорит о том, что при нулевом располагаемом доходе расходы на потребление составят 2,99992 у.е. Это можно объяснить для отдельных хозяйств (каждое может тратить накопленные или одолженные деньги), но для совокупности хозяйств коэффициент теряет смысл.
Следует помнить, что полученное уравнение регрессии отражает лишь общую тенденцию в поведении рассматриваемых переменных. Индивидуальные значения могут отклоняться от модельных.
Задание2.
Рассмотрим модельное уравнение, не содержащее свободного члена:
тогда соответствующее ему уравнение регрессии:
Проведем исследование этого уравнения, так же как и в задании 1. Запустим инструмент Регрессия. Для заполнения полей диалогового окна (рис. 1.8) повторите действия 3 — 6 из задания 1; обязательно включите опцию Константа ноль и измените параметры выходного интервала так, чтобы вывод итогов задания 1 и задания 2 не пересекались.
Вывод итогов в этом случае представлен на рис 1.12. Строка, соответствующая свободному члену уравнения, содержит запись #Н/Д, так как он отсутствует в уравнении.
Проведите описание результатов самостоятельно для полученного уравнения регрессии также как в задании 1.
Обратите внимание, что столбцы Верхнее 95% и Нижнее 95% повторяются, так как опция уровень надежности отключена.
Задание 3.
Проверим значимо или нет, различаются коэффициенты и . Для этого сформулируем гипотезу о равенстве математических ожиданий:
— коэффициенты совпадают, значимого различия нет; — коэффициенты различаются значимо.
Для проверки гипотезы построим статистику
Сравним наблюдаемое значение с критическим при уровне значимости и числом степеней свободы .
Найдем критическое значение с помощью встроенной функции Стьюдента . Поскольку , то нет оснований для отклонения нулевой гипотезы. Это дает основания утверждать, что различия в коэффициентах незначимо.
Задание 4.
Необходимо сравнить коэффициенты детерминации двух уравнений, значения которых возьмите из отчетов Вывод Итогов (рис. 1.9, рис. 1.10):
для первого уравнения
для второго уравнения
Так как для первого уравнения это значение больше, чем для второго, то можно предположить, что первое уравнение
описывает поведение зависимой переменной лучше, чем второе
так как её коэффициент детерминации больше. Сравнение двух уравнений регрессии с помощью -статистики будет рассмотрено в разделе множественная линейная регрессия.
Множественная линейная регрессия
Как правило, на изучаемый фактор оказывает влияние не один, а несколько факторов . Например, спрос зависит не только от цены товара, но и от доходов потребителей, а также от цены на замещающие его товары и других факторов.
Пусть зависимая переменная в наблюдениях определяется m объясняющими факторами , а функциональная зависимость между ними имеет вид линейной модели:
или для индивидуальных наблюдений ,где
Уравнение регрессии для индивидуальных наблюдений:
— вектор неизвестных параметров,
— вектор оценочных параметров,
вектор значений зависимой переменной,
— матрица значений независимых переменных, где — значение переменной
в -том наблюдении, — случайные возмущения,
случайный вектор отклонений теоретических значений от фактических .
Тогда уравнение (1.18) можно записать в матричном виде:
а так же уравнение (1.20):
Чтобы найти коэффициенты линейной регрессии (1.20), надо решить уравнение (1.22) относительно матрицы В. Для этого умножают обе части матричного уравнения (1.22) на транспонированную матрицу и из полученного уравнения:
Полученное решение справедливо для уравнений регрессии с произвольным количеством объясняющих факторов , где обратная матрица к матрице .
Решение (1.23) уравнения регрессии (1.22) можно найти:
- с использованием методов матричной алгебры;
- с помощью встроенных функций Excel для работы с массивами: МОБР(), ТРАНСП(), МУМНОЖ();
- применить инструмент анализа Регрессия.
Первый способ изучается в курсе Математика и для его реализации необходимо записать все матрицы, характеризующие уравнение 1.23.
Для реализации второго способа коэффициенты этих матриц надо занести на лист Excel, а затем применить правила работы с массивами данных. Необходимо помнить, что матрицы для этих методов имеют вид:
Матрица в первом столбце содержит единицы, которые являются коэффициентом при неизвестном линейной регрессии 1.20.
Наиболее простым является последний способ поиска коэффициентов регрессии 1.20. Рассмотрим его применение на примере.
Пример с решением №7.4.
Анализируется объем сбережений населения за 10 лет. Предполагается, что его размер в текущем году зависит от величины располагаемого дохода в предыдущем году и от величины реальной процентной ставки в рассматриваемом году. Статистические данные приведены в таблице:
Задание:
1) найдите коэффициенты линейной регрессии
2) оцените статистическую значимость найденных коэффициентов регрессии
3) оцените силу влияния факторов на объем сбережений населения;
4) постройте 95% -е доверительные интервалы для найденных коэффициентов;
5) вычислите коэффициент детерминации и оценить его статистическую значимость при ;
6) рассчитайте коэффициенты частной корреляции;
7) определите, какой процент разброса зависимой переменной объясняется данной регрессией;
найдите скорректированным коэффициент детерминации и сравните его с коэффициент детерминации .
9) оцените предельную склонность граждан к сбережению. Существенно ли отличается она от 0,5?
10) определите, увеличивается или уменьшается объем сбережений с ростом процентной ставки; будет ли ответ статистически обоснованным;
11) спрогнозируйте средний объем сбережений в 2011 году, если предполагаемый доход составит 270 тыс. руб., а процентная ставка будет равна 5,5%.
12) выводы по качеству построенной модели;
Все расчеты выполним с помощью ППП Excel.
Инструкции для выполнения
- Наберите исходные данные на лист Excel, как и раньше по столбцам (рис 1.13).
- Найдите инструмент Регрессия в пакете Анализ данных и нажмите , появится диалоговое окно (рис. 1.8)
- Входной интервал : введите ссылки на значения переменной в столбце , включая метки диапазона.
- Входной интервал : введите ссылки на значения переменной в столбцах и , включая метки диапазона.
- Включите опцию Метки.
- Включите опцию Уровень надежности и введите в поле значение 99.
- Установите параметр вывода результатов, имя ячейки.
- Включите опцию вывод остатков для получения теоретических значений .
- Нажмите .
- Появятся итоговые результаты (рис 1.14).
Описание результатов уравнение линейной регрессии
Используя столбец Коэффициенты, запишем уравнение регрессии:
При изменении доходов в предшествующем году на одну тысячу рублей сбережения увеличатся на 120 рублей, если экономическая ситуация будет стабильной. При увеличении процентной ставки на 1% сбережения могут увеличиться на 350 рублей.
Значимость коэффициентов регрессии
Значение — статистик находятся в столбце с одноименным названием:
Используя «грубое правило», можно сделать вывод, что коэффициенты значимы, так как они превышают значение три. Коэффициент относительно слабо значим. Убедится в этих выводах можно используя СТЬЮДРАСПОБР(), с помощью которой найдите критические точки и постройте двухстороннюю критическую область. Для различных уровней значимости:
Этот же вывод получите, если исследуете показания столбца -значение. Коэффициент существенного влияния на переменную не оказывает, т.е. может быть исключен из модели. Однако, учитывая, что в экономике, свободный член отражает экзогенную среду, лучше его оставить в уравнении регрессии, так как наличие свободного члена в линейном уравнении может только уточнить вид зависимости.
Значение -статистики для коэффициента -пересечение обычно не используется.
Сравнение коэффициентов регрессии
Простое сопоставление коэффициентов регрессии по модулю не может оценить силу влияния факторов на признак у: такое сопоставление лишено смысла. Однако их можно нормировать (стандартизировать), используя формулу:
где — коэффициент регрессии после нормирования, — стандартная ошибка переменной ; — стандартная ошибка переменной .
Нормированные коэффициенты можно сравнивать и делать вывод о влиянии факторов на переменную . Факторы с наименьшим по модулю значением оказывают на наименьшее влияние.
Уравнение регрессии в стандартизованном масштабе имеет вид:
это означает, что влияние процентной ставки на объем вкладов меньше, чем влияние уровня доходов за предшествующий период .
Доверительные интервалы для коэффициентов
Находятся в столбцах нижнее/верхнее 95%:
Можно построить доверительные интервалы с уровнем надежности 97% (Рис. 1.14).
Коэффициент детерминации
Коэффициент детерминации находится по формуле (1.11):
Он характеризует долю разброса значений зависимой переменной , объясненной уравнением регрессии. В нашем примере, 98% разброса переменной объясняется построенным уравнением регрессии.
Скорректированный коэффициент детерминации
В случае множественной регрессии коэффициент детерминации является неубывающей функцией числа объясняющих переменных, т.е. добавление новой переменной увеличивает значение . Поэтому при расчете коэффициента детерминации для получения несмещенных оценок в числителе и знаменателе формулы 1.11 делается поправка на число степеней свободы. Найденное значение называется скорректированным коэффициентом детерминации:
■ — является несмещенной оценкой остаточной дисперсии, т.е. дисперсией случайных отклонений точек наблюдений от линии регрессии. Ее число степеней свободы равно , где степень свободы связана с необходимостью решения системы линейного уравнения;
■ — является несмещенной оценкой общей дисперсии, т.е. дисперсией отклонения от , где одна степень теряется при вычислении .
Заметим, что несмещенная оценка объясненной дисперсии , т.е. дисперсии отклонения точек от , имеет степеней свободы.
Все суммы можно найти в столбце дисперсионного анализа, их средние значения в столбце , а число степеней свободы в столбце этого же блока.
Для нашего примера находится в блоке регрессионная статистика в строке нормированный.
Можно получить формулу, устанавливающую связь между скорректированным коэффициентом детерминации и коэффициентом детерминации:
Очевидно, что:
для , только при .
может принимать отрицательные значения (например, если )
Коэффициент корректируется с ростом числа объясняющих переменных. Доказано, что скорректированный коэффициент корреляции увеличивается при добавлении новой переменной тогда и только тогда, когда — статистика этой переменной по модулю больше единицы. Поэтому добавление в модель новых переменных осуществляется до тех пор, пока он растет.
В пакете Анализ данных приводятся значения и . Значимость коэффициента детерминации и скорректированного коэффициента при исследовании уравнения регрессии большая, однако, не абсолютная. При неправильной спецификации модели можно получить очень высокие значения этих коэффициентов, поэтому и рассматриваются как один из ряда показателей, которые нужно проанализировать, чтобы уточнить строящуюся модель.
Индекс множественной корреляции
Теснота линейной взаимосвязи в линейной регрессии выполняется с помощью индекса корреляции:
Если — неслучайная величина, то характеризует качество подбора уравнения регрессии. Если же — случайная переменная, то индекс корреляции является мерой тесноты линейной взаимосвязи между и набором факторов .
Для нашего примера находим в строке Множественный рис 1.18.
Коэффициенты частной корреляции
Используются для выделения определяющего фактора и второстепенных. Необходимо определить частные зависимости между и , при условии, что воздействие остальных факторов исключено (элиминировано). В случае трех переменных можно получить коэффициенты парной корреляции по формулам:
Воспользуйтесь инструкциями примера 1.2. и найдите коэффициенты парной корреляции для вычисления коэффициентов частной корреляции.
Анализируя, полученные данные можно сказать, что факторы и дублируют друг друга . Сравнивая их влияние на фактор можно сделать вывод об исключении переменной из уравнения регрессии, так как . Постройте уравнение регрессии, не содержащее фактор . Сравните коэффициенты детерминации двух уравнений и сделайте вывод: следует исключать фактор или оставить его при построении уравнения регрессии.
Доверительный интервал прогноза
Если уравнение регрессии имеет вид:
то прогнозное значение вычисляется так же как в случае парной регрессии. Необходимо подставить заданные значения прогноза
в уравнение регрессии.
Найдем средний объем сбережений в 2011 году, если предполагаемый доход в 2010 году составит 270 тыс. рублей, а процентная ставка вырастет до 5,5%. Подставив эти значения в уравнение регрессии, получим средний объем сбережений в 2011 году:
Точечная оценка объема сбережений в 2011 году может быть дополнена интервальной оценкой, полученной по формуле 1.15:
где
Используя встроенные функции Excel, найдем матричное произведение:
Подставив все значения в 1.28, найдем интервальные оценки среднего сбережения населения в 2011 году:
Склонность населения к сбережению в данной модели отражается через коэффициент , определяющий на какую величину вырастет объем сбережений при росте располагаемого дохода на одну единицу.
Для анализа, существенно или нет коэффициент отличается от 0,5, проверим гипотезу:
Построим статистику, которая имеет распределение Стьюдента. Зададим уровень значимости , число степеней свободы тогда:
Так как
то должна быть отклонена. Действительно 50% склонность населения к сбережениям явно завышена по сравнению с модельным значением в 12,4%.
Рост процентной ставки увеличивает объем сбережений
Эта зависимость характеризуется коэффициентом . Так как коэффициент статистически значим, то ответ будет статистически обоснованным.
Анализ качества уравнения регрессии
Первое построенное по выборке уравнение редко является удовлетворительным по тем или иным характеристикам. Поэтому следующей задачей эконометрического анализа является проверка качества уравнения регрессии. Эта проверка проводится по следующим этапам:
■ проверка статистической значимости коэффициентов регрессии;
■ проверка общего качества уравнения регрессии;
■ проверка свойств данных: проверка выполнимости МНК.
По всем показателям нашего примера 1.3 модель может быть признана удовлетворительной:
■ высокие -статистики;
■ коэффициент детерминации близок к единице;
Это означает, что модель может быть использована для целей анализа и прогнозирования. Мы не проверили выполнимость МНК и значимость коэффициента детерминации.
Анализ значимости
Проверяется гипотеза об одновременном равенстве нулю всех объясняющих переменных — уравнение считается незначимым:
Если данная гипотеза не отклоняется, то делается вывод, что совокупное влияние всех m объясняющих переменных на зависимую переменную можно считать статистически незначимым, а общее качество уравнения регрессии невысоким.
Проверка данной гипотезы проводится на основе дисперсионного анализа, при этом сравниваются объясненная и остаточная дисперсии.
Для проверки гипотезы строится -статистика:
которая при выполнении МНК имеет распределение Фишера с числом степеней свободы
Критическое значение находится с помощью:
при уровне значимости .
■ Если то гипотеза отклоняется в пользу что означает объясненная дисперсия существенно больше остаточной, следовательно, уравнение регрессии достаточно качественно отражает динамику изменения зависимой переменной от объясняющей.
■ Если , то гипотеза принимается, т.е. объясненная дисперсия соизмерима с остаточной дисперсией, вызванной случайными факторами. Это позволяет считать влияние объясняющих переменных модели несущественным, а следовательно, общее качество уравнения регрессии невысоким.
На практике вместо указанной гипотезы проверяется, связанная с ней гипотеза о статистической значимости коэффициента детерминации .
Очевидно, что если , а линия регрессии является наилучшей по МНК, т.е. величина линейно не зависит от . Анализ статистики позволяет сделать вывод о том, что для принятия гипотезы об одновременном равенстве нулю всех коэффициентов линейной регрессии коэффициент детерминации не должен существенно отличаться от нуля. Его критическое значение уменьшается при росте числа наблюдений и может стать сколь угодно малым.
Для проверки этой гипотезы числитель и знаменатель формулы 1.29 поделим на общую сумму квадратов отклонений и получим:
Вернемся к результатам нашего примера 1.3. (рис. 1.14).Найдем по таблице распределения Фишера критическую точку для уровня значимости . Сравнивая критическое и наблюдаемое значения , можно сделать вывод, что коэффициент детерминации статистически значим. Это означает, что совокупное влияние переменных и на переменную существенно. Этот же вывод можно сделать по столбцу значимость , который характеризует вероятность выполнения гипотезы .
Проверка качества двух коэффициентов детерминации
Статистику можно использовать и для обоснования случая исключения или добавления в уравнение регрессии объясняющих переменных. Добавлять (исключать) переменные надо по одному.
Использовать лучше так как всегда растет при добавлении новой объясняющей переменной. Зависимая переменная должна быть представлена в том же виде, что и уже существующие в исследуемом уравнении регрессии. Число наблюдений для обеих моделей должно быть одинаковым.
Пусть первоначально построенное по п наблюдениям уравнение регрессии имело вид:
и скорректированный коэффициент детерминации равен .
Исключим из уравнения переменных, оказывающих наименьшее влияние на По наблюдениям построим новое уравнение регрессии:
скорректированный коэффициент детерминации, для которого равен .
Необходимо определить существенно ли ухудшилось качество описания зависимой переменной . Для этого выдвинем гипотезы:
— ничего не изменилось
— уравнение ухудшилось, если разность больше нуля. По выборочным данным найдите статистику:
которая имеет распределения Фишера с числом степеней свободы
где
— потеря качества уравнения в результате того, что переменных было отброшено. В результате появляется дополнительных степеней свободы; — остаточная дисперсия первоначального уравнения.
Сравним критическое значение и с наблюдаемым при уровне значимости :
■ Если , то гипотеза отклоняется в пользу , что означает, одновременное исключение объясняющих переменных существенно повлияет на качество первоначального уравнения.
■ Если , то гипотеза принимается, т.е. разность ; незначительная. Это позволяет считать, что исключение объясняющих переменных модели допустимым, так как общее качество уравнения регрессии изменится несущественно.
Аналогично проверяется гипотеза о добавлении к объясняющих переменных в уравнение регрессии. В этом случае составляется статистика:
Исключим фактор из уравнения регрессии примера 1.3. построим зависимость между и . с помощью инструмента Регрессия получим уравнение:
Коэффициенты и все остальные характеристики для этого уравнения регрессии можно посмотреть на рис 1.16. Сравним новое уравнений с уравнением полученным ранее.
В ячейке N18 находится значение -статистики вычисленное по формуле 1.31. Критическое значение (ячейка N19) находится с помощью встроенной функции Excel при уровне значимости 0,05:
Сравнивая эти два значения делаем вывод, что гипотеза отклоняется в пользу гипотезы то есть новое уравнение ухудшило качество приближения к выборочным данным.
Проверка качества двух коэффициентов детерминации
Необходимо сравнить два уравнения регрессии для отдельных групп наблюдений, т.е. будет одним и тем же уравнение регрессии для этих выборок. Для проверки этой гипотезы используется тест Чоу.
Пусть имеются две выборки объемом и . Для каждой из этих выборок получено уравнение регрессии:
Суммы квадратов отклонений от линий регрессии обозначим для первого и для второго уравнения регрессии.
Выдвинем гипотезу о равенстве соответствующих коэффициентов регрессии
Объединим обе выборки в одну. Для выборки объема найдем еще одно уравнение регрессии, сумму квадратов отклонений которой обозначим . Тогда для проверки гипотезы строится статистика:
которая имеет распределение Фишера с числом степеней свободы
Если , то значение -статистики приближается к нулю, а это значит, что уравнения регрессии обеих выборок практически одинаковые. А дальше сравним наблюдаемое и критическое значения и делаете вывод принимается или отклоняется гипотеза .
Данные исследования отвечают на вопрос, можно ли за рассматриваемый период времени построить единое уравнение регрессии или же нужно разбить его на части и для каждого временного интервала построить свое уравнение регрессии.
Проверка выполнимости мнк. Автокорреляция остатков. Статистика дарбина-уотсона
Все предыдущие рассуждения основаны на том, что выполняются предпосылки МНК: мы предполагали, что случайные отклонения являются независимыми случайными величинами со средней, равной нулю. При работе с фактическими данными, такое допущение не всегда выполняется. Например, если вид функции выбран неудачно, то отклонения от регрессии вряд ли будут независимыми. В этом случае замечается концентрация положительных или отрицательных отклонений от регрессии и можно сомневаться в их случайном характере.
Если последовательные значения коррелируют (зависят) между собой, то говорят, что имеет место автокорреляция остатков.
МНК в случае автокорреляции дает несмещенные и состоятельные оценки, однако полученные в этом случае доверительные интервалы имеют мало смысла в силу своей ненадежности. Значительная автокорреляция говорит о том, что спецификация модели неправильная. Проверка остатков на автокорреляцию должна выполняться обязательно. Наиболее простым приемом обнаружения автокорреляции является метод Дарбина-Уотсона (). Идея, которого состоит в том, что проверяются на коррелированность не любые, а только соседние величины . Соседними обычно считаются соседние по возрастанию объясняющей переменной ( в случае перекрестной выборки) или по времени (в случае временных рядов) значения .
Статистика рассчитывается по формуле:
При условии что и большое число можно предположить
тогда после преобразования получим:
Очевидно, что так как коэффициент корреляции
■ , если — автокорреляция отсутствует;
■ -полная положительная автокорреляция;
■ -полная отрицательная автокорреляция.
Возникает вопрос, какие значения можно считать близкими к 2? Для обнаружения границ наблюдений статистики существуют специальные таблицы. Для заданных — уровня значимости; — числа наблюдений и -числа объясняющих переменных указывается два числа: — нижняя граница и — верхняя граница. Не обращаясь к таблице критических точек DW можно воспользоваться правилом, если l,5<<2,5, автокорреляция отсутствует. Изобразим на рисунке числовой отрезок , используемый для проверки гипотезы об отсутствии автокорреляции.
Статистику для примера 1.3 находим по формуле (1.35):
Для вычисления этой статистики запустите инструмент Регрессия, включив опции Остатки и График остатков, как показано на рис. 1.18. В результате получите значение случайных отклонений е, и их графики, которые Excel строит для каждой независимой переменной, как показано на рис. 1.20 и 1.21. Чтобы найти , можно использовать функции СУММКВРАЗН и СУММКВ.
Если зависимость между и линейная, то график остатков должен иметь случайный вид. На рис. 1.21 видим систематический рисунок, поэтому скорее всего между и существует нелинейная зависимость, а значит надо изменить модель, включая в нее нелинейную зависимость.
Для проверки статистической значимости надо воспользоваться таблицей критических точек Дарбина-Уотсона, например, при уровне значимости и числе наблюдений
Можно считать, что автокорреляция отсутствует, так как найденная статистика попадает в критический интервал: 1,604<<2,396, что является подтверждением высокого качества модели.
Мультиколлинеарность
Увеличение числа переменных в уравнении множественной регрессии повышает точность описания взаимосвязи, однако при этом должно выполняться условие, что — объясняющие переменные, линейно независимые величины.
Под мулыиколлинеарностью понимают взаимосвязь объясняющих переменных регрессии. Если между переменными и существует функциональная зависимость , то говорят о строгой мультиколлинеарности. Чаще всего между переменными существует довольно сильная корреляционная зависимость — в этом случае мультиколлинеарность называют нестрогой.
При строгой мультиколлинеарности решение матричного уравнения 1.22 становится невозможным, так как матрица вырожденная — её определитель равен нулю.
Если же мультиколлинеарность нестрогая, то решение матричного уравнения формально можно найти, однако все оценки мало надежны.
Чтобы обнаружить мультиколлинеарность надо найти определитель матрицы . Вместо этого проверяется определитель матрицы межфакторной корреляции, которую получают с помощью инструмента КОРРЕЛ.
Устранение мультиколлинеарности заключается в исключении одной из двух, находящихся во взаимосвязи переменных, либо путем пересмотра структуры уравнения регрессии. Для оценки влияния факторов на результирующий фактор в случае используются показатели частной корреляции (1.26). Если число переменных больше трех, то для их определения удобно пользоваться формулой:
где коэффициенты матрицы обратной к матрице парных коэффициентов корреляции.
Гомоскедастичность (постоянство дисперсии случайных отклонений)
Для применения МНК требуется, чтобы дисперсия остатков была величиной постоянной. Невыполнимость этого условия называется гетероскедастичностью и влечёт смещенность дисперсий оценок, так как стандартная ошибка регрессии (1.4) становится смещенной.
Обнаружение гетероскедастичности является сложной задачей потому что необходимо знать распределение , соответствующее выбранному значению переменной . В тесте Голфелда-Квандта предполагается, что стандартное отклонение пропорционально значению переменной и нормально распределены, автокорреляция остатков отсутствует. Проверка на гомоскедастичность по этому тесту содержит следующие шаги:
- Все наблюдений упорядочивают по величине.
- Упорядоченная выборка разбивается на три подвыборки размерностью , и соответственно.
- Центральные наблюдения исключаются из дальнейшего рассмотрения.
- Строят регрессии для первой и последней групп и находят остаточные суммы квадратов и соответственно. Если условие гомоскедастичности выполняется, то , в противном случае .
- Построенная -статистика, имеет распределение Фишера с степенями свободы, где число объясняющих переменных в уравнении регрессии.
- Чем больше превышает значение , тем более нарушена предпосылка о равенстве остаточных дисперсий.
- НЕЛИНЕЙНАЯ РЕГРЕССИЯ
Если между экономическими явлениями существуют нелинейные соотношения, то они выражаются с помощью соответствующих функций:
a) квадратичная функция (полином любой степени);
b) равносторонняя гипербола;
c) степенная;
d) показательная и др.
Кроме указанных функций для описания связи двух переменных можно использовать и другие типы кривых:
Различают два класса нелинейных уравнений:
1) регрессии, нелинейные относительно включенных объясняющих переменных,
но линейные по оцениваемым параметрам;
2) регрессии, нелинейные по оцениваемым параметрам.
К первому классу — нелинейные по переменным — относятся кривые а и b (рис 2.1). Нелинейными по параметрам (второй класс) являются зависимости c и d на рис. 2.1.
Линейные по параметру
Такие модели легко приводятся к линейному виду — линеаризуются. Для линейных но параметру моделей вводят новую переменную (таблица 2.1) и переходят к построению линейной регрессии по преобразованным данным. Применяя инструмент Регрессия, к преобразованным данным можно найти все оценки параметров преобразованных моделей и оценить их качество.
Качество исходной модели можно оценить, используя индекс корреляции (1.26). Оценка статистической значимости индекса корреляции проводится с помощью — статистики, так же как и коэффициента детерминации (1.29). Довольно часто в экономических исследованиях для оценки качества построенного уравнения используют среднюю ошибку аппроксимации, которая вычисляется по формуле:
и оценивает по модулю величину отклонений расчетных значений от фактических. Допустимый предел значений средней ошибки аппроксимации не более 8-10%.
Приведем примеры использования нелинейных моделей, перечисленных в таблице 2.1.
Полиномиальная модель (1) может отражать зависимость между объемом выпуска и издержками производства ; или расходами на рекламу и прибылью и т.д. В экономике наиболее часто используют многочлен второй степени реже третьей степени. Ограничения в применении многочленов более высоких степеней связано с требованием однородности исследуемой совокупности: чем выше степень многочлена, тем больше изгибов имеет кривая и соответственно меньше однородность по результативному признаку. Надо помнить, что графики многочленов имеют промежутки монотонности и точки экстремумов, поэтому параметры применения этих моделей не всегда могут быть логически истолкованы. Поэтому, если такая зависимость четко не определена графически (параболическая), то её лучше заменить другой нелинейной функцией.
Гиперболическая модель (2) — классическим примером этой модели является кривая Филлипса , характеризующая соотношение между уровнем безработицы и процентом прироста заработной платы . При кривая характеризуется нижней асимптотой . Соответственно можно определить уровень безработицы, при котором заработная плата стабильна и темп её прироста равен нулю. При гиперболическая функция будет медленно расти для и имеет горизонтальную асимптоту . Такие кривые называют кривыми Энгеля, который сформулировал закономерность: с ростом доходов доля доходов, расходуемых на продовольствие уменьшается.
Полулогарифмические модели (3) используются, когда необходимо определить темп роста или прироста экономических показателей. Например, при анализе банковского вклада по процентной ставке, при исследовании зависимости прироста объема выпуска продукции от процентного увеличения затрат на расходы, бюджетного дефицита от темпа роста ВВП, темп роста инфляции от объема денежной массы и т.д.
Нелинейные по параметру
Уравнения нелинейные по параметру можно разделить на:
- внутренне линейные — можно привести к линейному виду путем преобразований;
- внутренне нелинейные, которые не могут быть сведены к линейной модели.
Степенная модель:
Если прологарифмировать обе части уравнения 2.2, получится модель, легко приводящаяся к линейному виду:
Надо сделать замену:
получим линейную модель (1.1).
Коэффициент модели определяет эластичность переменной по переменной , то есть процентное изменение при изменении на 1%. Степенная модель имеет постоянную эластичность, это легко увидеть, если продифференцировать обе части уравнения (2.3):
Так как константа, то модель 2.3 называют моделью постоянной эластичности.
В случае парной регрессии использование обоснование использования степенной модели достаточно просто. Надо построить корреляционное поле для точек , если их расположение соответствует прямой линии, то произведенная замена хорошая и можно использовать степенную модель.
Данная модель легко обобщается на большее число переменных. Наиболее известная — производственная функция Кобба-Дугласа: , где — объем выпуска; — затраты капитала; — затраты труда.
Лог-линейные модели широко используются в банковском и финансовом анализе:
где — первоначальный банковский вклад, — процентная ставка, — размер вклада на момент .
Прологарифмируем обе части этой модели
Введя замену
получим полулогарифмическую модель:
Коэффициент в уравнении 2.6 имеет смысл темпа прироста переменной по переменной , то есть характеризует относительное изменение к абсолютному изменению . Продифференцируем 2.6 по , получим:
Умножив на 100%, получим темп прироста . Надо сказать, что коэффициент
определяет мгновенный темп прироста, а
характеризует темп прироста сложного процента.
Показательные модели используются, когда анализируется изменение переменной с постоянным темпом прироста во времени :
Если провести логарифмирование, то получится уравнение аналогичное 2.5 В общем виде показательная модель имеет вид:
но в силу равенства
сводится к уравнению 2.8.
Коэффициент эластичности
Рассматривая степенную модель, мы ввели понятие эластичности функции: предел отношения относительных приращений независимой переменной и зависимой называется эластичностью функции
показывает на сколько процентов изменится в среднем результат, если фактор х изменится на 1%.
Для других форм связи Э зависит от значения фактора и не является величиной постоянной, поэтому рассчитывается средний коэффициент эластичности, который показывает, на сколько процентов в среднем по совокупности изменится результат от своей средней величины, если фактор изменится на 1% от своего среднего значения. Формула для расчета:
Несмотря на широкое использование в экономике коэффициентов эластичности, возможны случаи, когда они не имеют экономического смысла. Составьте таблицу коэффициентов эластичности для всех рассмотренных нелинейных моделей самостоятельно.
2.4. ПОСТРОЕНИЕ НЕЛИНЕЙНЫХ РЕГРЕССИЙ
Можно воспользоваться командой Добавить линию тренда, так же как в случае линейного тренда (раздел 1.3): необходимо построить корреляционное поле и выбрать одну из зависимостей на вкладке параметры: полиномиальный, логарифмический, показательный и экспоненциальный. Такой способ удобен для случая двух переменных.
Использовать инструмент Регрессия можно только для преобразованных данных. Этот способ дает много не нужной информации.
Пример 3.1. По семи территориям Южного федерального округа за 2001 год известны значения двух признаков:
Задание
- Постройте уравнения регрессии для модели:
a) линейной;
b) степенной;
c) экспоненциальной;
d) логарифмической; гиперболы.
- Оцените каждую модель через среднюю ошибку аппроксимации и -критерий Фишера.
Проще всего построить поле корреляции, а затем добавить линии тренда (см. параграф 1.З.). Для полученных уравнений надо найти коэффициент аппроксимации и проверить -критерий.
1а. Уравнение линейной регрессии:
Вариация результата на 12% объясняется вариацией фактора — статистику найдем по формуле 1.13
Так как
то параметры линейного уравнения и показатель тесноты связи между и статистически незначимы и гипотеза о линейности уравнения регрессии отклоняется. Самостоятельно вычислите величину средней ошибки аппроксимации:
l.b. Степенная модель
Подставляя в уравнение регрессии фактические значения , получим . По этим значениям, используя формулу для индекса корреляции (1.26), получим
и среднюю ошибку аппроксимации:
Характеристики степенной модели указывают, что она не намного лучше линейной функции описывает связь между и .
1с. Аналогично l.b. для показательной модели
сначала нужно выполнить линеаризацию
и после замены переменных
рассмотрим линейное уравнение:
Используя столбцы для и из предыдущей таблицы, получим коэффициенты:
и уравнение
После потенциирования запишем уравнение в обычной форме:
Все эти расчеты можно не делать, если воспользоваться для вычисления параметров и модели встроенной статистической функцией ЛГРФПРИБЛ. Выполните самостоятельно и сравните результаты. Убедитесь, что значения вычисленные по формулам и полученные с помощью функции ЛГРФПРИБЛ() совпадают (рис.2.4)
Тесноту связи оценим с помощью индекса корреляции
который вычисляется по формуле (1.26). Связь между и небольшая. Коэффициент аппроксимации, вычисленный по формуле (3.3) =8% говорит о повышенной ошибке приближения, но в допустимых пределах. Сравнивая, показатели степенной и показательной функций можно сделать вывод, что степенная функция чуть лучше описывает связь между и чем показательная.
l.d. Аналогичные расчеты надо провести и для равносторонней гиперболы , которая линеаризуется заменой .
Для этого уравнения в таблицу исходных значений надо добавить столбец , а все остальные вычисления проведите, используя один из описанных выше способов:
Получена наибольшая оценка тесноты связи по сравнению с линейной, степенной и показательной регрессиями, а остается в пределах допустимого значения, это означает, что для описания зависимости расходов на покупку продовольственных товаров в общих расходах ( в %) от среднедневной заработной платы одного работающего ( в руб.) необходимо из предложенных моделей выбрать гиперболическую.
- Введем гипотезу : уравнение регрессии статистически незначимо и рассмотрим статистику (1.30):
при уровне значимости смотри в пункте l.a.
Гипотеза о статистической незначимости параметров уравнения принимается. Результат можно объяснить небольшим числом наблюдений и сравнительно невысокой теснотой гиперболической зависимости между и .
Возможно эти страницы вам будут полезны:
- Курсовая работа по эконометрике
- Заказать работу по эконометрике
- Лабораторная работа по эконометрике
- Помощь по эконометрике
- Системы эконометрических уравнений
2. Построим по МНК «короткую» регрессию по первым (k – q) факторам
Х1, …, Хk–q и найдем для нее сумму квадратов остатков ESSкор. 3. Вычислим F-статистику:
F |
= |
(ESSкор − ESSдлин )/ q |
набл |
ESSдлин /(n − k −1) |
|
4. Если Fнабл > Fтабл (α, ν1 = q, ν2 = n – k – 1), то гипотеза отвергается (выбираем «длинную» регрессию), в противном случае – «короткую» регрессию.
На основании данных примера сравним две модели – «длинную» (с фак-
торами X2, X4, X5) и «короткую» (с факторами X2, X5).
1. Построим «длинную» регрессию по всем факторам X2, X4, X5 и найдем для нее сумму квадратов остатков ESSдлин.
Дисперсионный анализ |
||||||||
df |
SS |
MS |
F |
Значимость |
||||
F |
||||||||
Регрессия |
3 |
138 429,778 |
46 143,259 |
27,292 |
1,20724E-05 |
|||
Остаток |
12 |
20 288,659 |
1 690,722 |
|||||
Итого |
15 |
158 718,438 |
||||||
Коэффи- |
Стандарт- |
t- |
P- |
Нижние |
Верхние |
|||
значе- |
||||||||
циенты |
ная ошибка |
статистика |
95% |
95% |
||||
ние |
||||||||
Y – пересечение |
–1654,763 |
306,264 |
–5,403 |
0,000 |
–2322,054 |
–987,472 |
||
X2 |
9,052 |
2,295 |
3,945 |
0,002 |
4,052 |
14,051 |
||
X5 |
15,825 |
2,447 |
6,468 |
0,000 |
10,494 |
21,156 |
||
X4 |
10,539 |
9,521 |
1,107 |
0,290 |
–10,206 |
31,284 |
2. Построим «короткую» регрессию по первым факторам X2, X5 и найдем для нее сумму квадратов остатков ESSкор.
Дисперсионный анализ |
||||||||
df |
SS |
MS |
F |
Значимость |
||||
F |
||||||||
Регрессия |
2 |
136 358,334 |
68 179,167 |
39,639 |
2,93428E-06 |
|||
Остаток |
13 |
22 360,104 |
1 720,008 |
|||||
Итого |
15 |
158 718,438 |
||||||
Коэффи- |
Стандарт- |
t- |
P- |
Верхние |
||||
значе- |
Нижние 95% |
|||||||
циенты |
ная ошибка |
статистика |
95% |
|||||
ние |
||||||||
Y – пересечение |
–1471,314 |
259,766 |
–5,664 |
0,000 |
–2032,505 |
–910,124 |
||
X2 |
9,568 |
2,266 |
4,223 |
0,001 |
4,673 |
14,464 |
||
X5 |
15,753 |
2,467 |
6,386 |
0,000 |
10,424 |
21,082 |
||
23 |
3. Вычислим F-статистику:
F = |
(ESSкор |
− ESSдлин )/ q |
= |
(22460,104 − 20288, 659) /1 |
= 1, 225 |
набл |
ESSдлин /(n − k −1) |
20288, 659 /(16 − 3 −1) |
|||
Fтабл = 4,747.
4.Так как Fнабл < Fтабл (1,125 < 4,747), выбираем «короткую» регрессию
ẏ= –1471,31 + 9,57х2 + 15,75х5.
Выбор факторных признаков для построения регрессионной модели методом исключения
Для проведения регрессионного анализа используем инструмент Регрес-
сия (надстройка Анализ данных в Excel).
На первом шаге строится модель регрессии по всем факторам:
12,24 |
30,48 . |
|||
(10,38) |
(3,01) |
(15,78) |
(14,41) |
(11,52) |
В скобках указаны значения стандартных ошибок коэффициентов регрес-
сии.
Фрагмент протокола регрессионного анализа приведен в табл. 4.
Таблица 4. Модель регрессии по пяти факторам
Коэффи- |
Стандарт- |
t- |
P- |
Нижние |
Верх- |
|
стати- |
значе- |
ние |
||||
циенты |
ная ошибка |
95% |
||||
стика |
ние |
95% |
||||
Y – пересечение |
–3017,40 |
1094,49 |
–2,76 |
0,02 |
–5456,06 |
–578,73 |
Время – Х1 |
–13,42 |
10,38 |
–1,29 |
0,23 |
–36,54 |
9,71 |
Затраты на рекламу |
||||||
– Х2 |
6,67 |
3,01 |
2,22 |
0,05 |
–0,03 |
13,38 |
Цена товара – Х3 |
–6,48 |
15,78 |
–0,41 |
0,69 |
–41,63 |
28,68 |
Средняя цена това- |
||||||
ра у конкурентов – |
||||||
Х4 |
12,24 |
14,41 |
0,85 |
0,42 |
–19,87 |
44,34 |
Индекс потреби- |
||||||
тельских расходов – |
||||||
Х5 |
30,48 |
11,52 |
2,64 |
0,02 |
4,80 |
56,15 |
24 |
В данном случае коэффициенты уравнения регрессии при Х1, Х3, Х4 незначимы при 5%-ном уровне значимости. После построения уравнения регрессии и оценки значимости всех коэффициентов регрессии из модели исключают тот фактор, коэффициент при котором незначим и имеет наименьший по абсолютной величине коэффициент t, а именно Х3.
После этого получают новое уравнение множественной регрессии yˆi = −2914.33−12.57х1 +7.13x2 +7.93x4 + 29.15x5
(9.78) (2.69) (9.49) (10.64)
и снова производят оценку значимости всех оставшихся коэффициентов регрессии (табл. 5).
Таблица 5. Модель регрессии по четырем факторам
Коэффи- |
Стандарт- |
t— |
P— |
Нижние |
Верхние |
|||
ная ошиб- |
стати- |
|||||||
циенты |
значение |
95% |
95% |
|||||
ка |
стика |
|||||||
Y – пересечение |
–2914,33 |
1024,23 |
–2,85 |
0,02 |
–5168,65 |
–66,00 |
||
Время – Х1 |
–12,57 |
9,78 |
–1,29 |
0,23 |
–34,09 |
8,95 |
||
Затраты на рекла- |
||||||||
му – Х2 |
7,13 |
2,69 |
2,65 |
0,02 |
1,20 |
13,05 |
||
Средняя цена то- |
||||||||
вара у конкурентов |
||||||||
– Х4 |
7,93 |
9,49 |
0,84 |
0,42 |
–12,96 |
28,82 |
||
Индекс потреби- |
||||||||
тельских расходов |
||||||||
– Х5 |
29,15 |
10,64 |
2,74 |
0,02 |
5,74 |
52,56 |
Так как среди них есть незначимые (Х1 и Х4), то исключают фактор с наименьшим значением t-критерия – Х4. В табл. 6 представлены результаты, полученные после исключения фактора Х4. На следующем шаге исключаем незначимый фактор Х1.
Таблица 6. Модель регрессии по трем факторам
Коэффи- |
Стан- |
t- |
P- |
Нижние |
Верхние |
|||
дартная |
стати- |
значе- |
||||||
циенты |
95% |
95% |
||||||
ошибка |
стика |
ние |
||||||
Y – пересечение |
–2957,61 |
1009,97 |
–2,93 |
0,01 |
–5158,15 |
–2957,61 |
||
Время – Х1 |
–14,32 |
9,43 |
–1,52 |
0,15 |
–34,86 |
–14,32 |
||
Затраты на рекламу |
||||||||
– Х2 |
7,23 |
2,65 |
2,72 |
0,02 |
1,45 |
7,23 |
||
Индекс потребитель- |
||||||||
ских расходов – Х5 |
30,95 |
10,28 |
3,01 |
0,01 |
8,54 |
30,95 |
||
25 |
Процесс исключения факторов останавливается на том шаге, при котором все регрессионные коэффициенты значимы (табл. 7).
Таблица 7. Модель регрессии со значимыми факторами
Коэффи- |
Стандартная |
t- |
P- |
Нижние |
Верхние |
|
стати- |
значе- |
|||||
циенты |
ошибка |
95% |
95% |
|||
стика |
ние |
|||||
Y – пересечение |
–1471,31 |
259,77 |
–5,66 |
0,00 |
–2032,50 |
–910,12 |
Затраты на |
||||||
рекламу – Х2 |
9,57 |
2,27 |
4,22 |
0,00 |
4,67 |
14,46 |
Индекс потре- |
||||||
бительских рас- |
||||||
ходов – Х5 |
15,75 |
2,47 |
6,39 |
0,00 |
10,42 |
21,08 |
Получено уравнение регрессии, все коэффициенты которого значимы не только при 5%-ном уровне значимости, но и при 1%-ном уровне значимости:
yˆi = −1471.31+9.57x2 +15.75x5 (2.27) (2.47) .
2. Оценка параметров модели. Экономическая интерпретация коэффициентов регрессии
В результате применения различных подходов к выбору факторов пришли к выводу о необходимости включения в модель двух факторов – Затраты на рекламу и Индекс потребительских расходов.
Выполняя матричные вычисления по формуле A = ( X ′X )−1 X ′Y , естественно, получим такое же уравнение регрессии, как и при использовании инструмента Регрессия в Анализе данных (рис. 2). Уравнение зависимости объема реализации от затрат на рекламу и индекса потребительских расходов можно записать в следующем виде:
yˆi = −1471.31+ 9.57x2 +15.75x5
26
Рис. 2. Результаты работы с инструментом Регрессия
Коэффициент регрессии αj показывает, на какую величину в среднем изменится результативный признак Y, если переменную xj увеличить на единицу измерения, то есть αj является нормативным коэффициентом.
В нашей задаче величина, равная 9,57 (коэффициент при х2), показывает, что при увеличении затрат на рекламу на 1000 руб. объем реализации увеличится на 9,57 тыс. руб., а если на 1% увеличится индекс потребительских расходов, то объем реализации увеличится на 15,75 тыс. руб.
Расчетные значения Y определяются путем последовательной подстановки в эту модель значений факторов, взятых для каждого наблюдения, или из последней таблицы регрессионного анализа Вывод остатка (столбец Предска-
занное Y).
3. Оценка качества модели регрессии
Для оценки качества модели множественной регрессии вычисляют коэффициент детерминации R2 и коэффициент множественной корреляции (индекс корреляции) R. Чем ближе к 1 значение этих характеристик, тем выше качество модели.
27
Значение коэффициентов детерминации и множественной корреляции можно найти в таблице Регрессионная статистика (см. рис. 2) или вычислить по формулам:
а) коэффициент детерминации:
R2 =1− |
∑ei2 |
=1− |
22360,104 |
= 0,859 |
||
∑(yi − y )2 |
158718, 438 |
|||||
Коэффициент детерминации показывает долю вариации результативного признака под воздействием изучаемых факторов. Следовательно, около 86% вариации зависимой переменной учтено в модели и обусловлено влиянием факторов, включенных в модель;
б) коэффициент множественной корреляции:
R = R2 = 0,927.
Коэффициент множественной корреляции показывает высокую тесноту связи зависимой переменной Y с двумя включенными в модель объясняющими факторами.
Точность модели оценим с помощью средней ошибки аппроксимации:
Eотн = 1 ∑n ei ×100% =10,65%. n i=1 y i
Модель неточная. Фактические значения объема реализации отличаются от расчетных в среднем на 10,65%.
4. Оценка значимости уравнения регрессии и его коэффициентов
Проверку значимости уравнения регрессии произведем на основе F—
критерия Фишера:
F = |
R2 k |
= |
0,859 / 2 |
= 39, 6 |
||||||
( |
− |
2 |
) |
/ (n |
− − |
1) |
(1− 0,859) /(16 − 2 −1) |
|||
R |
k |
|||||||||
1 |
Значение F-критерия Фишера можно найти в таблице Дисперсионный анализ протокола Еxcel (см. рис. 2).
Табличное значение F-критерия при доверительной вероятности α = 0,95 и числе степеней свободы, равном ν1 = k = 2 и ν2 = n – k – 1= 16 – 2 – 1 = 13 составляет 3,81.
Поскольку Fрасч > Fтабл, уравнение регрессии следует признать значимым, то есть его можно использовать для анализа и прогнозирования.
Оценку значимости коэффициентов полученной модели, используя ре-
зультаты отчета Excel, можно осуществить тремя способами.
Коэффициент уравнения регрессии признается значимым в том случае, ес-
ли:
28
1)наблюдаемое значение t-статистики Стьюдента для этого коэффициента больше, чем критическое (табличное) значение статистики Стьюдента (для заданного уровня значимости, например, α = 0,05 и числа степеней свободы df
=n – k – 1, где n – число наблюдений, а k – число факторов в модели);
2)Р-значение t-статистики Стьюдента для этого коэффициента меньше, чем уровень значимости, например, α = 0,05;
3)доверительный интервал для этого коэффициента, вычисленный с некоторой доверительной вероятностью (например, 95%), не содержит ноль внутри себя, то есть если нижняя 95% и верхняя 95% границы доверительного интервала имеют одинаковые знаки.
Значимость коэффициентов aˆ1 и aˆ2 проверим по второму и третьему спо-
собам, используя данные рис. 2:
Р-значение ( aˆ1 ) = 0,00 < 0,01 < 0,05.
Р-значение ( aˆ2 ) = 0,00 < 0,01 < 0,05.
Следовательно, коэффициенты aˆ1 и aˆ2 значимы при 1%-ном уровне, а тем более при 5%-ном уровне значимости.
Нижние и верхние 95% границы доверительного интервала имеют одинаковые знаки (см. рис. 2), следовательно, коэффициенты aˆ1 и aˆ2 значимы.
5. Определение объясняющей переменной, от которой может зависеть дисперсия случайных возмущений. Проверка выполнения условия гомоскедастичности остатков по тесту Голдфельда–Квандта
При проверке предпосылки МНК о гомоскедастичности остатков в модели множественной регрессии следует вначале определить, по отношению к какому из факторов дисперсия остатков более всего нарушена. Это можно сделать в результате визуального исследования графиков остатков, построенных по каждому из факторов, включенных в модель. Та из объясняющих переменных, от которой больше зависит дисперсия случайных возмущений, и будет упорядочена по возрастанию фактических значений при проверке теста Гольд- фельда–Квандта.
Для двухфакторной модели нашего примера графики остатков относительно каждого из двух факторов имеют вид, представленный на рис. 3 (эти графики легко получить в отчете, который формируется в результате использования инструмента Регрессия в пакете Анализ данных).
29
Рис. 3. Графики остатков по каждому из факторов двухфакторной модели
Из графиков на рис. 3 видно, что дисперсия остатков более всего нарушена по отношению к фактору Затраты на рекламу.
Проверим наличие гомоскедастичности в остатках двухфакторной моде-
ли на основе теста Гольдфельда–Квандта.
1. Упорядочим переменные Y и Х 5 по возрастанию фактора Х 2 (в Excel
для этого можно использовать команду Данные – Сортировка – по возраста-
нию Х2):
Исходные данные
Y |
X2 |
X5 |
Объем реализации |
Затраты на рекламу |
Индекс потребительских расходов |
126 |
4,0 |
100,0 |
137 |
4,8 |
98,4 |
148 |
3,8 |
101,2 |
191 |
8,7 |
103,5 |
274 |
8,2 |
104,1 |
370 |
9,7 |
107,0 |
432 |
14,7 |
107,4 |
445 |
18,7 |
108,5 |
367 |
19,8 |
108,3 |
367 |
10,6 |
109,2 |
321 |
8,6 |
110,1 |
307 |
6,5 |
110,7 |
331 |
12,6 |
110,3 |
345 |
6,5 |
111,8 |
364 |
5,8 |
112,3 |
384 |
5,7 |
112,9 |
30 |
Данные, отсортированные по возрастанию Х2
Y |
X2 |
X5 |
148 |
3,8 |
101,2 |
126 |
4,0 |
100,0 |
137 |
4,8 |
98,4 |
384 |
5,7 |
112,9 |
364 |
5,8 |
112,3 |
307 |
6,5 |
110,7 |
345 |
6,5 |
111,8 |
274 |
8,2 |
104,1 |
321 |
8,6 |
110,1 |
191 |
8,7 |
103,5 |
370 |
9,7 |
107,0 |
367 |
10,6 |
109,2 |
331 |
12,6 |
110,3 |
432 |
14,7 |
107,4 |
445 |
18,7 |
108,5 |
367 |
19,8 |
108,3 |
2.Уберем из середины упорядоченной совокупности С = 1/4 · n = 1/4 · 16
=4 значения. В результате получим две совокупности соответственно с малыми
ибольшими значениями Х2.
3.Для каждой совокупности выполним расчеты:
Уравнения |
Y |
X2 |
X5 |
Yp |
e |
ê2 |
148 |
3,8 |
101,2 |
157,9192 |
–9,91918 |
98,39019 |
|
Y = –1588,77 + |
126 |
4,0 |
100,0 |
138,2998 |
–12,29980 |
151,28460 |
+ 4,458X1 + |
137 |
4,8 |
98,4 |
114,5179 |
22,48206 |
505,44280 |
+ 17,09X2 |
384 |
5,7 |
112,9 |
366,3700 |
17,62997 |
310,81580 |
364 |
5,8 |
112,3 |
356,5603 |
7,439672 |
55,34873 |
|
307 |
6,5 |
110,7 |
332,3327 |
–25,33270 |
641,74750 |
|
Сумма |
1 763,03000 |
|||||
370 |
9,7 |
107,0 |
390,6914 |
–20,69140 |
428,13250 |
|
Y = 2333,286 + |
367 |
10,6 |
109,2 |
354,0009 |
12,99911 |
168,97680 |
+ 4,64X1 – |
331 |
12,6 |
110,3 |
342,8479 |
–11,84790 |
140,37320 |
– 18,576X2 |
432 |
14,7 |
107,4 |
406,4619 |
25,53808 |
652,19360 |
445 |
18,7 |
108,5 |
404,5893 |
40,41071 |
1 633,02600 |
|
367 |
19,8 |
108,3 |
413,4086 |
–46,40860 |
2 153,76000 |
|
Сумма |
5 176,46200 |
Результаты данной таблицы получены с помощью инструмента Регрессия поочередно к каждой из полученных совокупностей.
4. Найдем отношение полученных остаточных сумм квадратов (в числителе должна быть большая сумма):
31
F = 5176,462/1763,03 = 2,936117.
5. Вывод о наличии гомоскедастичности остатков делаем с помощью F— критерия Фишера с уровнем значимости α = 0,05 и двумя одинаковыми степе-
нями свободы k1 = k2 |
= |
n − C − 2 p |
= |
16 − 4 − 2 3 |
= 3 , где р – число параметров |
2 |
|||||
2 |
уравнении регрессии:
Fтабл (0,05; 3; 3) = 9,28.
Так как Fтабл > R , то подтверждается гомоскедастичность в остатках двухфакторной регрессии.
6. Оценка влияния факторов, включенных в модель, на объем реализации
Учитывая, что коэффициент регрессии невозможно использовать для непосредственной оценки влияния факторов на зависимую переменную из-за различия единиц измерения и разной колеблемости факторов, используем коэффициенты эластичности и бета-коэффициенты:
Эj = a j × xj / y
Э2 = 9,568 × 9,294/306,813 = 0,2898; Э5 = 15,7529 × 107,231/306,813 = 5,506.
Коэффициент эластичности показывает, на сколько процентов изменяется зависимая переменная при изменении фактора на один процент:
β j = a j × Sxj / Sy
β2 = 9,568 × 4,913/102,865 = 0,457; β5 = 15,7529 × 4,5128/102,865 = 0,691.
Бета-коэффициент с математической точки зрения показывает, на какую часть величины среднеквадратического отклонения меняется среднее значение зависимой переменной с изменением независимой переменной на одно среднеквадратическое отклонение при фиксированных на постоянном уровне значениях остальных независимых переменных. Это означает, что при увеличении затрат на рекламу на 4,91 тыс. руб. объем реализации увеличится на 47 тыс.
руб. (0,457 × 102,865).
Среднеквадратическое отклонение затрат на рекламу, равное 4,91, можно вычислить с помощью функции СТАНДОТКЛОН.
Долю влияния фактора в суммарном влиянии всех факторов можно оце-
нить по величине дельта-коэффициентов |
j: |
||
j |
= r β |
j |
/ R2 |
y , x j |
2 = 0,646 · 0,457/0,859 = 0,344;
32
Соседние файлы в предмете Эконометрика
- #
20.12.201558.37 Кб22dannye_dlya_kr.xls
- #
- #
- #
Простая линейная регрессия в EXCEL
history 26 января 2019 г.
-
Группы статей
- Статистический анализ
Регрессия позволяет прогнозировать зависимую переменную на основании значений фактора. В MS EXCEL имеется множество функций, которые возвращают не только наклон и сдвиг линии регрессии, характеризующей линейную взаимосвязь между факторами, но и регрессионную статистику. Здесь рассмотрим простую линейную регрессию, т.е. прогнозирование на основе одного фактора.
Disclaimer : Данную статью не стоит рассматривать, как пересказ главы из учебника по статистике. Статья не обладает ни полнотой, ни строгостью изложения положений статистической науки. Эта статья – о применении MS EXCEL для целей Регрессионного анализа. Теоретические отступления приведены лишь из соображения логики изложения. Использование данной статьи для изучения Регрессии – плохая идея.
Статья про Регрессионный анализ получилась большая, поэтому ниже для удобства приведены ее разделы:
Примечание : Если прогнозирование переменной осуществляется на основе нескольких факторов, то имеет место множественная регрессия .
Чтобы разобраться, чем может помочь MS EXCEL при проведении регрессионного анализа, напомним вкратце теорию, введем термины и обозначения, которые могут отличаться в зависимости от различных источников.
Примечание : Для тех, кому некогда, незачем или просто не хочется разбираться в теоретических выкладках предлагается сразу перейти к вычислительной части — оценке неизвестных параметров линейной модели .
Немного теории и основные понятия
Пусть у нас есть массив данных, представляющий собой значения двух переменных Х и Y. Причем значения переменной Х мы можем произвольно задавать (контролировать) и использовать эту переменную для предсказания значений зависимой переменной Y. Таким образом, случайной величиной является только переменная Y.
Примером такой задачи может быть производственный процесс изготовления некого волокна, причем прочность этого волокна (Y) зависит только от рабочей температуры процесса в реакторе (Х), которая задается оператором.
Построим диаграмму рассеяния (см. файл примера лист Линейный ), созданию которой посвящена отдельная статья . Вообще, построение диаграммы рассеяния для целей регрессионного анализа де-факто является стандартом.
СОВЕТ : Подробнее о построении различных типов диаграмм см. статьи Основы построения диаграмм и Основные типы диаграмм .
Приведенная выше диаграмма рассеяния свидетельствует о возможной линейной взаимосвязи между Y от Х: очевидно, что точки данных в основном располагаются вдоль прямой линии.
Примечание : Наличие даже такой очевидной линейной взаимосвязи не может являться доказательством о наличии причинной взаимосвязи переменных. Наличие причинной взаимосвязи не может быть доказано на основании только анализа имеющихся измерений, а должно быть обосновано с помощью других исследований, например теоретических выкладок.
Примечание : Как известно, уравнение прямой линии имеет вид Y = m * X + k , где коэффициент m отвечает за наклон линии ( slope ), k – за сдвиг линии по вертикали ( intercept ), k равно значению Y при Х=0.
Предположим, что мы можем зафиксировать переменную Х ( рабочую температуру процесса ) при некотором значении Х i и произвести несколько наблюдений переменной Y ( прочность нити ). Очевидно, что при одном и том же значении Хi мы получим различные значения Y. Это обусловлено влиянием других факторов на Y. Например, локальные колебания давления в реакторе, концентрации раствора, наличие ошибок измерения и др. Предполагается, что воздействие этих факторов имеет случайную природу и для каждого измерения имеются одинаковые условия проведения эксперимента (т.е. другие факторы не изменяются).
Полученные значения Y, при заданном Хi, будут колебаться вокруг некого значения . При увеличении количества измерений, среднее этих измерений, будет стремиться к математическому ожиданию случайной величины Y (при Х i ) равному μy(i)=Е(Y i ).
Подобные рассуждения можно привести для любого значения Хi.
Чтобы двинуться дальше, воспользуемся материалом из раздела Проверка статистических гипотез . В статье о проверке гипотезы о среднем значении генеральной совокупности в качестве нулевой гипотезы предполагалось равенство неизвестного значения μ заданному μ0.
В нашем случае простой линейной регрессии в качестве нулевой гипотезы предположим, что между переменными μy(i) и Хi существует линейная взаимосвязь μ y(i) =α* Х i +β. Уравнение μ y(i) =α* Х i +β можно переписать в обобщенном виде (для всех Х и μ y ) как μ y =α* Х +β.
Для наглядности проведем прямую линию соединяющую все μy(i).
Данная линия называется регрессионной линией генеральной совокупности (population regression line), параметры которой ( наклон a и сдвиг β ) нам не известны (по аналогии с гипотезой о среднем значении генеральной совокупности , где нам было неизвестно истинное значение μ).
Теперь сделаем переход от нашего предположения, что μy=a* Х + β , к предсказанию значения случайной переменной Y в зависимости от значения контролируемой переменной Х. Для этого уравнение связи двух переменных запишем в виде Y=a*X+β+ε, где ε — случайная ошибка, которая отражает суммарный эффект влияния других факторов на Y (эти «другие» факторы не участвуют в нашей модели). Напомним, что т.к. переменная Х фиксирована, то ошибка ε определяется только свойствами переменной Y.
Уравнение Y=a*X+b+ε называют линейной регрессионной моделью . Часто Х еще называют независимой переменной (еще предиктором и регрессором , английский термин predictor , regressor ), а Y – зависимой (или объясняемой , response variable ). Так как регрессор у нас один, то такая модель называется простой линейной регрессионной моделью ( simple linear regression model ). α часто называют коэффициентом регрессии.
Предположения линейной регрессионной модели перечислены в следующем разделе.
Предположения линейной регрессионной модели
Чтобы модель линейной регрессии Yi=a*Xi+β+ε i была адекватной — требуется:
- Ошибки ε i должны быть независимыми переменными;
- При каждом значении Xi ошибки ε i должны быть иметь нормальное распределение (также предполагается равенство нулю математического ожидания, т.е. Е[ε i ]=0);
- При каждом значении Xi ошибки ε i должны иметь равные дисперсии (обозначим ее σ 2 ).
Примечание : Последнее условие называется гомоскедастичность — стабильность, гомогенность дисперсии случайной ошибки e. Т.е. дисперсия ошибки σ 2 не должна зависеть от значения Xi.
Используя предположение о равенстве математического ожидания Е[ε i ]=0 покажем, что μy(i)=Е[Yi]:
Е[Yi]= Е[a*Xi+β+ε i ]= Е[a*Xi+β]+ Е[ε i ]= a*Xi+β= μy(i), т.к. a, Xi и β постоянные значения.
Дисперсия случайной переменной Y равна дисперсии ошибки ε, т.е. VAR(Y)= VAR(ε)=σ 2 . Это является следствием, что все значения переменной Х являются const, а VAR(ε)=VAR(ε i ).
Задачи регрессионного анализа
Для проверки гипотезы о линейной взаимосвязи переменной Y от X делают выборку из генеральной совокупности (этой совокупности соответствует регрессионная линия генеральной совокупности , т.е. μy=a* Х +β). Выборка будет состоять из n точек, т.е. из n пар значений .
На основании этой выборки мы можем вычислить оценки наклона a и сдвига β, которые обозначим соответственно a и b . Также часто используются обозначения â и b̂.
Далее, используя эти оценки, мы также можем проверить гипотезу: имеется ли линейная связь между X и Y статистически значимой?
Первая задача регрессионного анализа – оценка неизвестных параметров ( estimation of the unknown parameters ). Подробнее см. раздел Оценки неизвестных параметров модели .
Вторая задача регрессионного анализа – Проверка адекватности модели ( model adequacy checking ).
Примечание : Оценки параметров модели обычно вычисляются методом наименьших квадратов (МНК), которому посвящена отдельная статья .
Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)
Неизвестные параметры простой линейной регрессионной модели Y=a*X+β+ε оценим с помощью метода наименьших квадратов (в статье про МНК подробно описано этот метод ).
Для вычисления параметров линейной модели методом МНК получены следующие выражения:
Таким образом, мы получим уравнение прямой линии Y= a *X+ b , которая наилучшим образом аппроксимирует имеющиеся данные.
Примечание : В статье про метод наименьших квадратов рассмотрены случаи аппроксимации линейной и квадратичной функцией , а также степенной , логарифмической и экспоненциальной функцией .
Оценку параметров в MS EXCEL можно выполнить различными способами:
Сначала рассмотрим функции НАКЛОН() , ОТРЕЗОК() и ЛИНЕЙН() .
Пусть значения Х и Y находятся соответственно в диапазонах C 23: C 83 и B 23: B 83 (см. файл примера внизу статьи).
Примечание : Значения двух переменных Х и Y можно сгенерировать, задав тренд и величину случайного разброса (см. статью Генерация данных для линейной регрессии в MS EXCEL ).
В MS EXCEL наклон прямой линии а ( оценку коэффициента регрессии ), можно найти по методу МНК с помощью функции НАКЛОН() , а сдвиг b ( оценку постоянного члена или константы регрессии ), с помощью функции ОТРЕЗОК() . В английской версии это функции SLOPE и INTERCEPT соответственно.
Аналогичный результат можно получить с помощью функции ЛИНЕЙН() , английская версия LINEST (см. статью об этой функции ).
Формула =ЛИНЕЙН(C23:C83;B23:B83) вернет наклон а . А формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) — сдвиг b . Здесь требуются пояснения.
Функция ЛИНЕЙН() имеет 4 аргумента и возвращает целый массив значений:
ЛИНЕЙН(известные_значения_y; [известные_значения_x]; [конст]; [статистика])
Если 4-й аргумент статистика имеет значение ЛОЖЬ или опущен, то функция ЛИНЕЙН() возвращает только оценки параметров модели: a и b .
Примечание : Остальные значения, возвращаемые функцией ЛИНЕЙН() , нам потребуются при вычислении стандартных ошибок и для проверки значимости регрессии . В этом случае аргумент статистика должен иметь значение ИСТИНА.
Чтобы вывести сразу обе оценки:
- в одной строке необходимо выделить 2 ячейки,
- ввести формулу в Строке формул
- нажать CTRL+SHIFT+ENTER (см. статью про формулы массива ).
Если в Строке формул выделить формулу = ЛИНЕЙН(C23:C83;B23:B83) и нажать клавишу F9 , то мы увидим что-то типа <3,01279389265416;154,240057900613>. Это как раз значения a и b . Как видно, оба значения разделены точкой с запятой «;», что свидетельствует, что функция вернула значения «в нескольких ячейках одной строки».
Если требуется вывести параметры линии не в одной строке, а одном столбце (ячейки друг под другом), то используйте формулу = ТРАНСП(ЛИНЕЙН(C23:C83;B23:B83)) . При этом выделять нужно 2 ячейки в одном столбце. Если теперь выделить новую формулу и нажать клавишу F9, то мы увидим что 2 значения разделены двоеточием «:», что означает, что значения выведены в столбец (функция ТРАНСП() транспонировала строку в столбец ).
Чтобы разобраться в этом подробнее необходимо ознакомиться с формулами массива .
Чтобы не связываться с вводом формул массива , можно использовать функцию ИНДЕКС() . Формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);1) или просто ЛИНЕЙН(C23:C83;B23:B83) вернет параметр, отвечающий за наклон линии, т.е. а . Формула =ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) вернет параметр b .
Оценка неизвестных параметров линейной модели (через статистики выборок)
Наклон линии, т.е. коэффициент а , можно также вычислить через коэффициент корреляции и стандартные отклонения выборок :
= КОРРЕЛ(B23:B83;C23:C83) *(СТАНДОТКЛОН.В(C23:C83)/ СТАНДОТКЛОН.В(B23:B83))
Вышеуказанная формула математически эквивалентна отношению ковариации выборок Х и Y и дисперсии выборки Х:
И, наконец, запишем еще одну формулу для нахождения сдвига b . Воспользуемся тем фактом, что линия регрессии проходит через точку средних значений переменных Х и Y.
Вычислив средние значения и подставив в формулу ранее найденный наклон а , получим сдвиг b .
Оценка неизвестных параметров линейной модели (матричная форма)
Также параметры линии регрессии можно найти в матричной форме (см. файл примера лист Матричная форма ).
В формуле символом β обозначен столбец с искомыми параметрами модели: β0 (сдвиг b ), β1 (наклон a ).
Матрица Х равна:
Матрица Х называется регрессионной матрицей или матрицей плана . Она состоит из 2-х столбцов и n строк, где n – количество точек данных. Первый столбец — столбец единиц, второй – значения переменной Х.
Матрица Х T – это транспонированная матрица Х . Она состоит соответственно из n столбцов и 2-х строк.
В формуле символом Y обозначен столбец значений переменной Y.
Чтобы перемножить матрицы используйте функцию МУМНОЖ() . Чтобы найти обратную матрицу используйте функцию МОБР() .
Пусть дан массив значений переменных Х и Y (n=10, т.е.10 точек).
Слева от него достроим столбец с 1 для матрицы Х.
и введя ее как формулу массива в 2 ячейки, получим оценку параметров модели.
Красота применения матричной формы полностью раскрывается в случае множественной регрессии .
Построение линии регрессии
Для отображения линии регрессии построим сначала диаграмму рассеяния , на которой отобразим все точки (см. начало статьи ).
Для построения прямой линии используйте вычисленные выше оценки параметров модели a и b (т.е. вычислите у по формуле y = a * x + b ) или функцию ТЕНДЕНЦИЯ() .
Формула = ТЕНДЕНЦИЯ($C$23:$C$83;$B$23:$B$83;B23) возвращает расчетные (прогнозные) значения ŷi для заданного значения Хi из столбца В2 .
Примечание : Линию регрессии можно также построить с помощью функции ПРЕДСКАЗ() . Эта функция возвращает прогнозные значения ŷi, но, в отличие от функции ТЕНДЕНЦИЯ() работает только в случае одного регрессора. Функция ТЕНДЕНЦИЯ() может быть использована и в случае множественной регрессии (в этом случае 3-й аргумент функции должен быть ссылкой на диапазон, содержащий все значения Хi для выбранного наблюдения i).
Как видно из диаграммы выше линия тренда и линия регрессии не обязательно совпадают: отклонения точек от линии тренда случайны, а МНК лишь подбирает линию наиболее точно аппроксимирующую случайные точки данных.
Линию регрессии можно построить и с помощью встроенных средств диаграммы, т.е. с помощью инструмента Линия тренда. Для этого выделите диаграмму, в меню выберите вкладку Макет , в группе Анализ нажмите Линия тренда , затем Линейное приближение. В диалоговом окне установите галочку Показывать уравнение на диаграмме (подробнее см. в статье про МНК ).
Построенная таким образом линия, разумеется, должна совпасть с ранее построенной нами линией регрессии, а параметры уравнения a и b должны совпасть с параметрами уравнения отображенными на диаграмме.
Примечание: Для того, чтобы вычисленные параметры уравнения a и b совпадали с параметрами уравнения на диаграмме, необходимо, чтобы тип у диаграммы был Точечная, а не График , т.к. тип диаграммы График не использует значения Х, а вместо значений Х используется последовательность 1; 2; 3; . Именно эти значения и берутся при расчете параметров линии тренда . Убедиться в этом можно если построить диаграмму График (см. файл примера ), а значения Хнач и Хшаг установить равным 1. Только в этом случае параметры уравнения на диаграмме совпадут с a и b .
Коэффициент детерминации R 2
Коэффициент детерминации R 2 показывает насколько полезна построенная нами линейная регрессионная модель .
Предположим, что у нас есть n значений переменной Y и мы хотим предсказать значение yi, но без использования значений переменной Х (т.е. без построения регрессионной модели ). Очевидно, что лучшей оценкой для yi будет среднее значение ȳ. Соответственно, ошибка предсказания будет равна (yi — ȳ).
Примечание : Далее будет использована терминология и обозначения дисперсионного анализа .
После построения регрессионной модели для предсказания значения yi мы будем использовать значение ŷi=a*xi+b. Ошибка предсказания теперь будет равна (yi — ŷi).
Теперь с помощью диаграммы сравним ошибки предсказания полученные без построения модели и с помощью модели.
Очевидно, что используя регрессионную модель мы уменьшили первоначальную (полную) ошибку (yi — ȳ) на значение (ŷi — ȳ) до величины (yi — ŷi).
(yi — ŷi) – это оставшаяся, необъясненная ошибка.
Очевидно, что все три ошибки связаны выражением:
(yi — ȳ)= (ŷi — ȳ) + (yi — ŷi)
Можно показать, что в общем виде справедливо следующее выражение:
или в других, общепринятых в зарубежной литературе, обозначениях:
Total Sum of Squares = Regression Sum of Squares + Error Sum of Squares
Примечание : SS — Sum of Squares — Сумма Квадратов.
Как видно из формулы величины SST, SSR, SSE имеют размерность дисперсии (вариации) и соответственно описывают разброс (изменчивость): Общую изменчивость (Total variation), Изменчивость объясненную моделью (Explained variation) и Необъясненную изменчивость (Unexplained variation).
По определению коэффициент детерминации R 2 равен:
R 2 = Изменчивость объясненная моделью / Общая изменчивость.
Этот показатель равен квадрату коэффициента корреляции и в MS EXCEL его можно вычислить с помощью функции КВПИРСОН() или ЛИНЕЙН() :
R 2 принимает значения от 0 до 1 (1 соответствует идеальной линейной зависимости Y от Х). Однако, на практике малые значения R2 вовсе не обязательно указывают, что переменную Х нельзя использовать для прогнозирования переменной Y. Малые значения R2 могут указывать на нелинейность связи или на то, что поведение переменной Y объясняется не только Х, но и другими факторами.
Стандартная ошибка регрессии
Стандартная ошибка регрессии ( Standard Error of a regression ) показывает насколько велика ошибка предсказания значений переменной Y на основании значений Х. Отдельные значения Yi мы можем предсказывать лишь с точностью +/- несколько значений (обычно 2-3, в зависимости от формы распределения ошибки ε).
Теперь вспомним уравнение линейной регрессионной модели Y=a*X+β+ε. Ошибка ε имеет случайную природу, т.е. является случайной величиной и поэтому имеет свою функцию распределения со средним значением μ и дисперсией σ 2 .
Оценив значение дисперсии σ 2 и вычислив из нее квадратный корень – получим Стандартную ошибку регрессии. Чем точки наблюдений на диаграмме рассеяния ближе находятся к прямой линии, тем меньше Стандартная ошибка.
Примечание : Вспомним , что при построении модели предполагается, что среднее значение ошибки ε равно 0, т.е. E[ε]=0.
Оценим дисперсию σ 2 . Помимо вычисления Стандартной ошибки регрессии эта оценка нам потребуется в дальнейшем еще и при построении доверительных интервалов для оценки параметров регрессии a и b .
Для оценки дисперсии ошибки ε используем остатки регрессии — разности между имеющимися значениями yi и значениями, предсказанными регрессионной моделью ŷ. Чем лучше регрессионная модель согласуется с данными (точки располагается близко к прямой линии), тем меньше величина остатков.
Для оценки дисперсии σ 2 используют следующую формулу:
где SSE – сумма квадратов значений ошибок модели ε i =yi — ŷi ( Sum of Squared Errors ).
SSE часто обозначают и как SSres – сумма квадратов остатков ( Sum of Squared residuals ).
Оценка дисперсии s 2 также имеет общепринятое обозначение MSE (Mean Square of Errors), т.е. среднее квадратов ошибок или MSRES (Mean Square of Residuals), т.е. среднее квадратов остатков . Хотя правильнее говорить сумме квадратов остатков, т.к. ошибка чаще ассоциируется с ошибкой модели ε, которая является непрерывной случайной величиной. Но, здесь мы будем использовать термины SSE и MSE, предполагая, что речь идет об остатках.
Примечание : Напомним, что когда мы использовали МНК для нахождения параметров модели, то критерием оптимизации была минимизация именно SSE (SSres). Это выражение представляет собой сумму квадратов расстояний между наблюденными значениями yi и предсказанными моделью значениями ŷi, которые лежат на линии регрессии.
Математическое ожидание случайной величины MSE равно дисперсии ошибки ε, т.е. σ 2 .
Чтобы понять почему SSE выбрана в качестве основы для оценки дисперсии ошибки ε, вспомним, что σ 2 является также дисперсией случайной величины Y (относительно среднего значения μy, при заданном значении Хi). А т.к. оценкой μy является значение ŷi = a * Хi + b (значение уравнения регрессии при Х= Хi), то логично использовать именно SSE в качестве основы для оценки дисперсии σ 2 . Затем SSE усредняется на количество точек данных n за вычетом числа 2. Величина n-2 – это количество степеней свободы ( df – degrees of freedom ), т.е. число параметров системы, которые могут изменяться независимо (вспомним, что у нас в этом примере есть n независимых наблюдений переменной Y). В случае простой линейной регрессии число степеней свободы равно n-2, т.к. при построении линии регрессии было оценено 2 параметра модели (на это было «потрачено» 2 степени свободы ).
Итак, как сказано было выше, квадратный корень из s 2 имеет специальное название Стандартная ошибка регрессии ( Standard Error of a regression ) и обозначается SEy. SEy показывает насколько велика ошибка предсказания. Отдельные значения Y мы можем предсказывать с точностью +/- несколько значений SEy (см. этот раздел ). Если ошибки предсказания ε имеют нормальное распределение , то примерно 2/3 всех предсказанных значений будут на расстоянии не больше SEy от линии регрессии . SEy имеет размерность переменной Y и откладывается по вертикали. Часто на диаграмме рассеяния строят границы предсказания соответствующие +/- 2 SEy (т.е. 95% точек данных будут располагаться в пределах этих границ).
В MS EXCEL стандартную ошибку SEy можно вычислить непосредственно по формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))
или с помощью функции ЛИНЕЙН() :
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
Стандартные ошибки и доверительные интервалы для наклона и сдвига
В разделе Оценка неизвестных параметров линейной модели мы получили точечные оценки наклона а и сдвига b . Так как эти оценки получены на основе случайных величин (значений переменных Х и Y), то эти оценки сами являются случайными величинами и соответственно имеют функцию распределения со средним значением и дисперсией . Но, чтобы перейти от точечных оценок к интервальным , необходимо вычислить соответствующие стандартные ошибки (т.е. стандартные отклонения ).
Стандартная ошибка коэффициента регрессии a вычисляется на основании стандартной ошибки регрессии по следующей формуле:
где Sx – стандартное отклонение величины х, вычисляемое по формуле:
где Sey – стандартная ошибка регрессии, т.е. ошибка предсказания значения переменой Y ( см. выше ).
В MS EXCEL стандартную ошибку коэффициента регрессии Se можно вычислить впрямую по вышеуказанной формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))/ СТАНДОТКЛОН.В(B23:B83) /КОРЕНЬ(СЧЁТ(B23:B83) -1)
или с помощью функции ЛИНЕЙН() :
Формулы приведены в файле примера на листе Линейный в разделе Регрессионная статистика .
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
При построении двухстороннего доверительного интервала для коэффициента регрессии его границы определяются следующим образом:
где — квантиль распределения Стьюдента с n-2 степенями свободы. Величина а с «крышкой» является другим обозначением наклона а .
Например для уровня значимости альфа=0,05, можно вычислить с помощью формулы =СТЬЮДЕНТ.ОБР.2Х(0,05;n-2)
Вышеуказанная формула следует из того факта, что если ошибки регрессии распределены нормально и независимо, то выборочное распределение случайной величины
является t-распределением Стьюдента с n-2 степенью свободы (то же справедливо и для наклона b ).
Примечание : Подробнее о построении доверительных интервалов в MS EXCEL можно прочитать в этой статье Доверительные интервалы в MS EXCEL .
В результате получим, что найденный доверительный интервал с вероятностью 95% (1-0,05) накроет истинное значение коэффициента регрессии. Здесь мы считаем, что коэффициент регрессии a имеет распределение Стьюдента с n-2 степенями свободы (n – количество наблюдений, т.е. пар Х и Y).
Примечание : Подробнее о построении доверительных интервалов с использованием t-распределения см. статью про построение доверительных интервалов для среднего .
Стандартная ошибка сдвига b вычисляется по следующей формуле:
В MS EXCEL стандартную ошибку сдвига Seb можно вычислить с помощью функции ЛИНЕЙН() :
При построении двухстороннего доверительного интервала для сдвига его границы определяются аналогичным образом как для наклона : b +/- t*Seb.
Проверка значимости взаимосвязи переменных
Когда мы строим модель Y=αX+β+ε мы предполагаем, что между Y и X существует линейная взаимосвязь. Однако, как это иногда бывает в статистике, можно вычислять параметры связи даже тогда, когда в действительности она не существует, и обусловлена лишь случайностью.
Единственный вариант, когда Y не зависит X (в рамках модели Y=αX+β+ε), возможен, когда коэффициент регрессии a равен 0.
Чтобы убедиться, что вычисленная нами оценка наклона прямой линии не обусловлена лишь случайностью (не случайно отлична от 0), используют проверку гипотез . В качестве нулевой гипотезы Н 0 принимают, что связи нет, т.е. a=0. В качестве альтернативной гипотезы Н 1 принимают, что a <>0.
Ниже на рисунках показаны 2 ситуации, когда нулевую гипотезу Н 0 не удается отвергнуть.
На левой картинке отсутствует любая зависимость между переменными, на правой – связь между ними нелинейная, но при этом коэффициент линейной корреляции равен 0.
Ниже — 2 ситуации, когда нулевая гипотеза Н 0 отвергается.
На левой картинке очевидна линейная зависимость, на правой — зависимость нелинейная, но коэффициент корреляции не равен 0 (метод МНК вычисляет показатели наклона и сдвига просто на основании значений выборки).
Для проверки гипотезы нам потребуется:
- Установить уровень значимости , пусть альфа=0,05;
- Рассчитать с помощью функции ЛИНЕЙН() стандартное отклонение Se для коэффициента регрессии (см. предыдущий раздел );
- Рассчитать число степеней свободы: DF=n-2 или по формуле = ИНДЕКС(ЛИНЕЙН(C24:C84;B24:B84;;ИСТИНА);4;2)
- Вычислить значение тестовой статистики t 0 =a/S e , которая имеет распределение Стьюдента с числом степеней свободы DF=n-2;
- Сравнить значение тестовой статистики |t0| с пороговым значением t альфа ,n-2. Если значение тестовой статистики больше порогового значения, то нулевая гипотеза отвергается ( наклон не может быть объяснен лишь случайностью при заданном уровне альфа) либо
- вычислить p-значение и сравнить его с уровнем значимости .
В файле примера приведен пример проверки гипотезы:
Изменяя наклон тренда k (ячейка В8 ) можно убедиться, что при малых углах тренда (например, 0,05) тест часто показывает, что связь между переменными случайна. При больших углах (k>1), тест практически всегда подтверждает значимость линейной связи между переменными.
Примечание : Проверка значимости взаимосвязи эквивалентна проверке статистической значимости коэффициента корреляции . В файле примера показана эквивалентность обоих подходов. Также проверку значимости можно провести с помощью процедуры F-тест .
Доверительные интервалы для нового наблюдения Y и среднего значения
Вычислив параметры простой линейной регрессионной модели Y=aX+β+ε мы получили точечную оценку значения нового наблюдения Y при заданном значении Хi, а именно: Ŷ= a * Хi + b
Ŷ также является точечной оценкой для среднего значения Yi при заданном Хi. Но, при построении доверительных интервалов используются различные стандартные ошибки .
Стандартная ошибка нового наблюдения Y при заданном Хi учитывает 2 источника неопределенности:
- неопределенность связанную со случайностью оценок параметров модели a и b ;
- случайность ошибки модели ε.
Учет этих неопределенностей приводит к стандартной ошибке S(Y|Xi), которая рассчитывается с учетом известного значения Xi.
где SS xx – сумма квадратов отклонений от среднего значений переменной Х:
В MS EXCEL 2010 нет функции, которая бы рассчитывала эту стандартную ошибку , поэтому ее необходимо рассчитывать по вышеуказанным формулам.
Доверительный интервал или Интервал предсказания для нового наблюдения (Prediction Interval for a New Observation) построим по схеме показанной в разделе Проверка значимости взаимосвязи переменных (см. файл примера лист Интервалы ). Т.к. границы интервала зависят от значения Хi (точнее от расстояния Хi до среднего значения Х ср ), то интервал будет постепенно расширяться при удалении от Х ср .
Границы доверительного интервала для нового наблюдения рассчитываются по формуле:
Аналогичным образом построим доверительный интервал для среднего значения Y при заданном Хi (Confidence Interval for the Mean of Y). В этом случае доверительный интервал будет уже, т.к. средние значения имеют меньшую изменчивость по сравнению с отдельными наблюдениями ( средние значения, в рамках нашей линейной модели Y=aX+β+ε, не включают ошибку ε).
Стандартная ошибка S(Yср|Xi) вычисляется по практически аналогичным формулам как и стандартная ошибка для нового наблюдения:
Как видно из формул, стандартная ошибка S(Yср|Xi) меньше стандартной ошибки S(Y|Xi) для индивидуального значения .
Границы доверительного интервала для среднего значения рассчитываются по формуле:
Проверка адекватности линейной регрессионной модели
Модель адекватна, когда все предположения, лежащие в ее основе, выполнены (см. раздел Предположения линейной регрессионной модели ).
Проверка адекватности модели в основном основана на исследовании остатков модели (model residuals), т.е. значений ei=yi – ŷi для каждого Хi. В рамках простой линейной модели n остатков имеют только n-2 связанных с ними степеней свободы . Следовательно, хотя, остатки не являются независимыми величинами, но при достаточно большом n это не оказывает какого-либо влияния на проверку адекватности модели.
Чтобы проверить предположение о нормальности распределения ошибок строят график проверки на нормальность (Normal probability Plot).
В файле примера на листе Адекватность построен график проверки на нормальность . В случае нормального распределения значения остатков должны быть близки к прямой линии.
Так как значения переменной Y мы генерировали с помощью тренда , вокруг которого значения имели нормальный разброс, то ожидать сюрпризов не приходится – значения остатков располагаются вблизи прямой.
Также при проверке модели на адекватность часто строят график зависимости остатков от предсказанных значений Y. Если точки не демонстрируют характерных, так называемых «паттернов» (шаблонов) типа вор о нок или другого неравномерного распределения, в зависимости от значений Y, то у нас нет очевидных доказательств неадекватности модели.
В нашем случае точки располагаются примерно равномерно.
Часто при проверке адекватности модели вместо остатков используют нормированные остатки. Как показано в разделе Стандартная ошибка регрессии оценкой стандартного отклонения ошибок является величина SEy равная квадратному корню из величины MSE. Поэтому логично нормирование остатков проводить именно на эту величину.
SEy можно вычислить с помощью функции ЛИНЕЙН() :
Иногда нормирование остатков производится на величину стандартного отклонения остатков (это мы увидим в статье об инструменте Регрессия , доступного в надстройке MS EXCEL Пакет анализа ), т.е. по формуле:
Вышеуказанное равенство приблизительное, т.к. среднее значение остатков близко, но не обязательно точно равно 0.
Регрессионный анализ в Microsoft Excel
Регрессионный анализ является одним из самых востребованных методов статистического исследования. С его помощью можно установить степень влияния независимых величин на зависимую переменную. В функционале Microsoft Excel имеются инструменты, предназначенные для проведения подобного вида анализа. Давайте разберем, что они собой представляют и как ими пользоваться.
Подключение пакета анализа
Но, для того, чтобы использовать функцию, позволяющую провести регрессионный анализ, прежде всего, нужно активировать Пакет анализа. Только тогда необходимые для этой процедуры инструменты появятся на ленте Эксель.
-
Перемещаемся во вкладку «Файл».
Переходим в раздел «Параметры».
В самой нижней части открывшегося окна переставляем переключатель в блоке «Управление» в позицию «Надстройки Excel», если он находится в другом положении. Жмем на кнопку «Перейти».
Теперь, когда мы перейдем во вкладку «Данные», на ленте в блоке инструментов «Анализ» мы увидим новую кнопку – «Анализ данных».
Виды регрессионного анализа
Существует несколько видов регрессий:
- параболическая;
- степенная;
- логарифмическая;
- экспоненциальная;
- показательная;
- гиперболическая;
- линейная регрессия.
О выполнении последнего вида регрессионного анализа в Экселе мы подробнее поговорим далее.
Линейная регрессия в программе Excel
Внизу, в качестве примера, представлена таблица, в которой указана среднесуточная температура воздуха на улице, и количество покупателей магазина за соответствующий рабочий день. Давайте выясним при помощи регрессионного анализа, как именно погодные условия в виде температуры воздуха могут повлиять на посещаемость торгового заведения.
Общее уравнение регрессии линейного вида выглядит следующим образом: У = а0 + а1х1 +…+акхк . В этой формуле Y означает переменную, влияние факторов на которую мы пытаемся изучить. В нашем случае, это количество покупателей. Значение x – это различные факторы, влияющие на переменную. Параметры a являются коэффициентами регрессии. То есть, именно они определяют значимость того или иного фактора. Индекс k обозначает общее количество этих самых факторов.
- Кликаем по кнопке «Анализ данных». Она размещена во вкладке «Главная» в блоке инструментов «Анализ».
Открывается небольшое окошко. В нём выбираем пункт «Регрессия». Жмем на кнопку «OK».
Открывается окно настроек регрессии. В нём обязательными для заполнения полями являются «Входной интервал Y» и «Входной интервал X». Все остальные настройки можно оставить по умолчанию.
В поле «Входной интервал Y» указываем адрес диапазона ячеек, где расположены переменные данные, влияние факторов на которые мы пытаемся установить. В нашем случае это будут ячейки столбца «Количество покупателей». Адрес можно вписать вручную с клавиатуры, а можно, просто выделить требуемый столбец. Последний вариант намного проще и удобнее.
В поле «Входной интервал X» вводим адрес диапазона ячеек, где находятся данные того фактора, влияние которого на переменную мы хотим установить. Как говорилось выше, нам нужно установить влияние температуры на количество покупателей магазина, а поэтому вводим адрес ячеек в столбце «Температура». Это можно сделать теми же способами, что и в поле «Количество покупателей».
С помощью других настроек можно установить метки, уровень надёжности, константу-ноль, отобразить график нормальной вероятности, и выполнить другие действия. Но, в большинстве случаев, эти настройки изменять не нужно. Единственное на что следует обратить внимание, так это на параметры вывода. По умолчанию вывод результатов анализа осуществляется на другом листе, но переставив переключатель, вы можете установить вывод в указанном диапазоне на том же листе, где расположена таблица с исходными данными, или в отдельной книге, то есть в новом файле.
После того, как все настройки установлены, жмем на кнопку «OK».
Разбор результатов анализа
Результаты регрессионного анализа выводятся в виде таблицы в том месте, которое указано в настройках.
Одним из основных показателей является R-квадрат. В нем указывается качество модели. В нашем случае данный коэффициент равен 0,705 или около 70,5%. Это приемлемый уровень качества. Зависимость менее 0,5 является плохой.
Ещё один важный показатель расположен в ячейке на пересечении строки «Y-пересечение» и столбца «Коэффициенты». Тут указывается какое значение будет у Y, а в нашем случае, это количество покупателей, при всех остальных факторах равных нулю. В этой таблице данное значение равно 58,04.
Значение на пересечении граф «Переменная X1» и «Коэффициенты» показывает уровень зависимости Y от X. В нашем случае — это уровень зависимости количества клиентов магазина от температуры. Коэффициент 1,31 считается довольно высоким показателем влияния.
Как видим, с помощью программы Microsoft Excel довольно просто составить таблицу регрессионного анализа. Но, работать с полученными на выходе данными, и понимать их суть, сможет только подготовленный человек.
Помимо этой статьи, на сайте еще 12771 полезных инструкций.
Добавьте сайт Lumpics.ru в закладки (CTRL+D) и мы точно еще пригодимся вам.
Отблагодарите автора, поделитесь статьей в социальных сетях.
Корреляционно-регрессионный анализ в Excel: инструкция выполнения
Регрессионный и корреляционный анализ – статистические методы исследования. Это наиболее распространенные способы показать зависимость какого-либо параметра от одной или нескольких независимых переменных.
Ниже на конкретных практических примерах рассмотрим эти два очень популярные в среде экономистов анализа. А также приведем пример получения результатов при их объединении.
Регрессионный анализ в Excel
Показывает влияние одних значений (самостоятельных, независимых) на зависимую переменную. К примеру, как зависит количество экономически активного населения от числа предприятий, величины заработной платы и др. параметров. Или: как влияют иностранные инвестиции, цены на энергоресурсы и др. на уровень ВВП.
Результат анализа позволяет выделять приоритеты. И основываясь на главных факторах, прогнозировать, планировать развитие приоритетных направлений, принимать управленческие решения.
- линейной (у = а + bx);
- параболической (y = a + bx + cx 2 );
- экспоненциальной (y = a * exp(bx));
- степенной (y = a*x^b);
- гиперболической (y = b/x + a);
- логарифмической (y = b * 1n(x) + a);
- показательной (y = a * b^x).
Рассмотрим на примере построение регрессионной модели в Excel и интерпретацию результатов. Возьмем линейный тип регрессии.
Задача. На 6 предприятиях была проанализирована среднемесячная заработная плата и количество уволившихся сотрудников. Необходимо определить зависимость числа уволившихся сотрудников от средней зарплаты.
Модель линейной регрессии имеет следующий вид:
Где а – коэффициенты регрессии, х – влияющие переменные, к – число факторов.
В нашем примере в качестве У выступает показатель уволившихся работников. Влияющий фактор – заработная плата (х).
В Excel существуют встроенные функции, с помощью которых можно рассчитать параметры модели линейной регрессии. Но быстрее это сделает надстройка «Пакет анализа».
Активируем мощный аналитический инструмент:
- Нажимаем кнопку «Офис» и переходим на вкладку «Параметры Excel». «Надстройки».
- Внизу, под выпадающим списком, в поле «Управление» будет надпись «Надстройки Excel» (если ее нет, нажмите на флажок справа и выберите). И кнопка «Перейти». Жмем.
- Открывается список доступных надстроек. Выбираем «Пакет анализа» и нажимаем ОК.
После активации надстройка будет доступна на вкладке «Данные».
Теперь займемся непосредственно регрессионным анализом.
- Открываем меню инструмента «Анализ данных». Выбираем «Регрессия».
- Откроется меню для выбора входных значений и параметров вывода (где отобразить результат). В полях для исходных данных указываем диапазон описываемого параметра (У) и влияющего на него фактора (Х). Остальное можно и не заполнять.
- После нажатия ОК, программа отобразит расчеты на новом листе (можно выбрать интервал для отображения на текущем листе или назначить вывод в новую книгу).
В первую очередь обращаем внимание на R-квадрат и коэффициенты.
R-квадрат – коэффициент детерминации. В нашем примере – 0,755, или 75,5%. Это означает, что расчетные параметры модели на 75,5% объясняют зависимость между изучаемыми параметрами. Чем выше коэффициент детерминации, тем качественнее модель. Хорошо – выше 0,8. Плохо – меньше 0,5 (такой анализ вряд ли можно считать резонным). В нашем примере – «неплохо».
Коэффициент 64,1428 показывает, каким будет Y, если все переменные в рассматриваемой модели будут равны 0. То есть на значение анализируемого параметра влияют и другие факторы, не описанные в модели.
Коэффициент -0,16285 показывает весомость переменной Х на Y. То есть среднемесячная заработная плата в пределах данной модели влияет на количество уволившихся с весом -0,16285 (это небольшая степень влияния). Знак «-» указывает на отрицательное влияние: чем больше зарплата, тем меньше уволившихся. Что справедливо.
Корреляционный анализ в Excel
Корреляционный анализ помогает установить, есть ли между показателями в одной или двух выборках связь. Например, между временем работы станка и стоимостью ремонта, ценой техники и продолжительностью эксплуатации, ростом и весом детей и т.д.
Если связь имеется, то влечет ли увеличение одного параметра повышение (положительная корреляция) либо уменьшение (отрицательная) другого. Корреляционный анализ помогает аналитику определиться, можно ли по величине одного показателя предсказать возможное значение другого.
Коэффициент корреляции обозначается r. Варьируется в пределах от +1 до -1. Классификация корреляционных связей для разных сфер будет отличаться. При значении коэффициента 0 линейной зависимости между выборками не существует.
Рассмотрим, как с помощью средств Excel найти коэффициент корреляции.
Для нахождения парных коэффициентов применяется функция КОРРЕЛ.
Задача: Определить, есть ли взаимосвязь между временем работы токарного станка и стоимостью его обслуживания.
Ставим курсор в любую ячейку и нажимаем кнопку fx.
- В категории «Статистические» выбираем функцию КОРРЕЛ.
- Аргумент «Массив 1» — первый диапазон значений – время работы станка: А2:А14.
- Аргумент «Массив 2» — второй диапазон значений – стоимость ремонта: В2:В14. Жмем ОК.
Чтобы определить тип связи, нужно посмотреть абсолютное число коэффициента (для каждой сферы деятельности есть своя шкала).
Для корреляционного анализа нескольких параметров (более 2) удобнее применять «Анализ данных» (надстройка «Пакет анализа»). В списке нужно выбрать корреляцию и обозначить массив. Все.
Полученные коэффициенты отобразятся в корреляционной матрице. Наподобие такой:
Корреляционно-регрессионный анализ
На практике эти две методики часто применяются вместе.
- Строим корреляционное поле: «Вставка» — «Диаграмма» — «Точечная диаграмма» (дает сравнивать пары). Диапазон значений – все числовые данные таблицы.
- Щелкаем левой кнопкой мыши по любой точке на диаграмме. Потом правой. В открывшемся меню выбираем «Добавить линию тренда».
- Назначаем параметры для линии. Тип – «Линейная». Внизу – «Показать уравнение на диаграмме».
- Жмем «Закрыть».
Теперь стали видны и данные регрессионного анализа.
источники:
http://lumpics.ru/regression-analysis-in-excel/
http://exceltable.com/otchety/korrelyacionno-regressionnyy-analiz
Содержание
- Проверка на гетероскедастичность моделей
- Простая линейная регрессия в EXCEL
- Немного теории и основные понятия
- Предположения линейной регрессионной модели
- Задачи регрессионного анализа
- Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)
- Оценка неизвестных параметров линейной модели (через статистики выборок)
- Оценка неизвестных параметров линейной модели (матричная форма)
- Построение линии регрессии
- Коэффициент детерминации R 2
- Стандартная ошибка регрессии
- Стандартные ошибки и доверительные интервалы для наклона и сдвига
- Проверка значимости взаимосвязи переменных
- Доверительные интервалы для нового наблюдения Y и среднего значения
- Проверка адекватности линейной регрессионной модели
Проверка на гетероскедастичность моделей
Так как для проведения теста Голдфельда – Куандта необходимо провести упорядочение данных, то используем MS EXCEL для этой процедуры. Скопируем исходные данные из табл. 1 на рабочий лист MS EXCEL. Поставим курсор на поле H2 и выберем в меню Данные / Сортировка. В появившемся окне Сортировка диапазона укажем: Сортировать по H2, по убыванию.
Исключим d средних наблюдений (d=50/4=12,5). Так как число наблюдений четное, то и d должно быть четное. Пусть d=12. Удалим с рабочего листа MS EXCEL 12 средних значений.
Построим по двум полученным группам уравнения регрессии и рассчитаем для них остатки e1 и e2.
Для первой половины:
ВЫВОД ИТОГОВ | ||||||
Регрессионная статистика | ||||||
Множественный R | 0,488415011 | |||||
R-квадрат | 0,238549223 | |||||
Нормированный R-квадрат | 0,143367875 | |||||
Стандартная ошибка | 64,05798097 | |||||
Наблюдения | ||||||
Дисперсионный анализ | ||||||
df | SS | MS | F | Значимость F | ||
Регрессия | 20568,5 | 10284,25 | 2,50626 | 0,113015 | ||
Остаток | 65654,8 | 4103,425 | ||||
Итого | 86223,3 | |||||
Коэффициенты | Стандартная ошибка | t-статистика | P-Значение | Нижние 95% | Верхние 95% | |
Y-пересечение | 367,066751 | 78,90868 | 4,651792 | 0,000266 | 199,7878 | 534,3457 |
Переменная X 1 | 1,091915242 | 0,730514 | 1,494722 | 0,154448 | -0,45671 | 2,640536 |
Переменная X 2 | 3,06396591 | 1,709667 | 1,792142 | 0,092039 | -0,56037 | 6,688297 |
Для второй половины:
ВЫВОД ИТОГОВ | ||||||
Регрессионная статистика | ||||||
Множественный R | 0,660587536 | |||||
R-квадрат | 0,436375893 | |||||
Нормированный R-квадрат | 0,365922879 | |||||
Стандартная ошибка | 40,78295297 | |||||
Наблюдения | ||||||
Дисперсионный анализ | ||||||
df | SS | MS | F | Значимость F | ||
Регрессия | 20603,86 | 10301,93 | 6,193857 | 0,010184 | ||
Остаток | 26611,99 | 1663,249 | ||||
Итого | 47215,84 | |||||
Коэффициенты | Стандартная ошибка | t-статистика | P-Значение | Нижние 95% | Верхние 95% | |
Y-пересечение | 319,5711488 | 46,29706 | 6,902623 | 3,56E-06 | 221,4258 | 417,7165 |
Переменная X 1 | 1,303073503 | 0,579267 | 2,249521 | 0,03891 | 0,075082 | 2,531065 |
Переменная X 2 | 5,802551583 | 2,431128 | 2,386773 | 0,02969 | 0,648791 | 10,95631 |
Создаем ряд для расчета остатков первой регрессии. Пусть это будет ряд E1. В строке формул вводим
где С(1), С(2), С(3) – полученные оценки коэффициентов.
g1 | v1 | v2 | E1 |
591,7 | 22,4 | 59,6 | 17,5619793 |
600,2 | 42,0 | 56,1 | 15,38432125 |
478,2 | 29,0 | 52,1 | -80,16491697 |
614,4 | 50,3 | 47,3 | 47,48432475 |
577,5 | 22,9 | 45,1 | 47,24352738 |
585,5 | 39,3 | 44,9 | 37,94891059 |
608,6 | 70,0 | 43,7 | 31,20387176 |
471,6 | 34,5 | 42,6 | -63,66277465 |
592,9 | 72,0 | 39,6 | 25,88230151 |
542,0 | 88,6 | 37,1 | -35,48357673 |
449,1 | 21,8 | 36,6 | -53,91165562 |
468,5 | 32,2 | 35,9 | -43,722798 |
448,7 | 20,9 | 34,9 | -48,12018986 |
464,3 | 42,1 | 32,5 | -48,3152748 |
578,6 | 70,0 | 32,2 | 36,43947973 |
430,9 | 31,8 | 32,1 | -69,24296145 |
543,6 | 49,6 | 31,1 | 27,08491316 |
645,6 | 12,0 | 30,8 | 171,060116 |
482,6 | 34,5 | 30,2 | -14,66959737 |
Повторим п.4 и п.5 для регрессии G2=a0+a1S1+a2S2+e. Ряд остатков назовем E2.
g2 | s1 | s2 | E2 |
517,0 | 43,7 | 23,1 | 6,445597522 |
465,4 | 54,3 | 22,3 | -54,32494034 |
513,3 | 28,4 | 22,1 | 28,4851737 |
506,8 | 39,6 | 22,1 | 7,390750466 |
463,2 | 26,7 | 21,8 | -17,65883587 |
616,4 | 49,4 | 20,9 | 111,183692 |
457,7 | 30,9 | 20,1 | -18,76740689 |
438,7 | 29,0 | 20,0 | -34,71131208 |
480,1 | 17,0 | 19,9 | 22,90582511 |
458,7 | 32,1 | 18,7 | -11,20752288 |
416,6 | 24,2 | 16,9 | -32,56864936 |
516,7 | 90,5 | 15,8 | -12,47961586 |
420,6 | 36,9 | 15,6 | -37,57436579 |
418,9 | 38,2 | 14,5 | -34,5855546 |
510,4 | 41,1 | 14,2 | 54,87629772 |
415,5 | 15,4 | 14,2 | -6,534713261 |
425,9 | 33,8 | 12,6 | -10,82718318 |
435,7 | 25,6 | 11,9 | 13,71980565 |
436,5 | 22,4 | 10,6 | 26,23295792 |
Создаем ряд для расчета F-статистики. Пусть это будет ряд F. В строке формул вводим
Создаем ряд для расчета критического значения F-статистики. Пусть это будет ряд F1. В строке формул вводим
Т.к. Fрасч>Fстат, то гипотеза о гетероскедастичности отвергается.
1. Кремер Н.Ш. Теория вероятностей и математическая статистика: Учебник для вузов. М.:ЮНИТИ-ДАНА,2007.
2. Мхитарян В.С., Ю.Н.Миронкина, Е.В.Астафьева. Корреляционный и регрессионный анализ с использованием ППП MICROSOFT EXCEL. Учебное пособие. – М: Издательство МЭСИ, 2008 – с.68.
3. Практикум по эконометрике: Учеб. пособие / И.И. Елисеева, С.В. Курышева, Н.М. Гордеенко и др.; Под ред. И.И. Елисеевой. – М.: Финансы и статистика, 2001, с. 49-105.
4. Теория вероятностей и математическая статистика. Под ред. В.С. Мхитаряна. – М., Market DS, 2007.
Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:
Источник
Простая линейная регрессия в EXCEL
history 26 января 2019 г.
Регрессия позволяет прогнозировать зависимую переменную на основании значений фактора. В MS EXCEL имеется множество функций, которые возвращают не только наклон и сдвиг линии регрессии, характеризующей линейную взаимосвязь между факторами, но и регрессионную статистику. Здесь рассмотрим простую линейную регрессию, т.е. прогнозирование на основе одного фактора.
Disclaimer : Данную статью не стоит рассматривать, как пересказ главы из учебника по статистике. Статья не обладает ни полнотой, ни строгостью изложения положений статистической науки. Эта статья – о применении MS EXCEL для целей Регрессионного анализа. Теоретические отступления приведены лишь из соображения логики изложения. Использование данной статьи для изучения Регрессии – плохая идея.
Статья про Регрессионный анализ получилась большая, поэтому ниже для удобства приведены ее разделы:
Примечание : Если прогнозирование переменной осуществляется на основе нескольких факторов, то имеет место множественная регрессия .
Чтобы разобраться, чем может помочь MS EXCEL при проведении регрессионного анализа, напомним вкратце теорию, введем термины и обозначения, которые могут отличаться в зависимости от различных источников.
Примечание : Для тех, кому некогда, незачем или просто не хочется разбираться в теоретических выкладках предлагается сразу перейти к вычислительной части — оценке неизвестных параметров линейной модели .
Немного теории и основные понятия
Пусть у нас есть массив данных, представляющий собой значения двух переменных Х и Y. Причем значения переменной Х мы можем произвольно задавать (контролировать) и использовать эту переменную для предсказания значений зависимой переменной Y. Таким образом, случайной величиной является только переменная Y.
Примером такой задачи может быть производственный процесс изготовления некого волокна, причем прочность этого волокна (Y) зависит только от рабочей температуры процесса в реакторе (Х), которая задается оператором.
Построим диаграмму рассеяния (см. файл примера лист Линейный ), созданию которой посвящена отдельная статья . Вообще, построение диаграммы рассеяния для целей регрессионного анализа де-факто является стандартом.
СОВЕТ : Подробнее о построении различных типов диаграмм см. статьи Основы построения диаграмм и Основные типы диаграмм .
Приведенная выше диаграмма рассеяния свидетельствует о возможной линейной взаимосвязи между Y от Х: очевидно, что точки данных в основном располагаются вдоль прямой линии.
Примечание : Наличие даже такой очевидной линейной взаимосвязи не может являться доказательством о наличии причинной взаимосвязи переменных. Наличие причинной взаимосвязи не может быть доказано на основании только анализа имеющихся измерений, а должно быть обосновано с помощью других исследований, например теоретических выкладок.
Примечание : Как известно, уравнение прямой линии имеет вид Y = m * X + k , где коэффициент m отвечает за наклон линии ( slope ), k – за сдвиг линии по вертикали ( intercept ), k равно значению Y при Х=0.
Предположим, что мы можем зафиксировать переменную Х ( рабочую температуру процесса ) при некотором значении Х i и произвести несколько наблюдений переменной Y ( прочность нити ). Очевидно, что при одном и том же значении Хi мы получим различные значения Y. Это обусловлено влиянием других факторов на Y. Например, локальные колебания давления в реакторе, концентрации раствора, наличие ошибок измерения и др. Предполагается, что воздействие этих факторов имеет случайную природу и для каждого измерения имеются одинаковые условия проведения эксперимента (т.е. другие факторы не изменяются).
Полученные значения Y, при заданном Хi, будут колебаться вокруг некого значения . При увеличении количества измерений, среднее этих измерений, будет стремиться к математическому ожиданию случайной величины Y (при Х i ) равному μy(i)=Е(Y i ).
Подобные рассуждения можно привести для любого значения Хi.
Чтобы двинуться дальше, воспользуемся материалом из раздела Проверка статистических гипотез . В статье о проверке гипотезы о среднем значении генеральной совокупности в качестве нулевой гипотезы предполагалось равенство неизвестного значения μ заданному μ0.
В нашем случае простой линейной регрессии в качестве нулевой гипотезы предположим, что между переменными μy(i) и Хi существует линейная взаимосвязь μ y(i) =α* Х i +β. Уравнение μ y(i) =α* Х i +β можно переписать в обобщенном виде (для всех Х и μ y ) как μ y =α* Х +β.
Для наглядности проведем прямую линию соединяющую все μy(i).
Данная линия называется регрессионной линией генеральной совокупности (population regression line), параметры которой ( наклон a и сдвиг β ) нам не известны (по аналогии с гипотезой о среднем значении генеральной совокупности , где нам было неизвестно истинное значение μ).
Теперь сделаем переход от нашего предположения, что μy=a* Х + β , к предсказанию значения случайной переменной Y в зависимости от значения контролируемой переменной Х. Для этого уравнение связи двух переменных запишем в виде Y=a*X+β+ε, где ε — случайная ошибка, которая отражает суммарный эффект влияния других факторов на Y (эти «другие» факторы не участвуют в нашей модели). Напомним, что т.к. переменная Х фиксирована, то ошибка ε определяется только свойствами переменной Y.
Уравнение Y=a*X+b+ε называют линейной регрессионной моделью . Часто Х еще называют независимой переменной (еще предиктором и регрессором , английский термин predictor , regressor ), а Y – зависимой (или объясняемой , response variable ). Так как регрессор у нас один, то такая модель называется простой линейной регрессионной моделью ( simple linear regression model ). α часто называют коэффициентом регрессии.
Предположения линейной регрессионной модели перечислены в следующем разделе.
Предположения линейной регрессионной модели
Чтобы модель линейной регрессии Yi=a*Xi+β+ε i была адекватной — требуется:
- Ошибки ε i должны быть независимыми переменными;
- При каждом значении Xi ошибки ε i должны быть иметь нормальное распределение (также предполагается равенство нулю математического ожидания, т.е. Е[ε i ]=0);
- При каждом значении Xi ошибки ε i должны иметь равные дисперсии (обозначим ее σ 2 ).
Примечание : Последнее условие называется гомоскедастичность — стабильность, гомогенность дисперсии случайной ошибки e. Т.е. дисперсия ошибки σ 2 не должна зависеть от значения Xi.
Используя предположение о равенстве математического ожидания Е[ε i ]=0 покажем, что μy(i)=Е[Yi]:
Е[Yi]= Е[a*Xi+β+ε i ]= Е[a*Xi+β]+ Е[ε i ]= a*Xi+β= μy(i), т.к. a, Xi и β постоянные значения.
Дисперсия случайной переменной Y равна дисперсии ошибки ε, т.е. VAR(Y)= VAR(ε)=σ 2 . Это является следствием, что все значения переменной Х являются const, а VAR(ε)=VAR(ε i ).
Задачи регрессионного анализа
Для проверки гипотезы о линейной взаимосвязи переменной Y от X делают выборку из генеральной совокупности (этой совокупности соответствует регрессионная линия генеральной совокупности , т.е. μy=a* Х +β). Выборка будет состоять из n точек, т.е. из n пар значений .
На основании этой выборки мы можем вычислить оценки наклона a и сдвига β, которые обозначим соответственно a и b . Также часто используются обозначения â и b̂.
Далее, используя эти оценки, мы также можем проверить гипотезу: имеется ли линейная связь между X и Y статистически значимой?
Первая задача регрессионного анализа – оценка неизвестных параметров ( estimation of the unknown parameters ). Подробнее см. раздел Оценки неизвестных параметров модели .
Вторая задача регрессионного анализа – Проверка адекватности модели ( model adequacy checking ).
Примечание : Оценки параметров модели обычно вычисляются методом наименьших квадратов (МНК), которому посвящена отдельная статья .
Оценка неизвестных параметров линейной модели (используя функции MS EXCEL)
Неизвестные параметры простой линейной регрессионной модели Y=a*X+β+ε оценим с помощью метода наименьших квадратов (в статье про МНК подробно описано этот метод ).
Для вычисления параметров линейной модели методом МНК получены следующие выражения:
Таким образом, мы получим уравнение прямой линии Y= a *X+ b , которая наилучшим образом аппроксимирует имеющиеся данные.
Примечание : В статье про метод наименьших квадратов рассмотрены случаи аппроксимации линейной и квадратичной функцией , а также степенной , логарифмической и экспоненциальной функцией .
Оценку параметров в MS EXCEL можно выполнить различными способами:
Сначала рассмотрим функции НАКЛОН() , ОТРЕЗОК() и ЛИНЕЙН() .
Пусть значения Х и Y находятся соответственно в диапазонах C 23: C 83 и B 23: B 83 (см. файл примера внизу статьи).
Примечание : Значения двух переменных Х и Y можно сгенерировать, задав тренд и величину случайного разброса (см. статью Генерация данных для линейной регрессии в MS EXCEL ).
В MS EXCEL наклон прямой линии а ( оценку коэффициента регрессии ), можно найти по методу МНК с помощью функции НАКЛОН() , а сдвиг b ( оценку постоянного члена или константы регрессии ), с помощью функции ОТРЕЗОК() . В английской версии это функции SLOPE и INTERCEPT соответственно.
Аналогичный результат можно получить с помощью функции ЛИНЕЙН() , английская версия LINEST (см. статью об этой функции ).
Формула =ЛИНЕЙН(C23:C83;B23:B83) вернет наклон а . А формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) — сдвиг b . Здесь требуются пояснения.
Функция ЛИНЕЙН() имеет 4 аргумента и возвращает целый массив значений:
ЛИНЕЙН(известные_значения_y; [известные_значения_x]; [конст]; [статистика])
Если 4-й аргумент статистика имеет значение ЛОЖЬ или опущен, то функция ЛИНЕЙН() возвращает только оценки параметров модели: a и b .
Примечание : Остальные значения, возвращаемые функцией ЛИНЕЙН() , нам потребуются при вычислении стандартных ошибок и для проверки значимости регрессии . В этом случае аргумент статистика должен иметь значение ИСТИНА.
Чтобы вывести сразу обе оценки:
- в одной строке необходимо выделить 2 ячейки,
- ввести формулу в Строке формул
- нажать CTRL+SHIFT+ENTER (см. статью про формулы массива ).
Если в Строке формул выделить формулу = ЛИНЕЙН(C23:C83;B23:B83) и нажать клавишу F9 , то мы увидим что-то типа <3,01279389265416;154,240057900613>. Это как раз значения a и b . Как видно, оба значения разделены точкой с запятой «;», что свидетельствует, что функция вернула значения «в нескольких ячейках одной строки».
Если требуется вывести параметры линии не в одной строке, а одном столбце (ячейки друг под другом), то используйте формулу = ТРАНСП(ЛИНЕЙН(C23:C83;B23:B83)) . При этом выделять нужно 2 ячейки в одном столбце. Если теперь выделить новую формулу и нажать клавишу F9, то мы увидим что 2 значения разделены двоеточием «:», что означает, что значения выведены в столбец (функция ТРАНСП() транспонировала строку в столбец ).
Чтобы разобраться в этом подробнее необходимо ознакомиться с формулами массива .
Чтобы не связываться с вводом формул массива , можно использовать функцию ИНДЕКС() . Формула = ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);1) или просто ЛИНЕЙН(C23:C83;B23:B83) вернет параметр, отвечающий за наклон линии, т.е. а . Формула =ИНДЕКС(ЛИНЕЙН(C23:C83;B23:B83);2) вернет параметр b .
Оценка неизвестных параметров линейной модели (через статистики выборок)
Наклон линии, т.е. коэффициент а , можно также вычислить через коэффициент корреляции и стандартные отклонения выборок :
= КОРРЕЛ(B23:B83;C23:C83) *(СТАНДОТКЛОН.В(C23:C83)/ СТАНДОТКЛОН.В(B23:B83))
Вышеуказанная формула математически эквивалентна отношению ковариации выборок Х и Y и дисперсии выборки Х:
И, наконец, запишем еще одну формулу для нахождения сдвига b . Воспользуемся тем фактом, что линия регрессии проходит через точку средних значений переменных Х и Y.
Вычислив средние значения и подставив в формулу ранее найденный наклон а , получим сдвиг b .
Оценка неизвестных параметров линейной модели (матричная форма)
Также параметры линии регрессии можно найти в матричной форме (см. файл примера лист Матричная форма ).
В формуле символом β обозначен столбец с искомыми параметрами модели: β0 (сдвиг b ), β1 (наклон a ).
Матрица Х равна:
Матрица Х называется регрессионной матрицей или матрицей плана . Она состоит из 2-х столбцов и n строк, где n – количество точек данных. Первый столбец — столбец единиц, второй – значения переменной Х.
Матрица Х T – это транспонированная матрица Х . Она состоит соответственно из n столбцов и 2-х строк.
В формуле символом Y обозначен столбец значений переменной Y.
Чтобы перемножить матрицы используйте функцию МУМНОЖ() . Чтобы найти обратную матрицу используйте функцию МОБР() .
Пусть дан массив значений переменных Х и Y (n=10, т.е.10 точек).
Слева от него достроим столбец с 1 для матрицы Х.
и введя ее как формулу массива в 2 ячейки, получим оценку параметров модели.
Красота применения матричной формы полностью раскрывается в случае множественной регрессии .
Построение линии регрессии
Для отображения линии регрессии построим сначала диаграмму рассеяния , на которой отобразим все точки (см. начало статьи ).
Для построения прямой линии используйте вычисленные выше оценки параметров модели a и b (т.е. вычислите у по формуле y = a * x + b ) или функцию ТЕНДЕНЦИЯ() .
Формула = ТЕНДЕНЦИЯ($C$23:$C$83;$B$23:$B$83;B23) возвращает расчетные (прогнозные) значения ŷi для заданного значения Хi из столбца В2 .
Примечание : Линию регрессии можно также построить с помощью функции ПРЕДСКАЗ() . Эта функция возвращает прогнозные значения ŷi, но, в отличие от функции ТЕНДЕНЦИЯ() работает только в случае одного регрессора. Функция ТЕНДЕНЦИЯ() может быть использована и в случае множественной регрессии (в этом случае 3-й аргумент функции должен быть ссылкой на диапазон, содержащий все значения Хi для выбранного наблюдения i).
Как видно из диаграммы выше линия тренда и линия регрессии не обязательно совпадают: отклонения точек от линии тренда случайны, а МНК лишь подбирает линию наиболее точно аппроксимирующую случайные точки данных.
Линию регрессии можно построить и с помощью встроенных средств диаграммы, т.е. с помощью инструмента Линия тренда. Для этого выделите диаграмму, в меню выберите вкладку Макет , в группе Анализ нажмите Линия тренда , затем Линейное приближение. В диалоговом окне установите галочку Показывать уравнение на диаграмме (подробнее см. в статье про МНК ).
Построенная таким образом линия, разумеется, должна совпасть с ранее построенной нами линией регрессии, а параметры уравнения a и b должны совпасть с параметрами уравнения отображенными на диаграмме.
Примечание: Для того, чтобы вычисленные параметры уравнения a и b совпадали с параметрами уравнения на диаграмме, необходимо, чтобы тип у диаграммы был Точечная, а не График , т.к. тип диаграммы График не использует значения Х, а вместо значений Х используется последовательность 1; 2; 3; . Именно эти значения и берутся при расчете параметров линии тренда . Убедиться в этом можно если построить диаграмму График (см. файл примера ), а значения Хнач и Хшаг установить равным 1. Только в этом случае параметры уравнения на диаграмме совпадут с a и b .
Коэффициент детерминации R 2
Коэффициент детерминации R 2 показывает насколько полезна построенная нами линейная регрессионная модель .
Предположим, что у нас есть n значений переменной Y и мы хотим предсказать значение yi, но без использования значений переменной Х (т.е. без построения регрессионной модели ). Очевидно, что лучшей оценкой для yi будет среднее значение ȳ. Соответственно, ошибка предсказания будет равна (yi — ȳ).
Примечание : Далее будет использована терминология и обозначения дисперсионного анализа .
После построения регрессионной модели для предсказания значения yi мы будем использовать значение ŷi=a*xi+b. Ошибка предсказания теперь будет равна (yi — ŷi).
Теперь с помощью диаграммы сравним ошибки предсказания полученные без построения модели и с помощью модели.
Очевидно, что используя регрессионную модель мы уменьшили первоначальную (полную) ошибку (yi — ȳ) на значение (ŷi — ȳ) до величины (yi — ŷi).
(yi — ŷi) – это оставшаяся, необъясненная ошибка.
Очевидно, что все три ошибки связаны выражением:
(yi — ȳ)= (ŷi — ȳ) + (yi — ŷi)
Можно показать, что в общем виде справедливо следующее выражение:
или в других, общепринятых в зарубежной литературе, обозначениях:
Total Sum of Squares = Regression Sum of Squares + Error Sum of Squares
Примечание : SS — Sum of Squares — Сумма Квадратов.
Как видно из формулы величины SST, SSR, SSE имеют размерность дисперсии (вариации) и соответственно описывают разброс (изменчивость): Общую изменчивость (Total variation), Изменчивость объясненную моделью (Explained variation) и Необъясненную изменчивость (Unexplained variation).
По определению коэффициент детерминации R 2 равен:
R 2 = Изменчивость объясненная моделью / Общая изменчивость.
Этот показатель равен квадрату коэффициента корреляции и в MS EXCEL его можно вычислить с помощью функции КВПИРСОН() или ЛИНЕЙН() :
R 2 принимает значения от 0 до 1 (1 соответствует идеальной линейной зависимости Y от Х). Однако, на практике малые значения R2 вовсе не обязательно указывают, что переменную Х нельзя использовать для прогнозирования переменной Y. Малые значения R2 могут указывать на нелинейность связи или на то, что поведение переменной Y объясняется не только Х, но и другими факторами.
Стандартная ошибка регрессии
Стандартная ошибка регрессии ( Standard Error of a regression ) показывает насколько велика ошибка предсказания значений переменной Y на основании значений Х. Отдельные значения Yi мы можем предсказывать лишь с точностью +/- несколько значений (обычно 2-3, в зависимости от формы распределения ошибки ε).
Теперь вспомним уравнение линейной регрессионной модели Y=a*X+β+ε. Ошибка ε имеет случайную природу, т.е. является случайной величиной и поэтому имеет свою функцию распределения со средним значением μ и дисперсией σ 2 .
Оценив значение дисперсии σ 2 и вычислив из нее квадратный корень – получим Стандартную ошибку регрессии. Чем точки наблюдений на диаграмме рассеяния ближе находятся к прямой линии, тем меньше Стандартная ошибка.
Примечание : Вспомним , что при построении модели предполагается, что среднее значение ошибки ε равно 0, т.е. E[ε]=0.
Оценим дисперсию σ 2 . Помимо вычисления Стандартной ошибки регрессии эта оценка нам потребуется в дальнейшем еще и при построении доверительных интервалов для оценки параметров регрессии a и b .
Для оценки дисперсии ошибки ε используем остатки регрессии — разности между имеющимися значениями yi и значениями, предсказанными регрессионной моделью ŷ. Чем лучше регрессионная модель согласуется с данными (точки располагается близко к прямой линии), тем меньше величина остатков.
Для оценки дисперсии σ 2 используют следующую формулу:
где SSE – сумма квадратов значений ошибок модели ε i =yi — ŷi ( Sum of Squared Errors ).
SSE часто обозначают и как SSres – сумма квадратов остатков ( Sum of Squared residuals ).
Оценка дисперсии s 2 также имеет общепринятое обозначение MSE (Mean Square of Errors), т.е. среднее квадратов ошибок или MSRES (Mean Square of Residuals), т.е. среднее квадратов остатков . Хотя правильнее говорить сумме квадратов остатков, т.к. ошибка чаще ассоциируется с ошибкой модели ε, которая является непрерывной случайной величиной. Но, здесь мы будем использовать термины SSE и MSE, предполагая, что речь идет об остатках.
Примечание : Напомним, что когда мы использовали МНК для нахождения параметров модели, то критерием оптимизации была минимизация именно SSE (SSres). Это выражение представляет собой сумму квадратов расстояний между наблюденными значениями yi и предсказанными моделью значениями ŷi, которые лежат на линии регрессии.
Математическое ожидание случайной величины MSE равно дисперсии ошибки ε, т.е. σ 2 .
Чтобы понять почему SSE выбрана в качестве основы для оценки дисперсии ошибки ε, вспомним, что σ 2 является также дисперсией случайной величины Y (относительно среднего значения μy, при заданном значении Хi). А т.к. оценкой μy является значение ŷi = a * Хi + b (значение уравнения регрессии при Х= Хi), то логично использовать именно SSE в качестве основы для оценки дисперсии σ 2 . Затем SSE усредняется на количество точек данных n за вычетом числа 2. Величина n-2 – это количество степеней свободы ( df – degrees of freedom ), т.е. число параметров системы, которые могут изменяться независимо (вспомним, что у нас в этом примере есть n независимых наблюдений переменной Y). В случае простой линейной регрессии число степеней свободы равно n-2, т.к. при построении линии регрессии было оценено 2 параметра модели (на это было «потрачено» 2 степени свободы ).
Итак, как сказано было выше, квадратный корень из s 2 имеет специальное название Стандартная ошибка регрессии ( Standard Error of a regression ) и обозначается SEy. SEy показывает насколько велика ошибка предсказания. Отдельные значения Y мы можем предсказывать с точностью +/- несколько значений SEy (см. этот раздел ). Если ошибки предсказания ε имеют нормальное распределение , то примерно 2/3 всех предсказанных значений будут на расстоянии не больше SEy от линии регрессии . SEy имеет размерность переменной Y и откладывается по вертикали. Часто на диаграмме рассеяния строят границы предсказания соответствующие +/- 2 SEy (т.е. 95% точек данных будут располагаться в пределах этих границ).
В MS EXCEL стандартную ошибку SEy можно вычислить непосредственно по формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))
или с помощью функции ЛИНЕЙН() :
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
Стандартные ошибки и доверительные интервалы для наклона и сдвига
В разделе Оценка неизвестных параметров линейной модели мы получили точечные оценки наклона а и сдвига b . Так как эти оценки получены на основе случайных величин (значений переменных Х и Y), то эти оценки сами являются случайными величинами и соответственно имеют функцию распределения со средним значением и дисперсией . Но, чтобы перейти от точечных оценок к интервальным , необходимо вычислить соответствующие стандартные ошибки (т.е. стандартные отклонения ).
Стандартная ошибка коэффициента регрессии a вычисляется на основании стандартной ошибки регрессии по следующей формуле:
где Sx – стандартное отклонение величины х, вычисляемое по формуле:
где Sey – стандартная ошибка регрессии, т.е. ошибка предсказания значения переменой Y ( см. выше ).
В MS EXCEL стандартную ошибку коэффициента регрессии Se можно вычислить впрямую по вышеуказанной формуле:
= КОРЕНЬ(СУММКВРАЗН(C23:C83; ТЕНДЕНЦИЯ(C23:C83;B23:B83;B23:B83)) /( СЧЁТ(B23:B83) -2))/ СТАНДОТКЛОН.В(B23:B83) /КОРЕНЬ(СЧЁТ(B23:B83) -1)
или с помощью функции ЛИНЕЙН() :
Формулы приведены в файле примера на листе Линейный в разделе Регрессионная статистика .
Примечание : Подробнее о функции ЛИНЕЙН() см. эту статью .
При построении двухстороннего доверительного интервала для коэффициента регрессии его границы определяются следующим образом:
где — квантиль распределения Стьюдента с n-2 степенями свободы. Величина а с «крышкой» является другим обозначением наклона а .
Например для уровня значимости альфа=0,05, можно вычислить с помощью формулы =СТЬЮДЕНТ.ОБР.2Х(0,05;n-2)
Вышеуказанная формула следует из того факта, что если ошибки регрессии распределены нормально и независимо, то выборочное распределение случайной величины
является t-распределением Стьюдента с n-2 степенью свободы (то же справедливо и для наклона b ).
Примечание : Подробнее о построении доверительных интервалов в MS EXCEL можно прочитать в этой статье Доверительные интервалы в MS EXCEL .
В результате получим, что найденный доверительный интервал с вероятностью 95% (1-0,05) накроет истинное значение коэффициента регрессии. Здесь мы считаем, что коэффициент регрессии a имеет распределение Стьюдента с n-2 степенями свободы (n – количество наблюдений, т.е. пар Х и Y).
Примечание : Подробнее о построении доверительных интервалов с использованием t-распределения см. статью про построение доверительных интервалов для среднего .
Стандартная ошибка сдвига b вычисляется по следующей формуле:
В MS EXCEL стандартную ошибку сдвига Seb можно вычислить с помощью функции ЛИНЕЙН() :
При построении двухстороннего доверительного интервала для сдвига его границы определяются аналогичным образом как для наклона : b +/- t*Seb.
Проверка значимости взаимосвязи переменных
Когда мы строим модель Y=αX+β+ε мы предполагаем, что между Y и X существует линейная взаимосвязь. Однако, как это иногда бывает в статистике, можно вычислять параметры связи даже тогда, когда в действительности она не существует, и обусловлена лишь случайностью.
Единственный вариант, когда Y не зависит X (в рамках модели Y=αX+β+ε), возможен, когда коэффициент регрессии a равен 0.
Чтобы убедиться, что вычисленная нами оценка наклона прямой линии не обусловлена лишь случайностью (не случайно отлична от 0), используют проверку гипотез . В качестве нулевой гипотезы Н 0 принимают, что связи нет, т.е. a=0. В качестве альтернативной гипотезы Н 1 принимают, что a <>0.
Ниже на рисунках показаны 2 ситуации, когда нулевую гипотезу Н 0 не удается отвергнуть.
На левой картинке отсутствует любая зависимость между переменными, на правой – связь между ними нелинейная, но при этом коэффициент линейной корреляции равен 0.
Ниже — 2 ситуации, когда нулевая гипотеза Н 0 отвергается.
На левой картинке очевидна линейная зависимость, на правой — зависимость нелинейная, но коэффициент корреляции не равен 0 (метод МНК вычисляет показатели наклона и сдвига просто на основании значений выборки).
Для проверки гипотезы нам потребуется:
- Установить уровень значимости , пусть альфа=0,05;
- Рассчитать с помощью функции ЛИНЕЙН() стандартное отклонение Se для коэффициента регрессии (см. предыдущий раздел );
- Рассчитать число степеней свободы: DF=n-2 или по формуле = ИНДЕКС(ЛИНЕЙН(C24:C84;B24:B84;;ИСТИНА);4;2)
- Вычислить значение тестовой статистики t 0 =a/S e , которая имеет распределение Стьюдента с числом степеней свободы DF=n-2;
- Сравнить значение тестовой статистики |t0| с пороговым значением t альфа ,n-2. Если значение тестовой статистики больше порогового значения, то нулевая гипотеза отвергается ( наклон не может быть объяснен лишь случайностью при заданном уровне альфа) либо
- вычислить p-значение и сравнить его с уровнем значимости .
В файле примера приведен пример проверки гипотезы:
Изменяя наклон тренда k (ячейка В8 ) можно убедиться, что при малых углах тренда (например, 0,05) тест часто показывает, что связь между переменными случайна. При больших углах (k>1), тест практически всегда подтверждает значимость линейной связи между переменными.
Примечание : Проверка значимости взаимосвязи эквивалентна проверке статистической значимости коэффициента корреляции . В файле примера показана эквивалентность обоих подходов. Также проверку значимости можно провести с помощью процедуры F-тест .
Доверительные интервалы для нового наблюдения Y и среднего значения
Вычислив параметры простой линейной регрессионной модели Y=aX+β+ε мы получили точечную оценку значения нового наблюдения Y при заданном значении Хi, а именно: Ŷ= a * Хi + b
Ŷ также является точечной оценкой для среднего значения Yi при заданном Хi. Но, при построении доверительных интервалов используются различные стандартные ошибки .
Стандартная ошибка нового наблюдения Y при заданном Хi учитывает 2 источника неопределенности:
- неопределенность связанную со случайностью оценок параметров модели a и b ;
- случайность ошибки модели ε.
Учет этих неопределенностей приводит к стандартной ошибке S(Y|Xi), которая рассчитывается с учетом известного значения Xi.
где SS xx – сумма квадратов отклонений от среднего значений переменной Х:
В MS EXCEL 2010 нет функции, которая бы рассчитывала эту стандартную ошибку , поэтому ее необходимо рассчитывать по вышеуказанным формулам.
Доверительный интервал или Интервал предсказания для нового наблюдения (Prediction Interval for a New Observation) построим по схеме показанной в разделе Проверка значимости взаимосвязи переменных (см. файл примера лист Интервалы ). Т.к. границы интервала зависят от значения Хi (точнее от расстояния Хi до среднего значения Х ср ), то интервал будет постепенно расширяться при удалении от Х ср .
Границы доверительного интервала для нового наблюдения рассчитываются по формуле:
Аналогичным образом построим доверительный интервал для среднего значения Y при заданном Хi (Confidence Interval for the Mean of Y). В этом случае доверительный интервал будет уже, т.к. средние значения имеют меньшую изменчивость по сравнению с отдельными наблюдениями ( средние значения, в рамках нашей линейной модели Y=aX+β+ε, не включают ошибку ε).
Стандартная ошибка S(Yср|Xi) вычисляется по практически аналогичным формулам как и стандартная ошибка для нового наблюдения:
Как видно из формул, стандартная ошибка S(Yср|Xi) меньше стандартной ошибки S(Y|Xi) для индивидуального значения .
Границы доверительного интервала для среднего значения рассчитываются по формуле:
Проверка адекватности линейной регрессионной модели
Модель адекватна, когда все предположения, лежащие в ее основе, выполнены (см. раздел Предположения линейной регрессионной модели ).
Проверка адекватности модели в основном основана на исследовании остатков модели (model residuals), т.е. значений ei=yi – ŷi для каждого Хi. В рамках простой линейной модели n остатков имеют только n-2 связанных с ними степеней свободы . Следовательно, хотя, остатки не являются независимыми величинами, но при достаточно большом n это не оказывает какого-либо влияния на проверку адекватности модели.
Чтобы проверить предположение о нормальности распределения ошибок строят график проверки на нормальность (Normal probability Plot).
В файле примера на листе Адекватность построен график проверки на нормальность . В случае нормального распределения значения остатков должны быть близки к прямой линии.
Так как значения переменной Y мы генерировали с помощью тренда , вокруг которого значения имели нормальный разброс, то ожидать сюрпризов не приходится – значения остатков располагаются вблизи прямой.
Также при проверке модели на адекватность часто строят график зависимости остатков от предсказанных значений Y. Если точки не демонстрируют характерных, так называемых «паттернов» (шаблонов) типа вор о нок или другого неравномерного распределения, в зависимости от значений Y, то у нас нет очевидных доказательств неадекватности модели.
В нашем случае точки располагаются примерно равномерно.
Часто при проверке адекватности модели вместо остатков используют нормированные остатки. Как показано в разделе Стандартная ошибка регрессии оценкой стандартного отклонения ошибок является величина SEy равная квадратному корню из величины MSE. Поэтому логично нормирование остатков проводить именно на эту величину.
SEy можно вычислить с помощью функции ЛИНЕЙН() :
Иногда нормирование остатков производится на величину стандартного отклонения остатков (это мы увидим в статье об инструменте Регрессия , доступного в надстройке MS EXCEL Пакет анализа ), т.е. по формуле:
Вышеуказанное равенство приблизительное, т.к. среднее значение остатков близко, но не обязательно точно равно 0.
Источник
$begingroup$
With the Data Analysis command in Excel I made a plot, which I can’t post, because this is my first post ever.
X - abortions, Y - maternal deaths.
SUMMARY OUTPUT is this:
Regression Statistics
Multiple R 0.796827692
R Square 0.634934371
Adjusted R Square 0.612117769
Standard Error 9.360700845
Observations 18
ANOVA
df SS MS F Significance F
Regression 1 2438.341925 2438.341925 27.82773596 7.54568E-05
Residual 16 1401.963525 87.62272032
Total 17 3840.30545
Coefficients Standard Error t Stat P-value Lower 95% Upper 95% Lower 95.0% Upper 95.0%
Intercept 16.80848279 8.155297195 2.06105092 0.055938494 -0.479974838 34.09694041 -0.479974838 34.09694041
X Variable 1 0.000645551 0.000122375 5.275200087 7.54568E-05 0.000386128 0.000904973 0.000386128 0.000904973
RESIDUAL OUTPUT
Observation Predicted Y Residuals
1 65.10793207 -0.157932075
2 82.68111012 -7.861110124
3 76.14620154 -14.17620154
4 71.93721172 -3.117211723
5 68.91926273 7.810737266
6 66.32285828 3.197141723
7 60.35861641 16.68138359
8 60.13396481 19.00603519
9 58.92678521 7.643214785
10 56.63572619 5.004273815
11 56.81002484 -7.890024844
12 52.19433815 -0.254338154
13 49.92070899 -7.980708991
14 47.42630153 -10.79630153
15 45.88472673 -5.024726728
16 44.74791215 0.982087854
17 43.49489846 4.025101541
18 40.40142005 -7.091420051
Question is: how to test all assumptions (e.g. outliers, normality, homoscedasticity) of the regression analysis? Can I figure out those with Excel? I also just downloaded Mathematica software — so, I am not familiar with it, but would like to use it if necessary. If you could help me with detailed steps?
smillig
2,38329 silver badges31 bronze badges
asked Aug 28, 2012 at 11:32
$endgroup$
5
$begingroup$
answered Aug 28, 2012 at 12:37
IrishStatIrishStat
28.7k5 gold badges32 silver badges59 bronze badges
$endgroup$
$begingroup$
I do not know anything about the particular software you have, but I can talk about methodology that can be used. In regression you can look for outliers by testing for points that exert high influence on the regression parameters. This is done by computing the influence function which essentially looks at how much the estimate changes when the data point in question is removed. Normality can be checked graphically by generating qq plots of residuals and looking for departures from a straight line. Goodness of fit tests on the residuals such as the Shapiro-Wilk test can formally test for normality.
One way to look for change in variance would be to estimate the varaince of the residuals in one portion of the x space and test equality of variances by comparing it with the estimate is a different region of the x space. An F test can be applied.
answered Aug 28, 2012 at 12:02
$endgroup$
0