СОДЕРЖАНИЕ
ПЕРЕЧЕНЬ УСЛОВНЫХ ОБОЗНАЧЕНИЙ И ТЕРМИНОВ
ВВЕДЕНИЕ
1. ПРОГРАММИРОВАНИЕ В STATISTICA
2. ПРЕДПОСЫЛКИ МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ И ИХ РЕАЛИЗАЦИЯ В STATISTICA
2.1. Модель множественной линейной регрессии
2.2. Требования к остаткам
2.3. Проверка гипотезы о нормальности остатков в модуле MULTIPLE REGRESSION STATISTICA
3. СОЗДАНИЕ МАКРОСА ДЛЯ ПРОВЕРКИ ГИПОТЕЗЫ О НОРМАЛЬНОСТИОСТАТКОВ
3.1. Описание макроса
3.2. Проверка гипотезы о нормальности остатков в моделивторичного рынка жилья в г. Минске
ЗАКЛЮЧЕНИЕ
ПРИЛОЖЕНИЕ А. Листинг программы
ПРИЛОЖЕНИЕ Б. Листинг программы
ПРИЛОЖЕНИЕ В. Глобальные переменные
ПЕРЕЧЕНЬ УСЛОВНЫХОБОЗНАЧЕНИЙ И ТЕРМИНОВ
SVB — Statistica Visual Basic.
МНК — метод наименьшихквадратов.
ВВЕДЕНИЕ
Множественная линейнаярегрессия выражает линейные связи между переменными в уравнении при нормальномраспределении остатков. Если эти предположения нарушены, заключение не можетбыть точным, т.е. модель не может быть использована для принятия решений иосуществления прогнозов. В связи с этим при построении модели множественнойлинейной регрессии особое внимание необходимо уделять проверке гипотезы онормальном распределении остатков.
Создание макросов — полезная и зачастую необходимая процедура, которая присутствует во многихпрограммных продуктах, в том числе и в программе STATISTICA.Основное ее назначение — автоматизация обработки данных и соответственно значительная экономия времени.В ходе выполнения множественного регрессионного анализа в модуле Multiple Regression пакета STATISTICA исследование остатков нанормальность можно осуществить лишь графическими методами, что приводит кнеобходимости обращаться к другому встроенному модулю (Distribution Fitting), что требует значительных затрат времени. Длярешения данной проблемы был написан макрос на языке SVB.
Предметом исследованияданной работы является создание макроса для проверки гипотезы о нормальностиостатков множественной регрессии.
Целью данной курсовойработы является создание макроса на языке SVB для проверки гипотезы о нормальности остатковмножественной регрессии.
Для достиженияпоставленной цели необходимо решить следующие задачи:
— изучить возможностипрограммирования на языке SVB впакете STATISTICA;
— рассмотреть модельмножественной линейной регрессии и предпосылки МНК;
— описать процесспроверки гипотезы о нормальности остатков в модуле MULTIPLE REGRESSION STATISTICA;
— создать макрос дляпроверки гипотезы о нормальности остатков;
— осуществить проверкугипотезы о нормальности остатков в модели вторичного рынка жилья в г. Минске.
В курсовой работеиспользованы анализ и синтез, аналитический метод, графический метод, методымоделирования и проектирования.
Работа представлена на 48страницах и состоит из введения, трех разделов (пяти подразделов), заключения,списка использованных источников, приложений.
В первом разделеисследуются возможности программирования на языке SVB в пакете STATISTICA. Во втором разделе раскрываются предпосылки МНК и ихреализация в STATISTICA. Третий раздел носитисследовательский характер. В нем описывается создание и применение макроса дляпроверки гипотезы о нормальности остатков.
В данной курсовой работебыла использована литература отечественных и зарубежных авторов. Большоевнимание уделялось учебным пособиям таких авторов, как И.И. Елисеева, О.Н.Салманов, Кристофер Доугерти и др. При написании курсовой работы также былииспользованы данные Интернет-источников.
1. ПРОГРАММИРОВАНИЕ ВSTATISTICA
STATISTICA Visual Basic(SVB) — это язык программирования, интегрированный в программу STATISTICA. Онпредоставляет намного больше возможностей, чем просто «вспомогательныйязык программирования». SVBиспользует огромные преимущества объектно-ориентированной структуры системыSTATISTICA и позволяет получить доступ практически ко всем функциональным возможностямпакета программными средствами. [советник по макросам-СПМ]
Очень часто пристатистической обработке однотипных наборов данных приходится периодически имногократно выполнять одну и ту же серию операций. Сложные процедуры анализа играфический вывод результатов можно записать как макрос SVB для дальнейшегоиспользования и редактирования. Макросы представляют собой самостоятельныеблоки, которые легко встраиваются в другие приложения. [советник помакросам-СПМ]
Существует несколькометодов создания макросов SVB:
1. Автоматическая запись макроса. Каждыйраз при выполнении процедур из меню Statisticsили Graphs, SVB записывает в фоновом режиме программный код, соответствующийвсем спецификациям процедур и параметрам вывода. Этот код может впоследствии многократновыполняться и редактироваться. В процессе редактирования можно изменятьнастройки процедур анализа, используемые переменные и их спецификации, файлыданных, добавлять элементы пользовательского интерфейса и т.д.
2. Макросы могут быть написаны с нуля спомощью профессиональной среды разработчика SVB (рис.1). Данная среда представляет собой удобный редактор программногокода с мощным отладчиком. Кроме того, имеется наглядный мастер созданиядиалогов, а также множество других удобных функций для эффективного написаниямакросов.
/>
Рис. 1. Диалог Macros
3. SVB макросы могут создаваться на основе уже готовых программ на VISUAL BASIC, написанных в других приложениях (например, MICROSOFT EXCEL), путем добавления встроенных процедур и функций STATISTICA.[scaner 497-498]
В STATISTICA предусмотрено три категории макросов,которые могут быть автоматически написаны. Для активации этих макросов в меню Toolsна панели инструментов выделитекоманду Macro (рис.2).[scaner c. 498]
/>
Рис. 2. Редактор макросовVISUAL BASIC
1. Analysis/GraphMacro(макрос анализа/графика) — макросы, создаваемые дляконкретных типов анализа из меню Statisticsи Graphs. В макросзаписываются все настройки, параметры, присущие данному типу анализа, а такжепеременные, над которыми он проводится. После выбора модуля или процедуры изуказанных меню в фоновом режиме осуществляется запись всех выполняемыхдействий: выбор переменных, изменение параметров и др. В любой момент можноперенести записанную информацию (код макроса VISUAL BASIC) в окно редактора макросов VISUAL BASIC(см. рис. 1).
2. LogofAnalyses(MasterMacro) (мастер-макрос (журнал)) — макросы, содержащие любуюпоследовательность модулей из меню Statisticsили Graphs.В мастер-макрос записываетсяпоследовательность проведенных анализов с указанными для них параметрами ипеременными от момента включения записи макроса до ее отключения. Такая записьобъединяет различные модули, выбранные в меню Statisticsили Graphs.В отличие от простого AnalysisMacro, запись MasterMacrosможетбыть приостановлена и возобновлена. Запись мастера-макроса начинается принажатии кнопки записи и приостанавливается нажатием кнопки останова. Вседействия, совершенные между этими событиями, записываются в соответствующейпоследовательности: выбор файлов данных, операции преобразования переменных,выбор элементов и др.
3. KeyboardMacro(клавиатурный макрос) — макросы, содержащиепоследовательности нажатия клавиш во время проведения анализа. При остановкезаписи в окне редактора SVBоткроетсяпростая программа, содержащая одну команду SendKeysс символами, которые соответствуютклавишам, нажатым при проведении анализа. Данный тип макроса довольно прост — он не записывает контекст, в котором происходило нажатие клавиш (т.е. команды,которые при этом выбирались), но данное свойство может быть полезно для решенияопределенных задач.
Все три категориимакросов имеют одинаковый синтаксис и могут быть впоследствии модифицированы. [scaner c.499]
Средаразработки STATISTICA Visual Basic (см. рис. 2) содержит гибкий редакторпрограмм и мощные средства отладки.
Отладкамакросов. Средаразработки SVB позволяет устанавливать в программе точки останова, еслинеобходимо приостановить работу макроса на какой-либо строке и проверитьзначение переменных в этой точке программы. Предусмотрена возможностьвыполнения макроса по шагам.
Диспетчеробъектов. Объекты вSVB организованы в виде иерархического дерева объектов, и этот список можнонайти в окне Object Browser — Просмотр объектов (рис. 3).
/>
Рис.3. ОкноObject Browser — Просмотр объектов.
Мастерфункций. Существуетмножество функций STATISTICA и как правило, они доступны только в SVB. Эторасширение языка программирования Visual Basic, например, вероятностные,матричные функции, простые окна диалогов пользователя и т.д.
Редактордиалогов пользователя. Среда программирования SVBсодержит все необходимые средства для создания пользовательского интерфейса.Мощные средства User-Dialog Editor — Редактора диалогов позволяют проектироватьдиалоговые окна, используя мышь. В отличие от Microsoft Visual Basic, созданныепользователем диалоги хранятся вместе с программным кодом как данные типа UserDialog.Такой метод создания диалоговых окон позволяет реализовывать сложные элементыинтерфейса, которые легко редактируются в текстовом режиме; кроме того,определяя диалог, как переменную, к нему легко можно обращаться в любом местепрограммы.
2. ПРЕДПОСЫЛКИ МЕТОДАНАИМЕНЬШИХ КВАДРАТОВ И ИХ РЕАЛИЗАЦИЯ В STATISTICA
2.1 Модельмножественной линейной регрессии
В экономической практикечасто имеет место сложная, многопричинная статистическая связь междупризнаками.
Множественная регрессияпредставляет собой регрессию результативного признака с двумя и большим числомфакторов, т.е. модель вида:
/>[Елисеева-34]
Переменная /> называется зависимой переменной, вто время как переменные /> называютсянезависимыми переменными.[Afifi-164]
Задача оценкистатистической взаимосвязи переменных /> и />формулируется аналогичнослучаю парной регрессии. Записывается функция />,где b — вектор параметров, /> -случайная ошибка.Предполагается, что эта функция связывает переменную /> с вектором независимых переменных /> для данной генеральной совокупности. Предполагается,что ошибки />являются случайнымивеличинами с нулевым математическим ожиданием и постоянной дисперсией; />и /> статистическинезависимы при />. Крометого, для проверки статистической значимости оценок bобычно предполагается, что ошибки /> нормально распределены.
Для оценивания параметров/> применяется, как правило,метод наименьших квадратов. Уравнение регрессии с оцененными параметрами имеет вид
/>.[Салманов-44]
Практически в каждомотдельном случае величина у складывается из двух слагаемых:
/>
где />-фактическое значение результативного признака;
/>-теоретическое значение результативного признака, найденноеисходя из соответствующей математической функции связи />и />, т. е. изуравнения регрессии;
/> — случайная величина, характеризующая отклоненияреального значения результативного признака от теоретического, найденного поуравнению регрессии… [Елисеева-35]
Общий смысл оценивания пометоду наименьших квадратов заключается в минимизации суммы квадратовотклонений наблюдаемых значений зависимой переменной (/>) от значений,предсказанных моделью(/>).
/>,
где S- суммы квадратов отклонений
/>-остаток в наблюдении j.[net]
Построение уравнениямножественной регрессии начинается с решения вопроса о спецификации модели. Онавключает в себя два круга вопросов: отбор факторов и выбор вида уравнениярегрессии. [Елисеева-91]
Факторы, включаемые вомножественную регрессию, должны отвечать следующим требованиям.
1. Они должны бытьколичественно измеримы. [Елисеева-92] Для исследования влияния качественныхпризнаков в модель можно вводить бинарные (фиктивные) переменные,которые, как правило, принимают значение 1, если данный качественный признакприсутствует в наблюдении, и значение 0 при его отсутствии.[Магнус 100]
2. Факторы не должны бытьинтеркоррелированы и тем более находиться в точной функциональной связи.
Если между факторамисуществует высокая корреляция, то нельзя определить их изолированное влияние нарезультативный показатель и параметры уравнения регрессии оказываютсянеинтерпретируемыми. [Елисеева-92]
Коэффициентыинтеркорреляции (т. е. корреляции между объясняющими переменными) позволяютисключать из модели дублирующие факторы. Считается, что две переменных явно коллинеарны,т. е. находятся между собой в линейной зависимости, если />.
По величине парныхкоэффициентов корреляции обнаруживается лишь явная коллинеарность факторов.Наибольшие трудности в использовании аппарата множественной регрессии возникаютпри наличии мультиколлинеарности факторов, когда более чем два факторасвязаны между собой линейной зависимостью, т.е. имеет место совокупноевоздействие факторов друг на друга. Наличие мультиколлинеарности факторов можетозначать, что некоторые факторы будут всегда действовать в унисон. В результатевариация в исходных данных перестает быть полностью независимой, и нельзяоценить воздействие каждого фактора в отдельности. Чем сильнеемультиколлинеарность факторов, тем менее надежна оценка распределения суммыобъясненной вариации по отдельным факторам с помощью метода наименьшихквадратов (МНК). [Елисеева-94]
Выделим некоторые наиболее характерные признакимультиколлинеарности.
1. Небольшое изменение исходных данных(например, добавление новых наблюдений) приводит к существенному изменениюоценок коэффициентов модели.
2. Оценки имеют большие стандартныеошибки, малую значимость, в то время как модель в целом является значимой(высокое значение коэффициента детерминации R2и соответствующей F-статистики).
3. Оценки коэффициентов имеютнеправильные с точки зрения теории знаки или неоправданно большиезначения.[Магнус 94]
Подходы к отбору факторовна основе показателей корреляции могут быть разные. Наиболее широкое применениеполучили следующие методы построения уравнения множественной регрессии:
• метод исключения;
• метод включения;
• шаговыйрегрессионный анализ.
Каждый из этих методовпо-своему решает проблему отбора факторов, давая в целом близкие результаты — отсев факторов из полного его набора (метод исключения), дополнительноевведение фактора (метод включения), исключение ранее введенного фактора(шаговый регрессионный анализ).
Как и в парнойзависимости, возможны разные виды уравнений множественной регрессии: линейные инелинейные. [Елисеева-100] Линейные модели регрессии могут быть описаны каклинейные в двух отношениях: как линейные по переменным и как линейные попараметрам. Для линейного регрессионного анализа требуется линейность только попараметрам (/>),поскольку нелинейность по переменным (/>)может быть устранена с помощью изменения определений.[Доугерти 141]
В линейной множественнойрегрессии параметры при х называются коэффициентами регрессии (/>). Они характеризуютсреднее изменение результата (/>)с изменением соответствующего фактора (/>)на единицу при неизмененном значении других факторов, закрепленных на среднемуровне. [Елисеева-100]
Оценка значимостикоэффициентов чистой регрессии может быть проведена по t-критерию Стьюдента. В этом случае, как и в парной регрессии,для каждого фактора используется формула:
/>
где /> - коэффициент чистойрегрессии при факторе хi;
/> — средняя квадратическая ошибкакоэффициента регрессии />.
Для уравнениямножественной регрессии />
средняя квадратическаяошибка коэффициента регрессии /> может быть определена по следующей формуле:
/>
где /> - среднее квадратическоеотклонение для признака у;
/> - среднее квадратическое отклонениедля признака />;
/> - коэффициент детерминации дляуравнения множественной регрессии;
/> - коэффициент детерминации длязависимости фактора /> совсеми другими факторами уравнения множественной регрессии;
/> — число степеней свободы для остаточнойсуммы квадратов отклонений. [Елисеева-136-137]
Критический уровень t при любом уровне значимости зависитот числа степеней свободы, которое равно />: число наблюдений минус числооцененных параметров. [Доугерти 154]
Практическая значимостьуравнения множественной регрессии оценивается с помощью показателямножественной корреляции (/>) и егоквадрата – коэффициента детерминации (/>).[Елисеева-112]
Показатель множественнойкорреляции может быть найден как индекс множественной корреляции:
/>
где /> - общая дисперсиярезультативного признака;
/> - остаточная дисперсия для уравнения/>
Границы изменения индексамножественной корреляции: от 0 до 1. Чем ближе его значение к 1, тем теснеесвязь результативного признака со всем набором исследуемых факторов.[Елисеева-113]
Коэффициент детерминации /> определяет долю дисперсии />, объясненнуюрегрессией. [Доугерти 159]
Значимость уравнениямножественной регрессии в целом оценивается с помощью F-критерия Фишера:
/>
где /> - факторная сумма квадратов на одну степень свободы;
/> - остаточная сумма квадратов на одну степень свободы;
/> — коэффициент (индекс) множественнойдетерминации;
/> — число параметров при переменных /> (в линейнойрегрессии совпадает с числом включенных в модель факторов);
/> — число наблюдений. [Елисеева-129]
Смысл проверяемойгипотезы заключается в том, что все коэффициенты линейной регрессии, заисключением свободного параметра, равны нулю (случай отсутствия линейнойфункциональной связи).
/>
Величина F имеетраспределение Фишера с степенями свободы />. Распределение Фишера — двухпараметрическое распределение неотрицательной случайной величины,являющейся в частном случае при m = 1квадратом случайной величины, распределенной по Стьюденту. [Салманов 48]. Вопределенном смысле этот тест дополняет t-тесты, которые используются для проверки значимости вкладаотдельных случайных переменных, когда проверяется каждая из гипотез />… [Доугерти 160]
Для проверки нулевойгипотезы при заданном уровне значимости по таблицам находится критическоезначение Fкрит, и нулевая гипотеза отвергается, если />.
Распределение Фишераможет быть использовано не только для проверки гипотезы об одновременномравенстве нулю всех коэффициентов линейной регрессии, но и гипотезы о равенственулю части этих коэффициентов. Это особенно важно при развитии линейнойрегрессионной модели, так как позволяет оценить обоснованность исключенияотдельных переменных или их групп из числа объясняющих переменных или,наоборот, включения их в это число. [Салманов 48].
2.2 Требования костаткам
При оценке параметровуравнения регрессии применяется метод наименьших квадратов (МНК). При этомделаются определенные предпосылки относительно случайной составляющей />. В модели
/>
случайная составляющая /> представляет собой ненаблюдаемуювеличину. В задачу регрессионного анализа входит не только построение самоймодели, но и исследование случайных отклонений />, т. е. остаточных величин.
Проверка статистическойдостоверности коэффициентов регрессии и корреляции осуществляется с помощью t-критерия Стьюдента, F-критерия Фишера и Z-преобразования (для коэффициентовкорреляции). При использовании этих критериев делаются предположенияотносительно поведения остатков /> - остатки представляют собой независимые случайныевеличины и их среднее значение равно 0; они имеют одинаковую (постоянную)дисперсию и подчиняются нормальному распределению.
Оценки параметроврегрессии должны быть несмещенными, состоятельными и эффективными. Условия,необходимые для получения несмещенных, состоятельных и эффективных оценок,представляют собой предпосылки МНК, соблюдение которых желательно дляполучения достоверных результатов регрессии.
Исследования остатков /> предполагают проверку наличияследующих пяти предпосылок МНК:
1) случайный характер остатков;
2) нулевая средняя величина остатков, независящая от />;
3) гомоскедастичность — дисперсия каждого отклонения /> одинакова для всех значений х;
4) отсутствие автокорреляции остатков.Значения остатков /> распределены независимо друг от друга;
5) остатки подчиняются нормальномураспределению.
Если распределениеслучайных остатков /> не соответствует некоторым предпосылкам МНК, тоследует корректировать модель.
Прежде всего проверяетсяслучайный xapактер остатков /> - первая предпосылка МНК.
С этой целью стоитсяграфик зависимости остатков /> от теоретических значений результативного признака(рис. 3.2).
/>
Рис.3.2. Зависимостьслучайных остатков /> от теоретических значений />
Если на графике полученагоризонтальная полоса, то остатки /> представляют собой случайные величины и MНK оправдан, теоретические значения /> хорошо аппроксимируетфактические значения у.
Возможны следующиеслучаи: если /> зависит от />, то:
а) остатки /> не случайны;
б) остатки /> не имеют постоянной дисперсии;
в) остатки /> носят систематический характер.
В случаях а), б), в)необходимо либо применять другую функцию, либо вводить дополнительнуюинформацию и заново строить уравнение регрессии до тех пор, пока остатки /> не будут случайными величинами.
Вторая предпосылка МНКотносительно нулевой средней величины остатков означает, что/>. Это выполнимо для линейных моделейи моделей, нелинейных относительно включаемых переменных.
Вместе с темнесмещенность оценок коэффициентов регрессии, полученных МНК, зависит отнезависимости случайных остатков и величин х, что также исследуется врамках соблюдения второй предпосылки МНК. С этой целью строится графикзависимости случайных остатков /> от факторов, включенных в регрессию /> (рис. 3.4).
/>
Рис. 3.4. Зависимостьслучайных остатков от величины фактора />
Если остатки на графикерасположены в виде горизонтальной полосы (рис. 3.4), то они независимы отзначений />. Если же график показывает наличие зависимости /> и />, то модель неадекватна.
Предпосылка онормальном распределении остатков позволяет проводить проверку параметроврегрессии и корреляции с помощью критериев t, F.[1] Всегда,прежде чем сделать окончательные выводы, стоит рассмотреть распределенияпредставляющих интерес переменных. Можно построить гистограммы или нормальныевероятностные графики остатков для визуального анализа ихраспределения.[электрон-уч]
В соответствии с третьейпредпосылкой МНК требуется, чтобы дисперсия остатков была гомоскедастичной.Это значит, что для каждого значения фактора /> остатки /> имеют одинаковую дисперсию. Если это условиеприменения МНК не соблюдается, то имеет место гетероскедастичность. Наличиегетероскедастичности можно наглядно видеть из поля корреляции (рис. 3.5).
/>
Рис. 3.5. Примергетероскедастичности: дисперсия остатков растет по мере увеличения х;
Используя трехмерноеизображение, получим следующие графики, иллюстрирующие гомо- игетероскедастичность (рис. 3.6, 3.7).
/>
Рис. 3.6. Гомоскедастичность остатков
/>
Рис. 3.7. Гетероскедастичность остатков
Рис. 3.6 показывает, чтодля каждого значения /> распределения остатков /> одинаковы в отличие от рис. 3.7, где диапазон варьирования остатковменяется с переходом от одного значения /> другому. Соответственно на рис. 3.7 демонстрируется неодинаковаядисперсия при разных значениях />.
Наличиегомоскедастичности или гетероскедастичности можно видеть и по рассмотренномувыше графику зависимости остатков /> от теоретических значений результативного признака />. Так, для рис 3.5зависимостьостатков от /> представленана рис. 3.8.
/>
Рис. 3.8. Гетероскедастичность: большаядисперсия /> для больших значений />
При построениирефессионных моделей чрезвычайно важно соблюдение четвертой предпосылки МНК — отсутствие автокорреляции остатков, т. е. значения остатков />, распределены независимо друг отдруга. Автокорреляция остатков означает наличие корреляции междуостатками текущих и предыдущих (последующих) наблюдений. [1]
Одним из основныхпредполагаемых свойств отклонений /> от регрессионной модели является их статистическаянезависимость между собой. Поскольку значени /> остаются неизвестными, то проверяется статистическая независимость иханалогов — отклонения /> (наблюдаемые значения ошибок).При этом устанавливаетсянекоррелированность сдвинутыми на период величинами />. Для этих величин можно рассчитатькоэффициент автокорреляции первого порядка (выборочный коэффициент корреляциимежду /> и />):
/>
На практике в качестветеста используют тесно связанную с коэффициентом автокорреляции /> статистику Дарбина — Уотсона. Тест Дарбина —Уотсона (DW) на наличие или отсутствиеавтокорреляции ошибок рассчитывается по формуле:
/>
Нулевая гипотеза состоитв отсутствии автокорреляции. Статистику Дарбина-Уотсона можно выразить черезкоэффициент автокорреляции:
/> [2]
Содержательный смыслстатистики Дарбина-Уотсона заключается в следующем: если между /> и /> имеется достаточно высокаяположительная корреляция, то /> и/> близки друг другу ивеличина статистики DWмала.Это согласуется споследним выражением: если коэффициент /> близокк единице, то величина DWблизка к нулю. Отсутствие корреляции означает, что DW близка к 2. [3]
Если бы распределениестатистики DW было известно, то для проверкигипотезы /> против альтернативы />можно было бы для заданногоуровня значимости (например, для 5%-уровня) найти такое критическое значение />, что если/>, то гипотеза Ноне отвергается, в противном случае она отвергается в пользу Н1.Проблема, однако, состоит в том, что распределение DW зависит не только от числа наблюдений п иколичества регрессоров к, но и от всей матрицы X, и, значит, практическое применение этой процедурыневозможно. Тем не менее, Дарбин и Уотсон доказали, что существуют две границы,обычно обозначаемые /> и />,/> (и = upper — верхняя, l=low — нижняя), которые зависят лишь от n, к и уровня значимости (аследовательно, могут быть затабулированы) и обладают следующим свойством: если/>, то /> и, значит, гипотезаHне отвергается, а если /> то/>, и гипотеза Ноотвергается в пользу H1. Вслучае />ситуация неопределенна, т.е. нельзя высказаться в пользу той или иной гипотезы. Если альтернативнойявляется гипотеза об отрицательной корреляции/>,то соответствующими верхними и нижними границами будут 4-dl и 4-du. Целесообразно представить эти результаты в видеследующей таблицы.
Таблица 6.3.
Значение статистики DWЗначение статистики DW Вывод 4 -dlНаличие зонынеопределенности, представляет определенные трудности при использовании тестаДарбина-Уотсона. [3]
Отсутствие автокорреляцииостаточных величин обеспечивает состоятельность и эффективность оценоккоэффициентов регрессии.
При несоблюдении основныхпредпосылок МНК приходится корректировать модель, изменяя ее спецификацию,добавлять (исключать) некоторые факторы, преобразовывать исходные данные длятого, чтобы получить оценки коэффициентов регрессии, которые обладают свойствомнесмещенности, имеют меньшее значение дисперсии остатков и обеспечивают в связис этим более эффективную статистическую проверку значимости параметров регрессии.[1]
2.3 Проверка гипотезыо нормальности остатков в модуле MultipleRegressionStatistica
STATISTICA является интегрированной системойкомплексного статистического анализа и обработки данных в среде Windows. Все методы обработки в системеразбиты на несколько групп — модулей — в соответствии с основными разделамистатистического анализа. Модуль Multiple Regression -Множественнаярегрессия включает в себя набор средств множественной линейной и фиксированнойнелинейной (в частности, полиномиальной, экспоненциальной, логарифмической идр.) регрессии, включая пошаговые, иерархические и другие методы. СистемаSTATISTICA позволяет вычислить всесторонний набор статистик и расширеннойдиагностики, включая полную регрессионную таблицу, частные и частичные корреляциии ковариации для регрессионных весов, статистику Дарбина-Уотсона и многиедругие. Анализ остатков и выбросов может быть проведен при помощи широкогонабора графиков. [Салманов, с. 245-246]
Модуль MultipleRegression запускается из меню Statistics. Нажмите кнопку Variable на MultipleLinearRegression— Quicktab (Множественная линейная регрессия — Быстрая вкладка) (рис. 1)и выберите зависимую переменную (Dependentvariable) и несколько независимых переменных(Independentvariable) и затем нажмите кнопку ОК.Появится MultipleRegressionResults — диалог результатов регрессионногоанализа (рис. 2). [Салманов, с. 249]
/>
Рис. 1. Стартовая панельмодуля Multiple Regression
/>
Рис. 2. Окно результатоврегрессионного анализа
Окно результатов анализа(MultipleRegressionResults) (рис. 2) имеет следующую структуру:верх окна — информационный. Он состоит из двух частей: в первой частисодержится основная информация о результатах оценивания, во второйвысвечиваются значимые регрессионные коэффициенты (significantbeta'sarehighlighted). Внизу окна расположены тривкладки: Quick-быстрый, Advanced-продвинутый и Residuals/assumptions/ prediction, на которыхнаходятся функциональные кнопки,позволяющие всесторонне просмотреть результаты анализа.[боровиков 136] Критерийдля определения уровня статистической значимости может быть изменен в поле Alpha(значение по умолчанию 0,05) .[Салманов,с. 254]
Рассмотрим информационнуючасть окна. В ней содержатся краткие сведения о результатах анализа, а именно:
• Dependent — имя зависимой переменной
• No. ofсases — число случаев, по которымпостроена регрессия
• MultipleR — коэффициент множественной корреляции
• R2 — коэффициент детерминации (квадрат коэффициентамножественной корреляции)
• adjustedR2 — скорректированный коэффициент детерминации
• Standard error of estimate — стандартная ошибкаоценки
• Intercept — оценка свободного члена регрессии,значение коэффициента В0в уравнении регрессии.
• Std. Error — стандартная ошибка оценки свободного члена,
стандартная ошибкакоэффициента В0в уравнении регрессии.
• t(df) andp-value — значение t-критерия и уровень р. t-критерийиспользуется для проверки гипотезы о равенстве 0 свободного члена регрессии.
• F — значения F-критерия.
• df — число степеней свободы F-критерия.
• р — уровень значимости. [боровиков 136-138]
Нажмите на Summary:Regressionresults на вкладке Quicktab, чтобы отобразить электронную таблицу с бета-коэффициентами(рис. 3).
/>
Рис. 3. Таблицакоэффициентов уравнения регрессии и оценок их достоверности
Эта электронная таблица показываетстандартизированные бета-коэффициенты регрессии (Beta) и необработанные коэффициентырегрессии (В). Величина этих коэффициентов позволяет сравниватьотносительный вклад каждой независимой переменной в предсказании зависимойпеременной. Приводится также t-статистика исоответствующее значение вероятности (р) для проверки гипотезы одостоверности этих коэффициентов. [Салманов, с. 254-255]
После того как доказанаадекватность модели, полученные результаты можно уверенно использовать длядальнейших действий. Анализ адекватности основывается на анализе остатков.[боровиков 139] Для анализа остатков на вкладке MultipleRegressionResults— Residuals/assumptions/predictiontab нажмите кнопку диалога ResidualAnalysis(рис. 4). [Салманов, с. 256] Здесь имеется возможность рассчитатьстатистику Дарбина-Уотсона, удаленные остатки, доверительные интервалы дляпредсказанных значений и многие другие статистики. Широкие возможности анализаостатков и выбросов включают многочисленные типы графиков, диаграмм рассеяния,гистограмм, графики на нормальной и полунормальной вероятностной бумаге и др.[exponenta.ru]
/>
Рис. 4. Окно анализаостатков
Однако можно такжеприменять все аналитические средства STATISTICA, чтобы далее исследовать остатки, создав автономную входнуюэлектронную таблицу остатков. [Салманов, с. 261]
3. СОЗДАНИЕ МАКРОСАДЛЯ ПРОВЕРКИ ГИПОТЕЗЫ О НОРМАЛЬНОСТИ ОСТАТКОВ
3.1 Описание макроса
При построении моделимножественной линейной регрессии особое внимание необходимо уделять проверкегипотезы о нормальном распределении остатков. Это связано с тем, что в условияхнормального распределения остатков оценки параметров модели, построенныеметодом наименьших квадратов, являются оптимальными. Если распределениеотличается от нормального, то свойство оптимальности может быть утрачено.Например, в данных могут быть резко выделяющиеся наблюдения (выбросы), а методнаименьших квадратов чувствителен к выбросам.
В данной курсовой работеосуществлялось эконометрическое моделирование вторичного рынка жилья в г. Минскес использованием статистического пакета Statistica 6.0., обладающего широкимивозможностями для построения регрессионных моделей. Пакет Statistica 6.0. содержит встроенный языкпрограммирования VBA, позволяющийсоздавать дополнительные модули для статистического анализа.
В ходе выполнениямножественного регрессионного анализа в модуле MultipleRegression исследование остатков нанормальность можно осуществить лишь графическими методами с использованиемнормальных графиков вероятности, доступных из диалога ResidualAnalysis. Однако на основании графическойинформации можно сделать лишь предположение о виде распределения остатков. Дляпроверки остатков на соответствие их нормальному распределению необходимосоздать автономную входную электронную таблицу остатков, а затем вызвать модульDistributionFitting (Подбор распределения). Нажав кнопкуGraph, мы получим результаты применениякритерия хи-квадрат, а также гистограмму с проведенной на ней предполагаемойнормальной кривой, на основании которых можно сделать вывод о видераспределения остатков.
Таким образом, приосуществлении множественного регрессионного анализа в пакете Statistica 6.0. необходимо использовать 2отдельных модуля (MultipleRegression и DistributionFitting), создавая при этом дополнительную входную электронную таблицу остатков,что требует значительных затрат времени.
Для решения всехвышеперечисленных проблем на языке VBA было написано 2 модуля. Первый модуль (CREATE_MACROS) создаетпользовательскую панель инструментов (Приложение Б), а второй (regres-normal) — автоматизирует процесс проверки гипотезы о нормальности остатков регрессии(Приложение А).
После запуска программы CREATE_MACROS,новая панель инструментов CUSTOM будет добавлена к существующей инсталляционной версии STATISTICA.Созданная панель инструментов состоит из 1 главного элемента — кнопки «Нормальностьостатков». Чтобы удалить новый элемент панели инструментов, выберите Настройка(Customize) из менюСервис (Tools) для отображения диалога Настройка(Customize). На вкладке Панели инструментов (Toolbarstab), подсветите новый элемент и Удалите (Delete) его (рис. 1.1).
/>
Рис. 1.1. Удалениепользовательской панели инструментов
Для запуска модуля regres-normalнеобходимо нажать кнопку “Нормальность остатков” на панели инструментов(рис. 1), после чего появится диалог MultipleRegression.ResidualAnalysis(рис. 2). Критерий для определенияуровня статистической значимости может быть изменен в поле Alpha (значение по умолчанию 0,05). Принажатии кнопки Variablesотобразитсядиалог Selectdependentandindependentvariablelists(рис. 3) для выбора зависимой исписка независимых переменных. После нажатия кнопки OKна экране появятся результаты выполнения программы(рис.4).
/>
Рис. 1. Кнопка “Нормальностьостатков”для запуска модуля
/>
Рис. 2. Стартовая панельмодуля
/>
Рис. 3. Окно выборапеременных для анализа
/>
Рис.4. Результатывыполнения программы
Программа вычисляетследующий набор статистик:
1. Таблицырезультатов оценивания регрессионной модели. Они содержат значениякоэффициентов модели (В), бета-коэффициенты (Beta), их стандартные ошибки, значениякритерия Стьюдента для проверки гипотезы о достоверности этих коэффициентов (/> и />), коэффициенты корреляции R и детерминации R2,значение критерия Фишера (F,p) для проверки гипотезы о достоверностиR и другое.
2. Таблицу результатованализа остатков, содержащую наблюдаемые (ObservedValue) и предсказанные по модели (PredictedValue) значения зависимой переменной,остатки (Residual) и другое.
3. СтатистикуДарбина-Уотсона.
4. Графики:гистограмму остатков, диаграмму рассеяния, график на нормальной вероятностнойбумаге.
5. Таблицуэмпирических и теоретических частот.
Оба модуля написаны наязыке STATISTICA VISUAL BASIC. Рассмотрим схему работы программы regres-normal(рис. 5).
/>/>
Рис. 5. Схема работыпрограммы regres-normal
Весь блок программногокода в совокупности представляет собой модуль. Модульregres-normal состоит из ряда операторов, организованных в шесть разделов:это раздел объявлений, начинающийся оператором Option Base1, процедура Main, функция InputDialog,функция UI, процедуры MultipleRegression иNormalDistribution.
Переменные, содержащиесяв разделе объявлений, представляют собой глобальные переменные (Приложение В, табл. 1). Выполнение программы начинается спроцедуры MAIN (рис. 5). Данная процедура вызывает функцию InputDialog,которую в свою очередь обслуживает функция UI. Функция InputDialog отображаетпользовательский диалог «Multiple Regression. Residual Analysis»,переменные Alpha иAlphaValue инициализируются значениями,содержащимися в соответствующих элементах управления типа TextBox. Функция UI отображает диалог выбора переменных для анализа («Selectdependent and independent variable lists:»). Здесь происходитинициализация списков зависимых и независимых переменных (VarList1(),VarList2()), а также переменных типа Long, хранящих количество элементов вэтих списках (InList1, InList2). В случае отсутствия ошибок при вызовепользовательских диалогов далее в процедуре Mainпроисходит последовательный вызов процедур MultipleRegression и NormalDistribution.
В процедуре MultipleRegression осуществляется регрессионный анализс использованием данных из текущей таблицы (S1), а также происходит инициализация вновь созданнойтаблицы остатков (NewSpreadsheet). Впроцедуре NormalDistribution осуществляется проверка остатков изтаблицы NewSpreadsheetна нормальное распределение.
3.2 Проверка гипотезыо нормальности остатков в модели вторичного рынка жилья в г. Минске
В модели исследуетсязависимость стоимости вторичного жилья в г.Минске (Cena) от следующих факторов: общейплощади квартиры (PlOb),возраста дома (Vozrast). Для работы использованы данные о 154 квартирахг. Минска за 2006 год. В модель также включена бинарная, «фиктивная» переменнаяType, которая принимает значение 1, есликвартира находится в кирпичном доме и значение 0 для всех остальных случаев.
Построенная модельстоимости квартир в г. Минске имеет вид:
/> (1)
Все коэффициентырегрессии статистически значимы, что показывает t-статистика и соответствующие значения вероятности (p), которые ниже уровня статистическойзначимости 0,05.
Для построенной модели(1) коэффициент корреляции /> (значениеблизко к 1, что указывает на тесную свяь между зависимой переменной ифакторами). Значение критерия Фишера для проверки гипотезы о достоверностикоэффициента корреляции: />;/> (R достоверно отличен от 0, изучаемыйпризнак имеет связь хотя бы с одним из регрессоров). Коэффициент детерминации />, т.е. 90% дисперсии результативногопризнака обусловлено влиянием регрессии, а 10% — другими факторами. Анализостатков произведён при помощи статистики Дарбина-Уотсона />, коэффициент автокорреляции остатков/>. Значит, автокорреляция в остаткахотсутствует.
Остатки распределенынормально: /> при /> /> />.
/>
Рис. 1 График остатков нанормальной вероятностной бумаге
На рис. 1 значения по осиy представляют собой функциональноепреобразование кривой нормального распределения в прямую. Если наблюдаемыеостатки, представленные на оси х, распределяются по нормальному закону, то всезначения попадают на прямую линию на графике. В представленном графике остаткирасположены достаточно близко к линии, а следовательно можно сделатьпредположение об их нормальном распределении.
/>
Рис. 2 Гистограммараспределения остатков
Для графической оценкивида распределения также приводится гистограмма распределения остатков (рис.2).Его можно трактовать как соответствующее нормальному.
Рассмотрим графикзависимости остатков εiот теоретических значенийрезультативного признака /> (рис.3).
/>
Рис. 3 График зависимостиостатков εiот теоретических значений результативного признака />.
Из рисунка 3 можносделать вывод о наличии гетероскедастичности: остатки εi имеют неодинаковую дисперсию.
Уравнение регрессии имеетнаглядную интерпретацию. Так, увеличение общей площади квартиры на 1м2увеличивает ее цену на 909,445 у.е. Отрицательное значение коэффициента при Vozrast (-58,685) означает, что увеличениевозраста квартиры на 1год уменьшает ее цену на 58,685у.е. Квартира в кирпичномдоме (Type=1) стоит дороже на 1914,209 у.е.,чем аналогичная квартира, например, в панельном доме.
Использование данноймодели для прогноза возможно в случае устранения гетероскедастичности,связанной с неоднородностью выборки. Для этого необходимо провестипредварительный отбор однородных случаев, а затем осуществить построениемодели.
ЗАКЛЮЧЕНИЕ
Математическая статистикаи ее применение в экономике — эконометрика — позволяют строить экономическиемодели и оценивать их параметры, проверять гипотезы о свойствах экономическихпоказателей и формах их связи. В основе методов, с помощью которых строятсяэкономические модели, лежит корреляционно-регрессионный анализ. Множественныйрегрессионный анализ заключается в определении аналитического выражения связи,в котором изменение одной величины (называемой зависимой) обусловлено влияниемнескольких независимых величин, а множество всех прочих факторов, такжеоказывающих влияние на зависимую переменную, принимается за постоянные исредние значения.
Наиболее распространеннымв практике статистического оценивания параметров уравнений регрессии являетсяметод наименьших квадратов (МНК). Этот метод основан на ряде предпосылокотносительно природы данных и результатов построения модели. Основные из них — это некоррелированность факторов, входящих в уравнение, линейность связи,отсутствие автокорреляции остатков, равенство их математических ожиданий нулю ипостоянная дисперсия (гомоскедастичность). Эмпирические данные не всегдаобладают такими характеристиками, т.е. предпосылки МНК нарушаются. Применение этогометода в чистом виде может привести к таким нежелательным результатам, каксмещение оцениваемых параметров, снижение их состоятельности, устойчивости, а внекоторых случаях может совсем не дать решения. В случае нарушения предпосылокМНК, необходимо корректировать модель.
После оцениванияуравнения регрессии по методу наименьших квадратов нужно всегда исследоватьостатки на нормальность. В случае нарушения данного предположения модель неявляется адекватной и не может быть использована для прогнозов.
В пакете STATISTICA имеется внутренний языкпрограммирования Statistica Visual, который добавляет богатый арсенализ более чем 10000 новых функций к стандартному синтаксису Microsoft VisualBasic и является, таким образом, одним из самых функционально богатых иобширных интерфейсов прикладного программирования. SVB также предоставляет широкие возможности по созданиюмакросов.
В ходе написания даннойкурсовой работы был создан макрос на языке SVB для проверки гипотезы о нормальности остатковрегрессии. Необходимость разработки данного приложения связана с особенностямиосуществления регрессионного анализа в пакете STATISTICA. Написанный модуль был использованпри эконометрическом моделировании вторичного рынка жилья в г. Минске.Разработанное программное средство может в дальнейшем применятся при построениирегрессионных моделей в пакете STATISTICA.
ПРИЛОЖЕНИЕ А
Листинг программы
Option Base1
Dim S1 AsSpreadsheet
DimNewSpreadsheet As New Spreadsheet
PublicAlphaValue As Double
Public AlphaAs Double
Dim VarList1() As Long
Dim VarList2() As Long
Dim Nvars AsLong
Dim InList1 AsLong
Dim InList2 AsLong
Dim ret AsInteger
Sub Main
On Error GoToNoInputSpreadsheet
Nvars =ActiveDataSet.NumberOfVariables
On Error GoToFinish
ReDimVarList1(1 To Nvars)
ReDimVarList2(1 To Nvars)
If NotInputDialog Then GoTo Finish
MultipleRegression
NormalDistribution
Finish:
Exit Sub
NoInputSpreadsheet:
MsgBox«Open a data file (Spreadsheet) for this analysis», _
vbCritical
End Sub
FunctionInputDialog As Boolean
On Error GoToFinish
InputDialog=False
Begin DialogUserDialog 390,147, _
«MultipleRegression. Residual Analysis», .UI ' %GRID:10,7,1,1
PushButton20,14,120,21,«Variables»,.VariableSelection
Text40,42,70,14,«Grouping:»,.Text1
Text110,42,180,14,«none»,.Text2
Text30,56,80,14,«Dependent:»,.Text3
Text110,56,180,14,«none»,.Text4
Text30,84,200,14,«Alpha:»,.Text5
TextBox220,77,90,21,.AlphaValue
Text30,104,200,14,«Alpha for highlighting effects:»,.Text6
TextBox220,100,90,21,.Alpha
OKButton310,14,70,21,.OkButton
CancelButton310,42,70,21,.CancelButton
End Dialog
Dim dlg AsUserDialog
dlg.AlphaValue=",05"
dlg.Alpha=",05"
TryAgain:
On Error GoToFinish
Dialog dlg
On Error GoToBadAlphaValue
AlphaValue =CDbl(dlg.AlphaValue)
Alpha =CDbl(dlg.Alpha)
InputDialog=True
Finish:
Exit Function
BadAlphaValue:
MsgBox«Bad alpha value; please specify a valid alpha value.»
GoTo TryAgain
End Function
PrivateFunction UI(DlgItem$, Action%, SuppValue&) As Boolean
Dim ok AsBoolean
Select CaseAction%
Case 1 ' Dialogbox initialization
Case 2 ' Valuechanging or button pressed
UI = True
Select CaseDlgItem
Case«CancelButton»
UI=False
Case«OkButton»
ok=False
IfInList1
ok=True
GoToDoVariables
End If
UI=False
Case«VariableSelection»
ok=False
DoVariables:
ret =SelectVariables2 (ActiveDataSet, _
«Selectdependent and independent variable lists:», _
1, Nvars,VarList1, InList1, «Dependent var. (or list for batch):», _
1, Nvars,VarList2, InList2, «Independent variable list:»)
If ret=0 ThenGoTo Finish
IfInList1>0 Then
DlgText«Text4», «Selected»
Else
DlgText«Text4», «none»
End If
IfInList2>0 Then
DlgText«Text2», «Selected»
Else
DlgText«Text2», «none»
End If
End Select
End Select
Finish:
End Function
SubMultipleRegression
Set S1 =ActiveSpreadsheet
Dimnewanalysis2 As Analysis
Setnewanalysis2 = Analysis (scMultipleRegression,S1)
Withnewanalysis2.Dialog
Variables =Array(VarList1,VarList2)
InputFile =scRegRawData
CasewiseDeletionOfMD= True
PerformDefaultNonStepwiseAnalysis= False
ReviewDescriptiveStatistics= False
ExtendedPrecisionComputations= False
BatchProcessingAndPrinting= False
End With
newanalysis2.Run
Withnewanalysis2.Dialog
.ComputeConfidenceLimits= True
.AlphaForLimits= AlphaValue
.PLevelForHighlighting= Alpha
End With
newanalysis2.RouteOutput(newanalysis2.Dialog.Summary).Visible= True
newanalysis2.Run
Withnewanalysis2.Dialog
RawResiduals =True
StandardResidualPlusMinusSigmaOutliers= True
RawPredictedValues= True
MaxNumberOfCasesInSpreadsheetsAndGraphs= 100000
End With
newanalysis2.RouteOutput(newanalysis2.Dialog.Summary).Visible= True
newanalysis2.RouteOutput(newanalysis2.Dialog.HistogramOfResiduals).Visible= True
newanalysis2.RouteOutput(newanalysis2.Dialog.DurbinWatsonStatistics).Visible= True
newanalysis2.RouteOutput(newanalysis2.Dialog.ScatterplotOfPredictedVsResiduals).Visible= True
newanalysis2.RouteOutput(newanalysis2.Dialog.NormalPlotOfResiduals).Visible= True
SetResSpreadsheetCollection=newanalysis2.Dialog.Summary
Set ResSpreadsheet=ResSpreadsheetCollection.Item(1)
Dim n As Long
n=ResSpreadsheet.NumberOfCases-4
SetCells=ResSpreadsheet.CellsRange( _
1, 3,n, 3)
Cells.Select
ResSpreadsheet.CopyWithHeaders
NewSpreadsheet.SetSizen, 1
NewSpreadsheet.Visible=True
Set Cells=NewSpreadsheet.CellsRange(1,1,1,1)
Cells.Select
NewSpreadsheet.Paste
End Sub
SubNormalDistribution
Dimnewanalysis3 As Analysis
Setnewanalysis3 = Analysis (scDistributions, NewSpreadsheet)
Withnewanalysis3.Dialog
.FitContinuousDistributions= True
.ContinuousDistribution= scNonNormal
End With
newanalysis3.Run
Withnewanalysis3.Dialog
Variable =«1»
Distribution =scNonNormal
KolmogorvNo =True
CombineBinsForChiSquare= True
FrequencyDistribution= True
RawFrequencies= True
End With
newanalysis3.RouteOutput(newanalysis3.Dialog.Summary).Visible= True
newanalysis3.RouteOutput(newanalysis3.Dialog.PlotOfDistribution).Visible= True
End Sub
ПРИЛОЖЕНИЕ Б
Листинг программы
Sub Main
Dim bars AsCommandBars
Set bars =CommandBarOptions.CommandBars(scBarTypeToolBar)
Dim newBar AsCommandBar
Set newBar =bars.Add(«CUSTOM»)
newBar.InsertMacroButton1, «d:\work\Macros\_1_\regres-normal.svb», «Нормальность остатков»
newBar.InsertSeparator2
newBar.Item(1).DisplayMode= scCommandDisplayTextAndImage
End Sub
ПРИЛОЖЕНИЕ В
Таблица 1
Глобальные переменныеПеременные Описание переменных Значение переменных Dim S1 As Spreadsheet Объект таблица Текущая таблица Dim NewSpreadsheet As New Spreadsheet Объект таблица Таблица для остатков Public AlphaValue As Double Переменная типа Double Public Alpha As Double Переменная типа Double Dim VarList1() As Long Динамический массив типа Long Список зависимых переменных Dim VarList2() As Long Динамический массив типа Long Список независимых переменных Dim Nvars As Long Переменная типа Long Количество переменных в текущей таблице Dim InList1 As Long Переменная типа Long Номера зависимых переменных Dim InList2 As Long Переменная типа Long Номера независимых переменных Dim ret As Integer Переменная типа Integer