Дисперсийный анализ

Содержание

Введение…………………….……………………………………………...3

1 Дисперсионный анализ………………………………………………...5

1.1Основные понятия дисперсионного анализа…………………..….. 5

1.2Однофакторный дисперсионный анализ…………………………...8

1.3 Многофакторный дисперсионный анализ……………………....17

Заключение………………………………………………………… ....... 23

Список использованных источников……………………………… .… 24

Введение

Цель работы: познакомится с таким статистическим методом, как дисперсионный анализ.

Дисперсионный анализ (от латинского Dispersio – рассеивание) – статистический метод, позволяющий анализировать влияние различных факторов на исследуемую переменную. Метод был разработан биологом Р. Фишером в 1925 году и применялся первоначально для оценки экспериментов в растениеводстве. В дальнейшем выяснилась общенаучная значимость дисперсионного анализа для экспериментов в психологии, педагогике, медицине и др. [6]

Целью дисперсионного анализа является проверка значимости различия между средними с помощью сравнения дисперсий. Дисперсию измеряемого признака разлагают на независимые слагаемые, каждое из которых характеризует влияние того или иного фактора или их взаимодействия. Последующее сравнение таких слагаемых позволяет оценить значимость каждого изучаемого фактора, а также их комбинации .

При истинности нулевой гипотезы (о равенстве средних в нескольких группах наблюдений, выбранных из генеральной совокупности), оценка дисперсии, связанной с внутригрупповой изменчивостью, должна быть близкой к оценке межгрупповой дисперсии.

При проведении исследования рынка часто встает вопрос о сопоставимости результатов. Например, проводя опросы по поводу потребления какого-либо товара в различных регионах страны, необходимо сделать выводы, на сколько данные опроса отличаются или не отличаются друг от друга. Сопоставлять отдельные показатели не имеет смысла и поэтому процедура сравнения и последующей оценки производится по некоторым усредненным значениям и отклонениям от этой усредненной оценки. Изучается вариация признака. За меру вариации может быть принята дисперсия. Дисперсия σ2 – мера вариации, определяемая как средняя из отклонений признака, возведенных в квадрат.

На практике часто возникают задачи более общего характера – задачи проверки существенности различий средних выборочных нескольких совокупностей. Например, требуется оценить влияние различного сырья на качество производимой продукции, решить задачу о влиянии количества удобрений на урожайность с/х продукции.

Иногда дисперсионный анализ применяется, чтобы установить однородность нескольких совокупностей (дисперсии этих совокупностей одинаковы по предполо­жению; если дисперсионный анализ покажет, что и математические ожидания одинаковы, то в этом смысле сово­купности однородны). Однородные же совокупности можно объединить в одну и тем самым получить о ней более полную информацию, следовательно, и более надежные выводы [2].

1 Дисперсионный анализ

1.1 Основные понятия дисперсионного анализа

В процессе наблюдения за исследуемым объектом качественные факторы произвольно или заданным образом изменяются. Конкретная реализация фактора (например, определенный температурный режим, выбранное оборудование или материал) называется уровнем фактора или способом обработки. Модель дисперсионного анализа с фиксированными уровнями факторов называют моделью I, модель со случайными факторами - моделью II. Благодаря варьированию фактора можно исследовать его влияние на величину отклика. В настоящее время общая теория дисперсионного анализа разработана для моделей I.

В зависимости от количества факторов, определяющих вариацию результативного признака, дисперсионный анализ подразделяют на однофакторный и многофакторный.

Основными схемами организации исходных данных с двумя и более факторами являются:

- перекрестная классификация, характерная для моделей I, в которых каждый уровень одного фактора сочетается при планировании эксперимента с каждой градацией другого фактора;

- иерархическая (гнездовая) классификация, характерная для модели II, в которой каждому случайному, наудачу выбранному значению одного фактора соответствует свое подмножество значений второго фактора.

Если одновременно исследуется зависимость отклика от качественных и количественных факторов, т.е. факторов смешанной природы, то используется ковариационный анализ.

При обработке данных эксперимента наиболее разработанными и поэтому распространенными считаются две модели. Их различие обусловлено специфи­кой планирования самого эксперимента. В модели дисперсионного анализа с фик­сированными эффектами исследователь намеренно устанавли­вает строго определенные уровни изучаемого фактора. Тер­мин «фиксированный эффект» в данном контексте имеет тот смысл, что самим исследователем фиксируется количе­ство уровней фактора и различия между ними. При повторе­нии эксперимента он или другой исследователь выберет те же самые уровни фактора. В модели со случайными эффек­тами уровни значения фактора выбираются исследователем случайно из широкого диапазона значений фактора, и при повторных экспериментах, естественно, этот диапазон бу­дет другим.

Таким образом, данные модели отличаются между собой способом выбора уровней фактора, что, очевидно, в пер­вую очередь влияет на возможность обобщения полученных экспериментальных результатов. Для дисперсионного анализа однофакторных эк­спериментов различие этих двух моделей не столь существен­но, однако в многофакторном дисперсионном анализе оно может оказаться весьма важным.

При проведении дисперсионного анализа должны выполняться следующие статистические допущения: независимо от уровня фактора величины отклика имеют нормальный (Гауссовский) закон распределения и одинаковую дисперсию. Такое равенство дисперсий называется гомогенностью. Таким образом, изменение способа обработки сказывается лишь на положении случайной величины отклика, которое характеризуется средним значением или медианой. Поэтому все наблюдения отклика принадлежат сдвиговому семейству нормальных распределений.

Говорят, что техника дисперсионного анализа является "робастной". Этот термин, используемый статистиками, означает, что данные допущения могут быть в некоторой степени нарушены, но несмотря на это, технику можно использовать.

При неизвестном законе распределения величин отклика используют непараметрические (чаще всего ранговые) методы анализа.

В основе дисперсионного анализа лежит разделение дисперсии на части или компоненты. Вариацию, обусловленную влиянием фактора, положенного в основу группировки, характеризует межгрупповая дисперсия σ²
. Она является мерой вариации частных средних по группам вокруг общей средней и определяется по формуле:

,

где k - число групп;

n_j
- число единиц в j-ой группе;

- частная средняя по j-ой группе;

- общая средняя по совокупности единиц.

Вариацию, обусловленную влиянием прочих факторов, характеризует в каждой группе внутригрупповая дисперсия σ_j
²
.

.

Между общей дисперсией σ₀
²
, внутригрупповой дисперсией σ²
и межгрупповой дисперсией существует соотношение:

σ₀
²
= + σ²
.

Внутригрупповая дисперсия объясняет влияние неучтенных при группировке факторов, а межгрупповая дисперсия объясняет влияние факторов группировки на среднее значение по группе [2].

1.2 Однофакторный дисперсионный анализ

Однофакторная дисперсионная модель имеет вид:

x_ij
= μ + F_j
+ ε_ij
,
(1)

где х_ij
– значение исследуемой переменой, полученной на i-м уровне фактора (i=1,2,..., m) cj-м порядковым номером (j=1,2,...,n);

F_i
– эффект, обусловленный влиянием i-го уровня фактора;

ε_ij
– случайная компонента, или возмущение, вызванное влиянием неконтролируемых факторов, т.е. вариацией переменой внутри отдельного уровня.

Основные предпосылки дисперсионного анализа:

- математическое ожидание возмущения ε_ij
равно нулю для любых i, т.е.

M(ε_ij
) = 0; (2)

- возмущения ε_ij
взаимно независимы;

- дисперсия переменной x_ij
(или возмущения ε_ij
) постоянна для
любых i, j, т.е.

D(ε_ij
) = σ²
; (3)

- переменная x_ij
(или возмущение ε_ij
) имеет нормальный закон
распределения N(0;σ²
).

Влияние уровней фактора может быть как фиксированным или систематическим (модель I), так и случайным (модель II).

Пусть, например, необходимо выяснить, имеются ли сущест­венные различия между партиями изделий по некоторому показа­телю качества, т.е. проверить влияние на качество одного фактора - партии изделий. Если включить в исследование все партии сырья, то влияние уровня такого фактора систематическое (модель I), а полученные выводы применимы только к тем отдельным парти­ям, которые привлекались при исследовании. Если же включить только отобранную случайно часть партий, то влияние фактора случайное (модель II). В многофакторных комплексах возможна смешанная модель III, в которой одни факторы имеют случайные уровни, а другие – фиксированные.

Пусть имеется m партий изделий. Из каждой партии отобрано соответственно n₁
,n₂
, …, n_m
изделий (для простоты полагается, что n₁
=n₂
=...=n_m
=n). Значения показателя качества этих изделий представлены в матрице наблюдений:

x₁₁
x₁₂
… x_1n

x₂₁
x₂₂
… x_2n

………………… = (x_ij
), (i = 1,2, …, m; j = 1,2, …, n).

x_m
1
x_m
2
… x_mn

Необходимо проверить существенность влияния партий из­делий на их качество.

Если полагать, что элементы строк матрицы наблюдений – это численные значения случайных величин Х₁
,Х₂
,...,Х_m
, выражающих качество изделий и имеющих нор­мальный закон распределения с математическими ожиданиями соответственно a₁
,а₂
,...,а_m
и одинаковыми дисперсиями σ²
, то данная задача сводится к проверке нулевой гипотезы Н₀
: a₁
=a₂
=...= а_m
, осуществляемой в дисперсионном анализе.

Усреднение по какому-либо индексу обозначено звездочкой (или точкой) вместо индекса, тогда средний показатель качества изделий i-й партии, или групповая средняя для i-го уровня факто­ра, примет вид:

, (4)

где _i
* – среднее значение по столбцам;

_ij
– элемент матрицы наблюдений;

n – объем выборки.

А общая средняя:

. (5)

Сумма квадратов отклонений наблюдений х_ij
от общей средней выглядит так:

2=2+2+

+22. (6)

или

Q = Q₁
+ Q₂
+ Q₃
.

Последнее слагаемое равно нулю

=0. (7)

так как сумма отклонений значений переменной от ее средней равна нулю, т.е.

2=0.

Первое слагаемое можно записать в виде:

В результате получается тождество:

Q = Q₁
+Q₂
, (8)

где - общая, или полная, сумма квадратов отклонений;

- сумма квадратов отклонений групповых средних от общей средней, или межгрупповая (факторная) сумма квадратов отклонений;

- сумма квадратов отклонений наблюдений от групповых средних, или внутригрупповая (остаточная) сумма квадратов отклонений.

В разложении (8) заключена основная идея дисперсионного анализа. Применительно к рассмат­риваемой задаче равенство (8) показывает, что общая вариа­ция показателя качества, измеренная суммой Q, складывается из двух компонент – Q₁
и Q₂
, характеризующих изменчивость этого показателя между партиями (Q₁
) и изменчивость внутри партий (Q₂
), характеризующих одинаковую для всех партий вариацию под воздействием неучтенных факторов.

В дисперсионном анализе анализируются не сами суммы квадратов отклонений, а так называемые средние квад­раты, являющиеся несмещенными оценками соответствую­щих дисперсий, которые получаются делением сумм квадратов отклонений на соответствующее число степеней свободы.

Число степеней свободы определяется как общее число наблюдений минус число связывающих их уравне­ний. Поэтому для среднего квадрата s₁₂
, являющегося несме­щенной оценкой межгрупповой дисперсии, число степеней свободы k₁
=m-1, так как при его расчете используются m групповых средних, связанных между собой одним уравнением (5). А для среднего квадрата s₂₂
, являющегося несмещенной оценкой внутригрупповой дисперсии, число степеней свободы k₂
=mn-m, т.к. при ее расчете используются все mn наблюдений, связанных между собой m уравнениями (4).

Таким образом:

= Q₁
/(m-1),

= Q₂
/(mn-m).

Если найти математические ожидания средних квадратов и , подставить в их формулы выражение x_ij
(1) через парамет­ры модели, то получится:

(9)

т.к. с учетом свойств математического ожидания

а

(10)

Для модели I с фиксированными уровнями фак­тора F_i
(i=1,2,...,m) – величины неслучайные, поэтому

M(S) =2 /(m-1) +σ²
.

Гипотеза H0 примет вид F_i
= F*(i = 1,2,...,m), т.е. влияние всех уровней фактора одно и то же. В случае справедливости этой гипотезы

M(S)= M(S)= σ²
.

Для случайной модели II слагаемое F_i
в выражении (1) – величина случайная. Обозначая ее дисперсией

получим из (9)

(11)

и, как и в модели I

M(S)= σ²
.

В таблице 1.1 представлен общий вид вычисления значений, с помощью дисперсионного анализа.

Таблица 1.1 – Базовая таблица дисперсионного анализа

Компоненты дисперсии	Сумма квадратов	Число степеней свободы	Средний квадрат	Математическое ожидание среднего квадрата
Межгрупповая		m-1	= Q1 /(m-1)
Внутригрупповая		mn-m	= Q2 /(mn-m)	M(S)= σ2
Общая		mn-1

Гипотеза H₀
примет вид σF²
=0. В случае справедливости этой гипотезы

M(S)= M(S)= σ²
.

В случае однофакторного комплекса как для модели I, так и модели II средние квадраты S²
и S²
, являются несмещенными и независимыми оценками одной и той же дисперсии σ²
.

Следовательно, проверка нулевой гипотезы H₀
свелась к проверке существенности различия несмещенных выборочных оценок S и S дисперсии σ²
.

Гипотеза H0 отвергается, если фактически вычисленное зна­чение статистики F =S/Sбольше критического F_α
:K₁
:K₂
, опреде­ленного на уровне значимости α при числе степеней свободы k₁
=m-1 и k₂
=mn-m, и принимается, если F < Fα:K₁
:K₂
.

F- распределение Фишера (для x > 0) имеет следующую функцию плотности (для = 1, 2, ...; = 1, 2, ...):

где - степени свободы;

Г - гамма-функция.

Применительно к данной задаче опровержение гипотезы H₀
означает наличие существенных различий в качестве изделий различных партий на рассматриваемом уровне значимости.

Для вычисления сумм квадратов Q₁
, Q₂
, Qчасто бывает удобно использовать следующие формулы:

(12)

(13)

(14)

т.е. сами средние, вообще говоря, находить не обязательно.

Таким образом, процедура однофакторного дисперсионного анализа состоит в проверке гипотезы H₀
о том, что имеется одна группа однородных экспериментальных данных против альтернативы о том, что таких групп больше, чем одна. Под однородностью понимается одинаковость средних значений и дисперсий в любом подмножестве данных. При этом дисперсии могут быть как известны, так и неизвестны заранее. Если имеются основания полагать, что известная или неизвестная дисперсия измерений одинакова по всей совокупности данных, то задача однофакторного дисперсионного анализа сводится к исследованию значимости различия средних в группах данных [1].

1.3 Многофакторный дисперсионный
анализ

Следует сразу же отметить, что принципиальной разницы между многофакторным и однофакторным дисперсионным анализом нет. Многофакторный анализ не меняет общую логику дисперсионного анализа, а лишь несколько усложняет ее, поскольку, кроме учета влияния на зависимую переменную каждого из факторов по отдельности, следует оценивать и их совместное действие. Таким образом, то новое, что вносит в анализ данных многофакторный дисперсионный анализ, касается в основном возможности оценить межфакторное взаимодействие. Тем не менее, по-прежнему остается возможность оценивать влияние каждого фактора в отдельности. В этом смысле процедура многофакторного дисперсионного ана­лиза (в варианте ее компьютерного использования) несом­ненно более экономична, поскольку всего за один запуск решает сразу две задачи: оценивается влияние каждого из факторов и их взаимодействие [3].

Общая схема двухфакторного эксперимента, данные ко­торого обрабатываются дисперсионным анализом имеет вид:

Рисунок 1.1 – Схема двухфакторного эксперимента

Данные, подвергаемые многофакторному дисперсионному анализу, часто обозначают в соответствии с количеством факторов и их уровней.

Предположив, что в рассматриваемой задаче о каче­стве различных m партий изделия изготавливались на разных t станках и требуется выяснить, имеются ли существенные раз­личия в качестве изделий по каждому фактору:

А - партия из­делий;

B - станок.

В результате получается переход к задаче двухфакторного дисперсионного анализа.

Все данные представлены в таблице 1.2, в кото­рой по строкам - уровни A_i
фактора А, по столбцам — уровни B_j
фактора В, а в соответствующих ячейках, табли­цы находятся значения показателя качества изделий x_ijk
(i=1,2,...,m; j=1,2,...,l; k=1,2,...,n).

Таблица 1.2 – Показатели качества изделий

Двухфакторная дисперсионная модель имеет вид:

x_ijk
=μ+F_i
+G_j
+I_ij
+ε_ijk
, (15)

где x_ijk
- значение наблюдения в ячейке ij с номером k;

μ - общая средняя;

F_i
- эффект, обусловленный влиянием i-го уровня фактора А;

G_j
- эффект, обусловленный влиянием j-го уровня фактора В;

I_ij
- эффект, обусловленный взаимодействием двух факто­ров, т.е. отклонение от средней по наблюдениям в ячейке ij от суммы первых трех слагаемых в модели (15);

ε_ijk
- возмущение, обусловленное вариацией переменной внутри отдельной ячейки.

Предполагается, что ε_ijk
имеет нормальный закон распределения N(0; с²
), а все математические ожидания F_*
, G_*
, I_i
*
, I_*
j
равны нулю.

Групповые средние находятся по формулам:

- в ячейке:

,

по строке:

по столбцу:

общая средняя:

В таблице 1.3 представлен общий вид вычисления значений, с помощью дисперсионного анализа.

Таблица 1.3 – Базовая таблица дисперсионного анализа

Компоненты дисперсии	Сумма квадратов	Число степеней свободы	Средние квадраты
Межгрупповая (фактор А)		m-1
Межгрупповая (фактор B)		l-1
Взаимодействие		(m-1)(l-1)
Остаточная		mln - ml
Общая		mln - 1

Проверка нулевых гипотез H_A
, H_B
, H_AB
об отсутствии влияния на рассматриваемую переменную факторов А, B и их взаимодействия AB осуществляется сравнением отношений , , (для модели I с фиксированными уровнями факторов) или отношений , , (для случайной модели II) с соответствующими табличными значениями F – критерия Фишера – Снедекора. Для смешанной модели III проверка гипотез относительно факторов с фиксированными уровнями производится также как и в модели II, а факторов со случайными уровнями – как в модели I.

Если n=1, т.е. при одном наблюдении в ячейке, то не все нулевые гипотезы могут быть проверены так как выпадает компонента Q₃
из общей суммы квадратов отклонений, а с ней и средний квадрат , так как в этом случае не может быть речи о взаимодействии факторов.

С точки зрения техники вычислений для нахождения сумм квадратов Q₁
, Q₂
, Q₃
, Q₄
, Q целесообразнее ис­пользовать формулы:

Q₃
= Q – Q₁
– Q₂
– Q₄
.

Отклонение от основных предпосылок дисперсионного ана­лиза — нормальности распределения исследуемой переменной и равенства дисперсий в ячейках (если оно не чрезмерное) — не сказывается существенно на результатах дисперсионного анализа при равном числе наблюдений в ячейках, но может быть очень чувствительно при неравном их числе. Кроме того, при нерав­ном числе наблюдений в ячейках резко возрастает сложность аппарата дисперсионного анализа. Поэтому рекомендуется пла­нировать схему с равным числом наблюдений в ячейках, а если встречаются недостающие данные, то возмещать их средними значениями других наблюдений в ячейках. При этом, однако, искусственно введенные недостающие данные не следует учиты­вать при подсчете числа степеней свободы [1].

Заключение

Современные приложения дисперсионного анализа охватывают широкий круг задач экономики, биологии и техники и трактуются обычно в терминах статистической теории выявления систематических различий между результатами непосредственных измерений, выполненных при тех или иных меняющихся условиях.

Благодаря автоматизации дисперсионного анализа исследователь может проводить различные статистические исследования с применение ЭВМ, затрачивая при этом меньше времени и усилий на расчеты данных. В настоящее время существует множество пакетов прикладных программ, в которых реализован аппарат дисперсионного анализа. Наиболее распространенными являются такие программные продукты как:

- MSExcel;

- Statistica;

- Stadia;

- SPSS.

В современных статистических программных продуктах реализованы большинство статистических методов. С развитием алгоритмических языков программирования стало возможным создавать дополнительные блоки по обработке статистических данных.

Дисперсионный анализ является мощным совре­менным статистическим методом обработки и анализа экс­периментальных данных в психологии, биологии, медици­не и других науках. Он очень тесно связан с конкретной ме­тодологией планирования и проведения экспериментальных исследований.

Дисперсионный анализ применяется во всех областях научных исследований, где необходимо проанализировать влияние различных факторов на исследуемую переменную.

Список используемых источников

1. Кремер Н.Ш. Теория вероятности и математическая статистика. М.: Юнити – Дана, 2002.-343с.

2. Гмурман В.Е. Теория вероятностей и математическая статистика. – М.: Высшая школа, 2003.-523с.

3. Гусев А.Н. Дисперсионный анализ в экспериментальной психологии. – М.: Учебно-методический коллектор «Психология», 2000.-136с.

4. http://www.statsoft.ru/home/textbook/modules/stanman.html

5. Шеффе Г. Дисперсионный.анализ М., Наука: 1980, 512 стр.

6. http://www.ucheba.ru/referats/8214.html