Предельныетеоремы. Характеристические функции
1. Теорема Чебышева
Теория вероятностейизучает закономерности массовых случайных явлений. Если явление носит единичныйхарактер, то теория вероятностей не может предсказать исход события.
Иное дело, когда явление– массовое. Закономерности проявляются именно при большом числе случайныхсобытий, происходящих в однородных условиях.
При большом числеиспытаний характеристики случайных событий и случайных величин практически малоизменяются, т.е. становятся неслучайными. Это обстоятельство позволяетиспользовать результаты наблюдений над случайными явлениями для предсказаниярезультатов будущих испытаний.
В дальнейшем мыознакомимся с двумя типами предельных теорем: законом больших чисел ицентральной предельной теоремой. Закон больших чисел играет очень важную роль впрактическом применении теории вероятностей к явлениям природы и техническимпроцессам, связанных с массовым производством.
Для доказательства этихтеорем воспользуемся неравенством Чебышева.
Пусть mxи Dx – математическое ожидание идисперсия случайной величины Х.
Тогда неравенствоЧебышева гласит: вероятность того, что отклонение случайной величины от еематематического ожидания будет по абсолютной величине не меньше любогоположительного числа />, ограничена величиной />, т.е.
/>
Доказательство. Пусть Х –непрерывная случайная величина с плотностью распределения вероятностей f(x). По определению
/> (1)
Выделим на числовой осиинтервал АВ, состоящий из точек />
/> А/> /> В
х
/> /> />Так как под интегралом в (1) находится неотрицательная величина, то,выбросив из интервала интегрирования отрезок АВ, мы значение интеграла неувеличим, т.е.
/>
Так как теперь />/>, то
/>
Отсюда непосредственно и вытекает неравенство Чебышева.
Если Х – дискретная случайная величина, то доказательство неравенстваЧебышева проводится по проделанной выше схеме с той лишь разницей, что вместоинтеграла нужно записать сумму.
Так как
/>,
то неравенство Чебышеваможно записать в другом виде
/>
Если взять />, то получим, чтонеравенство Чебышева дает оценку
/>,
что заведомо выполняется,т.к. вероятность />
С другой стороны, есливзять />,то
/>,
т.е. дает неплохуюоценку. Таким образом, мы видим, что неравенство Чебышева полезно лишьотносительно (относительно sх)больших />
Теорема Чебышева. Принеограниченном увеличении числа независимых испытаний среднее арифметическоенаблюдаемых значений случайной величины, имеющих конечную дисперсию, сходитсяпо вероятности к ее математическому ожиданию.
Определение. Случайныевеличины /> сходятсяпо вероятности к величине а, если для />, начиная с которого выполняетсянеравенство /> или, по другому, если для любогомалого />
/>
Итак, нужно доказать, чтодля любого малого />
/> />
Доказательство. Введемслучайную величину
/>
Найдем числовыехарактеристики случайной величины Y, пользуясь их свойствами:
/>
/>
Теперь применимнеравенство Чебышева к случайной величине Y:
/>
Так как по условию Dx ограничена, то
/>/>
Преждечем сформулировать центральную предельную теорему введем характеристическиефункции.
2. Характеристические функции
Характеристические функции являются одним из способов описания случайныхвеличин, удобным при решении многих задач теории вероятностей.
Пусть имеетсявещественная случайная величина Х. Введем комплексную случайную величину W по следующему закону:
/>
где />.
Характеристическойфункцией g(t) случайной величины Х называется математическое ожиданиеслучайной величины W, т.е.
/>
Зная закон распределенияслучайной величины Х, всегда можно найти ее характеристическую функцию g(t).Для дискретной случайной величины Х с законом распределения
Таблица 1Х х1 х2 ... хn Р p1 p2 ... pn
характеристическаяфункция
/>
Для непрерывной случайнойвеличины с плотностью распределения вероятностей f(x)характеристическая функция
/>
является преобразованиемФурье плотности распределения f(x). С помощью обратного преобразованияФурье можно найти плотность распределения
/>
Длятого, чтобы эти формулы можно было применять требуется, чтобы
/>
В качестве примера найдемхарактеристическую функцию нормированной гауссовсокой случайной величины. Случайнаявеличина Х называется нормированной, если ее числовые характеристики mx=0 и Dx=1. Плотность распределениявероятности нормированной гауссовской случайной величины имеет вид:
/>
Поопределению имеем
/> (2)
После преобразования
/>
и замены в интеграле
z = x – jt
соотношение (2) принимаетвид
/>
но так как
/>
то
/>
Таким образом,характеристическая функция с точностью до постоянного множителя совпадает сплотностью распределения.
2.1Свойства характеристической функции
1. Характеристическаяфункция g(t) вещественна тогда и только тогда, когда f(x) – четная функция. Причем g(t) также четна. Этоследует из свойств преобразования Фурье.
2. Если случайные величины Х и Y связаны соотношением
Y = aX,
где а – постоянныймножитель, то
gy(t) = gx(at).
Доказательство.
/>
3. Характеристическая функция суммынезависимых случайных величин равна произведению характеристических функций.
Доказательство. Пусть Х1,Х2,…, Хn-независимые случайные величины с характеристическими функциями gx1(t), gx2(t),…, gxn(t).
Найдем характеристическуюфункцию
/>
Имеем:
/>
Так как случайныевеличины /> независимы,то независимы и случайные величины />, поэтому
/>
Используя аппаратхарактеристических функций можно показать, что случайные величины Z = X + Y (Z – носит название композиции), где X, Y независимые случайные величины имеющие биноминальноераспределение или распределение Пуассона, или нормальное распределение такжеподчиняются соответственно биноминальному распределению, закону Пуассона,нормальному закону.
3. Центральная предельная теорема
Теорема. Если случайныевеличины Х1, Х2,…, Хnвзаимно независимы и имеют один итот жезакон распределения f(x) и
/>
то при неограниченномувеличении n закон распределения суммы /> неограниченноприближается к нормальному.
Она может бытьсформулирована в более общем случае. Закон распределения вероятностей суммынезависимых случайных величин одинакового порядка при неограниченном увеличениислагаемых вне зависимости законов распределения слагаемых стремится кнормальному закону с плотностью вероятностей
/>
где />
Доказательство используетаппарат характеристических функций, представляя /> и разлагая функцию gx(t) в ряд Макларена. Далее, делая нормировку случайной величиныYn, т.е. замену /> показывается, что
/>
Пример. Складываются 24 независимых случайных величины, каждая из которыхподчинена равномерному закону на интервале (0, 1).
Написать приближенное выражение для плотности суммы этих случайныхвеличин. Найти вероятность того, что сумма будет заключена в пределах от 6 до8.
Решение. Пусть /> где Хi – равномерно распределенные случайные величины. Случайнаявеличина Y удовлетворяет центральной предельнойтеореме, поэтому ее плотность распределения
/>
Так как Хi – равномерно распределены наинтервале (0, 1), то />
Следовательно,
/>
/>
Подставим полученныезначения в формулу плотности вероятности случайной величины Y:
/>
Значит
/>