Г.Д, Ковалева, А.С. Липин -Теория вероятностей для социологов и менеджеров

Глава 5. Числовые характеристики распределений

Величина, равная корню квадратному из дисперсии, D , называется стан-

дартным отклонением, и дисперсия часто обозначается: 2 .

Другие меры разброса значений с.в.

Дисперсия и стандартное отклонение, как показано выше, – не единственные меры разброса значений переменной.

В начале параграфа мы ввели три различных характеристики. Однако первая характеристика после взятия мат. ожидания становится неинформативной, так как

E E E E 0.

Математическое ожидание от остальных будут характеризовать разброс с.в. Возможно использование среднего абсолютного отклонения от какой-либо величины A, вычисляемое как EA E A . В качестве значения A может быть взята любая усредняющая величина

– математическое ожидание, медиана, мода. Однако принято использовать квадратическое отклонение 2 , так как так как функция модуль в отличие от квадратичной не является всю-

ду дифференцируемой.

Для дискретных случайных величин мерой разброса может быть размах –

Rmax ( ) min ( ).

Все меры разброса (рассеяния) привязаны к единицам измерения случайной величины

– рублям, долларам, килограммам, метрам и пр. В качестве «абсолютных» мер рассеяния, позволяющих сравнивать совокупности различной природы, берутся отношения мер отклонения к усредняющим характеристикам. Всеобщее применение среди этих мер получила

только одна мера – коэффициент вариации: V( ) 100%. При желании можно изо-

E

брести и другие измерители рассеяния переменных.

Свойства дисперсии

1) D 0.

Доказательство.

D E E 2 0.▄

0

Это свойство можно также доказать с помощью неравенства Йенсена, взяв g 2 .

2) D E 2 E 2 .

Доказательство.

E E 2 E 2 2 E E 2 E 2 E 2 E E E 2

E 2 2E E E 2 E 2 E 2 . ▄

3) Dc 0.

Доказательство.

Dc Ec2 Ec 2 c2 c2 0.▄

4)Постоянный множитель можно выносить за знак дисперсии, возводя его в квадрат D c c2 D . Доказательство очевидно в силу свойства 2.

5)D c D .

Доказательство.

51

Теория вероятностей

D c E c E c 2 E c E c 2 E E 2 D . ▄

6) Дисперсия суммы или разности независимых случайных величин равна сумме их дисперсий: D D D .

Доказательство.

D E 2 E 2 E 2 E 2 E 2 E 2

2 E E E E E E D D .

нез.

Случай для разности с.в. доказывается аналогично. ■ Из этого свойства следует, что дисперсия суммы или разности любого числа независи-

мых случайных величин равна сумме дисперсий.

7) Дисперсия – минимальное из среднеквадратических отклонений с.в. :

D E E 2 minE a 2 , a R .

a

Доказательство.

E a 2 E 2 2aE a2 E 2 E 2 E 2 2aE a2

D E a 2 D .▄

Замечание. В физике формула (5.2) определяет момент инерции вращающегося тела, а доказательство свойства 7) дисперсии повторяет доказательство теоремы Штейнера, которая рассчитывает изменение момента инерции при изменении оси вращения с центра масс

E в другую точку a .

5.3.Другие числовые характеристики с.в.

Кроме математического ожидания и дисперсии существуют характеристики случайных величин, которые называются моментами.

E k – начальный момент порядка k .

E E k – центральный момент порядка k .

E k – абсолютный начальный момент порядка k .

E E k – абсолютный центральный момент порядка k .

Соответственно в этой классификации математическое ожидание – начальный момент первого порядка, дисперсия – центральный момент второго порядка.

Старшие моменты определяются аналогично младшим:

Теорема. Если существует момент (сходится ряд или интеграл конечен) порядка t 0, то существуют все моменты младшего порядка s : 0 s t .

Квантиль уровня p , 0 p 1 распределения непрерывной случайной величины назы-

вается действительное число p , удовлетворяющее уравнению P p p.

52

Глава 5. Числовые характеристики распределений

Рис. 5.2. Квантиль уровня р на графиках функции плотности и распределения

Равносильное определение квантиля F p p . На рис. 5.2 изображено положение

квантиля для функций распределения и плотности с.в. и видно, что от квантили влево под графиком плотности площадь равна заданному значению p в p .

Критической точкой порядка p , 0 p 1, распределения непрерывной случайной величины называется действительное число kp , удовлетворяющее уравнению P kp p.

Очевидно, что квантиль и критическая точка связаны соотношением p k1 p .

Квантили используют для характеристики распределения. Например, при исследовании доходов населения (кривая Лоренца) часто используются децили – квантили порядка 0,1 и 0,9, отсекающие десятую часть площади слева и справа от графика плотности случайной величины. Отношение 0,9 0,1 является важным показателем, характеризующим дифферен-

циацию доходов населения. Аналогичными характеристиками случайных величин являются квартили – квантили порядка 0,25 и 0,75.

Также с помощью квантилей можно характеризовать разброс с.в. Например, широкое

распространение в качестве меры рассеяния получило квартильное отклонение: 0,25 0,75 ,

2

которое носит также название полурасстояние между квартилями или половинный квар-

тильный размах. Аналогичные определения существуют для меры рассеяния, определенной на основе размаха децилей 0,9 и 0,1 .

Нельзя не упомянуть еще один квантиль, использующийся в экономике – медиану (x0,5 )

т.е. квантиль уровня 0,5. Медиана делит плотность пополам, отсекая справа площадь 0,5 и слева площадь 0,5. Именно поэтому медиана является одной из средних характеристик с.в.

Мода (x) – значение с.в., при котором плотность максимальна.

f x

Рис. 5.3. Мода, медиана, среднее при правой асимметрии

С помощью трех характеристик среднего (математического ожидания), медианы и моды можно охарактеризовать вид распределения. Существует даже мнемоническое правило (для однопиковых распределений) расположения этих характеристик с.в. «mean-median- mode». Это означает, что левее всех расположено E , потом x0,5 и замыкает мода x. Такое

53

Теория вероятностей

расположение характерно для правой асимметрии (рис. 5.3.). При левой асимметрии расположение обратное.

5.4.Математические ожидания и дисперсии известных распределений

Вырожденное распределение

€Ic :

E a.D 0

Распределение Бернулли

€Bp :

Биномиальное распределение

€Bn,p . Учитывая по определению, что с.в., распределенная по биномиальному закону

может быть представлена в виде суммы независимых с.в., имеющих распределение Бернулли, получаем выражение для расчета математического ожидания и дисперсии:

i 1

E 2 D E 2 npq np 2

При этом второй момент можно рассчитать напрямую:

Распределение Пуассона

€ . В отличие от предыдущих случаев с.в. принимает счетное число исходов, по-

этому необходимо будет суммировать ряды. Для нахождения суммы рядов воспользуемся замечательным пределом.

Дисперсию найдем через второй момент:

54

Глава 5. Числовые характеристики распределений

Следовательно,

D E 2 E 2 2 2 .

Геометрическое распределение

€Gp . Для нахождения суммы ряда воспользуемся тем свойством, что сходящиеся ря-

ды можно почленно дифференцировать и интегрировать. Вопрос о сходимости ряда оставим за рамками обсуждения, чтобы не отклоняться от целей курса.

Второй момент находится аналогично, путем двойного интегрирования ряда:

Равномерное распределение

€Ua,b . Для непрерывных распределения с учетом функции плотности идет интегриро-

вание на отрезках. Соответственно, там где плотность равна нулю, интеграл также равен нулю.

Как видно из формул, математическое ожидание – центр тяжести отрезка a,b , дис-

персия – момент инерции отрезка, при вращении вокруг центра тяжести.

Показательное распределение

€E . Интегрирование идет также не по всей прямой, а по положительной полуоси.

Интеграл берется по частям.

55

Теория вероятностей

Старшие моменты находятся аналогично, кратным взятием интеграла по частям. В итоге получится следующая формула:

Применяя (5.3) для второго момента, получим выражение для дисперсии:

Мы уже говорили, что показательное распределение – непрерывный аналог геометрического. Математические ожидания соответствуют: 1p и 1 . Однако для выражений дисперсии это не так.

Нормальное распределение

Характеристики для нормального распределения общего вида €Na, 2 найдем через стандартное нормальное распределение €N0,1 и формулу перехода: a . Причем, как

мы уже упоминали, неопределенный интеграл не выражается через элементарные функции, однако определенный в некоторых случаях найти можно.

Математическое ожидание

Первая часть (5.4) равна нулю, что определяется через предельный переход и использование правила Лопиталя. Второй интеграл называется интегралом Пуассона:

Следовательно E 2 1. А дисперсия D 1 0 1.

Теперь определим числовые характеристики €Na, 2 :

Как видно, параметры нормального распределения являются математическим ожиданием и дисперсией, соответственно.

Прочие распределения

Рассмотрим распределение Коши: €Ca, . Несмотря на то, что с.в. имеет симметрич-

ную плотность относительно параметра a, для нее невозможно посчитать ни математическое ожидание, ни дисперсию:

56

Глава 5. Числовые характеристики распределений

Первый определенный интеграл неопределен, поэтому говорят, что первый момент не определен. Отметим, что мы не говорим «не существует», т.к. существует предел:

Второй момент у распределения Коши, впрочем, уже не существует.

Причина того, что у некоторых с.в. не существуют некоторые моменты в том, что соответствующий ряд или интеграл расходится. Для непрерывных функций это означает, что подынтегральная функция xk f x убывает слишком медленно. Например, в (5.5) убывание

аналогично функции 1x, интеграл которой по всей оси значений расходится.

Моменты для бета–распределения € a,b :

Вопросы

1.«Санкт-Петербургский парадокс». Игра описана Даниилом Бернулли в «Комментариях Санкт-Петербургской Академии» в 1738 г. Некто подбрасывает справедливую монету. Если упадет орлом, Вы получаете 2 очка и игра заканчивается. Если она упадет решкой, он бросает снова. Если второй бросок даст орла, Вы получаете 4; если решку, игра продолжается. Для каждого следующего круга приз за орла удваивается (то есть, 2, 4, 8, 16 и т.д.) и Вы переходите на следующий круг, пока не выпадет орел. Сколько Вы заплатили бы за право поиграть в эту игру?

2.Найдите математическое ожидание и дисперсию с.в., имеющей отрицательное биномиальное распределение.

3.Найдите третий момент распределения Пуассона

4.Возьмите интеграл Пуассона.

5.Найдите математическое ожидание и дисперсию с.в., имеющей распределение Парето.

57

Теория вероятностей

ГЛАВА 6. ПРЕДЕЛЬНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ВЕЛИЧИН

6.1. Вероятностные неравенства

Для оценивания вероятностей определенных событий не всегда необходимо знать распределения случайных величин. В некоторых случаях хватает знаний о моментах. Ниже рассмотрены различные варианты такого оценивания с помощью неравенств.

Необходимо понимать, что такое оценивание, без знания распределения грубо. Но в реальности зачастую информация о распределении случайной величины не всегда доступна. А в некоторых случаях, как будет показано ниже, необходимо сделать вывод о случайных величинах вообще, безотносительно их распределений.

Неравенство Маркова

Если E , тогда 0 выполняется неравенство:

Пример 6.1. Среднее расстояние от места работы до некоторого населенного пункта для работающего населения составляет 2,5 км. Оценить верхнюю границу вероятности того, что работающий человек будет жить на расстоянии от места работы, большем 7,5 км.

P 7,5 2,5 1 . 7,5 3

С вероятностью не более 13 человек будет жить на расстоянии большем 7,5 км.

Неравенство (6.1) можно переписать в альтернативной форме, используя определение обратного события:

P 1 E .

Доказательство. Монотонно возрастающую функцию можно применять к неравенствам с сохранением их знака:

58

Глава 6. Предельные характеристики случайных величин

P P g g .

Теперь к этому неравенству можно применять неравенство Маркова, т.к. все условия выполняются. ■

Следствие 6.2. Второе неравенство Чебышева»

Если E 2 , тогда 0 выполняется неравенство:

E 2

P 2 .

Доказательство. Используя следствие 5.1, и взяв функцию g 2 , удовлетворяю-

щую всем условиям, получим искомое неравенство. ■

Следствие 6.3. «Первое неравенство Чебышева»

Если 0 и E , тогда 0 выполняется неравенство:

P E .

Доказательство. В рамках неравенства Маркова, при неотрицательности случайной величины, модуль можно убрать. ■

Следствие 6.4. «Неравенство Чебышева-Бьенеме»7

Если E 2 , тогда 0 выполняется неравенство:

P E D .2

Доказательство. Взяв случайную величину E и используя следствие 5.1 для функции g 2 , удовлетворяющей всем свойствам, получим искомое неравенство:

Неравенство Чебышева-Бьенеме по сути является «Вторым неравенством Чебышева» в центрированной форме. Достоинством этого неравенства является то, что, зная только два числа, можно оценить вероятность отклонения от среднего. Неравенство позволяет практически использовать дисперсию как меру разброса значений случайной величины.

Пример 6.2. Обобщенное неравенство «трех сигм».

Если в неравенстве Чебышева-Бьенеме взять 3D , то получится:

P E 3 D D 1 . 9D 9

Если рассматривать оценку, полученную в примере 6.2 с неравенством «трех сигм» для нормального распределения, то очевидно, что эта оценка завышена в 41 раз. Такая разница объясняется «грубостью» оценки неравенства Чебышева-Бьенеме. Но эта «грубость» является следствием, того что обсуждалось в начале параграфа.

Все вышеперечисленные неравенства выполняются для любых с.в. и как любое обобщение, они аппроксимируют не точно. Более точную оценку можно получить для каждой с.в., зная ее характеристики, но выводы в этом случае уже нельзя будет распространить на другие с.в.

7 I. Bieneyme (1953), П. Л. Чебышев (1866).

59

Теория вероятностей

6.2. Законы больших чисел

Сходимость по вероятности

Последовательность независимых и одинаково распределенных с.в. i n , iid, сходится по вероятности к с.в. ,

P n 1.

n

При этом виде сходимости n может при больших n как угодно сильно отличаться от , лишь требуется, чтобы вероятность таких отличий стремилась к нулю. Это самый

нестрогий вид сходимости из всех, рассматриваемых в математике.

Следующие теоремы покажут, что некоторые действия со случайными величинами, например, агрегация, могут дать вполне предсказуемые результаты. Чем больше с.в. будет использовано, тем более точнее будет предсказанный результат. Речь идет о том, что при большом количестве с.в. появляются закономерности, не зависящие от вида с.в.

ЗБЧ Чебышева

Пусть i n – последовательность iid с.в., с конечными первым и вторым моментами: E i , E i2 . Тогда

1 2 n p E 1,

n n

где i:E i = E 1– математическое ожидание, общее для всех случайных величин.

Доказательство. Рассмотрим числовые характеристики с.в., равной сумме ряда

Применяя неравенство Чебышева-Бьенеме к с.в. Sn , получим

Используя рассчитанные характеристики, получим

Из конечности второго момента и существования первого следует конечность дисперсии. Неравенство (6.2) является доказательством сходимости по вероятности. ■

Итак, среднее арифметическое n независимых и одинаково распределенных с.в. сходится по вероятности к математическому ожиданию. Это означает, что ЗБЧ дает основание использовать наблюдения, получаемые в статистических исследованиях, для оценки параметров генеральной совокупности. Например, средний уровень зарплаты в целом по городу (мат. ожидание) по данным анкетного обследования мы можем оценивать по выборке, по-

60