Кумулятивная функция распределения - Cumulative distribution function

Кумулятивная функция распределения для экспоненциальное распределение

Кумулятивная функция распределения для нормальное распределение

В теория вероятности и статистика, то кумулятивная функция распределения (CDF) действительного случайная переменная ${\displaystyle X}$, или просто функция распределения из ${\displaystyle X}$, оценивается в ${\displaystyle x}$, это вероятность который ${\displaystyle X}$ примет значение меньше или равное ${\displaystyle x}$.^[1]

В случае скаляра непрерывное распространение, дает площадь под функция плотности вероятности от минус бесконечности до ${\displaystyle x}$. Кумулятивные функции распределения также используются для определения распределения многомерные случайные величины.

Определение

Кумулятивная функция распределения вещественных случайная переменная ${\displaystyle X}$ функция, заданная^{[2]:п. 77}

${\displaystyle F_{X}(x)=\operatorname {P} (X\leq x)}$

(Уравнение 1)

где правая часть представляет собой вероятность что случайная величина ${\displaystyle X}$ принимает значение меньше или равно ${\displaystyle x}$. Вероятность того, что ${\displaystyle X}$ лежит в полузакрытом интервал ${\displaystyle (a,b]}$, куда ${\displaystyle a<b}$, следовательно является^{[2]:п. 84}

${\displaystyle \operatorname {P} (a<X\leq b)=F_{X}(b)-F_{X}(a)}$

(Уравнение 2)

В приведенном выше определении знак «меньше или равно», «≤», является условным обозначением, а не универсальным (например, в венгерской литературе используется «<»), но различие важно для дискретных распределений. Правильное использование таблиц биномиальный и Распределения Пуассона зависит от этого соглашения. Кроме того, такие важные формулы, как Поль Леви формула обращения для характеристическая функция также полагайтесь на формулировку «меньше или равно».

Если рассматривать несколько случайных величин ${\displaystyle X,Y,\ldots }$ и т.д. соответствующие буквы используются как нижние индексы, в то время как, если рассматривается только один, нижний индекс обычно опускается. Принято использовать заглавную букву ${\displaystyle F}$ для кумулятивной функции распределения, в отличие от нижнего регистра ${\displaystyle f}$ используется для функции плотности вероятности и вероятностные массовые функции. Это применимо при обсуждении общих распределений: некоторые конкретные распределения имеют свои собственные условные обозначения, например нормальное распределение.

Функция плотности вероятности непрерывной случайной величины может быть определена из кумулятивной функции распределения путем дифференцирования^[3] с использованием Основная теорема исчисления; т.е. данный ${\displaystyle F(x)}$,

${\displaystyle f(x)={dF(x) \over dx}}$

пока существует производная.

CDF непрерывная случайная величина ${\displaystyle X}$ можно выразить как интеграл от его функции плотности вероятности ${\displaystyle f_{X}}$ следующее:^{[2]:п. 86}

${\displaystyle F_{X}(x)=\int _{-\infty }^{x}f_{X}(t)\,dt.}$

В случае случайной величины ${\displaystyle X}$ которое имеет распределение с дискретной составляющей при значении ${\displaystyle b}$,

${\displaystyle \operatorname {P} (X=b)=F_{X}(b)-\lim _{x\to b^{-}}F_{X}(x).}$

Если ${\displaystyle F_{X}}$ непрерывно на ${\displaystyle b}$, это равно нулю, и дискретная составляющая на ${\displaystyle b}$.

Характеристики

Сверху вниз - кумулятивная функция распределения дискретного распределения вероятностей, непрерывного распределения вероятностей и распределения, которое имеет как непрерывную, так и дискретную части.

Каждая кумулятивная функция распределения ${\displaystyle F_{X}}$ является неубывающий^{[2]:п. 78} и непрерывный вправо,^{[2]:п. 79} что делает его càdlàg функция. Более того,

${\displaystyle \lim _{x\to -\infty }F_{X}(x)=0,\quad \lim _{x\to +\infty }F_{X}(x)=1.}$

Каждая функция с этими четырьмя свойствами является CDF, т.е. для каждой такой функции случайная переменная может быть определена так, что функция является кумулятивной функцией распределения этой случайной величины.

Если ${\displaystyle X}$ это чисто дискретная случайная величина, то достигает значений ${\displaystyle x_{1},x_{2},\ldots }$ с вероятностью ${\displaystyle p_{i}=p(x_{i})}$, и CDF ${\displaystyle X}$ будет прерывистый в точках ${\displaystyle x_{i}}$:

${\displaystyle F_{X}(x)=\operatorname {P} (X\leq x)=\sum _{x_{i}\leq x}\operatorname {P} (X=x_{i})=\sum _{x_{i}\leq x}p(x_{i}).}$

Если CDF ${\displaystyle F_{X}}$ действительной случайной величины ${\displaystyle X}$ является непрерывный, тогда ${\displaystyle X}$ это непрерывная случайная величина; если к тому же ${\displaystyle F_{X}}$ является абсолютно непрерывный, то существует Интегрируемый по Лебегу функция ${\displaystyle f_{X}(x)}$ такой, что

${\displaystyle F_{X}(b)-F_{X}(a)=\operatorname {P} (a<X\leq b)=\int _{a}^{b}f_{X}(x)\,dx}$

для всех действительных чисел ${\displaystyle a}$ и ${\displaystyle b}$. Функция ${\displaystyle f_{X}}$ равно производная из ${\displaystyle F_{X}}$ почти всюду, и это называется функция плотности вероятности распределения ${\displaystyle X}$.

Примеры

В качестве примера предположим ${\displaystyle X}$ является равномерно распределены на единичном интервале ${\displaystyle [0,1]}$.

Тогда CDF ${\displaystyle X}$ дан кем-то

${\displaystyle F_{X}(x)={\begin{cases}0&:\ x<0\\x&:\ 0\leq x\leq 1\\1&:\ x>1\end{cases}}}$

Предположим вместо этого, что ${\displaystyle X}$ принимает только дискретные значения 0 и 1 с равной вероятностью.

Тогда CDF ${\displaystyle X}$ дан кем-то

${\displaystyle F_{X}(x)={\begin{cases}0&:\ x<0\\1/2&:\ 0\leq x<1\\1&:\ x\geq 1\end{cases}}}$

Предполагать ${\displaystyle X}$ является экспоненциально распределенный. Тогда CDF ${\displaystyle X}$ дан кем-то

${\displaystyle F_{X}(x;\lambda )={\begin{cases}1-e^{-\lambda x}&x\geq 0,\\0&x<0.\end{cases}}}$

Здесь λ> 0 - параметр распределения, часто называемый параметром скорости.

Предполагать ${\displaystyle X}$ является нормально распределенный. Тогда CDF ${\displaystyle X}$ дан кем-то

${\displaystyle F(x;\mu ,\sigma )={\frac {1}{\sigma {\sqrt {2\pi }}}}\int _{-\infty }^{x}\exp \left(-{\frac {(t-\mu )^{2}}{2\sigma ^{2}}}\ \right)\,dt.}$

Здесь параметр ${\displaystyle \mu }$ среднее или математическое ожидание распределения; и ${\displaystyle \sigma }$ его стандартное отклонение.

Предполагать ${\displaystyle X}$ является биномиально распределенный. Тогда CDF ${\displaystyle X}$ дан кем-то

${\displaystyle F(k;n,p)=\Pr(X\leq k)=\sum _{i=0}^{\lfloor k\rfloor }{n \choose i}p^{i}(1-p)^{n-i}}$

Здесь ${\displaystyle p}$ - вероятность успеха, а функция обозначает дискретное распределение вероятностей количества успехов в последовательности ${\displaystyle n}$ независимые эксперименты и ${\displaystyle \lfloor k\rfloor \,}$ это "пол" под ${\displaystyle k}$, т.е. наибольшее целое число меньше или равно ${\displaystyle k}$.

Производные функции

Дополнительная кумулятивная функция распределения (хвостовое распределение)

Иногда полезно изучить противоположный вопрос и спросить, как часто случайная величина над конкретный уровень. Это называется дополнительная кумулятивная функция распределения (ccdf) или просто распределение хвоста или же превышение, и определяется как

${\displaystyle {\bar {F}}_{X}(x)=\operatorname {P} (X>x)=1-F_{X}(x).}$

Это имеет приложения в статистический проверка гипотезы, например, потому что односторонний p-значение вероятность наблюдения тестовой статистики по меньшей мере столь же экстремально, как и наблюдаемый. Таким образом, при условии, что статистика теста, Т, имеет непрерывное распределение, одностороннее p-значение просто дается ccdf: для наблюдаемого значения ${\displaystyle t}$ статистики теста

${\displaystyle p=\operatorname {P} (T\geq t)=\operatorname {P} (T>t)=1-F_{T}(t).}$

В анализ выживаемости, ${\displaystyle {\bar {F}}_{X}(x)}$ называется функция выживания и обозначен ${\displaystyle S(x)}$, а срок функция надежности распространено в инженерное дело.

Z-таблица:

Одним из самых популярных приложений кумулятивной функции распределения является стандартный нормальный стол, также называемый единица нормального стола или же Z таблица,^[4] - значение кумулятивной функции распределения нормального распределения. Очень полезно использовать Z-таблицу не только для вероятностей ниже значения, которое является исходным приложением кумулятивной функции распределения, но также выше и / или между значениями стандартного нормального распределения, и в дальнейшем она была расширена до любого нормального распределения.

Характеристики

• Для неотрицательной непрерывной случайной величины, имеющей математическое ожидание, Неравенство Маркова утверждает, что^[5]

${\displaystyle {\bar {F}}_{X}(x)\leq {\frac {\operatorname {E} (X)}{x}}.}$

• В качестве ${\displaystyle x\to \infty ,{\bar {F}}_{X}(x)\to 0\ }$, а на самом деле ${\displaystyle {\bar {F}}_{X}(x)=o(1/x)}$ при условии, что ${\displaystyle \operatorname {E} (X)}$ конечно.

Доказательство:^{[нужна цитата ]} Предполагая ${\displaystyle X}$ имеет функцию плотности ${\displaystyle f_{X}}$, для любого ${\displaystyle c>0}$

${\displaystyle \operatorname {E} (X)=\int _{0}^{\infty }xf_{X}(x)\,dx\geq \int _{0}^{c}xf_{X}(x)\,dx+c\int _{c}^{\infty }f_{X}(x)\,dx}$

Затем, узнав ${\displaystyle {\bar {F}}_{X}(c)=\int _{c}^{\infty }f_{X}(x)\,dx}$ и перестановка условий,

${\displaystyle 0\leq c{\bar {F}}_{X}(c)\leq \operatorname {E} (X)-\int _{0}^{c}xf_{X}(x)\,dx\to 0{\text{ as }}c\to \infty }$

как заявлено.

Свернутое совокупное распределение

Пример сложенного кумулятивного распределения для нормальное распределение функция с ожидаемое значение 0 и стандартное отклонение из 1.

Хотя график кумулятивного распределения часто имеет S-образную форму, альтернативной иллюстрацией является сложенное кумулятивное распределение или же горный участок, который складывает верхнюю половину графика,^[6][7]Таким образом, используются две шкалы: одна для подъема, а другая - для спуска. Эта форма иллюстрации подчеркивает медиана и разброс (в частности, среднее абсолютное отклонение от медианы^[8]) распределения или эмпирических результатов.

Функция обратного распределения (функция квантиля)

Основная статья: Квантильная функция

Если CDF F строго возрастает и непрерывно, то ${\displaystyle F^{-1}(p),p\in [0,1],}$ это уникальное действительное число ${\displaystyle x}$ такой, что ${\displaystyle F(x)=p}$. В таком случае это определяет обратная функция распределения или же квантильная функция.

Некоторые дистрибутивы не имеют уникального обратного (например, в случае, когда ${\displaystyle f_{X}(x)=0}$ для всех ${\displaystyle a<x<b}$, вызывая ${\displaystyle F_{X}}$ быть постоянным). Эту проблему можно решить, определив для ${\displaystyle p\in [0,1]}$, то обобщенная обратная функция распределения:

${\displaystyle F^{-1}(p)=\inf\{x\in \mathbb {R} :F(x)\geq p\}.}$

• Пример 1: медиана ${\displaystyle F^{-1}(0.5)}$.
• Пример 2: положить ${\displaystyle \tau =F^{-1}(0.95)}$. Затем мы звоним ${\displaystyle \tau }$ 95-й процентиль.

Некоторые полезные свойства обратного cdf (которые также сохраняются в определении обобщенной обратной функции распределения):

1. ${\displaystyle F^{-1}}$ не убывает
2. ${\displaystyle F^{-1}(F(x))\leq x}$
3. ${\displaystyle F(F^{-1}(p))\geq p}$
4. ${\displaystyle F^{-1}(p)\leq x}$ если и только если ${\displaystyle p\leq F(x)}$
5. Если ${\displaystyle Y}$ имеет ${\displaystyle U[0,1]}$ распространение тогда ${\displaystyle F^{-1}(Y)}$ распространяется как ${\displaystyle F}$. Это используется в генерация случайных чисел с использованием выборка с обратным преобразованием -метод.
6. Если ${\displaystyle \{X_{\alpha }\}}$ представляет собой собрание независимых ${\displaystyle F}$-распределенные случайные величины, определенные в одном и том же пространстве выборки, тогда существуют случайные величины ${\displaystyle Y_{\alpha }}$ такой, что ${\displaystyle Y_{\alpha }}$ распространяется как ${\displaystyle U[0,1]}$ и ${\displaystyle F^{-1}(Y_{\alpha })=X_{\alpha }}$ с вероятностью 1 для всех ${\displaystyle \alpha }$.

Обратное к cdf можно использовать для перевода результатов, полученных для равномерного распределения, в другие распределения.

Эмпирическая функция распределения

В эмпирическая функция распределения является оценкой кумулятивной функции распределения, которая сгенерировала точки в выборке. Он сходится с вероятностью 1 к этому базовому распределению. Существует ряд результатов для количественной оценки скорости сходимости эмпирической функции распределения к основной кумулятивной функции распределения.^{[нужна цитата ]}.

Многомерный случай

Определение двух случайных величин

При одновременной работе с более чем одной случайной величиной совместная кумулятивная функция распределения также можно определить. Например, для пары случайных величин ${\displaystyle X,Y}$, совместный CDF ${\displaystyle F_{XY}}$ дан кем-то^{[2]:п. 89}

${\displaystyle F_{X,Y}(x,y)=\operatorname {P} (X\leq x,Y\leq y)}$

(Уравнение 3)

где правая часть представляет собой вероятность что случайная величина ${\displaystyle X}$ принимает значение меньше или равно ${\displaystyle x}$ и который ${\displaystyle Y}$ принимает значение меньше или равно ${\displaystyle y}$.

Пример совместной кумулятивной функции распределения:

Для двух непрерывных переменных Икс и Y: ${\displaystyle \Pr(a<X<b{\text{ and }}c<Y<d)=\int \limits _{a}^{b}\int \limits _{c}^{d}f(x,y)\,dy\,dx}$;

Для двух дискретных случайных величин полезно создать таблицу вероятностей и определить кумулятивную вероятность для каждого потенциального диапазона Икс и Y, а вот пример:^[9]

учитывая совместную функцию плотности вероятности в табличной форме, определите совместную кумулятивную функцию распределения.

	Y = 2	Y = 4	Y = 6	Y = 8
Икс = 1	0	0.1	0	0.1
Икс = 3	0	0	0.2	0
Икс = 5	0.3	0	0	0.15
Икс = 7	0	0	0.15	0

Решение: используя данную таблицу вероятностей для каждого потенциального диапазона Икс и Y, совместная кумулятивная функция распределения может быть построена в табличной форме:

	Y < 2	2 ≤ Y < 4	4 ≤ Y < 6	6 ≤ Y < 8	Y ≤ 8
Икс < 1	0	0	0	0	0
1 ≤ Икс < 3	0	0	0.1	0.1	0.2
3 ≤ Икс < 5	0	0	0.1	0.3	0.4
5 ≤ Икс < 7	0	0.3	0.4	0.6	0.85
Икс ≤ 7	0	0.3	0.4	0.75	1

Определение более двух случайных величин

За ${\displaystyle N}$ случайные переменные ${\displaystyle X_{1},\ldots ,X_{N}}$, совместный CDF ${\displaystyle F_{X_{1},\ldots ,X_{N}}}$ дан кем-то

${\displaystyle F_{X_{1},\ldots ,X_{N}}(x_{1},\ldots ,x_{N})=\operatorname {P} (X_{1}\leq x_{1},\ldots ,X_{N}\leq x_{n})}$

(Уравнение 4)

Толкование ${\displaystyle N}$ случайные величины как случайный вектор ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{N})^{T}}$ дает более короткое обозначение:

${\displaystyle F_{\mathbf {X} }(\mathbf {x} )=\operatorname {P} (X_{1}\leq x_{1},\ldots ,X_{N}\leq x_{n})}$

Характеристики

Каждый многомерный CDF:

1. Монотонно неубывающая по каждой из своих переменных,
2. Непрерывна справа по каждой из своих переменных,
3. ${\displaystyle 0\leq F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})\leq 1,}$
4. ${\displaystyle \lim _{x_{1},\ldots ,x_{n}\rightarrow +\infty }F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})=1{\text{ and }}\lim _{x_{i}\rightarrow -\infty }F_{X_{1}\ldots X_{n}}(x_{1},\ldots ,x_{n})=0,{\text{for all }}i.}$

Вероятность того, что точка принадлежит гипер прямоугольник аналогичен одномерному случаю:^[10]

${\displaystyle F_{X_{1},X_{2}}(a,c)+F_{X_{1},X_{2}}(b,d)-F_{X_{1},X_{2}}(a,d)-F_{X_{1},X_{2}}(b,c)=\operatorname {P} (a<X_{1}\leq b,c<X_{2}\leq d)=\int ...}$

Сложный случай

Сложная случайная величина

Обобщение кумулятивной функции распределения от действительной к сложные случайные величины неочевидно, потому что выражения вида ${\displaystyle P(Z\leq 1+2i)}$ не имеет смысла. Однако выражения формы ${\displaystyle P(\Re {(Z)}\leq 1,\Im {(Z)}\leq 3)}$ имеет смысл. Поэтому мы определяем кумулятивное распределение сложных случайных величин через совместное распределение их реальной и мнимой частей:

${\displaystyle F_{Z}(z)=F_{\Re {(Z)},\Im {(Z)}}(\Re {(z)},\Im {(z)})=P(\Re {(Z)}\leq \Re {(z)},\Im {(Z)}\leq \Im {(z)})}$.

Комплексный случайный вектор

Обобщение Уравнение 4 дает

${\displaystyle F_{\mathbf {Z} }(\mathbf {z} )=F_{\Re {(Z_{1})},\Im {(Z_{1})},\ldots ,\Re {(Z_{n})},\Im {(Z_{n})}}(\Re {(z_{1})},\Im {(z_{1})},\ldots ,\Re {(z_{n})},\Im {(z_{n})})=\operatorname {P} (\Re {(Z_{1})}\leq \Re {(z_{1})},\Im {(Z_{1})}\leq \Im {(z_{1})},\ldots ,\Re {(Z_{n})}\leq \Re {(z_{n})},\Im {(Z_{n})}\leq \Im {(z_{n})})}$

как определение CDS комплексного случайного вектора ${\displaystyle \mathbf {Z} =(Z_{1},\ldots ,Z_{N})^{T}}$.

Использование в статистическом анализе

Концепция кумулятивной функции распределения явно проявляется в статистическом анализе двумя (аналогичными) способами. Накопительный частотный анализ это анализ частоты появления значений явления меньше контрольного значения. В эмпирическая функция распределения является формальной прямой оценкой кумулятивной функции распределения, для которой могут быть получены простые статистические свойства и которая может лечь в основу различных статистические проверки гипотез. Такие тесты могут оценить, есть ли свидетельства против выборки данных, полученных из данного распределения, или свидетельства против двух выборок данных, полученных из одного и того же (неизвестного) распределения населения.

Тесты Колмогорова – Смирнова и Койпера

В Тест Колмогорова – Смирнова основан на кумулятивных функциях распределения и может использоваться для проверки того, различаются ли два эмпирических распределения или эмпирическое распределение отличается от идеального. Тесно связанные Тест Койпера полезно, если область распределения циклична, например, по дням недели. Например, можно использовать тест Койпера, чтобы увидеть, меняется ли количество торнадо в течение года или продажи продукта меняются по дню недели или дню месяца.

Смотрите также

• Описательная статистика
• Распределительная арматура
• Ogive (статистика)

Рекомендации

1. Дайзенрот, Марк Питер; Фейсал, А. Альдо; Онг, Ченг Сун (2020). Математика для машинного обучения. Издательство Кембриджского университета. п. 181. ISBN  9781108455145.
2. Парк, Кун Иль (2018). Основы вероятностных и случайных процессов с приложениями к коммуникациям. Springer. ISBN  978-3-319-68074-3.
3. Montgomery, Douglas C .; Рангер, Джордж К. (2003). Прикладная статистика и вероятность для инженеров (PDF). John Wiley & Sons, Inc. стр. 104. ISBN  0-471-20454-4.
4. "Z Таблица". Z Таблица. Получено 2019-12-11.
5. Цвиллинджер, Даниэль; Кокоска, Стивен (2010). Стандартные таблицы вероятностей и статистики CRC и формулы. CRC Press. п. 49. ISBN  978-1-58488-059-2.
6. Джентл, Дж. Э. (2009). Вычислительная статистика. Springer. ISBN  978-0-387-98145-1. Получено 2010-08-06.^{[страница нужна ]}
7. Монти, К. Л. (1995). «Сложенные кривые эмпирической функции распределения (горные графики)». Американский статистик. 49 (4): 342–345. Дои:10.2307/2684570. JSTOR  2684570.
8. Xue, J. H .; Титерингтон, Д. М. (2011). «P-свернутая кумулятивная функция распределения и среднее абсолютное отклонение от p-квантиля» (PDF). Письма о статистике и вероятности. 81 (8): 1179–1182. Дои:10.1016 / j.spl.2011.03.014.
9. «Совместная кумулятивная функция распределения (CDF)». math.info. Получено 2019-12-11.
10. [1]

внешняя ссылка

• СМИ, связанные с Кумулятивные функции распределения в Wikimedia Commons