Нормальное распределение - Normal distribution

Эта статья посвящена одномерному распределению вероятностей. Для нормально распределенных векторов см. Многомерное нормальное распределение. Для нормально распределенных матриц см. Матричное нормальное распределение.

«Кривая колокола» перенаправляется сюда. Для использования в других целях см. Кривая колокола (значения).

Нормальное распределение

Функция плотности вероятности Красная кривая - это стандартное нормальное распределение
Кумулятивная функция распределения
Обозначение	${displaystyle {mathcal {N}}(mu ,sigma ^{2})}$
Параметры	${displaystyle mu in mathbb {R} }$ = среднее (место расположения ) ${displaystyle sigma ^{2}>0}$ = дисперсия (в квадрате шкала )
Поддерживать	${displaystyle xin mathbb {R} }$
PDF	${displaystyle {frac {1}{sigma {sqrt {2pi }}}}e^{-{frac {1}{2}}left({frac {x-mu }{sigma }}ight)^{2}}}$
CDF	${displaystyle {frac {1}{2}}left[1+operatorname {erf} left({frac {x-mu }{sigma {sqrt {2}}}}ight)ight]}$
Квантиль	${displaystyle mu +sigma {sqrt {2}}operatorname {erf} ^{-1}(2p-1)}$
Иметь в виду	${displaystyle mu }$
Медиана	${displaystyle mu }$
Режим	${displaystyle mu }$
Дисперсия	${displaystyle sigma ^{2}}$
СУМАСШЕДШИЙ	${displaystyle sigma {sqrt {2/pi }}}$
Асимметрия	${displaystyle 0}$
Бывший. эксцесс	${displaystyle 0}$
Энтропия	${displaystyle {frac {1}{2}}log(2pi esigma ^{2})}$
MGF	${displaystyle exp(mu t+sigma ^{2}t^{2}/2)}$
CF	${displaystyle exp(imu t-sigma ^{2}t^{2}/2)}$
Информация Fisher	${displaystyle {mathcal {I}}(mu ,sigma )={egin{pmatrix}1/sigma ^{2}&0�&2/sigma ^{2}end{pmatrix}}}$ ${displaystyle {mathcal {I}}(mu ,sigma ^{2})={egin{pmatrix}1/sigma ^{2}&0�&1/(2sigma ^{4})end{pmatrix}}}$
Расхождение Кульбака-Лейблера	${displaystyle {1 over 2}left{left({frac {sigma _{0}}{sigma _{1}}}ight)^{2}+{frac {(mu _{1}-mu _{0})^{2}}{sigma _{1}^{2}}}-1+2ln {sigma _{1} over sigma _{0}}ight}}$

В теория вероятности, а нормальный (или же Гауссовский или же Гаусс или же Лаплас – Гаусс) распределение это тип непрерывное распределение вероятностей для ценный случайная переменная. Общий вид его функция плотности вероятности является

${displaystyle f(x)={frac {1}{sigma {sqrt {2pi }}}}e^{-{frac {1}{2}}left({frac {x-mu }{sigma }}ight)^{2}}}$

Параметр ${displaystyle mu }$ это иметь в виду или же ожидание распределения (а также его медиана и Режим ), а параметр ${displaystyle sigma }$ это его стандартное отклонение.^[1] В отклонение распределения ${displaystyle sigma ^{2}}$.^[2] Случайная величина с гауссовым распределением называется нормально распределенный, и называется нормальное отклонение.

Нормальные распределения важны в статистика и часто используются в естественный и социальные науки представлять ценные случайные переменные чьи распределения неизвестны.^[3][4] Их важность отчасти объясняется Центральная предельная теорема. В нем говорится, что при некоторых условиях среднее из многих выборок (наблюдений) случайной величины с конечным средним значением и дисперсией само по себе является случайной величиной, распределение которой сходится к нормальному распределению по мере увеличения количества выборок. Следовательно, физические величины, которые, как ожидается, будут суммой многих независимых процессов, таких как погрешности измерения, часто имеют распределения, которые почти нормальны.^[5]

Более того, гауссовские распределения обладают некоторыми уникальными свойствами, которые ценны для аналитических исследований. Например, любая линейная комбинация фиксированного набора нормальных отклонений является нормальным отклонением. Многие результаты и методы, такие как распространение неопределенности и наименьших квадратов подгонка параметров, может быть получена аналитически в явной форме, когда соответствующие переменные распределены нормально.

Нормальное распределение иногда неофициально называют кривая колокола.^[6] Однако многие другие дистрибутивы имеют форму колокола (например, Коши, Студенты т, и логистика раздачи).

Определения

Стандартное нормальное распределение

Простейший случай нормального распределения известен как стандартное нормальное распределение. Это особый случай, когда ${displaystyle mu =0}$ и ${displaystyle sigma =1}$, и это описывается этим функция плотности вероятности:^[1]

${displaystyle varphi (x)={frac {1}{sqrt {2pi }}}e^{-{frac {1}{2}}x^{2}}}$

Здесь фактор ${displaystyle 1/{sqrt {2pi }}}$ гарантирует, что общая площадь под кривой ${displaystyle varphi (x)}$ равно единице.^{[примечание 1]} Фактор ${displaystyle 1/2}$ в показателе степени гарантирует, что распределение имеет единичную дисперсию (т. е. дисперсию, равную единице), и, следовательно, также единичное стандартное отклонение. Эта функция симметрична относительно ${displaystyle x=0}$, где достигает максимального значения ${displaystyle 1/{sqrt {2pi }}}$ и имеет точки перегиба в ${displaystyle x=+1}$ и ${displaystyle x=-1}$.

Авторы расходятся во мнениях относительно того, какое нормальное распределение следует называть "стандартным". Карл Фридрих Гаусс, например, определили стандартную нормаль как имеющую дисперсию ${displaystyle sigma ^{2}=1/2}$. То есть:

${displaystyle varphi (x)={frac {e^{-x^{2}}}{sqrt {pi }}}}$

С другой стороны, Стивен Стиглер^[7] идет еще дальше, определяя стандартную нормаль как имеющую дисперсию ${displaystyle sigma ^{2}=1/(2pi )}$:

${displaystyle varphi (x)=e^{-pi x^{2}}}$

Общее нормальное распределение

Каждое нормальное распределение является версией стандартного нормального распределения, область определения которого была увеличена в несколько раз. ${displaystyle sigma }$ (стандартное отклонение), а затем переведено на ${displaystyle mu }$ (среднее значение):

${displaystyle f(xmid mu ,sigma ^{2})={frac {1}{sigma }}varphi left({frac {x-mu }{sigma }}ight)}$

Плотность вероятности должна быть масштабирована на ${displaystyle 1/sigma }$ так что интеграл по-прежнему равен 1.

Если ${displaystyle Z}$ это стандартное нормальное отклонение, тогда ${displaystyle X=sigma Z+mu }$ будет иметь нормальное распределение с ожидаемым значением ${displaystyle mu }$ и стандартное отклонение ${displaystyle sigma }$. Наоборот, если ${displaystyle X}$ нормальное отклонение с параметрами ${displaystyle mu }$ и ${displaystyle sigma ^{2}}$, то распределение ${displaystyle Z=(X-mu )/sigma }$ будет иметь стандартное нормальное распределение. Этот вариант также называют стандартизированной формой ${displaystyle X}$.

Обозначение

Плотность вероятности стандартного распределения Гаусса (стандартное нормальное распределение с нулевым средним и единичной дисперсией) часто обозначается греческой буквой ${displaystyle phi }$ (фи ).^[8] Альтернативная форма греческой буквы фи, ${displaystyle varphi }$, также используется довольно часто.^[1]

Нормальное распределение часто называют ${displaystyle N(mu ,sigma ^{2})}$ или же ${displaystyle {mathcal {N}}(mu ,sigma ^{2})}$.^[1][9] Таким образом, когда случайная величина ${displaystyle X}$ нормально распределяется со средним ${displaystyle mu }$ и стандартное отклонение ${displaystyle sigma }$можно написать

${displaystyle Xsim {mathcal {N}}(mu ,sigma ^{2}).}$

Альтернативные параметризации

Некоторые авторы рекомендуют использовать точность ${displaystyle au }$ в качестве параметра, определяющего ширину распределения, вместо отклонения ${displaystyle sigma }$ или дисперсия ${displaystyle sigma ^{2}}$. Точность обычно определяется как величина, обратная дисперсии, ${displaystyle 1/sigma ^{2}}$.^[10] Формула распределения тогда принимает вид

${displaystyle f(x)={sqrt {frac { au }{2pi }}}e^{- au (x-mu )^{2}/2}.}$

Утверждается, что этот выбор имеет преимущества в численных расчетах, когда ${displaystyle sigma }$ очень близко к нулю и упрощает формулы в некоторых контекстах, например в Байесовский вывод переменных с многомерное нормальное распределение.

В качестве альтернативы, величина, обратная стандартному отклонению ${displaystyle au ^{prime }=1/sigma }$ можно определить как точность, в этом случае выражение нормального распределения принимает вид

${displaystyle f(x)={frac { au ^{prime }}{sqrt {2pi }}}e^{-( au ^{prime })^{2}(x-mu )^{2}/2}.}$

По словам Стиглера, эта формулировка выгодна из-за гораздо более простой и легко запоминающейся формулы, а также простых приближенных формул для квантили распределения.

Нормальные распределения образуют экспоненциальная семья с естественные параметры ${displaystyle extstyle heta _{1}={frac {mu }{sigma ^{2}}}}$ и ${displaystyle extstyle heta _{2}={frac {-1}{2sigma ^{2}}}}$, и естественная статистика Икс и Икс². Параметры двойного ожидания для нормального распределения: η₁ = μ и η₂ = μ² + σ².

Кумулятивная функция распределения

В кумулятивная функция распределения (CDF) стандартного нормального распределения, обычно обозначаемого заглавной греческой буквой ${displaystyle Phi }$ (фи ),^[1] это интеграл

${displaystyle Phi (x)={frac {1}{sqrt {2pi }}}int _{-infty }^{x}e^{-t^{2}/2},dt}$

Связанные функция ошибки ${displaystyle operatorname {erf} (x)}$ дает вероятность случайной величины с нормальным распределением среднего 0 и дисперсией 1/2, попадающими в диапазон ${displaystyle [-x,x]}$. То есть:^[1]

${displaystyle operatorname {erf} (x)={frac {2}{sqrt {pi }}}int _{0}^{x}e^{-t^{2}},dt}$

Эти интегралы не могут быть выражены в терминах элементарных функций, и их часто называют специальные функции. Однако известно много численных приближений; видеть ниже для большего.

Эти две функции тесно связаны, а именно:

${displaystyle Phi (x)={frac {1}{2}}left[1+operatorname {erf} left({frac {x}{sqrt {2}}}ight)ight]}$

Для общего нормального распределения с плотностью ${displaystyle f}$, иметь в виду ${displaystyle mu }$ и отклонение ${displaystyle sigma }$, кумулятивная функция распределения имеет вид

${displaystyle F(x)=Phi left({frac {x-mu }{sigma }}ight)={frac {1}{2}}left[1+operatorname {erf} left({frac {x-mu }{sigma {sqrt {2}}}}ight)ight]}$

Дополнение к стандартному нормальному CDF, ${displaystyle Q(x)=1-Phi (x)}$, часто называют Q-функция, особенно в инженерных текстах.^[11][12] Он дает вероятность того, что значение стандартной нормальной случайной величины ${displaystyle X}$ превысит ${displaystyle x}$: ${displaystyle P(X>x)}$. Другие определения ${displaystyle Q}$-функции, все из которых являются простыми преобразованиями ${displaystyle Phi }$, также иногда используются.^[13]

В график стандартного нормального CDF ${displaystyle Phi }$ имеет 2-кратный вращательная симметрия вокруг точки (0,1 / 2); то есть, ${displaystyle Phi (-x)=1-Phi (x)}$. Его первообразный (неопределенный интеграл) можно выразить следующим образом:

${displaystyle int Phi (x),dx=xPhi (x)+varphi (x)+C.}$

CDF стандартного нормального распределения может быть расширен на Интеграция по частям в серию:

${displaystyle Phi (x)={frac {1}{2}}+{frac {1}{sqrt {2pi }}}cdot e^{-x^{2}/2}left[x+{frac {x^{3}}{3}}+{frac {x^{5}}{3cdot 5}}+cdots +{frac {x^{2n+1}}{(2n+1)!!}}+cdots ight]}$

куда ${displaystyle !!}$ обозначает двойной факториал.

An асимптотическое разложение ФРИ для крупных Икс также можно получить с помощью интегрирования по частям. Подробнее см. Функция ошибок # Асимптотическое расширение.^[14]

Стандартное отклонение и охват

Дальнейшая информация: Оценка интервала и Вероятность покрытия

Для нормального распределения значения менее одного стандартного отклонения от среднего составляют 68,27% от набора; два стандартных отклонения от среднего составляют 95,45%; и три стандартных отклонения составляют 99,73%.

Около 68% значений, взятых из нормального распределения, находятся в пределах одного стандартного отклонения. σ подальше от среднего; около 95% значений находятся в пределах двух стандартных отклонений; и около 99,7% находятся в пределах трех стандартных отклонений.^[6] Этот факт известен как 68-95-99,7 (эмпирическое) правило, или Правило 3-х сигм.

Точнее, вероятность того, что нормальное отклонение находится в диапазоне между ${displaystyle mu -nsigma }$ и ${displaystyle mu +nsigma }$ дан кем-то

${displaystyle F(mu +nsigma )-F(mu -nsigma )=Phi (n)-Phi (-n)=operatorname {erf} left({frac {n}{sqrt {2}}}ight).}$

До 12 значащих цифр значения для ${displaystyle n=1,2,ldots ,6}$ находятся:^[15]

${displaystyle n}$	${displaystyle p=F(mu +nsigma )-F(mu -nsigma )}$	${displaystyle { ext{i.e. }}1-p}$	${displaystyle { ext{or }}1{ ext{ in }}p}$	OEIS
1	0.682689492137	0.317310507863	3 .15148718753	OEIS: A178647
2	0.954499736104	0.045500263896	21 .9778945080	OEIS: A110894
3	0.997300203937	0.002699796063	370 .398347345	OEIS: A270712
4	0.999936657516	0.000063342484	15787 .1927673
5	0.999999426697	0.000000573303	1744277 .89362
6	0.999999998027	0.000000001973	506797345 .897

Для больших ${displaystyle n}$, можно использовать приближение ${displaystyle 1-papprox {frac {e^{-n^{2}/2}}{n{sqrt {pi /2}}}}}$.

Квантильная функция

Дальнейшая информация: Функция квантиля § Нормальное распределение

В квантильная функция распределения - это функция, обратная кумулятивной функции распределения. Функция квантиля стандартного нормального распределения называется пробит функция, и может быть выражена через обратную функция ошибки:

${displaystyle Phi ^{-1}(p)={sqrt {2}}operatorname {erf} ^{-1}(2p-1),quad pin (0,1).}$

Для нормальной случайной величины со средним значением ${displaystyle mu }$ и дисперсия ${displaystyle sigma ^{2}}$функция квантиля

${displaystyle F^{-1}(p)=mu +sigma Phi ^{-1}(p)=mu +sigma {sqrt {2}}operatorname {erf} ^{-1}(2p-1),quad pin (0,1).}$

В квантиль ${displaystyle Phi ^{-1}(p)}$ стандартного нормального распределения обычно обозначается как ${displaystyle z_{p}}$. Эти значения используются в проверка гипотезы, строительство доверительные интервалы и Графики Q-Q. Нормальная случайная величина ${displaystyle X}$ превысит ${displaystyle mu +z_{p}sigma }$ с вероятностью ${displaystyle 1-p}$, и будет лежать вне интервала ${displaystyle mu pm z_{p}sigma }$ с вероятностью ${displaystyle 2(1-p)}$. В частности, квантиль ${displaystyle z_{0.975}}$ является 1.96; поэтому нормальная случайная величина будет лежать вне интервала ${displaystyle mu pm 1.96sigma }$ только в 5% случаев.

Следующая таблица дает квантиль ${displaystyle z_{p}}$ такой, что ${displaystyle X}$ будет лежать в диапазоне ${displaystyle mu pm z_{p}sigma }$ с заданной вероятностью ${displaystyle p}$. Эти значения полезны для определения интервал допуска за выборочные средние и другие статистические оценщики с нормальным (или асимптотически нормальные) распределения :.^[16][17] ПРИМЕЧАНИЕ: в следующей таблице показаны ${displaystyle {sqrt {2}}operatorname {erf} ^{-1}(p)=Phi ^{-1}left({frac {p+1}{2}}ight)}$, нет ${displaystyle Phi ^{-1}(p)}$ как определено выше.

${displaystyle p}$	${displaystyle z_{p}}$		${displaystyle p}$	${displaystyle z_{p}}$
0.80	1.281551565545		0.999	3.290526731492
0.90	1.644853626951		0.9999	3.890591886413
0.95	1.959963984540		0.99999	4.417173413469
0.98	2.326347874041		0.999999	4.891638475699
0.99	2.575829303549		0.9999999	5.326723886384
0.995	2.807033768344		0.99999999	5.730728868236
0.998	3.090232306168		0.999999999	6.109410204869

Для малых ${displaystyle p}$, функция квантили имеет полезное асимптотическое разложение ${displaystyle Phi ^{-1}(p)=-{sqrt {ln {frac {1}{p^{2}}}-ln ln {frac {1}{p^{2}}}-ln(2pi )}}+{mathcal {o}}(1).}$

Характеристики

Нормальное распределение - единственное распределение, кумулянты за пределами первых двух (т.е. кроме среднего и отклонение ) равны нулю. Это также непрерывное распределение с максимальная энтропия для указанного среднего и дисперсии.^[18][19] Гири показал, предполагая, что среднее и дисперсия конечны, что нормальное распределение - это единственное распределение, в котором среднее и дисперсия, вычисленные из набора независимых выборок, не зависят друг от друга.^[20][21]

Нормальное распределение является подклассом эллиптические распределения. Нормальное распределение симметричный о своем среднем значении и отличен от нуля по всей действительной линии. Как таковая, она может не подходить для переменных, которые изначально положительны или сильно искажены, например масса человека или цена Поделиться. Такие переменные могут быть лучше описаны другими распределениями, такими как логнормальное распределение или Распределение Парето.

Значение нормального распределения практически равно нулю, когда значение ${displaystyle x}$ ложь больше, чем несколько Стандартное отклонение от среднего (например, разброс в три стандартных отклонения покрывает все, кроме 0,27% от общего распределения). Следовательно, эта модель может быть неподходящей, если ожидается значительная доля выбросы - значения, которые на много стандартных отклонений от среднего - и наименьших квадратов и другие статистические выводы методы, оптимальные для нормально распределенных переменных, часто становятся крайне ненадежными при применении к таким данным. В этих случаях более хвостатый следует предполагать распределение и соответствующий надежный статистический вывод применяемые методы.

Распределение Гаусса принадлежит семейству стабильные дистрибутивы которые являются аттракторами сумм независимые, одинаково распределенные распределения независимо от того, является ли среднее значение или дисперсия конечными. За исключением гауссова, который является предельным случаем, все стабильные распределения имеют тяжелые хвосты и бесконечную дисперсию. Это одно из немногих распределений, которые стабильны и имеют функции плотности вероятности, которые могут быть выражены аналитически, а другие распределения представляют собой Распределение Коши и Распределение Леви.

Симметрии и производные

Нормальное распределение с плотностью ${displaystyle f(x)}$ (иметь в виду ${displaystyle mu }$ и стандартное отклонение ${displaystyle sigma >0}$) имеет следующие свойства:

• Он симметричен относительно точки ${displaystyle x=mu ,}$ что в то же время Режим, то медиана и иметь в виду распределения.^[22]
• это одномодальный: его первый производная положительно для ${displaystyle x<mu ,}$ отрицательный для ${displaystyle x>mu ,}$ и ноль только при ${displaystyle x=mu .}$
• Площадь под кривой и над ${displaystyle x}$-axis равна единице (т.е. равна единице).
• Его первая производная ${displaystyle f^{prime }(x)=-{frac {x-mu }{sigma ^{2}}}f(x).}$
• Его плотность имеет два точки перегиба (где вторая производная от ${displaystyle f}$ равен нулю и меняет знак), расположенный на одно стандартное отклонение от среднего, а именно на ${displaystyle x=mu -sigma }$ и ${displaystyle x=mu +sigma .}$^[22]
• Его плотность бревенчатый.^[22]
• Его плотность бесконечно дифференцируемый, в самом деле сверхгладкий порядка 2.^[23]

Кроме того, плотность ${displaystyle varphi }$ стандартного нормального распределения (т.е. ${displaystyle mu =0}$ и ${displaystyle sigma =1}$) также имеет следующие свойства:

• Его первая производная ${displaystyle varphi ^{prime }(x)=-xvarphi (x).}$
• Его вторая производная ${displaystyle varphi ^{prime prime }(x)=(x^{2}-1)varphi (x)}$
• В более общем плане пth производная ${displaystyle varphi ^{(n)}(x)=(-1)^{n}operatorname {He} _{n}(x)varphi (x),}$ куда ${displaystyle operatorname {He} _{n}(x)}$ это пth (вероятностный) Многочлен Эрмита.^[24]
• Вероятность того, что нормально распределенная переменная ${displaystyle X}$ с известными ${displaystyle mu }$ и ${displaystyle sigma }$ находится в определенном наборе, можно вычислить, используя тот факт, что дробь ${displaystyle Z=(X-mu )/sigma }$ имеет стандартное нормальное распределение.

Моменты

Смотрите также: Список интегралов от функций Гаусса

Простой и абсолютный моменты переменной ${displaystyle X}$ ожидаемые значения ${displaystyle X^{p}}$ и ${displaystyle |X|^{p}}$, соответственно. Если ожидаемое значение ${displaystyle mu }$ из ${displaystyle X}$ равен нулю, эти параметры называются центральные моменты. Обычно нас интересуют только моменты с целым порядком ${displaystyle p}$.

Если ${displaystyle X}$ имеет нормальное распределение, эти моменты существуют и конечны для любого ${displaystyle p}$ действительная часть которого больше -1. Для любого неотрицательного целого числа ${displaystyle p}$, простыми центральными моментами являются:^[25]

${displaystyle operatorname {E} left[(X-mu )^{p}ight]={egin{cases}0&{ ext{if }}p{ ext{ is odd,}}sigma ^{p}(p-1)!!&{ ext{if }}p{ ext{ is even.}}end{cases}}}$

Здесь ${displaystyle n!!}$ обозначает двойной факториал, то есть произведение всех чисел из ${displaystyle n}$ к 1, которые имеют ту же четность, что и ${displaystyle n.}$

Центральные абсолютные моменты совпадают с простыми моментами для всех четных порядков, но отличны от нуля для нечетных порядков. Для любого неотрицательного целого числа ${displaystyle p,}$

${displaystyle {egin{aligned}operatorname {E} left[|X-mu |^{p}ight]&=sigma ^{p}(p-1)!!cdot {egin{cases}{sqrt {frac {2}{pi }}}&{ ext{if }}p{ ext{ is odd}}1&{ ext{if }}p{ ext{ is even}}end{cases}}&=sigma ^{p}cdot {frac {2^{p/2}Gamma left({frac {p+1}{2}}ight)}{sqrt {pi }}}.end{aligned}}}$

Последняя формула действительна также для любых нецелых чисел. ${displaystyle p>-1.}$ Когда среднее ${displaystyle mu eq 0,}$ простые и абсолютные моменты могут быть выражены в терминах конфлюэнтные гипергеометрические функции ${displaystyle {}_{1}F_{1}}$ и ${displaystyle U.}$^{[нужна цитата ]}

${displaystyle {egin{aligned}operatorname {E} left[X^{p}ight]&=sigma ^{p}cdot (-i{sqrt {2}})^{p}Uleft(-{frac {p}{2}},{frac {1}{2}},-{frac {1}{2}}left({frac {mu }{sigma }}ight)^{2}ight),operatorname {E} left[|X|^{p}ight]&=sigma ^{p}cdot 2^{p/2}{frac {Gamma left({frac {1+p}{2}}ight)}{sqrt {pi }}}{}_{1}F_{1}left(-{frac {p}{2}},{frac {1}{2}},-{frac {1}{2}}left({frac {mu }{sigma }}ight)^{2}ight).end{aligned}}}$

Эти выражения остаются в силе, даже если ${displaystyle p}$ не является целым числом. Смотрите также обобщенные полиномы Эрмита.

Заказ	Нецентральный момент	Центральный момент
1	${displaystyle mu }$	${displaystyle 0}$
2	${displaystyle mu ^{2}+sigma ^{2}}$	${displaystyle sigma ^{2}}$
3	${displaystyle mu ^{3}+3mu sigma ^{2}}$	${displaystyle 0}$
4	${displaystyle mu ^{4}+6mu ^{2}sigma ^{2}+3sigma ^{4}}$	${displaystyle 3sigma ^{4}}$
5	${displaystyle mu ^{5}+10mu ^{3}sigma ^{2}+15mu sigma ^{4}}$	${displaystyle 0}$
6	${displaystyle mu ^{6}+15mu ^{4}sigma ^{2}+45mu ^{2}sigma ^{4}+15sigma ^{6}}$	${displaystyle 15sigma ^{6}}$
7	${displaystyle mu ^{7}+21mu ^{5}sigma ^{2}+105mu ^{3}sigma ^{4}+105mu sigma ^{6}}$	${displaystyle 0}$
8	${displaystyle mu ^{8}+28mu ^{6}sigma ^{2}+210mu ^{4}sigma ^{4}+420mu ^{2}sigma ^{6}+105sigma ^{8}}$	${displaystyle 105sigma ^{8}}$

Ожидание ${displaystyle X}$ при условии, что ${displaystyle X}$ лежит в интервале ${displaystyle [a,b]}$ дан кем-то

${displaystyle operatorname {E} left[Xmid a<X<bight]=mu -sigma ^{2}{frac {f(b)-f(a)}{F(b)-F(a)}}}$

куда ${displaystyle f}$ и ${displaystyle F}$ соответственно - плотность и кумулятивная функция распределения ${displaystyle X}$. За ${displaystyle b=infty }$ это известно как обратное соотношение Миллса. Обратите внимание, что выше плотность ${displaystyle f}$ из ${displaystyle X}$ используется вместо стандартной нормальной плотности, как в обратном отношении Миллса, поэтому здесь мы имеем ${displaystyle sigma ^{2}}$ вместо ${displaystyle sigma }$.

Преобразование Фурье и характеристическая функция

В преобразование Фурье нормальной плотности ${displaystyle f}$ со средним ${displaystyle mu }$ и стандартное отклонение ${displaystyle sigma }$ является^[26]

${displaystyle {hat {f}}(t)=int _{-infty }^{infty }f(x)e^{-itx},dx=e^{-imu t}e^{-{frac {1}{2}}(sigma t)^{2}}}$

куда ${displaystyle i}$ это мнимая единица. Если среднее ${displaystyle mu =0}$, первый множитель равен 1, а преобразование Фурье, помимо постоянного множителя, является нормальной плотностью на частотная область, со средним 0 и стандартным отклонением ${displaystyle 1/sigma }$. В частности, стандартное нормальное распределение ${displaystyle varphi }$ является собственная функция преобразования Фурье.

В теории вероятностей преобразование Фурье распределения вероятностей вещественной случайной величины ${displaystyle X}$ тесно связан с характеристическая функция ${displaystyle varphi _{X}(t)}$ этой переменной, которая определяется как ожидаемое значение из ${displaystyle e^{itX}}$, как функция действительной переменной ${displaystyle t}$ (в частота параметр преобразования Фурье). Это определение может быть аналитически расширено до переменной со сложным значением. ${displaystyle t}$.^[27] Связь между ними такова:

${displaystyle varphi _{X}(t)={hat {f}}(-t)}$

Производящие функции момента и кумулянта

В функция, производящая момент реальной случайной величины ${displaystyle X}$ ожидаемое значение ${displaystyle e^{tX}}$, как функция действительного параметра ${displaystyle t}$. Для нормального распределения с плотностью ${displaystyle f}$, иметь в виду ${displaystyle mu }$ и отклонение ${displaystyle sigma }$, моментная производящая функция существует и равна

${displaystyle M(t)=operatorname {E} [e^{tX}]={hat {f}}(it)=e^{mu t}e^{{ frac {1}{2}}sigma ^{2}t^{2}}}$

В кумулянтная производящая функция - логарифм производящей функции момента, а именно

${displaystyle g(t)=ln M(t)=mu t+{ frac {1}{2}}sigma ^{2}t^{2}}$

Поскольку это квадратичный многочлен от ${displaystyle t}$, только первые два кумулянты отличны от нуля, а именно среднее${displaystyle mu }$ и дисперсия${displaystyle sigma ^{2}}$.

Оператор и класс Штейна

В Метод Штейна оператор Штейна и класс случайной величины ${displaystyle Xsim {mathcal {N}}(mu ,sigma ^{2})}$ находятся ${displaystyle {mathcal {A}}f(x)=sigma ^{2}f'(x)-(x-mu )f(x)}$ и ${displaystyle {mathcal {F}}}$ класс всех абсолютно непрерывных функций ${displaystyle f:mathbb {R} o mathbb {R} {mbox{ such that }}mathbb {E} [|f'(X)|]<infty }$.

Предел нулевой дисперсии

в предел когда ${displaystyle sigma }$ стремится к нулю, плотность вероятности ${displaystyle f(x)}$ в конечном итоге стремится к нулю при любом ${displaystyle xeq mu }$, но растет без ограничений, если ${displaystyle x=mu }$, а его интеграл остается равным 1. Следовательно, нормальное распределение нельзя определить как обычное функция когда ${displaystyle sigma =0}$.

Однако можно определить нормальное распределение с нулевой дисперсией как обобщенная функция; в частности, как «Дельта-функция» Дирака ${displaystyle delta }$ переведено в среднем ${displaystyle mu }$, то есть ${displaystyle f(x)=delta (x-mu ).}$Его CDF тогда Ступенчатая функция Хевисайда переведено в среднем ${displaystyle mu }$, а именно

${displaystyle F(x)={egin{cases}0&{ ext{if }}x<mu 1&{ ext{if }}xgeq mu end{cases}}}$

Максимальная энтропия

Из всех распределений вероятностей по реалам с заданным средним ${displaystyle mu }$ и дисперсия${displaystyle sigma ^{2}}$, нормальное распределение ${displaystyle N(mu ,sigma ^{2})}$ это тот, у кого максимальная энтропия.^[28] Если ${displaystyle X}$ это непрерывная случайная величина с плотность вероятности ${displaystyle f(x)}$, то энтропия ${displaystyle X}$ определяется как^[29][30][31]

${displaystyle H(X)=-int _{-infty }^{infty }f(x)log f(x),dx}$

куда ${displaystyle f(x)log f(x)}$ считается равным нулю всякий раз, когда ${displaystyle f(x)=0}$. Этот функционал можно максимизировать, при условии, что распределение правильно нормализовано и имеет заданную дисперсию, используя вариационное исчисление. Функция с двумя Множители Лагранжа определено:

${displaystyle L=int _{-infty }^{infty }f(x)ln(f(x)),dx-lambda _{0}left(mu -int _{-infty }^{infty }f(x),dxight)-lambda left(sigma ^{2}-int _{-infty }^{infty }f(x)(x-mu )^{2},dxight)}$

куда ${displaystyle f(x)}$ пока рассматривается как некоторая функция плотности со средним ${displaystyle mu }$ и стандартное отклонение ${displaystyle sigma }$.

При максимальной энтропии небольшая вариация ${displaystyle delta f(x)}$ о ${displaystyle f(x)}$ создаст вариацию ${displaystyle delta L}$ о ${displaystyle L}$ что равно 0:

${displaystyle 0=delta L=int _{-infty }^{infty }delta f(x)left(ln(f(x))+1+lambda _{0}+lambda (x-mu )^{2}ight),dx}$

Поскольку это должно выполняться для любых небольших ${displaystyle delta f(x)}$, член в скобках должен быть равен нулю, и решение для ${displaystyle f(x)}$ дает:

${displaystyle f(x)=e^{-lambda _{0}-1-lambda (x-mu )^{2}}}$

Используя уравнения связей для решения для ${displaystyle lambda _{0}}$ и ${displaystyle lambda }$ дает плотность нормального распределения:

${displaystyle f(x,mu ,sigma )={frac {1}{sqrt {2pi sigma ^{2}}}}e^{-{frac {(x-mu )^{2}}{2sigma ^{2}}}}}$

Энтропия нормального распределения равна

${displaystyle H(x)={ frac {1}{2}}(1+log(2sigma ^{2}pi ))}$

Операции при нормальных отклонениях

Семейство нормальных распределений замкнуто относительно линейных преобразований: если ${displaystyle X}$ нормально распределяется со средним ${displaystyle mu }$ и стандартное отклонение ${displaystyle sigma }$, то переменная ${displaystyle Y=aX+b}$, для любых действительных чисел ${displaystyle a}$ и ${displaystyle b}$, также нормально распространяется, со средним ${displaystyle amu +b}$ и стандартное отклонение ${displaystyle |a|sigma }$.

Также если ${displaystyle X_{1}}$ и ${displaystyle X_{2}}$ два независимый нормальные случайные величины со средними ${displaystyle mu _{1}}$, ${displaystyle mu _{2}}$ и стандартные отклонения ${displaystyle sigma _{1}}$, ${displaystyle sigma _{2}}$, то их сумма ${displaystyle X_{1}+X_{2}}$ также будет нормально распространяться,^{[доказательство]} со средним ${displaystyle mu _{1}+mu _{2}}$ и дисперсия ${displaystyle sigma _{1}^{2}+sigma _{2}^{2}}$.

В частности, если ${displaystyle X}$ и ${displaystyle Y}$ - независимые нормальные отклонения с нулевым средним и дисперсией ${displaystyle sigma ^{2}}$, тогда ${displaystyle X+Y}$ и ${displaystyle X-Y}$ также независимы и нормально распределены, с нулевым средним и дисперсией ${displaystyle 2sigma ^{2}}$. Это частный случай поляризационная идентичность.^[32]

Кроме того, если ${displaystyle X_{1}}$, ${displaystyle X_{2}}$ два независимых нормальных отклонения со средним ${displaystyle mu }$ и отклонение ${displaystyle sigma }$, и ${displaystyle a}$, ${displaystyle b}$ - произвольные действительные числа, то переменная

${displaystyle X_{3}={frac {aX_{1}+bX_{2}-(a+b)mu }{sqrt {a^{2}+b^{2}}}}+mu }$

также нормально распределяется со средним ${displaystyle mu }$ и отклонение ${displaystyle sigma }$. Отсюда следует, что нормальное распределение стабильный (с показателем ${displaystyle alpha =2}$).

В общем, любой линейная комбинация независимых нормальных отклонений - нормальное отклонение.

Бесконечная делимость и теорема Крамера

Для любого положительного целого числа ${displaystyle { ext{n}}}$, любое нормальное распределение со средним ${displaystyle mu }$ и дисперсия ${displaystyle sigma ^{2}}$ - это распределение суммы ${displaystyle { ext{n}}}$ независимых нормальных отклонений, каждое со средним ${displaystyle {frac {mu }{n}}}$ и дисперсия ${displaystyle {frac {sigma ^{2}}{n}}}$. Это свойство называется бесконечная делимость.^[33]

Наоборот, если ${displaystyle X_{1}}$ и ${displaystyle X_{2}}$ являются независимыми случайными величинами и их сумма ${displaystyle X_{1}+X_{2}}$ имеет нормальное распределение, то оба ${displaystyle X_{1}}$ и ${displaystyle X_{2}}$ должны быть нормальные отклонения.^[34]

Этот результат известен как Теорема Крамера о разложении, что эквивалентно утверждению, что свертка двух распределений нормально тогда и только тогда, когда оба нормальны. Теорема Крамера подразумевает, что линейная комбинация независимых негауссовских переменных никогда не будет иметь точно нормального распределения, хотя она может приближаться к нему сколь угодно близко.^[35]

Теорема Бернштейна

Теорема Бернштейна утверждает, что если ${displaystyle X}$ и ${displaystyle Y}$ независимы и ${displaystyle X+Y}$ и ${displaystyle X-Y}$ также независимы, то оба Икс и Y обязательно должны иметь нормальные распределения.^[36][37]

В более общем смысле, если ${displaystyle X_{1},ldots ,X_{n}}$ являются независимыми случайными величинами, то две различные линейные комбинации ${displaystyle sum {a_{k}X_{k}}}$ и ${displaystyle sum {b_{k}X_{k}}}$будет независимым тогда и только тогда, когда все ${displaystyle X_{k}}$ нормальные и ${displaystyle sum {a_{k}b_{k}sigma _{k}^{2}=0}}$, куда ${displaystyle sigma _{k}^{2}}$ обозначает дисперсию ${displaystyle X_{k}}$.^[36]

Другие свойства

1. Если характеристическая функция ${displaystyle phi _{X}}$ некоторой случайной величины ${displaystyle X}$ имеет форму ${displaystyle phi _{X}(t)=exp ^{Q(t)}}$, куда ${displaystyle Q(t)}$ это многочлен, то Теорема Марцинкевича (названный в честь Юзеф Марцинкевич ) утверждает, что ${displaystyle Q}$ может быть не более чем квадратичным многочленом, и поэтому ${displaystyle X}$ - нормальная случайная величина.^[35] Следствием этого результата является то, что нормальное распределение является единственным распределением с конечным числом (двумя) ненулевых кумулянты.
2. Если ${displaystyle X}$ и ${displaystyle Y}$ находятся совместно нормально и некоррелированный, то они независимый. Требование, чтобы ${displaystyle X}$ и ${displaystyle Y}$ должно быть совместно нормальный необходим; без него собственность не удерживается.^{[38][39][доказательство]} Для ненормальных случайных величин некоррелированность не означает независимости.
3. В Дивергенция Кульбака – Лейблера одного нормального распределения ${displaystyle X_{1}sim N(mu _{1},sigma _{1}^{2})}$ От другого ${displaystyle X_{2}sim N(mu _{2},sigma _{2}^{2})}$ дан кем-то:^[40]

   ${displaystyle D_{mathrm {KL} }(X_{1},|,X_{2})={frac {(mu _{1}-mu _{2})^{2}}{2sigma _{2}^{2}}}+{frac {1}{2}}left({frac {sigma _{1}^{2}}{sigma _{2}^{2}}}-1-ln {frac {sigma _{1}^{2}}{sigma _{2}^{2}}}ight)}$

   В Расстояние Хеллингера между одними и теми же распределениями равно

   ${displaystyle H^{2}(X_{1},X_{2})=1-{sqrt {frac {2sigma _{1}sigma _{2}}{sigma _{1}^{2}+sigma _{2}^{2}}}}e^{-{frac {1}{4}}{frac {(mu _{1}-mu _{2})^{2}}{sigma _{1}^{2}+sigma _{2}^{2}}}}}$

4. В Информационная матрица Fisher для нормального распределения имеет диагональный вид и имеет вид
   ${displaystyle {mathcal {I}}={egin{pmatrix}{frac {1}{sigma ^{2}}}&0�&{frac {1}{2sigma ^{4}}}end{pmatrix}}}$
5. В сопряженный предшествующий среднего нормального распределения - другое нормальное распределение.^[41] В частности, если ${displaystyle x_{1},ldots ,x_{n}}$ iid ${displaystyle sim N(mu ,sigma ^{2})}$ и приор ${displaystyle mu sim N(mu _{0},sigma _{0}^{2})}$, то апостериорное распределение для оценки ${displaystyle mu }$ будет
   ${displaystyle mu mid x_{1},ldots ,x_{n}sim {mathcal {N}}left({frac {{frac {sigma ^{2}}{n}}mu _{0}+sigma _{0}^{2}{ar {x}}}{{frac {sigma ^{2}}{n}}+sigma _{0}^{2}}},left({frac {n}{sigma ^{2}}}+{frac {1}{sigma _{0}^{2}}}ight)^{-1}ight)}$
6. Семейство нормальных распределений не только образует экспоненциальная семья (EF), но фактически образует естественная экспоненциальная семья (NEF) с квадратичным функция дисперсии (NEF-QVF ). Многие свойства нормальных распределений обобщаются на свойства распределений NEF-QVF, распределений NEF или распределений EF в целом. Распределения NEF-QVF состоят из 6 семейств, включая пуассоновское, гамма, биномиальное и отрицательное биномиальное распределение, в то время как многие из общих семейств, изучаемых в области вероятности и статистики, являются NEF или EF.
7. В информационная геометрия семейство нормальных распределений образует статистическое многообразие с постоянная кривизна ${displaystyle -1}$. Та же семья плоский относительно (± 1) -связности ∇${displaystyle ^{(e)}}$ и ∇${displaystyle ^{(m)}}$.^[42]

Связанные дистрибутивы

Центральная предельная теорема

По мере увеличения количества дискретных событий функция начинает напоминать нормальное распределение

Сравнение функций плотности вероятности, ${displaystyle p(k)}$ на сумму ${displaystyle n}$ справедливые 6-сторонние игральные кости, чтобы показать их сходимость к нормальному распределению с увеличением ${displaystyle na}$, согласно центральной предельной теореме. На нижнем правом графике сглаженные профили предыдущих графиков масштабируются, накладываются друг на друга и сравниваются с нормальным распределением (черная кривая).

Основная статья: Центральная предельная теорема

Центральная предельная теорема утверждает, что при определенных (довольно общих) условиях сумма многих случайных величин будет иметь приблизительно нормальное распределение. В частности, где ${displaystyle X_{1},ldots ,X_{n}}$ находятся независимые и одинаково распределенные случайные величины с одинаковым произвольным распределением, нулевым средним и дисперсией ${displaystyle sigma ^{2}}$ и ${displaystyle Z}$ их средний масштаб ${displaystyle {sqrt {n}}}$

${displaystyle Z={sqrt {n}}left({frac {1}{n}}sum _{i=1}^{n}X_{i}ight)}$

Тогда как ${displaystyle n}$ увеличивается, распределение вероятностей ${displaystyle Z}$ будет стремиться к нормальному распределению с нулевым средним и дисперсией ${displaystyle sigma ^{2}}$.

Теорема распространяется на переменные ${displaystyle (X_{i})}$ которые не являются независимыми и / или неодинаково распределенными, если наложены определенные ограничения на степень зависимости и моменты распределений.

Много статистика тестов, оценки, и оценщики встречаются на практике, содержат в себе суммы определенных случайных величин, и даже больше оценок можно представить в виде сумм случайных величин с помощью функции влияния. Центральная предельная теорема подразумевает, что эти статистические параметры будут иметь асимптотически нормальные распределения.

Центральная предельная теорема также подразумевает, что некоторые распределения могут быть аппроксимированы нормальным распределением, например:

• В биномиальное распределение ${displaystyle B(n,p)}$ является примерно нормально со средним ${displaystyle np}$ и дисперсия ${displaystyle np(1-p)}$ для больших ${displaystyle n}$ и для ${displaystyle p}$ не слишком близко к 0 или 1.
• В распределение Пуассона с параметром ${displaystyle lambda }$ примерно нормально со средним ${displaystyle lambda }$ и дисперсия ${displaystyle lambda }$, для больших значений ${displaystyle lambda }$.^[43]
• В распределение хи-квадрат ${displaystyle chi ^{2}(k)}$ примерно нормально со средним ${displaystyle k}$ и дисперсия ${displaystyle 2k}$, для больших ${displaystyle k}$.
• В Распределение Стьюдента ${displaystyle t(u )}$ приблизительно нормально со средним значением 0 и дисперсией 1, когда ${displaystyle u }$ большой.

Достаточно ли точность этих приближений зависит от цели, для которой они нужны, и скорости сходимости к нормальному распределению. Обычно такие приближения менее точны в хвостах распределения.

Общая оценка сверху ошибки аппроксимации в центральной предельной теореме дается формулой Теорема Берри – Эссеена, улучшения приближения даются Расширения Эджворта.

Операции с одной случайной величиной

Если Икс распределяется нормально со средним μ и дисперсия σ², тогда

• Экспонента Икс распространяется журнал обычно: е^Икс ~ ln (N (μ, σ²)).
• Абсолютное значение Икс имеет сложенное нормальное распределение: |Икс| ~ N_ж (μ, σ²). Если μ = 0 это известно как полунормальное распределение.
• Абсолютное значение нормированных остатков, |Икс − μ|/σ, имеет распределение ци с одной степенью свободы: |Икс − μ|/σ ~ ${displaystyle chi _{1}}$.
• Площадь Икс/σ имеет нецентральное распределение хи-квадрат с одной степенью свободы: Икс²/σ² ~ ${displaystyle chi _{1}^{2}}$(μ²/σ²). Если μ = 0, распределение называется просто хи-квадрат.
• Распределение переменной Икс ограничен интервалом [а, б] называется усеченное нормальное распределение.
• (Икс − μ)⁻² имеет Распределение Леви с положением 0 и масштабом σ⁻².

Комбинация двух независимых случайных величин

Если ${displaystyle X_{1}}$ и ${displaystyle X_{2}}$ - две независимые стандартные нормальные случайные величины со средним 0 и дисперсией 1, то

• Их сумма и разность распределены нормально с нулевым средним и двумя значениями дисперсии: ${displaystyle X_{1}pm X_{2}sim N(0,2)}$.
• Их продукт ${displaystyle Z=X_{1}X_{2}}$ следует за Распространение продукции^[44] с функцией плотности ${displaystyle f_{Z}(z)=pi ^{-1}K_{0}(|z|)}$ куда ${displaystyle K_{0}}$ это модифицированная функция Бесселя второго рода. Это распределение симметрично относительно нуля, неограниченно при ${displaystyle z=0}$, и имеет характеристическая функция ${displaystyle phi _{Z}(t)=(1+t^{2})^{-1/2}}$.
• Их соотношение соответствует стандарту Распределение Коши: ${displaystyle X_{1}/X_{2}sim operatorname {Cauchy} (0,1)}$.
• Их евклидова норма ${displaystyle {sqrt {X_{1}^{2}+X_{2}^{2}}}}$ имеет Распределение Рэлея.

Комбинация двух или более независимых случайных величин

• Если ${displaystyle X_{1},X_{2},ldots ,X_{n}}$ являются независимыми стандартными нормальными случайными величинами, то сумма их квадратов имеет вид распределение хи-квадрат с ${displaystyle { ext{n}}}$ степени свободы

${displaystyle X_{1}^{2}+cdots +X_{n}^{2}sim chi _{n}^{2}.}$

• Если ${displaystyle X_{1},X_{2},ldots ,X_{n}}$ независимые нормально распределенные случайные величины со средними ${displaystyle mu }$ и отклонения ${displaystyle sigma ^{2}}$, то их выборочное среднее не зависит от образца стандартное отклонение,^[45] что можно продемонстрировать с помощью Теорема Басу или же Теорема Кохрана.^[46] Отношение этих двух величин будет иметь Распределение Стьюдента с ${displaystyle { ext{n}}-1}$ степени свободы:

${displaystyle t={frac {{overline {X}}-mu }{S/{sqrt {n}}}}={frac {{frac {1}{n}}(X_{1}+cdots +X_{n})-mu }{sqrt {{frac {1}{n(n-1)}}left[(X_{1}-{overline {X}})^{2}+cdots +(X_{n}-{overline {X}})^{2}ight]}}}sim t_{n-1}.}$

• Если ${displaystyle X_{1},X_{2},ldots ,X_{n}}$, ${displaystyle Y_{1},Y_{2},ldots ,Y_{m}}$ являются независимыми стандартными нормальными случайными величинами, то отношение их нормированных сумм квадратов будет иметь F-распределение с (п, м) степени свободы:^[47]

${displaystyle F={frac {left(X_{1}^{2}+X_{2}^{2}+cdots +X_{n}^{2}ight)/n}{left(Y_{1}^{2}+Y_{2}^{2}+cdots +Y_{m}^{2}ight)/m}}sim F_{n,m}.}$

Операции над функцией плотности

В разделенное нормальное распределение наиболее прямо определяется в терминах объединения масштабированных участков функций плотности различных нормальных распределений и изменения масштаба плотности для интегрирования в одно. В усеченное нормальное распределение результат изменения масштаба части одной функции плотности.

Расширения

Понятие нормального распределения, являющегося одним из наиболее важных распределений в теории вероятностей, было расширено далеко за пределы стандартных рамок одномерного (то есть одномерного) случая (случай 1). Все эти расширения также называются нормальный или же Гауссовский законы, поэтому существует определенная двусмысленность в названиях.

• В многомерное нормальное распределение описывает закон Гаусса в k-размерный Евклидово пространство. Вектор Икс ∈ р^k является многомерно-нормально распределенным, если любая линейная комбинация его компонентов ∑^k
  _j=1а_j Икс_j имеет (одномерное) нормальное распределение. Дисперсия Икс это к × к симметричная положительно определенная матрицаV. Многомерное нормальное распределение является частным случаем эллиптические распределения. Таким образом, его локусы изо-плотности в k = 2 случая эллипсы а в случае произвольного k находятся эллипсоиды.
• Выпрямленное распределение Гаусса исправленная версия нормального распределения со всеми отрицательными элементами, сброшенными на 0
• Комплексное нормальное распределение имеет дело с комплексными нормальными векторами. Сложный вектор Икс ∈ C^k называется нормальным, если его действительная и мнимая составляющие вместе обладают 2k-мерное многомерное нормальное распределение. Дисперсионно-ковариационная структура Икс описывается двумя матрицами: отклонение матрица Γ, а связь матрицаC.
• Матричное нормальное распределение описывает случай нормально распределенных матриц.
• Гауссовские процессы являются нормально распределенными случайные процессы. Их можно рассматривать как элементы некоторого бесконечномерного Гильбертово пространство  ЧАС, и, таким образом, являются аналогами многомерных нормальных векторов для случая k = ∞. Случайный элемент час ∈ ЧАС считается нормальным, если для любой постоянной а ∈ ЧАС то скалярное произведение (а, час) имеет (одномерное) нормальное распределение. Структура дисперсии такого гауссовского случайного элемента может быть описана в терминах линейного ковариация оператор K: H → H. Несколько гауссовских процессов стали достаточно популярными, чтобы иметь свои собственные имена:
  • Броуновское движение,
  • Броуновский мост,
  • Процесс Орнштейна – Уленбека.
• Гауссово q-распределение абстрактная математическая конструкция, представляющая "q-аналог "нормального распределения.
• то q-гауссовский является аналогом распределения Гаусса в том смысле, что оно максимизирует Энтропия Цаллиса, и является одним из типов Распределение Цаллиса. Обратите внимание, что это распределение отличается от Гауссово q-распределение над.

Случайная величина Икс имеет двухчастное нормальное распределение, если оно имеет распределение

${displaystyle f_{X}(x)=N(mu ,sigma _{1}^{2}){ ext{ if }}xleq mu }$

${displaystyle f_{X}(x)=N(mu ,sigma _{2}^{2}){ ext{ if }}xgeq mu }$

куда μ это среднее и σ₁ и σ₂ - стандартные отклонения распределения влево и вправо от среднего значения соответственно.

Среднее значение, дисперсия и третий центральный момент этого распределения были определены.^[48]

${displaystyle operatorname {E} (X)=mu +{sqrt {frac {2}{pi }}}(sigma _{2}-sigma _{1})}$

${displaystyle operatorname {V} (X)=left(1-{frac {2}{pi }}ight)(sigma _{2}-sigma _{1})^{2}+sigma _{1}sigma _{2}}$

${displaystyle operatorname {T} (X)={sqrt {frac {2}{pi }}}(sigma _{2}-sigma _{1})left[left({frac {4}{pi }}-1ight)(sigma _{2}-sigma _{1})^{2}+sigma _{1}sigma _{2}ight]}$

где E (Икс), V (Икс) и т(Икс) - среднее значение, дисперсия и третий центральный момент соответственно.

Одним из основных практических применений закона Гаусса является моделирование эмпирических распределений многих различных случайных величин, встречающихся на практике. В таком случае возможным расширением было бы более богатое семейство распределений, имеющее более двух параметров и, следовательно, способное более точно соответствовать эмпирическому распределению. Примеры таких расширений:

• Распределение Пирсона - четырехпараметрическое семейство распределений вероятностей, которые расширяют нормальный закон, включая различные значения асимметрии и эксцесса.
• В обобщенное нормальное распределение, также известное как экспоненциальное распределение мощности, учитывает хвосты распределения с более толстыми или более тонкими асимптотиками.

Статистические выводы

Оценка параметров

Смотрите также: Максимальное правдоподобие § Непрерывное распределение, непрерывное пространство параметров; и Функция Гаусса § Оценка параметров

Часто бывает так, что мы не знаем параметров нормального распределения, но вместо этого хотим оценивать их. То есть имея образец ${displaystyle (x_{1},ldots ,x_{n})}$ из нормального ${displaystyle N(mu ,sigma ^{2})}$ населения мы хотели бы узнать примерные значения параметров ${displaystyle mu }$ и ${displaystyle sigma ^{2}}$. Стандартный подход к этой проблеме - максимальная вероятность метод, требующий максимизации функция логарифмического правдоподобия:

${displaystyle ln {mathcal {L}}(mu ,sigma ^{2})=sum _{i=1}^{n}ln f(x_{i}mid mu ,sigma ^{2})=-{frac {n}{2}}ln(2pi )-{frac {n}{2}}ln sigma ^{2}-{frac {1}{2sigma ^{2}}}sum _{i=1}^{n}(x_{i}-mu )^{2}.}$

Взяв производные по ${displaystyle mu }$ и ${displaystyle sigma ^{2}}$ и решение полученной системы условий первого порядка дает оценки максимального правдоподобия:

${displaystyle {hat {mu }}={overline {x}}equiv {frac {1}{n}}sum _{i=1}^{n}x_{i},qquad {hat {sigma }}^{2}={frac {1}{n}}sum _{i=1}^{n}(x_{i}-{overline {x}})^{2}.}$

Выборочное среднее

Смотрите также: Стандартная ошибка среднего

Оценщик ${displaystyle extstyle {hat {mu }}}$ называется выборочное среднее, поскольку это среднее арифметическое всех наблюдений. Статистика ${displaystyle extstyle {overline {x}}}$ является полный и достаточный за ${displaystyle mu }$, и, следовательно, Теорема Лемана – Шеффе, ${displaystyle extstyle {hat {mu }}}$ это равномерно минимальная дисперсия несмещенная (UMVU) оценщик.^[49] В конечных выборках распределяется нормально:

${displaystyle {hat {mu }}sim {mathcal {N}}(mu ,sigma ^{2}/n).}$

Дисперсия этой оценки равна μμ-элемент обратного Информационная матрица Fisher ${displaystyle extstyle {mathcal {I}}^{-1}}$. Это означает, что оценка конечный выборочный эффективный. Практическое значение имеет тот факт, что стандартная ошибка из ${displaystyle extstyle {hat {mu }}}$ пропорционально ${displaystyle extstyle 1/{sqrt {n}}}$, то есть если кто-то хочет уменьшить стандартную ошибку в 10 раз, необходимо увеличить количество точек в выборке в 100 раз. Этот факт широко используется при определении размеров выборки для опросов общественного мнения и количества испытания в Моделирование Монте-Карло.

С точки зрения асимптотическая теория, ${displaystyle extstyle {hat {mu }}}$ является последовательный, то есть это сходится по вероятности к ${displaystyle mu }$ в качестве ${displaystyle nightarrow infty }$. Оценщик также асимптотически нормальный, что является простым следствием того факта, что он нормален в конечных выборках:

${displaystyle {sqrt {n}}({hat {mu }}-mu ),{xrightarrow {d}},{mathcal {N}}(0,sigma ^{2}).}$

Выборочная дисперсия

Смотрите также: Стандартное отклонение § Оценка, и Дисперсия § Оценка

Оценщик ${displaystyle extstyle {hat {sigma }}^{2}}$ называется выборочная дисперсия, поскольку это дисперсия выборки (${displaystyle (x_{1},ldots ,x_{n})}$). На практике вместо оценки часто используется другая оценка. ${displaystyle extstyle {hat {sigma }}^{2}}$. Эта другая оценка обозначается ${displaystyle s^{2}}$, а также называется выборочная дисперсия, что представляет собой некоторую двусмысленность в терминологии; его квадратный корень ${displaystyle s}$ называется стандартное отклонение выборки. Оценщик ${displaystyle s^{2}}$ отличается от ${displaystyle extstyle {hat {sigma }}^{2}}$ имея (п − 1) вместоп в знаменателе (так называемый Поправка Бесселя ):

${displaystyle s^{2}={frac {n}{n-1}}{hat {sigma }}^{2}={frac {1}{n-1}}sum _{i=1}^{n}(x_{i}-{overline {x}})^{2}.}$

Разница между ${displaystyle s^{2}}$ и ${displaystyle extstyle {hat {sigma }}^{2}}$ становится пренебрежимо малым для больших п'с. Однако в конечных выборках мотивация использования ${displaystyle s^{2}}$ в том, что это объективный оценщик базового параметра ${displaystyle sigma ^{2}}$, в то время как ${displaystyle extstyle {hat {sigma }}^{2}}$ предвзято. Также по теореме Лемана – Шеффе оценка ${displaystyle s^{2}}$ равномерно минимальная несмещенная дисперсия (UMVU),^[49] что делает его «лучшим» оценщиком среди всех объективных оценок. Однако можно показать, что смещенная оценка ${displaystyle extstyle {hat {sigma }}^{2}}$ "лучше", чем ${displaystyle s^{2}}$ с точки зрения среднеквадратичная ошибка (MSE) критерий. В конечных выборках оба ${displaystyle s^{2}}$ и ${displaystyle extstyle {hat {sigma }}^{2}}$ масштабировались распределение хи-квадрат с (п − 1) степени свободы:

${displaystyle s^{2}sim {frac {sigma ^{2}}{n-1}}cdot chi _{n-1}^{2},qquad {hat {sigma }}^{2}sim {frac {sigma ^{2}}{n}}cdot chi _{n-1}^{2}.}$

Первое из этих выражений показывает, что дисперсия ${displaystyle s^{2}}$ равно ${displaystyle 2sigma ^{4}/(n-1)}$, что немного больше, чем σσ-элемент обратной информационной матрицы Фишера ${displaystyle extstyle {mathcal {I}}^{-1}}$. Таким образом, ${displaystyle s^{2}}$ не является эффективной оценкой для ${displaystyle sigma ^{2}}$, и более того, поскольку ${displaystyle s^{2}}$ является UMVU, можно сделать вывод, что эффективная оценка конечной выборки для ${displaystyle sigma ^{2}}$ не существует.

Применяя асимптотическую теорию, обе оценки ${displaystyle s^{2}}$ и ${displaystyle extstyle {hat {sigma }}^{2}}$ согласованы, то есть сходятся по вероятности к ${displaystyle sigma ^{2}}$ как размер выборки ${displaystyle nightarrow infty }$. Обе оценки также являются асимптотически нормальными:

${displaystyle {sqrt {n}}({hat {sigma }}^{2}-sigma ^{2})simeq {sqrt {n}}(s^{2}-sigma ^{2}),{xrightarrow {d}},{mathcal {N}}(0,2sigma ^{4}).}$

В частности, обе оценки асимптотически эффективны при ${displaystyle sigma ^{2}}$.

Доверительные интервалы

Смотрите также: Студентизация

К Теорема Кохрана, для нормальных распределений выборочное среднее ${displaystyle extstyle {hat {mu }}}$ и выборочная дисперсия s² находятся независимый, а это значит, что их совместное распределение. Существует также обратная теорема: если в выборке среднее значение выборки и дисперсия выборки независимы, тогда выборка должна быть получена из нормального распределения. Независимость между ${displaystyle extstyle {hat {mu }}}$ и s можно использовать для построения так называемого t-статистика:

${displaystyle t={frac {{hat {mu }}-mu }{s/{sqrt {n}}}}={frac {{overline {x}}-mu }{sqrt {{frac {1}{n(n-1)}}sum (x_{i}-{overline {x}})^{2}}}}sim t_{n-1}}$

Это количество т имеет Распределение Стьюдента с (п − 1) степени свободы, и это вспомогательная статистика (независимо от значения параметров). Инвертируя распределение этого т-статистика позволит нам построить доверительный интервал за μ;^[50] аналогично инвертирование χ² распределение статистики s² даст нам доверительный интервал для σ²:^[51]

${displaystyle mu in left[{hat {mu }}-t_{n-1,1-alpha /2}{frac {1}{sqrt {n}}}s,{hat {mu }}+t_{n-1,1-alpha /2}{frac {1}{sqrt {n}}}sight]approx left[{hat {mu }}-|z_{alpha /2}|{frac {1}{sqrt {n}}}s,{hat {mu }}+|z_{alpha /2}|{frac {1}{sqrt {n}}}sight],}$

${displaystyle sigma ^{2}in left[{frac {(n-1)s^{2}}{chi _{n-1,1-alpha /2}^{2}}},{frac {(n-1)s^{2}}{chi _{n-1,alpha /2}^{2}}}ight]approx left[s^{2}-|z_{alpha /2}|{frac {sqrt {2}}{sqrt {n}}}s^{2},s^{2}+|z_{alpha /2}|{frac {sqrt {2}}{sqrt {n}}}s^{2}ight],}$

куда т_{k, p} и χ 2
k, p  являются пth квантили из т- и χ²-распределения соответственно. Эти доверительные интервалы относятся к уровень уверенности 1 − α, что означает, что истинные значения μ и σ² выпадают за пределы этих интервалов с вероятностью (или уровень значимости ) α. На практике люди обычно принимают α = 5%, что дает 95% доверительный интервал. Приближенные формулы на изображении выше были получены из асимптотических распределений ${displaystyle extstyle {hat {mu }}}$ и s². Приближенные формулы становятся справедливыми при больших значениях п, и более удобны для ручного расчета, поскольку стандартные нормальные квантили z_α/2 не зависеть от п. В частности, самое популярное значение α = 5%, приводит к |z_0.025| = 1.96.

Тесты на нормальность

Основная статья: Тесты на нормальность

Тесты нормальности оценивают вероятность того, что данный набор данных {Икс₁, ..., Икс_п} происходит из нормального распределения. Обычно нулевая гипотеза ЧАС₀ в том, что наблюдения распределены нормально с неопределенным средним μ и дисперсия σ², по сравнению с альтернативой ЧАС_а что распределение произвольное. Для решения этой проблемы было разработано множество тестов (более 40), наиболее известные из них описаны ниже:

• «Визуальные» тесты являются более интуитивно привлекательными, но в то же время субъективными, поскольку они полагаются на неформальное человеческое суждение, чтобы принять или отклонить нулевую гипотезу.
  • График Q-Q - это график отсортированных значений из набора данных в сравнении с ожидаемыми значениями соответствующих квантилей из стандартного нормального распределения. То есть это график точки вида (Φ⁻¹(п_k), Икс_(k)), где точки построения п_k равны п_k = (k − α)/(п + 1 − 2α) и α - константа настройки, которая может принимать значения от 0 до 1. Если нулевая гипотеза верна, нанесенные на график точки должны приблизительно лежать на прямой линии.
  • Участок П-П - аналогичен графику Q-Q, но используется гораздо реже. Этот метод заключается в нанесении точек (Φ (z_(k)), п_k), куда ${displaystyle extstyle z_{(k)}=(x_{(k)}-{hat {mu }})/{hat {sigma }}}$. Для нормально распределенных данных этот график должен лежать на линии под углом 45 ° между (0, 0) и (1, 1).
  • Тест Шапиро-Уилка использует тот факт, что линия на графике Q-Q имеет наклон σ. Тест сравнивает оценку этого наклона методом наименьших квадратов со значением выборочной дисперсии и отклоняет нулевую гипотезу, если эти две величины значительно различаются.
  • График нормальной вероятности (рангит участок)
• Моментальные тесты:
  • К-квадрат Д'Агостино
  • Тест Жарка – Бера
• Эмпирические тесты функции распределения:
  • Тест Лиллиэфорса (адаптация Тест Колмогорова – Смирнова )
  • Тест Андерсона – Дарлинга

Байесовский анализ нормального распределения

Байесовский анализ нормально распределенных данных осложняется множеством различных возможностей, которые можно рассмотреть:

• Либо среднее значение, либо дисперсия, либо ни то, ни другое нельзя считать фиксированной величиной.
• Когда дисперсия неизвестна, анализ может проводиться непосредственно с точки зрения дисперсии или с точки зрения точность, величина, обратная дисперсии. Причина, по которой формулы выражаются с точки зрения точности, заключается в том, что анализ большинства случаев упрощается.
• Оба одномерных и многомерный случаи необходимо рассмотреть.
• Либо сопрягать или же неподходящий предыдущие распределения могут быть помещены на неизвестные переменные.
• Дополнительный набор случаев встречается в Байесовская линейная регрессия, где в базовой модели предполагается, что данные распределены нормально, а нормальные априорные значения помещаются на коэффициенты регрессии. Полученный анализ аналогичен основным случаям независимые одинаково распределенные данные.

Формулы для случаев нелинейной регрессии приведены в сопряженный предшествующий статья.

Сумма двух квадратичных

Скалярная форма

Следующая вспомогательная формула полезна для упрощения задний обновлять уравнения, которые в противном случае становятся довольно утомительными.

${displaystyle a(x-y)^{2}+b(x-z)^{2}=(a+b)left(x-{frac {ay+bz}{a+b}}ight)^{2}+{frac {ab}{a+b}}(y-z)^{2}}$

Это уравнение переписывает сумму двух квадратиков в Икс расширяя квадраты, группируя термины в Икс, и завершение квадрата. Обратите внимание на следующие моменты о сложных постоянных факторах, связанных с некоторыми терминами:

1. Фактор ${displaystyle {frac {ay+bz}{a+b}}}$ имеет форму средневзвешенное из у и z.
2. ${displaystyle {frac {ab}{a+b}}={frac {1}{{frac {1}{a}}+{frac {1}{b}}}}=(a^{-1}+b^{-1})^{-1}.}$ Это показывает, что этот фактор можно рассматривать как результат ситуации, когда взаимные количества а и б добавить напрямую, чтобы объединить а и б сами по себе, необходимо ответить взаимностью, добавить и вернуть результат снова, чтобы вернуться в исходные единицы. Именно такую ​​операцию выполняет гармоническое среднее, поэтому неудивительно, что ${displaystyle {frac {ab}{a+b}}}$ это половина гармоническое среднее из а и б.

Векторная форма

Аналогичную формулу можно записать для суммы двух векторных квадратик: Если Икс, у, z векторы длины k, и А и B находятся симметричный, обратимые матрицы размера ${displaystyle k imes k}$, тогда

${displaystyle {egin{aligned}&(mathbf {y} -mathbf {x} )'mathbf {A} (mathbf {y} -mathbf {x} )+(mathbf {x} -mathbf {z} )'mathbf {B} (mathbf {x} -mathbf {z} )={}&(mathbf {x} -mathbf {c} )'(mathbf {A} +mathbf {B} )(mathbf {x} -mathbf {c} )+(mathbf {y} -mathbf {z} )'(mathbf {A} ^{-1}+mathbf {B} ^{-1})^{-1}(mathbf {y} -mathbf {z} )end{aligned}}}$

куда

${displaystyle mathbf {c} =(mathbf {A} +mathbf {B} )^{-1}(mathbf {A} mathbf {y} +mathbf {B} mathbf {z} )}$

Обратите внимание, что форма Икс′ А Икс называется квадратичная форма и является скаляр:

${displaystyle mathbf {x} 'mathbf {A} mathbf {x} =sum _{i,j}a_{ij}x_{i}x_{j}}$

Другими словами, он суммирует все возможные комбинации произведений пар элементов из Икс, с отдельным коэффициентом для каждого. Кроме того, поскольку ${displaystyle x_{i}x_{j}=x_{j}x_{i}}$, только сумма ${displaystyle a_{ij}+a_{ji}}$ имеет значение для любых недиагональных элементов А, и без потери общности предположим, что А является симметричный. Кроме того, если А симметрична, то форма ${displaystyle mathbf {x} 'mathbf {A} mathbf {y} =mathbf {y} 'mathbf {A} mathbf {x} .}$

Сумма отличий от среднего

Еще одна полезная формула выглядит следующим образом:

${displaystyle sum _{i=1}^{n}(x_{i}-mu )^{2}=sum _{i=1}^{n}(x_{i}-{ar {x}})^{2}+n({ar {x}}-mu )^{2}}$

куда ${displaystyle {ar {x}}={frac {1}{n}}sum _{i=1}^{n}x_{i}.}$

С известной дисперсией

Для набора i.i.d. нормально распределенные точки данных Икс размера п где каждая отдельная точка Икс следует ${displaystyle xsim {mathcal {N}}(mu ,sigma ^{2})}$ с известными отклонение σ², то сопряженный предшествующий раздача тоже нормально раздается.

Это можно легче показать, переписав дисперсию как точность, т.е. используя τ = 1 / σ². Тогда если ${displaystyle xsim {mathcal {N}}(mu ,1/ au )}$ и ${displaystyle mu sim {mathcal {N}}(mu _{0},1/ au _{0}),}$ поступаем следующим образом.

Во-первых, функция правдоподобия равно (используя формулу выше для суммы отличий от среднего):

${displaystyle {egin{aligned}p(mathbf {X} mid mu , au )&=prod _{i=1}^{n}{sqrt {frac { au }{2pi }}}exp left(-{frac {1}{2}} au (x_{i}-mu )^{2}ight)&=left({frac { au }{2pi }}ight)^{n/2}exp left(-{frac {1}{2}} au sum _{i=1}^{n}(x_{i}-mu )^{2}ight)&=left({frac { au }{2pi }}ight)^{n/2}exp left[-{frac {1}{2}} au left(sum _{i=1}^{n}(x_{i}-{ar {x}})^{2}+n({ar {x}}-mu )^{2}ight)ight].end{aligned}}}$

Затем действуем следующим образом:

${displaystyle {egin{aligned}p(mu mid mathbf {X} )&propto p(mathbf {X} mid mu )p(mu )&=left({frac { au }{2pi }}ight)^{n/2}exp left[-{frac {1}{2}} au left(sum _{i=1}^{n}(x_{i}-{ar {x}})^{2}+n({ar {x}}-mu )^{2}ight)ight]{sqrt {frac { au _{0}}{2pi }}}exp left(-{frac {1}{2}} au _{0}(mu -mu _{0})^{2}ight)&propto exp left(-{frac {1}{2}}left( au left(sum _{i=1}^{n}(x_{i}-{ar {x}})^{2}+n({ar {x}}-mu )^{2}ight)+ au _{0}(mu -mu _{0})^{2}ight)ight)&propto exp left(-{frac {1}{2}}left(n au ({ar {x}}-mu )^{2}+ au _{0}(mu -mu _{0})^{2}ight)ight)&=exp left(-{frac {1}{2}}(n au + au _{0})left(mu -{dfrac {n au {ar {x}}+ au _{0}mu _{0}}{n au + au _{0}}}ight)^{2}+{frac {n au au _{0}}{n au + au _{0}}}({ar {x}}-mu _{0})^{2}ight)&propto exp left(-{frac {1}{2}}(n au + au _{0})left(mu -{dfrac {n au {ar {x}}+ au _{0}mu _{0}}{n au + au _{0}}}ight)^{2}ight)end{aligned}}}$

В приведенном выше выводе мы использовали приведенную выше формулу для суммы двух квадратов и исключили все постоянные факторы, не связанные сμ. В результате ядро нормального распределения со средним ${displaystyle {frac {n au {ar {x}}+ au _{0}mu _{0}}{n au + au _{0}}}}$ и точность ${displaystyle n au + au _{0}}$, т.е.

${displaystyle p(mu mid mathbf {X} )sim {mathcal {N}}left({frac {n au {ar {x}}+ au _{0}mu _{0}}{n au + au _{0}}},{frac {1}{n au + au _{0}}}ight)}$

Это может быть записано в виде набора уравнений байесовского обновления для апостериорных параметров в терминах априорных параметров:

${displaystyle {egin{aligned} au _{0}'&= au _{0}+n au mu _{0}'&={frac {n au {ar {x}}+ au _{0}mu _{0}}{n au + au _{0}}}{ar {x}}&={frac {1}{n}}sum _{i=1}^{n}x_{i}end{aligned}}}$

То есть объединить п точки данных с общей точностью nτ (или, что эквивалентно, общая дисперсия п/σ²) и среднее значение ${displaystyle {ar {x}}}$, получить новую общую точность, просто добавив общую точность данных к предыдущей общей точности, и сформировать новое среднее значение с помощью средневзвешенное значение, т.е. средневзвешенное среднего значения данных и предыдущего среднего, каждое из которых взвешено по соответствующей общей точности. Это имеет логический смысл, если считается, что точность указывает на достоверность наблюдений: в распределении апостериорного среднего каждый из входных компонентов взвешивается по своей достоверности, а достоверность этого распределения является суммой индивидуальных достоверностей. . (Чтобы понять это, сравните выражение «целое больше (или нет) суммы его частей». Кроме того, учтите, что знание апостериорного происходит из комбинации знания априорного и вероятностного , поэтому имеет смысл, что мы более уверены в нем, чем в любом из его компонентов.)

Приведенная выше формула показывает, почему удобнее делать Байесовский анализ из сопряженные приоры для нормального распределения по точности. Апостериорная точность - это просто сумма априорной точности и вероятности, а апостериорное среднее вычисляется посредством взвешенного с точностью до среднего, как описано выше. Те же формулы могут быть записаны в терминах дисперсии, взаимно меняя все точности, давая более уродливые формулы

${displaystyle {egin{aligned}{sigma _{0}^{2}}'&={frac {1}{{frac {n}{sigma ^{2}}}+{frac {1}{sigma _{0}^{2}}}}}mu _{0}'&={frac {{frac {n{ar {x}}}{sigma ^{2}}}+{frac {mu _{0}}{sigma _{0}^{2}}}}{{frac {n}{sigma ^{2}}}+{frac {1}{sigma _{0}^{2}}}}}{ar {x}}&={frac {1}{n}}sum _{i=1}^{n}x_{i}end{aligned}}}$

С известным средним

Для набора i.i.d. нормально распределенные точки данных Икс размера п где каждая отдельная точка Икс следует ${displaystyle xsim {mathcal {N}}(mu ,sigma ^{2})}$ с известным средним μ сопряженный предшествующий из отклонение имеет обратное гамма-распределение или масштабированное обратное распределение хи-квадрат. Эти два эквивалента, за исключением того, что имеют разные параметризации. Хотя чаще используется обратная гамма, для удобства мы используем масштабированный обратный хи-квадрат. Апор для σ² как следует:

${displaystyle p(sigma ^{2}mid u _{0},sigma _{0}^{2})={frac {(sigma _{0}^{2}{frac {u _{0}}{2}})^{u _{0}/2}}{Gamma left({frac {u _{0}}{2}}ight)}}~{frac {exp left[{frac {-u _{0}sigma _{0}^{2}}{2sigma ^{2}}}ight]}{(sigma ^{2})^{1+{frac {u _{0}}{2}}}}}propto {frac {exp left[{frac {-u _{0}sigma _{0}^{2}}{2sigma ^{2}}}ight]}{(sigma ^{2})^{1+{frac {u _{0}}{2}}}}}}$

В функция правдоподобия сверху, записанное в терминах дисперсии:

${displaystyle {egin{aligned}p(mathbf {X} mid mu ,sigma ^{2})&=left({frac {1}{2pi sigma ^{2}}}ight)^{n/2}exp left[-{frac {1}{2sigma ^{2}}}sum _{i=1}^{n}(x_{i}-mu )^{2}ight]&=left({frac {1}{2pi sigma ^{2}}}ight)^{n/2}exp left[-{frac {S}{2sigma ^{2}}}ight]end{aligned}}}$

куда

${displaystyle S=sum _{i=1}^{n}(x_{i}-mu )^{2}.}$

Потом:

${displaystyle {egin{aligned}p(sigma ^{2}mid mathbf {X} )&propto p(mathbf {X} mid sigma ^{2})p(sigma ^{2})&=left({frac {1}{2pi sigma ^{2}}}ight)^{n/2}exp left[-{frac {S}{2sigma ^{2}}}ight]{frac {(sigma _{0}^{2}{frac {u _{0}}{2}})^{frac {u _{0}}{2}}}{Gamma left({frac {u _{0}}{2}}ight)}}~{frac {exp left[{frac {-u _{0}sigma _{0}^{2}}{2sigma ^{2}}}ight]}{(sigma ^{2})^{1+{frac {u _{0}}{2}}}}}&propto left({frac {1}{sigma ^{2}}}ight)^{n/2}{frac {1}{(sigma ^{2})^{1+{frac {u _{0}}{2}}}}}exp left[-{frac {S}{2sigma ^{2}}}+{frac {-u _{0}sigma _{0}^{2}}{2sigma ^{2}}}ight]&={frac {1}{(sigma ^{2})^{1+{frac {u _{0}+n}{2}}}}}exp left[-{frac {u _{0}sigma _{0}^{2}+S}{2sigma ^{2}}}ight]end{aligned}}}$

Вышеупомянутое также является масштабированным обратным распределением хи-квадрат, где

${displaystyle {egin{aligned}u _{0}'&=u _{0}+nu _{0}'{sigma _{0}^{2}}'&=u _{0}sigma _{0}^{2}+sum _{i=1}^{n}(x_{i}-mu )^{2}end{aligned}}}$

или эквивалентно

${displaystyle {egin{aligned}u _{0}'&=u _{0}+n{sigma _{0}^{2}}'&={frac {u _{0}sigma _{0}^{2}+sum _{i=1}^{n}(x_{i}-mu )^{2}}{u _{0}+n}}end{aligned}}}$

Изменение параметров с точки зрения обратное гамма-распределение, результат:

${displaystyle {egin{aligned}alpha '&=alpha +{frac {n}{2}}eta '&=eta +{frac {sum _{i=1}^{n}(x_{i}-mu )^{2}}{2}}end{aligned}}}$

С неизвестным средним и неизвестной дисперсией

Для набора i.i.d. нормально распределенные точки данных Икс размера п где каждая отдельная точка Икс следует ${displaystyle xsim {mathcal {N}}(mu ,sigma ^{2})}$ с неизвестным средним μ и неизвестным отклонение σ², комбинированный (многомерный) сопряженный предшествующий помещается над средним и дисперсией, состоящей из нормальное обратное гамма-распределение Логически это происходит следующим образом:

1. Из анализа случая с неизвестным средним, но известной дисперсией, мы видим, что уравнения обновления включают достаточная статистика вычисляется из данных, состоящих из среднего значения точек данных и общей дисперсии точек данных, вычисленных, в свою очередь, из известной дисперсии, деленной на количество точек данных.
2. Из анализа случая с неизвестной дисперсией, но известным средним, мы видим, что уравнения обновления включают достаточную статистику по данным, состоящим из количества точек данных и сумма квадратов отклонений.
3. Имейте в виду, что значения апостериорного обновления служат в качестве предварительного распределения при обработке дальнейших данных. Таким образом, мы должны логически думать о наших априорных значениях в терминах только что описанной достаточной статистики с максимально возможной сохранением той же семантики.
4. Чтобы справиться со случаем, когда и среднее, и дисперсия неизвестны, мы могли бы разместить независимые априорные значения над средним и дисперсией с фиксированными оценками среднего среднего, общей дисперсии, количеством точек данных, используемых для вычисления априорной дисперсии, и суммой квадратов отклонений. . Обратите внимание, однако, что на самом деле общая дисперсия среднего зависит от неизвестной дисперсии, а сумма квадратов отклонений, которые входят в дисперсию до (кажется), зависит от неизвестного среднего. На практике последняя зависимость относительно не важна: сдвиг фактического среднего сдвигает сгенерированные точки на равную величину, и в среднем квадраты отклонений останутся прежними. Однако это не относится к общей дисперсии среднего: по мере увеличения неизвестной дисперсии общая дисперсия среднего будет пропорционально увеличиваться, и мы хотели бы зафиксировать эту зависимость.
5. Это говорит о том, что мы создаем условный приор среднего значения неизвестной дисперсии, с гиперпараметром, определяющим среднее значение псевдонаблюдения связанный с предыдущим, и еще один параметр, определяющий количество псевдонаблюдений. Это число служит параметром масштабирования дисперсии, позволяя контролировать общую дисперсию среднего значения относительно фактического параметра дисперсии. Априор для дисперсии также имеет два гиперпараметра, один из которых определяет сумму квадратов отклонений псевдонаблюдений, связанных с априорными наблюдениями, а другой, опять же, указывает количество псевдонаблюдений. Обратите внимание, что каждый из априорных значений имеет гиперпараметр, определяющий количество псевдонаблюдений, и в каждом случае это контролирует относительную дисперсию этого априорного значения. Они представлены как два отдельных гиперпараметра, так что дисперсию (также известную как достоверность) двух априорных значений можно контролировать отдельно.
6. Это сразу приводит к нормальное обратное гамма-распределение, который является произведением двух только что определенных распределений, с сопряженные приоры использованный ( обратное гамма-распределение по дисперсии и нормальному распределению по среднему, условный от дисперсии) и с теми же четырьмя только что определенными параметрами.

Приоры обычно определяются следующим образом:

${displaystyle {egin{aligned}p(mu mid sigma ^{2};mu _{0},n_{0})&sim {mathcal {N}}(mu _{0},sigma ^{2}/n_{0})p(sigma ^{2};u _{0},sigma _{0}^{2})&sim Ichi ^{2}(u _{0},sigma _{0}^{2})=IG(u _{0}/2,u _{0}sigma _{0}^{2}/2)end{aligned}}}$

Уравнения обновления могут быть выведены и выглядеть следующим образом:

${displaystyle {egin{aligned}{ar {x}}&={frac {1}{n}}sum _{i=1}^{n}x_{i}mu _{0}'&={frac {n_{0}mu _{0}+n{ar {x}}}{n_{0}+n}} _{0}'&=n_{0}+nu _{0}'&=u _{0}+nu _{0}'{sigma _{0}^{2}}'&=u _{0}sigma _{0}^{2}+sum _{i=1}^{n}(x_{i}-{ar {x}})^{2}+{frac {n_{0}n}{n_{0}+n}}(mu _{0}-{ar {x}})^{2}end{aligned}}}$

Соответствующие количества псевдонаблюдений добавляют к ним количество фактических наблюдений. Новый средний гиперпараметр снова является средневзвешенным, на этот раз взвешенным по относительному количеству наблюдений. Наконец, обновление для ${displaystyle u _{0}'{sigma _{0}^{2}}'}$ аналогичен случаю с известным средним, но в этом случае сумма квадратов отклонений берется относительно среднего значения наблюдаемых данных, а не истинного среднего, и в результате необходимо добавить новый «термин взаимодействия», чтобы позаботиться о дополнительного источника ошибок, возникающего из-за отклонения между предыдущим средним значением и средним значением данных.

[Доказательство]

Предыдущие распределения

${displaystyle {egin{aligned}p(mu mid sigma ^{2};mu _{0},n_{0})&sim {mathcal {N}}(mu _{0},sigma ^{2}/n_{0})={frac {1}{sqrt {2pi {frac {sigma ^{2}}{n_{0}}}}}}exp left(-{frac {n_{0}}{2sigma ^{2}}}(mu -mu _{0})^{2}ight)&propto (sigma ^{2})^{-1/2}exp left(-{frac {n_{0}}{2sigma ^{2}}}(mu -mu _{0})^{2}ight)p(sigma ^{2};u _{0},sigma _{0}^{2})&sim Ichi ^{2}(u _{0},sigma _{0}^{2})=IG(u _{0}/2,u _{0}sigma _{0}^{2}/2)&={frac {(sigma _{0}^{2}u _{0}/2)^{u _{0}/2}}{Gamma (u _{0}/2)}}~{frac {exp left[{frac {-u _{0}sigma _{0}^{2}}{2sigma ^{2}}}ight]}{(sigma ^{2})^{1+u _{0}/2}}}&propto {(sigma ^{2})^{-(1+u _{0}/2)}}exp left[{frac {-u _{0}sigma _{0}^{2}}{2sigma ^{2}}}ight].end{aligned}}}$

Следовательно, совместный приор

${displaystyle {egin{aligned}p(mu ,sigma ^{2};mu _{0},n_{0},u _{0},sigma _{0}^{2})&=p(mu mid sigma ^{2};mu _{0},n_{0}),p(sigma ^{2};u _{0},sigma _{0}^{2})&propto (sigma ^{2})^{-(u _{0}+3)/2}exp left[-{frac {1}{2sigma ^{2}}}left(u _{0}sigma _{0}^{2}+n_{0}(mu -mu _{0})^{2}ight)ight].end{aligned}}}$

В функция правдоподобия из раздела выше с известной дисперсией:

${displaystyle {egin{aligned}p(mathbf {X} mid mu ,sigma ^{2})&=left({frac {1}{2pi sigma ^{2}}}ight)^{n/2}exp left[-{frac {1}{2sigma ^{2}}}left(sum _{i=1}^{n}(x_{i}-mu )^{2}ight)ight]end{aligned}}}$

Записывая это в терминах дисперсии, а не точности, мы получаем:

${displaystyle {egin{aligned}p(mathbf {X} mid mu ,sigma ^{2})&=left({frac {1}{2pi sigma ^{2}}}ight)^{n/2}exp left[-{frac {1}{2sigma ^{2}}}left(sum _{i=1}^{n}(x_{i}-{ar {x}})^{2}+n({ar {x}}-mu )^{2}ight)ight]&propto {sigma ^{2}}^{-n/2}exp left[-{frac {1}{2sigma ^{2}}}left(S+n({ar {x}}-mu )^{2}ight)ight]end{aligned}}}$

куда ${displaystyle S=sum _{i=1}^{n}(x_{i}-{ar {x}})^{2}.}$

Следовательно, апостериорная (исключение гиперпараметров как обусловливающих факторов):

${displaystyle {egin{aligned}p(mu ,sigma ^{2}mid mathbf {X} )&propto p(mu ,sigma ^{2}),p(mathbf {X} mid mu ,sigma ^{2})&propto (sigma ^{2})^{-(u _{0}+3)/2}exp left[-{frac {1}{2sigma ^{2}}}left(u _{0}sigma _{0}^{2}+n_{0}(mu -mu _{0})^{2}ight)ight]{sigma ^{2}}^{-n/2}exp left[-{frac {1}{2sigma ^{2}}}left(S+n({ar {x}}-mu )^{2}ight)ight]&=(sigma ^{2})^{-(u _{0}+n+3)/2}exp left[-{frac {1}{2sigma ^{2}}}left(u _{0}sigma _{0}^{2}+S+n_{0}(mu -mu _{0})^{2}+n({ar {x}}-mu )^{2}ight)ight]&=(sigma ^{2})^{-(u _{0}+n+3)/2}exp left[-{frac {1}{2sigma ^{2}}}left(u _{0}sigma _{0}^{2}+S+{frac {n_{0}n}{n_{0}+n}}(mu _{0}-{ar {x}})^{2}+(n_{0}+n)left(mu -{frac {n_{0}mu _{0}+n{ar {x}}}{n_{0}+n}}ight)^{2}ight)ight]&propto (sigma ^{2})^{-1/2}exp left[-{frac {n_{0}+n}{2sigma ^{2}}}left(mu -{frac {n_{0}mu _{0}+n{ar {x}}}{n_{0}+n}}ight)^{2}ight]&quad imes (sigma ^{2})^{-(u _{0}/2+n/2+1)}exp left[-{frac {1}{2sigma ^{2}}}left(u _{0}sigma _{0}^{2}+S+{frac {n_{0}n}{n_{0}+n}}(mu _{0}-{ar {x}})^{2}ight)ight]&={mathcal {N}}_{mu mid sigma ^{2}}left({frac {n_{0}mu _{0}+n{ar {x}}}{n_{0}+n}},{frac {sigma ^{2}}{n_{0}+n}}ight)cdot {m {IG}}_{sigma ^{2}}left({frac {1}{2}}(u _{0}+n),{frac {1}{2}}left(u _{0}sigma _{0}^{2}+S+{frac {n_{0}n}{n_{0}+n}}(mu _{0}-{ar {x}})^{2}ight)ight).end{aligned}}}$

Другими словами, апостериорное распределение имеет вид произведения нормального распределения по п(μ | σ²) умноженное на обратное гамма-распределение по п(σ²) с параметрами, аналогичными приведенным выше уравнениям обновления.

Возникновение и приложения

Возникновение нормального распределения в практических задачах можно условно разделить на четыре категории:

1. Точно нормальные распределения;
2. Примерно нормальные законы, например, когда такое приближение оправдано Центральная предельная теорема; и
3. Распределения смоделированы как нормальные - нормальное распределение - это распределение с максимальная энтропия для данного среднего и дисперсии.
4. Проблемы регрессии - нормальное распределение находится после достаточно хорошего моделирования систематических эффектов.

Точная нормальность

Основное состояние квантовый гармонический осциллятор имеет Гауссово распределение.

Определенные количества в физика распространяются нормально, как было впервые продемонстрировано Джеймс Клерк Максвелл. Примеры таких количеств:

• Функция плотности вероятности основного состояния в квантовый гармонический осциллятор.
• Положение частицы, испытывающей распространение. Если изначально частица находится в определенной точке (то есть ее распределение вероятностей есть Дельта-функция Дирака ), то спустя время т его расположение описывается нормальным распределением с дисперсией т, что удовлетворяет уравнение диффузии  ${displaystyle {frac {partial }{partial t}}f(x,t)={frac {1}{2}}{frac {partial ^{2}}{partial x^{2}}}f(x,t)}$. Если исходное положение задается определенной функцией плотности ${displaystyle g(x)}$, то плотность в момент времени т это свертка из грамм и обычный PDF.

Примерная нормальность

Примерно нормальные распределения встречаются во многих ситуациях, как объясняется Центральная предельная теорема. Когда результат создается множеством небольших эффектов, аддитивно и независимо, его распределение будет близким к нормальному. Нормальное приближение будет недействительным, если эффекты действуют мультипликативно (а не аддитивно) или если существует единичное внешнее влияние, которое имеет значительно большую величину, чем остальные эффекты.

• В задачах счета, где центральная предельная теорема включает приближение от дискретного к континуальному и где бесконечно делимый и разложимый вовлечены дистрибутивы, такие как
  • Биномиальные случайные величины, связанные с переменными двоичного ответа;
  • Пуассоновские случайные величины, связанные с редкими событиями;
• Тепловое излучение имеет Бозе-Эйнштейн распределение на очень коротких временных масштабах и нормальное распределение на более длительных временных масштабах в соответствии с центральной предельной теоремой.

Предполагаемая нормальность

Гистограмма ширины чашелистника для Ирис разноцветный из Фишера Набор данных о цветке ириса с наложенным наиболее подходящим нормальным распределением.

Я могу только признать появление нормальной кривой - кривой ошибок Лапласа - очень ненормальным явлением. В некоторых дистрибутивах он приблизительно равен; по этой причине и из-за его прекрасной простоты мы, вероятно, можем использовать его в качестве первого приближения, особенно в теоретических исследованиях.

— Пирсон (1901)

Существуют статистические методы для эмпирической проверки этого предположения, см. Выше. Тесты на нормальность раздел.

• В биология, то логарифм различных переменных имеют тенденцию к нормальному распределению, то есть они имеют тенденцию к логнормальное распределение (после разделения на мужские и женские субпопуляции), с примерами, включая:
  • Меры размера живой ткани (длина, рост, площадь кожи, вес);^[52]
  • В длина из инертный придатки (волосы, когти, ногти, зубы) биологических образцов, в сторону роста; предположительно толщина коры дерева также попадает в эту категорию;
  • Определенные физиологические измерения, например, артериальное давление у взрослых людей.
• В финансах, в частности Модель Блэка – Шоулза, изменения в логарифм обменных курсов, индексов цен и индексов фондового рынка считаются нормальными (эти переменные ведут себя как сложные проценты, не похожи на простые проценты, а потому являются мультипликативными). Некоторые математики, такие как Бенуа Мандельброт утверждали, что логарифмические распределения Леви, которая обладает тяжелые хвосты была бы более подходящей моделью, в частности, для анализа крах фондового рынка. Использование предположения о нормальном распределении в финансовых моделях также подвергалось критике со стороны Нассим Николас Талеб в его произведениях.
• Погрешности измерения в физических экспериментах часто моделируются нормальным распределением. Такое использование нормального распределения не означает, что предполагается, что ошибки измерения распределены нормально, скорее, использование нормального распределения дает наиболее консервативные прогнозы, которые возможны при знании только среднего значения и дисперсии ошибок.^[53]
• В стандартизированное тестирование, можно добиться нормального распределения результатов, выбрав количество и сложность вопросов (как в Тест IQ ) или преобразование исходных результатов теста в «выходные» баллы путем подгонки их к нормальному распределению. Например, СИДЕЛ Традиционный диапазон 200–800 основан на нормальном распределении со средним значением 500 и стандартным отклонением 100.

Соответствующее кумулятивное нормальное распределение для осадков в октябре, см. распределительная арматура

• Многие оценки получены из нормального распределения, в том числе процентильные ранги ("процентили" или "квантили"), эквиваленты нормальной кривой, станины, z-значения, и Т-баллы. Кроме того, некоторые поведенческие статистические процедуры предполагают, что баллы распределяются нормально; Например, t-тесты и ANOVA. Градация кривой колокола присваивает относительные оценки на основе нормального распределения баллов.
• В гидрология распределение длительного речного стока или осадков, например ежемесячные и годовые итоговые значения часто считаются практически нормальными в соответствии с Центральная предельная теорема.^[54] Голубая картинка, сделанная с CumFreq, иллюстрирует пример подгонки нормального распределения к ранжированным дождевым осадкам в октябре, показывающим 90% пояс уверенности на основе биномиальное распределение. Данные об осадках представлены построение позиций как часть совокупный частотный анализ.

Произведенная нормальность

В регрессивный анализ, отсутствие нормальности в остатки просто указывает на то, что постулируемая модель неадекватна для учета тенденции в данных и нуждается в дополнении; Другими словами, нормальность в остатках всегда может быть достигнута при правильно построенной модели.^{[нужна цитата ]}

Вычислительные методы

Генерация значений из нормального распределения

В фасоль машина, устройство, изобретенное Фрэнсис Гальтон, можно назвать первым генератором нормальных случайных величин. Эта машина состоит из вертикальной доски с чередующимися рядами штырей. Маленькие шарики падают сверху, а затем случайным образом отскакивают влево или вправо, ударяясь о кегли. Шары собираются в бункеры внизу и располагаются в виде узора, напоминающего кривую Гаусса.

В компьютерном моделировании, особенно в приложениях Метод Монте-Карло, часто желательно генерировать значения с нормальным распределением. Все перечисленные ниже алгоритмы генерируют стандартные нормальные отклонения, поскольку N(μ, σ²
) может быть сгенерирован как X = μ + σZ, куда Z стандартно нормально. Все эти алгоритмы полагаются на наличие генератор случайных чисел U способен производить униформа случайные вариации.

• Самый простой метод основан на интегральное преобразование вероятности свойство: если U распределена равномерно на (0,1), то Φ⁻¹(U) будет иметь стандартное нормальное распределение. Недостатком этого метода является то, что он основан на вычислении пробит функция Φ⁻¹, что невозможно сделать аналитически. Некоторые приблизительные методы описаны в Харт (1968) и в Эрф статья. Вичура дает быстрый алгоритм вычисления этой функции до 16 знаков после запятой,^[55] который используется р для вычисления случайных вариаций нормального распределения.
• Простой в программировании приблизительный подход, основанный на Центральная предельная теорема, выглядит следующим образом: сгенерировать 12 единообразных U(0,1) отклоняется, сложите их все и вычтите 6 - полученная случайная величина будет иметь примерно стандартное нормальное распределение. По правде говоря, раздача будет Ирвин – Холл, который представляет собой 12-секционное полиномиальное приближение одиннадцатого порядка к нормальному распределению. Это случайное отклонение будет иметь ограниченный диапазон (−6, 6).^[56]
• В Метод Бокса – Мюллера использует два независимых случайных числа U и V распределен равномерно на (0,1). Тогда две случайные величины Икс и Y

${displaystyle X={sqrt {-2ln U}},cos(2pi V),qquad Y={sqrt {-2ln U}},sin(2pi V).}$

оба будут иметь стандартное нормальное распределение и будут независимый. Эта формулировка возникает потому, что для двумерный нормальный случайный вектор (Икс, Y) квадрат нормы Икс² + Y² будет иметь распределение хи-квадрат с двумя степенями свободы, что легко генерируется экспоненциальная случайная величина соответствующая величине −2ln (U) в этих уравнениях; а угол равномерно распределен по окружности, выбранной случайной величиной V.

• В Полярный метод Марсальи является модификацией метода Бокса – Мюллера, который не требует вычисления функций синуса и косинуса. В этом методе U и V взяты из равномерного (−1,1) распределения, а затем S = U² + V² вычисляется. Если S больше или равно 1, то метод начинается заново, в противном случае две величины

${displaystyle X=U{sqrt {frac {-2ln S}{S}}},qquad Y=V{sqrt {frac {-2ln S}{S}}}}$

возвращаются. Опять таки, Икс и Y являются независимыми стандартными нормальными случайными величинами.

• Метод отношения^[57] это метод отказа. Алгоритм работает следующим образом:
  • Создайте два независимых униформных отклонения U и V;
  • Вычислить Икс = √8/е (V − 0.5)/U;
  • Необязательно: если Икс² ≤ 5 − 4е^1/4U тогда прими Икс и завершить алгоритм;
  • Необязательно: если Икс² ≥ 4е^−1.35/U + 1.4 затем отклонить Икс и начать с шага 1;
  • Если Икс² ≤ −4 lnU тогда прими Икс, в противном случае начните заново алгоритм.

Два необязательных шага позволяют в большинстве случаев избежать вычисления логарифма на последнем шаге. Эти шаги можно значительно улучшить^[58] так что логарифм редко вычисляется.

• В алгоритм зиккурата^[59] быстрее, чем преобразование Бокса – Мюллера, и при этом остается точным. Примерно в 97% всех случаев он использует только два случайных числа, одно случайное целое и одно случайное равномерное, одно умножение и if-тест. Только в 3% случаев, когда комбинация этих двух выходит за пределы «ядра зиккурата» (разновидность выборки отклонения с использованием логарифмов), необходимо использовать экспоненты и более однородные случайные числа.
• Целочисленную арифметику можно использовать для выборки из стандартного нормального распределения.^[60] Этот метод точен в том смысле, что он удовлетворяет условиям идеальное приближение;^[61] то есть это эквивалентно выборке действительного числа из стандартного нормального распределения и округлению его до ближайшего представимого числа с плавающей запятой.
• Также есть расследование^[62] в связи между постом Преобразование Адамара и нормальное распределение, так как преобразование использует только сложение и вычитание, и по центральной предельной теореме случайные числа из почти любого распределения будут преобразованы в нормальное распределение. В этом отношении серию преобразований Адамара можно комбинировать со случайными перестановками, чтобы превратить произвольные наборы данных в нормально распределенные данные.

Численные приближения для нормального CDF

Стандартный нормальный CDF широко используется в научных и статистических вычислениях.

Значения Φ (Икс) могут быть очень точно аппроксимированы различными методами, такими как численное интегрирование, Серия Тейлор, асимптотический ряд и непрерывные дроби. В зависимости от желаемого уровня точности используются разные приближения.

• Зелен и Северо (1964) дают приближение для Φ (Икс) за х> 0 с абсолютной ошибкой |ε(Икс)| < 7.5·10⁻⁸ (алгоритм 26.2.17 ):

  ${displaystyle Phi (x)=1-varphi (x)left(b_{1}t+b_{2}t^{2}+b_{3}t^{3}+b_{4}t^{4}+b_{5}t^{5}ight)+varepsilon (x),qquad t={frac {1}{1+b_{0}x}},}$

  куда ϕ(Икс) - стандартный нормальный PDF, а б₀ = 0.2316419, б₁ = 0.319381530, б₂ = −0.356563782, б₃ = 1.781477937, б₄ = −1.821255978, б₅ = 1.330274429.
• Харт (1968) перечисляет несколько десятков приближений - с помощью рациональных функций, с экспонентами или без них - для erfc () функция. Его алгоритмы различаются по степени сложности и получаемой точности с максимальной абсолютной точностью до 24 цифр. Алгоритм по Запад (2009) объединяет алгоритм Харта 5666 с непрерывная дробь аппроксимация в хвосте, чтобы обеспечить алгоритм быстрых вычислений с точностью до 16 разряда.
• Коди (1969) после отзыва Hart68 решение не подходит для erf, дает решение как для erf, так и для erfc с максимальной относительной погрешностью, через Рациональное приближение Чебышева..
• Марсалья (2004) предложил простой алгоритм^{[заметка 2]} на основе разложения в ряд Тейлора

  ${displaystyle Phi (x)={frac {1}{2}}+varphi (x)left(x+{frac {x^{3}}{3}}+{frac {x^{5}}{3cdot 5}}+{frac {x^{7}}{3cdot 5cdot 7}}+{frac {x^{9}}{3cdot 5cdot 7cdot 9}}+cdots ight)}$

  для вычисления Φ (Икс) с произвольной точностью. Недостатком этого алгоритма является сравнительно медленное время вычисления (например, требуется более 300 итераций для вычисления функции с точностью до 16 знаков, когда Икс = 10).
• В Научная библиотека GNU вычисляет значения стандартного нормального CDF с использованием алгоритмов Харта и приближений с Полиномы Чебышева.

Шор (1982) ввел простые аппроксимации, которые могут быть включены в модели стохастической оптимизации инженерных и операционных исследований, такие как проектирование надежности и анализ запасов. Обозначая p = Φ (z), самое простое приближение для функции квантиля:

${displaystyle z=Phi ^{-1}(p)=5.5556left[1-left({frac {1-p}{p}}ight)^{0.1186}ight],qquad pgeq 1/2}$

Это приближение обеспечивает z максимальная абсолютная погрешность 0,026 (для 0,5 ≤п ≤ 0,9999, что соответствует 0 ≤z ≤ 3,719). За п <1/2 заменить п на 1 -п и поменять знак. Другое приближение, несколько менее точное, - это однопараметрическое приближение:

${displaystyle z=-0.4115left{{frac {1-p}{p}}+log left[{frac {1-p}{p}}ight]-1ight},qquad pgeq 1/2}$

Последний служил для получения простой аппроксимации интеграла потерь нормального распределения, определяемого формулой

${displaystyle {egin{aligned}L(z)&=int _{z}^{infty }(u-z)varphi (u),du=int _{z}^{infty }[1-Phi (u)],du[5pt]L(z)&approx {egin{cases}0.4115left({dfrac {p}{1-p}}ight)-z,&p<1/2,\0.4115left({dfrac {1-p}{p}}ight),&pgeq 1/2.end{cases}}[5pt]{ ext{or, equivalently,}}L(z)&approx {egin{cases}0.4115left{1-log left[{frac {p}{1-p}}ight]ight},&p<1/2,\0.4115{dfrac {1-p}{p}},&pgeq 1/2.end{cases}}end{aligned}}}$

Это приближение особенно точно для правого дальнего хвоста (максимальная ошибка 10⁻³ для z≥1,4). Высокоточные приближения для CDF, основанные на Методология моделирования отклика (RMM, Shore, 2011, 2012), показаны в Shore (2005).

Еще несколько приближений можно найти по адресу: Функция ошибки # Аппроксимация с элементарными функциями. В частности, малые относительный ошибка всего домена для CDF ${displaystyle Phi }$ и квантильная функция ${displaystyle Phi ^{-1}}$ также достигается с помощью явно обратимой формулы Сергея Виницкого в 2008 году.

История

Разработка

Некоторые авторы^[63][64] приписывают заслугу в открытии нормального распределения де Муавр, который в 1738 г.^{[заметка 3]} опубликовано во втором издании его "Доктрина шансов "изучение коэффициентов в биномиальное разложение из (а + б)^п. Де Муавр доказал, что средний член в этом разложении имеет приблизительную величину ${displaystyle 2/{sqrt {2pi n}}}$, и что "Если м или ½п быть бесконечно большой величиной, то логарифм отношения, который находится на расстоянии от середины на интервал ℓ, имеет к среднему сроку, является ${displaystyle -{frac {2ell ell }{n}}}$."^[65] Хотя эту теорему можно интерпретировать как первое неясное выражение нормального вероятностного закона, Стиглер указывает, что сам де Муавр не интерпретировал свои результаты как нечто большее, чем приблизительное правило для биномиальных коэффициентов, и, в частности, де Муавру не хватало концепции функции плотности вероятности.^[66]

Карл Фридрих Гаусс открыл нормальное распределение в 1809 году как способ рационализировать метод наименьших квадратов.

В 1809 г. Гаусс опубликовал свою монографию "Theoria motus corporum coelestium in sectionibus conicis solem ambientium" где, среди прочего, он вводит несколько важных статистических концепций, таких как метод наименьших квадратов, то метод максимального правдоподобия, а нормальное распределение. Гаусс использовал M, M′, M′′, ... для обозначения измерений некоторой неизвестной величиныV, и искал "наиболее вероятную" оценку этой величины: ту, которая максимизирует вероятность φ(M − V) · φ(M ′ − V) · φ(M′′ − V) · ... получения наблюдаемых экспериментальных результатов. В его обозначениях φΔ - это вероятностный закон ошибки измерения величины Δ. Не зная, что это за функция φ То есть, Гаусс требует, чтобы его метод сводился к известному ответу: среднему арифметическому измеренных значений.^{[примечание 4]} Исходя из этих принципов, Гаусс демонстрирует, что единственный закон, который рационализирует выбор среднего арифметического в качестве оценки параметра местоположения, - это нормальный закон ошибок:^[67]

${displaystyle varphi {mathit {Delta }}={frac {h}{surd pi }},e^{-mathrm {hh} Delta Delta },}$

куда час это «мера точности наблюдений». Используя этот нормальный закон в качестве общей модели ошибок в экспериментах, Гаусс формулирует то, что теперь известно как метод нелинейных взвешенных наименьших квадратов (NWLS).^[68]

Пьер-Симон Лаплас доказал Центральная предельная теорема в 1810 г., закрепив важность нормального распределения в статистике.

Хотя Гаусс был первым, кто предложил закон нормального распределения, Лаплас внесли значительный вклад.^{[примечание 5]} Именно Лаплас первым поставил задачу объединения нескольких наблюдений в 1774 г.^[69] хотя его собственное решение привело к Распределение лапласиана. Именно Лаплас первым рассчитал значение интеграл ∫ е^−т2 dt = √π в 1782 г., обеспечивая нормировочную константу для нормального распределения.^[70] Наконец, именно Лаплас в 1810 году доказал и представил Академии фундаментальный Центральная предельная теорема, что подчеркивает теоретическую важность нормального распределения.^[71]

Интересно отметить, что в 1809 году ирландский математик Адрайн опубликовал два вывода нормального вероятностного закона одновременно и независимо от Гаусса.^[72] Его работы оставались в значительной степени незамеченными научным сообществом, пока в 1871 году они не были «открыты заново» Аббат.^[73]

В середине 19 века Максвелл продемонстрировали, что нормальное распределение - это не только удобный математический инструмент, но также может встречаться в природных явлениях:^[74] "Число частиц, скорость которых, разрешенная в определенном направлении, находится между Икс и Икс + dx является

${displaystyle operatorname {N} {frac {1}{alpha ;{sqrt {pi }}}};e^{-{frac {x^{2}}{alpha ^{2}}}},dx}$

Именование

С момента своего появления нормальное распределение было известно под множеством разных названий: закон ошибки, закон легкости ошибок, второй закон Лапласа, закон Гаусса и т. Д. Сам Гаусс, по-видимому, ввел термин в обращение со ссылкой на «нормальные уравнения» участвуют в его приложениях, причем нормальный имеет свое техническое значение ортогонального, а не «обычного».^[75] Однако к концу XIX века некоторые авторы^{[примечание 6]} начал использовать имя нормальное распределение, где слово «нормальный» использовалось как прилагательное - этот термин теперь рассматривается как отражение того факта, что это распределение считалось типичным, обычным - и, следовательно, «нормальным». Пирс (один из этих авторов) однажды определил «нормальный» следующим образом: «...« нормальный »- это не среднее (или любое другое среднее) того, что на самом деле происходит, а того, что бы, в конечном итоге, происходят при определенных обстоятельствах ".^[76] На рубеже 20-го века Пирсон популяризировал термин нормальный как обозначение этого распределения.^[77]

Много лет назад я назвал кривую Лапласа – Гаусса нормальный Кривая, название которой, хотя и позволяет избежать международного вопроса о приоритете, имеет тот недостаток, что заставляет людей думать, что все другие распределения частот в том или ином смысле являются «ненормальными».

— Пирсон (1920)

Кроме того, именно Пирсон первым написал распределение в терминах стандартного отклонения. σ как в современных обозначениях. Вскоре после этого, в 1915 году, Фишер добавил параметр местоположения в формулу нормального распределения, выразив его так, как это пишется сегодня:

${displaystyle df={frac {1}{sqrt {2sigma ^{2}pi }}}e^{-(x-m)^{2}/(2sigma ^{2})},dx}$

Термин «стандартное нормальное», обозначающий нормальное распределение с нулевым средним и единичной дисперсией, вошел в широкое употребление примерно в 1950-х годах, появившись в популярных учебниках П.Г. Хоэль (1947) "Введение в математическую статистику"и А.М. Настроение (1950)"Введение в теорию статистики".^[78]

Смотрите также

• Математический портал

• Распределение Бейтса - аналогично распределению Ирвина – Холла, но с масштабированием обратно в диапазон от 0 до 1
• Проблема Беренса – Фишера - давняя проблема проверки того, имеют ли два нормальных образца с разными отклонениями одинаковые значения;
• Бхаттачарья расстояние - метод, используемый для разделения смесей нормальных распределений
• Теорема Эрдеша – Каца - о наличии нормального распределения в теория чисел
• Размытие по Гауссу —свертка, который использует нормальное распределение в качестве ядра
• Нормально распределенный и некоррелированный не означает независимого
• Взаимное нормальное распределение
• Соотношение нормальное распределение
• Стандартный нормальный стол
• Лемма Штейна
• Субгауссово распределение
• Сумма нормально распределенных случайных величин
• Распределение твиди - Нормальная раздача принадлежит к семейству Твиди. модели экспоненциальной дисперсии
• Обернутое нормальное распределение - Нормальное распределение применяется к круговой области
• Z-тест - с использованием нормального распределения

Примечания

1. Для доказательства см. Гауссов интеграл.
2. Например, этот алгоритм приведен в статье Язык программирования BC.
3. Де Муавр впервые опубликовал свои открытия в 1733 году в брошюре «Approximatio ad Summam Terminorum Binomii. (а + б)^п in Seriem Expansi ", который был предназначен только для частного распространения. Но только в 1738 году он сделал свои результаты общедоступными. Оригинальный памфлет переиздавался несколько раз, см., например, Уокер (1985).
4. "Было принято считать аксиомой гипотезу о том, что если какая-либо величина была определена несколькими прямыми наблюдениями, сделанными при одних и тех же обстоятельствах и с одинаковой тщательностью, то среднее арифметическое наблюдаемых значений дает наиболее вероятное значение, если не строго, но почти по крайней мере, так что всегда безопаснее всего придерживаться его ". - Гаусс (1809 г., раздел 177)
5. "Мой обычай называть эту кривую гаусс-лапласианом или нормальный кривая избавляет нас от разделения достоинств открытия между двумя великими астрономами-математиками ». Пирсон (1905 г., п. 189)
6. Помимо специально упомянутых здесь, такое использование встречается в работах Пирс, Гальтон (Гальтон (1889 г., глава V)) и Lexis (Лексис (1878), Рорбассер и Верон (2003) ) c. 1875 г.^{[нужна цитата ]}

Рекомендации

Цитаты

1. «Список вероятностных и статистических символов». Математическое хранилище. 26 апреля 2020 г.. Получено 15 августа, 2020.
2. Вайсштейн, Эрик В. "Нормальное распределение". mathworld.wolfram.com. Получено 15 августа, 2020.
3. Нормальное распределение, Энциклопедия психологии Гейла
4. Казелла и Бергер (2001), п. 102)
5. Лион, А. (2014). Почему нормальные распределения нормальны?, Британский журнал философии науки.
6. "Нормальное распределение". www.mathsisfun.com. Получено 15 августа, 2020.
7. Стиглер (1982)
8. Гальперин, Хартли и Хоэл (1965, поз.7)
9. Макферсон (1990, п. 110)
10. Бернардо и Смит (2000), п. 121)
11. Скотт, Клейтон; Новак, Роберт (7 августа 2003 г.). «Q-функция». Связи.
12. Барак, Охад (6 апреля 2006 г.). «Функция Q и функция ошибки» (PDF). Тель-Авивский университет. Архивировано из оригинал (PDF) 25 марта 2009 г.
13. Вайсштейн, Эрик В. «Нормальная функция распределения». MathWorld.
14. Абрамовиц, Милтон; Стегун, Ирен Энн, ред. (1983) [июнь 1964]. «Глава 26, уравнение 26.2.12». Справочник по математическим функциям с формулами, графиками и математическими таблицами. Прикладная математика. 55 (Девятое переиздание с дополнительными исправлениями, десятое оригинальное издание с исправлениями (декабрь 1972 г.); первое издание). Вашингтон, округ Колумбия.; Нью-Йорк: Министерство торговли США, Национальное бюро стандартов; Dover Publications. п. 932. ISBN  978-0-486-61272-0. LCCN  64-60036. МИСТЕР  0167642. LCCN  65-12253.
15. "Wolfram | Alpha: вычислительная машина знаний". Wolframalpha.com. Получено 3 марта, 2017.
16. "Wolfram | Alpha: вычислительная машина знаний". Wolframalpha.com.
17. "Wolfram | Alpha: вычислительная машина знаний". Wolframalpha.com. Получено 3 марта, 2017.
18. Обложка, Томас М .; Томас, Джой А. (2006). Элементы теории информации. Джон Уайли и сыновья. п.254.
19. Park, Sung Y .; Бера, Анил К. (2009). "Модель условной гетероскедастичности авторегрессии с максимальной энтропией" (PDF). Журнал эконометрики. 150 (2): 219–230. CiteSeerX  10.1.1.511.9750. Дои:10.1016 / j.jeconom.2008.12.014. Получено 2 июня, 2011.
20. Geary RC (1936) Распределение коэффициента «Стьюдента» для ненормальных выборок ». Приложение к Журналу Королевского статистического общества 3 (2): 178–184
21. Лукас Э. (1942) Характеристика нормального распределения. Анналы математической статистики 13: 91–93
22. Патель и Рид (1996), [2.1.4])
23. Вентилятор (1991, п. 1258)
24. Патель и Рид (1996), [2.1.8])
25. Папулис, Афанасий. Вероятность, случайные величины и случайные процессы (4-е изд.). п. 148.
26. Bryc (1995 г., п. 23)
27. Bryc (1995 г., п. 24)
28. Обложка и Томас (2006), п. 254)
29. Уильямс, Дэвид (2001). Взвешивание шансов: курс вероятности и статистики (Перепечатано. Ред.). Кембридж [u.a.]: Cambridge Univ. Нажмите. стр.197 –199. ISBN  978-0-521-00618-7.
30. Смит, Хосе М. Бернардо; Адриан Ф. М. (2000). Байесовская теория (Перепечатка ред.). Чичестер [u.a.]: Уайли. стр.209, 366. ISBN  978-0-471-49464-5.
31. О'Хаган, А. (1994) Продвинутая теория статистики Кендалла, Том 2B, Байесовский вывод, Эдвард Арнольд. ISBN  0-340-52922-9 (Раздел 5.40)
32. Bryc (1995 г., п. 27)
33. Патель и Рид (1996), [2.3.6])
34. Галамбос и Симонелли (2004), Теорема 3.5)
35. Bryc (1995 г., п. 35)
36. Лукач и Кинг (1954)
37. Куайн, М. (1993). «О трех характеристиках нормального распределения». Вероятность и математическая статистика. 14 (2): 257–263.
38. UIUC, Лекция 21. Многомерное нормальное распределение, 21.6: «Индивидуально гауссовский против совместно гауссовского».
39. Эдвард Л. Мельник и Аарон Тененбейн, «Неправильные спецификации нормального распределения», Американский статистик, том 36, номер 4 ноября 1982 года, страницы 372–373
40. "Расстояние Кульбака-Лейблера (KL) двух нормальных (гауссовских) распределений вероятностей". Allisons.org. 5 декабря 2007 г.. Получено 3 марта, 2017.
41. Джордан, Майкл И. (8 февраля 2010 г.). "Stat260: Байесовское моделирование и вывод: сопряженный приоритет для нормального распределения" (PDF).
42. Амари и Нагаока (2000)
43. «Нормальное приближение к распределению Пуассона». Stat.ucla.edu. Получено 3 марта, 2017.
44. Вайсштейн, Эрик В. «Нормальное распределение продукта». MathWorld. wolfram.com.
45. Лукач, Евгений (1942). «Характеристика нормального распределения». Анналы математической статистики. 13 (1): 91–3. Дои:10.1214 / aoms / 1177731647. ISSN  0003-4851. JSTOR  2236166.
46. Basu, D .; Лаха, Р. Г. (1954). «О некоторых характеристиках нормального распределения». Санкхья. 13 (4): 359–62. ISSN  0036-4452. JSTOR  25048183.
47. Леманн, Э. Л. (1997). Проверка статистических гипотез (2-е изд.). Springer. п. 199. ISBN  978-0-387-94919-2.
48. Джон, S (1982). «Трехпараметрическое двухкомпонентное нормальное семейство распределений и его подгонка». Коммуникации в статистике - теория и методы. 11 (8): 879–885. Дои:10.1080/03610928208828279.
49. Кришнамурти (2006), п. 127)
50. Кришнамурти (2006), п. 130)
51. Кришнамурти (2006), п. 133)
52. Хаксли (1932)
53. Джейнс, Эдвин Т. (2003). Теория вероятностей: логика науки. Издательство Кембриджского университета. С. 592–593. ISBN  9780521592710.
54. Остербан, Роланд Дж. (1994). «Глава 6: Частотный и регрессионный анализ гидрологических данных» (PDF). В Ритземе, Хенк П. (ред.). Принципы и применение дренажа, Публикация 16 (второе исправленное изд.). Вагенинген, Нидерланды: Международный институт мелиорации и улучшения земель (ILRI). С. 175–224. ISBN  978-90-70754-33-4.
55. Вичура, Майкл Дж. (1988). «Алгоритм AS241: процентные точки нормального распределения». Прикладная статистика. 37 (3): 477–84. Дои:10.2307/2347330. JSTOR  2347330.
56. Джонсон, Коц и Балакришнан (1995 г., Уравнение (26.48))
57. Детский человек и Монахан (1977)
58. Лева (1992)
59. Марсалья и Цанг (2000)
60. Карни (2016)
61. Монахан (1985, раздел 2)
62. Уоллес (1996)
63. Джонсон, Коц и Балакришнан (1994, п. 85)
64. Ле Кам и Ло Ян (2000), п. 74)
65. Де Муавр, Авраам (1733), следствие I - см. Уокер (1985), п. 77)
66. Стиглер (1986, п. 76)
67. Гаусс (1809 г., раздел 177)
68. Гаусс (1809 г., раздел 179)
69. Лаплас (1774 г., Проблема III)
70. Пирсон (1905 г., п. 189)
71. Стиглер (1986, п. 144)
72. Стиглер (1978, п. 243)
73. Стиглер (1978, п. 244)
74. Максвелл (1860 г., п. 23)
75. Джейнс, Эдвин Дж .; Теория вероятностей: логика науки, Ch 7
76. Пирс, Чарльз С. (ок. 1909 г.), Сборник статей v. 6, пункт 327
77. Краскал и Стиглер (1997)
78. «Самое раннее использование ... (запись СТАНДАРТНАЯ НОРМАЛЬНАЯ КРИВАЯ)».

Источники

• Олдрич, Джон; Миллер, Джефф. «Раннее использование символов в теории вероятностей и статистике».
• Олдрич, Джон; Миллер, Джефф. «Самые ранние известные применения некоторых слов математики». В частности, записи для "колоколообразная и колоколообразная", "нормальное распределение)", "Гауссовский", и «Ошибка, закон ошибки, теория ошибок и т. Д.».
• Амари, Шун-ичи; Нагаока, Хироши (2000). Методы информационной геометрии. Издательство Оксфордского университета. ISBN  978-0-8218-0531-2.
• Бернардо, Хосе М .; Смит, Адриан Ф. М. (2000). Байесовская теория. Вайли. ISBN  978-0-471-49464-5.
• Bryc, Влодзимеж (1995). Нормальное распределение: характеристики с приложениями. Springer-Verlag. ISBN  978-0-387-97990-8.
• Казелла, Джордж; Бергер, Роджер Л. (2001). Статистические выводы (2-е изд.). Даксбери. ISBN  978-0-534-24312-8.
• Коди, Уильям Дж. (1969). «Рациональные приближения Чебышева для функции ошибок». Математика вычислений. 23 (107): 631–638. Дои:10.1090 / S0025-5718-1969-0247736-4.
• Обложка, Томас М .; Томас, Джой А. (2006). Элементы теории информации. Джон Уайли и сыновья.
• де Муавр, Авраам (1738). Доктрина шансов. ISBN  978-0-8218-2103-9.
• Фань, Цзяньцин (1991). «Об оптимальных скоростях сходимости для непараметрических задач деконволюции». Анналы статистики. 19 (3): 1257–1272. Дои:10.1214 / aos / 1176348248. JSTOR  2241949.
• Гальтон, Фрэнсис (1889). Естественное наследование (PDF). Лондон, Великобритания: Ричард Клей и сыновья.
• Галамбос, Янош; Симонелли, Итало (2004). Произведения случайных величин: приложения к задачам физики и арифметическим функциям. Марсель Деккер, Inc. ISBN  978-0-8247-5402-0.
• Гаусс, Кароло Фридерико (1809). Theoria motvs corporvm coelestivm в разделеibvs conicis Solem ambientivm [Теория движения небесных тел, движущихся вокруг Солнца в конических сечениях] (на латыни). английский перевод.
• Гулд, Стивен Джей (1981). Ошибочное измерение человека (первое изд.). W. W. Norton. ISBN  978-0-393-01489-1.
• Гальперин, Макс; Хартли, Герман О .; Хоэль, Пол Г. (1965). «Рекомендуемые стандарты для статистических символов и обозначений. Комитет COPSS по символам и обозначениям». Американский статистик. 19 (3): 12–14. Дои:10.2307/2681417. JSTOR  2681417.
• Харт, Джон Ф .; и другие. (1968). Компьютерные приближения. Нью-Йорк, штат Нью-Йорк: John Wiley & Sons, Inc. ISBN  978-0-88275-642-4.
• "Нормальное распределение", Энциклопедия математики, EMS Press, 2001 [1994]
• Herrnstein, Ричард Дж .; Мюррей, Чарльз (1994). Кривая Белла: интеллект и классовая структура в американской жизни. Свободная пресса. ISBN  978-0-02-914673-6.
• Хаксли, Джулиан С. (1932). Проблемы относительного роста. Лондон. ISBN  978-0-486-61114-3. OCLC  476909537.
• Джонсон, Норман Л .; Коц, Самуэль; Балакришнан, Нараянасвами (1994). Непрерывные одномерные распределения, Том 1. Вайли. ISBN  978-0-471-58495-7.
• Джонсон, Норман Л .; Коц, Самуэль; Балакришнан, Нараянасвами (1995). Непрерывные одномерные распределения, Том 2. Вайли. ISBN  978-0-471-58494-0.
• Карни, К. Ф. Ф. (2016). «Выборка точно из нормального распределения». Транзакции ACM на математическом ПО. 42 (1): 3:1–14. arXiv:1303.6257. Дои:10.1145/2710016. S2CID  14252035.
• Киндерман, Альберт Дж .; Монахан, Джон Ф. (1977). «Компьютерная генерация случайных величин с использованием отношения равномерных отклонений». Транзакции ACM на математическом ПО. 3 (3): 257–260. Дои:10.1145/355744.355750. S2CID  12884505.
• Кришнамурти, Калимуту (2006). Справочник статистических распределений с приложениями. Чепмен и Холл / CRC. ISBN  978-1-58488-635-8.
• Крускал, Уильям Х .; Стиглер, Стивен М. (1997). Спенсер, Брюс Д. (ред.). Нормативная терминология: «нормальный» в статистике и других местах. Статистика и государственная политика. Издательство Оксфордского университета. ISBN  978-0-19-852341-3.
• Лаплас, Пьер-Симон де (1774). "Mémoire sur la probabilité desasons par les événements". Mémoires de l'Académie Royale des Sciences de Paris (Savants étrangers), Том 6: 621–656. Перевод Стивена М. Стиглера в Статистическая наука 1 (3), 1986: JSTOR  2245476.
• Лаплас, Пьер-Симон (1812). Аналитическая теория вероятностей [Аналитическая теория вероятностей ].
• Ле Кам, Люсьен; Ло Ян, Грейс (2000). Асимптотика в статистике: некоторые основные концепции (второе изд.). Springer. ISBN  978-0-387-95036-5.
• Лева, Джозеф Л. (1992). «Быстрый нормальный генератор случайных чисел» (PDF). Транзакции ACM на математическом ПО. 18 (4): 449–453. CiteSeerX  10.1.1.544.5806. Дои:10.1145/138351.138364. S2CID  15802663. Архивировано из оригинал (PDF) 16 июля 2010 г.
• Лексис, Вильгельм (1878). "Sur la durée normale de la vie humaine et sur la théorie de la stabilité des rapports statistiques". Анналы международной демографии. Париж. II: 447–462.
• Лукач, Евгений; Кинг, Эдгар П. (1954). «Свойство нормального распределения». Анналы математической статистики. 25 (2): 389–394. Дои:10.1214 / aoms / 1177728796. JSTOR  2236741.
• Макферсон, Глен (1990). Статистика в научных исследованиях: ее основы, применение и интерпретация. Springer-Verlag. ISBN  978-0-387-97137-7.
• Марсалья, Джордж; Цанг, Вай Ван (2000). «Метод зиккурата для генерации случайных величин». Журнал статистического программного обеспечения. 5 (8). Дои:10.18637 / jss.v005.i08.
• Марсалья, Джордж (2004). «Оценка нормального распределения». Журнал статистического программного обеспечения. 11 (4). Дои:10.18637 / jss.v011.i04.
• Максвелл, Джеймс Клерк (1860). «V. Иллюстрации к динамической теории газов. - Часть I: О движениях и столкновениях идеально упругих сфер». Философский журнал. Серия 4. 19 (124): 19–32. Дои:10.1080/14786446008642818.
• Монахан, Дж. Ф. (1985). «Точность генерации случайных чисел». Математика вычислений. 45 (172): 559–568. Дои:10.1090 / S0025-5718-1985-0804945-X.
• Патель, Джагдиш К .; Прочтите, Кэмпбелл Б. (1996). Справочник по нормальному распределению (2-е изд.). CRC Press. ISBN  978-0-8247-9342-5.
• Пирсон, Карл (1901). "На прямых и плоскостях, наиболее приближенных к системам точек в пространстве" (PDF). Философский журнал. 6. 2 (11): 559–572. Дои:10.1080/14786440109462720.
• Пирсон, Карл (1905). "'Das Fehlergesetz und seine Verallgemeinerungen durch Fechner und Pearson '. Ответ на возражение ". Биометрика. 4 (1): 169–212. Дои:10.2307/2331536. JSTOR  2331536.
• Пирсон, Карл (1920). «Заметки по истории корреляции». Биометрика. 13 (1): 25–45. Дои:10.1093 / biomet / 13.1.25. JSTOR  2331722.
• Рорбассер, Жан-Марк; Верон, Жак (2003). «Вильгельм Лексис: нормальная продолжительность жизни как выражение« природы вещей »"". численность населения. 58 (3): 303–322. Дои:10.3917 / pope.303.0303.
• Шор, H (1982). «Простые приближения для обратной кумулятивной функции, функции плотности и интеграла потерь нормального распределения». Журнал Королевского статистического общества. Серия C (Прикладная статистика). 31 (2): 108–114. Дои:10.2307/2347972. JSTOR  2347972.
• Шор, H (2005). «Точные приближения на основе RMM для CDF нормального распределения». Коммуникации в статистике - теория и методы. 34 (3): 507–513. Дои:10.1081 / sta-200052102. S2CID  122148043.
• Шор, H (2011). «Методология моделирования отклика». WIREs Comput Stat. 3 (4): 357–372. Дои:10.1002 / wics.151.
• Шор, H (2012). «Оценка моделей методологии моделирования отклика». WIREs Comput Stat. 4 (3): 323–333. Дои:10.1002 / wics.1199.
• Стиглер, Стивен М. (1978). «Математическая статистика в ранних государствах». Анналы статистики. 6 (2): 239–265. Дои:10.1214 / aos / 1176344123. JSTOR  2958876.
• Стиглер, Стивен М. (1982). «Скромное предложение: новый стандарт для нормального». Американский статистик. 36 (2): 137–138. Дои:10.2307/2684031. JSTOR  2684031.
• Стиглер, Стивен М. (1986). История статистики: измерение неопределенности до 1900 г.. Издательство Гарвардского университета. ISBN  978-0-674-40340-6.
• Стиглер, Стивен М. (1999). Статистика в таблице. Издательство Гарвардского университета. ISBN  978-0-674-83601-3.
• Уокер, Хелен М. (1985). "Де Муавр о законе нормальной вероятности" (PDF). В Смит, Дэвид Юджин (ред.). Справочник по математике. Дувр. ISBN  978-0-486-64690-9.
• Уоллес, С. (1996). «Быстрые псевдослучайные генераторы для нормальных и экспоненциальных переменных». Транзакции ACM на математическом ПО. 22 (1): 119–127. Дои:10.1145/225545.225554. S2CID  18514848.
• Вайсштейн, Эрик В. "Нормальное распределение". MathWorld.
• Запад, Грэм (2009). «Лучшие приближения кумулятивных нормальных функций» (PDF). Журнал Wilmott: 70–76.
• Зелен, Марвин; Северо, Норман К. (1964). Вероятностные функции (глава 26). Справочник математических функций с формулами, графиками и математическими таблицами, к Абрамовиц, М.; и Стегун, И.А.: Национальное бюро стандартов. Нью-Йорк, Нью-Йорк: Дувр. ISBN  978-0-486-61272-0.

внешняя ссылка

• "Нормальное распределение", Энциклопедия математики, EMS Press, 2001 [1994]
• Калькулятор нормального распределения, Более мощный калькулятор