Показатели ошибки при проверке гипотез - Error exponents in hypothesis testing

В статистическая проверка гипотез, показатель ошибки процедуры проверки гипотез - это скорость, с которой вероятности Типа I и Типа II экспоненциально убывают с размером образца, используемого в тесте. Например, если вероятность ошибки ${\displaystyle P_{\mathrm {error} }}$ теста распадается как ${\displaystyle e^{-n\beta }}$, куда ${\displaystyle n}$ - размер выборки, показатель ошибки равен ${\displaystyle \beta }$.

Формально показатель ошибки теста определяется как предельное значение отношения отрицательного логарифма вероятности ошибки к размеру выборки для больших размеров выборки: ${\displaystyle \lim _{n\to \infty }{\frac {-\ln P_{\text{error}}}{n}}}$. Показатели ошибки для различных проверок гипотез вычисляются с использованием Теорема Санова и другие результаты теория больших отклонений.

Показатели ошибки при проверке бинарных гипотез

Рассмотрим задачу проверки бинарных гипотез, в которой наблюдения моделируются как независимые и одинаково распределенные случайные величины по каждой гипотезе. Позволять ${\displaystyle Y_{1},Y_{2},\ldots ,Y_{n}}$ обозначают наблюдения. Позволять ${\displaystyle f_{0}}$ обозначить функция плотности вероятности каждого наблюдения ${\displaystyle Y_{i}}$ при нулевой гипотезе ${\displaystyle H_{0}}$ и разреши ${\displaystyle f_{1}}$ обозначают функцию плотности вероятности каждого наблюдения ${\displaystyle Y_{i}}$ при альтернативной гипотезе ${\displaystyle H_{1}}$.

В этом случае есть два возможных события ошибки. Ошибка типа 1, также называемая ложный положительный результат, возникает, когда нулевая гипотеза верна и ошибочно отклоняется. Ошибка типа 2, также называемая ложноотрицательной, возникает, когда альтернативная гипотеза верна, а нулевая гипотеза не отклоняется. Обозначена вероятность ошибки 1-го типа. ${\displaystyle P(\mathrm {error} \mid H_{0})}$ а вероятность ошибки 2-го типа обозначена ${\displaystyle P(\mathrm {error} \mid H_{1})}$.

Оптимальная экспонента ошибки для тестирования Неймана – Пирсона

В системе Неймана – Пирсона^[1] версия бинарной проверки гипотез, интересует минимизация вероятности ошибки 2-го типа ${\displaystyle P({\text{error}}\mid H_{1})}$ при условии, что вероятность ошибки типа 1 ${\displaystyle P({\text{error}}\mid H_{0})}$ меньше или равен предварительно заданному уровню ${\displaystyle \alpha }$. В этой настройке оптимальной процедурой тестирования является критерий отношения правдоподобия.^[2] Кроме того, оптимальный тест гарантирует, что вероятность ошибки 2-го типа экспоненциально спадает с увеличением размера выборки. ${\displaystyle n}$ в соответствии с ${\displaystyle \lim _{n\to \infty }{\frac {-\ln P(\mathrm {error} \mid H_{1})}{n}}=D(f_{0}\parallel f_{1})}$.^[3] Показатель ошибки ${\displaystyle D(f_{0}\parallel f_{1})}$ это Дивергенция Кульбака – Лейблера между распределениями вероятностей наблюдений при двух гипотезах. Этот показатель также называют показателем леммы Чернова – Стейна.

Оптимальный показатель ошибки для средней вероятности ошибки при проверке байесовской гипотезы

в Байесовский Версия проверки бинарной гипотезы заинтересована в минимизации средней вероятности ошибки при обеих гипотезах, предполагая априорную вероятность появления каждой гипотезы. Позволять ${\displaystyle \pi _{0}}$ обозначают априорную вероятность гипотезы ${\displaystyle H_{0}}$. В этом случае средняя вероятность ошибки определяется выражением ${\displaystyle P_{\text{ave}}=\pi _{0}P({\text{error}}\mid H_{0})+(1-\pi _{0})P({\text{error}}\mid H_{1})}$. В этой настройке снова используется тест отношения правдоподобия.^[4] оптимальна, а оптимальная ошибка убывает как ${\displaystyle \lim _{n\to \infty }{\frac {-\ln P_{\text{ave}}}{n}}=C(f_{0},f_{1})}$ куда ${\displaystyle C(f_{0},f_{1})}$ представляет информацию Чернова между двумя распределениями, определенными как ${\displaystyle C(f_{0},f_{1})=\min _{\lambda \in [0,1]}\int (f_{0}(x))^{\lambda }(f_{1}(x))^{(1-\lambda )}\,dx.}$

Рекомендации

1. Нейман, Дж.; Пирсон, Э.С. (1933), «К вопросу о наиболее эффективных проверках статистических гипотез» (PDF), Философские труды Лондонского королевского общества A, 231 (694–706): 289–337, Bibcode:1933РСПТА.231..289Н, Дои:10.1098 / рста.1933.0009, JSTOR  91247
2. Леманн, Э.; Романо, Джозеф П. (2005). Проверка статистических гипотез (3-е изд.). Нью-Йорк: Спрингер. ISBN  978-0-387-98864-1.
3. Обложка, Томас М.; Томас, Джой А. (2006). Элементы теории информации (2-е изд.). Нью-Йорк: Wiley-Interscience.
4. Бедный, Х.В. (2010). Введение в обнаружение и оценку сигналов (2-е изд.). Нью-Йорк: Спрингер.