Распределение Радемахера - Rademacher distribution

Радемахер

Поддерживать	${\displaystyle k\in \{-1,1\}\,}$
PMF	${\displaystyle f(k)=\left\{{\begin{matrix}1/2&{\mbox{if }}k=-1,\\1/2&{\mbox{if }}k=+1,\\0&{\mbox{otherwise.}}\end{matrix}}\right.}$
CDF	${\displaystyle F(k)={\begin{cases}0,&k<-1\\1/2,&-1\leq k<1\\1,&k\geq 1\end{cases}}}$
Иметь в виду	${\displaystyle 0\,}$
Медиана	${\displaystyle 0\,}$
Режим	Нет данных
Дисперсия	${\displaystyle 1\,}$
Асимметрия	${\displaystyle 0\,}$
Бывший. эксцесс	${\displaystyle -2\,}$
Энтропия	${\displaystyle \ln(2)\,}$
MGF	${\displaystyle \cosh(t)\,}$
CF	${\displaystyle \cos(t)\,}$

В теория вероятности и статистика, то Распределение Радемахера (который назван в честь Ганс Радемахер ) это дискретное распределение вероятностей где случайное изменение Икс имеет 50% шанс быть +1 и 50% шанс быть -1.^[1]

А серии (то есть сумму) распределенных переменных Радемахера можно рассматривать как простую симметричную случайная прогулка где размер шага равен 1.

Математическая формулировка

В функция массы вероятности этого распределения

${\displaystyle f(k)=\left\{{\begin{matrix}1/2&{\mbox{if }}k=-1,\\1/2&{\mbox{if }}k=+1,\\0&{\mbox{otherwise.}}\end{matrix}}\right.}$

Что касается Дельта-функция Дирака, в качестве

${\displaystyle f(k)={\frac {1}{2}}\left(\delta \left(k-1\right)+\delta \left(k+1\right)\right).}$

Связь Ван Зуйлена

Ван Зуйлен доказал следующий результат.^[2]

Позволять Икс_я - набор независимых случайных величин, распределенных по Радемахеру. потом

${\displaystyle \Pr \left(\left|{\frac {\sum _{i=1}^{n}X_{i}}{\sqrt {n}}}\right|\leq 1\right)\geq 0.5.}$

Оценка точна и лучше, чем та, которая может быть получена из нормального распределения (приблизительно Pr> 0,31).

Границы сумм

Позволять {Икс_я} набор случайных величин с распределением Радемахера. Позволять {а_я} быть последовательностью действительных чисел. потом

${\displaystyle \Pr \left(\sum _{i}x_{i}a_{i}>t||a||_{2}\right)\leq e^{-{\frac {t^{2}}{2}}}}$

где ||а||₂ это Евклидова норма последовательности {а_я}, т > 0 - действительное число, а Pr (Z) - вероятность события Z.^[3]

Позволять Y = Σ Икс_яа_я и разреши Y быть почти наверняка сходящейся серии в Банахово пространство. Для т > 0 и s ≥ 1 имеем^[4]

${\displaystyle \Pr \left(||Y||>st\right)\leq \left[{\frac {1}{c}}\Pr(||Y||>t)\right]^{cs^{2}}}$

для некоторой постоянной c.

Позволять п быть положительным действительным числом. Тогда Неравенство Хинчина Говорит, что^[5]

${\displaystyle c_{1}\left[\sum {\left|a_{i}\right|^{2}}\right]^{\frac {1}{2}}\leq \left(E\left[\left|\sum {a_{i}x_{i}}\right|^{p}\right]\right)^{\frac {1}{p}}\leq c_{2}\left[\sum {\left|a_{i}\right|^{2}}\right]^{\frac {1}{2}}}$

куда c₁ и c₂ константы зависят только от п.

За п ≥ 1,

${\displaystyle c_{2}\leq c_{1}{\sqrt {p}}.}$

Смотрите также: Неравенство концентраций - сводка хвостовых границ случайных величин.

Приложения

Распределение Радемахера использовалось в самонастройка.

Распределение Радемахера можно использовать, чтобы показать, что нормально распределенные и некоррелированные не подразумевают независимых.

Случайные векторы с компонентами, выбранными независимо от распределения Радемахера, полезны для различных стохастические приближения, Например:

• В Оценщик следа Хатчинсона,^[6] который можно использовать для эффективной аппроксимации след из матрица элементы которого не доступны напрямую, а скорее неявно определены через произведение матрица-вектор.
• SPSA, дешевое в вычислительном отношении приближение стохастического градиента без производных, полезное для численная оптимизация.

Случайные величины Радемахера используются в Неравенство симметризации.

Связанные дистрибутивы

• Распределение Бернулли: Если Икс имеет распределение Радемахера, то ${\displaystyle {\frac {X+1}{2}}}$ имеет распределение Бернулли (1/2).
• Распределение Лапласа: Если Икс имеет распределение Радемахера и Y ~ Exp (λ), то XY ~ Лаплас (0, 1 / λ).

Рекомендации

1. Hitczenko, P .; Квапень, С. (1994). «О серии Радемахера». Вероятность в банаховых пространствах. Прогресс в вероятности. 35. С. 31–36. Дои:10.1007/978-1-4612-0253-0_2. ISBN  978-1-4612-6682-2.
2. ван Зуйлен, Мартьен К. А. (2011). «О гипотезе о сумме независимых случайных величин Радемахера». arXiv:1112.4988. Bibcode:2011arXiv1112.4988V.
3. Монтгомери-Смит, С. Дж. (1990). «Распределение сумм Радемахера». Proc Amer Math Soc. 109 (2): 517–522. Дои:10.1090 / S0002-9939-1990-1013975-0.
4. Дилворт, С. Дж .; Монтгомери-Смит, С. Дж. (1993). «Распределение векторнозначных рядов Радмахера». Энн Пробаб. 21 (4): 2046–2052. arXiv:математика / 9206201. Дои:10.1214 / aop / 1176989010. JSTOR  2244710. S2CID  15159626.
5. Хинчин, А. (1923). "Über dyadische Brüche". Математика. Z. 18 (1): 109–116. Дои:10.1007 / BF01192399. S2CID  119840766.
6. Avron, H .; Толедо, С. (2011). «Рандомизированные алгоритмы оценки следа неявной симметричной положительно полуопределенной матрицы». Журнал ACM. 58 (2): 8. CiteSeerX  10.1.1.380.9436. Дои:10.1145/1944345.1944349. S2CID  5827717.