Обобщенное распределение Дирихле - Generalized Dirichlet distribution

В статистика, то обобщенное распределение Дирихле (GD) является обобщением Распределение Дирихле с более общей ковариационной структурой и почти вдвое большим количеством параметров. Случайные переменные с распределением GD не полностью нейтральный .^[1]

Функция плотности ${displaystyle p_{1},ldots ,p_{k-1}}$ является

${displaystyle left[prod _{i=1}^{k-1}B(a_{i},b_{i})ight]^{-1}p_{k}^{b_{k-1}-1}prod _{i=1}^{k-1}left[p_{i}^{a_{i}-1}left(sum _{j=i}^{k}p_{j}ight)^{b_{i-1}-(a_{i}+b_{i})}ight]}$

где мы определяем ${displaystyle p_{k}=1-sum _{i=1}^{k-1}p_{i}}$. Здесь ${displaystyle B(x,y)}$ обозначает Бета-функция. Это сводится к стандартному распределению Дирихле, если ${displaystyle b_{i-1}=a_{i}+b_{i}}$ за ${displaystyle 2leqslant ileqslant k-1}$ (${displaystyle b_{0}}$ произвольно).

Например, если k = 4, то функция плотности ${displaystyle p_{1},p_{2},p_{3}}$ является

${displaystyle left[prod _{i=1}^{3}B(a_{i},b_{i})ight]^{-1}p_{1}^{a_{1}-1}p_{2}^{a_{2}-1}p_{3}^{a_{3}-1}p_{4}^{b_{3}-1}left(p_{2}+p_{3}+p_{4}ight)^{b_{1}-left(a_{2}+b_{2}ight)}left(p_{3}+p_{4}ight)^{b_{2}-left(a_{3}+b_{3}ight)}}$

куда ${displaystyle p_{1}+p_{2}+p_{3}<1}$ и ${displaystyle p_{4}=1-p_{1}-p_{2}-p_{3}}$.

Коннор и Мосиман определяют PDF так, как они это делали, по следующей причине. Определить случайные величины ${displaystyle z_{1},ldots ,z_{k-1}}$ с ${displaystyle z_{1}=p_{1},z_{2}=p_{2}/left(1-p_{1}ight),z_{3}=p_{3}/left(1-(p_{1}+p_{2})ight),ldots ,z_{i}=p_{i}/left(1-left(p_{1}+cdots +p_{i-1}ight)ight)}$. потом ${displaystyle p_{1},ldots ,p_{k}}$ имеют обобщенное распределение Дирихле, как параметризованное выше, если ${displaystyle z_{i}}$ независимы бета с параметрами ${displaystyle a_{i},b_{i}}$, ${displaystyle i=1,ldots ,k-1}$.

Альтернативная форма, предоставленная Вонгом

Вонг ^[2] дает немного более сжатую форму для ${displaystyle x_{1}+cdots +x_{k}leqslant 1}$

${displaystyle prod _{i=1}^{k}{frac {x_{i}^{alpha _{i}-1}left(1-x_{1}-cdots -x_{i}ight)^{gamma _{i}}}{B(alpha _{i},eta _{i})}}}$

куда ${displaystyle gamma _{j}=eta _{j}-alpha _{j+1}-eta _{j+1}}$ за ${displaystyle 1leqslant jleqslant k-1}$ и ${displaystyle gamma _{k}=eta _{k}-1}$. Обратите внимание, что Вонг определяет распределение по ${displaystyle k}$ размерное пространство (неявно определяющее ${displaystyle x_{k+1}=1-sum _{i=1}^{k}x_{i}}$), а Коннор и Мосиман используют ${displaystyle k-1}$ пространственное пространство с ${displaystyle x_{k}=1-sum _{i=1}^{k-1}x_{i}}$.

Общая функция момента

Если ${displaystyle X=left(X_{1},ldots ,X_{k}ight)sim GD_{k}left(alpha _{1},ldots ,alpha _{k};eta _{1},ldots ,eta _{k}ight)}$, тогда

${displaystyle Eleft[X_{1}^{r_{1}}X_{2}^{r_{2}}cdots X_{k}^{r_{k}}ight]=prod _{j=1}^{k}{frac {Gamma left(alpha _{j}+eta _{j}ight)Gamma left(alpha _{j}+r_{j}ight)Gamma left(eta _{j}+delta _{j}ight)}{Gamma left(alpha _{j}ight)Gamma left(eta _{j}ight)Gamma left(alpha _{j}+eta _{j}+r_{j}+delta _{j}ight)}}}$

куда ${displaystyle delta _{j}=r_{j+1}+r_{j+2}+cdots +r_{k}}$ за ${displaystyle j=1,2,cdots ,k-1}$ и ${displaystyle delta _{k}=0}$. Таким образом

${displaystyle Eleft(X_{j}ight)={frac {alpha _{j}}{alpha _{j}+eta _{j}}}prod _{m=1}^{j-1}{frac {eta _{m}}{alpha _{m}+eta _{m}}}.}$

Приведение к стандартному распределению Дирихле

Как указано выше, если ${displaystyle b_{i-1}=a_{i}+b_{i}}$ за ${displaystyle 2leqslant ileqslant k}$ тогда распределение сводится к стандартному Дирихле. Это условие отличается от обычного случая, когда установка дополнительных параметров обобщенного распределения равными нулю приводит к исходному распределению. Однако в случае GDD это приводит к очень сложной функции плотности.

Байесовский анализ

Предполагать ${displaystyle X=left(X_{1},ldots ,X_{k}ight)sim GD_{k}left(alpha _{1},ldots ,alpha _{k};eta _{1},ldots ,eta _{k}ight)}$ является обобщенным Дирихле, и что ${displaystyle Ymid X}$ является полиномиальный с ${displaystyle n}$ испытания (здесь ${displaystyle Y=left(Y_{1},ldots ,Y_{k}ight)}$). Письмо ${displaystyle Y_{j}=y_{j}}$ за ${displaystyle 1leqslant jleqslant k}$ и ${displaystyle y_{k+1}=n-sum _{i=1}^{k}y_{i}}$ сустав задней части ${displaystyle X|Y}$ является обобщенным распределением Дирихле с

${displaystyle Xmid Ysim GD_{k}left({alpha '}_{1},ldots ,{alpha '}_{k};{eta '}_{1},ldots ,{eta '}_{k}ight)}$

куда ${displaystyle {alpha '}_{j}=alpha _{j}+y_{j}}$ и ${displaystyle {eta '}_{j}=eta _{j}+sum _{i=j+1}^{k+1}y_{i}}$ за ${displaystyle 1leqslant k.}$

Выборочный эксперимент

Вонг приводит следующую систему в качестве примера того, чем различаются распределения Дирихле и обобщенное распределение Дирихле. Он утверждает, что большая урна содержит шары ${displaystyle k+1}$ разные цвета. Доля каждого цвета неизвестна. Написать ${displaystyle X=(X_{1},ldots ,X_{k})}$ на пропорции шариков с цветом ${displaystyle j}$ в урне.

Эксперимент 1. Аналитик 1 считает, что ${displaystyle Xsim D(alpha _{1},ldots ,alpha _{k},alpha _{k+1})}$ (т.е. ${displaystyle X}$ - Дирихле с параметрами ${displaystyle alpha _{i}}$). Затем аналитик делает ${displaystyle k+1}$ стеклянные ящики и кладет ${displaystyle alpha _{i}}$ цветные шарики ${displaystyle i}$ в коробке ${displaystyle i}$ (предполагается, что ${displaystyle alpha _{i}}$ целые числа ${displaystyle geq 1}$). Затем аналитик 1 вытаскивает шар из урны, наблюдает за его цветом (например, цвет ${displaystyle j}$) и кладет в коробку ${displaystyle j}$. Он может определить правильную коробку, потому что она прозрачна и цвет шариков внутри виден. Процесс продолжается до тех пор, пока ${displaystyle n}$ шары выпали. Тогда апостериорным распределением будет Дирихле с параметрами, являющимися количеством шариков в каждом поле.

Эксперимент 2. Аналитик 2 считает, что ${displaystyle X}$ следует обобщенному распределению Дирихле: ${displaystyle Xsim GD(alpha _{1},ldots ,alpha _{k};eta _{1},ldots ,eta _{k})}$. Все параметры снова считаются положительными целыми числами. Аналитик делает ${displaystyle k+1}$ деревянные коробки. Ящики имеют две области: одну для мячей и одну для шариков. Шарики окрашены, но шарики не окрашены. Тогда для ${displaystyle j=1,ldots ,k}$, он кладет ${displaystyle alpha _{j}}$ шары цвета ${displaystyle j}$, и ${displaystyle eta _{j}}$ шарики, в коробку ${displaystyle j}$. Затем он кладет цветной шар ${displaystyle k+1}$ в коробке ${displaystyle k+1}$. Затем аналитик вытаскивает мяч из урны. Поскольку ящики деревянные, аналитик не может сказать, в какой ящик положить мяч (как он мог в эксперименте 1 выше); у него также плохая память и он не может вспомнить, в какой коробке какие цветные шары. Он должен определить, в какой из ящиков правильно положить мяч. Он делает это, открывая ящик 1 и сравнивая находящиеся в нем шары с вытянутым. Если цвета различаются, коробка не та. Аналитик кладет шарик (sic) в коробку 1 и переходит к коробке 2. Он повторяет процесс до тех пор, пока шары в коробке не совпадут с нарисованным шаром, после чего он кладет шарик (sic) в коробку с другими шарами соответствующий цвет. Затем аналитик вытаскивает из урны еще один шар и повторяет до тех пор, пока ${displaystyle n}$ выпадают шары. Затем апостериор обобщается Дирихле с параметрами ${displaystyle alpha }$ количество шаров, и ${displaystyle eta }$ количество шариков в каждой коробке.

Обратите внимание, что в эксперименте 2 изменение порядка ящиков имеет нетривиальный эффект, в отличие от эксперимента 1.

Смотрите также

• Дирихле-полиномиальное распределение
• Теорема Лукача о пропорционально-сумме независимости

Рекомендации

1. Р. Дж. Коннор и Дж. Э. Мосиман 1969. Понятия независимости пропорций с обобщением распределения Дирихле. Журнал Американской статистической ассоциации, том 64, стр 194-206
2. Т.-Т. Вонг 1998. Обобщенное распределение Дирихле в байесовском анализе. Прикладная математика и вычисления, том 97, стр. 165-181