Марковское ядро - Markov kernel

В теория вероятности, а Марковское ядро (также известный как стохастическое ядро или же ядро вероятности) - отображение, которое в общей теории Марковские процессы, играет роль матрица перехода в теории марковских процессов с конечный пространство состояний.^[1]

Формальное определение

Позволять ${\displaystyle (X,{\mathcal {A}})}$ и ${\displaystyle (Y,{\mathcal {B}})}$ быть измеримые пространства. А Марковское ядро с источником ${\displaystyle (X,{\mathcal {A}})}$ и цель ${\displaystyle (Y,{\mathcal {B}})}$ это карта ${\displaystyle \kappa :{\mathcal {B}}\times X\to [0,1]}$ со следующими свойствами:

1. Для каждого (фиксированного) ${\displaystyle B\in {\mathcal {B}}}$, карта ${\displaystyle x\mapsto \kappa (B,x)}$ является ${\displaystyle {\mathcal {A}}}$-измеримый
2. Для каждого (фиксированного) ${\displaystyle x\in X}$, карта ${\displaystyle B\mapsto \kappa (B,x)}$ это вероятностная мера на ${\displaystyle (Y,{\mathcal {B}})}$

Другими словами, он ассоциируется с каждой точкой ${\displaystyle x\in X}$ а вероятностная мера ${\displaystyle \kappa (dy|x):B\mapsto \kappa (B,x)}$ на ${\displaystyle (Y,{\mathcal {B}})}$ такое, что для каждого измеримого множества ${\displaystyle B\in {\mathcal {B}}}$, карта ${\displaystyle x\mapsto \kappa (B,x)}$ измерима относительно ${\displaystyle \sigma }$-алгебра ${\displaystyle {\mathcal {A}}.}$^[2].

Примеры

Простое случайное блуждание на целых числах

Брать ${\displaystyle X=Y=\mathbb {Z} }$, и ${\displaystyle {\mathcal {A}}={\mathcal {B}}={\mathcal {P}}(\mathbb {Z} )}$ (в набор мощности из ${\displaystyle \mathbb {Z} }$). Тогда марковское ядро ​​полностью определяется вероятностью, которую оно приписывает одноэлементному множеству ${\displaystyle \{m\}}$ с ${\displaystyle m\in Y=\mathbb {Z} }$ для каждого ${\displaystyle n\in X=\mathbb {Z} }$:

${\displaystyle \kappa (B|n)=\sum _{m\in B}\kappa (\{m\}|n),\qquad \forall n\in \mathbb {Z} ,\,\forall B\in {\mathcal {B}}}$.

Теперь случайное блуждание ${\displaystyle \kappa }$ что с вероятностью идет вправо ${\displaystyle p}$ и влево с вероятностью ${\displaystyle 1-p}$ определяется

${\displaystyle \kappa (\{m\}|n)=p\delta _{m,n+1}+(1-p)\delta _{m,n-1},\quad \forall n,m\in \mathbb {Z} }$

куда ${\displaystyle \delta }$ это Дельта Кронекера. Вероятности перехода ${\displaystyle P(m|n)=\kappa (\{m\}|n)}$ для случайного блуждания эквивалентны марковскому ядру.

Общий Марковские процессы со счетным пространством состояний

В более общем плане возьмите ${\displaystyle X}$ и ${\displaystyle Y}$ как счетные, так и ${\displaystyle {\mathcal {A}}={\mathcal {P}}(X),\ {\mathcal {B}}={\mathcal {P}}(Y)}$. Опять же, марковское ядро ​​определяется вероятностью, которую оно присваивает одноэлементным множествам для каждого ${\displaystyle i\in X}$

${\displaystyle \kappa (B|i)=\sum _{j\in B}\kappa (\{j\}|i),\qquad \forall i\in X,\,\forall B\in {\mathcal {B}}}$,

Мы определяем марковский процесс, определяя вероятность перехода ${\displaystyle P(j|i)=K_{ji}}$ где числа ${\displaystyle K_{ji}}$ определить (счетный) стохастическая матрица ${\displaystyle (K_{ji})}$ т.е.

${\displaystyle {\begin{aligned}K_{ji}&\geq 0,\qquad &\forall (j,i)\in Y\times X,\\\sum _{j\in Y}K_{ji}&=1,\qquad &\forall i\in X.\\\end{aligned}}}$

Затем мы определяем

${\displaystyle \kappa (\{j\}|i)=K_{ji}=P(j|i),\qquad \forall i\in X,\quad \forall B\in {\mathcal {B}}}$.

Снова вероятность перехода, стохастическая матрица и марковское ядро ​​эквивалентны переформулировкам.

Марковское ядро, определяемое функцией ядра и мерой

Позволять ${\displaystyle \nu }$ быть мера на ${\displaystyle (Y,{\mathcal {B}})}$, и ${\displaystyle k:Y\times X\to [0,\infty ]}$ а измеримая функция с уважением к товар ${\displaystyle \sigma }$-алгебра ${\displaystyle {\mathcal {A}}\otimes {\mathcal {B}}}$ такой, что

${\displaystyle \int _{Y}k(y,x)\nu (\mathrm {d} y)=1,\qquad \forall x\in X}$,

тогда ${\displaystyle \kappa (dy|x)=k(y,x)\nu (dy)}$ то есть отображение

${\displaystyle {\begin{cases}\kappa :{\mathcal {B}}\times X\to [0,1]\\\kappa (B|x)=\int _{B}k(y,x)\nu (\mathrm {d} y)\end{cases}}}$

определяет марковское ядро.^[3]. Этот пример обобщает пример счетного марковского процесса, где ${\displaystyle \nu }$ был счетная мера. Кроме того, он включает другие важные примеры, такие как ядра свертки, в частности ядра Маркова, определенные уравнением теплопроводности. Последний пример включает Гауссово ядро на ${\displaystyle X=Y=\mathbb {R} }$ с ${\displaystyle \nu (dx)=dx}$ стандартная мера Лебега и

${\displaystyle k_{t}(y,x)={\frac {1}{{\sqrt {2\pi }}t}}e^{-(y-x)^{2}/(2t^{2})}}$.

Измеримые функции

Брать ${\displaystyle (X,{\mathcal {A}})}$ и ${\displaystyle (Y,{\mathcal {B}})}$ произвольные измеримые пространства, и пусть ${\displaystyle f:X\to Y}$ - измеримая функция. Теперь определим ${\displaystyle \kappa (dy|x)=\delta _{f(x)}(dy)}$ т.е.

${\displaystyle \kappa (B|x)=\mathbf {1} _{B}(f(x))=\mathbf {1} _{f^{-1}(B)}(x)={\begin{cases}1&{\text{if }}f(x)\in B\\0&{\text{otherwise}}\end{cases}}}$ для всех ${\displaystyle B\in {\mathcal {B}}}$.

Обратите внимание, что функция индикатора ${\displaystyle \mathbf {1} _{f^{-1}(B)}}$ является ${\displaystyle {\mathcal {A}}}$-измеримый для всех ${\displaystyle B\in {\mathcal {B}}}$ если только ${\displaystyle f}$ измеримо.

Этот пример позволяет нам думать о марковском ядре как об обобщенной функции со (в общем случае) случайным, а не определенным значением.

Процесс Гальтона – Ватсона

В качестве менее очевидного примера возьмем ${\displaystyle X=\mathbb {N} ,{\mathcal {A}}={\mathcal {P}}(\mathbb {N} )}$, и ${\displaystyle (Y,{\mathcal {B}})}$ реальные числа ${\displaystyle \mathbb {R} }$ со стандартной сигма-алгеброй Наборы Бореля. потом

${\displaystyle \kappa (B|n)={\begin{cases}\mathbf {1} _{B}(0)&n=0\\\Pr(\xi _{1}+\cdots +\xi _{x}\in B)&n\neq 0\\\end{cases}}}$

с i.i.d. случайные переменные ${\displaystyle \xi _{i}}$ (обычно со средним 0) и где ${\displaystyle \mathbf {1} _{B}}$ - индикаторная функция. Для простого случая монета подбрасывает это моделирует различные уровни Доска гальтона.

Состав марковских ядер и марковская категория.

Учитывая измеримые пространства ${\displaystyle (X,{\mathcal {A}})}$, ${\displaystyle (Y,{\mathcal {B}})}$ и ${\displaystyle (Z,{\mathcal {C}})}$, и вероятностные ядра ${\displaystyle \kappa :X\to Y}$ и ${\displaystyle \lambda :Y\to Z}$, мы можем определить композицию ${\displaystyle \lambda \circ \kappa :X\to Z}$ к

${\displaystyle (\lambda \circ \kappa )(dz|x)=\int _{Y}\lambda (dz|y)\kappa (dy|x)}$

Композиция ассоциативна по Теорема Тонелли и тождественная функция, рассматриваемая как марковское ядро ​​(т.е. дельта-мера ${\displaystyle \kappa _{1}(dx'|x)=\delta _{x}(dx')}$ единица для этой композиции.

Эта композиция определяет структуру категория на измеримых пространствах с марковскими ядрами как морфизмами, впервые определенными Ловером^[4]. Категория имеет пустой набор в качестве начального объекта и набор из одной точки. ${\displaystyle *}$ как конечный объект.

Пространство вероятностей, определяемое распределением вероятностей и марковским ядром

Вероятностная мера на измеримом пространстве ${\displaystyle (X,{\mathcal {A}})}$ это то же самое, что и морфизм ${\displaystyle *\to X}$ в марковской категории также обозначается ${\displaystyle P}$. По составу вероятностное пространство ${\displaystyle (X,{\mathcal {A}},P_{X})}$ и вероятностное ядро ${\displaystyle \kappa :(X,{\mathcal {A}})\to (Y,{\mathcal {B}})}$ определяет вероятностное пространство ${\displaystyle (Y,{\mathcal {B}},P_{Y}=\kappa \circ P_{X})}$. Это конкретно определяется

${\displaystyle P_{Y}(B)=\int _{X}\int _{B}\kappa (dy|x)P_{X}(dx)=\int _{X}\kappa (B|x)P_{X}(dx)=\mathbb {E} _{P_{X}}\kappa (B|\cdot )}$

Характеристики

Полупрямой продукт

Позволять ${\displaystyle (X,{\mathcal {A}},P)}$ быть вероятностным пространством и ${\displaystyle \kappa }$ Марковское ядро ​​из ${\displaystyle (X,{\mathcal {A}})}$ некоторым ${\displaystyle (Y,{\mathcal {B}})}$. Тогда существует единственная мера ${\displaystyle Q}$ на ${\displaystyle (X\times Y,{\mathcal {A}}\otimes {\mathcal {B}})}$, такое, что:

${\displaystyle Q(A\times B)=\int _{A}\kappa (B|x)\,P(dx),\quad \forall A\in {\mathcal {A}},\quad \forall B\in {\mathcal {B}}.}$

Обычное условное распределение

Позволять ${\displaystyle (S,Y)}$ быть Борелевское пространство, ${\displaystyle X}$ а ${\displaystyle (S,Y)}$-значная случайная величина на пространстве мер ${\displaystyle (\Omega ,{\mathcal {F}},P)}$ и ${\displaystyle {\mathcal {G}}\subseteq {\mathcal {F}}}$ суб-${\displaystyle \sigma }$-алгебра. Тогда существует марковское ядро ${\displaystyle \kappa }$ из ${\displaystyle (\Omega ,{\mathcal {G}})}$ к ${\displaystyle (S,Y)}$, так что ${\displaystyle \kappa (\cdot ,B)}$ это версия условное ожидание ${\displaystyle \mathbb {E} [\mathbf {1} _{\{X\in B\}}\mid {\mathcal {G}}]}$ для каждого ${\displaystyle B\in Y}$, т.е.

${\displaystyle P(X\in B\mid {\mathcal {G}})=\mathbb {E} \left[\mathbf {1} _{\{X\in B\}}\mid {\mathcal {G}}\right]=\kappa (\omega ,B),\qquad P{\text{-a.s.}}\,\,\forall B\in {\mathcal {G}}.}$

Это называется регулярным условным распределением ${\displaystyle X}$ данный ${\displaystyle {\mathcal {G}}}$ и не определен однозначно.

Обобщения

Ядра перехода обобщить марковские ядра в том смысле, что для всех ${\displaystyle x\in X}$, карта

${\displaystyle B\mapsto \kappa (B|x)}$

может быть любой (неотрицательной) мерой, не обязательно вероятностной.

Рекомендации

1. Рейсс, Р. Д. (1993). «Курс точечных процессов». Серии Спрингера в статистике. Дои:10.1007/978-1-4613-9308-5. ISBN  978-1-4613-9310-8.
2. Кленке, Ахим. Теория вероятностей: всеобъемлющий курс (2-е изд.). Springer. п. 180. Дои:10.1007/978-1-4471-5361-0.
3. Эрхан, Цинлар (2011). Вероятность и стохастика. Нью-Йорк: Спрингер. С. 37–38. ISBN  978-0-387-87858-4.
4. Ф. В. Лавер (1962). «Категория вероятностных отображений» (PDF).

• Бауэр, Хайнц (1996), Теория вероятности, де Грюйтер, ISBN  3-11-013935-9

§36. Ядра и полугруппы ядер