Принцип трансформации групп - Principle of transformation groups

В принцип трансформации групп это правило назначения эпистемический вероятности в задаче статистического вывода. Впервые это было предложено Эдвин Т. Джейнс ^[1] и может рассматриваться как обобщение принцип безразличия.

Это можно рассматривать как метод создания вероятности объективного незнания в том смысле, что два человека, которые применяют принцип и сталкиваются с одной и той же информацией, присваивают одинаковые вероятности.

Мотивация и описание метода

Метод мотивирован следующим нормативным принципом, или желанием:

В двух задачах, где у нас одинаковая априорная информация, мы должны назначить одинаковые априорные вероятности.

Таким образом, метод возникает из «преобразования» данной проблемы в эквивалентную. Этот метод имеет тесные связи с теория групп, и в значительной степени касается поиска симметрии в данной проблеме, а затем использования этой симметрии для определения априорных вероятностей.

В задачах с дискретными переменными (например, игральные кости, карты, категориальные данные) принцип сводится к следующему: принцип безразличия, поскольку «симметрия» в дискретном случае - это перестановка меток, то есть группа перестановок является соответствующей группой преобразований для этой проблемы.

В задачах с непрерывными переменными этот метод обычно сводится к решению дифференциальное уравнение. Учитывая, что дифференциальные уравнения не всегда приводят к уникальным решениям, нельзя гарантировать, что этот метод даст уникальное решение. Однако в большом классе наиболее распространенных типов параметров это действительно приводит к уникальным решениям (см. Примеры ниже)

Примеры

Дискретный футляр - подбрасывание монеты

Рассмотрим задачу, в которой все, что вам говорят, это то, что есть монета с головой (H) и хвостом (T). Обозначьте эту информацию как я. Затем вас спрашивают: «Какова вероятность выпадения орлов?». Назовите это проблема 1 и обозначим вероятность P (H | I). Рассмотрим еще один вопрос «какова вероятность выпадения решки?». Назовите это проблема 2 и обозначим эту вероятность через P (T | I).

Судя по информации, которая была фактически в вопросе, нет различия между орлом и решкой. Весь предыдущий абзац можно было бы переписать, поменяв местами «головы» и «решки», поменяв местами «H» и «T», и формулировка проблемы не изменилась бы. Затем использование желаемого требует, чтобы

${\displaystyle P(H|I)=P(T|I)}$

Вероятности должны складываться с 1, это означает, что

${\displaystyle P(H|I)+P(T|I)=1\rightarrow 2P(H|I)=1\rightarrow P(H|I)=0.5}$.

Таким образом, у нас есть уникальное решение. Этот аргумент легко расширяется до N категории, чтобы дать "плоскую" априорную вероятность 1 / N.Это обеспечивает последовательность аргумент, основанный на принципе безразличия, который гласит: если кто-то действительно не осведомлен о дискретном / исчисляемом наборе результатов помимо своего потенциального существования, но не приписывает им равные априорные вероятности, то он присваивает разные вероятности, когда получает ту же информацию.

Альтернативно это можно сформулировать так: человек, который не использует принцип безразличия для присвоения априорных вероятностей дискретным переменным, либо не игнорирует их, либо рассуждает непоследовательно.

Непрерывный регистр - параметр местоположения

Это самый простой пример для непрерывных переменных. Он задается тем, что кто-то "не знает" о параметре местоположения в данной задаче. Утверждение, что параметр является «параметром местоположения», заключается в том, что распределение выборки или вероятность наблюдения Икс зависит от параметра ${\displaystyle \mu }$ только через разницу

${\displaystyle p(X|\mu ,I)=f(X-\mu )}$

для некоторого нормализованного, но в остальном произвольного распределения f (.).

Обратите внимание, что данная информация f (.) является ли нормализованное распределение важной предпосылкой для получения окончательного вывода о равномерном априорном распределении; потому что равномерные распределения вероятностей могут быть нормализованы только с учетом конечной входной области. Другими словами, предположение, что f (.) нормализовано, неявно также требует, чтобы параметр местоположения ${\displaystyle \mu }$ не простирается до бесконечности ни в одном из своих измерений. В противном случае униформа приора не подлежала бы нормализации.

Примеры параметров местоположения включают средний параметр нормальное распределение с известной дисперсией и медианным параметром Распределение Коши с известным межквартильным размахом.

Две «эквивалентные проблемы» в этом случае, если знать о распределении выборки ${\displaystyle p(X|\mu ,I)=f(X-\mu )}$, но никаких других знаний о ${\displaystyle \mu }$, просто дается "сдвигом" равной величины в Икс и ${\displaystyle \mu }$. Это из-за отношения:

${\displaystyle f(X-\mu )=f([X+b]-[\mu +b])=f(X^{(1)}-\mu ^{(1)})}$

Так что просто "сдвинув" все количества вверх на какое-то число б и решение в «смещенном пространстве» с последующим «переходом» обратно в исходное должно дать точно такой же ответ, как если бы мы только что работали с исходным пространством. Преобразование из ${\displaystyle \mu }$ к ${\displaystyle \mu ^{(1)}}$ имеет Якобиан просто 1, поэтому априорная вероятность ${\displaystyle g(\mu )=p(\mu |I)}$ должно удовлетворять функциональному уравнению:

${\displaystyle g(\mu )=\left|{\partial \mu ^{(1)} \over \partial \mu }\right|g(\mu ^{(1)})=g(\mu +b)}$

И единственная функция, которая удовлетворяет этому уравнению, - это «постоянный априор»:

${\displaystyle p(\mu |I)\propto 1}$

Таким образом, единообразное априорное распределение оправдано для выражения полного игнорирования нормализованного априорного распределения на конечном, непрерывном параметре местоположения.

Непрерывный случай - масштабный параметр

Как и в приведенном выше аргументе, утверждение, что ${\displaystyle \sigma }$ - масштабный параметр означает, что выборочное распределение имеет функциональную форму:

${\displaystyle p(X|\sigma ,I)={1 \over \sigma }f\left({X \over \sigma }\right)}$

Где, как раньше f (.) - нормированная функция плотности вероятности. Требование конечности и положительности вероятностей приводит к выполнению условия ${\displaystyle \sigma >0}$. Примеры включают стандартное отклонение нормального распределения с известным средним или гамма-распределение. «Симметрия» в этой задаче обнаруживается, если заметить, что

${\displaystyle {X \over \sigma }={Xa \over \sigma a};a>0}$

Но, в отличие от случая параметра местоположения, якобиан этого преобразования в пространстве выборок и пространстве параметров равен а, а не 1. так что вероятность выборки изменения к:

${\displaystyle p(X^{(1)}|\sigma ,I)={1 \over a}\cdot {1 \over \sigma }f\left({Xa \over \sigma a}\right)={1 \over \sigma ^{(1)}}f\left({X^{(1)} \over \sigma ^{(1)}}\right)}$

Которая инвариантна (т.е. имеет одинаковую форму до и после преобразования), а априорная вероятность изменяется на:

${\displaystyle p(\sigma |I)={1 \over a}p(\sigma ^{(1)}|I)={1 \over a}p\left({\sigma \over a}|I\right)}$

У которого есть единственное решение (с точностью до константы пропорциональности):

${\displaystyle p(\sigma |I)\propto {1 \over \sigma }\rightarrow p(\log(\sigma )|I)\propto 1}$

Какая известная Джеффрис приор для параметров масштаба, который является "плоским" в логарифмической шкале, хотя он выводится с использованием другого аргумента, чем здесь, на основе Информация Fisher функция. Тот факт, что эти два метода дают одинаковые результаты в этом случае, в целом не означает этого.

Непрерывный случай - парадокс Бертрана

Эдвин Джейнс использовал этот принцип, чтобы разрешить Парадокс Бертрана^[2]заявив о своем незнании точного положения круга. Подробности доступны в справочнике или по ссылке.

Обсуждение

Этот аргумент решающим образом зависит от я; изменение информации может привести к другому назначению вероятности. Это так же важно, как и изменение аксиомы в дедуктивная логика - небольшие изменения в информации могут привести к большим изменениям в присвоениях вероятностей, допускаемых «последовательным рассуждением».

Чтобы проиллюстрировать предположим, что в примере с подбрасыванием монеты также указывается как часть информации, что монета имеет сторону (S) (т.е. настоящая монета). Обозначьте эту новую информацию как N. Тот же аргумент с использованием «полного незнания», точнее, фактически описанной информации, дает:

${\displaystyle P(H|I,N)=P(T|I,N)=P(S|I,N)=1/3}$

Но большинству людей это кажется абсурдным - интуиция подсказывает нам, что мы должны иметь P (S) очень близким к нулю. Это потому, что интуиция большинства людей не видит «симметрии» между приземлением монеты на бок и приземлением на голову. Наша интуиция подсказывает, что конкретные «ярлыки» на самом деле несут некоторую информацию о проблеме. Можно использовать простой аргумент, чтобы сделать это более формальным математически (например, физика задачи затрудняет приземление подброшенной монеты на бок) - мы делаем различие между «толстыми» монетами и «тонкими» монетами [здесь толщина измеряется относительно диаметра монеты]. Можно было разумно предположить, что:

${\displaystyle P(S|{\text{thin coin}})\neq P(S|{\text{thick coin}})}$

Обратите внимание, что эта новая информация, вероятно, не нарушит симметрию между «орлом» и «решкой», поэтому это перестановка будет по-прежнему применяться при описании «эквивалентных проблем», и нам потребуется:

${\displaystyle P(T|{\text{thin coin}})=P(H|{\text{thin coin}})\neq P(H|{\text{thick coin}})=P(T|{\text{thick coin}})}$

Это хороший пример того, как можно использовать принцип групп трансформации для «конкретизации» личных мнений. Вся информация, использованная при выводе, явно указана. Если предварительное распределение вероятностей «не кажется правильным» в соответствии с тем, что подсказывает вам ваша интуиция, то должна быть некоторая «справочная информация», которая не была включена в проблему.^[3] Тогда задача состоит в том, чтобы попытаться выяснить, что это за информация. В некотором смысле, комбинируя метод трансформации групп с интуицией, можно «отсеять» существующие предположения. Это делает его очень мощным инструментом для предварительного извлечения информации.

Ввод толщины монеты в качестве переменной допустимо, потому что ее существование подразумевалось (будучи настоящей монетой), но ее стоимость не была указана в задаче. Введение «мешающего параметра» и последующее обеспечение инвариантности ответа к этому параметру - очень полезный метод для решения предположительно «некорректно поставленных» проблем, таких как парадокс Бертрана. Некоторые называют это «стратегией удачной позирования».^[4]

Настоящая сила этого принципа заключается в его применении к непрерывным параметрам, где понятие «полное незнание» не так хорошо определено, как в дискретном случае. Однако, если его применять с бесконечными пределами, он часто дает неподходящий предварительный раздачи. Обратите внимание, что дискретный случай для счетно бесконечного множества, такого как (0,1,2, ...), также дает неправильный дискретный априор. В большинстве случаев, когда вероятность достаточно «велика», это не представляет проблемы. Однако, чтобы быть абсолютно уверенным в том, чтобы избежать непоследовательных результатов и парадоксов, к предыдущему распределению следует подходить через четко определенный и хорошо управляемый процесс ограничения. Одним из таких процессов является использование последовательности априорных значений с увеличивающимся диапазоном, например ${\displaystyle f(M)={I(M\in [-b,b]) \over 2b}}$ где предел ${\displaystyle b\rightarrow \infty }$ должен быть взят в конце расчета т.е. после нормализации апостериорного распределения. По сути, это обеспечивает то, что каждый принимает предел отношения, а не отношения двух пределов. Видеть Предел функции # Свойства для получения подробной информации о лимитах и ​​почему важен этот порядок операций.

Если предел отношения не существует или расходится, то это дает неправильную апостериорную (то есть апостериорную, которая не интегрируется в единицу). Это указывает на то, что данные настолько неинформативны о параметрах, что априорная вероятность произвольно больших значений по-прежнему имеет значение в окончательном ответе. В некотором смысле неправильная апостериорная оценка означает, что информация, содержащаяся в данных, не «исключила» произвольно большие значения. Глядя с этой точки зрения на неправильные априорные значения, кажется, что имеет некоторый смысл, что априорные значения «полного незнания» должны быть неправильными, поскольку информация, используемая для их получения, настолько скудна, что сама по себе не может исключить абсурдные значения. Из состояния полного незнания такие нелепости могут исключить только данные или какая-то другая форма дополнительной информации.

Примечания

1. http://bayes.wustl.edu/etj/articles/prior.pdf
2. http://bayes.wustl.edu/etj/articles/well.pdf
3. http://bayes.wustl.edu/etj/articles/cmonkeys.pdf
4. Шакель, Николас (2007). «Парадокс Бертрана и принцип безразличия» (PDF). Философия науки. 74 (2): 150. Дои:10.1086/519028. JSTOR  519028.

Рекомендации

• Эдвин Томпсон Джейнс. Теория вероятностей: логика науки. Издательство Кембриджского университета, 2003. ISBN  0-521-59271-2.