Теорема Кокса - Coxs theorem

Теорема Кокса, названный в честь физика Ричард Трелкельд Кокс, является выводом законов теория вероятности из определенного набора постулаты. Этот вывод оправдывает так называемую «логическую» интерпретацию вероятности, поскольку законы вероятности, полученные с помощью теоремы Кокса, применимы к любому утверждению. Логическая (также известная как объективный байесовский) вероятность - это тип Байесовская вероятность. Другие формы байесовства, такие как субъективная интерпретация, получают другие обоснования.

Предположения Кокса

Кокс хотел, чтобы его система удовлетворяла следующим условиям:

Делимость и сопоставимость - правдоподобие предложение является действительным числом и зависит от информации, имеющейся у нас в отношении предложения.
Здравый смысл - правдоподобия должны разумно варьироваться в зависимости от оценки правдоподобия в модели.
Последовательность - если правдоподобность предложения может быть получена разными способами, все результаты должны быть одинаковыми.

Постулаты, изложенные здесь, взяты из Арнборга и Шёдина.^[1]^[2]^[3]"Здравый смысл "включает в себя соответствие аристотелевской логика в том смысле, что логически эквивалентные предложения должны иметь одинаковую правдоподобность.

Постулаты, первоначально сформулированные Коксом, не были математически строгими (хотя и лучше, чем неформальное описание выше), например, как отмечал Халперн.^[4]^[5] Однако представляется возможным дополнить их различными математическими предположениями, сделанными Коксом явно или неявно, чтобы получить достоверное доказательство.

Обозначение Кокса:

Правдоподобность предложения

{ displaystyle A}

учитывая некоторую связанную информацию

{ displaystyle X}

обозначается

{ displaystyle A mid X}

.

Постулаты и функциональные уравнения Кокса:

Правдоподобность соединение ${ displaystyle AB}$ двух предложений ${ displaystyle A}$ , ${ displaystyle B}$ , учитывая некоторую связанную информацию ${ displaystyle X}$ , определяется правдоподобием ${ displaystyle A}$ данный ${ displaystyle X}$ и что из ${ displaystyle B}$ данный ${ displaystyle AX}$ .

В виде функциональное уравнение

{ Displaystyle AB середина X = г (A середина X, B середина AX)}

Из-за ассоциативного характера конъюнкции в логике высказываний согласованность с логикой дает функциональное уравнение, говорящее, что функция

{ displaystyle g}

является ассоциативный бинарная операция.

Кроме того, Кокс постулирует функцию ${ displaystyle g}$ быть монотонный.

Все строго возрастающие ассоциативные бинарные операции над действительными числами изоморфны умножению чисел в подынтервал из

[0, +\infty]

, что означает наличие монотонной функции

{ displaystyle w}

сопоставление вероятностей с

[0, +\infty]

такой, что

{ Displaystyle вес (AB середина X) = вес (A середина X) вес (B середина AX)}

В случае ${ displaystyle A}$ данный ${ displaystyle X}$ уверен, у нас есть ${ displaystyle AB mid X = B mid X}$ и ${ Displaystyle A mid BX = A mid X}$ из-за требования последовательности. Тогда общее уравнение приводит к

{ Displaystyle вес (В середина X) = вес (А середина X) вес (В середина X)}

Это верно для любого предложения

{ displaystyle B}

, что приводит к

{ Displaystyle ш (А середина X) = 1}

В случае ${ displaystyle A}$ данный ${ displaystyle X}$ невозможно, у нас есть ${ Displaystyle AB mid X = A mid X}$ и ${ Displaystyle A mid BX = A mid X}$ из-за требования последовательности. Тогда общее уравнение приводит к

{ Displaystyle вес (A середина X) = вес (A середина X) вес (B середина X)}

Это верно для любого предложения

{ displaystyle B}

, что без ограничения общности приводит к решению

{ Displaystyle ш (А середина X) = 0}

Из-за требования монотонности это означает, что

{ displaystyle w}

отображает вероятности на интервал

[0, 1]

.

Правдоподобность предложения определяет правдоподобность предложения. отрицание.

Это постулирует существование функции

{ displaystyle f}

такой, что

{ Displaystyle ш ({ текст {not}} А середина Х) = е (ш (А середина Х))}

Поскольку «двойное отрицание - утвердительное», согласованность с логикой дает функциональное уравнение

{ Displaystyle е (е (х)) = х,}

говоря, что функция

{ displaystyle f}

является инволюция, т. е. это собственное обратное.

Кроме того, Кокс постулирует функцию ${ displaystyle f}$ быть монотонным.

Из приведенных выше функциональных уравнений и логики следует, что

{ Displaystyle вес (AB середина X) = вес (A середина X) е (вес ({ текст {not}} B середина AX)) = вес (A середина X) е влево ({ш ( A { text {not}} B mid X) over w (A mid X)} right)}

С

{ displaystyle AB}

логически эквивалентен

{ displaystyle BA}

, мы также получаем

{ Displaystyle ш (A середина X) е влево ({ш (A { текст {not}} В середина X) над ш (A середина X)} вправо) = ш (В середина X ) f left ({w (B { text {not}} A mid X) over w (B mid X)} right)}

Если, в частности,

{ displaystyle B = { text {not}} (AD)}

, то также

{ displaystyle A { text {not}} B = { text {not}} B}

и

{ displaystyle B { text {not}} A = { text {not}} A}

и мы получаем

{ Displaystyle ш (A { текст {not}} B mid X) = w ({ text {not}} B mid X) = f (w (B mid X))}

и

{ Displaystyle вес (В { текст {not}} A mid X) = вес ({ text {not}} A mid X) = f (w (A mid X))}

Сокращение

{ Displaystyle ш (А середина X) = х}

и

{ Displaystyle ш (В середина X) = у}

получаем функциональное уравнение

{ Displaystyle х , е влево ({е (у) над х} вправо) = у , е влево ({е (х) над у} вправо)}

Последствия постулатов Кокса

Законы вероятности, вытекающие из этих постулатов, следующие.^[6] Позволять ${ displaystyle A mid B}$ быть правдоподобием предложения ${ displaystyle A}$ данный ${ displaystyle B}$ удовлетворяющие постулатам Кокса. Тогда есть функция ${ displaystyle w}$ отображение вероятностей на интервал [0,1] и положительное число ${ displaystyle m}$ такой, что

Уверенность представлена ${ Displaystyle ш (А середина В) = 1.}$
${ displaystyle w ^ {m} (A | B) + w ^ {m} ({ text {not}} A mid B) = 1.}$
${ Displaystyle вес (AB середина C) = вес (A середина C) вес (B середина AC) = вес (B середина C) ш (A середина BC).}$

Важно отметить, что постулаты подразумевают только эти общие свойства. Мы можем восстановить обычные законы вероятности, задав новую функцию, условно обозначаемую ${ displaystyle P}$ или же ${ displaystyle Pr}$ , равно ${ displaystyle w ^ {m}}$ . Тогда мы получаем законы вероятности в более привычной форме:

Определенная правда представлена ${ Displaystyle Pr (А середина В) = 1}$ , и определенная ложь ${ Displaystyle Pr (A середина B) = 0.}$
${ displaystyle Pr (A mid B) + Pr ({ text {not}} A mid B) = 1.}$
${ displaystyle Pr (AB mid C) = Pr (A mid C) Pr (B mid AC) = Pr (B mid C) Pr (A mid BC).}$

Правило 2 - это правило отрицания, а правило 3 - правило соединения. Учитывая, что любое предложение, содержащее конъюнкцию, дизъюнкция, а отрицание может быть эквивалентно перефразировано, используя только соединение и отрицание ( конъюнктивная нормальная форма ), теперь мы можем обрабатывать любое сложное предложение.

Полученные таким образом законы дают конечная аддитивность вероятности, но не счетная аддитивность. В Теоретико-мерная формулировка Колмогорова предполагает, что мера вероятности счетно аддитивна. Это чуть более сильное условие необходимо для доказательства некоторых теорем.^{[нужна цитата ]}

Интерпретация и дальнейшее обсуждение

Теорема Кокса стала использоваться как одна из оправдания для использования Байесовская теория вероятностей. Например, у Джейнса^[6] он подробно обсуждается в главах 1 и 2 и является краеугольным камнем остальной части книги. Вероятность интерпретируется как формальная система излогика, естественное продолжение Аристотелевская логика (в котором каждое утверждение либо истинно, либо ложно) в область рассуждений в присутствии неопределенности.

Обсуждается, в какой степени теорема исключает альтернативные модели для рассуждений о неуверенность. Например, если были отброшены некоторые «неинтуитивные» математические предположения, можно было бы разработать альтернативы, например, пример, предоставленный Халперном.^[4] Однако Арнборг и Шёдин^[1]^[2]^[3] предложить дополнительные постулаты «здравого смысла», которые позволили бы в некоторых случаях смягчить допущения, при этом исключая пример Халперна. Другие подходы были разработаны Харди^[7] или Дюпре и Типлер.^[8]

Оригинальная формулировка теоремы Кокса находится в Кокс (1946) который расширен дополнительными результатами и более подробным обсуждением в Кокс (1961). Джейнс^[6] цитирует Авеля^[9] за первое известное использование функционального уравнения ассоциативности. Aczél^[10] предоставляет длинное доказательство «уравнения ассоциативности» (страницы 256-267). Джейнс^[6]^:27 воспроизводит более короткое доказательство Кокса, в котором предполагается дифференцируемость. Справочник Ван Хорна по теореме Кокса призван всесторонне познакомить читателя со всеми этими ссылками.^[11]

Смотрите также

Рекомендации

^ ^а ^б Стефан Арнборг и Гуннар Шёдин, Об основах байесианства, Препринт: Нада, КТН (1999) - ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/06arnborg.ps — ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/06arnborg.pdf
^ ^а ^б Стефан Арнборг и Гуннар Шёдин, Заметка об основах байесианства, Препринт: Нада, КТН (2000а) - ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobshle.ps — ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobshle.pdf
^ ^а ^б Стефан Арнборг и Гуннар Шёдин, «Правила Байеса в конечных моделях», в Европейская конференция по искусственному интеллекту, Берлин, (2000b) - ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobc1.ps — ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobc1.pdf
^ ^а ^б Джозеф Ю. Халперн, «Контрпример к теоремам Кокса и Файна», Журнал исследований ИИ, 10, 67–85 (1999) — http://www.jair.org/media/536/live-536-2054-jair.ps.Z В архиве 2015-11-25 на Wayback Machine
^ Джозеф Ю. Халперн, "Техническое приложение, повторение теоремы Кокса", Журнал исследований ИИ, 11, 429–435 (1999) — http://www.jair.org/media/644/live-644-1840-jair.ps.Z В архиве 2015-11-25 на Wayback Machine
^ ^а ^б ^c ^d Эдвин Томпсон Джейнс, Теория вероятностей: логика науки, Издательство Кембриджского университета (2003). - препринт (1996 г.) в «Архивная копия». Архивировано из оригинал на 2016-01-19. Получено 2016-01-19.CS1 maint: заархивированная копия как заголовок (связь); Главы с 1 по 3 опубликованной версии на http://bayes.wustl.edu/etj/prob/book.pdf
^ Майкл Харди, "Масштабированные булевы алгебры", Успехи в прикладной математике, Август 2002 г., страницы 243–292 (или препринт ); Харди сказал: «Я утверждаю, что считаю предположения Кокса слишком сильными, хотя я не говорю, почему. Я говорю, чем бы я их заменил». (Цитата взята со страницы обсуждения Википедии, а не из статьи.)
^ Дюпре, Морис Дж. И Типлер, Фрэнк Дж. (2009). «Новые аксиомы строгой байесовской вероятности», Байесовский анализ, 4(3): 599-606.
^ Нильс Хенрик Абель "Untersuchung der Functionen zweier unabhängig veränderlichen Gröszen Икс унд у, wie ж(Икс, у), welche die Eigenschaft haben, dasz ж[z, ж(Икс,у)] eine symrische Function von z, Икс унд у ист. ", Jour. Reine u. Angew. Математика. (Crelle's Jour.), 1, 11–15, (1826).
^ Янош Акзель, Лекции по функциональным уравнениям и их приложениям, Academic Press, Нью-Йорк, (1966).
^ Ван Хорн, К. С. (2003). «Построение логики правдоподобного вывода: руководство к теореме Кокса». Международный журнал приблизительных рассуждений. 34: 3–24. Дои:10.1016 / S0888-613X (03) 00051-3.

Кокс, Р. Т. (1946). «Вероятность, частота и разумные ожидания». Американский журнал физики. 14: 1–10. Дои:10.1119/1.1990764.
Кокс, Р. Т. (1961). Алгебра вероятного вывода. Балтимор, Мэриленд: Издательство Университета Джона Хопкинса.
Терренс Л. Файн, Теории вероятностей; Экспертиза фундаментов, Академик Пресс, Нью-Йорк, (1973).

[AS1999-1] а ^б Стефан Арнборг и Гуннар Шёдин, Об основах байесианства, Препринт: Нада, КТН (1999) - ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/06arnborg.ps — ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/06arnborg.pdf

[AS2000a-2] а ^б Стефан Арнборг и Гуннар Шёдин, Заметка об основах байесианства, Препринт: Нада, КТН (2000а) - ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobshle.ps — ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobshle.pdf

[AS2000b-3] а ^б Стефан Арнборг и Гуннар Шёдин, «Правила Байеса в конечных моделях», в Европейская конференция по искусственному интеллекту, Берлин, (2000b) - ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobc1.ps — ftp://ftp.nada.kth.se/pub/documents/Theory/Stefan-Arnborg/fobc1.pdf

[H99a-4] а ^б Джозеф Ю. Халперн, «Контрпример к теоремам Кокса и Файна», Журнал исследований ИИ, 10, 67–85 (1999) — http://www.jair.org/media/536/live-536-2054-jair.ps.Z В архиве 2015-11-25 на Wayback Machine

[H99b-5] Джозеф Ю. Халперн, "Техническое приложение, повторение теоремы Кокса", Журнал исследований ИИ, 11, 429–435 (1999) — http://www.jair.org/media/644/live-644-1840-jair.ps.Z В архиве 2015-11-25 на Wayback Machine

[Jaynes2003-6] а ^б ^c ^d Эдвин Томпсон Джейнс, Теория вероятностей: логика науки, Издательство Кембриджского университета (2003). - препринт (1996 г.) в «Архивная копия». Архивировано из оригинал на 2016-01-19. Получено 2016-01-19.CS1 maint: заархивированная копия как заголовок (связь); Главы с 1 по 3 опубликованной версии на http://bayes.wustl.edu/etj/prob/book.pdf

[7] Майкл Харди, "Масштабированные булевы алгебры", Успехи в прикладной математике, Август 2002 г., страницы 243–292 (или препринт ); Харди сказал: «Я утверждаю, что считаю предположения Кокса слишком сильными, хотя я не говорю, почему. Я говорю, чем бы я их заменил». (Цитата взята со страницы обсуждения Википедии, а не из статьи.)

[rbp-8] Дюпре, Морис Дж. И Типлер, Фрэнк Дж. (2009). «Новые аксиомы строгой байесовской вероятности», Байесовский анализ, 4(3): 599-606.

[9] Нильс Хенрик Абель "Untersuchung der Functionen zweier unabhängig veränderlichen Gröszen Икс унд у, wie ж(Икс, у), welche die Eigenschaft haben, dasz ж[z, ж(Икс,у)] eine symrische Function von z, Икс унд у ист. ", Jour. Reine u. Angew. Математика. (Crelle's Jour.), 1, 11–15, (1826).

[10] Янош Акзель, Лекции по функциональным уравнениям и их приложениям, Academic Press, Нью-Йорк, (1966).

[11] Ван Хорн, К. С. (2003). «Построение логики правдоподобного вывода: руководство к теореме Кокса». Международный журнал приблизительных рассуждений. 34: 3–24. Дои:10.1016 / S0888-613X (03) 00051-3.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

[11]