Les bayésiens acceptent-ils les axiomes de Kolmogorov?

Habituellement, la théorie des probabilités est enseignée avec les axiomes de Kolgomorov. Les bayésiens acceptent-ils également les axiomes de Kolmogorov?

probability bayesian kolmogorov-axioms Manuscrit
la source

La théorie bayésienne découle des axiomes standard de probabilité, donc des axiomes de Kolmogorov.

Xi'an

@ Xi'an: Que les degrés subjectifs de croyance peuvent être représentés par la probabilité n'est pas si évident - d'où la question, et le travail de Ramsey & de Finetti.

Scortchi - Réintégrer Monica

C'est pourquoi je suis un bayésien "objectif" et je commence par des distributions antérieures définies selon les normes de la théorie des probabilités ...

Xi'an

Je crois que l'interprétation de la probabilité par Cox-Jaynes fournit une base rigoureuse pour la probabilité bayésienne. (voir ma réponse). Cependant, ce serait bien d'avoir l'avis de Xi'an à ce sujet.

Sommet du

@Summit: merci mais j'ai bien peur de ne pas être très intéressé par la question ...!

Xi'an

Réponses:

À mon avis, l'interprétation de la probabilité par Cox-Jaynes fournit une base rigoureuse pour la probabilité bayésienne:

Cox, Richard T. "Probabilité, fréquence et attente raisonnable." Journal américain de physique 14.1 (1946): 1-13.
Jaynes, Edwin T. Théorie des probabilités: la logique de la science. Cambridge University Press, 2003.
Beck, James L. "Identification du système bayésien basé sur la logique des probabilités." Contrôle structurel et surveillance de la santé 17.7 (2010): 825-847.

Les axiomes de la logique de probabilité dérivée par Cox sont:

(P1): (par convention) $\Pr[b|a]\ge0$
(P2): (fonction de négation) $\Pr[\overline{b}|a]=1-\Pr[b|a]$
(P3): (fonction de conjonction) $\Pr[b\cap c|a]=\Pr[c|b\cap a]\Pr[b|a]$

Les axiomes P1-P3 impliquent ce qui suit (Beck, James L. "Identification du système bayésien basé sur la logique des probabilités." Contrôle structurel et surveillance de la santé 17.7 (2010): 825-847):

(P4): a) ; b) ; c) $\Pr[b|b\cap c] = 1$ $\Pr[\overline{b}|b\cap c] = 0$ $\Pr[b|c]\in[0,1]$
(P5): a) , b) , où signifie que est contenu dans , et signifie que est équivalent à . $\Pr[a|c \cap (a \Rightarrow b)]\le\Pr[b|c\cap(a \Rightarrow b)]$ $\Pr[a|c\cap(a \Leftrightarrow b)] = \Pr[b|c\cap(a \Leftrightarrow b)]$ $a \Rightarrow b$ $a$ $c$ $a \Leftrightarrow b$ $a$ $b$
(P6): $\Pr[a \cup b|c] = \Pr[a|c]+\Pr[b|c]-\Pr[a\cap b|c]$
(P7): En supposant que la proposition indique qu'une et une seule des propositions est vraie, alors: b 1 , … , b N
- a) Théorème de marginalisation: $\Pr[a|c]=\sum_{n=1}^N P[a \cap b_n|c]$
- b) Théorème de probabilité totale: $\Pr[a|c] = \sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]$
- c) Théorème de Bayes: Pour : $k=1,\ldots,N$ $\Pr[b_k|a\cap c] = \frac{\Pr[a|b_k\cap c]\Pr[b_k|c]}{\sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]}$

Ils impliquent la déclaration de logique de Kolmogorov, qui peut être considérée comme un cas spécial.

Dans mon interprétation d'un point de vue bayésien, tout est toujours (implicitement) conditionné à nos croyances et à nos connaissances.

La comparaison suivante est tirée de Beck (2010): Identification du système bayésien basée sur la logique des probabilités

Le point de vue bayésien

La probabilité est une mesure de plausibilité d'une déclaration basée sur des informations spécifiées.

Les distributions de probabilité représentent des états de connaissances plausibles sur les systèmes et les phénomènes, et non leurs propriétés inhérentes.
La probabilité d'un modèle est une mesure de sa plausibilité par rapport aux autres modèles d'un ensemble.
Quantifie de façon pragmatique l'incertitude due aux informations manquantes sans prétendre que cela est dû au caractère aléatoire inhérent à la nature.

Le point de vue fréquentiste

La probabilité est la fréquence relative d'occurrence d'un événement intrinsèquement aléatoire à long terme .

Les distributions de probabilité sont des propriétés inhérentes aux phénomènes aléatoires.
Portée limitée, par exemple aucune signification pour la probabilité d'un modèle.
Le caractère aléatoire inhérent est supposé, mais ne peut pas être prouvé.

Comment dériver les axiomes de Kolmogorov des axiomes ci-dessus

Dans ce qui suit, la section 2.2 de [Beck, James L. "Identification du système bayésien basé sur la logique des probabilités." Contrôle structurel et surveillance de la santé 17.7 (2010): 825-847.] Est résumé:

Dans ce qui suit, nous utilisons: mesure de probabilité sur le sous-ensemble d'un ensemble fini : $\Pr(A)$ $A$ $X$

[K1]: $\Pr(A)\ge 0, \forall A \subset X$
[K2]: $\Pr(X) = 1$
[K3]: if and are disjoint. $\Pr(A\cup B)=\Pr(A)+\Pr(B), \forall A,B \subset X$ $A$ $B$

Afin de dériver (K1-K3) des axiomes de la théorie des probabilités, [Beck, 2010] a introduit la proposition qui énonce et spécifie le modèle de probabilité pour . [Beck, 2010] introduit en outre . $\pi$ $x\in X$ $x$ $\Pr(A) = \Pr[x\in A|\pi]$

P1 implique K1 avec et $b=\{x\in A\}$ $c=\pi$
K2 découle de ; P4 (a), et stipule que . $\Pr[x\in X|\pi]=1$ $\pi$ $x\in X$
K3 peut être dérivé de P6: et sont disjoints signifie que et s'excluent mutuellement. Par conséquent, K3: $A$ $B$ $x\in A$ $x\in B$ $\Pr(x\in A\cup B|\pi)=\Pr(x\in A|\pi)+\Pr(x\in B|\pi)$

Sommet
la source

Depuis votre K3, vous pouvez accéder à (additivité finie) mais pas au 3e axiome de Kolmogorov, (additivité dénombrable) lorsque les sont des éléments d'un champ , et pas simplement des sous-ensembles d'un ensemble fini.

Pr (\cup_{i = 1}^{n} A_{i}) = \sum_{i = 1}^{n} Pr (A_{i})

$\Pr(\cup_{i=1}^n A_i)=\sum_{i=1}^n\Pr(A_i)$

Pr (\cup_{i = 1}^{\infty} A_{i}) = \sum_{i = 1}^{\infty} Pr (A_{i})

$\Pr(\cup_{i=1}^\infty A_i)=\sum_{i=1}^\infty\Pr(A_i)$

A

$A$

σ

$\sigma$

Scortchi - Réintégrer Monica

@Scortchi KRKoch dans son introduction aux statistiques bayésiennes cite Bernardo et Smith (1994), Bayesian Theory, p. 105, comme une source qui montre comment adresser l'infini dénombrable. Je ne l'ai pas vérifié, mais comme référence, il peut tout aussi bien être donné ici.

gwr

Après le développement de la théorie des probabilités, il a été nécessaire de montrer que des concepts plus souples répondant au nom de "probabilité" se mesuraient au concept rigoureusement défini qu'ils avaient inspiré. Les probabilités bayésiennes "subjectives" ont été examinées par Ramsey et de Finetti, qui ont montré indépendamment qu'une quantification du degré de croyance soumis aux contraintes de comparabilité et de cohérence (vos croyances sont cohérentes si personne ne peut faire un livre néerlandais contre vous) doit être une probabilité.

Les différences entre les axiomatisations sont en grande partie une question de goût concernant ce qui devrait être ce qui est défini et ce qui en dérive. Mais l'additivité dénombrable est l'une de celles de Kolmogorov qui ne peut pas être dérivée de celle de Cox ou de Finetti, et a été controversée. Certains bayésiens (par exemple de Finetti et Savage) s'arrêtent à une additivité finie et n'acceptent donc pas tous les axiomes de Kolmogorov. Ils peuvent mettre des distributions de probabilité uniformes sur des intervalles infinis sans irrégularité. D'autres suivent Villegas en assumant également la continuité monotone, et en tirent une additivité dénombrable.

Ramsey (1926), "Vérité et probabilité", dans Ramsey (1931), Les fondements des mathématiques et autres essais logiques

de Finetti (1931), "Sul significato soggettivo della probabilità", Fundamenta Mathematicæ , 17 , pp 298 - 329

Villegas (1964), "Sur la probabilité qualitative algèbres", Ann. Math. Statist. , 35 , 4. $\sigma$

Scortchi - Réintégrer Monica
la source

Pourquoi ma réponse ne devrait-elle traiter que des probabilités «objectives bayésiennes»? Le travail fondateur de Cox (1946) aborde explicitement la question de la subjectivité! C'est un document très intéressant - et facile à lire. Je ne pense pas qu'il soit logique de distinguer entre les probabilités bayésiennes «subjectives» et «objectives»: tout est toujours implicitement conditionné à la personne effectuant l'analyse -> et à cet égard «subjectif».

Sommet du

concernant la dérivation des axiomes, a déclaré Kolmogorov à partir de Cox: Je suis satisfait de la façon dont cela se fait dans la section 2.2 de Beck, James L. «Identification du système bayésien basée sur la logique des probabilités». Contrôle structurel et surveillance de la santé 17.7 (2010): 825-847.

Sommet du

@Summit: (1) Vous avez raison; c'est plutôt que la vision dispositionnelle de la probabilité de Ramsey & de Finetti les place carrément dans le camp "subjectif", alors que celle de Cox est plus généralement applicable. (2) Voulez-vous dire que l'additivité dénombrable peut être déduite des postulats de Cox?

Scortchi - Réintégrer Monica

J'ai étendu ma réponse et j'attends vos commentaires avec impatience.

Sommet du

@Summit: Merci - j'espère trouver le temps de rendre le mien encore à moitié aussi approfondi. J'ai souligné l'écart entre l'endroit où vous pouvez vous rendre du théorème de Cox et les axiomes de Kolmogorov "complets" et je pense que cela est particulièrement pertinent pour la question (même si je l'avais complètement oublié lorsque j'ai répondu pour la première fois). Jaynes avait des choses intéressantes à dire sur ce BTW.

Scortchi - Réintégrer Monica