Une probabilité postérieure peut-elle être> 1?

18

Dans la formule de Bayes:

P(x|a)=P(a|x)P(x)P(a)

la probabilité postérieure dépasser 1?P(x|a)

Je pense que c'est possible si, par exemple, en supposant que , et , et . Mais je ne suis pas sûr de cela, car qu'est-ce que cela signifierait pour une probabilité d'être supérieure à un?P ( a ) < P ( x ) < 1 P ( a ) / P ( x ) < P ( a | x ) < 10<P(a)<1P(a)<P(x)<1P(a)/P(x)<P(a|x)<1

Thomas Moore
la source
6
Il faut être précis dans la définition de la notation. On ne sait pas ce que représente. Si est (a) une distribution de probabilité (auquel cas et sont des ensembles) ou (b) une fonction de masse sur un espace discret, alors les réponses que vous avez déjà sont essentiellement correctes. Si est compris comme une fonction de densité, alors il n'est pas vrai que . La raison pour laquelle le trifouillage est que les trois types de fonctions satisfont à la règle de Bayes. La notation est généralement pour une distribution, mais l'utilisation de caractères minuscules pour les arguments suggère une densité. P ( ) a x P ( ) P ( x a ) 1 P ( )P()P()axP()P(xa)1P()
gars
2
P(xa)=P(x,a)P(a)P(a)P(a)=1, la probabilité postérieure ne peut donc pas dépasser1. (La densité postérieure est une question différente - de nombreuses distributions continues ont des densités supérieures à1pour certaines valeurs)
Henry
Si le postérieur calculé dépasse un, vous avez fait une erreur quelque part.
Emil M Friedman,
2
@EmilMFriedman, votre réponse est ambiguë (et, pour cette raison, potentiellement nuisible), car elle n'indique pas si elle se réfère à une probabilité ou densité
whuber
La barrière de l'unité dans la probabilité peut et a été brisée. Voir mon article sur stats.stackexchange.com/questions/4220/… .
Mark L. Stone

Réponses:

8

Les conditions supposées ne sont pas vérifiées - il ne peut jamais être vrai que par la définition de la probabilité conditionnelle :P(a)/P(x)<P(a|x)

P(a|x)=P(ax)/P(x)P(a)/P(x)

khol
la source
28

Non, il n'est pas possible que la probabilité postérieure dépasse un. Ce serait une violation de l'axiome normatif de la théorie des probabilités. En utilisant les règles de probabilité conditionnelle, vous devez avoir:

P(a|x)=P(a,x)P(x)P(a)P(x).

Cela signifie que vous ne pouvez pas avoir les conditions d'inégalité que vous avez spécifiées. (Soit dit en passant, c'est une bonne question: il est bon que vous sondiez les lois de probabilité à la recherche de problèmes. Cela montre que vous explorez ces questions avec plus de rigueur que la plupart des élèves.)

Un point supplémentaire: il convient de faire un point supplémentaire sur cette situation, qui concerne la priorité logique des différentes caractéristiques de probabilité. N'oubliez pas que la théorie des probabilités commence par un ensemble d'axiomes qui caractérisent ce qu'est réellement une mesure de probabilité. De ces axiomes, nous pouvons dériver des "règles de probabilité" qui sont des théorèmes dérivés des axiomes. Ces règles de probabilité doivent être cohérentes avec les axiomes pour être valides. Si vous avez déjà constaté qu'une règle de probabilité conduit à une contradiction avec l'un des axiomes (par exemple, la probabilité de l'espace d'échantillon est supérieure à un), cela ne fausserait pas l'axiome - cela fausserait la règle de probabilité . Par conséquent, même si tel était le cas, la règle de Bayes pourraitconduire à une probabilité postérieure supérieure à un (ce n'est pas le cas), cela ne signifie pas que vous pouvez avoir une probabilité postérieure supérieure à un; cela signifierait simplement que la règle de Bayes n'est pas une règle de probabilité valide.

Réintégrer Monica
la source
1
Le numérateur final doit-il être P (x)?
BallpointBen
Toujours montrant P (a) pour moi
BallpointBen
1
Il est censé être P (a) au numérateur. L'inégalité montre le PO qu'il ne peut pas avoir P (a | x)> P (a) / P (x) comme il l'a spécifié dans sa question.
Rétablir Monica
9

La formule de Bayes ne peut pas donner des valeurs pour dépassant . Une façon intuitive de voir cela est d'exprimer via la loi de probabilité totale comme donnant que qui montre que le numérateur n'est qu'un des termes de la somme du dénominateur, et donc la fraction ne peut pas dépasser en valeur.P(BA)=P(AB)P(B)P(A)P(BA)1P(A)

P(A)=P(AB)P(B)+P(ABc)P(Bc)
P(BA)=P(AB)P(B)P(A)=P(AB)P(B)P(AB)P(B)+P(ABc)P(Bc)
1
Dilip Sarwate
la source
+1 c'est la preuve la plus simple pour moi.
Mehrdad
@Mehrdad Merci. Les autres réponses prouvent essentiellement qu'une probabilité conditionnelle ne peut pas dépasser via le résultat que ne peut pas dépasser car et il doit donc être que , et ont peu de relations en soi avec la formule de Bayes (car elle est utilisée dans les statistiques pour dériver les probabilités postérieures des probabilités antérieures ). 1 P ( A B ) P ( B ) = P \ A B ) P ( A ) A B A P \ A B ) P ( A )P(BA)1P(AB)P(B)=P\AB)P(A)ABAP\AB)P(A)
Dilip Sarwate