Comment construire un exemple de distribution de probabilité pour laquelle est valable, en supposant que ?
L'inégalité qui découle de l'inégalité de Jensen pour un RV valeur positive est comme (l'inégalité inverse si ). En effet, le mappage est convexe pour et concave pour . En suivant la condition d'égalité dans l'inégalité de Jensen, je suppose que la distribution doit être dégénérée pour que l'égalité requise soit maintenue. Un cas trivial où l'égalité tient est bien sûr si ae Voici un exemple que j'ai trouvé dans un livre de problèmes: Considérons une variable aléatoire discrète telle que . Il est ensuite facile de vérifier que .
Cet exemple montre que n'a pas besoin d'être positif (ou négatif) ae pour que l'égalité dans le titre soit valable. La distribution ici n'est pas non plus dégénérée.
Comment puis-je construire un exemple, peut-être comme celui que j'ai trouvé dans le livre? Y a-t-il une motivation?
Réponses:
Construisons tous les exemples possibles de variables aléatoires pour lesquelles . Ensuite, parmi eux, nous pouvons suivre quelques heuristiques pour obtenir l' exemple le plus simple possible. Ces heuristiques consistent à donner les valeurs les plus simples possibles à toutes les expressions qui sortent d'une analyse préliminaire. Cela s'avère être l'exemple du manuel.E [ X ] E [ 1 / X ] = 1X E[X]E[1/X]=1
Analyse préliminaire
Cela nécessite seulement un peu d'analyse basée sur les définitions. La solution n'a qu'un intérêt secondaire: l'objectif principal est de développer des idées pour nous aider à comprendre intuitivement les résultats.
Observons d'abord que l'inégalité de Jensen (ou l'inégalité de Cauchy-Schwarz) implique que pour une variable aléatoire positive , , avec égalité si et seulement si est "dégénéré": que est, est presque sûrement constant. Lorsque est une variable aléatoire négative, est positif et le résultat précédent tient avec le signe d'inégalité inversé. Par conséquent, tout exemple où doit avoir une probabilité positive d'être négative et une probabilité positive d'être positive.E [ X ] E [ 1 / X ] ≥ 1 X X X - X E [ 1 / X ] = 1 / E [ X ]X E[X]E[1/X]≥1 X X X −X E[1/X]=1/E[X]
L'idée ici est que tout avec doit en quelque sorte «équilibrer» l'inégalité de sa partie positive contre l'inégalité dans l'autre sens de sa partie négative. Cela deviendra plus clair au fur et à mesure.E [ X ] E [ 1 / X ] = 1X E[X]E[1/X]=1
Considérons une variable aléatoire non nulle . Une première étape dans la formulation d'une définition de l'attente (au moins lorsque cela est fait en généralité en utilisant la théorie des mesures) consiste à décomposer en ses parties positives et négatives, qui sont toutes deux des variables aléatoires positives:XX X
Imaginons comme un mélange de de poids et de poids où Il est évident Cela nous permettra d'écrire les attentes de et en fonction des attentes des variables positives et .Y p - Z 1 - p p = Pr ( X > 0 ) , 1 - p = Pr ( X < 0 ) . 0 < p < 1. X 1 / XX Y p −Z 1−p
Pour simplifier un peu l'algèbre à venir, notez que le redimensionnement uniforme de par un nombre ne change pas mais il multiplie et chacun par . Pour positif , cela revient simplement à sélectionner les unités de mesure de . Un négatif commute les rôles de et . En choisissant le signe de manière appropriée, nous pouvons donc supposer queσ E [ X ] E [ 1 / X ] E [X σ E[X]E[1/X] E [ Z ] σ σ X σ Y Z σ E [ Z ] = 1 et E [ Y ] ≥ E [ ZE[Y] E[Z] σ σ X σ Y Z σ
Notation
Voilà pour les simplifications préliminaires. Pour créer une jolie notation, écrivons donc
pour les trois attentes que nous ne pouvons pas contrôler. Les trois quantités sont positives. L'inégalité de Jensen affirme
La loi de probabilité totale exprime les attentes de et en termes de quantités que nous avons nommées:1 / XX 1/X
et comme a le même signe que ,X1/X X
L'égalisation du produit de ces deux expressions avec fournit une relation essentielle entre les variables:1
Reformulation du problème
Supposons que les parties de - et --existe - t des variables aléatoires positives (dégénérées ou non). Cela détermine et . Quand peut-on trouver , avec , pour lequel est valable?Y Z μ , ν , λ p 0 < p < 1 ( ∗ )X Y Z μ,ν, λ p 0<p<1 (∗)
Cette articule clairement le « équilibre » aperçu précédemment déclaré que vaguement: nous allons tenir et fixe et l' espoir de trouver une valeur de qui concilie de façon appropriée leurs contributions par rapport à . Bien qu'il ne soit pas immédiatement évident qu'un tel besoin existe, ce qui est clair, c'est qu'il ne dépend que des moments , , et . Le problème est ainsi réduit à une algèbre relativement simple - toute l'analyse des variables aléatoires est terminée.Y p X p E [ Y ] E [ 1 / Y ] E [ Z ] E [ 1 / Z ]Z p X p E[Y] E[1/Y] E[Z] E[1/Z]
Solution
Ce problème algébrique n'est pas trop difficile à résoudre, car est au pire une équation quadratique pour et les inégalités gouvernantes et sont relativement simples. En effet, nous indique que le produit de ses racines et estp ( 1 ) ( 2 ) ( ∗ ) p 1 p 2(∗) p (1) (2) (∗) p1 p2
et la somme est
Par conséquent, les deux racines doivent être positives. De plus, leur moyenne est inférieure à , car1
(En faisant un peu d'algèbre, il n'est pas difficile de montrer que la plus grande des deux racines ne dépasse pas non plus.)1
Un théorème
Voici ce que nous avons trouvé:
Cela nous donne en effet un riche ensemble d'exemples!
Construire l'exemple le plus simple possible
Après avoir caractérisé tous les exemples, procédons à la construction d'un exemple aussi simple que possible.
Pour la partie négative , choisissons une variable dégénéréeZ - le type de variable aléatoire le plus simple. Il sera mis à l'échelle pour prendre sa valeur , d'où . La solution de inclut , la réduisant à une équation linéaire facilement résolue: la seule racine positive est1 λ=1 (∗) p1=0
Pour la partie positive , nous n'obtenons rien d'utile si est dégénéré, nous allons donc lui donner une probabilité à seulement deux valeurs positives distinctes , disons .Y Y a<b Pr(X=b)=q Dans ce cas, la définition de l'attente donne
Pour rendre cela encore plus simple, rendons et identiques:Y 1/Y cela force et . Maintenantq=1−q=1/2 a=1/b
La solution simplifie(3)
Comment faire en sorte que cela implique des chiffres simples? Puisque et , nécessairement . Choisissons le nombre le plus simple supérieur à pour ; à savoir, . La formule précédente donne et notre candidat pour l'exemple le plus simple possible est donca<b ab=1 b>1 1 b b=2 p=4/(2+2+1/2)=8/9
C'est l'exemple même proposé dans le manuel.
la source
Comme vous l'avez mentionné, si est positif, alors ne se produit que lorsque est presque sûrement constant. Sinon, vous avez besoin de pour prendre des valeurs négatives et positives.X E(1/X)=1/E(X) X X
Pour construire un tel exemple, commencez par être aussi simple que possible. Supposons que prend deux valeurs, et , avec les probabilités et respectivement. Alors et Pour avoir nous avons besoin de qui se réorganise selon l'exigence Cela signifie que la seule solution possible doit avoir , ou , ou . Dans tous les cas, nous revenons au cas dégénéré: est constant.X a b p 1−p
Essayez ensuite: une distribution avec trois valeurs possibles. Ici, il y a beaucoup plus de choix. L'exemple que vous avez cité essaie un tel que ait la même distribution. Si nous savons que prend trois valeurs, cela doit être que l'une des valeurs est soit soit , et les deux autres doivent être et pour un choix de . Pour être précis, essayons , et . Alors Pour répondre à l'exigence nous demandons ouX 1/X X 1 −1 a 1/a a P(X=a)=P(X=1/a)=p P(X=−1)=1−2p
la source