Variable aléatoire uniforme comme somme de deux variables aléatoires

Extrait de Grimmet et Stirzaker :

Montrer qu'il ne peut pas être le cas où $U=X+Y$ où $U$ est uniformément distribué sur [0,1] et et sont indépendants et identiques. Vous ne devez pas supposer que X et Y sont des variables continues. $X$ $Y$

Une simple preuve de contradiction suffit pour le cas où , sont supposés discrets en arguant qu'il est toujours possible de trouver un et tels que tandis que . $X$ $Y$ $u$ $u'$ $P(U\leq u+u') \geq P(U\leq u)$ $P(X+Y \leq u) = P(X+Y \leq u+u')$

Cependant cette preuve ne s'étend pas à étant absolument continu ou singulier continu. Conseils / Commentaires / Critique? $X,Y$

probability random-variable continuous-data uniform proof droits
la source

Astuce : les fonctions caractéristiques sont vos amis.

Cardinal

X et Y sont iid donc leurs fonctions caractéristiques doivent être identiques. Cependant, vous devez utiliser la fonction caractéristique et non la fonction de génération de moment - le mgf n'est pas garanti pour X, donc montrer que le mgf a une propriété impossible ne signifie pas qu'il n'y a pas un tel X. Tous les VR ont une fonction caractéristique, donc si vous montrez qu'il a une propriété impossible, alors il n'y a pas de tel X.

Silverfish

Si les distributions de

X

$X$ et

Y

$Y$ ont des atomes , disons que

P {X = a} = P {Y = a} = b > 0

$P\{X=a\}=P\{Y=a\} = b > 0$ , alors

P {X + Y = 2 a} \geq b^{2} > 0

$P\{X+Y=2a\} \geq b^2 > 0$ et donc

X + Y

$X+Y$ ne peut pas être uniformément distribué sur

[0, 1]

$[0,1]$ . Ainsi, il n'est pas nécessaire de considérer le cas des distributions de

X

$X$ et

Y

$Y$ ayant des atomes.

Dilip Sarwate

Réponses:

Le résultat peut être prouvé par une image: les zones grises visibles montrent qu'une distribution uniforme ne peut pas être décomposée comme une somme de deux variables indépendantes identiquement distribuées.

Notation

Soit $X$ et $Y$ iid tels que $X+Y$ ait une distribution uniforme sur $[0,1]$ . Cela signifie que pour tout $0\le a \le b \le 1$ ,

Pr (a < X + Y \leq b) = b - a .

$\Pr(a < X+Y \le b) = b-a.$

Le support essentiel de la distribution commune des $X$ et $Y$ est donc $[0,1/2]$ (car autrement il y aurait une probabilité positive que $X+Y$ se situe en dehors de $[0,1]$ ).

L'image

Laissez $0 \lt \epsilon \lt 1/4$ . Contemplez ce diagramme montrant comment les sommes des variables aléatoires sont calculées:

La distribution de probabilité sous-jacente est celle conjointe pour . La probabilité de tout événement est donnée par la probabilité totale couverte par la bande diagonale s'étendant entre les lignes et . Trois de ces bandes sont représentées: de à , apparaissant comme un petit triangle bleu en bas à gauche; à partir de de $(X,Y)$ $a \lt X+Y \le b$ $x+y=a$ $x+y=b$ $0$ $\epsilon$ $1/2-\epsilon$ , représenté par un rectangle gris coiffé de deux triangles (jaune et vert); et de à , apparaissant comme un petit triangle rouge en haut à droite. $1/2+\epsilon$ $1-\epsilon$ $1$

Ce que l'image montre

En comparant le triangle inférieur gauche de la figure au carré inférieur gauche qui le contient et en exploitant l'hypothèse iid pour et , il est clair que $X$ $Y$

ϵ = Pr (X + Y \leq ϵ) < Pr (X \leq ϵ) Pr (Y \leq ϵ) = Pr (X \leq ϵ)^{2} .

$\epsilon = \Pr(X+Y \le \epsilon) \lt \Pr(X \le \epsilon)\Pr(Y \le \epsilon) = \Pr(X \le \epsilon)^2.$

Notez que l'inégalité est stricte: l'égalité n'est pas possible car il existe une probabilité positive que et soient inférieurs à mais néanmoins . $X$ $Y$ $\epsilon$ $X+Y \gt \epsilon$

De même, en comparant le triangle rouge au carré dans le coin supérieur droit,

ϵ = Pr (X + Y > 1 - ϵ) < Pr (X > 1 / 2 - ϵ)^{2} .

$\epsilon = \Pr(X+Y \gt 1-\epsilon) \lt \Pr(X \gt 1/2-\epsilon)^2.$

Enfin, la comparaison des deux triangles opposés en haut à gauche et en bas à droite avec la bande diagonale les contenant donne une autre inégalité stricte,

2 ϵ < 2 Pr (X \leq ϵ) Pr (X > 1 / 2 - ϵ) < Pr (1 / 2 - ϵ < X + Y \leq 1 / 2 + ϵ) = 2 ϵ .

$2\epsilon \lt 2 \Pr(X\le \epsilon)\Pr(X \gt 1/2-\epsilon) \lt \Pr(1/2-\epsilon \lt X+Y \le 1/2+\epsilon) = 2\epsilon.$

Les premiers ensuit d'inégalité des deux précédents (prennent leurs racines carrées et les multiplier) tandis que le second décrit le (strict) l' inclusion des triangles dans la bande et la dernière égalité exprime l'uniformité de . La conclusion que est la contradiction prouvant que de tels et ne peuvent pas exister, QED . $X+Y$ $2\epsilon \lt 2\epsilon$ $X$ $Y$

whuber
la source

(+1) J'aime cette approche. En récupérant mon dos d'une enveloppe dans la corbeille à papier, je peux voir que j'ai dessiné le même schéma, sauf que je n'ai pas marqué sur les triangles jaunes et verts à l'intérieur de la bande. J'ai obtenu les inégalités pour les triangles bleu et rouge. J'ai joué avec eux et quelques autres probabilités, mais je n'ai jamais pensé à enquêter sur la probabilité de la bande, ce qui s'avère être l'étape critique. Je me demande quel processus de réflexion a pu motiver cette idée?

Silverfish

En fait, où @whuber a des triangles jaunes et verts, j'ai dessiné sur des carrés (j'avais effectivement décomposé

dans une grille). En regardant l'étape qui "décrit le (strict) inclusion des triangles dans la bande",

[0, 0.5]^{2}

$[0, 0.5]^2$

2 Pr (X \leq ϵ) Pr (X > 1 / 2 - ϵ) < Pr (1 / 2 - ϵ < X + Y \leq 1 / 2 + ϵ)

$2 \Pr(X\le \epsilon)\Pr(X \gt 1/2-\epsilon) \lt \Pr(1/2-\epsilon \lt X+Y \le 1/2+\epsilon)$ , Je me demande si ce serait réellement plus géométriquement naturel avec des carrés coiffant la bande que des triangles?

Silverfish

@Silver m'a rappelé une analyse des sommes de distributions uniformes que j'ai publiées il y a quelques années. Cela a suggéré de visualiser la somme

géométriquement. Il était immédiatement évident que beaucoup de probabilité devait être concentrée près des coins

afin de la somme soit uniforme et probabilité relativement peu d'être près de la diagonale du centre

. Cela a conduit au diagramme que j'ai redessiné dans Mathematica.

X + Y

$X+Y$

(0, 0)

$(0,0)$

(1 / 2, 1 / 2)

$(1/2,1/2)$

X + Y = 1 / 2

$X+Y=1/2$ À ce stade, la réponse s'est écrite. Oui, l'utilisation de carrés dans la bande centrale peut être plus nette.

whuber

Merci! « Notez que l'inégalité est stricte: l' égalité est pas possible parce qu'il ya une probabilité positive que soit de

est inférieur à

mais néanmoins

. » Je ne suis pas sûr de suivre cela. Il me semble que le but ici est de montrer

, ne pas exiger une probabilité positive pour un événement

dans lequel les deux

X

$X$

Y

$Y$

ϵ

$\epsilon$

X + Y > ϵ

$X+Y \gt \epsilon$

Pr (X + Y \leq ϵ) < Pr (X \leq ϵ \cap Y \leq ϵ)

$\Pr(X+Y \le \epsilon) \lt \Pr(X \le \epsilon \cap Y \le \epsilon)$

A

$A$

X

$X$

est inférieur ou égal à

et pourtant

? C'est le "l'un des" vs "les deux" je hésite.

Y

$Y$

ϵ

$\epsilon$

X + Y > ϵ

$X + Y > \epsilon$

Silverfish

@Silverfish Merci; Je n'ai pas exprimé cela comme je l'avais prévu. Vous avez raison: le langage vise essentiellement à décrire la portion d'un petit carré qui n'est pas à l'intérieur du triangle.

whuber

J'ai essayé de trouver une preuve sans considérer les fonctions caractéristiques. Un excès de kurtosis fait l'affaire. Voici la réponse sur deux lignes: puisque et sont iid. Alors implique qui est une contradiction comme $\text{Kurt}(U) = \text{Kurt}(X + Y) = \text{Kurt}(X) / 2$ $X$ $Y$ $\text{Kurt}(U) = -1.2$ $\text{Kurt}(X) = -2.4$ pour toute variable aléatoire. $\text{Kurt}(X) \geq -2$

La ligne de raisonnement qui m'a amené à ce point est plus intéressante. (et ) doit être borné entre 0 et 0,5 - c'est évident, mais cela signifie que ses moments et ses moments centraux existent. Commençons par considérer la moyenne et la variance: et $X$ $Y$ $\mathbb{E}(U)=0.5$ . Sietsont distribués de manière identique, nous avons: $\text{Var}(U)=\frac{1}{12}$ $X$ $Y$

E (X + Y) = E (X) + E (Y) = 2 E (X) = 0.5

$\mathbb{E}(X + Y) = \mathbb{E}(X) + \mathbb{E}(Y) = 2 \mathbb{E}(X)= 0.5$

Donc . Pour la variance, nous devons également utiliser l'indépendance pour appliquer: $\mathbb{E}(X) = 0.25$

Var (X + Y) = Var (X) + Var (Y) = 2 Var (X) = \frac{1}{12}

$\text{Var}(X+Y) = \text{Var}(X) + \text{Var}(Y) = 2 \text{Var}(X) = \frac{1}{12}$

D'où et $\text{Var}(X) = \frac{1}{24}$ . Hou la la! C'est beaucoup de variation pour une variable aléatoire dont le support va de 0 à 0,5. Mais nous aurions dû nous en douter, puisque l'écart-type ne va pas évoluer de la même manière que la moyenne. $\sigma_X = \frac{1}{2\sqrt{6}} \approx 0.204$

Maintenant, quel est le plus grand écart-type qu'une variable aléatoire peut avoir si la plus petite valeur qu'elle peut prendre est 0, la plus grande valeur qu'elle peut prendre est 0,5 et la moyenne est 0,25? La collecte de toute la probabilité à deux masses ponctuelles sur les extrêmes, à 0,25 de la moyenne, donnerait clairement un écart-type de 0,25. Notre est donc grand mais pas impossible. (J'espérais montrer que cela impliquait trop de probabilité dans les queues pour que soit uniforme, mais je ne pouvais aller nulle part avec ça au dos d'une enveloppe.) $\sigma_X$ $X + Y$

Les considérations du deuxième moment imposent presque une contrainte impossible à alors considérons les moments supérieurs. Qu'en est-il du coefficient d'inclinaison du moment de Pearson , $X$ ? Cela existe puisque les moments centraux existent et. Il est utile de connaître certaines propriétés des cumulants, en particulier l'application d'une indépendance puis d'une distribution identique donne: $\gamma_1 = \frac{\mathbb{E}(X - \mu_X)^3}{\sigma_X^3} = \frac{\kappa_3}{\kappa_2^{3/2}}$ $\sigma_X \neq 0$

κ_{i} (U) = κ_{i} (X + Y) = κ_{i} (X) + κ_{i} (Y) = 2 κ_{i} (X)

$\kappa_i(U) = \kappa_i(X + Y) = \kappa_i(X) + \kappa_i(Y) = 2\kappa_i(X)$

This additivity property is precisely the generalisation of how we dealt with the mean and variance above - indeed, the first and second cumulants are just $\kappa_1 = \mu$ and $\kappa_2 = \sigma^2$ .

Then $\kappa_3(U) = 2\kappa_3(X)$ and $\big(\kappa_2(U)\big)^{3/2} = \big(2\kappa_2(X)\big)^{3/2} = 2^{3/2} \big(\kappa_2(X)\big)^{3/2}$ . The fraction for $\gamma_1$ cancels to yield $\text{Skew}(U) = \text{Skew}(X + Y) = \text{Skew}(X) / \sqrt{2}$ . Since the uniform distribution has zero skewness, so does $X$ , but I can't see how a contradiction arises from this restriction.

So instead, let's try the excess kurtosis, $\gamma_2 = \frac{\kappa_4}{\kappa_2^2} = \frac{\mathbb{E}(X - \mu_X)^4}{\sigma_X^4} - 3$ . By a similar argument (this question is self-study, so try it!), we can show this exists and obeys:

Kurt (U) = Kurt (X + Y) = Kurt (X) / 2

$\text{Kurt}(U) = \text{Kurt}(X + Y) = \text{Kurt}(X) / 2$

The uniform distribution has excess kurtosis $-1.2$ so we require $X$ to have excess kurtosis $-2.4$ . But the smallest possible excess kurtosis is $-2$ , which is achieved by the $\text{Binomial}(1, \frac{1}{2})$ Bernoulli distribution.

Silverfish
la source

(+1) This is a quite clever approach, which was new to me. Thanks. Note that some of your analysis could have been streamlined by considering a uniform centered at zero. (The equivalence of the problem is immediate.) That would have immediately told you that considering skew was a dead-end.

cardinal

@cardinal: I knew the skew was a dead-end before I worked on it. The purpose was expository: it's a self-study question so I didn't want to solve it in full! Rather I wanted to leave a hint on how to deal with the next level up...

Silverfish

@cardinal: I was in two minds whether to center or not. I did back-of-envelope calculations more conveniently, but in the final analysis we just need (1) a simple case of the general result that

K u r t (X_{1} + . . . + X_{n}) = \frac{1}{n} K u r t (X)

$Kurt(X_1 + ... + X_n) = \frac{1}{n}Kurt(X)$ for iid

X_{i}

$X_i$ , (2) that

K u r t (U) = - 1.2

$Kurt(U) = -1.2$ for any uniform distribution, and (3)

K u r t (X)

$Kurt(X)$ exists since

X

$X$ is bounded and

σ_{X} \neq 0

$\sigma_X \neq 0$ (which is trivial, else

σ_{U} = 0

$\sigma_U = 0$ ). So none of the key results actually required centering, though bits may have looked less ugly!

Silverfish

Yes, the word "streamlined" was carefully chosen. :-) I did not intend my comment to be read as criticism of your exposition. Cheers.

cardinal

@cardinal Incidentally, variance considerations alone almost worked, but the uniform isn't quite spread out enough. With a bit more probability mass nearer the extremes, e.g.

f_{T} (t) = 12 t^{2}

$f_T(t)=12t^2$ on [-0.5, 0.5], then

V a r (T) = .15

$Var(T)=.15$ and if

T = X_{1} + X_{2}

$T = X_1 + X_2$ then

σ_{X} = \sqrt{.15 / 2} \approx 0.27 > 0.25

$\sigma_X = \sqrt{.15/2} \approx 0.27 > 0.25$ which is impossible as

X

$X$ is bounded by -0.25 and 0.25. Of course, you will see immediately how this relates to the present example! I wonder if the approach generalises, I'm sure other bounded RVs can't be decomposed into sums but require even higher moments investigated to find the contradiction.

Silverfish