Quand la loi des grands nombres échoue-t-elle?

13

La question est simplement ce qui est énoncé dans le titre: quand la loi des grands nombres échoue-t-elle? Ce que je veux dire, c'est dans quels cas la fréquence d'un événement ne tendra-t-elle pas vers la probabilité théorique?

emanuele
la source

Réponses:

10

Il existe deux théorèmes (de Kolmogorov) et tous deux exigent que la valeur attendue soit finie. La première tient lorsque les variables sont IID, la seconde, lorsque l'échantillonnage est indépendant et la variance du satisfaitXn

n=1V(Xn)n2<

Disons que tous les ont la valeur attendue 0, mais leur variance est sorte que la condition échoue évidemment. Que se passe-t-il alors? Vous pouvez toujours calculer une moyenne estimée, mais cette moyenne n'aura pas tendance à 0 lorsque vous échantillonnez de plus en plus. Il aura tendance à dévier de plus en plus à mesure que vous continuez à échantillonner.n 2Xnn2

Donnons un exemple. Disons que est uniforme sorte que la condition ci-dessus échoue de façon épique. U ( - n 2 n , n 2 n )XnU(n2n,n2n)

n=1V(Xn)n2=n=1n222n+2121n2=13n=14n=.

En notant que

X¯n=Xnn+n1nX¯n1,

on voit par induction que la moyenne calculée est toujours dans l'intervalle ( - 2 n , 2 n ) . En utilisant la même formule pour n + 1 , on voit aussi qu'il ya toujours une plus grande chance que 1 / 8 que ˉ X n + 1 se situe en dehors ( - 2 n , 2 n ) . En effet, est uniforme et se trouve à l'extérieurX¯n(2n,2n)n+11/8X¯n+1(2n,2n) U(-2n+1,2n+1)(-2n,2n)Xn+1n+1U(2n+1,2n+1)(2n,2n)avec probabilité . Par contre, est dans par induction, et par symétrie il est positif avec une probabilité . De ces observations, il résulte immédiatement que est supérieur à ou inférieur à , chacun avec une probabilité supérieure à . Depuis la probabilité que est supérieur à , il ne peut y avoir de convergence vers 0 car va vers l'infini.n1/4nn+1X¯n(2n,2n)1/2X¯n+12n2n1/16|X¯n+1|>2n1/8n

Maintenant, pour répondre précisément à votre question, pensez à un événement . Si j'ai bien compris, vous demandez "dans quelles conditions la déclaration suivante est-elle fausse?"A

limn1nk=1n1A(Xk)=P(XA),[P]a.s.

où est la fonction indicatrice de l'événement , c'est -à- dire si et sinon et les sont distribués de manière identique (et distribués comme ).1AA 1A(Xk)=1XkA0XkX

Nous voyons que la condition ci-dessus tiendra, car la variance d'une fonction d'indicateur est limitée au-dessus de 1/4, qui est la variance maximale d'une variable de Bernouilli 0-1. Pourtant, ce qui peut mal tourner, c'est la deuxième hypothèse de la loi forte des grands nombres, à savoir l'échantillonnage indépendant . Si les variables aléatoires ne sont pas échantillonnées indépendamment, la convergence n'est pas assurée.Xk

Par exemple, si = pour tout alors le rapport sera soit 1 ou 0, quelle que soit la valeur de , donc la convergence ne se produit pas (sauf si a une probabilité 0 ou 1 bien sûr). Ceci est un faux et extrême exemple. Je ne connais pas de cas pratiques où la convergence vers la probabilité théorique ne se produira pas. Pourtant, la potentialité existe si l'échantillonnage n'est pas indépendant.XkX1knA

gui11aume
la source
Un commentaire. Sur wikipedia (page lnl) j'ai lu que la non finitude de la variance ne fait que ralentir la convergence de la valeur moyenne. Est-ce différent de ce que vous dites?
emanuele
2
Êtes-vous tous les deux en train de discuter de la même loi? La question porte sur la fréquence des événements alors que cette réponse semble se concentrer sur la distribution d'échantillonnage d'une moyenne . Bien qu'il existe un lien, il n'est pas encore apparu explicitement ici pour autant que je sache.
whuber
@whuber True. Je me suis trop concentré sur le titre de la question. Merci d'avoir indiqué. J'ai mis à jour la réponse.
gui11aume
@ gui11aume je ne comprends pas "Nous voyons que la condition ci-dessus se maintiendra, car la variance d'une fonction d'indicateur est limitée au-dessus de 1/4.". Qu'est-ce que ça veut dire?
emanuele
1
S'ils sont distribués de manière identique, mais non indépendants, la limite en question peut ne pas exister du tout.
cardinal