Je prends un cours sur les méthodes de Monte Carlo et nous avons appris la méthode d'échantillonnage par rejet (ou Accept-Reject Sampling) lors de la dernière conférence. Il y a beaucoup de ressources sur le web qui montrent la preuve de cette méthode mais je ne suis pas convaincu avec elles.
Ainsi, dans l'échantillonnage de rejet, nous avons une distribution qui est difficile à échantillonner. Nous choisissons une distribution facile à échantillonner et trouver un coefficient tel que . Ensuite, nous échantillonnons et pour chaque tirage, , nous échantillonnons également un à partir d'une distribution uniforme standard .
L'échantillon est accepté s'il est et rejeté autrement.
Les preuves que j'ai rencontrées montrent généralement que et arrêtez-vous là.
Ce que je pense de ce processus, c'est que nous avons une séquence de variables et un la paire correspond à notre i.th échantillon () et s'il est accepté (). Nous savons que chacun la paire est indépendante l'une de l'autre, de sorte que:
Pour un paire, nous savons que et . Nous pouvons facilement calculermais je ne comprends pas comment cela suffit comme preuve. Nous devons montrer que l'algorithme fonctionne, donc je pense qu'une preuve devrait montrer que la distribution empricial des échantillons acceptés converge vers comme . Je veux dire, avec étant le nombre de tous les échantillons acceptés et rejetés:
comme .
Ai-je tort avec ce schéma de pensée? Ou existe-t-il un lien entre la preuve commune de l'algorithme et celle-ci?
Merci d'avance
la source
Tout d'abord, gardez à l'esprit qu'une procédure complète de la méthode d'échantillonnage de rejet ne produit qu'une seule variable aléatoire. Quand certainsxi est acceptée, la procédure s'arrête et il n'y a pas xi+1 plus. Si vous voulez plusieurs variables aléatoires, répétez simplement la procédure plusieurs fois.
Dans certains manuels, ils dénotent l’acceptation parA et calculer la probabilité
Et
La chose déroutante est que l'acceptationA ici semble être l'acceptation d'un seul échantillon de xi , mais toute la procédure peut rejeter plusieurs xi 's.
Oui, une preuve plus rigoureuse devrait considérer la probabilité d'acceptation à différentes étapes. LaisserXi dénoter la i e échantillon, fXi dénoter la fonction de densité de probabilité de Xi , Ai dénoter la i e acceptation, et X∞ indique la valeur finale acceptée. Ensuite, la fonction de densité de probabilité deX∞ est
EtfX2(x|A2) est f(x) trop parce que la deuxième étape n'est pas affectée par les étapes précédentes, sa probabilité devrait être la même que la première étape. Si cette explication ne vous convainc pas, nous pouvons également la travailler avec rigueur. Faites attentionX2 n'est pas défini lorsque X1 est accepté (ou vous pouvez le définir comme un nombre arbitraire lorsque X1 est acceptée si une valeur indéfinie vous met mal à l'aise), donc pour les probabilités concernant X2 , seules les probabilités conditionnelles sont données Ac1 ou des sous-ensembles de Ac1 faire sens. Maintenant
la source