«Puisque est presque gaussien, son PDF peut être écrit comme…»

Petite question: pourquoi est-ce vrai ??

Longue question:

Très simplement, j'essaie de comprendre ce qui justifie cette première équation. L'auteur du livre que je lis, (contexte ici si vous le souhaitez, mais pas nécessaire), affirme ce qui suit:

En raison de l'hypothèse de quasi-gaussianité, nous pouvons écrire:

$p_{0} (ξ) = A ϕ (ξ) e x p (a_{n + 1} ξ + (a_{n + 2} + \frac{1}{2}) ξ^{2} + \sum_{i = 1}^{n} a_{i} G_{i} (ξ))$ $p_0(\xi) = A \; \phi(\xi) \; exp( a_{n+1}\xi + (a_{n+2} + \frac{1}{2})\xi^2 + \sum_{i=1}^{n} a_i G_i(\xi))$

Où est le PDF de vos données observées qui a l'entropie maximale, étant donné que vous n'aviez observé qu'une série d'attentes, (nombres simples) , où , et est le PDF d'une variable gaussienne standardisée, c'est-à-dire 0 moyenne et variance unitaire. $p_0(\xi)$ $c_i, i = 1 ... n$ $c_i = \mathbb{E}\{G_i(\xi)\}$ $\phi(\xi)$

Là où tout cela va, c'est qu'il utilise l'équation ci-dessus comme point de départ pour simplifier le PDF, , et je comprends comment il le fait, mais je ne comprends pas comment il justifie l'équation ci-dessus, c'est-à-dire, le point de départ. $p_0(\xi)$

J'ai essayé d'être bref pour ne pas gêner personne, mais si vous voulez des détails supplémentaires, faites-le moi savoir dans les commentaires. Merci!

probability normal-distribution entropy maximum-entropy Spacey
la source

(Remarque: j'ai changé votre en .) $\xi$ $x$

Pour une variable aléatoire de densité , si vous avez des contraintes pour , la densité d'entropie maximale est où les sont déterminés à partir des , et est une constante de normalisation. $X$ $p$

\int G_{i} (x) p (x) d x = c_{i},

$\int G_i(x)\,p(x)\,dx=c_i \, ,$

i = 1, \dots, n

$i=1,\dots,n$

p_{0} (x) = A \exp (\sum_{i = 1}^{n} a_{i} G_{i} (x)),

$p_0(x)=A\exp\left(\sum_{i=1}^n a_iG_i(x)\right) \, ,$

a_{i}

$a_i$

c_{i}

$c_i$

A

$A$

Dans ce contexte, l'approximation gaussienne ("quasi-gaussianité") signifie deux choses:

1) Vous acceptez d'introduire deux nouvelles contraintes: la moyenne de est et la variance est (disons); $X$ $0$ $1$

2) L' (voir ci-dessous) est beaucoup plus grand que les autres . $a_{n+2}$ $a_i$

Ces contraintes supplémentaires sont représentées par donnant qui peut être réécrit comme (juste "ajouter zéro" à l'exposant) menant à ce que vous voulez: prêt à être développé par Taylor (en utilisant la deuxième condition de l'approximation gaussienne).

G_{n + 1} (x) = x, c_{n + 1} = 0,

$G_{n+1}(x)=x \, , \qquad c_{n+1}=0 \, ,$

G_{n + 2} (x) = x^{2}, c_{n + 2} = 1,

$G_{n+2}(x)=x^2 \, , \qquad c_{n+2}=1 \, ,$

p_{0} (x) = A \exp (a_{n + 2} x^{2} + a_{n + 1} x + \sum_{i = 1}^{n} a_{i} G_{i} (x)),

$p_0(x)=A\exp\left(a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$

p_{0} (x) = A \exp (\frac{x^{2}}{2} - \frac{x^{2}}{2} + a_{n + 2} x^{2} + a_{n + 1} x + \sum_{i = 1}^{n} a_{i} G_{i} (x)),

$p_0(x)=A\exp\left(\frac{x^2}{2} - \frac{x^2}{2} + a_{n+2}x^2 + a_{n+1}x + \sum_{i=1}^n a_iG_i(x)\right) \, ,$

p_{0} (x) = A^{'} ϕ (x) \exp (a_{n + 1} x + (a_{n + 2} + \frac{1}{2}) x^{2} + \sum_{i = 1}^{n} a_{i} G_{i} (x));

$p_0(x)=A'\,\phi(x)\exp\left(a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, ;$

En faisant l'approximation comme un physicien (ce qui signifie que nous ne nous soucions pas de l'ordre du terme d'erreur), en utilisant , nous avons la densité approximative Pour finir, nous devons déterminer et les valeurs des ' s. Cela se fait en imposant les conditions pour obtenir un système d'équations, dont la solution donne et les . $\exp(t)\approx 1+t$

p_{0} (x) \approx A^{'} ϕ (x) (1 + a_{n + 1} x + (a_{n + 2} + \frac{1}{2}) x^{2} + \sum_{i = 1}^{n} a_{i} G_{i} (x)) .

$p_0(x) \approx A'\,\phi(x)\left(1+a_{n+1}x + \left(a_{n+2}+\frac{1}{2}\right)x^2 + \sum_{i=1}^n a_iG_i(x)\right) \, .$

A^{'}

$A'$

a_{i}

$a_i$

\int p_{0} (x) d x = 1, \int x p_{0} (x) d x = 0, \int x^{2} p_{0} (x) d x = 1

$\int p_0(x)\,dx=1 \, , \qquad \int x \,p_0(x)\,dx=0 \, , \qquad \int x^2 \,p_0(x)\,dx=1$

\int G_{i} (x) p_{0} (x) d x = c_{i}, i = 1, \dots, n,

$\int G_i(x)\, p_0(x)\,dx=c_i \, , \quad i=1,\dots,n \, ,$

A^{'}

$A'$

a_{i}

$a_i$

Sans imposer de conditions supplémentaires aux , je ne crois pas qu'il existe une solution simple sous forme fermée. $G_i$

Le PS Mohammad a précisé lors d'un chat qu'avec des conditions d'orthogonalité supplémentaires pour les , nous pouvons résoudre le système. $G_i$

Zen
la source

Zen, merci beaucoup. Je comprends (un peu) maintenant. Ce qui n'est pas clair pour moi cependant, c'est quand vous dites "Dans ce contexte, l'approximation gaussienne (" quasi-gaussianité ") signifie que vous acceptez d'introduire deux nouvelles contraintes: que la moyenne de X est 0 et la variance est (disons ) 1." , Je ne comprends pas, pourquoi pour que quelque chose soit «presque gaussien», cela signifie qu'il doit avoir et . Et si c'était juste un autre VR qui avait ces mêmes valeurs?

μ = 0

$\mu=0$

σ^{2} = 1

$\sigma^2=1$

Spacey

Salut Mohammad. J'ai ajouté plus d'informations à la réponse. Pour obtenir l'ancienne expression de vous utilisez uniquement ce que j'ai appelé la première condition de l'approximation gaussienne. Vous utiliserez la deuxième condition lorsque vous effectuerez l'extension de Taylor de ce . J'espère que ça aide.

p_{0} (x)

$p_0(x)$

p_{0} (x)

$p_0(x)$

Zen

Pourriez-vous poster en commentaire l'expression finale de après avoir effectué les calculs restants? Merci.

p_{0} (x)

$p_0(x)$

Zen

oui, il dit que l'expression finale est:

p_{0} (z) \approx ϕ (z) (1 + \sum_{i = 1}^{N} c_{i} F_{i} (z))

$p_0(z) \approx \phi(z) (1 + \sum_{i=1}^{N} c_i F_i(z))$

Spacey

Je pense qu'il y a une faute de frappe dans la dernière équation? ... se produit deux fois? ...

a_{n + 1} x

$a_{n+1}x$

Spacey

«Puisque est presque gaussien, son PDF peut être écrit comme…»

Réponses: