Quelle est la valeur attendue de la distribution de Dirichlet modifiée? (problème d'intégration)

Il est facile de produire une variable aléatoire avec une distribution de Dirichlet en utilisant des variables Gamma avec le même paramètre d'échelle. Si:

$X_i \sim \text{Gamma}(\alpha_i, \beta)$

Alors:

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \text{Dirichlet}(\alpha_1,\;\ldots\;,\alpha_n)$

Problème Que se passe-t-il si les paramètres d'échelle ne sont pas égaux?

$X_i \sim \text{Gamma}(\alpha_i, \beta_i)$

Alors quelle est la distribution de cette variable?

$\left(\frac{X_1}{\sum_j X_j},\; \ldots\; , \frac{X_n}{\sum_j X_j}\right) \sim \; ?$

Pour moi, il suffirait de connaître la valeur attendue de cette distribution.
J'ai besoin d'une formule algébrique fermée approximative qui peut être évaluée très très rapidement par un ordinateur.
Disons qu'une approximation avec une précision de 0,01 est suffisante.
Vous pouvez supposer que:

$\alpha_i, \beta_i \in \mathbb{N}$

Remarque En bref, la tâche consiste à trouver une approximation de cette intégrale:

$f(\vec{\alpha}, \vec{\beta}) = \int_{\mathbb{R}^n_+} \;\frac{x_1}{\sum_j x_j} \cdot \prod_j \frac{\beta_j^{\alpha_j}}{\Gamma(\alpha_j)} x_j^{\alpha_j - 1} e^{-\beta_j x_j} \;\; dx_1\ldots dx_n$

expected-value dirichlet-distribution gamma-distribution integral Łukasz Lew
la source

@ Łukasz Pouvez-vous nous en dire plus sur les paramètres

? Il est possible d'obtenir des expressions exactes pour

et ainsi d'approximer les attentes des ratios, mais pour certaines combinaisons de paramètres, on pourrait exploiter des approximations normales ou à cheval avec moins de travail. Je ne pense pas qu'il y aura une méthode d'approximation universelle, c'est pourquoi des restrictions supplémentaires seraient les bienvenues.

n

$n$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

\sum_{j} X_{j}

$\sum_j{X_j}$

whuber

sont corrélés, nous devons donc approximer l'intégrale elle-même.

est souvent un petit nombre comme 1 ou 2 et parfois aussi grand que 10000. De même avec

mais il est généralement 10 fois plus grand que

X_{1}

$X_1$

\sum_{j} X_{j}

$\sum_j X_j$

α_{i}

$\alpha_i$

β_{i}

$\beta_i$

α_{i}

$\alpha_i$

Łukasz Lew

Le problème vient des petits

. Si tous les

sont grands, la bonne approximation de l'intégrale entière est:

α_{i}

$\alpha_i$

α_{i}

$\alpha_i$

\frac{α_{1} / β_{1}}{\sum_{j} α_{j} / β_{j}}

$\frac{\alpha_1/\beta_1}{\sum_j \alpha_j/\beta_j}$

Łukasz Lew

@ Łukasz Si vous avez besoin d'évaluer l'expression de l'attente, pourquoi avez-vous besoin d'une formule algébrique? Je pense à appliquer une astuce numérique pour obtenir l'attente, mais j'ai besoin de commentaires :)

deps_stats

J'ai besoin de l'évaluer plusieurs fois dans mon programme. Il doit être très rapide, c'est-à-dire sans boucles et de préférence pas trop de divisions.

Łukasz Lew

Réponses:

Juste une remarque initiale, si vous voulez une vitesse de calcul, vous devez généralement sacrifier la précision. "Plus de précision" = "Plus de temps" en général. Quoi qu'il en soit, voici une approximation de second ordre, devrait améliorer le "brut" approximatif que vous avez suggéré dans votre commentaire ci-dessus:

E (\frac{X_{j}}{\sum_{i} X_{i}}) \approx \frac{E [X_{j}]}{E [\sum_{i} X_{i}]} - \frac{c o v [\sum_{i} X_{i}, X_{j}]}{E [\sum_{i} X_{i}]^{2}} + \frac{E [X_{j}]}{E [\sum_{i} X_{i}]^{3}} V a r [\sum_{i} X_{i}]

$E\Bigg(\frac{X_{j}}{\sum_{i}X_{i}}\Bigg)\approx \frac{E[X_{j}]}{E[\sum_{i}X_{i}]} -\frac{cov[\sum_{i}X_{i},X_{j}]}{E[\sum_{i}X_{i}]^2} +\frac{E[X_{j}]}{E[\sum_{i}X_{i}]^3} Var[\sum_{i}X_{i}]$

= \frac{α_{j}}{\sum_{i} \frac{β_{j}}{β_{i}} α_{i}} \times [1 - \frac{1}{(\sum_{i} \frac{β_{j}}{β_{i}} α_{i})} + \frac{1}{(\sum_{i} \frac{α_{i}}{β_{i}})^{2}} (\sum_{i} \frac{α_{i}}{β_{i}^{2}})]

$= \frac{\alpha_{j}}{\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}}\times\Bigg[1 - \frac{1}{\Bigg(\sum_{i} \frac{\beta_{j}}{\beta_{i}}\alpha_{i}\Bigg)} + \frac{1}{\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}}\Bigg)^2}\Bigg(\sum_{i} \frac{\alpha_{i}}{\beta_{i}^2}\Bigg)\Bigg]$

EDIT Une explication de l'extension ci-dessus a été demandée. La réponse courte est wikipedia . La réponse longue est donnée ci-dessous.

écrire . Nous avons maintenant besoin de toutes les dérivées "de second ordre" de. Les dérivés du premier ordre "s'annuleront" car ils impliqueront tous des multiplesetqui sont tous les deux nuls en prenant les attentes. $f(x,y)=\frac{x}{y}$ $f$ $X-E(X)$ $Y-E(Y)$

\frac{\partial^{2} f}{\partial x^{2}} = 0

$\frac{\partial^2 f}{\partial x^2}=0$

\frac{\partial^{2} f}{\partial x \partial y} = - \frac{1}{y^{2}}

$\frac{\partial^2 f}{\partial x \partial y}=-\frac{1}{y^2}$

\frac{\partial^{2} f}{\partial y^{2}} = 2 \frac{x}{y^{3}}

$\frac{\partial^2 f}{\partial y^2}=2\frac{x}{y^3}$

Et donc la série taylor jusqu'au deuxième ordre est donnée par:

\frac{x}{y} \approx \frac{μ_{x}}{μ_{y}} + \frac{1}{2} (- \frac{1}{μ_{y}^{2}} 2 (x - μ_{x}) (y - μ_{y}) + 2 \frac{μ_{x}}{μ_{y}^{3}} (y - μ_{y})^{2})

$\frac{x}{y} \approx \frac{\mu_x}{\mu_y}+\frac{1}{2}\Bigg(-\frac{1}{\mu_y^2}2(x-\mu_x)(y-\mu_y) + 2\frac{\mu_x}{\mu_y^3}(y-\mu_y)^2 \Bigg)$

Taking expectations yields:

E [\frac{x}{y}] \approx \frac{μ_{x}}{μ_{y}} - \frac{1}{μ_{y}^{2}} E [(x - μ_{x}) (y - μ_{y})] + \frac{μ_{x}}{μ_{y}^{3}} E [(y - μ_{y})^{2}]

$E\Big[\frac{x}{y}\Big] \approx \frac{\mu_x}{\mu_y}-\frac{1}{\mu_y^2}E\Big[(x-\mu_x)(y-\mu_y)\Big] + \frac{\mu_x}{\mu_y^3}E\Big[(y-\mu_y)^2\Big]$

Which is the answer I gave. (although I initially forgot the minus sign in the second term)

probabilityislogic
la source

This looks like exactly what I need. Can you explain how you got this expansion? I tried in a lot of ways and was unable to do that ...

Łukasz Lew