Existe-t-il un conjugué préalable pour la distribution de Laplace?

13

Existe-t-il un conjugué préalable pour la distribution de Laplace ? Sinon, existe-t-il une expression de forme fermée connue qui se rapproche de la valeur postérieure pour les paramètres de la distribution de Laplace?

J'ai beaucoup cherché sur Google sans succès, donc ma supposition actuelle est «non» sur les questions ci-dessus ...

Rasmus Bååth
la source
1
Google «mélanges moyens de variance normale polson et scott» - cela vous donnera quelques bayes approximatifs en utilisant MAP via l'algorithme em.
probabilityislogic

Réponses:

12

Examinons-les d'abord un à la fois (en prenant l'autre comme indiqué).

Depuis le lien (avec la modification de suivre la convention d'utilisation des symboles grecs pour les paramètres):

f(x|μ,τ)=12τexp(|xμ|τ)

- paramètre d'échelle :

L(τ)τk1eSτ

kS

Ainsi, le paramètre d'échelle a un a priori conjugué - par inspection, l'a priori conjugué est un gamma inverse.

- paramètre d'emplacement

i|xiμ|μ

Un a priori uniforme tronquera simplement le postérieur, ce qui n'est pas si mal à travailler si cela semble plausible comme un a priori.

Une possibilité intéressante qui peut parfois être utile est qu'il est assez facile d'inclure un a priori de Laplace (un avec la même échelle que les données) en utilisant une pseudo-observation. On pourrait aussi se rapprocher d'un autre (plus serré) préalable via plusieurs pseudo-observations)

exp(j|μθj|/ϕj)exp(jwj|μθj|)

Il est également suffisamment flexible pour pouvoir être utilisé pour rapprocher d'autres priors.

(Plus généralement encore, on pourrait travailler sur l'échelle logarithmique et utiliser un a priori log-concave linéaire continu par morceaux et le postérieur serait également de cette forme; cela inclurait Laplace asymétrique comme cas spécial)

Exemple

Juste pour montrer qu'il est assez facile à gérer - ci-dessous est un avant (gris en pointillé), une probabilité (en pointillé, noir) et postérieure (solide, rouge) pour le paramètre de localisation pour un Laplace pondéré (... c'était avec des échelles connues ).

entrez la description de l'image ici

L'approche pondérée de Laplace fonctionnerait bien dans MCMC, je pense.

-

Je me demande si le mode postérieur résultant est une médiane pondérée?

- en fait (pour répondre à ma propre question), il semble que la réponse soit «oui». Cela rend plutôt agréable de travailler avec.

-

Prieur commun

f(μ,τ)=f(μ|τ)f(τ)μ|ττττ

Sans aucun doute, quelque chose de plus général pour le précédent conjoint est tout à fait possible, mais je ne pense pas que je poursuivrai l'affaire commune plus loin que celle-ci.

-

Je n'ai jamais vu ou entendu parler de cette approche antérieure pondérée par la place auparavant, mais c'était assez simple à trouver, donc c'est probablement déjà fait. (Les références sont les bienvenues, si quelqu'un en connaît.)

Si personne ne connaît de références, je devrais peut-être écrire quelque chose, mais ce serait étonnant.

Glen_b -Reinstate Monica
la source
Wow, excellente réponse. Je ne connais certainement aucune référence à quelque chose de similaire. Si vous trouvez quelque chose ou écrivez quelque chose, faites-le moi savoir!
Rasmus Bååth
1
Une façon possible d'obtenir le paramètre d'emplacement est d'utiliser la représentation du mélange de variance normale de laplace. Ceci est un bien avant conditionnellement conjugué ...
probabilityislogic
@probabilityislogic c'est intéressant. Dans les éditions précédentes, j'ai mis une ligne soulignant que le Laplace était un mélange d'échelle exponentielle de normales parce que je me demandais s'il pouvait y avoir quelque chose à faire avec cela, mais comme j'ai édité la réponse plus loin, il ne cadrait plus nulle part et j'ai pris à nouveau. D'après votre commentaire utile, il semble qu'il puisse être utilisé de cette façon; c'est probablement utile.
Glen_b -Reinstate Monica