Que devrait être un a priori non informatif pour la pente lors d'une régression linéaire?

10

Lors de la régression linéaire bayésienne, il faut attribuer un a priori à la pente et intercepter . Puisque est un paramètre d'emplacement, il est logique d'attribuer un a priori uniforme; cependant, il me semble que s'apparente à un paramètre d'échelle et il ne semble pas naturel d'attribuer un uniforme avant lui.unebbune

En revanche, il ne semble pas tout à fait juste d'attribuer le précédent Jeffrey non informatif habituel ( ) pour une pente d'une régression linéaire. D'une part, cela peut être négatif. Mais je ne vois pas ce que cela pourrait être d'autre.1/une

Alors, quel est le «bon» a priori non informatif pour la pente d'une régression linéaire bayésienne? (Toute référence serait appréciée.)

lindelof
la source
La pente n'est pas vraiment comme un paramètre d'échelle - par exemple, elle peut être négative. Il n'y a pas de «bon» non informatif («faible information» peut être un meilleur terme) avant. Il existe des choix communs, qui peuvent convenir à différentes personnes ou à différentes situations.
Glen_b -Reinstate Monica

Réponses:

10

Tiré de Bayesian Data Analysis, 3e éd., P. 355:

La distribution a priori non informative standard

Dans le modèle de régression normal, une distribution a priori non informative pratique est uniforme sur ou, de manière équivalente,(β,Journalσ)

p(β,σ2|X)σ-2

( référant aux régresseurs.) Le livre contient une discussion supplémentaire utile au-delà de la portée de cette question: lorsque ce prieur est utile, lorsque d'autres sont mieux adaptés, son postérieur et la comparaison avec les estimations classiques.X

Sean Easter
la source
9

Les Bayésiens choisissent normalement des prieurs qui facilitent leur vie mathématiquement difficile. Cela signifie des prieurs gaussiens, sauf si le modèle l'interdit absolument. N'oubliez pas que vous avez besoin d'un bivarié préalable dans votre situation, car vous devez modéliser la corrélation entre la pente et l'emplacement, ainsi que leurs comportements marginaux. La normale multivariée est votre ticket.

Un a priori gaussien sur les paramètres correspond bien à l'erreur de mesure gaussienne (sans doute) que votre modèle de régression a déjà.

Soit dit en passant, je n'associe pas les pentes aux paramètres d'échelle, car les pentes peuvent être négatives et les paramètres d'échelle ne le peuvent pas.

Maintenant, la distribution gaussienne n'est pas un a priori non informatif, mais si vous n'avez vraiment aucune information préalable, vous devriez peut-être devenir fréquentiste. Ou utilisez un gaussien avec une très grande variance.

Je ne connais pas de référence moderne à l'inférence bayésienne. Au risque d'utiliser un bazooka pour tirer sur un lapin, vous pourriez rechercher Rasmussen et Williams, qui est disponible en ligne . La première section du chapitre 2 passe en revue la régression bayésienne en détail.

Placidia
la source
3

bronzer-1(une)bcosθθ

p(une,b)=(1+une2)-3/2
user2653663
la source