Si le prieur et la probabilité sont très différents l'un de l'autre, il se produit parfois une situation où le postérieur n'est semblable à aucun d'eux. Voir par exemple cette image, qui utilise des distributions normales. Bien que cela soit mathématiquement correct, cela ne semble pas correspondre...
Certaines distributions ont des prieurs conjugués et d'autres non. Cette distinction n'est-elle qu'un accident? Autrement dit, vous faites le calcul, et cela fonctionne d'une manière ou d'une autre, mais cela ne vous dit vraiment rien d'important sur la distribution, sauf pour le fait lui-même? Ou...
Quelqu'un peut-il expliquer quelle est l'interprétation naturelle des hyperparamètres LDA? ALPHAet BETAsont des paramètres des distributions de Dirichlet pour les distributions de mots (par document) et (par sujet) de mots respectivement. Cependant, quelqu'un peut-il expliquer ce que signifie...
Contexte L'un des faibles a priori sur variance les plus couramment utilisés est le gamma inverse avec les paramètres (Gelman 2006) .α=0.001,β=0.001α=0.001,β=0.001\alpha =0.001, \beta=0.001 Cependant, cette distribution a un IC à 90% d'environ .[3×1019,∞][3×1019,∞][3\times10^{19},\infty]...
J'ai utilisé des distributions log normales comme distributions antérieures pour les paramètres d'échelle (pour les distributions normales, les distributions t, etc.) quand j'ai une idée approximative de ce que l'échelle devrait être, mais je veux me tromper en disant que je ne sais pas beaucoup à...
J'ai entendu dire que Jaynes prétend que les fréquentistes opèrent avec un "a priori implicite". Quels sont ou sont ces prieurs implicites? Cela signifie-t-il que les modèles fréquentistes sont tous des cas particuliers de modèles bayésiens à
Dans la littérature, je tombe parfois sur la remarque selon laquelle le choix de priors qui dépendent des données elles-mêmes (par exemple Zellners g-prior) peut être critiqué d'un point de vue théorique. Où se situe exactement le problème si le prieur n'est pas choisi indépendamment des...
On fait souvent valoir que le cadre bayésien a un grand avantage dans l'interprétation (sur fréquentiste), car il calcule la probabilité d'un paramètre étant donné les données - au lieu de comme dans le cadre fréquentiste. Jusqu'ici tout va bien.p ( x | θ )p ( θ | x )p(θ|x)p(\theta|x)p ( x | θ...
Je suis à la recherche de priors non informatifs pour la distribution bêta pour travailler avec un processus binomial (Hit / Miss). Au début, j'ai pensé à utiliser α=1,β=1α=1,β=1\alpha=1, \beta=1 qui génèrent un PDF uniforme, ou Jeffrey avant α=0.5,β=0.5α=0.5,β=0.5\alpha=0.5, \beta=0.5 . Mais je...
Je lisais sur le Jeffreys prior sur wikipedia: Jeffreys Prior et j'ai vu qu'après chaque exemple, il décrit comment une transformation stabilisatrice de variance transforme le Jeffreys prior en un prior uniforme. À titre d'exemple, pour le cas de Bernoulli, il indique que pour une pièce de monnaie...
Je republie une "réponse" à une question que j'avais posée il y a environ deux semaines: Pourquoi le Jeffreys est-il utile avant? C'était vraiment une question (et je n'avais pas non plus le droit de poster des commentaires à l'époque), donc j'espère que c'est OK de le faire: Dans le lien...
Il est bien connu que la régression linéaire avec une pénalité de équivaut à trouver l'estimation MAP donnée un a priori gaussien sur les coefficients. De même, l'utilisation d'une pénalité équivaut à l'utilisation d'une distribution de Laplace comme a priori.l2l2l^2l1l1l^1 Il n'est pas rare...
Si nous avons un petit échantillon, la distribution antérieure influencera-t-elle beaucoup la distribution
Robby McKilliam dit dans un commentaire à ce post: Il convient de souligner que, du point de vue des fréquentistes, il n'y a aucune raison pour que vous ne puissiez pas intégrer les connaissances antérieures dans le modèle. En ce sens, la vue fréquentiste est plus simple, vous n'avez qu'un modèle...
Comment procéder pour calculer un postérieur avec un N ~ (a, b) antérieur après avoir observé n points de données? Je suppose que nous devons calculer la moyenne et la variance de l'échantillon des points de données et faire une sorte de calcul qui combine le postérieur avec le précédent, mais je...
Dans son article largement cité Prior distributions for variance parameters in hierarchical models (916 citation à ce jour sur Google Scholar) Gelman propose que de bonnes distributions a priori non informatives pour la variance dans un modèle bayésien hiérarchique soient la distribution uniforme...
Je connais 3 méthodes pour faire des estimations de paramètres, ML, MAP et Bayes. Et pour l'approche MAP et Bayes, nous devons choisir des a priori pour les paramètres, non? Disons que j'ai ce modèle , dans lequel α , β sont des paramètres, afin de faire l'estimation en utilisant MAP ou Bayes, j'ai...
Cette question a été inspirée par deux interactions récentes que j'ai eues, l'une ici dans CV , l'autre sur economics.se. Là, j'avais posté une réponse au fameux "paradoxe de l'enveloppe" (rappelez-vous, non pas comme la "bonne réponse" mais comme la réponse découlant d'hypothèses spécifiques sur...
Ma question de base est: comment échantillonner à partir d'une distribution incorrecte? Est-il même judicieux d'échantillonner à partir d'une distribution incorrecte? Le commentaire de Xi'an ici répond en quelque sorte à la question, mais je cherchais plus de détails à ce sujet. Plus spécifique à...
J'ai entendu dire que la régression des crêtes peut être dérivée comme la moyenne d'une distribution postérieure, si l'a priori est adéquatement choisi. L'intuition est-elle que les contraintes définies sur les coefficients de régression par les a priori (par exemple, les distributions normales...