Différence entre Prieurs non informatifs et Prieurs irréguliers

10

Je me demande quelle est la différence entre ces deux types de prieurs:

  • Non informatif
  • Non conforme
Bram
la source
4
Il pourrait être utile de fournir un certain contexte ici. Que comprenez-vous déjà à ce sujet? Y a-t-il un point de confusion particulier?
gung - Rétablir Monica
Merci @Tim. Je cherchais non informatif au lieu de faiblement informatif .
Bram

Réponses:

17

Les a priori impropres sont des mesures non négatives -finies d π sur l'espace des paramètres Θ telles que Θ d π ( θ ) = + En tant que telles, elles généralisent la notion de distribution a priori, qui est une distribution de probabilité sur l'espace des paramètres Θ tels que Θ d π ( θ ) = 1 Ils sont utiles de plusieurs manières pour caractériserσπΘ

Θπ(θ)=+
Θ
Θπ(θ)=1
  1. l'ensemble des limites des procédures bayésiennes appropriées, qui ne sont pas toutes des procédures bayésiennes appropriées;
  2. procédures optimales fréquentistes comme dans (l'admissibilité) des théorèmes de classe complets tels que celui de Wald;
  3. les meilleurs estimateurs fréquentiels invariants (puisqu'ils peuvent être exprimés sous forme d'estimations de Bayes sous la mesure de Haar droite correspondante, généralement impropres);
  4. a priori dérivé de la forme de la fonction de vraisemblance, comme les a priori non informatifs (par exemple, ceux de Jeffreys).

Parce qu'ils ne s'intègrent pas à un nombre fini, ils ne permettent pas une interprétation probabiliste mais peuvent néanmoins être utilisés dans l'inférence statistique si la probabilité marginale est finie puisque le distribution postérieure ( θ | x ) d π ( θ )

Θ(θ|X)π(θ)<+
est alors bien défini. Cela signifie qu'il peut être utilisé exactement de la même manière qu'une distribution postérieure dérivée d'un a priori approprié est utilisée, pour dériver des quantités postérieures pour une estimation comme des moyennes postérieures ou des intervalles crédibles postérieurs.
(θ|X)π(θ)Θ(θ|X)π(θ)

Avertissement: Une branche de l'inférence bayésienne ne résiste pas très bien aux a priori incorrects, notamment lors du test d'hypothèses précises. En effet, ces hypothèses nécessitent la construction de deux distributions antérieures, l'une sous le nul et l'autre sous l'alternative, qui sont orthogonales. Si l'un de ces antérieurs est incorrect, il ne peut pas être normalisé et le facteur Bayes résultant est indéterminé.

δL(,θ)π

argminΘL(,θ)(θ|X)π(θ)
L(,θ)π(θ)ϖ(θ)ϖ(θ)
L(,θ)π(θ)=L(,θ)ϖ(θ)×ϖ(θ)π(θ)

Les a priori non informatifs sont des classes de distributions antérieures (correctes ou incorrectes) qui sont déterminées en fonction d'un certain critère d'information lié à la fonction de vraisemblance, comme

  1. La raison insuffisante de Laplace n'a pas changé d'avance;
  2. Jeffreys (1939) a priori invariants;
  3. a priori d'entropie maximale (ou MaxEnt) (Jaynes, 1957);
  4. longueur minimale de description a priori (Rissanen, 1987; Grünwald, 2005);
  5. références antérieures (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
  6. a priori d'appariement des probabilités (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

et d'autres classes, dont certaines sont décrites dans Kass & Wasserman (1995). Le nom non informatif est un terme impropre dans la mesure où aucun prieur n'est jamais complètement non informatif. Voir ma discussion sur ce forum. Ou la diatribe de Larry Wasserman . (Les priors non informatifs sont le plus souvent incorrects.)

Xi'an
la source
9

95%95%

Un prieur non informatif est souvent «inapproprié». Une distribution a une propriété bien connue: son intégrale est égale à une. Un a priori non informatif est considéré comme impropre lorsque son intégrale est infinie (il est donc clair dans ce cas qu'il ne s'agit pas d'une distribution).

Stéphane Laurent
la source
3
Je considère cette définition d'un "non informatif" avant d'être super restrictive!
Xi'an
@ Xi'an Compte tenu de la brièveté du PO, je pense que cette réponse courte est plutôt appropriée.
Stéphane Laurent
@ Xi'an C'est une citation de Bernardo (plus ou moins). Moi je suis d'accord ^^
Stéphane Laurent
1
@ Xi'an Je ne suis pas encore chez moi mais par exemple ici Les références postérieures sont obtenues par l'utilisation formelle du théorème de Bayes avec une fonction a priori de référence . Benardo dit référence à une fonction antérieure , pas à une distribution.
Stéphane Laurent
2
Plus sérieusement @ Xi'an, vous voulez dire que c'est restrictif pour les prieurs non informatifs bernardiens? C'est vrai, et quelques autres peut-être. Je sais que vous avez plus de connaissances que moi sur ce sujet. Mais je suis orienté vers Bernardo (et les prieurs correspondants).
Stéphane Laurent