Neg Binomial et le Prieur des Jeffreys

J'essaie d'obtenir le prior de Jeffreys pour une distribution binomiale négative. Je ne vois pas où je me trompe, donc si quelqu'un pouvait aider à le souligner, ce serait apprécié.

D'accord, la situation est la suivante: je dois comparer les distributions antérieures obtenues à l'aide d'un binôme et d'un binôme négatif, où (dans les deux cas) il y a essais et succès. J'obtiens la bonne réponse pour le cas binomial, mais pas pour le binôme négatif. $n$ $m$

Appelons le précédent des Jeffreys . Puis, $\pi_J(\theta)$

π_{J} (θ) \propto [I (θ)]^{1 / 2} .

$\pi_J(\theta)\propto [I(\theta)]^{1/2}.$

Dans les conditions de régularité (remplies car il s'agit de la famille exponentielle),

I (θ) = - E (\frac{\partial^{2} \log L (θ | x)}{\partial θ^{2}})

$I(\theta)=-E\left(\frac{\partial^2 \log L(\theta|x)}{\partial \theta^2}\right)$ où pour le binôme négatif est dans ce qui précède expression (le nombre total de succès est fixe, ne l'est pas). La distribution - je pense - est

n

$n$

x

$x$

m

$m$

n

$n$

p (m | θ) \propto θ^{m} (1 - θ)^{n - m}

$p(m|\theta)\propto\theta^m(1-\theta)^{n-m}$ puisque

θ

$\theta$ est défini comme la probabilité de succès et

m

$m$ est le nombre de succès. C'est aussi la vraisemblance, car

m

$m$ est un scalaire et non un vecteur. Par conséquent,

L (θ | n) \propto θ^{m} (1 - θ)^{n - m} \log L (θ | n) = m \log θ + (n - m) \log (1 - θ) \frac{\partial \log L (θ | n)}{\partial θ} = \frac{m}{θ} - \frac{n - m}{1 - θ} \frac{\partial^{2} \log L (θ | n)}{\partial θ^{2}} = - \frac{m}{θ^{2}} - \frac{n - m}{(1 - θ)^{2}}

$L(\theta|n)\propto\theta^m(1-\theta)^{n-m}\\ \log L(\theta|n)=m\log\theta +(n-m)\log (1-\theta)\\ \frac{\partial\log L(\theta|n)}{\partial \theta}=\frac{m}{\theta}-\frac{n-m}{1-\theta}\\ \frac{\partial^2\log L(\theta|n)}{\partial \theta^2}=-\frac{m}{\theta^2}-\frac{n-m}{(1-\theta)^2}$ donc les informations de Fisher sont

I (θ) = - E (\frac{\partial^{2} \log L (θ | n)}{\partial θ^{2}}) = \frac{m}{θ^{2}} + \frac{E (n) - m}{(1 - θ)^{2}} = \frac{m}{θ^{2}} + \frac{\frac{m θ}{1 - θ} - m}{(1 - θ)^{2}} = \frac{m (1 - θ)^{2} + \frac{m θ^{3}}{(1 - θ)} - m θ^{2}}{θ^{2} (1 - θ)^{2}} = \frac{m (1 - 2 θ) + \frac{m θ^{3}}{(1 - θ)}}{θ^{2} (1 - θ)^{2}} = \frac{m (1 - 2 θ) (1 - θ) + m θ^{3}}{θ^{2} (1 - θ)^{3}} = \frac{m (1 - 3 θ + 2 θ^{2} + θ^{3})}{θ^{2} (1 - θ)^{3}} \propto \frac{1 - 3 θ + 2 θ^{2} + θ^{3}}{θ^{2} (1 - θ)^{3}}

$I(\theta)=-E\left(\frac{\partial^2\log L(\theta|n)}{\partial \theta^2}\right)=\frac{m}{\theta^2}+\frac{E(n)-m}{(1-\theta)^2}=\frac{m}{\theta^2}+\frac{\frac{m\theta}{1-\theta}-m}{(1-\theta)^2}\\ =\frac{m(1-\theta)^2+\frac{m\theta^3}{(1-\theta)}-m\theta^2}{\theta^2(1-\theta)^2}=\frac{m(1-2\theta)+\frac{m\theta^3}{(1-\theta)}}{\theta^2(1-\theta)^2}\\ =\frac{m(1-2\theta)(1-\theta)+m\theta^3}{\theta^2(1-\theta)^3}=\frac{m(1-3\theta+2\theta^2+\theta^3)}{\theta^2(1-\theta)^3}\\ \propto\frac{1-3\theta+2\theta^2+\theta^3}{\theta^2(1-\theta)^3}$

Cependant, cela ne me donne pas la bonne réponse. La bonne réponse est

π_{J} (θ) \propto \frac{1}{θ (1 - θ)^{1 / 2}}

$\pi_J(\theta)\propto \frac{1}{\theta(1-\theta)^{1/2}}$ ce qui signifie que les informations que je reçois doivent être

I (θ) = \frac{1}{θ^{2} (1 - θ)}

$I(\theta)=\frac{1}{\theta^2(1-\theta)}$ car le précédent doit être proportionnel à la racine carrée de l'information.

Quelqu'un peut-il trouver des erreurs? Je ne serais pas surpris si je bousillais quelque chose avec la mise en place de la distribution (succès vs échecs avec leurs probabilités respectives, etc.).

J'ai utilisé la valeur attendue de Wikipedia et je connais la bonne réponse d' ici (page 3) .

probability bayesian inference prior hejseb
la source

Le problème se pose parce que la distribution binomiale négative peut être formulée différemment. En conséquence, l'attente diffère pour différentes formulations. De la façon dont vous avez spécifié la distribution binomiale négative, l'espérance de est (par exemple, voir ici à la page 3). Avec cela, les informations de Fisher se simplifient en $n$ $E(n) = m/\theta$

I (θ) = m (\frac{1}{θ^{2} (1 - θ)})

$I(\theta) = m\left(\frac{1}{\theta^2(1-\theta)}\right)$

Ainsi, le prieur de Jeffreys est

π_{J} (θ) = | I (θ) |^{1 / 2} \propto θ^{- 1} (1 - θ)^{- 1 / 2}

$\pi_{J}(\theta) = |I(\theta)|^{1/2}\propto \theta^{-1}(1-\theta)^{-1/2}$

comme vous l'avez déjà noté.

COOLSerdash
la source

Terrifiant! C'est très utile et aussi une excellente référence car il passe par le problème même avec lequel je luttais. Je vous remercie!

hejseb

J'ai trouvé une solution qui utilise une autre formulation, voir ici . Heureux d'avoir pu aider. Vous êtes les bienvenus.

COOLSerdash

Neg Binomial et le Prieur des Jeffreys

Réponses: