Estimateur du maximum de vraisemblance pour la distribution binomiale négative

La question est la suivante:

Un échantillon aléatoire de n valeurs est collecté à partir d'une distribution binomiale négative avec le paramètre k = 3.

Trouvez l'estimateur du maximum de vraisemblance du paramètre π.

Trouvez une formule asymptotique pour l'erreur standard de cet estimateur.

Expliquez pourquoi la distribution binomiale négative sera approximativement normale si le paramètre k est suffisamment grand. Quels sont les paramètres de cette approximation normale?

Mon travail a été le suivant:
1. J'ai l'impression que c'est ce que l'on veut mais je ne sais pas si je suis précis ici ou si je peux éventuellement aller plus loin compte tenu des informations fournies?

p (x) = (\binom{x - 1}{k - 1}) π^{k} (1 - π)^{x - k} L (π) = Π_{i}^{n} p (x_{n} | π) ℓ (π) = Σ_{i}^{n} \ln (p (x_{n} | π)) ℓ ‘ (π) = Σ_{i}^{n} \frac{k}{π} - \frac{(x - k)}{(1 - π)}

$p(x) = {x-1 \choose k-1}\pi^k(1-\pi)^{x-k}\\ L(\pi) = \Pi_i^n p(x_n|\pi)\\ \ell(\pi) = \Sigma_i^n\ln(p(x_n|\pi))\\ \ell`(\pi) = \Sigma_i^n\dfrac{k}{\pi}-\dfrac{(x-k)}{(1-\pi)}$

Je pense que ce qui suit est demandé. Pour la dernière partie, je sens que je dois remplacer $\hat{\pi}$ par $\dfrac{k}{x}$
$ℓ ‘ ‘ (\hat{π}) = - \frac{k}{{\hat{π}}^{2}} + \frac{x}{(1 - \hat{π})^{2}} s e (\hat{π}) = \sqrt{- \frac{1}{ℓ ‘ ‘ (\hat{π})}} s e (\hat{π}) = \sqrt{\frac{{\hat{π}}^{2}}{k} - \frac{(1 - \hat{π})^{2}}{x}}$ $\ell``(\hat{\pi}) = -\dfrac{k}{\hat{\pi}^2} + \dfrac{x}{(1-\hat{\pi})^2}\\ se(\hat{\pi}) = \sqrt{-\dfrac{1}{\ell``(\hat{\pi})}}\\ se(\hat{\pi}) = \sqrt{\dfrac{\hat{\pi}^2}{k} - \dfrac{(1-\hat{\pi})^2}{x}}\\$
Je ne sais pas vraiment comment prouver celui-ci et je le recherche toujours. Tout conseil ou lien utile serait grandement apprécié. J'ai l'impression que cela est lié soit au fait qu'une distribution binomiale négative peut être considérée comme un ensemble de distributions géométriques ou à l'inverse d'une distribution binomiale, mais je ne sais pas comment l'aborder.

Toute aide serait grandement appréciée

self-study maximum-likelihood negative-binomial Syzorr
la source

(1) Pour trouver l'estimation de vraisemblance maximale vous devez trouver où la fonction log-vraisemblance atteint son maximum. Le calcul du score (la première dérivée de la fonction log-vraisemblance par rapport à ) est un début - quelle valeur cela prendra-t-il au maximum? (Et n'oubliez pas que vous n'avez pas besoin d'estimer .)

\hat{π}

$\hat \pi$

π

$\pi$

k

$k$

Scortchi - Réinstallez Monica

J'ai oublié d'ajouter la dérivée du log-vraisemblance = 0 afin de déterminer le maximum. Si j'ai compris cela correctement (que je travaillais dessus depuis la publication), ce que j'ai est

\frac{k}{π} - \frac{Σ_{i = 0}^{n} (x_{i} - k)}{(1 - π)} = 0

$\dfrac{k}{\pi}-\dfrac{\Sigma_{i=0}^n(x_i-k)}{(1-\pi)} = 0$

Syzorr

Attention:Notez également que commence à 1.

\sum_{i = 1}^{n} \frac{k}{π} - \sum_{i = 1}^{n} \frac{(x_{i} - k)}{(1 - π)} = ?

$\sum_{i=1}^n \frac{k}{\pi} - \sum_{i=1}^n{\frac{(x_i-k)}{(1-\pi)}} = \ ?$

i

$i$

Scortchi - Réinstallez Monica

Dans (2), il est rare que l'inverse d'une différence soit la différence des inverses. Cette erreur affecte énormément votre formule finale pour .

s e (\hat{π})

$se(\hat\pi)$

whuber

Réponses:

$p(x) = {x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}$

$L(\pi;x_i) = \prod_{i=1}^{n}{x_i-1 \choose k-1}\pi^k(1-\pi)^{x_i-k}\\$

$\ell(\pi;x_i) = \sum_{i=1}^{n}[log{x_i-1 \choose k-1}+klog(\pi)+(x_i-k)log(1-\pi)]\\ \frac{d\ell(\pi;x_i)}{d\pi} = \sum_{i=1}^{n}[\dfrac{k}{\pi}-\dfrac{(x_i-k)}{(1-\pi)}]$

Mettez cela à zéro,

$\frac{nk}{\pi}=\frac{\sum_{i=1}^nx_i-nk}{1-\pi}$

$\therefore$ $\hat\pi=\frac{nk}{\sum_{i=1}^nx}$

Pour la deuxième partie, vous devez utiliser le théorème qui , est l'information sur le pêcheur ici. Par conséquent, l'écart type de sera . Ou vous l'appelez comme erreur standard puisque vous utilisez CLT ici. $\sqrt{n}(\hat\theta-\theta) \overset{D}{\rightarrow}N(0,\frac{1}{I(\theta)})$ $I(\theta)$ $\hat\theta$ $[nI(\theta)]^{-1/2}$

Nous devons donc calculer les informations de Fisher pour la distribution binomiale négative.

$\frac{\partial^2 \log(P(x;\pi))}{\partial\pi^2}=-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2}$

$I(\theta)=-E(-\frac{k}{\pi^2}-\frac{x-k}{(1-\pi)^2})=\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi}$

Remarque: pour le binôme négatif pmf $E(x) =\frac{k}{\pi}$

Par conséquent, l'erreur standard pour est $\hat \pi$ $[n(\frac{k}{\pi^2}+\frac{k(1-\pi)}{(1-\pi)^2\pi})]^{-1/2}$

Simplifions nous obtenons nous obtenons $se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

La distribution géométrique est un cas particulier de distribution binomiale négative lorsque k = 1. Remarque est une distribution géométrique $\pi(1-\pi)^{x-1}$

Par conséquent, une variable binomiale négative peut être écrite comme une somme de k variables aléatoires indépendantes (géométriques) distribuées de manière identique.

Donc, par CLT, la distribution binomiale négative sera approximativement normale si le paramètre k est suffisamment grand

Deep North
la source

Veuillez lire Quels sujets puis-je poser ici? sur les questions d'autoformation: plutôt que de faire les devoirs des gens pour eux, nous essayons de les aider à le faire eux-mêmes.

Scortchi - Réintégrer Monica

Vous ne devez tenir compte de la taille de l' échantillon lors du calcul du MLE. Vous pouvez confondre un compte de observations indépendantes, chacune des non. d'essais nécessaires pour atteindre échecs ( ) avec une seule observation du non. d'essais nécessaires pour atteindre échecs ( ). Le premier donne une probabilité de ; ce dernier, .

n

$n$

n

$n$

k

$k$

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \ldots, x_n$

k

$k$

n

$n$

\sum_{i = 1}^{n} π^{(} 1 - π)^{x_{i} - k}

$\sum_{i=1}^n{\pi^(1-\pi)^{x_i-k}}$

π^{k} (1 - π)^{n - k}

$\pi^k(1-\pi)^{n-k}$

Scortchi - Réintégrer Monica

Vous avez raison, je suis toujours déroutant sur cette partie. Merci beaucoup. Je pose également beaucoup de questions sur ce forum, mais j'espère vraiment que les gens pourront me donner une réponse très détaillée, puis je pourrai l'étudier moi-même étape par étape.

Deep North

Ouais. Je comprends pourquoi la règle interdisant de fournir trop de détails, mais cette réponse combinée avec mes propres notes de la conférence m'a permis de lier beaucoup de points lâches ensemble. J'ai l'intention d'aller parler à mon conférencier aujourd'hui à ce sujet afin que je puisse obtenir des éclaircissements de sa part. C'est vendredi ici maintenant. Affectation due lundi comme indiqué ci-dessus. Nous l'avons appris mercredi et nous n'avons qu'un seul exemple utilisant une distribution binomiale. Merci beaucoup pour le détail.

Syzorr

Il y a quelques défauts dans votre travail là-bas parce que I (θ) = E [] pas -E [] (ce qui m'a dérouté jusqu'à ce que je recherche les équations que vous avez utilisées)

s e (π) = \sqrt{\frac{π^{2} (π - 1)}{k n}}

$se(\pi)=\sqrt{\dfrac{\pi^2(\pi-1)}{kn}}$

Syzorr