Ratio de vraisemblance pour la distribution exponentielle à deux échantillons

Soit et deux variables aléatoires indépendantes avec des pdfs respectifs: $X$ $Y$

f (x; θ_{i}) = {\begin{cases} \frac{1}{θ_{i}} e^{- x / θ_{i}} 0 < x < \infty, 0 < θ_{i} < \infty \\ 0 elsewhere \end{cases}

$f \left(x;\theta_i \right) =\begin{cases} \frac{1}{\theta_i} e^{-x/ {\theta_i}} \quad 0<x<\infty, 0<\theta_i< \infty \\ 0 \quad \text{elsewhere} \end{cases}$

pour . Deux échantillons indépendants sont tirés afin de tester contre de tailles et partir de ces distributions. Je dois montrer que le LRT peut être écrit en fonction d'une statistique ayant une distribution , sous . $i=1,2$ $H_0: \theta_1 =\theta_2$ $H_1 : \theta_1 \neq \theta_2$ $n_1$ $n_2$ $\Lambda$ $F$ $H_0$

Puisque le mle de cette distribution est , la statistique LRT devient (je saute quelques étapes fastidieuses ici): $\hat{\theta}=\bar{x}$

Λ = \frac{{\bar{X}}^{n_{1}} {\bar{y}}^{n_{2}} (n_{1} + n_{2})}{n_{1} \bar{X} + n_{2} \bar{y}}

$\Lambda =\frac{\bar{x}^{n_1} \bar{y}^{n_2} \left( n_1+n_2 \right)}{n_1 \bar{x}+n_2 \bar{y}}$

Je sais que la distribution est définie comme le quotient de deux variables aléatoires chi carré indépendantes, chacune sur leurs degrés de liberté respectifs. De plus, puisque sous le nul, puis et . $F$ $X_i,Y_i \sim \Gamma \left( 1,\theta_1 \right)$ $\sum X_i \sim \Gamma \left(n_1 ,\theta_1 \right)$ $\sum Y_i \sim \Gamma \left(n_2, \theta_1 \right)$

Mais comment puis-je procéder à partir d'ici? Des indices?

Je vous remercie.

distributions self-study likelihood-ratio JohnK
la source

Astuce: Une variable aléatoire exponentielle est liée linéairement à une variable aléatoire avec deux degrés de liberté, et donc une variable aléatoire avec le paramètre d'ordre est linéairement liée à une variable aléatoire avec degrés de liberté .

χ^{2}

$\chi^2$

Γ

$\Gamma$

n

$n$

χ^{2}

$\chi^2$

2 n

$2n$

Dilip Sarwate

@DilipSarwate Je peux voir que . Dois-je continuer et essayer de reformuler ma fraction en fonction de cela?

Z = \frac{2}{θ_{1}} \sum X_{i} \sim χ^{2} (2 n_{1})

$Z= \frac {2}{\theta_1} \sum X_i \sim \chi^2 \left(2n_1 \right)$

JohnK

Peut-être que vous ne devez pas sauter les quelques étapes fastidieuses et dériver le rapport de vraisemblance à partir de zéro au lieu de passer aux estimateurs de vraisemblance maximale. Il s'agit d'un problème lié aux tests d'hypothèse et non à l'estimation de la probabilité maximale d'un paramètre .

θ_{i}

$\theta_i$

Dilip Sarwate

@DilipSarwate Vous avez mal compris. J'ai ces étapes intermédiaires écrites mais je ne les ai pas présentées ici. C'est ce que vous obtenez après la simplification.

JohnK

Vous pouvez peut-être commencer par m'expliquer (un non-statisticien, en passant) ce que signifie le T dans le TLR.

Dilip Sarwate

Réponses:

Si la mémoire est bonne, il semble que vous ayez oublié quelque chose dans votre statistique LR.

La fonction de vraisemblance sous le nul est

L_{H_{0}} = θ^{- n_{1} - n_{2}} \cdot \exp {- θ^{- 1} (\sum X_{je} + \sum y_{je})}

$L_{H_0} = \theta^{-n_1-n_2}\cdot \exp\left\{-\theta^{-1}\left(\sum x_i+\sum y_i\right)\right\}$

et le MLE est

{\hat{θ}}_{0} = \frac{\sum X_{je} + \sum y_{je}}{n_{1} + n_{2}} = w_{1} \bar{X} + w_{2} \bar{y}, w_{1} = \frac{n_{1}}{n_{1} + n_{2}}, w_{2} = \frac{n_{2}}{n_{1} + n_{2}}

$\hat \theta_0 = \frac {\sum x_i+\sum y_i}{n_1+n_2} = w_1\bar x +w_2 \bar y, \;\; w_1=\frac {n_1}{n_1+n_2},\;w_2=\frac {n_2}{n_1+n_2}$

Donc

L_{H_{0}} ({\hat{θ}}_{0}) = ({\hat{θ}}_{0})^{- n_{1} - n_{2}} \cdot e^{- n_{1} - n_{2}}

$L_{H_0}(\hat \theta_0) = (\hat \theta_0)^{-n_1-n_2}\cdot e^{-n_1-n_2}$

Selon l’alternative, la probabilité est

L_{H_{1}} = θ_{1}^{- n_{1}} \cdot \exp {- θ_{1}^{- 1} (\sum X_{je})} \cdot θ_{2}^{- n_{2}} \cdot \exp {- θ_{2}^{- 1} (\sum y_{je})}

$L_{H_1} = \theta_1^{-n_1}\cdot \exp\left\{-\theta_1^{-1}\left(\sum x_i\right)\right\}\cdot \theta_2^{-n_2}\cdot \exp\left\{-\theta_2^{-1}\left(\sum y_i\right)\right\}$

et les MLE sont

{\hat{θ}}_{1} = \frac{\sum X_{je}}{n_{1}} = \bar{X}, {\hat{θ}}_{2} = \frac{\sum y_{je}}{n_{2}} = \bar{y}

$\hat \theta_1 = \frac {\sum x_i}{n_1} = \bar x, \qquad \hat \theta_2 = \frac {\sum y_i}{n_2} = \bar y$

Donc

L_{H_{1}} ({\hat{θ}}_{1}, {\hat{θ}}_{2}) = ({\hat{θ}}_{1})^{- n_{1}} ({\hat{θ}}_{2})^{- n_{2}} \cdot e^{- n_{1} - n_{2}}

$L_{H_1}(\hat \theta_1,\,\hat \theta_2) = (\hat \theta_1)^{-n_1}(\hat \theta_2)^{-n_2}\cdot e^{-n_1-n_2}$

Considérez le rapport

\frac{L_{H_{1}} ({\hat{θ}}_{1}, {\hat{θ}}_{2})}{L_{H_{0}} ({\hat{θ}}_{0})} = \frac{({\hat{θ}}_{0})^{n_{1} + n_{2}}}{({\hat{θ}}_{1})^{n_{1}} ({\hat{θ}}_{2})^{n_{2}}} = {(\frac{{\hat{θ}}_{0}}{{\hat{θ}}_{1}})}^{n_{1}} \cdot {(\frac{{\hat{θ}}_{0}}{{\hat{θ}}_{2}})}^{n_{2}}

$\frac {L_{H_1}(\hat \theta_1,\,\hat \theta_2)}{L_{H_0}(\hat \theta_0)} = \frac {(\hat \theta_0)^{n_1+n_2}}{(\hat \theta_1)^{n_1}(\hat \theta_2)^{n_2}}=\left(\frac {\hat \theta_0}{\hat \theta_1}\right)^{n_1} \cdot \left(\frac {\hat \theta_0}{\hat \theta_2}\right)^{n_2}$

= {(w_{1} + w_{2} \frac{\bar{y}}{\bar{X}})}^{n_{1}} \cdot {(w_{1} \frac{\bar{X}}{\bar{y}} + w_{2})}^{n_{2}}

$= \left(w_1 + w_2 \frac {\bar y}{\bar x}\right)^{n_1} \cdot \left(w_1\frac {\bar x}{\bar y} + w_2 \right)^{n_2}$

Les moyennes des échantillons sont indépendantes - donc je pense que vous pouvez maintenant terminer ceci.

Alecos Papadopoulos
la source

Ce n'est pas très important, mais je pense que vous devriez définir le LRT comme l'inverse de la fraction que vous avez utilisée, voir stats.ox.ac.uk/~dlunn/b8_02/b8pdf_8.pdf .

JohnK

La réciproque a été utilisée car elle aide aux manipulations algébriques. Lorsque cette partie est terminée, on prend juste le négatif des pouvoirs extérieurs.

Alecos Papadopoulos

Bien. Pour montrer que la fraction suit une distribution F, il suffit de l'écrire comme , non?

\frac{\bar{X}}{\bar{Y}}

$\frac{\bar{X}}{\bar{Y}}$

\frac{\frac{2 \sum X_{i}}{2 θ_{1} n_{1}}}{\frac{2 \sum Y_{i}}{2 θ_{1} n_{2}}}

$\frac{\frac{2\sum X_i}{2 \theta_1 n_1}}{\frac{2\sum Y_i}{2 \theta_1 n_2 }}$

JohnK

Si c'est un "lien" correct entre les gammas et les chi-carrés, en effet.

Alecos Papadopoulos

Oui, Et nous devons également diviser par les degrés de liberté, . Merci beaucoup.

\frac{2}{θ_{1}} \sum X_{i} \sim χ^{2} (2 n_{1})

$\frac{2}{\theta_1} \sum X_i \sim \chi^2 \left( 2n_1 \right)$

2 n_{1}

$2n_1$

JohnK

La fonction de vraisemblance étant donné l'échantillon est donnée par $\mathbf x=(x_1,\ldots,x_{n_1},y_1,\ldots,y_{n_2})$

\begin{aligned} L (θ_{1}, θ_{2}) & = \frac{1}{θ_{1}^{n_{1}} θ_{2}^{n_{2}}} \exp [- \frac{1}{θ_{1}} \sum_{je = 1}^{n_{1}} X_{je} - \frac{1}{θ_{2}} \sum_{je = 1}^{n_{2}} y_{je}] 1_{X > 0}, θ_{1}, θ_{2} > 0 \end{aligned}

$\begin{align} L(\theta_1,\theta_2)&=\frac{1}{\theta_1^{n_1}\theta_2^{n_2}}\exp\left[-\frac{1}{\theta_1}\sum_{i=1}^{n_1} x_i-\frac{1}{\theta_2}\sum_{i=1}^{n_2}y_i\right]\mathbf1_{\mathbf x>0}\quad,\,\theta_1,\theta_2>0 \end{align}$

Le critère de test LR pour tester contre est de la forme $H_0:\theta_1=\theta_2$ $H_1:\theta_1\ne \theta_2$

\begin{aligned} λ (X) & = \frac{\underset{θ_{1} = θ_{2}}{souper} L (θ_{1}, θ_{2})}{\underset{θ_{1}, θ_{2}}{souper} L (θ_{1}, θ_{2})} = \frac{L (\hat{θ}, \hat{θ})}{L ({\hat{θ}}_{1}, {\hat{θ}}_{2})} \end{aligned}

$\begin{align} \lambda(\mathbf x)&=\frac{\sup\limits_{\theta_1=\theta_2}L(\theta_1,\theta_2)}{\sup\limits_{\theta_1,\theta_2}L(\theta_1,\theta_2)} =\frac{L(\hat\theta,\hat\theta)}{L(\hat\theta_1,\hat\theta_2)} \end{align}$

, où est le MLE de (sous ), et est le MLE sans restriction de pour . $\hat\theta$ $\theta_1=\theta_2$ $H_0$ $\hat\theta_i$ $\theta_i$ $i=1,2$

Il est facile de vérifier que

({\hat{θ}}_{1}, {\hat{θ}}_{2}) = (\bar{X}, \bar{y})

$(\hat\theta_1,\hat\theta_2)=(\bar x,\bar y)$

\hat{θ} = \frac{n_{1} \bar{X} + n_{2} \bar{y}}{n_{1} + n_{2}}

$\hat\theta=\frac{n_1\bar x+n_2\bar y}{n_1+n_2}$

Après quelques simplifications, nous obtenons cette symétrie pour le critère LRT:

\begin{aligned} λ (x) & = \underset{> 0}{\underset{⏟}{constant}} {(\frac{n_{1} \bar{x}}{n_{1} \bar{x} + n_{2} \bar{y}})}^{n_{1}} {(\frac{n_{2} \bar{y}}{n_{1} \bar{x} + n_{2} \bar{y}})}^{n_{2}} \\ = constant \cdot t^{n_{1}} (1 - t_{1})^{n_{2}}, where t = \frac{n_{1} \bar{x}}{n_{1} \bar{x} + n_{2} \bar{y}} \\ = g (t), say \end{aligned}

$\begin{align} \lambda(\mathbf x)&=\underbrace{\text{constant}}_{>0}\left(\frac{n_1\bar x}{n_1\bar x+n_2\bar y}\right)^{n_1}\left(\frac{n_2\bar y}{n_1\bar x+n_2\bar y}\right)^{n_2} \\&=\text{constant}\cdot\,t^{n_1}(1-t_1)^{n_2}\qquad,\text{ where }t=\frac{n_1\bar x}{n_1\bar x+n_2\bar y} \\&=g(t)\quad,\,\text{say} \end{align}$

En étudiant la nature de la fonction , nous voyons que $g$

g^{'} (t) ≷ 0 ⟺ t ≶ \frac{n_{1}}{n_{1} + n_{2}}

$g'(t)\gtrless 0\iff t\lessgtr \frac{n_1}{n_1+n_2}$

Maintenant que et sont distribués indépendamment, nous avons $2n_1\overline X/\theta_1\sim \chi^2_{2n_1}$ $2n_2\overline Y/\theta_2\sim \chi^2_{2n_2}$

\frac{\bar{X}}{\bar{Y}} \overset{H_{0}}{\sim} F_{2 n_{1}, 2 n_{2}}

$\frac{\overline X}{\overline Y}\stackrel{H_0}{\sim}F_{2n_1,2n_2}$

Définissez

v = \frac{n_{1} \bar{x}}{n_{2} \bar{y}}

$v=\frac{n_1\overline x}{n_2\overline y}$

, de sorte que

t = \frac{v}{v + 1} ↑ v

$t=\frac{v}{v+1}\quad\uparrow\, v$

Donc,

λ (x) < c ⟺ v < c_{1} or v > c_{2}

$\lambda(\mathbf x)<c \iff v<c_1\quad\text{ or }\quad v>c_2$

, où peut être trouvé à partir d'une certaine restriction de taille et du fait que, sous , $c_1,c_2$ $H_0$

\frac{n_{2}}{n_{1}} v \sim F_{2 n_{1}, 2 n_{2}}

$\frac{n_2}{n_1}v\sim F_{2n_1,2n_2}$

TêtuAtom
la source