Distribution de l'inverse du coefficient de régression

Supposons que nous ayons un modèle linéaire qui satisfait toutes les hypothèses de régression standard (Gauss-Markov). Nous nous intéressons à . $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ $\theta = 1/\beta_1$

Question 1: Quelles hypothèses sont nécessaires pour la distribution de être bien défini? serait important --- d'autres? $\hat{\theta}$ $\beta_1 \neq 0$

Question 2: Ajoutez l'hypothèse que les erreurs suivent une distribution normale. Nous savons que, si est le MLE et est une fonction monotone, puis est le MLE pour . La monotonie n'est-elle nécessaire qu'au voisinage de ? En d' autres termes, est MLE? Le théorème de la cartographie continue nous indique au moins que ce paramètre est cohérent. $\hat{\beta}_1$ $g(\cdot)$ $g\left(\hat{\beta}_1\right)$ $g(\beta_1)$ $\beta_1$ $\hat{\theta} = 1/\hat{\beta}$

Question 3: Sont à la fois la méthode Delta et le bootstrap les moyens appropriés pour trouver la distribution de ? $\hat{\theta}$

Question 4: Comment ces réponses changent-elles pour le paramètre ? $\gamma = \beta_0 / \beta_1$

Mis à part: nous pourrions envisager de réorganiser le problème pour donner pour estimer directement les paramètres. Cela ne me semble pas fonctionner car les hypothèses de Gauss-Markov n'ont plus de sens ici; on ne peut pas parler de, par exemple. Cette interprétation est-elle correcte?

\begin{aligned} X_{je} & = \frac{β_{0}}{β_{1}} + \frac{1}{β_{1}} y_{je} + \frac{1}{β_{1}} ϵ_{je} \\ = γ + θ y_{je} + \frac{1}{β_{1}} ϵ_{je} \end{aligned}

$\begin{align*} x_i &= \frac{\beta_0}{\beta_1} + \frac{1}{\beta_1} y_i + \frac{1}{\beta_1} \epsilon_i \\ &= \gamma + \theta y_i + \frac{1}{\beta_1} \epsilon_i \end{align*}$

E [ϵ ∣ y]

$\text{E}[\epsilon \mid y]$

regression distributions maximum-likelihood bootstrap Charlie
la source

Est - ce que les hypothèses « standard » comprennent la Normalité de l'

ou non?

ϵ_{i}

$\epsilon_i$

whuber

Bon point; J'ai ajouté cette hypothèse à la partie concernant le MLE. Mais cela ne devrait pas être nécessaire pour les autres.

Charlie

La distribution d'échantillonnage de

est normale, d'où celle de

est l'inverse d'une normale. Ceci est bimodal avec une moyenne divergente (infinie), quelle que soit la moyenne de

, et est infiniment plat à 0. La méthode Delta sera donc horrible, les approximations MLE asymptotiques habituelles seront médiocres, et même le bootstrap peut être suspect.

β_{1}

$\beta_1$

θ

$\theta$

β_{1}

$\beta_1$

whuber

@whuber, pourriez-vous développer cela? Mon intuition ne voit pas comment l'inverse d'une normale devrait être bimodal; Je dirais que toute la masse serait à l'inverse de la moyenne de la normale (ici,

). J'étais inquiet de la possibilité moyenne infinie à cause d'une masse proche de 0. Le bootstrap et les résultats asymptotiques nécessitent l'existence des moments estimés, c'est donc finalement ce sur quoi cette question repose.

1 / {\hat{β}}_{1}

$1/\hat{\beta}_1$

Charlie

Le PDF d'une normale réciproque est

. À 0, toutes les dérivées sont égales à 0; trouver des points critiques de son logarithme identifie un mode positif et négatif (facilement calculé en termes de

); l'intégrale de

diverge comme l'intégrale de

. Le problème des premiers moments infinis se rattache à l'inverse detoutevariable aléatoire ayant une densité de probabilité positive à 0, qui inclut toutes les normales.

\exp (- (1 / x - μ)^{2} / (2 σ^{2})) / (\sqrt{2 π} x^{2} σ) d x

$\exp(-(1/x-\mu)^2/(2\sigma^2))/(\sqrt{2\pi}x^2\sigma)dx$

σ

$\sigma$

μ / σ

$\mu/\sigma$

| x |

$|x|$

| x | / x^{2} = 1 / | x |

$|x|/x^2=1/|x|$

whuber

Q1. Si est le MLE de , alors est l'EMV de et est une condition suffisante pour cet estimateur soit bien définie. $\hat\beta_1$ $\beta_1$ $\hat\theta$ $\theta$ $\beta_1 \neq 0$

Q2. est le MLE de par la propriété d'invariance du MLE. De plus, vous n'avez pas besoin de la monotonie de si vous n'avez pas besoin d'obtenir son inverse. Il suffit que soit bien défini à chaque point. Vous pouvez le vérifier dans le théorème 7.2.1 p. 350 de "Probability and Statistical Inference" de Nitis Mukhopadhyay. $\hat\theta = 1/\hat\beta$ $\theta$ $g$ $g$

Q3. Oui, vous pouvez utiliser les deux méthodes, je vérifierais également la probabilité de profil de . $\theta$

Q4. Ici, vous pouvez re-paramétrer le modèle en termes de paramètres d'intérêt . Par exemple, le MLE de est et on peut calculer la probabilité de profil de ce paramètre ou sa distribution de bootstrap comme d' habitude. $(\theta,\gamma)$ $\gamma$ $\hat\gamma=\hat\beta_0/\hat\beta_1$

L'approche que vous mentionnez à la fin est incorrecte, vous envisagez en fait un "modèle d'étalonnage" que vous pouvez vérifier dans la littérature. La seule chose dont vous avez besoin est de reparamétrer en termes de paramètres d'intérêt.

J'espère que ça aide.

Sincères amitiés.

XMX
la source

Merci pour la réponse. Je n'ai pas le livre que vous citez, mais souvent ces propriétés nécessitent l'existence des moments à estimer. Je ne suis pas sûr que l'inverse d'une normale ait les moments requis. J'aurais dû préciser ce point dans ma question.

Charlie

Distribution de l'inverse du coefficient de régression

Réponses: