Pourquoi l'estimateur OLS du coefficient AR (1) est-il biaisé?

J'essaie de comprendre pourquoi OLS donne un estimateur biaisé d'un processus AR (1). Considérez Dans ce modèle, l'exogénéité stricte est violée, c'est-à-dire que et sont corrélés mais et sont pas corrélés. Mais si cela est vrai, pourquoi la dérivation simple suivante ne tient-elle pas?

\begin{aligned} y_{t} & = α + β y_{t - 1} + ϵ_{t}, \\ ϵ_{t} & \overset{i i d}{\sim} N (0, 1) . \end{aligned}

$\begin{aligned} y_{t} &= \alpha + \beta y_{t-1} + \epsilon_{t}, \\ \epsilon_{t} &\stackrel{iid}{\sim} N(0,1). \end{aligned}$

y_{t}

$y_t$

ϵ_{t}

$\epsilon_t$

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_t$

\begin{aligned} plim \hat{β} & = \frac{Cov (y_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = \frac{Cov (α + β y_{t - 1} + ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β + \frac{Cov (ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β . \end{aligned}

$\begin{aligned} \text{plim} \ \hat{\beta} &= \frac{\text{Cov}(y_{t},y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\frac{\text{Cov}(\alpha + \beta y_{t-1}+\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &= \beta+ \frac{\text{Cov}(\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\beta. \end{aligned}$

time-series least-squares bias autoregressive estimators Florestan
la source

Il y a eu quelques questions connexes à Cross Validated. Vous pourriez bénéficier de les rechercher.

Richard Hardy

Je les ai vus, mais ils ne m'ont pas vraiment aidé. J'ai trouvé une preuve et des simulations qui montrent ce résultat. Ce qui m'intéresse, c'est ce qui ne va pas avec mon raisonnement ci-dessus.

Florestan

Lorsque vous utilisez , ne parlez-vous pas de cohérence plutôt que de (dé) biais? En cas de (non) biais, vous devez utiliser les attentes.

plim

$\text{plim}$

Richard Hardy

Vous avez tout à fait raison, cela pourrait résoudre le casse-tête. Donc, si l'équation ci-dessus ne tient pas sans plim, elle ne contredirait pas la polarisation de l'OLS dans de petits échantillons et montrerait la cohérence de l'OLS en même temps. Bien que je sois un peu incertain: cette formule de covariance sur la variance ne vaut-elle vraiment que pour le plim et pas aussi dans l'attente? Merci beaucoup déjà!

Florestan du

L'estimateur OLS lui-même n'implique aucun s, vous devez simplement regarder les attentes dans les échantillons finis.

plim

$\text{plim}$

Richard Hardy

Réponses:

Comme cela a été essentiellement discuté dans les commentaires, l'impartialité est une propriété d'échantillon fini, et si elle se maintenait, elle serait exprimée comme suit:

E (\hat{β}) = β

$E (\hat \beta ) = \beta$

(où la valeur attendue est le premier moment de la distribution des échantillons finis)

tandis que la cohérence est une propriété asymptotique exprimée en

plim \hat{β} = β

$\text{plim} \hat \beta = \beta$

L'OP montre que même si l'OLS dans ce contexte est biaisé, il est toujours cohérent.

E (\hat{β}) \neq β but plim \hat{β} = β

$E (\hat \beta ) \neq \beta\;\;\; \text{but}\;\;\; \text{plim} \hat \beta = \beta$

Pas de contradiction ici.

Alecos Papadopoulos
la source

@Alecos explique bien pourquoi un plim correct et un impartialité ne sont pas les mêmes. Quant à la raison sous-jacente pour laquelle l'estimateur n'est pas sans biais, rappelons que le caractère sans biais d'un estimateur nécessite que tous les termes d'erreur soient des moyennes indépendantes de toutes les valeurs du régresseur, . $E(\epsilon|X)=0$

Dans le cas présent, la matrice de régresseur se compose des valeurs , de sorte que - voir le commentaire de mpiktas - la condition se traduit par pour tout . $y_1,\ldots,y_{T-1}$ $E(\epsilon_s|y_1,\ldots,y_{T-1})=0$ $s=2,\ldots,T$

Ici nous avons

y_{t} = β y_{t - 1} + ϵ_{t},

$\begin{equation*} y_{t}=\beta y_{t-1}+\epsilon _{t}, \end{equation*}$ Même dans l'hypothèse nous avons que Mais, est aussi un régresseur pour les valeurs futures dans un modèle AR, comme .

E (ϵ_{t} y_{t - 1}) = 0

$E(\epsilon_{t}y_{t-1})=0$

E (ϵ_{t} y_{t}) = E (ϵ_{t} (β y_{t - 1} + ϵ_{t})) = E (ϵ_{t}^{2}) \neq 0.

$\begin{equation*} E(\epsilon_ty_{t})=E(\epsilon_t(\beta y_{t-1}+\epsilon _{t}))=E(\epsilon _{t}^{2})\neq 0. \end{equation*}$

y_{t}

$y_t$

y_{t + 1} = β y_{t} + ϵ_{t + 1}

$y_{t+1}=\beta y_{t}+\epsilon_{t+1}$

Christoph Hanck
la source

J'ajouterais la clarification que dans ce cas se traduit par pour chaque . Ensuite, la discussion ultérieure devient un peu plus claire.

E (ε | X)

$E(\varepsilon | X)$

E (ε_{s} | y_{1}, . . ., y_{T})

$E(\varepsilon_s|y_{1},...,y_T)$

s

$s$

mpiktas

bon point, j'ai fait un montage

Christoph Hanck

Élargir deux bonnes réponses. Notez l'estimateur OLS:

\hat{β} = β + \frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}

$\hat\beta =\beta + \frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}$

Pour l'impartialité dont nous avons besoin

E [\frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}] = 0.

$E\left[\frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}\right]=0.$

Mais pour cela, nous avons besoin que pour chaque . Pour le modèle AR (1), cela échoue clairement, car est lié aux futures valeurs . $E(\varepsilon_t|y_{1},...,y_{T-1})=0,$ $t$ $\varepsilon_t$ $y_{t},y_{t+1},...,y_{T}$

mpiktas
la source

Juste pour vérifier si j'ai bien compris: le problème n'est pas le numérateur, pour chaque t et sont pas corrélés. Le problème est le dénominateur qui présente des t plus élevés de telle sorte qu'il existe une corrélation entre le numérateur et le dénominateur de sorte que je ne peux pas prendre l'espérance dans la somme du numérateur (sous une exogénéité stricte, je pourrais le faire?!). Est-ce l'intuition mathématique correcte?

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_{t}$

Florestan

Oui, c'est l'intuition correcte. Notez que l'exogénéité stricte n'est pas possible dans ce cas, mais pour l'impartialité, l'exogénéité stricte devient une exigence.

mpiktas