Comment décrire et présenter la question de la séparation parfaite?

En effectuant mes activités d'excavation sur des questions sans réponse, j'ai trouvé celle-ci très sensible, à laquelle, je suppose, le PO a maintenant trouvé une réponse.
Mais j'ai réalisé que j'avais moi-même diverses questions concernant la question de la séparation parfaite dans la régression logistique, et une recherche (rapide) dans la littérature, ne semblait pas y répondre. J'ai donc décidé de lancer mon propre projet de recherche (probablement en réinventant la roue), et avec cette réponse, je voudrais partager certains de ses résultats préliminaires. Je crois que ces résultats contribuent à comprendre si la question de la séparation parfaite est purement «technique» ou si elle peut être donnée une description / explication plus intuitive.

Ma première préoccupation était de comprendre le phénomène en termes algorithmiques, plutôt qu'en théorie générale: dans quelles conditions l'approche d'estimation du maximum de vraisemblance "s'effondrera" si elle est alimentée par un échantillon de données qui contient un régresseur pour lequel le phénomène de parfait la séparation existe?

Les résultats préliminaires (théoriques et simulés) indiquent que:
1) Il importe qu'un terme constant soit inclus dans la spécification logit.
2) Il importe que le régresseur en question soit dichotomique (dans l'échantillon) ou non.
3) Si dichotomique, il peut être important qu'il prenne la valeur ou non. 4) Il importe que d'autres régresseurs soient présents ou non dans la spécification. 5) Il importe de combiner les 4 problèmes ci-dessus. $0$

Je vais maintenant présenter un ensemble de conditions suffisantes pour une séparation parfaite pour faire tomber le MLE. Cela n'est pas lié à la question de savoir si les divers logiciels statistiques avertissent du phénomène - ils peuvent le faire en scannant l'échantillon de données avant de tenter d'exécuter une estimation du maximum de vraisemblance. Je m'inquiète des cas où l'estimation du maximum de vraisemblance commencera - et quand elle tombera en panne au cours du processus.

Supposons un modèle de régression logistique à choix binaire «habituel»

P (Y_{i} ∣ β_{0}, X_{i}, z_{i}) = Λ (g (β_{0}, x_{i}, z_{i})), g (β_{0}, x_{i}, z_{i}) = β_{0} + β_{1} x_{i} + z_{i}^{'} γ

$P(Y_i \mid \beta_0, X_i, \mathbf z_i) = \Lambda (g(\beta_0,x_i, \mathbf z_i)), \;\; g(\beta_0,x_i, \mathbf z_i) = \beta_0 +\beta_1x_i + \mathbf z_i'\mathbf \gamma$

$X$ est le régresseur avec une séparation parfaite, tandis que est une collection d'autres régresseurs qui ne sont pas caractérisés par une séparation parfaite. Aussi $\mathbf Z$

Λ (g (β_{0}, x_{i}, z_{i})) = \frac{1}{1 + e^{- g (β_{0}, x_{i}, z_{i})}} \equiv Λ_{i}

$\Lambda (g(\beta_0,x_i, \mathbf z_i)) = \frac 1{1+e^{-g(\beta_0,x_i, \mathbf z_i)}}\equiv \Lambda_i$

La log-vraisemblance pour un échantillon de taille est $n$

\ln L = \sum_{i = 1}^{n} [y_{i} \ln (Λ_{i}) + (1 - y_{i}) \ln (1 - Λ_{i})]

$\ln L=\sum_{i=1}^{n}\left[y_i\ln(\Lambda_i)+(1-y_i)\ln(1-\Lambda_i)\right]$

Le MLE sera trouvé en définissant les dérivées égales à zéro. En particulier, nous voulons

\begin{matrix} (1) & \sum_{i = 1}^{n} (y_{i} - Λ_{i}) = 0 \end{matrix}

$\sum_{i=1}^{n}(y_i-\Lambda_i) = 0 \tag{1}$

\begin{matrix} (2) & \sum_{i = 1}^{n} (y_{i} - Λ_{i}) x_{i} = 0 \end{matrix}

$\sum_{i=1}^{n}(y_i-\Lambda_i)x_i = 0 \tag{2}$

La première équation vient de prendre la dérivée par rapport au terme constant, le deuxième à partir de la prise dérivée par rapport à . $X$

Supposons maintenant que dans tous les cas où nous avons , et que ne prend jamais la valeur lorsque . C'est le phénomène de séparation complète, ou "prédiction parfaite": si l'on observe on sait que . Si nous observons nous savons que . Cela est vrai indépendamment du fait que, en théorie ou dans l'échantillon , soit discret ou continu, dichotomique ou non. Mais aussi, il s'agit d'un phénomène spécifique à l'échantillon - nous ne prétendons pas qu'il retiendra la population. Mais l'échantillon spécifique est ce que nous avons entre nos mains pour alimenter le MLE. $y_1 =1$ $x_i = a_k$ $x_i$ $a_k$ $y_i=0$ $x_i = a_k$ $y_i=1$ $x_i \neq a_k$ $y_i=0$ $X$

Désignons maintenant la fréquence absolue de par $y_i =1$ $n_y$

\begin{matrix} (3) & n_{y} \equiv \sum_{i = 1}^{n} y_{i} = \sum_{y_{i} = 1} y_{i} \end{matrix}

$n_y \equiv \sum_{i=1}^ny_i = \sum_{y_i=1}y_i \tag{3}$

On peut alors réécrire eq comme $(1)$

\begin{matrix} (4) & n_{y} = \sum_{i = 1}^{n} Λ_{i} = \sum_{y_{i} = 1} Λ_{i} + \sum_{y_{i} = 0} Λ_{i} \Rightarrow n_{y} - \sum_{y_{i} = 1} Λ_{i} = \sum_{y_{i} = 0} Λ_{i} \end{matrix}

$n_y = \sum_{i=1}^n\Lambda_i = \sum_{y_i=1}\Lambda_i+\sum_{y_i=0}\Lambda_i \Rightarrow n_y - \sum_{y_i=1}\Lambda_i = \sum_{y_i=0}\Lambda_i \tag{4}$

Passant à l'éq. nous avons $(2)$

\sum_{i = 1}^{n} y_{i} x_{i} - \sum_{i = 1}^{n} Λ_{i} x_{i} = 0 \Rightarrow \sum_{y_{i} = 1} y_{i} a_{k} + \sum_{y_{i} = 0} y_{i} x_{i} - \sum_{y_{i} = 1} Λ_{i} a_{k} - \sum_{y_{i} = 0} Λ_{i} x_{i} = 0

$\sum_{i=1}^{n}y_ix_i -\sum_{i=1}^{n}\Lambda_ix_i = 0 \Rightarrow \sum_{y_i=1}y_ia_k+\sum_{y_i=0}y_ix_i - \sum_{y_i=1}\Lambda_ia_k-\sum_{y_i=0}\Lambda_ix_i =0$

en utilisant nous avons $(3)$

n_{y} a_{k} + 0 - a_{k} \sum_{y_{i} = 1} Λ_{i} - \sum_{y_{i} = 0} Λ_{i} x_{i} = 0

$n_ya_k + 0 - a_k\sum_{y_i=1}\Lambda_i-\sum_{y_i=0}\Lambda_ix_i =0$

\Rightarrow a_{k} (n_{y} - \sum_{y_{i} = 1} Λ_{i}) - \sum_{y_{i} = 0} Λ_{i} x_{i} = 0

$\Rightarrow a_k\left(n_y-\sum_{y_i=1}\Lambda_i\right) -\sum_{y_i=0}\Lambda_ix_i =0$

et en utilisant on obtient $(4)$

\begin{matrix} (5) & a_{k} \sum_{y_{i} = 0} Λ_{i} x_{i} - \sum_{y_{i} = 0} Λ_{i} x_{i} = 0 \Rightarrow \sum_{y_{i} = 0} (a_{k} - x_{i}) Λ_{i} = 0 \end{matrix}

$a_k\sum_{y_i=0}\Lambda_ix_i -\sum_{y_i=0}\Lambda_ix_i =0 \Rightarrow \sum_{y_i=0}(a_k-x_i)\Lambda_i=0 \tag {5}$

Donc: si la spécification contient un terme constant et qu'il existe une séparation parfaite par rapport au régresseur , le MLE tentera de satisfaire, entre autres, eq également. $X$ $(5)$

Mais notez que la sommation est sur le sous-échantillon où dans lequel par hypothèse. Cela implique ce qui suit: 1) si est dichotomique dans l'échantillon, alors pour tout dans la somme de . 2) Si n'est pas dichotomique dans l'échantillon, mais est soit sa valeur minimale soit sa valeur maximale dans l'échantillon, alors à nouveau pour tout dans la somme en . $y_i=0$ $x_i\neq a_k$
$X$ $(a_k-x_i) \neq 0$ $i$ $(5)$
$X$ $a_k$ $(a_k-x_i) \neq 0$ $i$ $(5)$

Dans ces deux cas, et puisque de plus est non négatif par construction, la seule façon dont eq. peut être satisfait lorsque pour tout dans la somme. Mais $\Lambda_i$ $(5)$ $\Lambda_i=0$ $i$

Λ_{i} = \frac{1}{1 + e^{- g (β_{0}, x_{i}, z_{i})}}

$\Lambda_i = \frac 1{1+e^{-g(\beta_0,x_i, \mathbf z_i)}}$

et donc la seule façon dont peut devenir égal à , est si les estimations des paramètres sont telles que . Et puisque est linéaire dans les paramètres, cela implique qu'au moins une des estimations des paramètres doit être "infini": c'est ce que signifie pour le MLE de "décomposer": ne pas produire d'estimations à valeur finie. Les cas 1) et 2) sont donc des conditions suffisantes pour interrompre la procédure MLE. $\Lambda_i$ $0$ $g(\beta_0,x_i, \mathbf z_i) \rightarrow -\infty$ $g()$

Mais considérons maintenant le cas où n'est pas dichotomique et n'est pas son minimum ou sa valeur maximale dans l'échantillon. Nous avons encore une séparation complète, une "prédiction parfaite", mais maintenant, dans l'éq. certains des termes seront positifs et certains seront négatifs. Cela signifie qu'il est possible que le MLE puisse satisfaire l'équation. produire des estimations finies pour tous les paramètres. Et les résultats de la simulation confirment qu'il en est ainsi. $X$ $a_k$ $(5)$ $(a_k-x_i)$ $(5)$

Je ne dis pas qu'un tel échantillon ne crée pas de conséquences indésirables pour les propriétés de l'estimateur, etc.: je note simplement que dans un tel cas, l'algorithme d'estimation fonctionnera comme d'habitude.

De plus, les résultats de la simulation montrent que s'il n'y a pas de terme constant dans la spécification , n'est pas dichotomique mais est une valeur extrême, et qu'il y a d'autres régresseurs présents, encore une fois le MLE fonctionnera - indiquant que la présence du terme constant (dont Les conséquences théoriques que nous avons utilisées dans les résultats précédents, à savoir l'exigence que le MLE satisfasse l'équation ), sont importantes. $X$ $a_k$ $(1)$

Alecos Papadopoulos
la source

Non, je ne l'ai pas fait, donc la question reste ouverte. Cependant, je devrais vous arrêter directement aux équations normales (1) et (2). Le problème pratique de la séparation parfaite est que l'optimiseur de vraisemblance veut envoyer le à , et par conséquent les probabilités prédites à zéro / un. Vous n'êtes plus à l'intérieur de l'espace des paramètres, donc les équations normales peuvent ne pas fonctionner. De plus, pour les variables continues, je caractériserais une séparation parfaite comme implique et implique , disons, plutôt qu'une égalité exacte à une valeur donnée.

g (\cdot)

$g(\cdot)$

\pm \infty

$\pm \infty$

x_{i} > a

$x_i > a$

Y_{i} = 1

$Y_i = 1$

x_{i} \leq a

$x_i \le a$

Y_{i} = 0

$Y_i = 0$

StasK

Les équations normales sont ce que le MLE essaiera de satisfaire - et pour ce faire, il peut certainement envoyer le logit à l'infini. Que voulez-vous dire par "les équations normales peuvent ne pas fonctionner?" Je ne suis pas sûr de comprendre. Concernant les variables continues, oui votre caractérisation de la séparation parfaite est essentiellement en accord avec ce que j'ai trouvé, à savoir que la valeur " " est extrême dans l'échantillon, pour que le MLE se décompose. Vos inégalités décrivent essentiellement la même chose.

a_{k}

$a_k$

Alecos Papadopoulos

ML ne fonctionne pas lorsque les conditions de régularité ne sont pas respectées. Voir par exemple ceci .

StasK

Je suis d'accord avec toi. Mon message ne conteste pas le contraire. Ce que j'ai essayé de faire était de "prédire" quand l'implémentation réelle de l' algorithme MLE à travers la tentative de satisfaire les conditions habituelles, se décomposerait numériquement sous une séparation parfaite, et quand elle ne le serait pas. Mais mon article ne discute pas de l'utilité / signification des estimations réelles que nous obtiendrons, dans le cas où l'algorithme MLE fournit des résultats, et je l'ai écrit clairement dans mon article. Je vois mes exemples comme un avertissement: "méfiez-vous, même s'il existe une séparation parfaite, ne faites pas confiance à l'algorithme MLE pour vous le dire".

Alecos Papadopoulos

D'ACCORD. Dans cet esprit, c'est une excellente analyse approfondie et une contribution précieuse à notre compréhension de la séparation parfaite. Mais à proprement parler, ce n'est pas une réponse à ma question qui portait sur le signalement du phénomène (et vous le reconnaissez également dans votre réponse). Puis-je également suggérer d'élargir un peu votre réponse et de décrire ce qui se passe avec l'arithmétique de précision finie - (5) sera considéré comme "assez petit" (par exemple, < ou quelque chose comme ça) en valeur absolue , et le logiciel peut heureusement cracher des valeurs non sensuellement grandes (comme dans R le fait, à ma connaissance)?

10^{- 8}

$10^{-8}$ glm

StasK

Comment décrire et présenter la question de la séparation parfaite?

Réponses: