L'homogénéité de l'échantillon est-elle une hypothèse d'analyse de régression?

J'ai supposé (c'est-à-dire je pense qu'on m'a enseigné, il y a plus longtemps que je ne me souviens) que les analyses de régression supposent qu'un échantillon est homogène. Si ce n'est pas le cas, la chose appropriée à faire est soit d'ajouter des variables fictives pour coder les différents groupes inclus dans l'échantillon, soit d'effectuer une ANCOVA pour tester si les paramètres de groupe sont égaux. Ignorer l'hétérogénéité d'un échantillon invalide-t-il une analyse de régression?

L'échantillon est généralement supposé homogène en ce sens que les termes d'erreur $\epsilon_i$ dans l'équation $y_i=\beta_0+\beta_1x_1+\beta_2x_2+\ldots+\epsilon_i$ satisify les conditions suivantes:

1. Tous ont une moyenne de zéro: $\rm E(\epsilon_i)=0$ pour tous $i$,
2. Sont non corrélés: $\rm Cov(\epsilon_i,\epsilon_j)=0$ pour $i\neq j$,
3. Tous ont la même variance: $\rm Cov(\epsilon_i)=\sigma^2$ pour tous $i$.

Celles-ci sont connues sous le nom de conditions de Gauss-Markov et garantissent que l'estimateur des moindres carrés ordinaires fonctionne bien (biais, meilleur estimateur linéaire sans biais ...).

Notez que ces conditions peuvent être remplies même si vous avez des observations de différents groupes. Souvent, ce n'est cependant pas le cas. S'il y a des différences de moyenne entre les groupes, les première et deuxième conditions sont violées. S'il existe des corrélations au sein des groupes, la deuxième condition est violée. Si les groupes diffèrent dans la variance, le troisième est violé.

La violation des conditions de Gauss-Markov peut provoquer toutes sortes de problèmes. Pour certaines des conséquences de la variance non constante, voir la page Wikipedia sur l'hétéroscédasticité .

Les transformations peuvent être utiles lorsque la troisième condition n'est pas remplie, mais si les différents groupes posent des problèmes avec les conditions un et deux, il semble plus raisonnable d'ajouter une variable fictive de groupe ou d'utiliser ANCOVA.