Tests statistiques communs en tant que modèles linéaires

(MISE À JOUR: J'ai plongé plus profondément dans cela et j'ai publié les résultats ici )

La liste des tests statistiques nommés est énorme. De nombreux tests courants reposent sur l'inférence de modèles linéaires simples, par exemple, un test t à un échantillon est simplement y = β + ε qui est testé par rapport au modèle nul y = μ + ε, c'est-à-dire que β = μ où μ est une valeur nulle valeur - généralement μ = 0.

Je trouve que c'est un peu plus instructif à des fins pédagogiques que d'apprendre par cœur des modèles nommés, quand les utiliser et leurs hypothèses comme s'ils n'avaient rien à voir les uns avec les autres. Cette approche favorise ne favorise pas la compréhension. Cependant, je ne trouve pas de bonne ressource pour collecter cela. Je suis plus intéressé par les équivalences entre les modèles sous-jacents plutôt que par la méthode d' inférence à partir d'eux. Bien que, pour autant que je puisse voir, les tests de rapport de vraisemblance sur tous ces modèles linéaires donnent les mêmes résultats que l'inférence "classique".

Voici les équivalences que j'ai apprises jusqu'à présent, en ignorant le terme d'erreur et en supposant que toutes les hypothèses nulles sont absentes d'un effet:$\varepsilon \sim \mathcal N(0, \sigma^2)$

Test t à un échantillon: .$y = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$

Test t pour échantillons : $y_2-y_1 = \beta_0 \qquad \mathcal{H}_0: \beta_0 = 0$

Ceci est identique à un test t à un échantillon sur les différences par paire.

Test t à deux échantillons: $y = \beta_1 * x_i + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

où x est un indicateur (0 ou 1).

Corrélation de Pearson: $y = \beta_1 * x + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

Remarquez la similitude avec un test t à deux échantillons qui n'est qu'une régression sur un axe x binaire.

Corrélation Spearman: $rank(y) = \beta_1 * rank(x) + \beta_0 \qquad \mathcal{H}_0: \beta_1 = 0$

Ceci est identique à une corrélation de Pearson sur x et y transformés par rang.

ANOVA unidirectionnelle: $y = \beta_1*x_1 + \beta_2*x_2 + \beta_3*x_3 +... \qquad \mathcal{H}_0: \beta_1, \beta_2, \beta_3, ... = \beta$

où sont des indicateurs sélectionnant le pertinent (un est 1; les autres sont 0). Le modèle pourrait probablement être écrit sous forme matricielle comme .$x_i$$\beta$$x$$Y = \beta * X$

ANOVA bidirectionnelle: $y = \beta_1 * X_1 + \beta_2 * X_2 + \beta_3 * X_1 * X_2 \qquad \mathcal{H}_0: \beta_3 = 0$

pour deux facteurs à deux niveaux. Ici sont des vecteurs de bêtas où l'un est sélectionné par le vecteur indicateur . Le montré ici est l'effet d'interaction.$\beta_i$$X_i$$\mathcal{H}_0$

Pourrions-nous ajouter plus de "tests nommés" à cette liste de modèles linéaires? Par exemple, régression multivariée, autres tests "non paramétriques", tests binomiaux ou RM-ANOVA?

MISE À JOUR: des questions ont été posées et des réponses sur l'ANOVA et les tests t en tant que modèles linéaires ici sur SO. Voir cette question et les questions connexes balisées .

Pas une liste exhaustive mais si vous incluez des modèles linéaires généralisés , la portée de ce problème devient considérablement plus grande.

Par exemple:

Le test de tendance de Cochran-Armitage peut être formulé par:

Le test d'indépendance de Pearson Chi-Square pour une table de contingence$p \times k$ est un modèle log-linéaire pour les fréquences cellulaires donné par:

De plus, le test t pour les variances inégales est bien approximé en utilisant l'estimation d'erreur robuste de Huber White.