Le test t et l'ANOVA unidirectionnelle sont-ils tous deux des tests Wald?

11

Le test t pour tester si la moyenne d'un échantillon normalement distribué est égale à une constante est dit être un test de Wald, en estimant l'écart type de la moyenne de l'échantillon par les informations du pêcheur sur la distribution normale à la moyenne de l'échantillon. Mais la statistique du test dans le test t a une distribution t de Student, tandis que la statistique du test dans un test Wald a asymptotiquement une distribution khi carré. Je me demande comment expliquer ça?

Dans l'ANOVA unidirectionnelle, la statistique de test est définie comme le rapport entre la variance inter-classe et la variance intra-classe. Je me demandais si c'était aussi un test de Wald? Mais la statistique de test dans l'ANOVA unidirectionnelle a une distribution F, et la statistique de test dans un test de Wald a asymptotiquement une distribution khi-deux. Je me demande comment expliquer ça?

Merci et salutations!

Tim
la source

Réponses:

17

Considérez la configuration suivante. Nous avons un vecteur de paramètres à dimensions qui spécifie complètement le modèle et un estimateur à maximum de vraisemblance . Les informations Fisher dans sont notées . Ce qu'on appelle généralement la statistique de Wald estpθθ^θI(θ)

(θ^θ)TI(θ^)(θ^θ)

où est l'information de Fisher évaluée dans l'estimateur du maximum de vraisemblance. Dans des conditions de régularité, la statistique de Wald suit asymptotiquement une avec degrés de liberté quand est le vrai paramètre. La statistique de Wald peut être utilisée pour tester une hypothèse simple sur l'ensemble du vecteur de paramètres.I(θ^)χ2pθH0:θ=θ0

Avec l'information inverse de Fisher, la statistique du test de Wald de l'hypothèse est Sa distribution asymptotique est une distribution avec 1 degré de liberté.Σ(θ)=I(θ)1H0:θ1=θ0,1

(θ^1θ0,1)2Σ(θ^)ii.
χ2

Pour le modèle normal où est le vecteur de la moyenne et des paramètres de variance, la statistique du test de Wald de tester si est avec la taille de l'échantillon. Ici est l'estimateur du maximum de vraisemblance de (où vous divisez par ). La statistique du test est où est l'estimateur sans biais de la variance (où vous divisez par le ) . La statistique du test de Wald est presque mais pas exactement égale au carré duθ=(μ,σ2)μ=μ0

n(μ^μ0)2σ^2
nσ^2σ2nt
n(μ^μ0)s
s2n1t-test statistique, mais ils sont asymptotiquement équivalents lorsque . La statistique du test carré a une distribution exacte, qui converge vers la avec 1 degré de liberté pour .ntF(1,n1)χ2n

La même histoire s'applique au test en ANOVA unidirectionnelle.F

NRH
la source
Merci! Je viens de découvrir que la statistique du test t est construite directement sur la statistique du test du rapport de vraisemblance, et non sur la statistique du test de Wald. L'ANOVA unidirectionnelle s'appuie-t-elle directement sur le test du rapport de vraisemblance?
Tim
3
@Tim, les tests utilisés dans l'ANOVA sont équivalents à des tests de rapport de vraisemblance basés sur la distribution d'erreur normale. F
NRH
Merci! Dans le modèle statistique normal, certains disent également que la distribution d'une légère modification de la statistique du test de Wald a une distribution F sous null. Est-ce vrai? Je poste une question ici
Tim
13

@NRH a donné une bonne réponse théorique, en voici une qui se veut plus simple, plus intuitive.

Il y a le test de Wald formel (décrit dans la réponse de NRH), mais nous nous référons également aux tests qui examinent la différence entre un paramètre estimé et sa valeur hypothétique par rapport à la variation estimée au paramètre estimé comme un test de style Wald. Ainsi, le test t tel que nous l'utilisons habituellement est un test de style Wald même s'il est légèrement différent du test Wald exact (une différence de rapport ànn1à l'intérieur d'une racine carrée). Nous pourrions même concevoir un test de style Wald basé sur une médiane estimée moins la médiane hypothétique divisée par une fonction de l'IQR, mais je ne sais pas quelle distribution il suivrait, il serait préférable d'utiliser un bootstrap, une permutation ou une simulation distribution pour ce test plutôt que de dépendre des asymptotiques chi-carré. Le test F pour l'ANOVA correspond également au schéma général, le numérateur peut être considéré comme mesurant la différence des moyennes par rapport à la moyenne globale et le dénominateur est une mesure de la variation.

Notez également que si vous placez une variable aléatoire qui suit à la distribution, elle suivra une distribution F avec 1 df pour le numérateur et le dénominateur df sera celui de la distribution t. Notez également qu'une distribution F avec un dénominateur infini df est une distribution khi-deux. Cela signifie donc que la statistique t (au carré) et la statistique F sont asymptotiquement chi carré, tout comme la statistique Wald. Nous utilisons simplement la distribution la plus exacte dans la pratique.

Greg Snow
la source