Est-il utile de tester la normalité avec un échantillon de très petite taille (par exemple, n = 6)?

J'ai un échantillon de 6. Dans ce cas, est-il judicieux de tester la normalité en utilisant le test de Kolmogorov-Smirnov? J'ai utilisé SPSS. J'ai un très petit échantillon car il faut du temps pour obtenir chacun. Si cela n'a pas de sens, combien d'échantillons est le nombre le plus bas qui a du sens à tester?

Remarque: j'ai fait une expérience liée au code source. L'échantillon est le temps passé à coder dans une version du logiciel (version A) En fait, j'ai une autre taille d'échantillon de 6 qui est le temps passé à coder dans une autre version du logiciel (version B)

Je voudrais faire des tests d'hypothèse en utilisant un test t à un échantillon pour tester si le temps passé dans la version de code A est différent du temps passé dans la version de code B ou non (c'est mon H1). La condition préalable du test t à un échantillon est que les données à tester doivent être normalement distribuées. C'est pourquoi je dois tester la normalité.

Oui.

Tous les tests d'hypothèse ont deux propriétés saillantes : leur taille (ou "niveau de signification"), un nombre qui est directement lié à la confiance et aux taux de faux positifs attendus, et leur puissance, qui exprime le risque de faux négatifs. Lorsque les tailles d'échantillon sont petites et que vous continuez à insister sur une petite taille (confiance élevée), la puissance empire. Cela signifie que les tests sur petits échantillons ne peuvent généralement pas détecter de différences petites ou modérées. Mais ils sont toujours significatifs .

Le test KS évalue si l'échantillon semble provenir d'une distribution normale. Un échantillon de six valeurs devra en effet sembler très inhabituel pour échouer à ce test. Mais si c'est le cas, vous pouvez interpréter ce rejet de la valeur nulle exactement comme vous l'interpréteriez avec des tailles d'échantillon plus élevées. En revanche, si le test ne parvient pas à rejeter l'hypothèse nulle, cela vous en dit peu, en raison du taux de faux négatifs élevé. En particulier, il serait relativement risqué d'agir comme si la distribution sous-jacente était normale.

Une dernière chose à surveiller ici: certains logiciels utilisent des approximations pour calculer les valeurs de p à partir des statistiques de test. Souvent, ces approximations fonctionnent bien pour les grands échantillons mais agissent mal pour les très petits échantillons. Dans ce cas, vous ne pouvez pas vous fier à ce que la valeur p ait été correctement calculée, ce qui signifie que vous ne pouvez pas être sûr que la taille de test souhaitée a été atteinte. Pour plus de détails, consultez la documentation de votre logiciel.

Quelques conseils: Le test KS est beaucoup moins puissant pour tester la normalité que d'autres tests spécialement conçus à cet effet. Le meilleur d'entre eux est probablement le test de Shapiro-Wilk , mais d'autres couramment utilisés et presque aussi puissants sont le Shapiro-Francia et Anderson-Darling .

Ce graphique montre la distribution de la statistique du test de Kolmogorov-Smirnov dans 10 000 échantillons de six variables normalement réparties:

Sur la base de 100 000 échantillons supplémentaires, le 95e centile supérieur (qui estime la valeur critique de cette statistique pour un test de taille ) est 0,520. Un exemple d'échantillon qui réussit ce test est l'ensemble de données$\alpha=5\%$

0.000, 0.001, 0.002, 1.000, 1.001, 1000000

La statistique de test est de 0,5 (ce qui est inférieur à la valeur critique). Un tel échantillon serait rejeté en utilisant les autres tests de normalité.

Comme @whuber l'a demandé dans les commentaires, une validation pour mon NON catégorique. edit: avec le test shapiro, car le test ks à un échantillon est en fait mal utilisé. Whuber est correct: pour une utilisation correcte du test de Kolmogorov-Smirnov, vous devez spécifier les paramètres de distribution et ne pas les extraire des données. C'est cependant ce qui est fait dans les progiciels statistiques comme SPSS pour un test KS à un échantillon.

Vous essayez de dire quelque chose sur la distribution et vous voulez vérifier si vous pouvez appliquer un test t. Donc, ce test est fait pour confirmer que les données ne s'écartent pas suffisamment de la normalité pour rendre invalides les hypothèses sous-jacentes de l'analyse. Par conséquent, vous n'êtes pas intéressé par l'erreur de type I, mais par l'erreur de type II.

Il faut maintenant définir «significativement différent» pour pouvoir calculer le minimum n pour une puissance acceptable (disons 0,8). Avec les distributions, ce n'est pas simple à définir. Par conséquent, je n'ai pas répondu à la question, car je ne peux pas donner de réponse raisonnable en dehors de la règle empirique que j'utilise: n> 15 et n <50. Sur la base de quoi? Gut sentiment fondamental, donc je ne peux pas défendre ce choix en dehors de l'expérience.

Mais je sais qu'avec seulement 6 valeurs, votre erreur de type II est forcément proche de 1, ce qui rend votre puissance proche de 0. Avec 6 observations, le test de Shapiro ne peut pas distinguer entre une distribution normale, poisson, uniforme ou même exponentielle. Avec une erreur de type II proche de 1, le résultat de votre test n'a aucun sens.

Pour illustrer le test de normalité avec le shapiro-test:

shapiro.test(rnorm(6)) # test a the normal distribution
shapiro.test(rpois(6,4)) # test a poisson distribution
shapiro.test(runif(6,1,10)) # test a uniform distribution
shapiro.test(rexp(6,2)) # test a exponential distribution
shapiro.test(rlnorm(6)) # test a log-normal distribution

La seule où environ la moitié des valeurs sont inférieures à 0,05 est la dernière. C'est aussi le cas le plus extrême.

si vous voulez savoir quel est le minimum n qui vous donne une puissance que vous aimez avec le test shapiro, on peut faire une simulation comme celle-ci:

results <- sapply(5:50,function(i){
  p.value <- replicate(100,{
    y <- rexp(i,2)
    shapiro.test(y)$p.value
  })
  pow <- sum(p.value < 0.05)/100
  c(i,pow)
})

ce qui vous donne une analyse de puissance comme celle-ci:

dont je conclus que vous avez besoin d'environ 20 valeurs minimum pour distinguer une exponentielle d'une distribution normale dans 80% des cas.

tracé de code:

plot(lowess(results[2,]~results[1,],f=1/6),type="l",col="red",
    main="Power simulation for exponential distribution",
    xlab="n",
    ylab="power"
)

La question posée ici a une idée fausse selon laquelle la vérification de la normalité est requise pour un échantillon de 6. Ici, l'objectif principal est de «tester si le temps passé dans la version de code A est différent du temps passé dans la version de code B ou non ( Ceci est mon H1) ». Lorsque le mot «différer» est utilisé, s'agit-il d'un seul test de queue ?. Cependant, le test de normalité est une deuxième étape. La première étape consiste à vérifier l'adéquation de la puissance prédéterminée (1-β) du test pour une taille d'échantillon donnée lorsque la puissance est très mauvaise, alors à quoi sert de tester la condition de normalité?. La vérification des conditions de normalité nous aidera à décider de passer un test paramétrique ou non paramétrique. Si la taille de votre échantillon n'est pas suffisamment puissante, pourquoi penser à tester la normalité?.