Calcul de la taille d'échantillon requise, estimation de la précision de la variance?

Contexte

J'ai une variable avec une distribution inconnue.

J'ai 500 échantillons, mais je voudrais démontrer la précision avec laquelle je peux calculer la variance, par exemple pour affirmer qu'une taille d'échantillon de 500 est suffisante. Je souhaite également connaître la taille minimale de l'échantillon qui serait nécessaire pour estimer la variance avec une précision de .$X\%$

Des questions

Comment puis-je calculer

1. la précision de mon estimation de la variance étant donné un échantillon de ? de ?$n=500$$n=N$
2. Comment puis-je calculer le nombre minimum d'échantillons requis pour estimer la variance avec une précision de ?$X$

Exemple

Figure 1: estimation de la densité du paramètre sur la base des 500 échantillons.

Figure 2 Voici un graphique de la taille de l'échantillon sur l'axe des x par rapport aux estimations de la variance sur l'axe des y que j'ai calculées en utilisant des sous-échantillons de l'échantillon de 500. L'idée est que les estimations convergeront vers la vraie variance lorsque n augmentera .

Cependant, les estimations ne sont pas valides indépendamment puisque les échantillons utilisés pour estimer la variance pour ne sont pas indépendants les uns des autres ou des échantillons utilisés pour calculer la variance àn ∈ [ 20 , 40 , 80 $n \in [10,125,250,500]$$n\in [20,40,80]$

Pour les variables aléatoires iid , l'estimateur sans biais pour la variance s 2 (celui avec le dénominateur n - 1 ) a une variance:$X_1, \dotsc, X_n$$s^2$$n-1$

$$\mathrm{Var}(s^2) = \sigma^4 \left(\frac{2}{n-1} + \frac{\kappa}{n}\right)$$

où est l'excès de kurtosis de la distribution (référence: Wikipedia ). Alors maintenant, vous devez également estimer le kurtosis de votre distribution. Vous pouvez utiliser une quantité parfois décrite comme γ 2 (également de Wikipédia ):$\kappa$$\gamma_2$

$$\gamma_2 = \frac{\mu_4}{\sigma_4} - 3$$

Je suppose que si vous utilisez $s$ comme estimation de $\sigma$ et comme estimation pour κ , vous obtenez une estimation raisonnable pour V a r ( s 2 ) , bien que je ne vois aucune garantie qu'il ne soit pas biaisé. Voyez si cela correspond à la variance entre les sous-ensembles de vos 500 points de données, et si cela ne vous inquiète plus :)$\gamma_2$$\kappa$$\mathrm{Var}(s^2)$

Apprendre une variance est difficile.

Il faut (peut-être de façon surprenante) un grand nombre d'échantillons pour bien estimer une variance dans de nombreux cas. Ci-dessous, je vais montrer le développement du cas "canonique" d'un échantillon normal iid.

Supposons que , i = 1 , … , n sont des variables aléatoires indépendantes N ( μ , σ 2 ) . Nous recherchons un intervalle de confiance de 100 ( 1 - α ) % pour la variance de telle sorte que la largeur de l'intervalle soit ρ s 2 , c'est-à-dire que la largeur soit 100 ρ $Y_i$$i=1,\ldots,n$$\mathcal{N}(\mu, \sigma^2)$$100(1-\alpha)\%$$\rho s^2$$100\rho \%$ de l'estimation ponctuelle. Par exemple, si , alors la largeur de l'IC est la moitié de la valeur de l'estimation ponctuelle, par exemple si$\rho = 1/2$ , alors l'IC serait quelque chose comme ( 8 $s^2 = 10$ , ayant une largeur de 5. Notez également l'asymétrie autour de l'estimation ponctuelle. ( s 2 est l'estimateur sans biais de la variance.)$(8,\,13)$$s^2$

"L'intervalle de confiance" (plutôt "a") pour est ( n - 1 ) s $s^2$

$$\frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \leq \sigma^2 \leq \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} \>,$$ où est lequantileβde la distribution du chi carré avecn-1degrés de liberté. (Cela vient du fait que(n-1)s$\chi_{(n-1)}^{2\;\beta}$$\beta$$n-1$ est une quantité pivot dans un contexte gaussien.)$(n-1)s^2/\sigma^2$

Nous voulons minimiser la largeur pour que il nous reste donc à résoudre pour n tel que ( n - 1 ) (

$$L(n) = \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} < \rho s^2 \>,$$ $n$ $$(n-1) \left(\frac{1}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{1}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \right) < \rho .$$

Dans le cas d'un intervalle de confiance à 99%, on obtient pour ρ = 1 et n = 5321 pour ρ = 0,1 . Ce dernier cas donne un intervalle qui est ( encore! ) 10% aussi grand que l'estimation ponctuelle de la variance.$n = 65$$\rho = 1$$n = 5321$$\rho = 0.1$

Si le niveau de confiance que vous avez choisi est inférieur à 99%, le même intervalle de largeur sera obtenu pour une valeur inférieure de . Mais, n peut toujours être plus grand que vous ne l'auriez pensé.$n$$n$

Un tracé de la taille de l'échantillon fonction de la largeur proportionnelle ρ montre quelque chose qui semble asymptotiquement linéaire sur une échelle log-log; en d'autres termes, une relation de type loi de puissance. Nous pouvons estimer (grossièrement) la puissance de cette relation puissance-loi comme$n$$\rho$

$$\hat{\alpha} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{-\log 10}{\log \frac{5231}{65}} \approx -0.525 ,$$

ce qui est malheureusement décidément lent!

---

C'est en quelque sorte le cas «canonique» pour vous donner une idée de la façon de procéder. Sur la base de vos graphiques, vos données ne semblent pas particulièrement normales; en particulier, il y a ce qui semble être une asymétrie notable.

Mais cela devrait vous donner une idée approximative de ce à quoi vous attendre. Notez que pour répondre à votre deuxième question ci-dessus, il est nécessaire de fixer d'abord un certain niveau de confiance, que j'ai défini à 99% dans le développement ci-dessus à des fins de démonstration.

Je me concentrerais sur le SD plutôt que sur la variance, car c'est sur une échelle qui est plus facile à interpréter.

Les gens examinent parfois les intervalles de confiance pour les écarts-types ou les écarts, mais l'accent est généralement mis sur les moyens.

Les résultats que vous donnez pour la distribution des $s^2/\sigma^2$ peut être utilisé pour obtenir un intervalle de confiance pour $\sigma^2$ (et donc aussi $\sigma$); la plupart des textes d'introduction en mathématiques / statistiques donneraient les détails dans la même section dans laquelle la distribution de$\sigma^2$a été mentionné. Je prendrais juste 2,5% de chaque queue.

La solution suivante a été donnée par Greenwood et Sandomire dans un document JASA de 1950.

Laisser $X_1,\dots,X_n$ être un échantillon aléatoire d'un $\mathrm{N}(\mu,\sigma^2)$Distribution. Vous ferez des inférences sur$\sigma$en utilisant comme estimateur ( biaisé ) l'écart type de l'échantillon

$$S=\sqrt{\sum_{i=1}^n\frac{(X_i-\bar{X})^2}{n-1}},$$ et vous voulez contrôler la probabilité que l'écart relatif entre $S$ et $\sigma$ is within a fraction $0<u<1$. That is, $$\Pr\{S<(1-u)\cdot\sigma\}=a \quad\text{and}\quad \Pr\{S>(1+u)\cdot\sigma\}=b,$$ in which the significance level $\gamma=1-a-b$.

It follows that

$$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} < (n-1)(1-u)^2\right\} = a$$ and $$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} > (n-1)(1+u)^2\right\} = b.$$ Since the pivotal quantity $(n-1)S^2/\sigma^2$ has $\chi^2_{n-1}$ distribution, adding the two probabilities, we find

$$\gamma = F_{\chi^2_{(n-1)}}((n-1)(1+u)^2) - F_{\chi^2_{(n-1)}}((n-1)(1-u)^2),$$

and the necessary sample size is found solving the former equation in $n$ for given $\gamma$ and $u$.

R code.

gamma <- 0.95
u <- 0.1
g <- function(n) pchisq((n-1)*(1+u)^2, df = n-1) - pchisq((n-1)*(1-u)^2, df = n-1) - gamma
cat("Sample size n = ", ceiling(uniroot(g, interval = c(2, 10^6))$root), "\n")

Output for $u=10\%$ and $\gamma=95\%$.

Sample size n = 193