Un intervalle de confiance pour la variance serait-il plus étroit si nous connaissions la moyenne a priori?

Disons que nous connaissons la moyenne d'une distribution donnée. Cela affecte-t-il l'estimation par intervalle de la variance d'une variable aléatoire (qui est par ailleurs calculée à l'aide de la variance de l'échantillon)? Comme dans, pouvons-nous obtenir un intervalle plus petit pour le même niveau de confiance?

Je ne suis pas tout à fait sûr que ma réponse est correcte, mais je dirais qu'il n'y a pas de relation générale. Voici mon point:

Étudions le cas où l'intervalle de confiance de la variance est bien compris, à savoir. échantillonnage à partir d'une distribution normale (comme vous l'indiquez dans le tag de la question, mais pas vraiment la question elle-même). Voir la discussion ici et ici .

Un intervalle de confiance pour découle du pivot , où . (Ceci est juste une autre façon d'écrire l'expression peut-être plus familière , où )$\sigma^2$$T=n\hat{\sigma}^2/\sigma^2\sim\chi^2_{n-1}$$\hat{\sigma}^2=1/n\sum_i(X_i-\bar{X})^2$$T=(n-1)s^2/\sigma^2\sim\chi^2_{n-1}$$s^2=1/(n-1)\sum_i(X_i-\bar{X})^2$

Nous avons donc Par conséquent, un intervalle de confiance est . On peut choisir et comme quantiles et .

$$\begin{align*} 1-\alpha&=\Pr\{c_l^{n-1}<T<c_u^{n-1}\}\\ &=\Pr\left\{\frac{c_l^{n-1}}{n\hat{\sigma}^2}<\frac{1}{\sigma^2}<\frac{c_u^{n-1}}{n\hat{\sigma}^2}\right\}\\ &=\Pr\left\{\frac{n\hat{\sigma}^2}{c_u^{n-1}}<\sigma^2<\frac{n\hat{\sigma}^2}{c_l^{n-1}}\right\} \end{align*}$$ $(n\hat{\sigma}^2/c_u^{n-1},n\hat{\sigma}^2/c_l^{n-1})$$c_l^{n-1}$$c_u^{n-1}$$c_u^{n-1}=\chi^2_{n-1,1-\alpha/2}$$c_l^{n-1}=\chi^2_{n-1,\alpha/2}$

(Remarquez en passant que, quelle que soit la variance, estimez que, comme la est asymétrique, les quantiles produiront un ci avec la bonne probabilité de couverture, mais ne seront pas optimaux, c'est-à-dire ne seront pas les plus courts possibles. intervalle pour être aussi court que possible, nous exigeons que la densité soit identique à l'extrémité inférieure et supérieure de la ci, étant donné certaines conditions supplémentaires comme l'unimodalité. Je ne sais pas si l'utilisation de cette ci optimale changerait les choses dans cette réponse.)$\chi^2$

Comme expliqué dans les liens, , où utilise le connu signifier. Par conséquent, nous obtenons un autre intervalle de confiance valide Ici, et seront donc des quantiles de la 2_n.$T'=ns_0^2/\sigma^2\sim\chi^2_n$$s_0^2=\frac{1}{n}\sum_i(X_i-\mu)^2$

$$\begin{align*} 1-\alpha&=\Pr\{c_l^{n}<T'<c_u^{n}\}\\ &=\Pr\left\{\frac{ns_0^2}{c_u^{n}}<\sigma^2<\frac{ns_0^2}{c_l^{n}}\right\} \end{align*}$$ $c_l^{n}$$c_u^{n}$$\chi^2_n$

Les largeurs des intervalles de confiance sont et La largeur relative est Nous savons que car la moyenne de l' échantillon minimise la somme des écarts au carré. Au-delà de cela, je vois peu de résultats généraux concernant la largeur de l'intervalle, car je ne suis pas au courant de résultats clairs sur la façon dont les différences et les produits des quantiles supérieur et inférieur se comportent lorsque nous augmentons les degrés de liberté de un (mais voir la figure ci-dessous).

$$w_T=\frac{n\hat{\sigma}^2(c_u^{n-1}-c_l^{n-1})}{c_l^{n-1}c_u^{n-1}}$$ $$w_{T'}=\frac{ns_0^2(c_u^{n}-c_l^{n})}{c_l^{n}c_u^{n}}$$ $$\frac{w_T}{w_{T'}}=\frac{\hat{\sigma}^2}{s_0^2}\frac{c_u^{n-1}-c_l^{n-1}}{c_u^{n}-c_l^{n}}\frac{c_l^{n}c_u^{n}}{c_l^{n-1}c_u^{n-1}}$$ $\hat{\sigma}^2/s_0^2\leq1$$\chi^2$

Par exemple, laisser

$$r_n:=\frac{c_u^{n-1}-c_l^{n-1}}{c_u^{n}-c_l^{n}}\frac{c_l^{n}c_u^{n}}{c_l^{n-1}c_u^{n-1}},$$ nous avons

$$r_{10}\approx1.226$$ pour et , ce qui signifie que le ci basé sur sera plus court si $\alpha=0.05$$n=10$$\hat{\sigma}^2$ $$\hat{\sigma}^2\leq\frac{s_0^2}{1.226}$$

En utilisant le code ci-dessous, j'ai mené une petite étude de simulation suggérant que l'intervalle basé sur gagnera la plupart du temps. (Voir le lien publié dans la réponse d'Aksakal pour une rationalisation à grande échelle de ce résultat.)$s_0^2$

La probabilité semble se stabiliser en , mais je ne connais pas d'explication analytique sur échantillon fini:$n$

    rm(list=ls())

IntervalLengthsSigma2 <- function(n,alpha=0.05,reps=100000,mu=1) {
  cl_a <- qchisq(alpha/2,df = n-1)
  cu_a <- qchisq(1-alpha/2,df = n-1)
  cl_b <- qchisq(alpha/2,df = n)
  cu_b <- qchisq(1-alpha/2,df = n)

  winners02 <- rep(NA,reps)

  for (i in 1:reps) {
    x <- rnorm(n,mean=mu)
    xbar <- mean(x)
    s2 <- 1/n*sum((x-xbar)^2)
    s02 <- 1/n*sum((x-mu)^2)

    ci_a <- c(n*s2/cu_a,n*s2/cl_a)
    ci_b <- c(n*s02/cu_b,n*s02/cl_b)

    winners02[i] <- ifelse(ci_a[2]-ci_a[1]>ci_b[2]-ci_b[1],1,0)  
  }
  mean(winners02)
}

nvalues <- matrix(seq(5,200,by=10)) 
plot(nvalues,apply(nvalues,1,IntervalLengthsSigma2),pch=19,col="lightblue",type="b")

La figure suivante trace contre , révélant (comme le suggère l'intuition) que le rapport tend vers 1. Comme, de plus, pour grand, la différence entre les largeurs des deux cis sera donc disparaître comme . (Voir à nouveau le lien publié dans la réponse d'Aksakal pour une rationalisation à grande échelle de ce résultat.)$r_n$$n$$\bar{X}\to_p\mu$$n$$n\to\infty$

Permettez-moi d'abord de régler le problème. Nous connaissons la population moyenne. C'est un point très important à soulever dès le début, car sans lui, nous n'aurons pas de réponse significative.

Je vais vous expliquer pourquoi. Disons que nous avons un échantillon et que nous ne connaissons pas la moyenne de la population. Nous avons un estimateur habituel de la variance:

$$\sigma=\frac{1}{n-1}sum_i(x_i-\bar x)^2$$

Maintenant, on nous dit que la moyenne de la population est . Notre premier réflexe est de le brancher sur l'estimateur de variance:$\mu$

$$\sigma'=\frac{1}{n}sum_i(x_i-\mu)^2$$

Remarquez que c'est un estimateur différent maintenant! Il a un dénominateur différent, etc. Il a lui-même une variance différente .

Cependant, est-il juste de comparer et ? Non ce n'est pas.$Var[\sigma]$$Var[\sigma']$

Nous devons comparer et . Autrement dit il faut comparer la variance de ces deux estimateurs conditionnée à la connaissance de la moyenne de la population! Sinon, nous tomberons dans le paradoxe de @ Scortchi.$Var[\sigma|E[x_i]=\mu]$$Var[\sigma'|E[x_i]=\mu]$

Lorsque vous avez de nouvelles informations, c'est-à-dire , vous devez les inclure dans l'estimation de ! Cela résout le paradoxe de @ Scortchi dans son commentaire directement. Les équations que j'ai vues jusqu'à présent dans les réponses n'incluent pas la connaissance de dans l'IC ou la variance de l'estimateur de variance . Dans l'exemple de @ Scortchi sachant que conduirait à une révision du CI de .$E[x_i]=\mu$$Var[\sigma]$$\mu$$\sigma$$\bar x>>\mu$$\sigma$

Par conséquent, ma réponse ici suit la configuration que je plaisante décrite.

Oui, l'intervalle de confiance aurait été plus étroit.

D'un point de vue philosophique, la connaissance de la moyenne de la population est une information supplémentaire, donc l'incertitude doit être moindre dans ce cas.

Exemple: si votre distribution est de Poisson, alors la variance est égale à la moyenne. Par conséquent, connaître signifie que vous connaissez également la variance et l'intervalle de confiance se réduit à un point. Il n'y a pas d'intervalle.

MISE À JOUR: Regardez cet article : "Estimation d'une variance de la population avec une moyenne connue" par Zhang, 1996. Il compare l'estimation standard de la variance vs celui utilisant la connaissance de la population signifie . Il arrive à la même conclusion: la variance de la dernière estimation est plus petite que celle de la première, c'est-à-dire que l'intervalle de confiance de l'estimation de la variance serait plus étroit. Il montre également que l'avantage disparaît lorsque la taille de l'échantillon tend vers l'infini.$\frac{1}{n-1}\sum_i(x_i-\bar x)^2$$\frac{1}{n}\sum_i(x_i-\mu)^2$

Je pense que ce document est la réponse définitive à votre question.

Prolonger un peu la réponse de @Cristoph Hanck , et adapter son code…

Supposons que M. A ignore la vraie moyenne ou les statistiques, et M. B n'ignore ni l'un ni l'autre. Il peut sembler étrange, voire injuste, que M. A puisse obtenir un intervalle de confiance plus court pour la variance en utilisant le pivot que M. B en utilisant le pivot . Mais à long terme, M. B gagne dans un sens plutôt fort: ses intervalles de confiance sont stochastiquement plus étroits - pour toute largeur vous souhaitez spécifier, la proportion des IC de M. B plus étroite que est supérieure à la proportion de M. A.$T$$T'$$w$$w$

La collecte du sous-ensemble des cas où l'IC de M. A ressort plus étroit montre que dans ces cas, il a une couverture plus faible (environ 91%); mais il le paie avec une couverture plus élevée (environ 96%) dans le sous-ensemble des cas où son intervalle sort plus large, obtenant la couverture correcte (95%) dans l'ensemble. Bien sûr, M. A ne sait pas quand ses CI dans quel sous-ensemble. Et un Mr C rusé qui connaît la vraie moyenne et sélectionne ou selon lequel les résultats dans le CI le plus étroit seront finalement exposés lorsque ses intervalles ne parviennent pas à maintenir leur couverture supposée de 95%.$T$$T'$

IntervalLengthsSigma2 <- function(n,alpha=0.05,reps=100000,mu=1) {
  cl_a <- qchisq(alpha/2,df = n-1)
  cu_a <- qchisq(1-alpha/2,df = n-1)
  cl_b <- qchisq(alpha/2,df = n)
  cu_b <- qchisq(1-alpha/2,df = n)

  winners02 <- rep(NA,reps)
  width.a <- rep(NA,reps)
  width.b <- rep(NA,reps)
  sigma2.in.a <- rep(NA,reps)
  sigma2.in.b <- rep(NA,reps)

  for (i in 1:reps) {
    x <- rnorm(n,mean=mu)
    xbar <- mean(x)
    s2 <- 1/n*sum((x-xbar)^2)
    s02 <- 1/n*sum((x-mu)^2)

    ci_a <- c(n*s2/cu_a,n*s2/cl_a)
    ci_b <- c(n*s02/cu_b,n*s02/cl_b)

    winners02[i] <- ifelse(ci_a[2]-ci_a[1]>ci_b[2]-ci_b[1],1,0) 
    ci_a[2]-ci_a[1] -> width.a[i]
    ci_b[2]-ci_b[1] -> width.b[i]
    ifelse(ci_a[1]< 1 & ci_a[2] > 1, 1, 0) -> sigma2.in.a[i]
    ifelse(ci_b[1]< 1 & ci_b[2] > 1, 1, 0) -> sigma2.in.b[i]
  }

 list(n=n, width.a=width.a,width.b=width.b, sigma2.in.a=sigma2.in.a, sigma2.in.b=sigma2.in.b, winner=winners02)
}

# simulate for sample size of 6
IntervalLengthsSigma2(n=6) -> sim

# plot empirical CDFs of CI widths for mean known & mean unknown
plot(ecdf(sim$width.a), xlab="CI width", ylab="empirical CDF", sub=paste("n=",sim$n), main="")
lines(ecdf(sim$width.b), col="red")
legend("bottomright", lty=1, col=c("black", "red"), legend=c("mean unknown (Mr A)", "mean known (Mr B)"))

# coverage with mean unknown:
mean(sim$sigma2.in.a)
# coverage with mean unknown when CI is narrower than with mean known:
mean(sim$sigma2.in.a[sim$winner==0])
# coverage with mean unknown when CI is wider than with mean known:
mean(sim$sigma2.in.a[sim$winner==1])

# coverage with mean known:
mean(sim$sigma2.in.b)
# coverage with mean known when CI is wider than with mean unknown:
mean(sim$sigma2.in.b[sim$winner==0])
# coverage with mean known when CI is narrower than with mean unknown;
mean(sim$sigma2.in.b[sim$winner==1])

Je ne peux pas commenter, mais la déclaration radicale d'Aksakal "connaître la moyenne de la population est une information supplémentaire, donc l'incertitude doit être plus petite dans ce cas" n'est pas évident.

Dans le cas normalement distribué, l'estimateur du maximum de vraisemblance de la variance lorsque est inconnu:$\mu$

$$\frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^2$$

a une variance uniformément plus faible que

$$\frac{1}{n} \sum_{i=1}^{n} (X_i - \mu)^2$$

pour toutes les valeurs de$\mu, \sigma$