Motivation

Dans le contexte de l'inférence post-sélection de modèle, Leeb et Pötscher (2005) écrivent:

Bien que l'on sache depuis longtemps que l'uniformité (au moins localement) par rapport aux paramètres est un problème important dans l'analyse asymptotique, cette leçon a souvent été oubliée dans la pratique quotidienne de la théorie économétrique et statistique où nous nous contentons souvent de prouver des résultats asymptotiques ponctuels ( c'est-à-dire des résultats valables pour chaque valeur de paramètre vraie fixe). Cette amnésie - et la pratique qui en résulte - n'a heureusement pas de conséquences dramatiques tant que seuls les estimateurs suffisamment «réguliers» dans des modèles suffisamment «réguliers» sont pris en compte. Cependant, comme les estimateurs post-sélection de modèle sont assez «irréguliers», les problèmes d'uniformité font surface ici avec vengeance.

Contexte

Convergence uniforme

Supposons un estimateur convergences uniformément (wrt ) dans la distribution d'une variable aléatoire . Ensuite, pour une précision donnée nous pouvons toujours trouver une taille d'échantillon telle que pour chaque la distance de la distribution de et la distribution de ( à savoir la distribution limite) sera au plus pour chaque .$\hat\theta_n(\alpha)$$\alpha$$Z$$\varepsilon>0$$N_{\varepsilon}$$\alpha$$\hat\theta_{n}(\alpha)$$Z$$\varepsilon$$n>N$

Cela peut être utile dans la pratique:

1. Lors de la conception d'une expérience, nous pouvons limiter l'imprécision à un niveau arbitrairement petit en trouvant le .$\varepsilon$$N_{\varepsilon}$
2. Pour un échantillon donné de taille , nous pouvons trouver pour limiter l'imprécision.$N$$\varepsilon_N$

Convergence ponctuelle (mais non uniforme)

D'autre part, supposons un estimateur converge vers une pointwise manière (WRT ) - mais pas uniformément - dans la distribution à une variable aléatoire . En raison de la non uniformité, il existe une précision telle que pour toute taille d'échantillon nous pouvons toujours trouver une valeur telle que la distance de la distribution de et la distribution de ( par exemple la distribution limite) sera au moins pour certains .$\hat\psi_n(\alpha)$$\alpha$$Z$$\varepsilon_N>0$$N$$\alpha_N$$\hat\psi_{n}(\alpha_N)$$Z$$\varepsilon$$n>N$

Quelques idées:

1. Cela ne nous indique pas la taille du .$\varepsilon_N$
2. Lors de la conception d'une expérience, nous ne pouvons plus limiter notre imprécision à un arbitraire en trouvant un approprié . Mais peut-être pourrions-nous lier à un niveau bas, alors nous n'aurions pas à nous en préoccuper. Mais il se peut que nous ne soyons pas toujours en mesure de le relier où nous le voulons.$\varepsilon$$N_{\varepsilon}$$\varepsilon_N$
3. Nous pouvons éventuellement trouver pour délimiter l'imprécision d'un échantillon donné de taille .$\varepsilon_N$$N$

Des questions

1. Le manque de convergence uniforme rend-il l'estimateur largement inutile?
   (Je suppose que la réponse est "non" car de nombreux articles se concentrent sur la convergence ponctuelle ...)
2. Si non, quels sont quelques exemples de base où l'estimateur non uniformément convergent est utile?

Références:

• Leeb, H. et Pötscher, BM (2005). Sélection et inférence de modèles: faits et fiction. Théorie économétrique, 21 (01), 21-59.

Il est difficile de donner une réponse définitive, car "utile" et "inutile" ne sont pas mathématiques et dans de nombreuses situations subjectives (dans certaines autres, on pourrait essayer de formaliser l'utilité, mais de telles formalisations sont à nouveau ouvertes à la discussion).

Voici quelques réflexions.

a) La convergence uniforme est nettement plus forte que la convergence ponctuelle; avec la convergence point par point, il n'y a aucune garantie, si vous ne connaissez pas la vraie valeur du paramètre, que pour tout donné, vous êtes n'importe où près de l'endroit où vous voulez être.$n$

(b) La convergence ponctuelle est encore plus forte que l'absence de convergence du tout.

(c) Si vous avez un donné qui n'est pas une convergence énorme et uniforme, la limite uniforme que vous pouvez réellement montrer avec le vous avez peut ne pas être bonne. Cela ne signifie pas que votre estimateur est mauvais, cela signifie plutôt que la borne de convergence uniforme ne garantit pas que vous êtes assez proche de la vraie valeur. Vous l'êtes peut-être encore.$n$$n$

(d) Dans le cas où nous n'aurions pas un résultat de convergence uniforme, il existe différentes possibilités:

i) La convergence uniforme peut en fait tenir, mais personne n'a encore réussi à le prouver.

ii) La convergence uniforme peut être violée, mais elle ne peut être violée que dans les zones de l'espace des paramètres qui ne sont pas réalistes, de sorte que le comportement de convergence réel peut être correct. Comme en (c), ce n'est pas parce que vous n'avez pas de théorème qui garantit que vous êtes proche de la vraie valeur que vous êtes loin.

iii) La convergence uniforme peut être violée et vous pouvez rencontrer un comportement irrégulier dans toutes sortes de situations réalistes. Mauvais chance.

iv) Il peut même y avoir de petites situations dans lesquelles, pour le réellement disponible dans la pratique, quelque chose qui n'est pas du tout convergent est meilleur que quelque chose qui est ponctuellement ou uniformément convergent.$n$$n$

(e) Maintenant, vous pouvez dire que la convergence uniforme est clairement utile car elle nous donne une garantie avec une valeur pratique claire et sans cela nous n'aurons aucune garantie. Mais à part le fait qu'un estimateur peut être bon même si nous ne pouvons pas garantir qu'il est bon, nous neavoir une garantie qui s'applique vraiment dans la pratique, car dans la pratique, les hypothèses du modèle ne tiennent pas, et la situation est en fait plus compliquée que de dire, OK, le modèle P est mauvais mais il existe un vrai modèle Q qui est tout simplement trop compliqué et peut être apprivoisé par un résultat de convergence uniforme non paramétrique; non, tous ces modèles sont des idéalisations et rien n'est iid ou suit un modèle de dépendance ou de non-identité régulier en premier lieu (même les nombres aléatoires que nous utilisons dans les simulations ne sont en fait pas des nombres aléatoires). De même, la garantie de convergence uniforme s'applique à une situation idéalisée et la pratique est une autre histoire. Nous utilisons la théorie comme la convergence uniforme pour faire des déclarations de qualité sur les estimateurs dans des situations idéalisées, car ce sont les situations que nous pouvons gérer. On ne peut vraiment dire, dans de telles situations idéalisées,

Désolé, pas d'exemples spécifiques, mais dans toute configuration dans laquelle vous ne pouvez pas trouver un estimateur uniformément convergent mais uniquement un convergent point par point, les chances sont que le convergent point par point vous aidera (parfois un estimateur dont vous ne pouvez même pas montrer la convergence point par point peut vous aider aussi bien, voire plus). Il se peut alors que ce ne soit pas le cas, mais pour une raison pratique (problème avec les hypothèses du modèle, petit , mesure, etc.), la convergence uniforme peut également être trompeuse dans une situation spécifique. $n$