Quelle est l'intuition derrière la fonction de score? [dupliquer]

9

Wikipédia nous apprend que la partition joue un rôle important dans l'inégalité Cramér-Rao. Il énonce également la définition:

V=θlogL(θ;X)

Cependant, je ne trouve pas d' explication intuitive de ce que cette quantité exprime. De toute évidence, il mesure en quelque sorte comment un petit changement de θ affectera la log-vraisemblance des données X observées X, mais qu'est-ce que cela signifie exactement?

L'article de wikipedia mentionne également que la valeur attendue E[Vθ]=0 . Cela peut-il être interprété d'une manière ou d'une autre?

En allant un peu plus loin, en classe, on nous a dit que les informations de Fisher (pour lesquelles je n'ai aucune compréhension intuitive non plus) sont I(θ)=E[V2θ] . Combiné avec E[Vθ]=0 qui impliquerait I(θ)=Var[V] , est-ce correct?

Merci d'avance.

PS: Ce ne sont pas des devoirs.

blubb
la source
En ce qui concerne votre dernier point, oui, les informations de Fisher sont la variance du score. Je ne peux pas aider avec l'intuition, cependant.
2011
2
En ce qui concerne l'intuition de la partition, comprenez-vous l'intuition d'un dérivé?
Strictement, votre dernière ligne aurait dû êtreI(θ)=Var[V|θ]
Henry
@MikeWierzbicki: Oui, bien sûr. Mais j'espérais qu'il y en avait plus ...
blubb
Pour une certaine intuition, voir stats.stackexchange.com/questions/196576/…
kjetil b halvorsen

Réponses:

2

L'article de Wikipedia donne un exemple d'un processus de Bernoulli, avec succès et échecs et la probabilité de succès , où le score est . Si , c'est-à-dire , alors .ABθV=AθB1θθ=AA+Bθ1θ=ABV=0

Le score est plus positif lorsqu'il y a plus de succès que ce qui aurait été attendu de la valeur de , et plus négatif quand il y a moins de succès. θ

Le score peut être vu intuitivement comme une sorte de mesure de la proximité réelle du paramètre avec ce que les données suggèrent qu'il pourrait être (ou l'inverse si vous êtes de cette façon incliné), signé pour la direction de la différence. La variance du score aura tendance à augmenter avec plus de données, de sorte que la variance est intuitivement une indication de la quantité d'informations que les données vous fourniront sur le paramètre.

Henri
la source