J'essaie de comprendre la différence entre la Newton-Raphson
technique et la Fisher scoring
technique en calculant la première itération pour chaque méthode pour un Bernoulli
échantillon. (Je sais que dans ce cas, je peux calculer explicitement et immédiatement mais je veux le faire de manière itérative juste pour comprendre et voir comment chaque méthode converge).
Supposons que je dessine une pièce de monnaie fois, le paramètre réel est inconnu pour moi , et je me suis 4 têtes, donc .
La fonction de score est:
Les informations sur les pêcheurs observées sont:
et les informations attendues sur les pêcheurs sont:
Et notez que nous ne pouvons simplifier les informations de pêcheur attendues que lorsque nous les évaluons à , mais nous ne savons pas où elles se trouvent ...
Supposons maintenant que ma supposition initiale soit
Va Newton-Raphson
simplement comme ceci:
?
Et comment ça se Fisher-scoring
passe?
Notez qu'il contient que nous ne connaissons pas! et nous ne pouvons même pas remplacer par car nous ne le savons pas non plus - c'est exactement ce que nous recherchons ...
Pouvez-vous nous aider à me montrer de la manière la plus concrète possible ces 2 méthodes? Merci!