Estimateur du maximum de vraisemblance du paramètre de localisation de la distribution de Cauchy

10

J'ai atteint jusqu'à

dlnLdμ=i=1n2(xiu)1+(xiu)2

Où est le paramètre d'emplacement. Et est la fonction de vraisemblance. Je ne sais pas comment procéder. Veuillez aider.uL

user89929
la source
Avez-vous regardé ici? en.wikipedia.org/wiki/…
Vous ne pouvez pas résoudre ce problème directement, vous pouvez utiliser Newton-Raphson pour obtenir mle.
Deep North
@DeepNorth exactement! Mais je ne sais pas comment obtenir le mle en utilisant la méthode Newton Raphson. S'il vous plaît, expliquez.
user89929
@Bey Oui, je l'ai lu. Mais toujours pas en mesure de deviner ce qu'ils disent exactement.
user89929

Réponses:

10

Ok, disons que le pdf du cauchy est:

f(x;θ)=1π11+(xθ)2 ici θ est médiane, pas moyenne puisque pour Cauchy la moyenne n'est pas définie.

L(θ;x)=1π11+(x1θ)21π11+(x2θ)21π11+(xnθ)2=1πn1[1+(xiθ)2]

(θ;x)=nlogπi=1nlog[1+(xiθ)2]

d(θ;x)dθ=i=1n2(xiθ)1+(xiθ)2

C'est exactement ce que tu as, sauf ici θest médian, pas méchant. Je supposeu est médiane dans votre formule.

Prochaine étape, afin de trouver mle, nous devons définir (θ;X)θ=je=1n2(Xje-θ)1+(Xje-θ)2=0

Maintenant θ est votre variable, et Xjes sont des valeurs connues, vous devez résoudre l'équation je=1n2(Xje-θ)1+(Xje-θ)2=0

c'est à dire pour résoudre 2(X1-θ)1+(X1-θ)2+2(X2-θ)1+(X2-θ)2++2(Xn-θ)1+(Xn-θ)2=0. Il semble que résoudre cette équation sera très difficile. Par conséquent, nous avons besoin de la méthode de Newton-Raphson.

Je pense que beaucoup de livres de calcul parlent de la méthode

La formule de la méthode de Newton-Raphson peut s'écrire

(1)θ1^=θ0^-(θ0^)(θ0^)

θ0^ est votre première estimation de θ

est la première dérivée de la fonction de vraisemblance logarithmique.

est la dérivée seconde de la fonction log de vraisemblance.

De θ0^ Tu peux recevoir θ1^ alors tu mets θ1^ à (1) alors vous obtenez θ2^ et le mettre à (1) obtenir θ3^... continuez ces itérations jusqu'à ce qu'il n'y ait pas de grands changements entre θn^ et θn-1^

Les éléments suivants sont la fonction R que j'ai écrite pour obtenir mle pour la distribution de Cauchy.

mlecauchy=function(x,toler=.001){      #x is a vector here
startvalue=median(x)
n=length(x);
thetahatcurr=startvalue;
# Compute first deriviative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
# Continue Newton’s method until the first derivative
# of the likelihood is within toler of 0.001
while(abs(firstderivll)>toler){
# Compute second derivative of log likelihood
 secondderivll=2*sum(((x-thetahatcurr)^2-1)/(1+(x-thetahatcurr)^2)^2);
# Newton’s method update of estimate of theta
thetahatnew=thetahatcurr-firstderivll/secondderivll;
thetahatcurr=thetahatnew;
# Compute first derivative of log likelihood
firstderivll=2*sum((x-thetahatcurr)/(1+(x-thetahatcurr)^2))
}
list(thetahat=thetahatcurr);
}

Supposons maintenant que vos données soient X1=1,94,X2=0,59,X3=-5,98,X4=-0,08,X5-0,77

x<-c(-1.94,0.59,-5.98,-0.08,-0.77)
mlecauchy(x,0.0001)

Résultat:

#$thetahat
#[1] -0.5343968

Nous pouvons également utiliser la fonction build R pour obtenir mle.

optimize(function(theta) -sum(dcauchy(x, location=theta, log=TRUE)),  c(-100,100)) 

#we use negative sign here

Résultats:

#$minimum
#[1] -0.5343902

Le résultat est presque le même que les codes faits maison.


Ok, comme vous en avez besoin, laissez-nous le faire à la main.

Nous obtenons d'abord une estimation initiale sera la médiane des données -5,98,-1,94,-0,77,-0,08,0,59

La médiane est -0,77

Ensuite, nous savons déjà que l(θ)=l(θ;X)θ=je=1n2(Xje-θ)1+(Xje-θ)2

et

l(θ)=dl2(θ;x)d(θ=d(i=1n2(xiθ)1+(xiθ)2)dθ=2i=1n(xiθ)21[1+(xiθ)2]2

Maintenant, nous branchons le θ0^ c'est-à-dire médiane à l(θ) et l(θ)

c'est à dire remplacer θ avec θ0^ ie médiane ie 0.77

(θ)=i=1n2(xiθ)1+(xiθ)2=2[5.98(-0,77)]1+[(-5,98-(-0,77)2]+2[-1,94-(-0,77)]1+[(-1,94-(-0,77)2]+2[-0,77-(-0,77)]1+[(-0,77-(-0,77)2]+2[-0,08-(-0,77)]1+[(-0,08-(-0,77)2]+2[0,59-(-0,77)]1+[(0,59-(-0,77)2]=??

Plug in suivant X1 à X5 et -0,77 obtenir (θ) alors vous pouvez obtenir θ1^

Ok, je dois m'arrêter ici, c'est trop gênant de calculer ces valeurs à la main.

Deep North
la source
Votre réponse est juste. J'ai fait de même. Mais nous ne pouvons suivre cette voie que si nous connaissons les valeurs de l'échantillon. Est-ce à dire qu'il n'y a pas de forme compacte ou généralisée pour le paramètre MLE de localisation de la distribution de Cauchy?
user89929
Je pense que la forme généralisée du MLE sera très compliquée. Je ne sais pas s'il y en a un.
Deep North
Vérifiez ceci .. stats.stackexchange.com/questions/98971/… Il y a un formulaire généralisé pour cela. Mais ils ont fait un centrage si la distribution de Cauchy, je ne sais pas comment! Ils ont supposé l'échantillon de taille 2. Je ne comprends pas pourquoi! Veuillez aider.
user89929
Ils ont supposé x1=x;x2=x et ils ont seulement obtenu ces deux points de données x et x, Je pense que c'est un cas très spécial et non une forme généralisée.
Deep North
Umm .. J'ai encore quelques doutes. 1. Quelle sera la supposition initiale pour le chapeau thêta? Sera-ce la valeur médiane de l'échantillon donné? 2. l 'et l "sont des dérivés par rapport à thêta ou x?
user89929