1. Le problème
J'ai des mesures d'une variable yt , où t=1,2,..,n , pour lequel j'ai une distribution obtenue via MCMC, qui pour simplifier je suppose que c'est un gaussien de moyenne et de variance .fyt(yt)μtσ2t
J'ai un modèle physique pour ces observations, disons , mais les résidus semblent être corrélés; en particulier, j'ai des raisons physiques de penser qu'un processus suffira pour prendre en compte la corrélation, et je prévois d'obtenir les coefficients de l'ajustement via MCMC, pour lesquels j'ai besoin de la probabilité . Je pense que la solution est plutôt simple, mais je ne suis pas sûr (cela semble si simple, que je pense que je manque quelque chose).g(t)rt=μt−g(t)AR(1)
2. Dériver la probabilité
Un processus moyenne nulle peut s'écrire:
où je supposerai . Les paramètres à estimer sont donc (dans mon cas, je dois également ajouter les paramètres du modèle g (t) , mais ce n'est pas le problème). Ce que j'observe cependant, c'est la variable
R_t = X_t + \ eta_t, \ \ \ (2)
où je suppose que \ eta_t \ sim N (0, \ sigma_t ^ 2) , et le \ sigma_t ^ 2 sont connus (le erreurs de mesure). Parce que X_t est un processus gaussien, R_t l' est aussi. En particulier, je sais que
AR(1)
Xt=ϕXt−1+εt, (1)
εt∼N(0,σ2w)θ={ϕ,σ2w}g(t)Rt=Xt+ηt, (2)
ηt∼N(0,σ2t)σ2tXtRtX1∼N(0,σ2w/[1−ϕ2]),
donc
R1∼N(0,σ2w/[1−ϕ2]+σ2t).
Le prochain défi consiste à obtenir
Rt|Rt−1 pour
t≠1 . Pour dériver la distribution de cette variable aléatoire, notez que, en utilisant l'éq.
(2) Je peux écrire
Xt−1=Rt−1−ηt−1. (3)
En utilisant l'équation.
(2) , et en utilisant la définition de l'équation.
(1) , je peux écrire,
Rt=Xt+ηt=ϕXt−1+εt+ηt.
En utilisant l'eq.
(3) dans cette dernière expression, alors
j'obtiens ,
R_ {t} = \ phi (R_ {t-1} - \ eta_ {t-1}) + \ varepsilon_ {t} + \ eta_t,Rt=ϕ(Rt−1−ηt−1)+εt+ηt,
ainsi,
Rt|Rt−1=ϕ(rt−1−ηt−1)+εt+ηt,
et, par conséquent,
Rt|Rt−1∼N(ϕrt−1,σ2w+σ2t−ϕ2σ2t−1).
Enfin, je peux écrire la fonction de vraisemblance comme
L(θ)=fR1(R1=r1)∏t=2nfRt|Rt−1(Rt=rt|Rt−1=rt−1),
où les
f(⋅) sont les distributions des variables que je viens de définir, .ie, définissant
σ′2=σ2w/[1−ϕ2]+σ2t,
fR1(R1=r1)=12πσ′2−−−−−√exp(−r212σ′2),
et définissant
σ2(t)=σ2w+σ2t−ϕ2σ2t−1 ,
fRt|Rt−1(Rt=rt|Rt−1=rt−1)=12πσ2(t)−−−−−−√exp(−(rt−ϕrt−1)22σ2(t))
3. Questions
- Ma dérivation est-elle correcte? Je n'ai pas d'autres ressources à comparer que des simulations (qui semblent d'accord), et je ne suis pas statisticien!
- Y a-t-il une dérivation de ce genre de choses dans la littérature pour les ou ? MA(1)ARMA(1,1)Une étude pour les en général qui pourraient être particuliers à ce cas serait bien.ARMA(p,q)
Réponses:
Vous êtes sur la bonne voie, mais vous avez fait une erreur en dérivant la distribution de étant donné : la moyenne conditionnelle n'est pas . Il s'agit de , où est votre meilleure estimation de rapport à la période précédente. La valeur de inclut les informations des observations précédentes ainsi que . (Pour voir ceci, considérez une situation où et sont négligeables, donc vous estimez effectivement une moyenne fixe. Après beaucoup d'observations, votre incertitude sur sera beaucoup plus petite queRt Rt−1 ϕrt−1 ϕxˆt−1 xˆt−1 X xˆt−1 rt−1 σw ϕ X ση .) Cela peut être déroutant au premier abord, parce que vous observez et non . Cela signifie simplement que vous avez affaire à un modèle d'espace d'état .R X
Oui, il existe un cadre très général pour l'utilisation de modèles linéaires-gaussiens avec des observations bruyantes, appelé filtre de Kalman . Cela s'applique à tout ce qui a une structure ARIMA et bien d'autres modèles également. Variable dans le temps est OK pour le filtre de Kalman, à condition qu'il ne soit pas stochastique. Les modèles avec, par exemple, une volatilité stochastique nécessitent des méthodes plus générales. Pour voir comment le filtre de Kalman est dérivé, essayez Durbin-Koopman ou le chapitre 3 de Harvey . Dans la notation de Harvey, votre modèle a , , , , et .ση Z=1 d=c=0 Ht=σ2η,t T=ϕ R=1 Q=σ2w
la source
Honnêtement, vous devez coder cela dans des BUG ou STAN et ne pas vous en soucier à partir de là. Sauf s'il s'agit d'une question théorique.
la source