Le processus de Dirichlet et le processus gaussien sont souvent appelés «distributions sur fonctions» ou «distributions sur distributions». Dans ce cas, puis-je parler de manière significative de la densité d'une fonction sous un GP? Autrement dit, le processus gaussien ou le processus de Dirichlet ont-ils une notion de densité de probabilité?
Si ce n'est pas le cas, comment utiliser la règle de Bayes pour passer du antérieur au postérieur, si la notion de probabilité a priori d'une fonction n'est pas bien définie? Existe-t-il des éléments tels que les estimations MAP ou EAP dans le monde bayésien non paramétrique? Merci beaucoup.
machine-learning
probability
bayesian
nonparametric
nonparametric-bayes
snickerdoodles777
la source
la source
Réponses:
Une «densité» ou «vraisemblance» se rapporte au théorème de Radon-Nikodym dans la théorie des mesures. Comme l'a noté @ Xi'an, lorsque l'on considère un ensemble fini d' observations dites partielles d'un processus stochastique, la vraisemblance correspond à la notion habituelle de dérivée par rapport à la mesure de Lebesgue. Par exemple, la probabilité d'un processus gaussien observé à un ensemble fini d'indices connus est celle d'un vecteur aléatoire gaussien avec sa moyenne une covariance déduite de celle du processus, qui peuvent toutes deux prendre des formes paramétrées.
Dans le cas idéal où un nombre infini d'observations est disponible à partir d'un processus stochastique, la mesure de probabilité est sur un espace de dimension infinie, par exemple un espace de fonctions continues si le processus stochastique a des chemins continus. Mais rien n'existe comme une mesure de Lebesgue sur un espace de dimension infinie, il n'y a donc pas de définition simple de la probabilité.
Pour les processus gaussiens, il existe certains cas où nous pouvons définir une vraisemblance en utilisant la notion d'équivalence des mesures gaussiennes. Un exemple important est fourni par le théorème de Girsanov, qui est largement utilisé en mathématiques financières. Ceci définit la probabilité d'une diffusion Itô comme la dérivée par rapport à la distribution de probabilité d'un processus de Wiener standard défini pour . Une exposition mathématique soignée se trouve dans le livre de Bernt Øksendal . Le livre (à venir) de Särkkä et Solin fournit une présentation plus intuitive qui aidera les praticiens. Une brillante exposition de mathématiques sur l' analyse et la probabilité sur les espaces de dimension infinie par Nate Elderedge est disponible.Yt Bt t≥0
Notez que la probabilité d'un processus stochastique qui serait complètement observé est parfois appelée probabilité de remplissage par les statisticiens.
la source