Les processus stochastiques tels que le processus gaussien / processus de Dirichlet ont-ils des densités? Sinon, comment la règle de Bayes peut-elle leur être appliquée?

10

Le processus de Dirichlet et le processus gaussien sont souvent appelés «distributions sur fonctions» ou «distributions sur distributions». Dans ce cas, puis-je parler de manière significative de la densité d'une fonction sous un GP? Autrement dit, le processus gaussien ou le processus de Dirichlet ont-ils une notion de densité de probabilité?

Si ce n'est pas le cas, comment utiliser la règle de Bayes pour passer du antérieur au postérieur, si la notion de probabilité a priori d'une fonction n'est pas bien définie? Existe-t-il des éléments tels que les estimations MAP ou EAP dans le monde bayésien non paramétrique? Merci beaucoup.

snickerdoodles777
la source
1
Étant donné que la réalisation (par exemple) du processus gaussien n'est observée que sur une collection finie de points, le produit correspondant des mesures de Lebesgue est la mesure dominante. Ce qui signifie que pour l'observation de la fonction aléatoire à une collection finie de points, il existe une densité. f
Xi'an
La réponse concernant les densités est oui, et la formulation mathématique appropriée est appelée la dérivée Radon-Nikodym.
whuber

Réponses:

4

Une «densité» ou «vraisemblance» se rapporte au théorème de Radon-Nikodym dans la théorie des mesures. Comme l'a noté @ Xi'an, lorsque l'on considère un ensemble fini d' observations dites partielles d'un processus stochastique, la vraisemblance correspond à la notion habituelle de dérivée par rapport à la mesure de Lebesgue. Par exemple, la probabilité d'un processus gaussien observé à un ensemble fini d'indices connus est celle d'un vecteur aléatoire gaussien avec sa moyenne une covariance déduite de celle du processus, qui peuvent toutes deux prendre des formes paramétrées.

Dans le cas idéal où un nombre infini d'observations est disponible à partir d'un processus stochastique, la mesure de probabilité est sur un espace de dimension infinie, par exemple un espace de fonctions continues si le processus stochastique a des chemins continus. Mais rien n'existe comme une mesure de Lebesgue sur un espace de dimension infinie, il n'y a donc pas de définition simple de la probabilité.

Pour les processus gaussiens, il existe certains cas où nous pouvons définir une vraisemblance en utilisant la notion d'équivalence des mesures gaussiennes. Un exemple important est fourni par le théorème de Girsanov, qui est largement utilisé en mathématiques financières. Ceci définit la probabilité d'une diffusion Itô comme la dérivée par rapport à la distribution de probabilité d'un processus de Wiener standard défini pour . Une exposition mathématique soignée se trouve dans le livre de Bernt Øksendal . Le livre (à venir) de Särkkä et Solin fournit une présentation plus intuitive qui aidera les praticiens. Une brillante exposition de mathématiques sur l' analyse et la probabilité sur les espaces de dimension infinie par Nate Elderedge est disponible.YtBtt0

Notez que la probabilité d'un processus stochastique qui serait complètement observé est parfois appelée probabilité de remplissage par les statisticiens.

Yves
la source
Explication très utile! Je pense qu'une partie de ma confusion concernant des sujets comme ceux-ci dans Bayesian Nonparametrics est due à mon manque de familiarité avec la théorie des mesures et l'analyse fonctionnelle, donc je serai sûr de vérifier vos références.
snickerdoodles777