Optimisation bayésienne pour le bruit non gaussien

8

Une fonction boîte noire F:RnR, qui est évalué ponctuellement soumis au bruit gaussien, à savoir, F(X)+N(μ(X),σ(X)2), peut être minimisé en utilisant l'optimisation bayésienne où un processus gaussien est utilisé comme modèle de fonction bruyant.

Comment l'optimisation bayésienne peut-elle être utilisée pour des fonctions soumises à du bruit non gaussien, par exemple des distributions asymétriques?

Y a-t-il des implémentations qui prennent en charge ce paramètre?

Johnb
la source
Juste un commentaire: les gens n'utilisent généralement pas le processus gaussien (et les distributions normales pour tous les autres problèmes) parce qu'ils croient que toutes les choses sont normalement distribuées, mais parce que cela facilite les calculs.
Tim

Réponses:

1

Il existe des modèles de processus gaussiens à vraisemblance non gaussienne : la distribution a priori sur la fonctionF est encore un processus gaussien mais le terme de bruit n'est plus gaussien, c'est-à-dire la probabilité p(y|F)n'est plus supposé être gaussien. En conséquence, les résultats analytiques sont perdus et l'inférence de dessin nécessite désormais des méthodes d'approximation telles que MCMC ou l'approximation de Laplace.

Pour plusieurs distributions, cela est implémenté et expliqué dans le cadre du package GPML Matlab , disponible et expliqué ici . Le tableau des méthodes d'inférence dans la section 3d ("Un aperçu plus détaillé") donne un aperçu des distributions qui ont été implémentées pour la probabilité et quelle méthode d'inférence est disponible pour chacune d'elles.

Les seuls articles auxquels je peux vous lier en ce moment (parce que je les ai mis en signet à un moment donné) sont sur le site de l'étudiant. t Distribution:

  • Shah, Amar, Andrew Wilson et Zoubin Ghahramani. "Les processus de Student-t comme alternatives aux processus gaussiens." Intelligence artificielle et statistiques. 2014.
  • Shah, Amar, Andrew Wilson et Zoubin Ghahramani. "Les processus de Student-t comme alternatives aux processus gaussiens." Intelligence artificielle et statistiques. 2014.
  • Jylänki, Pasi, Jarno Vanhatalo et Aki Vehtari. "Régression gaussienne robuste avec une probabilité de Student-t." Journal of Machine Learning Research 12.Nov (2011): 3227-3257.
Paris
la source