Prochaines étapes après «Raisonnement bayésien et apprentissage automatique»

22

Je passe actuellement par "Raisonnement Bayésien et Apprentissage Machine" par David Barber et c'est un livre extrêmement bien écrit et engageant pour apprendre les fondamentaux. Donc, une question à quelqu'un qui l'a déjà fait. Quels sont les prochains livres que je devrais parcourir après avoir une maîtrise raisonnable de la plupart des concepts de Barber?

davidk01
la source

Réponses:

23

Je n'avais jamais entendu parler du livre Barber auparavant, mais après l'avoir parcouru rapidement, il a l'air très très bon.

Sauf si vous avez un domaine particulier que vous souhaitez examiner, je suggère ce qui suit (dont certains / beaucoup dont vous avez probablement déjà entendu parler):

  • Théorie de l'information, inférence et algorithmes d'apprentissage, par DJC Mackay. Un classique, et l'auteur en met un .pdf disponible gratuitement en ligne, vous n'avez donc aucune excuse.
  • Reconnaissance de formes et apprentissage automatique, par CMBishop. Fréquemment cité, bien qu'il semble y avoir beaucoup de croisements entre cela et le livre Barber.
  • Théorie des probabilités, la logique de la science, par ETJaynes. Dans certains domaines, peut-être un peu plus basique. Cependant les explications sont excellentes. J'ai trouvé que cela clarifiait quelques malentendus que je ne savais même pas avoir.
  • Elements of Information Theory, par TM Cover et JAThomas. Attaque la probabilité du point de vue, oui, vous l'avez deviné, de la théorie de l'information. Quelques trucs très soignés sur la capacité du canal et l'entité maximale. Un peu différent des trucs plus bayésiens (je ne me souviens que d'en avoir vu un avant dans tout le livre).
  • Théorie de l'apprentissage statistique, par V.Vapnik. Absolument non baysian, ce qui peut ne pas vous plaire. Se concentre sur la limite supérieure probable du risque structurel. Explique d'où viennent les machines à vecteurs de support.
  • Sir Karl Popper a produit une série d'ouvrages sur la philosophie de la découverte scientifique, qui présentent un grand nombre de statistiques (des collections peuvent être achetées, mais je n'ai pas de titres à portée de main - excuses). Encore une fois, pas du tout bayésien, mais sa discussion sur la falsifiabilité et sa relation avec le rasoir occams est (à mon avis) fascinante, et devrait être lue par toute personne impliquée dans la science.
Tapoter
la source
2
+1 pour Jaynes, Cover et Thomas et Vapnik; après un livre comme Barber (ou Bishop ou Murphy), il est probablement préférable de se concentrer sur des livres qui approfondissent une idée en particulier plutôt que sur son ampleur.
Dikran Marsupial