J'essaie de comprendre le fonctionnement interne de Hamiltonian Monte Carlo (HMC), mais je ne peux pas comprendre pleinement la partie lorsque nous remplaçons l'intégration temporelle déterministe par une proposition Metropolis-Hasting. Je lis le génial article d'introduction A Conceptual...
Je recherche actuellement un aperçu des algorithmes d'apprentissage par renforcement et peut-être une classification de ceux-ci. Mais à côté de Sarsa et Q-Learning + Deep Q-Learning, je ne trouve pas vraiment d'algorithmes populaires. Wikipedia me donne un aperçu des différentes méthodes générales...
Z∼N(μ,Σ)Z∼N(μ,Σ)Z \sim \mathcal N(\mu, \Sigma)RdRd\mathbb R^dZ+=max(0,Z)Z+=max(0,Z)Z_+ = \max(0, Z) Cela se produit par exemple parce que, si nous utilisons la fonction d'activation ReLU à l'intérieur d'un réseau profond, et supposons via le CLT que les entrées d'une couche donnée sont...
Fermé . Cette question doit être plus ciblée . Il n'accepte pas actuellement les réponses. Vous souhaitez améliorer cette question? Mettez à jour la question pour qu'elle se concentre sur un seul problème en modifiant ce post . Fermé il y a 2 ans . Je suis nouveau dans le domaine de...
Quelles situations connaissons-nous où la descente de gradient peut converger (soit vers un point critique, soit vers un minimum local / global) pour des fonctions non convexes? Pour SGD sur les fonctions non convexes, un type de preuve a été examiné ici,
Je lis Thinking, Fast and Slow de Daniel Kahneman et je suis tombé sur le texte suivant Il y a quelques années, j'ai eu une occasion inhabituelle d'examiner de près l'illusion de compétences financières. J'avais été invité à parler à un groupe de conseillers en placement dans une entreprise qui...
J'étudie la différence entre la régularisation dans la régression RKHS et la régression linéaire, mais j'ai du mal à saisir la différence cruciale entre les deux. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m...
Le titre dit tout - combien de paramètres entraînables y a-t-il dans une couche GRU? Ce type de question revient souvent lorsque l'on tente de comparer des modèles de différents types de couches RNN, tels que les unités de mémoire à court terme (LSTM) vs GRU, en termes de performances par...
Un pdf est généralement écrit comme , où le minuscule est traité comme une réalisation ou un résultat de la variable aléatoire qui a ce pdf. De même, un cdf est écrit comme , qui a la signification . Cependant, dans certaines circonstances, telles que la définition de la fonction de score et cette...
J'ai rencontré un comportement paradoxal de soi-disant "tests exacts" ou "tests de permutation", dont le prototype est le test de Fisher. C'est ici. Imaginez que vous avez deux groupes de 400 individus (par exemple 400 témoins contre 400 cas) et une covariable avec deux modalités (par exemple...
J'ai récemment regardé cette conférence d'Eric J. Ma et vérifié son entrée sur le blog , où il cite Radford Neal, que les modèles bayésiens ne surajustent pas (mais ils peuvent suréquiper ) et lorsque vous les utilisez, nous n'avons pas besoin de jeux de test pour les valider (pour moi les...
J'essaie de modéliser et de prévoir une série chronologique qui est cyclique plutôt que saisonnière (c'est-à-dire qu'il y a des schémas saisonniers, mais pas avec une période fixe). Cela devrait être possible en utilisant un modèle ARIMA, comme mentionné dans la section 8.5 de la prévision:...
La définition la plus simple d'une statistique suffisante dans la perspective fréquentiste est donnée ici dans Wikipedia . Cependant, je suis récemment tombé sur un livre bayésien, avec la définition . Il est indiqué dans le lien que les deux sont équivalents, mais je ne vois pas comment. Aussi,...
Je suis tombé sur le problème de simulation suivant: étant donné un ensemble de nombres réels connus, une distribution sur est définie par où désigne la partie positive de . Bien que je puisse penser à un échantillonneur Metropolis-Hastings ciblant cette distribution, je me demande s'il existe un...
Je connais les premiers moments d'une distribution. Je sais aussi que ma distribution est continue, unimodale et bien formée (elle ressemble à une distribution gamma). Est-ce possible de:NNN En utilisant un algorithme, générez des échantillons à partir de cette distribution, qui dans des conditions...
Il existe un certain nombre de sites Web décrivant la descente de gradient pour trouver les paramètres d'une régression linéaire simple (en voici un). Google le décrit également dans son nouveau cours de ML (au public). Cependant, sur Wikipedia , les formules suivantes pour calculer les paramètres...
Cela pourrait être un peu d'une question philosophique, mais on y va: En théorie de la décision, le risque d'un estimateur Bayes θ ( x ) pour θ ∈ Θ est défini par rapport à une distribution avant π sur Θ .θ^(x)θ^(x)\hat\theta(x)θ∈Θθ∈Θ\theta\in\Thetaππ\piΘΘ\Theta Maintenant, d'une part, pour que le...
Je travaille actuellement sur une tâche de prévision de la demande, avec des données sur des dizaines de milliers de produits dans quelques milliers de magasins. Plus précisément, j'ai quelques années de données de ventes quotidiennes par produit dans chaque magasin, et mon objectif est de prévoir...
Est-il possible que le PDF de la différence de deux iid rv ressemble à un rectangle (au lieu, disons, du triangle que nous obtenons si les rv sont tirés de la distribution uniforme). c'est-à-dire est-il possible que le PDF f de jk (pour deux iid rv pris dans une distribution) ait f (x) = 0,5 pour...
Quels sont les tests de saisonnalité les plus simples pour les séries chronologiques? Étant plus précis, je veux tester si en specific time series the seasonal componentest significatif. Quels sont les packages recommandés en Python /