Bien que j'aime à penser que j'ai une bonne compréhension du concept de l'information préalable dans l'analyse statistique et la prise de décision bayésienne, j'ai souvent du mal à comprendre ma demande. Je pense à quelques situations qui illustrent mes luttes et je pense qu'elles ne sont pas...
Selon "Efficient Backprop" de LeCun et al (1998), il est de bonne pratique de normaliser toutes les entrées afin qu'elles soient centrées autour de 0 et se situent dans la plage de la dérivée seconde maximale. Ainsi, par exemple, nous utiliserions [-0,5,0,5] pour la fonction "Tanh". C'est pour...
Comment trouver une expression analytique dans le problème suivant?D(n,l,L)D(n,l,L)D(n,l,L) Je dépose aléatoirement "barres" de longueur dans un intervalle . Les "barres" peuvent se chevaucher. Je voudrais trouver la longueur totale moyenne de l'intervalle occupée par au moins une...
Supposons que nous ayons la matrice de données , qui est par- , et le vecteur d'étiquette , qui est -par-un. Ici, chaque ligne de la matrice est une observation, et chaque colonne correspond à une dimension / variable. (supposez )XX\mathbf{X}nnnpppOuiOuiYnnnn > pn>pn>p Alors qu'est-ce que...
En utilisant R sur certaines données et en essayant de voir si mes données sont hétéroscédastiques, j'ai trouvé deux implémentations du test de Breusch-Pagan, bptest (package lmtest) et ncvTest (package car). Cependant, ceux-ci produisent des résultats différents. Quelle est la différence entre les...
Dans le wiki, la fonction softmax est définie comme le normalisateur de gradient-log de la distribution de probabilité catégorielle . Une explication partielle du normalisateur de journal se trouve ici , mais que signifie normalisateur de journal de gradient
Le problème est: Dérivez le gradient par rapport à la couche d'entrée pour un réseau neuronal à couche cachée unique en utilisant sigmoïde pour l'entrée -> caché, softmax pour caché -> la sortie, avec une perte d'entropie croisée. Je peux passer la majeure partie de la dérivation en utilisant...
J'ai lu les deux pages wikipedia d' analyse de sensibilité et de validation de modèle (ici, seulement la validation de régression linéaire) mais je n'arrive pas à trouver un moyen de séparer ces deux termes. J'ai l'impression que le premier est plus utilisé dans les universités et l'ingénierie en...
Comment attribuer plus de poids à des observations plus récentes dans R? Je suppose que c'est une question ou un désir fréquemment posé, mais j'ai du mal à trouver exactement comment mettre en œuvre cela. J'ai essayé de chercher beaucoup pour cela, mais je ne peux pas trouver un bon exemple...
Dans les modèles de séries chronologiques, comme ARMA-GARCH, pour sélectionner le décalage ou l'ordre approprié du modèle, différents critères d'information, comme AIC, BIC, SIC, etc., sont utilisés. Ma question est très simple, pourquoi ne pas utiliser le ajusté pour choisir le modèle approprié?...
Nous savons tous que les générateurs de nombres aléatoires dans les ordinateurs ne génèrent pas de vrais nombres aléatoires, mais génèrent à la place des nombres pseudo-aléatoires. En outre, certains RNG sont meilleurs que d'autres, et certains sont mieux mis en œuvre que d'autres. Quels sont...
J'ai lu les classificateurs algébriques: une approche générique pour la validation croisée rapide, la formation en ligne et la formation parallèle et j'ai été étonné par la performance des algorithmes dérivés. Cependant, il semble qu'au-delà de Naive Bayes (et GBM) il n'y a pas beaucoup...
J'ai vu qu'il y a diverses questions concernant l'interprétation et la construction des jeux, ce qui semble illustrer la difficulté pour les non-statisticiens de les traiter. Malheureusement, à partir d'aucun des threads ou tutoriels que j'ai lus, j'ai pu comprendre clairement comment construire un...
Je suis étonné de ne pouvoir trouver aucun article / conférence sur la façon d'intégrer des distributions de probabilité de classe antérieures dans des classificateurs comme la régression logistique ou la forêt aléatoire. Ma question est donc: Comment peut-on incorporer la distribution de...
Il est bien connu que l'indépendance des variables aléatoires implique une corrélation nulle, mais une corrélation nulle n'implique pas nécessairement l'indépendance. Je suis tombé sur de nombreux exemples mathématiques démontrant la dépendance malgré une corrélation nulle. Existe-t-il des exemples...
Je comprends comment fonctionne la convolution mais je ne comprends pas comment les convolutions 1D sont appliquées aux données 2D. Dans cet exemple, vous pouvez voir une convolution 2D dans une donnée 2D. Mais comment serait-il si c'était une convolution 1D? Juste un noyau 1D glissant de la même...
Supposons que je veuille former un réseau neuronal profond pour effectuer une classification ou une régression, mais je veux savoir dans quelle mesure la prédiction sera sûre. Comment pourrais-je y parvenir? Mon idée est de calculer l'entropie croisée pour chaque donnée d'entraînement, sur la base...
L'AIC est fréquemment recommandé comme critère pour comparer les modèles de prévision de séries chronologiques. Voir par exemple ceci dans le contexte des modèles de régression dynamique : L'AIC peut être calculé pour le modèle final et cette valeur peut être utilisée pour déterminer les meilleurs...
La question est basée sur l'article intitulé: Reconstruction d'images en tomographie optique diffuse à l'aide du modèle couplé de transport et de diffusion radiatifs Lien de téléchargement Les auteurs appliquent l'algorithme EM avec régularisation de densité d'un vecteur inconnu pour estimer les...
J'apprends l'apprentissage en profondeur (en particulier les CNN) et comment cela nécessite généralement énormément de données pour éviter le surapprentissage. Cependant, on m'a également dit que plus la capacité / le nombre de paramètres d'un modèle est élevé, plus il faut de données pour éviter...