Supposons que j'alimente une matrice 2D de forme (99,13) en entrée d'une couche LSTM. J'ai n nombre de fichiers, où chacun contient (99,13) des vecteurs de taille. J'ai décidé de considérer 13 comme le nombre de fonctionnalités et 99 comme les pas de temps. (Lors de l'implémentation avec Keras,...
L'apprentissage statistique et ses résultats sont actuellement omniprésents en sciences sociales. Il y a quelques mois, Guido Imbens a déclaré: "LASSO est le nouvel OLS". J'ai un peu étudié le Machine Learning et je sais que son objectif principal est la prédiction. Je suis également d'accord avec...
J'ai récemment étudié la théorie derrière les ANN et je voulais comprendre la «magie» derrière leur capacité de classification multi-classe non linéaire. Cela m'a conduit à ce site Web qui explique bien comment géométriquement cette approximation est réalisée. Voici comment je l'ai compris (en 3D):...
J'ai commencé à lire sur les réseaux neuronaux récurrents (RNN) et la mémoire à court terme (LSTM) ... (... oh, pas assez de points de répétition ici pour lister les références ...) Une chose que je ne comprends pas: il semble toujours que les neurones dans chaque instance d'une couche cachée...
Soit f [x] un mélange gaussien pdf avec n termes de poids uniforme, signifie , et les variances correspondantes :{μ1,...,μn}{μ1,...,μn}\{\mu_{1},...,\mu_{n}\}{σ1,...,σn}{σ1,...,σn}\{\sigma_{1},...,\sigma_{n}\}
En général, dois-je recycler mon réseau de neurones avec moins de neurones afin qu'il ait moins de neurones ReLU morts? J'ai lu des opinions contradictoires sur les ReLU morts. Certaines sources affirment que les ReLU morts sont bons car ils encouragent la rareté. D'autres disent qu'ils sont...
Je voulais former un réseau avec des non-linéarités qui souffrent de la disparition (ou du problème de gradient explosif mais principalement de la disparition). Je sais que la méthode standard (actuelle) consiste à utiliser la normalisation par lots 1 [BN] 1 ou simplement à abandonner la...
Dans SGD, une époque serait la présentation complète des données d'entraînement, puis il y aurait N mises à jour de poids par époque (s'il y a N exemples de données dans l'ensemble d'entraînement). Si nous faisons maintenant des mini-lots à la place, disons par lots de 20. Une époque se...
Question: Quelqu'un connaît-il des manuels introduisant l'apprentissage automatique (pour la première fois) via l' approche spatiale du noyau de reproduction Hilbert ? C'est-à-dire, qui supposent l'analyse fonctionnelle comme condition préalable, mais ne supposent pas une connaissance préalable de...
Pour la première fois (excuse imprécision / erreurs) j'ai regardé les processus gaussiens , et plus précisément, j'ai regardé cette vidéo de Nando de Freitas . Les notes sont disponibles en ligne ici . À un moment donné, il tire échantillons aléatoires d'une normale multivariée générée en...
De Wikipédia: En modélisation statistique, l' analyse de régression est un processus statistique permettant d'estimer les relations entre les variables. Il comprend de nombreuses techniques de modélisation et d'analyse de plusieurs variables, lorsque l'accent est mis sur la relation entre une...
Nous étudions souvent le modèle de mélange gaussien comme un modèle utile dans l'apprentissage automatique et ses applications. Quelle est la signification physique de ce " mélange "? Est-il utilisé parce qu'un modèle de mélange gaussien modélise la probabilité d'un certain nombre de variables...
Je suis nouveau dans la conversion de formules en formulaire matriciel. Mais cela est nécessaire pour un code d'apprentissage automatique efficace. Je veux donc comprendre la "bonne" façon, pas les trucs de cow-boy que je fais. D'accord, j'essaie de convertir la somme pondérée des carrés de la...
Nouveau dans l'apprentissage statistique et automatique et prenant des cours en ligne. J'essaie de comprendre la régression logistique plus en détail et j'ai remarqué une différence dans la formule entre le cours Andrew Ng et le cours d'apprentissage statistique de Stanford. Ci-dessous, je poste...
En général, si nous avons un grand ensemble de données, nous pouvons le diviser en (1) formation, (2) validation et (3) test. Nous utilisons la validation pour identifier les meilleurs hyperparamètres en validation croisée (par exemple, C dans SVM), puis nous formons le modèle en utilisant les...
Je suis un peu confus quant à la formule de calcul de la covariance dans le processus gaussien (l'ajout de variance me confond toujours car il n'est pas toujours explicitement indiqué). L'origine de la confusion est que les formules sont données dans Pattern Recognition et Machine Learning par...
Je suis assez confus quant à la façon de calculer les valeurs AP ou mAP car il semble y avoir plusieurs méthodes différentes. Je veux spécifiquement obtenir les valeurs AP / mAP pour la détection d'objets. Tout ce que je sais, c'est: Rappel = TP / (TP + FN), précision = TP / (TP + FP) Par exemple,...
Si je comprends bien, les réseaux de neurones profonds effectuent un "apprentissage de la représentation" en superposant les caractéristiques ensemble. Cela permet d'apprendre des structures dimensionnelles très élevées dans les entités. Bien sûr, c'est un modèle paramétrique avec un nombre fixe de...
Peut-on généraliser toutes les méthodes d'ensemble en utilisant le vote? Les méthodes de stimulation utilisent-elles également le vote pour amener les apprenants faibles dans le modèle final? Ma compréhension de la technique: Boosting: ajoute continuellement un apprenant faible pour booster les...
J'ai la configuration suivante pour un projet de recherche Finance / Machine Learning dans mon université: j'applique un (Deep) Neural Network (MLP) avec la structure suivante dans Keras / Theano pour distinguer les actions surperformantes (étiquette 1) des actions sous-performantes ( étiquette 0)....