De cette vidéo d'Andrew Ng vers 5h00 Comment sont δ3δ3\delta_3 et δ2δ2\delta_2dérivé? En fait, qu'est-ce queδ3δ3\delta_3 signifie même? δ4δ4\delta_4 est obtenu en comparant à y, une telle comparaison n'est pas possible pour la sortie d'une couche cachée,
Je me demandais s'il était possible de former un SVM (par exemple linéaire, pour faciliter les choses) en utilisant la rétropropagation? Actuellement, je suis à un barrage routier, car je ne peux penser qu'à écrire la sortie du classificateur comme F( x ; θ , b ) = sgn ( θ ⋅ x - ( b + 1 ) ) = sgn (...
Je comprends que la formation préalable est utilisée pour éviter certains des problèmes liés à la formation conventionnelle. Si j'utilise la rétropropagation avec, par exemple un encodeur automatique, je sais que je vais rencontrer des problèmes de temps car la rétropropagation est lente, et aussi...
Je passe en revue les problèmes liés aux problèmes d'affectation écrits de la classe d'apprentissage profond de Stanford NLP http://cs224d.stanford.edu/assignment1/assignment1_soln J'essaie de comprendre la réponse pour 3a où ils recherchent la dérivée du vecteur pour le mot central. Supposons que...
J'ai commencé à lire sur les réseaux neuronaux récurrents (RNN) et la mémoire à court terme (LSTM) ... (... oh, pas assez de points de répétition ici pour lister les références ...) Une chose que je ne comprends pas: il semble toujours que les neurones dans chaque instance d'une couche cachée...
J'utilise deux perceptrons multicouches à action directe (MLP). Avec les mêmes données d'entrée (14 neurones d'entrée), je fais une classification (vrai / faux) et une régression (si vrai, "combien") ¹. Jusqu'à présent, je l' ai utilisé paresseusement Matlabs patternnet et FITNET , respectivement....