Questions marquées «loss-functions»

Comprendre la fonction de perte GAN

J'ai du mal à comprendre la fonction de perte GAN comme indiqué dans Understanding Generative Adversarial Networks (un article de blog écrit par Daniel Seita). Dans la perte d'entropie croisée standard, nous avons une sortie qui a été exécutée via une fonction sigmoïde et une classification binaire...

La perte saute brusquement lorsque je diminue le taux d'apprentissage avec Adam optimizer dans PyTorch

Je forme un auto-encoderréseau avec Adamoptimiseur (avec amsgrad=True) et MSE losspour la tâche de séparation de source audio à canal unique. Chaque fois que je diminue le taux d'apprentissage d'un facteur, la perte de réseau saute brusquement puis diminue jusqu'à la prochaine décroissance du taux...