Questions marquées «sigmoid-curve»

Dans le cours sur les réseaux neuronaux et l'apprentissage profond d' Andrew Ng sur Coursera, il dit que l'utilisation de tanhtanhtanh est presque toujours préférable à l'utilisation de sigmoidsigmoidsigmoid . La raison qu'il donne est que les sorties utilisant tanhtanhtanh centrées autour de 0...

Je jouais avec un simple réseau neuronal avec une seule couche cachée, par Tensorflow, puis j'ai essayé différentes activations pour la couche cachée: Relu Sigmoïde Softmax (enfin, habituellement softmax est utilisé dans la dernière couche ..) Relu offre la meilleure précision de train et précision...

La fonction logistique a une plage de sortie de 0 à 1 et la pente asymptotique est nulle des deux côtés. Qu'est-ce qu'une alternative à une fonction logistique qui ne s'aplatit pas complètement à ses extrémités? Dont les pentes asymptotiques approchent de zéro mais pas de zéro et la plage est...