J'ai entendu Andrew Ng (dans une vidéo que je ne trouve malheureusement plus) parler de la façon dont la compréhension des minima locaux dans les problèmes d'apprentissage profond a changé en ce sens qu'ils sont maintenant considérés comme moins problématiques car dans les espaces de grande...
J'essaie de comprendre le rôle de la dérivée de la fonction sigmoïde dans les réseaux de neurones. Je trace d'abord la fonction sigmoïde et la dérivée de tous les points de la définition à l'aide de python. Quel est exactement le rôle de ce dérivé? import numpy as np import matplotlib.pyplot as plt...
Je suis assez nouveau dans les réseaux de neurones, mais je comprends assez bien l'algèbre linéaire et les mathématiques de la convolution. J'essaie de comprendre l'exemple de code que je trouve à divers endroits sur le net pour former un NN convolutionnel Keras avec des données MNIST pour...
J'ai deux phrases, S1 et S2, qui ont toutes deux un nombre de mots (généralement) inférieur à 15. Quels sont les algorithmes les plus utiles et les plus efficaces (apprentissage automatique), qui sont peut-être faciles à mettre en œuvre (le réseau de neurones est correct, sauf si l'architecture est...
Quelle est la différence entre val_losset losspendant la formation à Keras? Par exemple Epoch 1/20 1000/1000 [==============================] - 1s - loss: 0.1760, val_loss: 0.2032 Sur certains sites, j'ai lu qu'à la validation, le décrochage ne fonctionnait
Quels sont les avantages et les inconvénients de Keras et TFlearn ? Quand une bibliothèque est-elle préférée à
J'utilise Libsvm pour former des données et prédire la classification d'un problème d' analyse sémantique . Mais il a un problème de performance sur les données à grande échelle, car l'analyse sémantique concerne le problème à n dimensions . L'année dernière, Liblinear a été publié, et il peut...
L'ensachage est la génération de plusieurs prédicteurs qui fonctionnent comme un prédicteur unique. Le décrochage est une technique qui enseigne à un réseau de neurones à faire la moyenne de tous les sous-réseaux possibles. En regardant les compétitions les plus importantes de Kaggle, il semble que...
Je fais un projet sur le problème d'identification des auteurs. J'avais appliqué la normalisation tf-idf pour former des données, puis formé un svm sur ces données. Maintenant, lorsque j'utilise le classificateur, dois-je également normaliser les données de test. Je pense que l'objectif de base de...
J'ai un projet de loisir auquel j'envisage de m'engager comme un moyen d'augmenter mon expérience jusqu'ici limitée de l'apprentissage automatique. J'ai suivi et complété le MOOC Coursera sur le sujet. Ma question concerne la faisabilité du projet. La tâche est la suivante: Les chats voisins...
J'ai des caractéristiques clairsemées qui sont prédictives, j'ai aussi des caractéristiques denses qui sont également prédictives. J'ai besoin de combiner ces fonctionnalités pour améliorer les performances globales du classificateur. Maintenant, le problème est que lorsque j'essaie de les...
Je me demande s'il existe des heuristiques sur le nombre de caractéristiques par rapport au nombre d'observations. Évidemment, si un certain nombre de caractéristiques est égal au nombre d'observations, le modèle se surajustera. En utilisant des méthodes clairsemées (LASSO, filet élastique), nous...
Je travaille sur une question du livre en ligne: http://neuralnetworksanddeeplearning.com/chap1.html Je peux comprendre que si la couche de sortie supplémentaire est composée de 5 neurones de sortie, je pourrais probablement définir un biais à 0,5 et un poids de 0,5 pour la couche précédente. Mais...
Quelqu'un peut-il poster un exemple simple de Keras utilisant un rappel pour enregistrer un modèle après chaque époque? Je peux trouver des exemples d'économies de poids, mais je veux pouvoir enregistrer un modèle complètement fonctionnel après chaque époque
Ici, la réponse se réfère à des gradients de fuite et d'explosion qui ont été sigmoiddes fonctions d'activation similaires, mais, je suppose, Reluont un inconvénient et c'est sa valeur attendue. il n'y a pas de limitation pour la sortie du Reluet donc sa valeur attendue n'est pas nulle. Je me...
Pour la détection, une façon courante de déterminer si une proposition d'objet était correcte est Intersection over Union (IoU, IU). Cela prend l'ensemble AUNEA des pixels d'objet proposés et l'ensemble des pixels d'objet réels BBB et calcule: IoU(A,B)=A∩BA∪BIoU(A,B)=A∩BA∪BIoU(A, B) = \frac{A \cap...
Existe-t-il un package open source complet (de préférence en python ou R) qui peut être utilisé pour la détection d'anomalies dans les séries temporelles? Il existe un package SVM d'une classe dans scikit-learn, mais ce n'est pas pour les données de séries chronologiques. Je recherche des packages...
Je travaille sur la reconnaissance vocale avec Tensorflow et je prévois de former LSTM NN avec un ensemble de données d'ondes massives. En raison des gains de performances, je prévois d'utiliser des tfrecords. Il existe plusieurs exemples sur Internet (Inception par exemple) où les fichiers...
Considérons un réseau de neurones: Pour un ensemble de données donné, nous le divisons en ensemble de formation, de validation et de test. Supposons que nous le fassions dans le rapport classique 60:20:20, puis nous empêchons le surapprentissage en validant le réseau en le vérifiant sur l'ensemble...
Lorsqu'une initialisation aléatoire des centroïdes est utilisée, différentes séries de K-moyennes produisent différentes SSE totales. Et c'est crucial dans les performances de l'algorithme. Quelles sont les approches efficaces pour résoudre ce problème? Les approches récentes sont...