Surajustement du réseau neuronal

J'ai appris qu'un sur-ajustement peut être détecté en traçant l'erreur d'apprentissage et l'erreur de test en fonction des époques. Comme dans:

J'ai lu ce blog où ils disent que le réseau neuronal, net5 est trop adapté et ils fournissent ce chiffre:

Ce qui est étrange pour moi, car l'erreur de validation et de formation de net5 continue de baisser (mais lentement).

Pourquoi prétendent-ils que c'est trop approprié? Est-ce parce que l'erreur de validation stagne?

Le sur-ajustement n'est pas seulement lorsque l'erreur de test augmente avec les itérations. Nous disons qu'il y a surajustement lorsque les performances sur l'ensemble de test sont bien inférieures à celles sur l'ensemble de trains (car le modèle correspond trop aux données vues et ne se généralise pas bien).

Dans votre deuxième graphique, nous pouvons voir que les performances sur les bancs d'essai sont près de 10 fois inférieures aux performances sur les trains, ce qui peut être considéré comme un sur-ajustement.

Il est presque toujours vrai qu'un modèle fonctionne mieux sur l'ensemble d'apprentissage que sur l'ensemble de test, car le modèle a déjà vu les données. Cependant, un bon modèle devrait être en mesure de bien généraliser sur des données invisibles, puis de réduire l'écart entre les performances sur train et les bancs d'essai.

Votre premier exemple de sur-ajustement peut être résolu par un arrêt précoce par exemple. Votre deuxième exemple peut être résolu par régularisation, par corruption d'entrée, etc.