Comment dériver des erreurs dans le réseau neuronal avec l'algorithme de rétropropagation?

Je vais répondre à votre question sur le $\delta_i^{(l)}$ , mais rappelez-vous que votre question est une sous-question d'une question plus vaste, c'est pourquoi:

\nabla_{je j}^{(l)} = \sum_{k} θ_{k je}^{(l + 1)} δ_{k}^{(l + 1)} * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)})) * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \sum_k \theta_{ki}^{(l+1)}\delta_k^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Rappel sur les étapes des réseaux de neurones:

Étape 1: propagation directe (calcul de la $a_{i}^{(l)}$ )
Étape 2a: propagation vers l'arrière: calcul des erreurs $\delta_{i}^{(l)}$
Étape 2b: propagation vers l'arrière: calcul du gradient $\nabla_{ij}^{(l)}$ de J ( $\Theta$ ) en utilisant les erreurs $\delta_{i}^{(l+1)}$ et le $a_{i}^{(l)}$ ,
Étape 3: descente de gradient: calculez le nouveau $\theta_{ij}^{(l)}$ en utilisant les dégradés $\nabla_{ij}^{(l)}$

Tout d'abord, pour comprendre ce que $\delta_i^{(l)}$ sont , ce qu'ils représentent et pourquoi Andrew NG parle d'eux , vous devez comprendre ce qu'Andrew fait en ce moment et pourquoi nous faisons tous ces calculs: Il calcule le gradient $\nabla_{ij}^{(l)}$ de $\theta_{ij}^{(l)}$ à utiliser dans l'algorithme de descente de gradient.

Le gradient est défini comme:

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

Comme nous ne pouvons pas vraiment résoudre cette formule directement, nous allons la modifier en utilisant DEUX MAGIC TRICKS pour arriver à une formule que nous pouvons réellement calculer. Cette dernière formule utilisable est:

\nabla_{i j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Pour arriver à ce résultat, le PREMIER TRUC MAGIQUE est que l'on peut écrire le gradient $\nabla_{ij}^{(l)}$ de $\theta_{ij}^{(l)}$ en utilisant $\delta_i^{(l)}$ :

\nabla_{i j}^{(l)} = δ_{i}^{(l)} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$ Avec

δ_{i}^{(L)}

$\delta_i^{(L)}$ défini (pour l'indice L uniquement) comme:

δ_{i}^{(L)} = \frac{\partial C}{\partial z_{i}^{(l)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Et puis le SECOND MAGIC TRICK utilisant la relation entre $\delta_i^{(l)}$ et $\delta_i^{(l+1)}$ , pour définir les autres index,

δ_{i}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

Et comme je l'ai dit, nous pouvons enfin écrire une formule dont nous connaissons tous les termes:

\nabla_{je j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)})) * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

DÉMONSTRATION DU PREMIER TRUC MAGIQUE: $\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

Nous avons défini:

\nabla_{je j}^{(l)} = \frac{\partial C}{\partial θ_{je j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

La règle de chaîne pour les dimensions supérieures (vous devez VRAIMENT lire cette propriété de la règle de chaîne) nous permet d'écrire:

\nabla_{je j}^{(l)} = \sum_{k} \frac{\partial C}{\partial z_{k}^{(l)}} * \frac{\partial z_{k}^{(l)}}{\partial θ_{je j}^{(l)}}

$\nabla_{ij}^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l)}} * \dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}}$

Cependant, comme:

z_{k}^{(l)} = \sum_{m} θ_{k m}^{(l)} * {une}_{m}^{(l - 1)}

$z_k^{(l)} = \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

On peut alors écrire:

\frac{\partial z_{k}^{(l)}}{\partial θ_{je j}^{(l)}} = \frac{\partial}{\partial θ_{je j}^{(l)}} \sum_{m} θ_{k m}^{(l)} * {une}_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial}{\partial \theta_{ij}^{(l)}} \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

Du fait de la linéarité de la différenciation [(u + v) '= u' + v '], on peut écrire:

\frac{\partial z_{k}^{(l)}}{\partial θ_{je j}^{(l)}} = \sum_{m} \frac{\partial θ_{k m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \sum_m\dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)}$

avec:

je F k, m \neq je, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{m}^{(l - 1)} = 0

$if k,m \neq i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = 0$

je F k, m = je, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{m}^{(l - 1)} = \frac{\partial θ_{je j}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{j}^{(l - 1)} = {une}_{j}^{(l - 1)}

$if k,m = i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)}$

Alors pour k = i (sinon c'est clairement égal à zéro):

\frac{\partial z_{je}^{(l)}}{\partial θ_{je j}^{(l)}} = \frac{\partial θ_{je j}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{j}^{(l - 1)} + \sum_{m \neq j} \frac{\partial θ_{je m}^{(l)}}{\partial θ_{je j}^{(l)}} * {une}_{j}^{(l - 1)} = {une}_{j}^{(l - 1)} + 0

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} + \sum_{m \neq j}\dfrac {\partial\theta_{im}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)} + 0$

Enfin, pour k = i:

\frac{\partial z_{je}^{(l)}}{\partial θ_{je j}^{(l)}} = {une}_{j}^{(l - 1)}

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = a_j^{(l-1)}$

En conséquence, nous pouvons écrire notre première expression du gradient $\nabla_{ij}^{(l)}$ :

\nabla_{je j}^{(l)} = \frac{\partial C}{\partial z_{je}^{(l)}} * \frac{\partial z_{je}^{(l)}}{\partial θ_{je j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * \dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}}$

Ce qui équivaut à:

\nabla_{je j}^{(l)} = \frac{\partial C}{\partial z_{je}^{(l)}} * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * a_j^{(l-1)}$

Ou:

\nabla_{je j}^{(l)} = δ_{je}^{(l)} * {une}_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

DÉMONSTRATION DU SECOND MAGIC TRICK : $\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$ ou:

δ^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * ({une}^{(l)} (1 - {une}^{(l)}))

$\delta^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a^{(l)}(1-a^{(l)}))$

N'oubliez pas que nous avons posé:

δ^{(l)} = \frac{\partial C}{\partial z^{(l)}} une n ré δ_{je}^{(l)} = \frac{\partial C}{\partial z_{je}^{(l)}}

$\delta^{(l)} = \dfrac {\partial C} {\partial z^{(l)}} \ \ \ and \ \ \ \delta_i^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Encore une fois, la règle de chaîne pour les dimensions supérieures nous permet d'écrire:

δ_{je}^{(l)} = \sum_{k} \frac{\partial C}{\partial z_{k}^{(l + 1)}} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}}

$\delta_i^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l+1)}} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Remplacement $\dfrac {\partial C} {\partial z_k^{(l+1)}}$ par $\delta_k^{(l+1)}$ , on a:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Maintenant, concentrons-nous sur $\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$ . On a:

z_{k}^{(l + 1)} = \sum_{j} θ_{k j}^{(l + 1)} * {une}_{j}^{(l)} = \sum_{j} θ_{k j}^{(l + 1)} * g (z_{j}^{(l)})

$z_k^{(l+1)} = \sum_j \theta_{kj}^{(l+1)} * a_j^{(l)} = \sum_j \theta_{kj}^{(l+1)} * g(z_j^{(l)})$

Ensuite, nous dérivons cette expression concernant $z_k^{(i)}$ :

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}} = \frac{\partial \sum_{j} θ_{k j}^{(l)} * g (z_{j}^{(l)})}{\partial z_{je}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\partial \sum_j \theta_{kj}^{(l)} * g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Du fait de la linéarité de la dérivation, on peut écrire:

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}} = \sum_{j} θ_{k j}^{(l)} * \frac{\partial g (z_{j}^{(l)})}{\partial z_{je}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \sum_j \theta_{kj}^{(l)} * \dfrac {\partial g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Si j $\neq$ i, alors $\dfrac {\partial \theta_{kj}^{(l)} * g(z_j^{(l)})} {\partial z_i^{(l)}} = 0$

En conséquence:

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{je}^{(l)}} = \frac{θ_{k je}^{(l)} * \partial g (z_{je}^{(l)})}{\partial z_{je}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\theta_{ki}^{(l)} * \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Et alors:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k je}^{(l)} * \frac{\partial g (z_{je}^{(l)})}{\partial z_{je}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * \dfrac { \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Comme g '(z) = g (z) (1-g (z)), nous avons:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k je}^{(l)} * g (z_{je}^{(l)}) (1 - g (z_{je}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * g(z_i^{(l)})(1-g(z_i^{(l)})$

Et comme $g(z_i^{(l)} = a_i^{(l)}$ , on a:

δ_{je}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k je}^{(l + 1)} * {une}_{je}^{(l)} (1 - {une}_{je}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l+1)} * a_i^{(l)}(1-a_i^{(l)})$

Et enfin, en utilisant la notation vectorisée:

\nabla_{je j}^{(l)} = [θ^{(l + 1)^{T}} δ^{(l + 1)} * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)}))] * [{une}_{j}^{(l - 1)}]

$\nabla_{ij}^{(l)} = [\theta^{(l+1)^T}\delta^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)}))] * [a_j^{(l-1)}]$

tmangin
la source

Merci pour votre réponse. Je t'ai voté !! Pourriez-vous s'il vous plaît citer les sources que vous avez référées pour arriver à la réponse ... :)

Adithya Upadhya

@tmangin: Après la conférence d'Andrew Ng, nous avons

δ_{j}^{(i)}

$\delta_j^{(i)}$ est l'erreur du nœud j dans la couche l. Comment avez-vous obtenu la définition de

δ_{j}^{(i)} = \frac{\partial C}{\partial Z_{j}^{(l)}}

$\delta_j^{(i)}=\frac{\partial C}{\partial Z_j^{(l)}}$ .

phuong

@phuong En fait, je vous ai raison de demander: seul le

δ_{je}^{(L)}

$\delta_i^{(L)}$ avec l'indice "l" le plus élevé L est défini comme

δ_{je}^{(L)} = \frac{\partial C}{\partial z_{je}^{(l)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$ Alors que les deltas avec des indices "l" inférieurs sont définis par la formule suivante:

δ_{je}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * ({une}_{je}^{(l)} (1 - {une}_{je}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

tmangin

Je recommande fortement de lire la notation vectorielle backprop du calcul des gradients.

CKM

Votre formule finale utilisable n'est pas celle d'Andrew Ng, ce qui rend vraiment frustrant de suivre votre preuve. Il avait ∇ (l) ij = θ (l) Tδ (l + 1). ∗ (a (l) i (1 − a (l) i)) ∗ a (l − 1) j, pas θ (l + 1) Tδ (l + 1)

Aziz Javed

Comment dériver des erreurs dans le réseau neuronal avec l'algorithme de rétropropagation?

Réponses: