Wie kann man mit dem Backpropagation-Algorithmus Fehler im neuronalen Netzwerk ableiten?

Aus diesem Video von Andrew Ng gegen 5:00 Uhr

Geben Sie hier die Bildbeschreibung ein

Wie werden und abgeleitet? Was bedeutet eigentlich überhaupt? wird durch Vergleich mit y erhalten, ein solcher Vergleich ist für die Ausgabe einer verborgenen Ebene nicht möglich, oder? $\delta_3$ $\delta_2$ $\delta_3$ $\delta_4$

machine-learning neural-networks backpropagation

— qed
quelle

Der Videolink funktioniert nicht. Bitte aktualisieren Sie es oder geben Sie einen Link zum Kurs an. Vielen Dank.

— MadHatter

Ich werde Ihre Frage zum beantworten , aber denken Sie daran, dass Ihre Frage eine Unterfrage einer größeren Frage ist, weshalb: $\delta_i^{(l)}$

\nabla_{i j}^{(l)} = \sum_{k} θ_{k i}^{(l + 1)} δ_{k}^{(l + 1)} * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \sum_k \theta_{ki}^{(l+1)}\delta_k^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Erinnerung an die Schritte in neuronalen Netzen:

Schritt 1: Vorwärtsausbreitung (Berechnung des ) $a_{i}^{(l)}$
Schritt 2a: Rückwärtsausbreitung: Berechnung der Fehler $\delta_{i}^{(l)}$
Schritt 2b: Rückwärtsausbreitung: Berechnung des Gradienten von J ( ) unter Verwendung der Fehler und des , $\nabla_{ij}^{(l)}$ $\Theta$ $\delta_{i}^{(l+1)}$ $a_{i}^{(l)}$
Schritt 3: Gradientenabstieg: Berechnen Sie das neue mit den Gradienten $\theta_{ij}^{(l)}$ $\nabla_{ij}^{(l)}$

Erstens, zu verstehen , was die sind $\delta_i^{(l)}$ , was sie darstellen und warum Andrew NG es darüber zu reden , müssen Sie verstehen , was Andrew eigentlich bei diesem pointand tun , warum wir all diese Berechnungen zu tun: Er ist die Berechnung Gradient von , der im Gradientenabstiegsalgorithmus verwendet werden soll. $\nabla_{ij}^{(l)}$ $\theta_{ij}^{(l)}$

Der Gradient ist definiert als:

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

Da wir diese Formel nicht direkt lösen können, werden wir sie mit ZWEI MAGISCHEN TRICKS ändern, um zu einer Formel zu gelangen, die wir tatsächlich berechnen können. Diese endgültige verwendbare Formel lautet:

\nabla_{i j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

Um zu diesem Ergebnis zu gelangen, besteht der ERSTE MAGISCHE TRICK darin, dass wir den Gradienten von mit : $\nabla_{ij}^{(l)}$ $\theta_{ij}^{(l)}$ $\delta_i^{(l)}$

\nabla_{i j}^{(l)} = δ_{i}^{(l)} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$ Mit definiert (nur für den L-Index) als:

δ_{i}^{(L)}

$\delta_i^{(L)}$

δ_{i}^{(L)} = \frac{\partial C}{\partial z_{i}^{(l)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Und dann der ZWEITE MAGISCHE TRICK unter Verwendung der Beziehung zwischen und , um die anderen Indizes zu definieren. $\delta_i^{(l)}$ $\delta_i^{(l+1)}$

δ_{i}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

Und wie gesagt, wir können endlich eine Formel schreiben, für die wir alle Begriffe kennen:

\nabla_{i j}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)})) * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)})) * a_j^{(l-1)}$

DEMONSTRATION DES ERSTEN MAGISCHEN TRICK: $\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

Wir haben definiert:

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial \theta_{ij}^{(l)}}$

Mit der Kettenregel für höhere Dimensionen (Sie sollten diese Eigenschaft der Kettenregel WIRKLICH lesen) können wir Folgendes schreiben:

\nabla_{i j}^{(l)} = \sum_{k} \frac{\partial C}{\partial z_{k}^{(l)}} * \frac{\partial z_{k}^{(l)}}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l)}} * \dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}}$

Allerdings da:

z_{k}^{(l)} = \sum_{m} θ_{k m}^{(l)} * a_{m}^{(l - 1)}

$z_k^{(l)} = \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

Wir können dann schreiben:

\frac{\partial z_{k}^{(l)}}{\partial θ_{i j}^{(l)}} = \frac{\partial}{\partial θ_{i j}^{(l)}} \sum_{m} θ_{k m}^{(l)} * a_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial}{\partial \theta_{ij}^{(l)}} \sum_m \theta_{km}^{(l)} * a_m^{(l-1)}$

Aufgrund der Linearität der Differenzierung [(u + v) '= u' + v '] können wir schreiben:

\frac{\partial z_{k}^{(l)}}{\partial θ_{i j}^{(l)}} = \sum_{m} \frac{\partial θ_{k m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{m}^{(l - 1)}

$\dfrac {\partial z_k^{(l)}} {\partial \theta_{ij}^{(l)}} = \sum_m\dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)}$

mit:

i f k, m \neq i, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{m}^{(l - 1)} = 0

$if k,m \neq i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = 0$

i f k, m = i, j, \frac{\partial θ_{k m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{m}^{(l - 1)} = \frac{\partial θ_{i j}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{j}^{(l - 1)} = a_{j}^{(l - 1)}

$if k,m = i,j, \ \ \dfrac {\partial\theta_{km}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_m^{(l-1)} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)}$

Dann gilt für k = i (ansonsten ist es eindeutig gleich Null):

\frac{\partial z_{i}^{(l)}}{\partial θ_{i j}^{(l)}} = \frac{\partial θ_{i j}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{j}^{(l - 1)} + \sum_{m \neq j} \frac{\partial θ_{i m}^{(l)}}{\partial θ_{i j}^{(l)}} * a_{j}^{(l - 1)} = a_{j}^{(l - 1)} + 0

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = \dfrac {\partial\theta_{ij}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} + \sum_{m \neq j}\dfrac {\partial\theta_{im}^{(l)}} {\partial \theta_{ij}^{(l)}}* a_j^{(l-1)} = a_j^{(l-1)} + 0$

Schließlich gilt für k = i:

\frac{\partial z_{i}^{(l)}}{\partial θ_{i j}^{(l)}} = a_{j}^{(l - 1)}

$\dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}} = a_j^{(l-1)}$

Als Ergebnis können wir unseren ersten Ausdruck des Gradienten schreiben : $\nabla_{ij}^{(l)}$

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial z_{i}^{(l)}} * \frac{\partial z_{i}^{(l)}}{\partial θ_{i j}^{(l)}}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * \dfrac {\partial z_i^{(l)}} {\partial \theta_{ij}^{(l)}}$

Welches ist gleichbedeutend mit:

\nabla_{i j}^{(l)} = \frac{\partial C}{\partial z_{i}^{(l)}} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}} * a_j^{(l-1)}$

Oder:

\nabla_{i j}^{(l)} = δ_{i}^{(l)} * a_{j}^{(l - 1)}

$\nabla_{ij}^{(l)} = \delta_i^{(l)} * a_j^{(l-1)}$

DEMONSTRATION DES ZWEITEN MAGISCHEN TRICK : oder: $\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

δ^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a^{(l)} (1 - a^{(l)}))

$\delta^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a^{(l)}(1-a^{(l)}))$

Denken Sie daran, dass wir posierten:

δ^{(l)} = \frac{\partial C}{\partial z^{(l)}} a n d δ_{i}^{(l)} = \frac{\partial C}{\partial z_{i}^{(l)}}

$\delta^{(l)} = \dfrac {\partial C} {\partial z^{(l)}} \ \ \ and \ \ \ \delta_i^{(l)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

Wiederum ermöglicht uns die Kettenregel für höhere Dimensionen zu schreiben:

δ_{i}^{(l)} = \sum_{k} \frac{\partial C}{\partial z_{k}^{(l + 1)}} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}}

$\delta_i^{(l)} = \sum_k \dfrac {\partial C} {\partial z_k^{(l+1)}} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Ersetzen von , haben wir: $\dfrac {\partial C} {\partial z_k^{(l+1)}}$ $\delta_k^{(l+1)}$

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} \frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

Konzentrieren wir uns nun auf . Wir haben: $\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}}$

z_{k}^{(l + 1)} = \sum_{j} θ_{k j}^{(l + 1)} * a_{j}^{(l)} = \sum_{j} θ_{k j}^{(l + 1)} * g (z_{j}^{(l)})

$z_k^{(l+1)} = \sum_j \theta_{kj}^{(l+1)} * a_j^{(l)} = \sum_j \theta_{kj}^{(l+1)} * g(z_j^{(l)})$

Dann leiten wir diesen Ausdruck bezüglich : $z_k^{(i)}$

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}} = \frac{\partial \sum_{j} θ_{k j}^{(l)} * g (z_{j}^{(l)})}{\partial z_{i}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\partial \sum_j \theta_{kj}^{(l)} * g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Aufgrund der Linearität der Ableitung können wir schreiben:

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}} = \sum_{j} θ_{k j}^{(l)} * \frac{\partial g (z_{j}^{(l)})}{\partial z_{i}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \sum_j \theta_{kj}^{(l)} * \dfrac {\partial g(z_j^{(l)}) }{\partial z_i^{(l)}}$

Wenn j i, dann ist $\neq$ $\dfrac {\partial \theta_{kj}^{(l)} * g(z_j^{(l)})} {\partial z_i^{(l)}} = 0$

Als Konsequenz:

\frac{\partial z_{k}^{(l + 1)}}{\partial z_{i}^{(l)}} = \frac{θ_{k i}^{(l)} * \partial g (z_{i}^{(l)})}{\partial z_{i}^{(l)}}

$\dfrac {\partial z_k^{(l+1)}} {\partial z_i^{(l)}} = \dfrac {\theta_{ki}^{(l)} * \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Und dann:

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k i}^{(l)} * \frac{\partial g (z_{i}^{(l)})}{\partial z_{i}^{(l)}}

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * \dfrac { \partial g(z_i^{(l)}) }{\partial z_i^{(l)}}$

Als g '(z) = g (z) (1-g (z)) haben wir:

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k i}^{(l)} * g (z_{i}^{(l)}) (1 - g (z_{i}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l)} * g(z_i^{(l)})(1-g(z_i^{(l)})$

Und als haben wir: $g(z_i^{(l)} = a_i^{(l)}$

δ_{i}^{(l)} = \sum_{k} δ_{k}^{(l + 1)} θ_{k i}^{(l + 1)} * a_{i}^{(l)} (1 - a_{i}^{(l)})

$\delta_i^{(l)} = \sum_k \delta_k^{(l+1)} \theta_{ki}^{(l+1)} * a_i^{(l)}(1-a_i^{(l)})$

Und schließlich mit der vektorisierten Notation:

\nabla_{i j}^{(l)} = [θ^{(l + 1)^{T}} δ^{(l + 1)} * (a_{i}^{(l)} (1 - a_{i}^{(l)}))] * [a_{j}^{(l - 1)}]

$\nabla_{ij}^{(l)} = [\theta^{(l+1)^T}\delta^{(l+1)}*(a_i^{(l)}(1-a_i^{(l)}))] * [a_j^{(l-1)}]$

— tmangin
quelle

Vielen Dank für Ihre Antwort. Ich habe dich gestimmt !! Könnten Sie bitte die Quellen zitieren, auf die Sie sich bezogen haben, um zur Antwort zu gelangen ... :)

— Adithya Upadhya

@tmangin: Nach Andrew Ng Talk haben wir ist der Fehler des Knotens j in Schicht l. Wie haben Sie die Definition bekommen .

δ_{j}^{(i)}

$\delta_j^{(i)}$

δ_{j}^{(i)} = \frac{\partial C}{\partial Z_{j}^{(l)}}

$\delta_j^{(i)}=\frac{\partial C}{\partial Z_j^{(l)}}$

— Phuong

@phuong Eigentlich habe ich Recht zu fragen: Nur der mit dem höchsten "l" -Index L ist definiert als Während die Deltas mit niedrigeren "l" durch die folgende Formel definiert sind:

δ_{i}^{(L)}

$\delta_i^{(L)}$

δ_{i}^{(L)} = \frac{\partial C}{\partial z_{i}^{(l)}}

$\delta_i^{(L)} = \dfrac {\partial C} {\partial z_i^{(l)}}$

δ_{i}^{(l)} = θ^{(l + 1)^{T}} δ^{(l + 1)} . * (a_{i}^{(l)} (1 - a_{i}^{(l)}))

$\delta_i^{(l)} = \theta^{(l+1)^T}\delta^{(l+1)}.*(a_i^{(l)}(1-a_i^{(l)}))$

— tmangin

Ich empfehle dringend, die vektorielle Backprop- Notation zur Berechnung der Gradienten zu lesen .

— CKM

Ihre endgültige verwendbare Formel ist nicht die von Andrew Ng, was es wirklich frustrierend macht, Ihrem Beweis zu folgen. Er hatte ∇ (l) ij = θ (l) Tδ (l + 1). ∗ (a (l) i (1 - a (l) i)) ∗ a (l - 1) j, nicht θ (l + 1) Tδ (l + 1)

— Aziz Javed

Diese Berechnung hilft. Der einzige Unterschied zwischen diesem Ergebnis und Andrews Ergebnis besteht in der Definition von Theta. In Andrews Definition ist z (l + 1) = Theta (l) * a (l). Bei dieser Berechnung ist z (l + 1) = Theta (l + 1) * a (l). Eigentlich gibt es also keinen Unterschied.

— Qing Song
quelle