Neural Netzwerk Backpropagation mit RELU

Ich versuche, ein neuronales Netzwerk mit RELU zu implementieren. Eingabeebene -> 1 ausgeblendete Ebene -> Relu -> Ausgabeebene -> Softmax-Ebene Above ist die Architektur meines neuronalen Netzwerks. Ich bin verwirrt über die Rückübertragung ...

Grundlegendes zur Backpropagation des neuronalen Netzwerks

Update: eine bessere Formulierung des Problems. Ich versuche, den Backpropagation-Algorithmus am Beispiel eines neuronalen XOR-Netzwerks zu verstehen. In diesem Fall gibt es 2 Eingangsneuronen + 1 Verzerrung, 2 Neuronen in der verborgenen ...

Resilient Backpropagation neuronales Netzwerk - Frage zu Gradienten

Zunächst möchte ich sagen, dass ich für neuronale Netze wirklich neu bin und es nicht sehr gut verstehe;) Ich habe meine erste C # -Implementierung des neuronalen Backpropagation-Netzwerks durchgeführt. Ich habe es mit XOR getestet und es sieht ...

Backpropagation zur gleichgerichteten Aktivierung von Lineareinheiten mit Querentropiefehler

Ich versuche, die Gradientenberechnung für neuronale Netze mit Backpropagation zu implementieren. Ich kann es nicht dazu bringen, mit einem Kreuzentropiefehler und einer gleichgerichteten Lineareinheit (ReLU) als Aktivierung zu arbeiten. Ich ...

Leistungsunterschiede zwischen Numpy und Matlab

Ich berechne das

Wie verwende ich die k-fache Kreuzvalidierung in einem neuronalen Netzwerk?

Wir schreiben eine kleine ANN, die 7000 Produkte anhand von 10 Eingabevariablen in 7 Klassen einteilen soll. Um dies zu tun, müssen wir die k-fache Kreuzvalidierung verwenden, aber wir sind irgendwie verwirrt. Wir haben diesen Auszug aus der ...

Neuronales Netzwerk mit nicht konvergierender Backpropogation

Grundsätzlich versuche ich umzusetzen

Teil 2 Ausfallsicheres neuronales Backpropagation-Netzwerk

Dies ist eine Folgefrage andieser Beitrag. Für ein bestimmtes Neuron ist nicht klar, wie man eine partielle Ableitung seines Fehlers und die partielle Ableit...

Berechnen Sie den Fehler mit einer Sigmoid-Funktion in Backpropagation