Я использую caffe для обучения CNN с евклидовым слоем потерь внизу, и мой файл solver.prototxt настроен для отображения каждые 100 итераций. Я вижу что-то вроде этого,

Iteration 4400, loss = 0
I0805 11:10:16.976716 1936085760 solver.cpp:229]     Train net output #0: loss = 2.92436 (* 1 = 2.92436 loss)

Я не понимаю, в чем разница между потерями от итераций и чистыми потерями в поездах. Обычно итерационные потери очень малы (около 0), а чистая выходная потеря Train немного больше. Может кто-нибудь уточнить, пожалуйста?