яfinetuning с помощьюCaffe на наборе данных изображения наTesla K40, Используяbatch size=47, solver_type=SGD, base_lr=0.001, lr_policy="step", momentum=0.9, gamma=0.1,training loss уменьшается иtest accuracy идет от2%-50% в100 итерации, что довольно хорошо.

При использовании других оптимизаторов, таких какRMSPROP, ADAM а такжеADADELTA,training loss остается почти таким же даже и без улучшенияtest accuracy после1000 итераций.

ЗаRMSPROPЯ изменил соответствующие параметры, как указаноВот.

ЗаADAMЯ изменил соответствующие параметры, как указаноВот

ЗаADADELTAЯ изменил соответствующие параметры, как указаноВот

Может кто-нибудь сказать, пожалуйста, что я делаю не так?