Ich binfinetuning usingCaffe auf einem Bilddatensatz auf einemTesla K40. Verwendung einerbatch size=47, solver_type=SGD, base_lr=0.001, lr_policy="step", momentum=0.9, gamma=0.1, dastraining loss nimmt ab undtest accuracy geht von2%-50% im100 Iterationen, die ziemlich gut ist.

Bei Verwendung anderer Optimierer wieRMSPROP, ADAM undADADELTA, dastraining loss bleibt fast gleich und keine Verbesserung intest accuracy nach1000 Iterationen.

ZumRMSPROP, Ich habe die entsprechenden Parameter wie angegeben geändertHie.

ZumADAM, Ich habe die entsprechenden Parameter wie angegeben geändertHie

ZumADADELTA, Ich habe die entsprechenden Parameter wie angegeben geändertHie

Kann mir jemand sagen, was ich falsch mache?