Pensé que el sistema revertiría las animaciones en el backstack cuando se presiona el botón Atrás cuando se usan fragmentos usando el siguiente código:

FragmentManager fm = getFragmentManager();
FragmentTransaction ft = fm.beginTransaction();
ft.setCustomAnimations(R.anim.slide_in, R.anim.hyperspace_out);
ft.replace(R.id.viewContainer, new class(), "layout").addToBackStack(null).commit();