Tengo un DialogFragment y configuré la animación para entrar / salir en el método onActivityCreated como se muestra a continuación

  @Override
    public void onActivityCreated(Bundle arg0) {
        super.onActivityCreated(arg0);
        getDialog().getWindow()
                .getAttributes().windowAnimations = R.style.DialogAnimation;
    }

mis archivos de estilo de DialogAnimation son los siguientes

<style name="DialogAnimation">
        <item name="android:windowEnterAnimation">@android:anim/fade_in</item>
        <item name="android:windowExitAnimation">@android:anim/fade_out</item>
    </style>

Esto funciona para mí ahora ...

Ahora mi problema es que quiero tener dos animaciones de salida diferentes, una para cuando se hace clic en el botón Aceptar y otra para el botón Cancelar. Entonces, lo que hice fue intentar cambiar la transición justo antes de descartar, pero no funcionó ... ninguna solución sobre cómo se puede lograr ... Esto es lo que probé.

  @Override
    public void onClick(View v) {
        getDialog().getWindow()
                .getAttributes().windowAnimations = R.style.DialogAnimation2;
        this.dismiss();
    }