Eu tenho um DialogFragment e defino a animação para entrar / sair no método onActivityCreated como abaixo

  @Override
    public void onActivityCreated(Bundle arg0) {
        super.onActivityCreated(arg0);
        getDialog().getWindow()
                .getAttributes().windowAnimations = R.style.DialogAnimation;
    }

meus arquivos de estilo DialogAnimation são os seguintes

<style name="DialogAnimation">
        <item name="android:windowEnterAnimation">@android:anim/fade_in</item>
        <item name="android:windowExitAnimation">@android:anim/fade_out</item>
    </style>

Isso funciona para mim agora ...

Agora, meu problema é que eu quero ter duas animações de saída diferentes, uma para quando o botão OK for clicado e outra para o botão Cancelar. Então, o que fiz foi tentar alterar a transição antes de descartar, mas não funcionou .. qualquer solução sobre como isso pode ser alcançado ... Isto é o que eu tentei.

  @Override
    public void onClick(View v) {
        getDialog().getWindow()
                .getAttributes().windowAnimations = R.style.DialogAnimation2;
        this.dismiss();
    }