¿Cómo verificar la instalación de CuDNN?

He buscado en muchos lugares, pero TODO lo que obtengo es CÓMO instalarlo, no cómo verificar que esté instalado. Puedo verificar que mi controlador NVIDIA esté instalado y que CUDA esté instalado, pero no sé cómo verificar que CuDNN esté instalado. La ayuda será muy apreciada, gracias!

PD.
Esto es para una implementación caffe. Actualmente todo funciona sin CuDNN habilitado.