¿Existen pautas o recomendaciones para administrar bibliotecas que no están en Nuget junto con los paquetes que están?

La mayoría de estas pueden ser bibliotecas de terceros que nunca se activan a menos que nosotros las pongamos específicamente.

¿Es mejor mantener estas dlls fuera de la misma carpeta que usa nuget para almacenar las dlls descargadas o es mejor mantenerlas juntas?

Estaríamos considerando cambiarnos a DVCS una vez que resolvamos esto y probablemente agregaremos un archivo de ignorar para ignorar todo el directorio de paquetes (y posiblemente agregaremos exclusiones para estos archivos DLL que no son nuget o simplemente los forzaremos a que se registren si alguna vez cambian ).