En un sitio antiguo, estaba cambiando la forma en que CustomErrors funciona agregandoredirectMode="ResponseRewrite" (nuevo en 3.5 SP1):

<customErrors mode="RemoteOnly" defaultRedirect="Error.aspx" redirectMode="ResponseRewrite">
    <error statusCode="404" redirect="404.aspx" />
</customErrors> 

Lo importante es que me muestra la página de error genérico (la que obtienes cuando no configurascustomErrors. Si elimino laredirectMode="ResponseRewrite" parte, funciona bien.

Estoy seguro de que 3.5 SP1 está instalado en el servidor, porque uso la misma configuración en otros sitios alojados en el mismo servidor.

¿Algunas ideas