¿Magento es usualmente tan terriblemente lento?

Esta es mi primera experiencia con él y el panel de administración simplemente demora en cargar y guardar los cambios. Es una instalación por defecto con los datos de prueba.

El servidor donde está alojado sirve a otros sitios que no son de Magento super rápido. ¿Qué tiene el código PHP que usa Magento que lo hace tan lento y qué se puede hacer para solucionarlo?