¿Cómo cambiar el color de la imagen SVG usando CSS (reemplazo de imagen jQuery SVG)?

Este es un auto de preguntas y respuestas de una pieza de código útil que se me ocurrió.

Actualmente, no hay una manera fácil de incrustar una imagen SVG y luego tener acceso a los elementos SVG a través de CSS. Existen varios métodos para usar los frameworks JS SVG, pero son demasiado complicados si todo lo que está haciendo es hacer un ícono simple con un estado de rollover.

Así que aquí es lo que se me ocurrió, que creo que es, con mucho, la forma más fácil de usar archivos SVG en un sitio web. Toma su concepto de los primeros métodos de reemplazo de texto a imagen, pero por lo que sé, nunca se ha hecho para los SVG.

Esta es la pregunta: