¿Cómo usar Regex.Replace para reemplazar dos cadenas a la vez?

Tengo el siguiente método que reemplaza un signo de "libra" del nombre del archivo, pero también quiero poder reemplazar el "apóstrofe único" al mismo tiempo. ¿Cómo puedo hacerlo? Este es el valor de filename = Provider license_A'R_Ab # acus Settlements_1-11-09.xls

static string removeBadCharPound(string filename)
{            // Replace invalid characters with "_" char.            
    //I want something like this but is NOT working 
    //return Regex.Replace(filename, "# ' ", "_");
    return Regex.Replace(filename, "#", "_");
 }

Respuestas a la pregunta(2)

Su respuesta a la pregunta