O que é uma “exceção de primeira chance”?

O que exatamente é uma exceção de primeira chance? Como e onde ele se origina em um programa .NET? E por que é chamado por esse nome peculiar (de que 'chance' estamos falando)?