Eu estou tentando escrever em umcsv arquivo linha por linha usando linguagem C #. Aqui é a minha função

string first = reader[0].ToString();
string second=image.ToString();
string csv = string.Format("{0},{1}\n", first, second);
File.WriteAllText(filePath, csv);

A função inteira é executada dentro de um loop e cada linha deve ser gravada nocsv Arquivo. No meu caso, a próxima linha substitui a linha existente e, no final, estou recebendo apenas um único registro no arquivo csv, que é o último. Como posso escrever todas as linhas nocsv Arquivo?