Como forçar um programa a ficar sem memória?

Eu tenho um programa C / C ++ que pode estar pendurado quando ele fica sem memória. Descobrimos isso executando muitas cópias ao mesmo tempo. Eu quero depurar o programa sem destruir completamente o desempenho na máquina de desenvolvimento. Existe uma maneira de limitar a memória disponível para que um novo ou malloc retorne um ponteiro NULL depois de, digamos, 500K de memória ter sido solicitada?

questionAnswers(9)

yourAnswerToTheQuestion