Mallocs grandes de 64 bits

¿Cuáles son las razones por las que un malloc () fallaría, especialmente en 64 bits? Mi problema específico es tratar de maltratar una enorme porción de 10 GB de RAM en un sistema de 64 bits. La máquina tiene 12 GB de RAM y 32 GB ...