erro de estouro de pilha de proteção de contato
Eu estou usando fread no data.table (1.8.8, R 3.0.1) em uma tentativa de ler arquivos muito grandes.
O arquivo em questão tem 313 linhas e ~ 6,6 milhões de cols de linhas de dados numéricos e o arquivo está em torno de 12gb. Este é um Centos 6.4 com 512GB de RAM.
Quando tento ler no arquivo:
g=fread('final.results',header=T,sep=' ')
'header' changed by user from 'auto' to TRUE
Error: protect(): protection stack overflow
Eu tentei iniciar R com --max-ppsize 500000, que é o máximo, mas o mesmo erro.
Eu também tentei definir o tamanho da pilha para ilimitado via
ulimit -s unlimited
A memória virtual já estava definida como ilimitada.
Estou sendo irrealista com um arquivo desse tamanho? Eu senti falta de algo bastante óbvio?