Интерактивная работа со списком объектов, которые занимают огромную память
Я недавно обнаружил чудеса пакетовbigmemory
, ff
а такжеfilehash
обрабатывать очень большие матрицы.
Как я могу обрабатывать очень большие (300 МБ ++) списки? В своей работе я работаю с этими списками каждый день каждый день. Я могу сделать пластырь сsave()
& Амп;load()
хаки везде, но я бы предпочелbigmemory
решение Что-то вродеbigmemory
bigmatrix
было бы идеально, где я работаю с ним в основном идентичноmatrix
за исключением того, что занимает 660 байт в моей оперативной памяти.
Эти списки в основном>1000
длина списковlm()
объекты (или подобные объекты регрессии). Например,
Y <- rnorm(1000) ; X <- rnorm(1000)
A <- lapply(1:6000, function(i) lm(Y~X))
B <- lapply(1:6000, function(i) lm(Y~X))
C <- lapply(1:6000, function(i) lm(Y~X))
D <- lapply(1:6000, function(i) lm(Y~X))
E <- lapply(1:6000, function(i) lm(Y~X))
F <- lapply(1:6000, function(i) lm(Y~X))
В моем проекте я буду иметьA,B,C,D,E,F
списки (и даже более того), с которыми мне приходится работать в интерактивном режиме.
Если бы это были гигантские матрицы, есть тонна поддержки. Мне было интересно, была ли подобная поддержка в каком-либо пакете для большихlist
объекты.