Como você lida com muitos arquivos pequenos?

Um produto em que estou trabalhando coleta várias milhares de leituras por dia e as armazena como arquivos binários de 64k em uma partição NTFS (Windows XP). Após um ano de produção, há mais de 300.000 arquivos em um único diretório e o número continua crescendo. Isso fez com que o acesso aos diretórios pai / ancestral do Windows Explorer fosse muito demorado.

Eu tentei desligar o serviço de indexação, mas isso não fez diferença. Eu também contemplei mover o conteúdo do arquivo para um banco de dados / arquivos zip / tarballs, mas é benéfico para nós acessar os arquivos individualmente; Basicamente, os arquivos ainda são necessários para fins de pesquisa e os pesquisadores não estão dispostos a lidar com qualquer outra coisa.

Existe uma maneira de otimizar o NTFS ou o Windows para que ele possa trabalhar com todos esses arquivos pequenos?

questionAnswers(4)

yourAnswerToTheQuestion