Ao usar as funções R para manipular arquivos no Windows, por exemplo,dir(), aqueles com caracteres não ingleses, como cirílico, são apresentados como uma sequência de "?".

Da mesma forma, ao usarfile.rename(), se o novo nome contiver caracteres diferentes do inglês, o arquivo será renomeado com caracteres ilegíveis, aparentemente mapeando para uma codificação diferente.

Existem várias funções relacionadas à codificação do conteúdo do arquivo, mas como podemos lidar com nomes de arquivos?

Para reproduzir o problema:
Fora do R, crie o arquivo "привет.txt" no diretório de trabalho; depois em R:

dir() 
# [1] "??????.txt"      
# ...

Observe essa configuração:

Sys.setlocale(category = "LC_ALL", locale="Russian")

não ajuda.

Nota: Estou usando o R 3.1.2 para Windows, no Windows 8.1em inglês e nos consoles do Windows (cmd.exe) Eu vejo os nomes cirílicos corretamente.