Procurando novos arquivos que correspondam a um padrão de arquivo no Apache Beam

Eu tenho um diretório no GCS ou outro sistema de arquivos suportado no qual novos arquivos estão sendo gravados por um processo externo.

Gostaria de escrever um pipeline de streaming do Apache Beam que monitora continuamente esse diretório em busca de novos arquivos e lê e processa cada novo arquivo à medida que ele chega. Isso é possível?

questionAnswers(2)

yourAnswerToTheQuestion