Eu sei que é possível congelar camadas únicas em uma rede, por exemplo, para treinar apenas as últimas camadas de um modelo pré-treinado. O que estou procurando é uma maneira de aplicar determinadas taxas de aprendizado a diferentes camadas.

Portanto, por exemplo, uma taxa de aprendizado muito baixa de 0,000001 para a primeira camada e, em seguida, aumentando a taxa de aprendizado gradualmente para cada uma das seguintes camadas. Para que a última camada termine com uma taxa de aprendizado de 0,01 ou mais.

Isso é possível no pytorch? Alguma idéia de como posso arquivar isso?