Pytorch: ¿Cómo crear una regla de actualización que no provenga de derivados?

Quiero implementar el siguiente algoritmo, tomado deeste libro, sección 13.6 [http://incompleteideas.net/book/bookdraft2017nov5.pdf]: [/imgs/YxBlr.png] No entiendo cómo implementar la regla de actualización en pytorch (la regla para w es ...