Com o tempo, a JVM e o JIT da Sun ficaram muito inteligentes. Coisas que costumavam ser de conhecimento comum como sendo uma micro-otimização necessária não são mais necessárias, porque são cuidadas para você.

Por exemplo, costumava ser o caso em que você deveria marcar todas as classes possíveis como final, de modo que a JVM ingresse o máximo de código possível. No entanto, agora, o JIT sabe se sua classe é final com base em quais classes são carregadas em tempo de execução, e se você carrega uma classe para tornar a original não finalizável, ela desinlines os métodos e os desmarca como final.

Quais outras micro-otimizações inteligentes a JVM ou JIT faz por você?

EDITAR: Eu fiz disso uma wiki da comunidade; Eu gostaria de coletar isso ao longo do tempo.