Para implementar um servidor suportando clientes usandosoquetes da web, os servidores mantêm uma conexão HTTP aberta com cada cliente? Como isso pode ser escalado?

Quais são os "modelos de programação" ao implementar este tipo de servidor? Ou seja: a maioria dos aplicativos da web tem servlets, etc, que suportam um modelo de tipo de conexão-> request-> response-> close. Considerando que, com sockets da web, a conexão permanece aberta indefinidamente.