Como eu iria usarwrap() para agrupar vários elementos (com diferentes classes) dentro de um<div>?

Por exemplo, no formulário em que estou trabalhando, há uma grande lista de entradas e rótulos de caixas de seleção na forma de:

<input>
<label>
<input>
<label>

etc

Eu estou querendo embrulhar um<div> ao redor da entrada e do rótulo, então o resultado seria:

<div>
  <input>
  <label>
</div>
<div>
  <input>
  <label>
</div>

Obrigado!