El siguiente código debe rodear el texto resaltado en una división dada con un intervalo.

$(document).ready(function(){
    $('.format').click(function(){
       var highlight = window.getSelection();

        var spn = '<span class="highlight">' + highlight + '</span>';
        $('.conttext').content().replace(highlight, spn);

    });
});

Una función de esta naturaleza podría utilizarse para proporcionar opciones de formateo a un DIV con contenido HTML.

Algo está claramente mal, ya que actualmente no funciona.

http://jsfiddle.net/BGKSN/20/