Pelo que eu posso ver, a maneira recomendada de manipular a tecla enter em diálogos no AngularJS é colocar uma tag <form> e um botão submit dentro da caixa de diálogo.

É justo, mas se você usar o Angular-UI e seu serviço de diálogo $, o formulário simplesmente fechará silenciosamente quando pressionar Enter. Não há como interceptar isso. mesmo se você anexar manipuladores a ng-click ou ng-submit, o formulário só será fechado sem retornar nenhum resultado.

Há algo mais que preciso fazer

[Editar]

Resolvi isso, eu tive que especificar explicitamente que meu botão "cancelar" era do tipo "botão". Parece que o padrão é "enviar"?

Então, não houve problema real, exceto para minhas habilidades de forma html :)