jQuery UI y PHP

[oliverf2]

Si, pones el id de tu formulario y con el e.preventDefault evitas su comportamiento natural, los datos del archivo php los traes mediante:

success: function(datos){
$("#ct").html(datos);
}

Donde el parametro datos te traes la respuesta del archivo php a la pagina donde reaizas la peticion, y ya dentro de la funcion, haces con la respuesta lo q kieras ( en tu caso meterlo en un Dialog, pues seria algo como:

success: function(datos){
$("#divdeldialogo")
.html(datos)
.dialog("open"); // Lo del dialog tmp estoy seguro q sea asi, deberias mirarlo

}