Yo lo hago asi:
En tu ventana modal justo despues del body tienes que poner un iframe (con las etiquetas tal como las pongo):
Código:
<iframe id="ifraOculto" name="ifraOculto" width="0" height="0"></iframe>
El formulario tiene que tener como target ese iframe oculto:
Código:
<form target="ifraOculto" ...
El problema es que asi no te recarga la pagina ni nada de eso, yo trabajo con Java a nivel de servidor, de forma que cuando recibe el formulario hago lo que quiera con los datos que me llegan y para avisar a la jsp que tenia el formulario de que todo se ha procesado bien (o mal) pues llamo a una funcion en javaScript (ya definida en la modal) que se encarga de cerrar la ventana o de mostrar un mensaje al usuario.
Esto igual no lo necesitas para nada porque no trabajas como yo, pero por si acaso te lo pongo:
Código:
//cojo el writer de la peticion que me llega
httpServletResponse.getWriter();
//llamo a la funcion javaScript
out.println("<script language=\"javascript\">parent.miFuncion(param1, param2)</script>");