¿habras entendido lo que te comente?
- un formulario normal con su buton submit, no de tipo button.
- registras el evento onsubmit en el formulario, elemento <form>.
- en el evento, realizas la peticion AJAX y cancelas el evento devolviendo false para que no se envie el formulario.
de este modo te debe funcionar, tanto precionando el boton submit como presionando Enter en los campos.