Lo que se hace es solo reemplazar dinámicamente con Javascript una etiqueta HTML de tu página web, pero no se manda de nuevo toda la cabecera HTTP para que sea procesada por el navegador, asi que no se registra ningún item mas en el arreglo history.back().
Y si usamos iframe, bueno ahi si podría manejarse pero ojo que eso ya no es AJAX, y claro debes acceder al history.back de la página del iframe.
Saludos
ElíasBG