No se si la manera como te lo indican sea la más adecuada. Para eso creo que es mejor usar los estados de la carga de ajax. Aquí te dejo un resumen de los mismos.
Cita: readyState: Holds the status of the XMLHttpRequest. Changes from 0 to 4:
0: request not initialized
1: server connection established
2: request received
3: processing request
4: request finished and response is ready
Por tanto lo único que se debe hacer es crear un estado cuando el servidor esta conectado, es decir:
Código HTML:
if(xmlhttp.readyState==1)
{document.getElementById('IdElement').innerHTML='<img src="imagenes/ajax-loader.gif" border="0"/>Cargando, espere por favor...'}