Mostrar una animación mientras se ejecuta codigo.

[emprear]

Con javascript puro

Dado que la imagen debería ser llamada cuando se inicializó open() y no antes, lo correcto es

Código Javascript:

var resultados = document.getElementById("mensaje");
  if(conexion.readyState == 1){
    resultados.innerHTML = "<img src='loader.gif'>;
  } 
 
// luego si, verificamos
//(conexion.readyState == 4)&& (conexion.status==200)
// y hacemos el responseText
 

hay que verificar también el status, ya que un 404 entregaría de todas formas una respuesta.

Con jQuery, es un poco distinto y hay varias formas, por ejemplo

Código Javascript:

$('#loaderAjax')
    .hide()  // oculto por defecto
    .ajaxStart(function() {
        $(this).show();
    })
    .ajaxStop(function() {
        $(this).hide();
    })
;
 

Aprovechamos los métodos ajaxStart() y ajaxStop() para mostrar /ocultar

Código:

<img src="ajaxloader.gif" id="loaderAjax" alt="" />

SAludos