Return + Ajax

[GatorV]

Tu problema es que la función onreadystatechange no regresa ningún valor si no que tu debes de asignarlo a una variable, prueba este código:

Código:

var result = false;
function checkdate(){
 var oXHR = zXmlHttp.createRequest();
 var dia  = document.getElementById('sDia'); 
 var mes  = document.getElementById('sMes'); 
 var year = document.getElementById('txtYear');
 var url  = null;
 var content = document.getElementById('contenedor');
 rand = parseInt((Math.random()*999999999));
 url  = 'inc/isvaliddate.php?d='+encodeURIComponent(dia.value)+'&m='+encodeURIComponent(mes.value)+'&a='+encodeURIComponent(year.value)+'&rand='+encodeURIComponent(rand);
 oXHR.open('GET',url,true);
 oXHR.onreadystatechange = function () {
     if(oXHR.readyState == 4){
                 var boolean = oXHR.responseXML.getElementsByTagName('boolean');
                 result = (boolean[0].childNodes[0].nodeValue);
                 alert( result );
        }
 }
 oXHR.send(null);
}

Con eso podrás ver el resultado, ahora recuerda que AJAX la ventaja que tiene es que es Asyncrono, por lo que el resultado de la función lo veras hasta que el servidor regrese el resultado.

Saludos.