O no tenes corriendo el apache, o no estas poniendo en la url localhost/turuta/tuarchivo.php
Por las dudas  te dejo mi coddigo que si funciona 
 Código PHP:
    <html>
<head>
<title>Funcion AJAX</title>
</head>
<body>
<script type="text/javascript">
var xhr;
function startAjax(){
    if(window.ActiveXObject){
        xhr=new ActiveXObject("Microsoft.XMLHTTP");
    }else if(window.XMLHttpRequest){
        xhr=new XMLHttpRequest();
    }
xhr.open("GET","data.txt");
xhr.onreadystatechange=callback;
xhr.send(null);
}
function callback(){
    if(xhr.readyState==4){
        if(xhr.status==200){
        var resp=xhr.responseText;
        var div=document.getElementById("targetDiv");
        div.innerHTML=resp;
        }
    }
}
</script>
<input type="button" value="Fetch the Message" onclick="startAjax();" />
<br /><br />
<div id="targetDiv">
hola
</div>
</body>
</html> 
   
  Solo deberias crear un txt llamado "data"