solo tienes que poner un echo despues del if, mira:
Código PHP:
if( $R=mysql_fetch_array( $S ) ){
echo '<script>alert("tu mensaje");</script>';
}else{
y mi codigo si sirve, solo que me falto algo:
Código PHP:
$b=mysql_query("select *from lista where dni='$dni'",$link) or die ("Error: ". mysql_error());