Por eso te digo que eso lo puedes dejar al servidor, ya que sólo ajax serviria para crear una función que pase los datos y gestione el responseText.
Por ejemplo en php haces una consulta para saber si el usuario a consultar te devuelve más de 0 resultados.
Código PHP:
if($usuario_existe == 0) {
$sql = "INSERT INTO...";
echo "guardado correctamente";
}
else {
echo "ya existe el usuario";
}
al mostrar el alert(ajax.responseText); muestras la frase "ya existe el usuario" o "guardado correctamente" sea el caso... sin necesidad de crear otras funciones...