Hola creo que así:
Código PHP:
$sql = "SELECT id FROM usuarios WHERE nick='$nombre'";
$result = mysql_query($sql);
if($row = mysql_fetch_array($result))
{
echo "Error, ese Nombre a sido escogido por otro usuario";
}
else
{
//// Aquí el codigo para insertar en usuario
}
un saludo