Hola:
El confirm devuelve true/false así que lo normal sería:
<a href="elenlace.php" onclick="return confirm('desea bla bla...')" >borrar</a>
pero si quieres que al cancelar se haga otra cosa, tal vez sea mejor no usar un enlace sino un botón... (o cualquier tag... y si te gusta la apariencia de los enlaces, usar estilos...)
<button onclick="confirmar()" >borrar</button>
y ese confirmar, más o menos:
function confirmar() {
confirmado = confirm("bla bla...");
if (confirmado) location.href = "borrar.php?id..."
else history.back();
}
Saludos