Ejemplo:
<a href="#" onclick="javascript
:correct=confirm('¿ Seguro que desea eliminar definitiva e irrevocablemente este registro ?'); if (correct == true) { location.replace('borrarlo.php'); } else { alert('Borrado cancelado por el usuario, no se ha realizado ninguna acción.') }">Borrar registro</a>