Primero confirm y luego location.href

[David]

Así, sin ver la página, una alternativa mejor a lo que tienes sería usar un enlace directamente:

Código HTML:

<a href="pagina.php?variable=<?php echo $Recordset1['campo']; ?>" onclick="return confirm('¿Borrar?');">Borrar</a>