Para eliminar un registro puedes usar _GET, lo que tienes que hacer es al finalizar el código redireccionarlo donde estaba, te pongo un ejemplo:
Supongamos que tenemos este enlace:
<a href="index.php?eliminar=ID">Haz clic aqui para eliminar el registro</a>
Ahora comprobamos para eliminar el registro
Te todas maneras hay muchas formas de hacerlo, esto es una de ellas. Espero te sirva.
Saludos.