Lo siento, se me olvidaba que las imágenes no tienen href
![borracho](http://static.forosdelweb.com/fdwtheme/images/smilies/borracho.png)
. Solo entonces coloca un <a> en la imagen y usas el evento del <a> para la redirección.
Quedaría algo así:
Código PHP:
<a href='eliminar.php' onclick="return confirm('¿Deseas realmente eliminar?')"><img src='imagen.gif' /></a>