¿Y por qué no usás un input de tipo submit común y corriente? Podés estilizarlo con CSS para que se vea como un botón.
Otra cosa, ¿tenés tantos de esos forms como comentarios hay en la página? De ser así, no sirve poner el mismo ID para todos los forms (sin mencionar que conceptualmente es incorrecto).
En fin, mi sugerencia es que hagas esto:
Código HTML:
<form action="borrarcomentarioperfil.php" method="post" name="borrarcomentarioperfil" id="borrarcomentarioperfil">
<input type="hidden" id="idborrarcomen" name="idborrarcomen" value="<?php echo $respuesta['id']; ?>"/><br />
<div id="deletecom">
<input type="submit" value"Borrar comentario" name="deletecomenhover" id="deletecomenhover" />
</div>
</form>