Tengo entendido que a cada elemento que no sea de PHP, debes colocarle comillas simple o dobles, según sea tu nomenclatura, lo importate es que debes mantener la misma siempre, ya que hay plataformas que no te la reconoceran. No se si te servirá esto, pero no te costará nada probarlo.
if($IdUsuario!="administrador")
echo "<a href='javascript
:eliminar("$IdUsuario")' >" Eliminar "</a>";
else
echo "<a href='javascript
:eliminar("$IdUsuario")' disabled>" Eliminar "</a>";
PD. No se si te reconoce la palabra Eliminar... suerte