Yo lo he probado así y funciona:
Código HTML:
<img src="imagen.png" alt="IMAGEN" onMouseOut="iluminar(this,1)" onMouseOver="iluminar(this,-1)"/>
El mismo código que tenias pero quitando los eventos 'onMouseOut' y 'onMouseOver' del 'td' y poniéndoselos al 'img'.
Pero esta imagen que yo tengo es transparente. Para que te quede un bonito efecto, deberías usa una imagen semitransparente.
Saludos.