Hola:
Para cancelar el timeout debes haberlo asignado a una variable... y si no quieres complicarte mucho, debe tratarse de una variable global (definida en el head)... pero si el tempodizador lo tienes con setTimeout tal vez baste con no seguir con la temporización con algún otro atributo... o poner alguna variable a false...
onmouseover="Ok = true; temporizar()" onmouseout="Ok = false"...
y en temporizar:
if (Ok) {
asignaciones_del_efecto();
setTimeout("temporizar()", retardo);
}
else deshacerEfecto();
Saludos