otra idea que se me ocurre es poner un id que relacione la fila (TR) con el checkbox y de esa manera acceder al objeto checkbox y preguntar si esta seleccionado o no en las rutinas onmouseover y onmouseout del TR.
Algo asi como:
<table>
<tr id="tr_1" onmouseover="mover(this);" onmouseout="mout(this);"><td><input type="checkbox" id="cb_1"></td><td>...</td></tr>
<tr id="tr_2" onmouseover="mover(this);" onmouseout="mout(this);"><td><input type="checkbox" id="cb_2"></td><td>...</td></tr>
<tr id="tr_3" onmouseover="mover(this);" onmouseout="mout(this);"><td><input type="checkbox" id="cb_3"></td><td>...</td></tr>
<tr id="tr_4" onmouseover="mover(this);" onmouseout="mout(this);"><td><input type="checkbox" id="cb_4"></td><td>...</td></tr>
</table>
<script language="Javascript">
function mover(este){
var elid = este.id;
elid = elid.substring(2,10);
var cb = document.getElementById("cb"+elid);
if (cb.checked){
//no cambiar
}
else{
//lo normal
}
}
// la otra lo mismo
espero que la idea ayude en algo...
saludos.
</script>