La fila mantiene su color cuando el checkbox está marcado, pero se lo cambiás nuevamente con el evento mouseout de la fila.
Código:
function cambiar_color_over(celda)
{
if(celda.cells[0].firstChild.checked == true)
return;
celda.style.backgroundColor="#ccffcc";
}
function cambiar_color_out(celda)
{
if(celda.cells[0].firstChild.checked == true)
return;
celda.style.backgroundColor="#dddddd";
}