Necesitas ponerle otro estilo en el td, que contiene la segunda table, de lo contrario no crecera en IE, recuerda que todos los navegadores interpretan de diferente forma tanto el html como el css.
Código HTML:
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1" />
<title>Prueba</title>
<style type="text/css">
<!--
html, body {margin:0px;height:100%}
-->
</style>
</head>
<body>
<table width="1003" border="0" cellpadding="0" cellspacing="0" bgcolor="#CCCCCC" style="height:100%">
<tr>
<td width="772" valign="top" style="height:100%"><table width="100%" border="0" cellspacing="0" cellpadding="0" style="height:100%">
<tr>
<td height="25" bgcolor="#DFFFDF">Fila1</td>
</tr>
<tr>
<td bgcolor="#E8FDFD">Fila2</td>
</tr>
<tr>
<td bgcolor="#F9E0FC">Fila3</td>
</tr>
<tr>
<td bgcolor="#F4F9D2">Fila4</td>
</tr>
<tr>
<td bgcolor="#FDE2D7">Fila5</td>
</tr>
</table></td>
<td width="231" valign="top"> </td>
</tr>
</table>
</body>
</html>
Espero haberte ayudado