No puedes poner un ul ahí donde lo pones, entre los li y fuera de ellos:
Cita: <div id="menu">
<ul>
<li><a href="#" class="li1">desplegable</a></li>
<ul>
<li><a href="#" class="li2">sub menu</a></li>
</ul>
</ul>
Si quieres que pertenezca al "li" o al enlace deberá estar dentro uno de estos.
De la misma manera, nombrar este selector así:
li .li2{display:none;}
te puede dar problemas en IE. Es mejor ponerlo como:
li a.li2{display:none;}