los selectores funcionan correctamente
Código HTML:
Ver original <li><a href="#contenido1">tab1
</a></li> <li><a href="#contenido2">tab2
</a></li>
<script type="text/javascript"> //<![CDATA[
/* script */
$('#menu ul li').css('margin-left','200px');
//]]>
Pero mirá tu html, que están mal anidados los <a> y los <li> de la primera lista. Ahora que dándole un margen a los li vas a desplazar toda la lista, asi que es más lógico que so lo des al ul
Saludos