Yo te recomiendo que todas las propiedades que quieras dar a esos botones se las des a los elementos "a" y no a los "li", incluido el fondo de color o lo que sea. ¿Por qué? porque seguro que tu siguiente consulta será cómo hacer que cambie el color al pasar el ratón por encima o algo parecido, y como eso (el :hover) se lo aplicarás a los elementos "a", si el formato se lo has dado a los "li" vuelta a empezar.
Considera el "ul" un contenedor de li's. Considera los "li" un contenedor de enlaces (todo esto en tu caso específico). De esa manera, has consguido la alineación centrada de los elementos. Ahora actúa sobre los enlaces "a" para dar formato y todo te resultará más sencillo.
Mikel.
P.D.: y como dice
Bonez, si puedes poner el enlace y una captura de lo que quieres conseguir te ahorrás un montón de consultas. Y si buscas un buen tutorial de css también