Hola. Yo tambien tenia dudas para hacerlo pero con este tutorial las resolvi todas. Esta explicado de forma sencilla y clara. Echale un vistazo y seguro que en 10 minutos tienes el tuyo hecho.
En realidad es un simple archivo XML con el mapa de tu sitio web. Es solo cuestion de entender su funcionamiento : Debes indicar cada url y luego opciones adicionales como prioridad, frecuencia de modificacion, ...
http://www.maestrosdelweb.com/editorial/sitemap/
Espero que te sirva.