en mi robots.txt tengo puesto en cada linea los disallow que no quiero que aparezcan en los buscadores, lo extraño es que si aparecen y todas y cada uno de los disallow. El sitio lleva ya para un año (incluido el robots.txt y demás) y está indexado desde la fecha, hablo todo basado en Google.
Tengo escrito así cada línea:
Código HTML:
Disallow: /sitemap.xml
Un saludo