A ver, estoy mirándome temas de seo para los sitios web que desarrolle y me han asaltado una serie de dudas y cosas por confirmar:
1-Los buscadores indexan tus sitios web gracias a robots denominados arañas.
2-Con tanto buscador y tanta hostia, las arañas terminan por resultar un consumo incomodo para los recursos del servidor.
3-Se puede desactivar el acceso a los robots mediante el archivo robots.txt
4-Si desactivo el acceso a los robots google no me escaneará
5-¿hay alguna forma de decirle a google que se salte ese archivo, o yo borrarlo durante cierto tiempo y solicitar un escaneo o algo similar?
pues eso, lo que hago aquí no son afirmaciones, sino lo que creo haber entendido por ahora, si estoy equivocado en cualquier concepto agradecería una aclaración y si estoy en lo cierto que me lo confirme alguien.
Un saludo