Cita:
Iniciado por Monikas
Mi duda es, ¿Tengo que bloquear esa carpeta en robot.txt? o ¿es conveniente que Google sepa que tengo esa demo?, si es así ¿como se indica?, todo con el fin de que Google no vea términos de esa tienda que no tienen que ver con la actividad de mi web y me penalice.
Es posible declarar en robots.txt esa carpeta; si bien eso evitará que Google indexe los contenidos no evitará que los rastree.
En estos casos, la mejor estrategia es que estas pruebas no se mezclen de modo alguno con los contenidos de tu sitio. Si tu servidor corre sobre Apache es muy sencillo configurar el
acceso mediante una autenticación y un password
Eso no sólo evitará las visitas del crawler sino que, además, ofrecerá un entorno seguro entre el desarrollo y tu cliente