Ver Mensaje Individual
  #7 (permalink)  
Antiguo 15/06/2008, 17:32
Avatar de Daniel Ulczyk
Daniel Ulczyk
Super Moderador
 
Fecha de Ingreso: febrero-2005
Ubicación: Buenos Aires
Mensajes: 9.264
Antigüedad: 19 años, 8 meses
Puntos: 2114
Respuesta: Eliminar URLs vía robots.txt ???

Cita:
Iniciado por frony Ver Mensaje
tengo una pequeña duda al usar esta forma

User-agent: *
Disallow: /themes/

las carpetas(temas) que esten dentro de themes tampoco seran indexados? es que es lo que deseo. estara bien solo especificar el directorio raiz o debo ir subdirectorio uno por uno
Con esa directiva le estás informando a todos los crawlers que no ingresen a tu directorio themes; por lógica consecuencia, tampoco tienen permiso para explorar llos directorios y archivos contenidos en ella.

Por cierto, el directorio raiz es "/", "/themes" es una directorio que depende del mismo.
__________________
—Somos lo que hacemos repetidamente. La excelencia, entonces, no es un acto sino un hábito. (Aristóteles dixit)