Gracias ya tengo el archivo robots.txt ( ¿ SE ESCRIBE TODO EN MINISCULA ? )
Que tengo que hacer ahora con él.
Me ha dado este código.
Código:
# robots.txt generated at www.mcanerin.com
User-agent: Googlebot
Disallow:
User-agent: Googlebot-Image
Disallow:
User-agent: MSNBot
Disallow:
User-agent: Slurp
Disallow:
User-agent: Teoma
Disallow:
User-agent: Gigabot
Disallow:
User-agent: Scrubby
Disallow:
User-agent: Robozilla
Disallow:
User-agent: Nutch
Disallow:
User-agent: ia_archiver
Disallow:
User-agent: baiduspider
Disallow:
User-agent: yahoo-mmcrawler
Disallow:
User-agent: psbot
Disallow:
User-agent: asterias
Disallow:
User-agent: yahoo-blogs/v3.9
Disallow:
User-agent: *
Disallow:
Disallow: /cgi-bin/
Disallow: http://angelescalleja.eresmas.com/spain/Clientes/AccesoClientes.html
Disallow: http://angelescalleja.eresmas.com/english/Clientes/AccesoClientes.html
Gracias