Etiqueta: allow

La importancia del archivo robots.txt

Los archivos robots.txt restringen el acceso de los robots de motores de búsqueda que rastrean la Web a un sitio. Estos robots están automatizados y, antes de acceder a las páginas de un sitio, verifican si existe un archivo robots.txt

Etiquetado con: , , , , , , , ,
Top