笔记 by 车东

控制Yahoo!Slurp China蜘蛛的访问频度 Crawl-delay: 1000 的效果

Crawl-delay: 100 的访问频度:Yahoo! Slurp比一般引擎高4-5倍

Crawl-delay: 1000 的访问频度: Slurp已经恢复到和其他引擎相同水平

参考文档: 如何控制Yahoo! Slurp蜘蛛的抓取频度