spider抓取

2016
08-05

搜索引擎spider抓取过程中的策略 NEW

　　搜索引擎spider在抓取过程中面对着复杂的网络环境，为了使系统可以抓取到尽可能多的有价值资源并保持系统及实际环境中页面的一致性同时不给网站体验造成压力，会设计多种复杂的抓取策略。以下简单介绍一下搜索引擎抓取系统抓取过程中涉及到的主要策略类型：　　1、抓取友好性　　互联网资源庞大的数量级，这就要求抓取系统尽可能的高效利用带宽，在有限的硬件和带宽资源下尽可能多的抓取到有价值资源。这就造成了另一个问题，耗费被抓网站的带宽造成访问压力，如果程度过大将直接影响被抓网站的正常用户访... Read More >
首页 1 最后