如何提高百度排名?百度排名第一怎么不花钱广?百度排名靠前的方法?

SEO秀

您现在的位置是:首页>SEO技术

SEO技术

搜索引擎蜘蛛爬行规律探秘之一蜘蛛如何抓取链接

seo秀2019-05-25 04:15:07SEO技术57来源:西安百度推广
搜索引擎蜘蛛,对于我们来说非常神秘,本文的配图使用蜘蛛侠的原因就在于此。当然我们也不是百度的也不是Google的,所以只能说探秘,而不是揭秘。本文内容比较简单,只是给不知道的朋友一个分享的途径,高手和牛人请绕行吧。,传统意义上,我们感觉搜索引擎蜘蛛(spider)爬行,应该类似于真正的蜘蛛在蜘蛛网上爬行。也就是比如百度蜘蛛找到一个链接,顺着这个链接爬行到一个页面,然后再顺着这个页面里面的链接继续爬……这个类似于蜘蛛网,也类似于一棵大树。这个理论虽然正确,但是不准确。,

搜索引擎蜘蛛爬行规律探秘之一蜘蛛如何抓取链接

搜索引擎蜘蛛,对于我们来说非常神秘,本文的配图使用蜘蛛侠的原因就在于此。当然我们也不是百度的也不是Google的,所以只能说探秘,而不是揭秘。本文内容比较简单,只是给不知道的朋友一个分享的途径,高手和牛人请绕行吧。

搜索引擎蜘蛛爬行规律探秘之一蜘蛛如何抓取链接

传统意义上,我们感觉搜索引擎蜘蛛(spider)爬行,应该类似于真正的蜘蛛在蜘蛛网上爬行。也就是比如百度蜘蛛找到一个链接,顺着这个链接爬行到一个页面,然后再顺着这个页面里面的链接继续爬……这个类似于蜘蛛网,也类似于一棵大树。这个理论虽然正确,但是不准确。

搜索引擎内部是有一个网址索引库的,所以搜索引擎蜘蛛是从搜索引擎的服务器出发,顺着搜索引擎已有的网址爬行一个网页,并将网页内容抓取回来。页面采集回来之后,搜索引擎会对其进行分析,将内容和链接分开,内容暂时先不说。分析出来链接之后,搜索引擎并不会马上去派蜘蛛进行抓取,而是把链接和锚文本记录下来交给网址索引库进行分析、对比和计算,最后放入网址索引库。进入了网址索引库之后,才会有蜘蛛去抓取。

也就是如果出现了某个网页的外链,并不一定会立刻有蜘蛛去抓取这个页面,而是会有一个分析计算的过程。即便是这个外链在蜘蛛抓取之后被删除了,这个链接也有可能已经被搜索引擎记录,以后还有抓取的可能。而且下次如果蜘蛛再去抓取这个外链所在页面,发现链接不存在了,或者外链所在页面出现了404,那么只是减少了这个外链的权重,应该不会去网址索引库删除这个链接。

所以说已经不存在的页面上的链接,也有作用。今天就分享这些,以后继续跟大家分享我自己分析的内容,如果有不准确的地方,请大家批评指正。

转载请注明来自逍遥博客@LiboSEO,本文地址:http://liboseo.com/1060.html

除非注明,逍遥博客文章均为原创,转载请注明出处和链接!

发表评论

评论列表(27人评论 , 57人围观)
  • 2019-12-15 17:10:41

    只要努力的时间足够长,搞不好,你还可以失败的更彻底。

  • 2020-03-11 08:21:31

    哪有什么来日方长,挥手便是人走茶凉。

  • 2019-07-13 11:24:17

    生命中必然要放弃某些人,不是你不在乎,是他们不在乎。

  • 2019-10-24 09:02:18

    喜欢一个人是藏不住的,就算躲在衣柜里,还是会被她老公发现。

  • 2020-05-21 14:36:44

    终于中了500万,兑奖的时候,笑醒了。