SEO 百科

蜘蛛池

本页目录

蜘蛛池

蜘蛛池是一批用泛解析搭起来的廉价站点,它们组成循环链接结构,用来把搜索引擎爬虫引到自家的其他页面上[5]。它管的不是排名,而是抓取,想让新页面被更快发现[1]。站长需要看清它的代价:抓取变快的同时,整批域名连同调用它的页面都会进入作弊的判定范围[3]。

运作方式

蜘蛛池的底座是泛解析:域名只配一条通配记录,任何子域名都解析到同一台服务器,站点数量于是可以无限扩展[5]。

服务器按访问来源返回不同内容:给爬虫看的是带链接的页面,给普通访客看的是跳转页或空页。页面之间再互相链接,形成爬虫走不完的环路。

生效的机制

爬虫按链接发现新地址,环路让它不停抓取,新页面被发现的时间因此缩短[5]。

池子里的链接还能给目标页面输送权重,长尾词的排序会跟着抬升。

百度把恶意刷点击一类做法列进常见的违规问题[4],蜘蛛池拉动的访问正落在这个范围内。

与正常抓取的区别

正常站点依靠内链、站点地图与内容更新,让爬虫按节奏回来[1]。

蜘蛛池是在这个机制之外,用人为构造的链接环路去拉动抓取。它加快的是发现速度,不解决页面本身有没有价值。

被识别的信号

同一批 IP 与模板、近乎无限的子域名、访问量与收录量脱节,都是它的特征[5]。

Yandex 把“模拟用户行为”和“协助模拟用户行为”列为严重违规,这类问题会导致整站或部分页面被移出结果[2]。

Google 把机器生成的流量写进垃圾政策,专门针对人为制造的访问[3]。

对站点的后果

后果按域名与页面两条线发生:池子里的域名被清理,调用它的页面也被牵连[2]。

真实访客同样会受影响。返回跳转与空页会拉低体验信号,已有的自然排名也会被动摇。

站长的取舍

蜘蛛池没有合规的替代品,它的全部作用都建立在误导爬虫的抓取判断上[3]。

加快收录应该落回正规手段:

  • 提交站点地图,并核对抓取报告里的报错[1];
  • 从已有页面加内链指向新页面;
  • 保持内容更新与服务器响应稳定。

附录

参见

参考资料

官方(境外)

  1. 《Bing Webmaster Guidelines》,Bing。
  2. 《Fatal errors》,Yandex。
  3. 《适用于 Google 网页搜索的垃圾内容政策》,Google 搜索中心。

官方(国内)

  1. 《官方解读:这些常见的搜索算法违规问题,千万别犯!》,百度搜索资源平台。

第三方

  1. 《The Ever-changing Labyrinth: A Large-scale Analysis of Wildcard DNS Powered Blackhat SEO》,USENIX Security Symposium,2016。

外部链接

无。