网站抓取频次过大怎么办?

  • A+

    抓取频次是百度搜索引擎下的一个百度蜘蛛程序,是用来按天抓取网站的优质页面和内容,图片等,使用户能在搜索引擎里快速找到你网站的内容,那么百度蜘蛛究竟是怎样抓取的呢,是什么样的频率抓取呢,接下来咱们就来了解。


    什么是抓取频次


    抓取频次是搜索引擎在单位时间内(天级)对网站服务器抓取的总次数,假如搜索引擎对站点的抓取频次过高,很有或许形成服务器不稳定,Baiduspider会依据网站内容更新频率和服务器压力等要素主动调整抓取频次。


    什么情况下能够进行抓取频次上限调整


    首要,Baiduspider会依据网站服务器压力主动进行抓取频次调整。其次,假如Baiduspider的抓取影响了网站稳定性,站长能够通过此东西调理Baiduspider每天抓取您网站的频次上限。

微信截图_20190318160107.

    着重1:调整抓取频次上限不等于调高抓取频次。着重2:主张您稳重调理抓取频次上限值,假如抓取频次过小则会影响Baiduspider对网站的收录。


    当时抓取频次过大怎样办?


    您能够按照如下办法顺次进行排查及解决频次过大问题:


    1、假如您觉得Baiduspider抓取了您以为的无价值链接,请更新网站robots.txt进行屏蔽抓取,然后到robots东西页面操作收效。


    2、假如Baiduspider的抓取影响了您网站的正常访问,请到抓取频次上限调整页面进行抓取频次上限下调。


    3、若以上办法均不能解决问题,请到百度站长渠道反应中心反应。


    当时抓取频次过小怎样办?


    您能够按照如下办法顺次进行排查及解决频次过小问题:


    1、若您已设置了抓取频次上限,主张您先取消抓取频次上限设置或到抓取频次上限调整页面上调抓取频次上限。


    2、若您未设置抓取频次上限,主张先使用抓取反常东西检查是否为抓取反常导致。


    3、若您仍觉得抓取量较小,或许是您有新链接未提交,请到链接提交页面进行数据提交。


    4、若以上办法均不能解决问题,请到百度站长渠道反应中心反应。


    


发表评论

目前评论:0