泰安网站建设

高端建站公司和您分享网站存在抓取错误的解决方法

日期:2017-06-07 / 人气: / 来源:祥奕网络

  不抓取如何会收录,又怎么有排名?然而就这样一个明显的问题,却有大量的网站将其忽略掉。在A5这里做SEO诊断服务的客户中,其中“20%”的网站都会存在抓取错误,泰安网站建设,直接严重影响到网站的成长效果。今天这篇文章,如果你有幸看到,希望可以阅读完今天这篇文章,并分享出去,因为真的会很有价值。

  贺贵江:曾经诊断过一个千万级别收录的站点,但是索引总是被反复的剔除,又反复的收录,企业一直找不到问题。可是当我们对网站检查之初就发现一个怪的现象了:

高端建站公司和您分享网站存在抓取错误的解决方法

  1、错误的封禁

  在百度的robots.txt的更新上,如果多次点击“检测并更新”就会出现时常可以更新,但是又时常无法更新的问题。如此一来:不应当被收录的东西,在robots.txt上禁止的被收录了,又删除就很正常了。那么它的问题是什么呢?并非服务器负载过度,而是因为防火墙错误的将部分Baiduspider列入了黑名单。

  上面这个例子是robots.txt方面的抓取错误,作为站长最少应该每周都检查更新一下robots.txt是否可以正常更新。之后我们再看下“页面抓取”方面的错误:

  2、服务器异常

  常规的服务器就不说啦,大家都知道的,北上广的一般都不错。不过有一些特殊服务器,想必绝大多数的站长都不知道吧?例如西部数码的“港台服务器”就很有趣,真的是港台的吗?本身机房在国内,还算什么港台?为了逃避备案而用一个港台的IP,数据全部在国内。

高端建站公司和您分享网站存在抓取错误的解决方法

  这样有什么不好呢?我们会发现:站点的服务器是经过CDN的,哪怕是你上传的一张图片,都会显示为“302状态码”,访问速度是提升上去了,可是这样利于SEO吗?呵呵哒。真不知道西数做为国内大型idc服务商是如何想的,利用那些无知吗?

  3、获取不到真实IP

  规模较大的网站,一般都会使用CDN加速,但是有些站点不仅仅对“设备”使用了CDN加速,而且还对Spider使用了加速功能。最后的结果是什么呢?如果CDN节点不稳定,那么对网站spider来讲,这个问题将是致命的。

高端建站公司和您分享网站存在抓取错误的解决方法

  很多大型站点开放CDN的原因就是容易被攻击,泰安网站建设,这个时候如果不做“蜘蛛回源”就可想而知了。你的站点做了CDN了吗?请登录百度站长平台查看一下spider是否可以抓取真实IP地址吧!

  4、频繁的50X类错误

高端建站公司和您分享网站存在抓取错误的解决方法

  这样的链接其中一个共同的特点是:当打开后,泰安网站建设,全部都是正常的,那么Spider为什么会报错提醒呢?只是因为在爬虫发起抓取的那一刻,httpcode返回了5XX",你的站点是否频繁有这样的问题呢?有的话需要立即安排技术,或者通报IDC服务商做解决了!

  5、错误的抓取比例

高端建站公司和您分享网站存在抓取错误的解决方法

  任何网站都做不到100%不出问题,但是万事有一个度:我们认为,这个比例不超过5%,对网站基本上是无影响的,且这样的错误不应当每天都出现。最常见的抓取错误一般都是连接超时:"抓取请求连接建立后,下载页面速度过慢,导致超时,可能原因服务器过载,带宽不足"这种情况:

  A:尽量在不影响图片质量的情况下,对图片进行压缩,上传的时候就进行了压缩。

作者:taianmedia.com


关于我们

祥奕互联是专业从事企业网站设计、网站制作、电子商务项目规划,提供全面的基于互联网解决方案的应用服务供应商。通过精准,定向的网络传媒,提供了切实有效的服务与积极的作用,为客户创造良好的经济......

联系我们

  • 地 址:山东泰安灵山大街与顺河路交界处
  • Q Q:2412286760
  • 邮 箱:2412286760@qq.com
  • 手 机:18505382245
  • 电 话:0538-6272533
版权所有:泰安市祥奕互联网络科技有限公司    鲁ICP备16007239号
Go To Top 回顶部
建站咨询
网站优化
索要报价
扫一扫

扫一扫
祥奕互联赠送神秘大礼

全国免费服务热线
18505382245

返回顶部