蜘蛛为什么不来?
时间:2016-08-29 10:44:09
来源:友外链 编辑:小雯
为什么我的站,重来没有 百度蜘蛛来过 。从以上的问题可以看出,这位站长遇到这样的问题一定非常的蛋疼。自己精心做的站点,没想到蜘蛛压根就没来爬过。那么是什么原因导致蜘蛛不来爬呢?
一、你屏蔽蜘蛛了
我们屏蔽了蜘蛛,蜘蛛当然不可能来抓取我们的网站拉。
1.首先我们要检测自己的网站robots.txt文件,看看文件的书写是否正确,是否有大小写混乱的情况出现,是否建站初期的时候有屏蔽所有蜘蛛的爬行的指令忘记修改了。正常情况下robots.txt检测的事情就直接交给站长工具检查就可以了
2.服务器商是否屏蔽了蜘蛛的爬行。别认为这事不可能,当初主机屋,就误把百度蜘蛛当成黑客攻击给屏蔽了,不懂导致多少人被K站。如果是主机商屏蔽了蜘蛛的爬行尽早换主机吧,时间等不起。
二、你被蜘蛛屏蔽了
1.查看自己的域名以前的主人,看看域名以前是否做了违法的站点。如果是的话那么蜘蛛不爬是完全有道理的,就好比Maas以前论坛那个域名以前是做liuhecai站的。至今搜狗和谷歌蜘蛛压根没来过。
2.查看下自己同服务器的站点,是否有非常严重违规的作弊行为,若有的话,搜索引擎很有可能屏蔽整条IP的站点,为了自己的网站发展健康还是选择独立IP的服务器吧。
如果发现自己网站的爬行日志压根没出现蜘蛛来访,那么我们就应该考虑自己的站点是否出现以上的情况,应该及时的清理。然后向相关的搜索引擎提交,或者利用高质量的外链引导蜘蛛爬行。