网站收录和快照不及时怎么办

发布者:本站　发布时间:2013/7/9 23:19:10

1、查看搜索引擎蜘蛛的抓取概要分析，了解各个搜索引擎蜘蛛的访问次数，总停留时间，总抓取量和所占比例，下面是朋友网站的概要分析(利用光年日志分析工具查看结果)，其中可以很清楚的看出，百度蜘蛛对于网站的抓取量还是不错的，有292词，访问次数有126次，总停留时间8.873小时，所占所有蜘蛛比例的41.011%。
　　网站LOG日志概要分析有的朋友可能会产生疑惑，既然百度蜘蛛总停留时间这么长，单次停留时间也不低(PS：蜘蛛单次停留时间=总停留时间/访问次数=0.0704小时/次=4.225分钟)，那么为什么网站的收录却跟不上呢?带着这样的疑问，下面再分析下百度蜘蛛对于其他页面的抓取。
　　2、查看百度蜘蛛对于网站目录抓取的情况，从下面的抓取图中可以很清楚的看出百度蜘蛛对于home，product目录的抓取还是比较多的，对于网站内部另外一个重要的目录news抓取却不多，而这个目录就是网站每日更新做的比较多的工作目录。蜘蛛还抓取了一些后台文件目录如upload，files，img等。
　　网站目录抓取情况从上面的分析可以看出百度蜘蛛对于网页内部的抓取是不合理的，问题主要是：1、网站内部结构对于news栏目抓取力度不足;2、home目录作为社区，product目录作为产品中心，分散了网站蜘蛛抓取的资源;3、网站对于一些不必要抓取的目录没有很好地限制。解决问题就需要从这三个方面入手。
　　1、引导蜘蛛更多的抓取news目录下面的网页，如针对更新的页面创造更多的链接入口，其中包括站内的互相链接导入，站外的外链发布等。
　　2、查看网站的社区基本上已经没有更新，可以考虑先将home目录屏蔽掉，让权重和蜘蛛更多的导入进news栏目。product目录是一个比较重要的目录，但是更多的应该引导其抓取没有收录的或者新的产品。查看网站产品页面，发现对于相关产品推荐力度不够，可以在这一块进行改进。
　　3、运用robots文件或者nofollow标签，对于网站不重要的目录或者页面，以及后台的一些文件进行限制。
　　另外，还有一点思考，百度蜘蛛停留时间比较多，但是抓取量不算特别多，还需要查看百度蜘蛛抓取页面返回的状态码200，304和404所占比例。如果304比较多，那么是否考虑将这些蜘蛛资源进行合理的分配到未抓取的页面。如果404页面比较多，那就要考虑蜘蛛是不是被带进一些陷阱里面，检查网站内部造成404状态码的页面，并加以改正。

返回列表