搜索引擎的Spider在抓取网页时,一些不友好的元素会对其形成较坏的影响,以下这张图很形象的说明了这点:

Spider在抓取网页时的实例图
1.没有处理错误页面;如404跳转等
2.Cloaking;比如隐藏文字、没有任何内外链的网页,都会使spider出现问题。
3.Orphan Pages;Spider是根据链接抓取网页,没有链接的网页,自然使spider抓取困难。
4.Bad server Configuration;如阻止搜索引擎spider访问、302重定向、访问权限等等,以及服务器的稳定性,都有可能对spider造成致命的打击。
5.Unfriendly SEO-CMS System;CMS对SEO不友好的话,会对spider形成一定的干扰,比如:js、ajax、链接分布、frame结构等等。
6.Session Based Coding;URL根据访问者的cookie随机变换、html代码中大量的字符,这些session闯下的祸,对于一个不依赖SEO的网站来说可能没什么,但是对于一个基于SEO的网页来说可是致命的。
相关阅读:
网络蜘蛛爬行原理分析
对搜索蜘蛛口味的研究结果公布
让蜘蛛常驻网站的方法
为保网站权威性,屏蔽百度谷歌蜘蛛的方法
CopyRight © 合肥SEO 2008包河区徽州大道银杏大厦1单元1002室 电话:86-0551-3429170 3414261
关于我们| 网站地图 | 联系方式
皖ICP备08104759号