Spider陷阱

rocdvv

在上找到一篇关于数据的文章，有几张图觉得挺有意思，特贴出来分享：


这张图很形象的说明了搜索引擎的Spider在抓取网页时，一些不友好的元素会对其形成较坏的影响（说明：本人离开英文环境已半年，如有解释错误，勿怪）：

    Orphan Pages；Spider是根据链接抓取网页，没有链接的网页，自然使spider抓取困难。
    Unfriendly SEO-CMS System；CMS对SEO不友好的话，会对spider形成一定的干扰，比如js、ajax、链接分布、frame结构等等。
    Bad server Configuration；如阻止搜索引擎spider访问、302重定向、访问权限等等，以及服务器的稳定性，都有可能对spider造成致命的打击。
    Cloaking；比如隐藏文字、没有任何内外链的网页，都会使spider出现问题。
    Session Based Coding；URL根据访问者的cookie随机变换、html代码中大量的字符，这些session闯下的祸，对于一个不依赖SEO的网站来说可能没什么，但是对于一个基于SEO的网页来说可是致命的。
    没有处理错误页面；如404跳转等