尽量让搜索引擎抓取和索引更多内容

sxen

　　SEO们经常头疼的一个问题，没有收录、索引就无从谈排名。尤其对达到一定规模的网站来说，使网站充 分收录是个颇令人费神的SEO技术，当页面达到比如说几十万，无论网站架构怎么设计、多么优化，100%收录都是不可能的，只能尽量提高收录率。 但有时候怎么阻止搜索引擎收录也可能成为一个问题，最近越来越成为问题。需要阻止收录的情况如保密信息、复制内容、广告链接等。过去常用的阻止收录方法包括密码保护、把内容放在表格后面、使用JS/Ajax、使用Flash等。今天看到Google网管博客一篇文章，这些方法都不保险。
+ G# @: N' d2 j& v3 j. e: N* F6 ?
; y, e4 `3 b3 _　　使用Flash

　　Google几年前就开始尝试抓取Flash内容了，简单文字性内容已经能抓取。Flash里面的链接也能被跟踪。
0 i+ j9 p' q% M2 P# M- r: \
　　表格

　　Google蜘蛛也能填表，也能抓取POST请求页面。这个早就能从日志中看到。
  ~7 C0 A- ^; P. x1 D; U7 T
　　JS/Ajax

* n$ n& f- U8 Q1 }' g& Y5 q1 u/ Z3 O　　使用JS链接一直以来被当作不搜索引擎友好的方法，因此可以阻止蜘蛛爬行，但两三年前我就看到JS链接不能阻止Google蜘蛛抓取，不仅JS中出现的URL会被爬，简单的JS还能被执行找到更多URL。

　　前几天有人发现很多网站使用的Facebook评论插件里的评论被爬、被收录，插件本身是个AJAX。这是个好消息。我的一个实验电子商务网站产品 评论功能就因为这个费了不少心思，用Facebook comments插件好处大大的，具体什么好处以后有时间再说，唯一的问题就是评论是AJAX实现的，不能被抓取，而产品评论被收录是目的之一(产生原创 内容)。我当时想了半天也没有解决方法，只好先傻傻地既放上Facebook comments插件又打开购物车本身的评论功能。现在好了，Facebook comments里的评论能被收录，就不用两套评论功能了。
0 v2 R, L( \: h2 g: ^; P
. c! w! z1 ?! @2 T　　Robots文件

　　目前唯一确保内容不被收录的方法是robots文件禁止。但也有个坏处，会流失权重，虽然内容是不能收录了，但页面成了只接受链接权重、不流出权重的无底洞。

. H( J" T" k# B8 j" }1 p9 Q　　Nofollow
3 z, ^8 v8 r2 H! |3 P. v) {
( k4 a8 `8 N8 E8 H  C8 g　　Nofollow并不能保证不被收录。就算自己网站所有指向页面的链接都加了NF，也不能保证别人网站不给这个页面弄个链接，搜索引擎还是能发现这个页面。
5 Y: _+ ]% d2 h$ o! |1 ~6 w* x, O
) c8 R6 ~3 z" k. X* y　　怎样使页面不被收录是个值得思考的问题，没意识到严重性的童鞋可以想想自己网站上有多少复制内容、低质量内容、各种无搜索价值(但用户觉得方便、有用所以又不能拿掉)的分类、过滤URL。
5 R1 b) H+ ^5 b8 b
! @- w2 I6 T) p; P  c7 |　　本文由http://www.74981.com 整理，转载请保留出处74981.com游戏网!
  O5 Z( q4 T3 q. ^) ?( n