|
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要 登录 才可以下载或查看,没有账号?注册
×
SEO们经常头疼的一个问题,没有收录、索引就无从谈排名。尤其对达到一定规模的网站来说,使网站充 分收录是个颇令人费神的SEO技术,当页面达到比如说几十万,无论网站架构怎么设计、多么优化,100%收录都是不可能的,只能尽量提高收录率。 但有时候怎么阻止搜索引擎收录也可能成为一个问题,最近越来越成为问题。需要阻止收录的情况如保密信息、复制内容、广告链接等。过去常用的阻止收录方法包括密码保护、把内容放在表格后面、使用JS/Ajax、使用Flash等。今天看到Google网管博客一篇文章,这些方法都不保险。5 F" B5 s2 Z5 i6 `+ q, c) l& `
+ e$ Q4 v7 ?2 N; F# Q2 j 使用Flash
; H7 R* ? h$ ~9 V
5 g$ f; U( n, x- @+ G! [- p Google几年前就开始尝试抓取Flash内容了,简单文字性内容已经能抓取。Flash里面的链接也能被跟踪。
0 f# B, P" a& \2 m8 g. e2 S$ z/ w! s ?, G" a4 g2 I8 K
表格/ L2 e1 s$ N o# l
! t' Q+ g h2 I6 X" ] Google蜘蛛也能填表,也能抓取POST请求页面。这个早就能从日志中看到。
1 F3 J V; N# j4 i- d1 l! I+ m) A W/ N
JS/Ajax
+ K2 ^# Z# P3 u7 M' H* C! }
# W+ G W* u5 n) o* g' T# V 使用JS链接一直以来被当作不搜索引擎友好的方法,因此可以阻止蜘蛛爬行,但两三年前我就看到JS链接不能阻止Google蜘蛛抓取,不仅JS中出现的URL会被爬,简单的JS还能被执行找到更多URL。; y+ D E, J2 K. R
& h7 w0 J7 F' c5 h' t. M& D 前几天有人发现很多网站使用的Facebook评论插件里的评论被爬、被收录,插件本身是个AJAX。这是个好消息。我的一个实验电子商务网站产品 评论功能就因为这个费了不少心思,用Facebook comments插件好处大大的,具体什么好处以后有时间再说,唯一的问题就是评论是AJAX实现的,不能被抓取,而产品评论被收录是目的之一(产生原创 内容)。我当时想了半天也没有解决方法,只好先傻傻地既放上Facebook comments插件又打开购物车本身的评论功能。现在好了,Facebook comments里的评论能被收录,就不用两套评论功能了。
; |0 w' O: |# I. Q9 U9 l% N2 a# {6 | M
Robots文件- t7 _5 z. ?: y: \# t. n" r8 C
$ A3 A( n8 d s4 r/ c 目前唯一确保内容不被收录的方法是robots文件禁止。但也有个坏处,会流失权重,虽然内容是不能收录了,但页面成了只接受链接权重、不流出权重的无底洞。, y, V3 g4 _5 S& H7 s
" z& B/ m9 E R ^0 F
Nofollow7 I; I2 m( @1 r+ \ L) k
# s$ g: k* j+ ~1 g
Nofollow并不能保证不被收录。就算自己网站所有指向页面的链接都加了NF,也不能保证别人网站不给这个页面弄个链接,搜索引擎还是能发现这个页面。4 F0 V8 r& u9 l1 J$ f
5 w0 X' x- K. I- r2 ]# V6 P
怎样使页面不被收录是个值得思考的问题,没意识到严重性的童鞋可以想想自己网站上有多少复制内容、低质量内容、各种无搜索价值(但用户觉得方便、有用所以又不能拿掉)的分类、过滤URL。
. `6 D/ _( r1 c9 q k9 V5 R/ s1 l8 a2 X, |& h. Y
本文由http://www.74981.com 整理,转载请保留出处74981.com游戏网!% P1 j$ N3 z3 ^( l; J
|
|