请选择 进入手机版 | 继续访问电脑版

搜索爱好者

 找回密码
 注册会员

QQ登录

只需一步,快速开始

查看: 5054|回复: 0

广州沙龙精华内容大分享!(有现场QA干货!)

[复制链接]
发表于 2015-1-5 21:12:42 | 显示全部楼层 |阅读模式
《广州沙龙精华内容大分享!(有现场QA干货!)》里仅体现了广州沙龙现场,牛人们(百度站长平台资深专家王淘、搜外创始人夫唯等)针对搜索引擎趋势的对话,我们技术男们关注的实操问题由太平洋SEO负责人黄勇作为代表进行发问,王淘和Baiduspider专家孙权给了非常专业的答复。由于现场交流以日常口语为主,不适合大家阅读,后期小编进行了书面语言加工,所以发布迟了些,看在小编连圣诞节都过不上辛苦加班码字的份儿上,大家多多点赞哈。


另外呢,如果您看下面字太多,小编我也整理了精编版,直接点击下面的下面的八个问题就可以啦:

问题一:站点通过封禁UA或封禁IP的方式拒绝百度蜘蛛多长时间以上会造成严重的后果?

问题二:站点突然被大量抓取,是否可以通过闭站工具拒绝百度蜘蛛

问题三:某段时间我的网站做大幅调整,导致百度蜘蛛抓取压力非常大,我们想先拒绝百度蜘蛛访问,又不能进行封禁,该怎么办?

问题四:我们设置301后,感觉已生效,即旧页面代替新页面排上来,但一段时间以后,会出现新旧页面更替出现的情况,这是为什么?

问题五:百度快照时间与页面质量、抓取更新频率是否有什么关系?

问题六:文章页的边栏、底部部署大量间接相关的链接,是否会认被为噪音?是否影响页面本身内容的识别和收录?

问题七:canonical 的使用条件中,“高度相似”到底是什么标准?

问题八:百度如何看待一个采集内容,但浏览体验和访问性都好的网站



黄勇:有一天我们有一个网站发现来了非常多的爬虫,给服务器造成了极大的压力。于是我们紧急屏蔽了所有爬虫IP和UA。可是等一段时间后,我们解除解禁后,却发现恢复起来非常缓慢,基本上两个月后才回到了当时的水平。大家的站越做越大,肯定会遇到庞大的访问压力、抓虫抓取方面的问题,所以想借此机会咨询一下,看在这方面有没有一个好的解决办法。


王淘:理论上讲,站点屏蔽了Baiduspider后的恢复周期的确比较长,但是有没有措施就请孙权讲一下了。
孙权:通过封禁UA或IP的方式来拒绝百度蜘蛛,一天以上后果都是非常严重的。就这个问题来说目前没有快速的方法可以让你在短时间内恢复。这是站点自身运行的一个故障,并不是百度策略上面有什么问题。还有就是,网站在无法访问期间,很多因子都会受到影响,百度在给网站进行综合打分时会综合计算多个因子,所以说,即使是网站访问恢复了,但其它因子的负面影响还在,网站恢复起来也还是非常困难的。

(接上)
观众提问:用闭站保护能解决这个问题吗?
孙权:不能。闭站保护前提是把网站死掉,指的是爬虫不能抓取,同时用户也访问不了。。

(接上)
王淘:其实我建议不管对什么样的IP或者UA都不要直接封禁,设置502会好一点。
黄勇:当时我们也有想过设置502,但考虑到这个问题不是短期内能够解决的,担心使用502被搜索引擎视为欺骗,毕竟是服务器的问题嘛,应该是403,干嘛告诉人家说是502。我们非常害怕因为使用取巧的做法而带来更严重的后果
王淘:这个还好,如果你网页明确不想让搜索引擎访问就403就好了,如果走屏蔽其实502也无所谓,仅仅是我们浪费流量重新抓几次,这是比较谨慎的情况。我们抓不到你们内容对我们来说也是损失。

(接上)
孙权:可能很多站长会问,为什么我的站持续一段时间访问不了后排名会掉得那么厉害,就是因为百度认为网站可访问性有问题,目前百度对可访问性有问题的网站打压是非常厉害的。所以,面对网站爬虫访问量突增的情况,我不建议站长立刻去封我们的爬虫,你可以通过百度站长平台抓取频次工具,把这个爬虫压力调低,但是不可以封掉。比如本来一天来抓50万,你调低到2万,我们后台的Spider策略都是认这个值的。

黄勇:《301跳转常见问题汇总》文章中提到站点设置301后,“百度不会删除旧网页,新旧网页同时存在,百度在搜索结果中会优先展现新网页”,但实际情况是,会发生新旧页面交替获得排名的现象,这是什么原因?
王淘:这个问题主要是由我们的系统造成的。我们系统有非常多的模块,每个模块都要去单独处理301更替,偶尔有一些模块的处理逻辑可能有出现问题,可能出现一些波动。我们在6月份左右时做过一次大规模的改进,基本上把所有的模块都理了一遍,把所有归一化都做了统一,现在这样的问题比较少了。

黄勇:百度快照时间与页面质量、抓取更新频率是否有什么关系?
王淘:快照时间没有任何参考价值,在排序时我们使用单独的抓取时间统计系统,外部不可见,站点完全不用关注百度的快照时间。



黄勇:文章页的边栏、底部部署大量与当前文章间接相关的链接,是否会认被为噪声?是否影响页面本身内容识别和收录?
王淘:网页在建库时会判断页面的主体内容,而边框这部分的内容基本不算在内,所以基本不会有影响,只有一些链接发现的作用。




黄勇:Canonical 的使用范围,百度提到“高度相似”,这个“高度相似”到底是什么标准?例如这两个页面:
http://v.duowan.com/u/122769172
http://v.duowan.com/index.php?r=user/videolist&uid=122769172
王淘:“高度相似”是指网站的标题、主体内容以及网站的结构都相似,从这个案例来看网站结构不同,对Baiduspider来说完全是两个不同页面,canonical标签不会生效。

黄勇:请问百度如何看待一个采集了优质内容,但浏览体验和访问性都好的网站?
王淘:对于百度来说,能够提供满足用户需求的内容、有良好用户体验的网站就是好网站。有些站点从从外站转载来内容,经过加工提供了内容增益,更好的满足了用户需求,同样可以得到好的展现。
您需要登录后才可以回帖 登录 | 注册会员

本版积分规则

Archiver|手机版|大川乒乓网|中文搜索引擎指南网(搜网) ( 鲁ICP备16006309号

GMT+8, 2017-11-23 18:52 , Processed in 0.103626 second(s), 28 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表