爬虫黑名单！
王小船似乎看出了什么，试探着说：“老板，你……你要对百度下手吗？”
周不器道：“我看了一下微知网的数据，过去3个月，有超过1.1亿的访问量，是来自百度。”
王小船没有惊喜，深吸了口气，忧心忡忡的说：“微知的访问量本来就不高，如果屏蔽了百度，流量就更低了。”
周不器并不在乎，“微知不需要流量，微知需要的是优质内容。你都说了，百度的算法不如谷歌，很难通过简单的数据处理完成对一些有深度内容的检索，来爬取微知的内容，是简洁途径。有不少用户都是通过百度来访问微知，我们要断了这条线！”
王小船眨眨眼，“真要屏蔽吗？”
“当然。”
“可Robot协议没有法律效力。”
“啥？”
“这个协议，是一种行业约束，君子协定，不是法律条文。如果百度真想爬取微知的内容，完全可以通过技术手段跳过协议，强行爬取。”
周不器若有所思，“君子协定啊……如果强行爬取，有违商业道德？”
王小船点了点头，“可以这么理解。”
心中深深的不以为然。
商业道德？
这东西是一层窗户纸，一捅就破。
“如果违反了怎么办？”
“国外有过类似的案子，违反了协议，也被处罚了。因为法官认为这个协议虽不是法律条文，但作为广泛被接受的行业规则，就应该被遵守。不过国内好像不太行。就像RSS聚合器似的，可以去各个网站上订阅信息。网站拒绝了RSS订阅，依旧可以通过技术手段强行订阅。”
周不
第768章 爬虫(5/6)