文章作者 Robert Epstein 是加利福尼亚的美国行为研究与技术研究所的高级研究心理学家。他著有 15 本著作,也曾担任《今日心理学》(Psychology Today)杂志的主编。本文就是他即将出版的新书《新型心灵控制》(The New Mind Control)的介绍。这篇文章在社交媒体上引发热议,所涉问题也值得每一位互联网公民深思。
在过去的一个世纪里,不少作家表现出对人类未来的关注。在《The Iron Heel》一书(1908年)中,美国作家杰克·伦敦描绘了这样一个世界:少数富人团体——「独裁者」——用残酷的奖惩制度牵制着民众。许多人生活在隐形奴隶制度中,只有少数幸运者被体面收入收买,过着舒服日子——但是,对自己的生活仍没有真正的自主权。
谷歌决定哪些网页显示在搜索结果中,以及它们的排名。这是世界上上最机密的事情之一,就像可口可乐配方。
为了理解这种意识控制如何运作,首先,我们需要看看搜索引擎:特别是世界上最大最好的谷歌。这款搜索引擎如此之好、受欢迎,以至 Google 成为世界上最常用的动词。『谷歌』某个东西,就是在谷歌搜索引擎上搜索,事实上,这也是如今绝大多数电脑用户获取所有信息的方式。他们只需要谷歌一下。谷歌成为几乎所有知识的主要入口,谷歌十分擅长提供我们寻找的信息,启动搜索之后,它几乎立刻并且总会出现在搜索结果列表的首位。
2012 年末,我开始思考排名前几的搜索结果会不会影响消费者选择。我猜测,排名前几的搜索结果可能会轻微影响人们对一些事物的看法。2013 年初,我和同事 Ronald E Robertson (就职于加利福尼亚,Vista 的美国行为研究科技学院)对这个想法进行了实验。实验将来自圣地亚哥的 102 名人员随机分成了三组。第一组里,人们看到支持一位政治候选人的搜索结果——也就是说,结果会链接到那些让这位后选人看起来优于竞争对手的网页。第二组里,人们看到的搜索结果偏向另一位候选人;第三组是控制组——人们看到的是混合排序,看不出支持哪一方。每一组,使用的是相同的搜索结果和网页;唯一不同就是组别不同,结果排序就不同。
如果这些技术被他们的公司不合理的利用,会产生怎样的后果呢? 俄亥俄州立大学的政治学教授 Robert M Bond 等人在 2012 年《自然》杂志上发表的文章中指出了一个存在道德伦理争议的实验:在 2010 年选举日当天,Facebook 向它的超过六千万用户发出了去投票的提醒。这个提醒使得三十四万本来没打算去投票的人投了票。哈佛大学国际法学的 Jonathan Zittrain 教授在2014年的 《New Republic》杂志中写到,Facebook 完全可以从他们掌握的大量的用户资料中得知,哪些人是对某党或者某候选人是成支持态度的,只给那些人发送选举提醒消息,从而使本来非常接近的选举翻转,而且这一过程可以完全不被人发现。这些(例如搜索排名的广告)都是暂时性的,通过他们来操纵选举也不会在书面上留下任何的痕迹。