Aha | 我们的未来将会由打分决定吗？－《黑镜》人生并非科幻

在粉丝们期待了三年后，《黑镜》第三季终于在几天前回归。这部以 “反思科技发展给人带来的影响” 为主题的神剧，相信Aha公号的读者们应该不会陌生。《黑镜》的每一集都根据某一项技术的普及而构成了一个基本设定，每个故事则着力呈现这项技术某一个特定的应用场景。这个场景可能是在未来社会中已经被普遍接受的，比如基于一个人生前在网络上留下的数字信息克隆出一个一模一样的个体（S2E1）；也可能是一种极端特例，比如为了解救公主，首相不得不答应绑匪的要求和猪 XX，并向大众直播（S1E1）。不管是哪种场景，故事所要揭示的都是身在其中，人性会有怎样的表现——人性中好的部分是如何被损害的，人性中坏的部分又是如何被放大的，因而具有很强的反乌托邦意味，提醒我们对科技的发展保持必要的警惕。

昨晚刚看完新一季的第一集。故事不复杂，甚至会让我们觉得很熟悉，就像发生在现在。起初我以为这个故事所要表达的主题是人们因为过度使用社交媒体而忽略了美好的真实生活：女主人公在美好的早晨做着户外运动，却时刻不忘自拍、发朋友圈、点赞和接受点赞。接下来才发现原来 “点赞” 在那个未来时代可是一件对个人生活至关重要的事情。人们在社交媒体上获得的评分已经构成了一套对个人的评价体系，每个人在社交媒体上获得的分数会直接影响到 ta 在真实生活中的社会阶层，进而还涉及到 Ta 所能获得的各种产品和服务。剧中，女主人公想要买下一套住房，却因为评分不够级别因而不能享受到优惠的贷款，由此引出了后面女主人公为了获得更高等级的评分所做的种种荒谬努力和最后的彻底觉悟。

（在剧中生活里的每一个动作，从在陌生人手里买杯咖啡到夫妻间一场谈话，彼此都可以打分和点赞）

从科幻的角度，这个故事明显不够未来，比如剧中女主人公打着哈欠连夜赶路，开的车却不是自动驾驶的，而且居然车载系统的语言都不能自动翻译。不过这类细节或许是编剧有意为之，刻意提醒我们故事中的场景离我们并不遥远。

人们对社交媒体的依赖早已经不是新鲜话题，网络的虚拟社交对真实世界中的社交的 “挤出效应” 也很明显，来自社会领域的研究者，甚至硅谷大牛们都对此议论纷纷，喜忧参半。点赞大概是网络社交最明显也最简便的方式，举手之劳就可以对他人示好，搜集点赞就可以自我感觉良好。在很大程度上，点赞集中反映了人类社交活动中存在的虚伪性，或者用更严谨中立的说法，反映出人类在社交需求和情感需求上的巨大渴望。

用社交媒体上获得的评价来评估一个人的信用，并进而影响到其所能获得服务，这种情况在现实世界里已经出现。这种信用评价方式便利了陌生人之间的互动，也催生出了创新的业务模式。以这几年迅速崛起的 “分享经济” 模式为例，其最重要的创新之一，也是其存在的必要条件之一，就是这种陌生人之间的互评机制。比如我曾经常使用的 AirBnB 短租服务，房东和房客可以互评。显然无论是哪一方，做出的评价都会对另一方以后的行为带来或多或少的影响。

在《黑镜》这一集故事中，社交媒体上的相互评价被推向了极致。评价的行为已经超越了熟人圈，在完全的陌生人之间也成为常态。这个陌生人可能和你发生过一次简单的互动，比如加油站的一次对话，或者是路上不小心撞到对方；但也可能和你根本没有任何互动，只是作为一个 “吃瓜群众” 就可以对你做出评价。更严重的问题是，人们在社交媒体上的获得的这些评价，无论是来自认识和不认识的人，无论是基于有关的或者无关的事情，都会被简约成一个赤裸裸的分数，构成对一个人的终极评价，并影响到个人全方位的生活体验。

这种应用场景下，他人的评价构成了对个人发展的无处遁逃的硬约束，任何社会 “异类” 和 “越轨” 行为——哪怕只是在公共场合情绪所至地说了一句脏话，都会受到来自集体的更大抑制和惩罚，全社会最终会走向一个 “你好我好大家好” 的美丽新世界。剧中关于评分机制有一个有深意的设定：那些 “高分人士” 的评分在算法中会获得更高的权重。在这种情况下，社会阶层将进一步地固化。你所能获得的评分，意味着你的社会阶层和所能享受的社会服务。而你能达到什么阶层，不仅取决于你有多努力多能干，也取决于，甚至更取决于你认识谁，你的资源圈是什么。当然，现在的这个世界多多少少也是如此，但是还不至于将这种情形以清晰的数字形式写进明确的规则。有意思的是，理论上讲，这种互评机制无意之中给了下层民众一种反抗的力量。如果某个身处底层的人彻底破罐破摔，对提升自己的分数和阶层不存任何念头，那么ta将获得一种对上层人士的权力，一种 “成事不足败事有余” 的权力：我不指望从你那里获得高分，但我可以拉低你的分数。说不定，在未来那个世界里，之所以给高分人士的评分以更高的权重，部分原因也是为了预防这种情况发生吧。

分析至此，这一集故事的警醒意味已经很充足，但是它的批判角度和力度还达不到 “暗黑” 的神剧程度。它只不过是把今天人们对社交媒体泛滥和沉迷的担忧用夸张的方式呈现并加以嘲弄，造成荒诞结果的根源不在于科技，而在于人类固有的弱点和欲望被技术放大。

故事的基本设定在我看来很有问题。在剧中，一方面社交媒体上的评价几乎到了任性的程度——那位加油站小哥给了女主一分，原因竟然是 “这不是一次有意义的偶遇”（小哥耳机里传来的呻吟声暗示了他期待的有意义的偶遇是什么样的）；另一方面，这种评价却可以构成对一个人的终极评价。我很难想象未来会朝这个方向发展。拿我熟悉的分享经济头号品牌 AirBnB 来说，我曾是它的重度用户，2013年我在五个国家使用过超过40次服务，以至于 AirBnB 会专门联系我做用户访谈。那时我会很认真地给每一个房主写评价，但是渐渐的，我已经不耐烦这样做，点评越写越简单，到了后来干脆懒得写了。按照我的观察，交易另一边也是一样，大多数的房主翻来覆去的评价就是重复的那么几句。这样的评价已经难以对被评价者做出有意义的区分，也很难说对以后的行为有多少实际意义。另一方面，真遇到你觉得不公平的评价，也完全有途径向AirBnB 申述，被评价方并不是处在完全的被动状态。

那么故事中描述的 “终极评价” 到底会不会出现呢？我认为会，但不是依据社交媒体上的评价，而是依据对人们日常行为的大数据的采集。

说来很巧，在看这一集故事之前我恰好在思考与终极评价相关的问题。起因是我在整理电脑里的文件时看到了一张老照片。照片里我和一对英国老夫妇在海滩漫步。那是我在英国的时候曾住过的一户人家。英国有一家公益机构叫 HOST，专门安排英国的海外留学生和访问学者去英国国民的家中小住，以此来促进跨文化交流。我便是通过 HOST 的安排结识了这对老夫妇。

看到照片时我想到，这些英国人家何以信任一个陌生人和自己同住呢？很简单，因为是 HOST 联系的。那么 HOST 又如何判定这个陌生人的身份和信用呢？很简单，因为这些人都在英国正规的学校里注册。那么这些学校又如何判定这个陌生人的身份和信用呢？很简单，因为他们在申请学校的时候需要提交文凭、成绩单、推荐信等材料。看到了吗？在现在的这个世界里，和外界产生交互时，一个人的信用来自于 ta 和其他机构/人产生的互动，这些互动产生了一系列的行为轨迹和信用链条。事实上，现在主流的个人信用评级方式正是基于此。比如很多人使用的“芝麻信用”，虽然目前而言，它给出的个人信用分数更多的是基于一个人使用支付宝的情况——这仍是传统意义上从经济角度来说的 “信用” 概念，但它的评分系统正在逐渐包括人们越来越多的行为，比如你申请签证，既可以通过芝麻信用获得更为便捷的通道，也可以在申请成功后获得更高的 “芝麻分” 。

让我们再进一步地想下去。随着技术的发展，可穿戴设备的普及以及人类无时无刻的联网状态，一个人在日常生活中不断地产生着各种数据，这种关于个人的大数据将会很容易被采集并分析，由此形成对一个人的 “标签” 和对其行为的预判，进而影响对 ta 提供的产品服务。还是拿 AirBnB 举例。未来很有可能，对房东和房客的评价根本无需看双方的互评，而是通过租住过程中采集的信息来分析判断。一个房客上完厕所没有冲马桶，扣一分！另一个房客 check out 的时候把垃圾清理了，加两分！一个房主提交的交通信息不清晰导致房客花了一个小时才找到地址，扣三分！……

看上去，这样的对行为数据的采集分析要比社交媒体上的评价更加客观，也更有可能实现。但是，它带给人类社会的影响却可能更加 “暗黑”。很多对大数据的发展和应用的探讨都提到了对个人隐私权的保护问题。除此之外，最暗黑的情形很有可能是公权力对个体行为数据的滥用。在《黑镜》这一集的故事里，我们看到的是商业性机构基于终极评价来区别对待消费者，或者公司基于这样的（非工作）评价来对待员工。这些情形都发生在 “私营” 领域，即便觉得不公正，个体仍然有选择的权利和可能性。所以剧中那位评分低于2的女司机（低于2即被认为是反社会人士）才会安于自己的处境，开着大货车跑生计，顺便安慰一下像女主这样执迷不悟的世人。

可是，一旦政府获得了社会中每个个体的全面详实的行为数据，那么带给每个人的将是无以复加的控制和规训。政府大可以基于大数据来划分每个人对社会的贡献度、对社会（对政权）的危害程度等，贴上标签并区别对待。在我非常喜爱的科幻作家菲利普·迪克的短篇小说《少数派报告》中，作者描绘了未来的一种场景：人类掌握了预知未来犯罪的能力，因而可以提前抓捕犯罪嫌疑人来预防犯罪。这个场景涉及到了人的权利问题（没有实施犯罪的犯罪嫌疑人是罪犯吗？），也描绘了这种场景下可能出现的悖论（预言行为被知道以后会如何，以及预言的 “自我实现” ）。这个故事写于上个世纪50年代，作者设定的人类掌握预测能力的方式是因为人类中存在着掌握了超能力的变异个体。这个设定没有什么科学上的依据，但是当政府在技术的帮助下采集并分析了全体公民的行为数据，故事中的场景就完全有可能出现。

这个场景甚至可能已经发生在我们的真实生活中。最近因老罗为锤子手机演示而一炮走红的讯飞输入法，其语音输入鉴别准确率达到97%以上，广受大家欢迎。可以想见，在 VR 代替触屏将成为日常运用的不久未来，语音会成为人们的首选信息输入方式。然而，如果你要使用讯飞语音识别，首先就要同意“允许完全访问”这个选项，意味着所有输入的任何信息，都将可以被对方所识别和收录：无论是你的私人对话，邮箱密码还是银行号码；进而还可以分析你的移动位置，情绪反应，社交行为...... 。看到这里，你心里会不会有一丝小小的紧张呢？

既然采集分析人类行为大数据的行为，无论是在私营领域还是公权力领域，都存在如此暗黑的可能性，是不是我们现在就应该拒绝在此领域的技术探索呢？对于这个问题，我的态度和凯文·凯利的态度一样。在《科技想要什么》一书中，凯文·凯利描述了三种对待科技的态度。一种是“禁令原则”，视技术进步如洪水猛兽，必须保持现状，全面禁止技术的进一步发展。显然这种态度根本不可行。一种是“预防原则”，要求洞悉一项技术可能带来的一切风险，然后才可以推行。这种态度同样不可行，人类永远无法提前预测一切风险，比如DTT作为农药的危害直到它全面使用60年后才被人发现。最后一种态度是“警醒原则”，主动地预测和评估技术可能的发展方向，“先尝试，如有必要再放弃”，积极地引导技术朝向最好的方向发展。

在数据安全领域，真正最重要的不是 “是否允许收集信息” — 全方位收集是必然会发生的，甚至是整个社会提供服务或产品的基础——而是 “这些信息会怎么用”。

如果我们采取“警醒原则”来看待对人类行为数据的采集、分析和应用的技术，我们将不止看到前文所述的暗黑可能，也可以看到许多光明的前景。比如在教育领域里，我一直关注且非常看好的 “数字徽章”。Aha一直倡导 “社会化学习” 的理念：过去教材就是学习者的全部世界，未来全世界都可以成为学习者的教材。在这种理念之下，一个个体在真实世界中的很多行为，逛博物馆、听音乐会、参加一次线上分享、发表了一篇文章、在MOOC上完成一门课程、参加了一个自然教育工作坊 …… 这些活动以及过程中发生的行为都可能被有效记录，并成为个体学习经历和个人成长的组成部分，并换算成个人能力素养所达到的标准。于是学校基于文凭而对教育的垄断地位将被打破，个人的学习经历将会得到极大丰富，学习将是面向真实世界的学习，并且是终身不辍的。

这种类型的场景才是值得我们期待和努力的。