欢迎点击订阅随波逐流WHU,转载请注明出处呦~
机器人(或者说人工智能)与人孰高孰低?二者在未来的关系将以何种形态存在?这个问题似乎一直都是人们关注和思考的“近忧”与“远虑”。
2016年11月18日,轰轰烈烈的深圳高交会“中国首例机器人伤人事件”,将“机器人突然意识觉醒杀死人类”这个科幻想象般的言论推至舆论顶峰,虽然事后澄清系导航传感器故障导致的误伤,但人们对机器及人工智能的恐慌却上演了一次无比真实的“演习”。
伤人的机器人“小胖”
近日,俄罗斯彼尔姆理工大学毕业典礼上,机器人在金属架倒塌的一瞬间抬起手臂救下小女孩的新闻又引起舆论波澜。到底是“意识觉醒”还是所谓的“自我学习”“镜像模式”展现出的智慧?一时之间,人们对事件发生的偶然和机器人工智能到来的必然争论不休。
然而,除了这些看似“灵光乍现”的机器人事件,AlphaGo和柯洁的人机大战则把二者的对立关系演绎得更加直白。落败的柯洁直言,AlphaGo越来越像围棋上帝。
2016年年末横扫各大围棋对战平台的Master今年已“判若两人”,人工智能研究院院长颜水成说,“去年,AlphaGo使用人类过往的棋谱进行初始化学习。然而今年,它更少地依赖人类棋局,主要通过左右手互搏自我对弈,利用增强学习来学习各种局面。这样一来,它可以摆脱人类对于围棋认知存在的局限性,有能力更接近围棋本身的最优策略。”远超人类的学习能力和学习速度让人工智能在围棋领域打破了体育的传统认知范畴。
既然机器人及人工智能都萌芽于“人”本身,那么,什么才能算是有“生命”的?什么才能叫做“学习”?大脑的意识如何从复杂的神经网络里涌现?全球互联网和机器未来会产生智慧吗?人类又该走向何方?
在《失控》一书中,凯文·凯利似乎是在分布式的海量实例中讨论和寻求涌现智慧的产生,他一边汇聚着生物学和技术的材料,一边思索和讨论着这些问题,以至于每一个小的章节都能成为一个智慧的起点。
囿于笔者跨学科理解的难度和自身认知的有限性,不能做一个系统的、严谨的梳理,因为不论其中的哪个灵光乍现的小智慧都值得争论不休。因此,仅以个人理解对书目中及所获其他认同观点进行梳理和反思。
凯文·凯利其人:
大叔魅力,自带话题属性
1952年,凯文·凯利出生于美国宾夕法尼亚州,1971年在罗得岛大学念书一年后即辍学,后成为自由摄影师。20岁至27岁间,凯文·凯利远足亚洲,在日本、韩国、中国台湾、菲律宾、泰国、缅甸、印度、斯里兰卡、巴基斯坦、孟加拉国、尼泊尔、阿富汗、伊朗等地游历。
值得一提的是,27岁时,凯文·凯利在圣城耶路撒冷有过一次“神奇”的经历。他因回去太晚被锁在宾馆外面,于是睡在了耶稣受害的地方。次日早晨,他经历了一场“神奇的宗教体验”,决定像只有6个月寿命那样活着,于是孝顺父母,广为布施,看望亲友,然后在万圣节之夜"死"去。因此,他是个虔诚的基督教徒。
29岁时,凯文·凯利创办了自己的杂志《步行》,此前,曾任《全球评论》、《信号》、《全球概览》的编辑和重要的撰稿人。1994年,其时任主编的《连线》斩获美国国家杂志奖“卓越期刊奖”,后一直担任杂志资深编辑和专栏作家。
1999年,因被列为《黑客帝国》演员必须阅读的三本书之一,《失控》一时名声大噪。2010年,《失控》的中文版问世。此后,凯文·凯利受到国内互联网行业热捧,开始频繁在中国各大活动中亮相。
除《失控》外,他还著有《科技想要什么》、《必然》、《技术元素》等书。
全人类的最终命运和结局是什么?
《失控》的英文原版标题为Out of Control:The New Biology of Machines, Social Systems, and the Economic World。在中文版中,副标题更换为“全人类的最终命运和结局”。这个更换实在太有吸引力,以至于许多人都拿起了这本像字典一样厚实的大部头埋头苦读以求窥伺天机。
那么,全人类的最终命运和结局到底是什么?
凯文·凯利在书中对人类未来场景的描述不多,一头一尾出现两处。开头说,“我被关闭在密不透气的玻璃小屋里。我吸入的是自己呼出的气体,在风扇的吹动下依然清新。由众多导管、线缆、植物和沼泽微生物构成的系统回收了我的尿液和粪便,并将其还原成水和食物供我食用。屋内大约一半的植物都可食用。”
“这个小屋实际上是一个太空生活试验舱。我周边大气的循环再利用完全依赖于植物及其扎根的土壤,以及那些在树叶间穿梭的、嗡嗡作响的管道系统。确切地说,是阳光供养的生物和机油驱动的机械共同确保了我的生存。在这个小屋内,生物和人造物已经融合为一个稳定的系统,其目的就是养育更高级的复杂物。”
结尾说,“我想,也许会出现这样一个世界:其中有变异的建筑、活着的硅聚合物、脱机进化的软件程序,自适应的车辆、塞满共同进化家具的房间、打扫卫生的蚊型机器人、能治病的人造生物病毒、神经性插座、半机械身体部件、定制的粮食作物、模拟的人格,以及由不断变化的计算设备组成的巨型生态。”
从人与人造物共同改造的更为复杂和宜居的生态系统,到最终成为人与人工智能共同进化出新生命形态的巨型生态,在这一跳转中,《失控》如何一步步解释这个充满了科技感的场景存在的必然性?
诚如许多读者读后所感叹的那样,比起《科技想要什么》的清晰表达,《失控》更像是“碎片式灵感”的汇总,多线性的思维和成书方式使得对这一问题的因果逻辑呈现像猫咪玩线团一般。笔者认为,从“机器、社会和经济的新生物学”视角来看,“进化”是贯穿全文的一条主线逻辑,因而在此暂忽略其他枝节,仅梳理进化相关观点。
1
自然进化智慧
蜂群思维无疑是凯文·凯利一书中最广为传播的一个部分。
蜂群离巢的场面是壮观的,躁动不安的蜂群开始从蜂巢连续吐出,上万只微小的精灵在蜂巢上方逐渐形成像喧闹且不透明的黑色云朵。谁是蜂群的统治者呢?在这个群体中,由谁发布命令?离巢后的蜂群是如何寻找新的安家地的呢?
答案是蜂群本身。首先几只无名工蜂担任侦察员,寻找可以安置蜂巢的树洞和墙洞,他们回来后,用跳舞的形式向蜂群报告,在报告中,侦察员的舞蹈越夸张,说明他认为发现的地点越好,接着一些其他蜜蜂根据舞蹈的强烈程度来核查这些备选地点,如果它同意某个侦察员的观点,就加入该侦察员的舞蹈表示赞同。如此进行下去,最大的蜂群获胜。
高级行为是通过大量低级单位的感知所形成的。低级单位各自做自己的事,并通过网络回路达成信息交流,这样的过程由量变到质变,最终产生群体行为。每个低级单位无法预测、判断群体的行为,个体行为具有随机性,但群体行为综合起来的是最优方案。在这种运营模式中,每个个体都是中心,即“去中心化”,没有真正的管理或统治中心,他们通过网络彼此影响、彼此干预,实现了最终的群体行为。
凡是自身的低级单位能够互相感知——即产生信息交流回馈——的事物,都具有一定的“自我意识”,也都具有生命力,比如蒸汽机通过自身温度控制自身风箱开关的大小、抽水马桶通过水位线控制阀门开关。智能—自反馈—自动化—自指。衔尾蛇圆环,隐喻着“自指”,而“自指”又与自然生命中的“秩序”的产生、结构的“涌现”、无中生有的哲学等都息息相关。
每一个自我都是一个同义反复:自明、自指、以自己为中心并且自己创造自己。
而在整个地球之中,到处都是映射、回应、互相适应以及首尾相接循环不息的生命之链,共同进化充斥了整个地球,包括整个地球大气、所有露出地表的岩石,一切都是共同进化的产物。而稳定,就像是放在镜子上的变色龙,是有持续的误差(或错误)所保证的一个中永久临跌状态。
2
人工进化与失控
除了蜂群,蚂蚁表现出的进化智慧同样令人惊叹。一个蚂蚁军团,智愚而不知测量,视短而不及远望,却能迅速找到穿越崎岖地面的最短路径。这种计算正是对进化搜索的完美映射;一群无知而短视的个体在数学意义上崎岖不平的地形上同时作业,试图找出一条最优路径。当某只蚂蚁偶然发现一条短路径,这个信息通过信息素的气味间接地传递给其他虚拟蚂蚁,这样,单只蚂蚁毕生学习所得就间接地成为整个蚁群信息遗产的一部分。蚂蚁个体把它学习到的知识有效地传播给自己的群体。
蚁群就是一个并行处理机。并行计算机所面对的挑战是所有分布式群系统都会面对的——包括电话网络、军事系统、全球24小时金融网络,以及庞大的计算机网络。而我们永远也写不出能充分利用并行处理能力的软件。生态的相互作用就是并行的最优化技术。多细胞生物本质上就是在宇宙尺度上运行大规模的并行代码。进化能够“想出”我们穷尽一生也无法想清楚的并行编程。
在如何到达你想去而又找不到路的领域、如何到达你无法想象的领域、如何开辟全新的领域,自然的进化工具远比人类智慧更加有效。
而人工进化,也就是要找到并遵循那个准确的“形式”。这个寻找的过程像是走进形式的图书馆去找寻唯一正确的那本书,你可以通过重复的验证不断试错、缩小范围,在纠错的同时尝试更优策略。虽然验证过程是脱离控制的,也相对冗长,存在着资源浪费和由此产生的一些负面效应,但只要你给予足够时间,它就一定可以找出正确的存在形式。
进化的代价就是失控。
3
理解进化
进化的工作就是通过创造所有可能的可能性借以栖身的空间,来创造所有可能的可能性。
凯文·凯利总结进化为:“进化乃理论乎?体系乎?抑或假说乎?未及其万一也。概凡理论、假说、体系,皆须以进化为基本之原则,方可成其为真。进化乃普照世间之光明,指引万物之航标。是为进化。”大有用进化解释一切之意。
而在书中,凯文·凯利对人类及人类引以为傲的璀璨文化也有说明,他指出,人类及其文化本身也遵从进化的逻辑。文化本身就是一个自组织系统,以生物性为代价来做大自己,其最本源的动力就是复制自身以及改变环境以利于其传播。而文化的进化,能带动基因的进化;另一方面,基因变化是文化衍变的先决条件。随着动物不断进化出复杂行为,进化开始从达尔文枷锁中挣脱出来。而随着人脑的进化,人类创造了文化,文化又催生了真正具备获得性遗传的拉马克进化。历经了系统自发、复制、遗传控制、肉体可塑性、弥母文化、自我导向六大进化阶段。
在这个过程中,进化展现了无中生有、有层次的涌现,不断被扩大的所及范围,不断地创造可供探索的新领域,不断的寻找更好、更具创造力的方法去创造,从而最终实现这一目的。
4
人工进化的未来
生命进化是宇宙中用来维持秩序和平衡的力量,宇宙中处于永远下跌状态的“死”的趋势与不断涌现的“生”的活力维持着默契而微妙的平衡。生命是一种积极的力量,是抵御熵值放大的“外熵”,人工进化则是生命进展到某个阶段的必然产物。
凯文·凯利认为,人造生命(或许将等同于人工智能)就是从不同的材料形式中提取生命逻辑的尝试。生命是一个过程,是不受特殊材料表现形式限制的行为。除了已经存在地球的已知生命,其他形式的生命——人造生命——正试图来到这个世界,它们在利用我们来繁衍和实现它们。
但进化所需的失控并不等同于“听天由命”。
人工进化若想具有和自然进化同等的创造力,要么提供足够试错的空间和时间,要么借鉴自然进化的智慧来加快进化的频率,从而揭开进化的最后一层面纱,显然前者是我们所无法承受的。人工进化要想更具开放性和可持续的创造力,便应该学习并挖掘自然生物进化中的特性,比如共生、定向变异、跳变、自组织等等。在人类的未来与人工智能的关系上,凯文·凯利无疑是个乐观主义者,他认为学习就意味着生存。
而控制的未来就像是星球大战电影中有序逼真的蝙蝠和具有自我意识的虚拟米老鼠一样,创造者必须和人造物一样共享未来的控制权。
5
造物九律
就像蜂群所表现出的群体智慧一样,当总体大于部分之和时,便是无中生有之时。无论何时,当我们从无中得到某物,总会发现它衍生自许多互相作用的更小的部件,包括:生命、智力、进化……
想要无中生有,控制必然依赖于简单性的底层。全面控制必须由自身最底层互相连接的行动,通过并行方式完成。秩序会造就更多的秩序,就是《圣经中》著名的“马太效应”。
一切要从简单系统开始,让它自然生长。只有把简单且能独立运作的模块先做好,才谈得上组装,并最终长大。
除此之外,你所能做的就是不断扩大差异性边界,在这个过程中,“错误”和“越轨”将带来多样性,在有持续的误差(或错误)所保证的一个中永久临跌状态中,生存所求便是不求最优、但求多目标。
最后便是“失控”,游戏规则本身,会不断自我进化。
这就是凯文·凯利在书的末尾总结出的造物法则。
造物九律
分布式状态
自下而上的控制
培养递增效益
模块化生长
边缘最大化
礼待错误
不求目标最优,但求目标众多
谋求持久的不均衡
变自生变
大忽悠还是预言家?
《失控》一书评价颇为两极化。批驳者称其写作与题目一样“失控”,冗余而繁琐;缺乏原创性与系统性,只不过是混沌理论、失序、不确定性和系统等概念的边角料;在结构与论证之间缺乏科学严谨性。而赞许者则称该书每一个章节都可以独立成篇,都能给你所在的领域以智慧启迪。
不可否认的是,这本成书于上世界九十年代的大部头作品的确命中了一些科技趋势,如互联网经济、大数据、物联网、虚拟现实、电子货币等等。凯文·凯利本人也曾表示,“我曾预言的一多半都是错误的,人们只记住了那些正确的。”
虽然缺乏科学专业精神那样的严谨性和系统性,但凯文·凯利在书中表述的观点与某些已证理论和概念有着异曲同工之妙。如上世纪60年代提出的混沌理论——非线性系统有着多样性和多尺度性,某些物体行径在经历某种规则变化后,其之后的发展并无轨迹可循,呈现出失序状态。同时期系统理论也论证了复杂自组织系统的形成和发展在一定条件下自发从无序走向有序、从低级有序步入高级有序。在上世纪后期,相似论、现代概率论、超熵论、紊乱学、模糊逻辑学等理论也相继出现,这些理论或对凯文·凯利的进化、失控理论产生了一定影响。
虽然凯文·凯利这本作品更像是灵感的大集合,将繁如星海的材料和现象放在一起,并试图以一个新的理论和视角将之串联,如批驳者所说写作“失控”、缺乏结构严谨性,但从科学哲学的角度上来说,老子自然人学、古希腊自然哲学等皆有将现象看做系统加以考察的思想。因此,《失控》的贡献不在于提出并论证了一个如何有冲击力的科学理论,而在于凯文·凯利如何用二十多章共五十万字的篇幅阐述如何得出这些结论的过程。
在所有接触到的评论中,笔者更加认同科技专栏作者师北宸的观点。他在2013年商业周刊中文版发表的一篇题为《凯文·凯利是不是大忽悠》中写到:“我们都痛恨中学物理教育,而我们又不习惯思考和热爱离我们太远(几万光年和几万年之外)的科幻作品的时候,当有一个人把科技写得有那么一点点科幻感、又离你生活很近(最远不过五十年)的时候,你没法不被它吸引。虽然探讨机器和人的关系这样的主题在科幻作品里已经算太老套(old school)的题材,但我们身边没有人把机器和人这样的主题写得如此具有科技感和真实感——比如,KK确实从逻辑上说服了我接受机器在某种程度上是比人更优秀的智能,KK也确实从逻辑上以及更大的视界上(而不仅仅是从社交网络)帮助我理解了去中心化、混沌系统以及协同进化这样的概念,此外,KK还给我提供了一个从生物学思考问题的维度,这对互联网人而言,无异于打开了新的一扇门。各领域知识和思维的碰撞,由此变得有趣了起来。”
重新回答:我是谁、我从哪里来、要到哪里去
凯文·凯利的生物学进化论观点是否能消除人们对人工智能机器“生命”“意识”萌发的恐慌和担忧?
答案很可能是否定的。即便承认机器只能在生物进化的维度上是更加优秀的,长久处于统治地位的人类却在情感和伦理上难以自处。
刘慈欣在作品《乡村教师》中用一个乡村教师对科学的坚持而非科学本身拯救了地球;而在代表作《三体》中,更是将全人类的结局交到了一个优柔寡断、母性过剩的女性手里,毁灭人类和地球的不是科技局限本身,而是人性的弱点。在电影《她》中,具有自我学习和进化能力的智能软件甚至学会了与主人谈恋爱、做爱以至于使主人公迷失其中、疏离了与他人的交往。在英剧Humans中,意识觉醒的机器人成为新的群体,他们恐惧人类、却不惜牺牲以追求平权,为此两者冲突不断。在英剧Black Mirror中,失控的智能机器和全球化网络似乎成为压制人性、打破伦理底线的元凶,失控的机器蜜蜂、运动积分换取的为娱乐而娱乐的人生、不断被洗脑重复遭受精神折磨的罪犯、因为智能克隆无法正视现实的女友……
那么,凯文·凯利所说的人与机器协同合作的人类最终命运和结局应该以何种方式打开呢?或许,人类和有生命、有意识的机器都应该重新思考那个古老而深刻的哲学问题:我是谁、我从哪里来、要到哪里去。
不论是悲观主义者,还是和凯文·凯利一样高唱“舵手是大家”的乐观主义者,书中有一句话还是中肯的:学习就意味着生存。
分享者简介
杨梦晴,武汉大学新闻与传播学院2015级硕士研究生。
本期编辑:刘惟真
公众号
随波逐流WHU
快来长按识别左边二维码关注我们吧~