当人们继续寄希望于在慢棋领域守护人类围棋界最后的尊严时,一个更为严峻的问题摆在了我们面前:曾经为人类所引以为傲的复杂思维和自我意识是否就此走向终结?这是否意味着,专属于人类的价值追求从此也将变得一文不值?建立在人文精神基础上的人类社会,是否会就此走向巨变,她是否会被建立在纯粹算法基础上的人工智能所取代?
2016年3月,围棋顶级高手李世石在持续5天的人机对战中以1:4的结果落败于谷歌AlphaGo,引起一片哗然。被视为人类围棋界“最后的救世主”的中国天才少年柯洁在微博上放出豪言:“就算阿法狗战胜了李世石,但它赢不了我”。然而就在不到一年的时间内,没有公开接受柯洁挑战的AlphaGo化名“Master”在围棋对弈网站悄然出现,在快棋对弈中取得60连胜并横扫众多中日韩围棋高手,柯洁最终也未能逃过投子认输的命运。如今这场颇具浪漫主义色彩的“武林盟主之争”以悲壮结局暂时落下帷幕。
当人们继续寄希望于在慢棋领域守护人类围棋界最后的尊严时,一个更为严峻的问题摆在了我们面前:曾经为人类所引以为傲的复杂思维和自我意识是否就此走向终结?这是否意味着,专属于人类的价值追求从此也将变得一文不值?建立在人文精神基础上的人类社会,是否会就此走向巨变,她是否会被建立在纯粹算法基础上的人工智能所取代?为进一步探究这个问题,我们先对人工智能和人类智能的区别进行简单的梳理。
人工智能:无意识的智能
一直以来,人们对人工智能的优越感和信心都建立在人工智能无法获取“意识”的基础之上。尽管在《人工智能》、《超能查派》等电影中,富有想象力的编剧为机器人赋予了与人相同的感情,但实际上自20世纪50年代开始的对计算机的研究表明,我们几乎没有在计算机意识方面取得任何进展。一个智能的机器人也许能够自主完成“在电池快没电前发出信号并使其移动至插座附近充电”的任务,但从接受刺激到完成行动的过程中,它不会出现饥饿的“感觉”、进食的“欲望”,更不会出于怜悯的“感情”将充电的机会让给电量更少的机器人。
发达的意识被视为高度智能的基础。在数百万年的进化过程中,获得意识正是通往高级智能的唯一通道,意识和智能这两个要素相辅相成,在7万年前帮助智人开启了认知革命,使得互不相识的智人成功实现了更大规模的合作从而成为地球的主宰。过去的半个世纪,计算机智能不断取得重大进展,也正是意识的不可捉摸和不可复制成为了人工智能向人类靠近的终极屏障,使我们相信在下棋、诊疗、开车等领域从事高度智能的任务时,具有意识仍旧是人类不可替代的优势。
然而,李世石的惨败标志着“意识”与“智能”不可分割的关系正在动摇。AlphaGo作为一种新型的“无意识智能”,在从事这些我们过去以为以意识为基础的任务时,竟然比人类做得更快更好。这说明,意识可能并不是通往高级智能的唯一途径,电子算法正在另一条无需依靠意识的捷径上发足狂奔。高度专业化的分工进一步促成了智能与意识的脱钩,在越来越多的细分领域中,意识开始变得多余,使无意识的智能有了更多的用武之地。在汽车驾驶、辨认恐怖分子等过去依靠主观意识的细分领域中,无人驾驶和面部识别等技术正频频向我们挥手问好。
当然,正是意识使我们有能力决定人工智能的发展动力和方向。尤其当我们享受着大数据和电子算法为生活带来的种种便利时,实在很难想象无意识的智能会对我们主宰世界的地位带来颠覆性的影响。然而,过去数万年历史告诉我们,在演化中脱颖而出的智人未必有能力决定演化的速度和方向。将智人推向食物链顶端的认知革命、农业革命和科技革命也曾为我们描绘过幸福美好的愿景,但也曾让我们在不知不觉间接受了严重的阶级歧视、个体幸福程度的恶化和帝国主义的疯狂扩张。当人工智能在多数人毫无准备的情况下渗透和改变我们的生活时,我们可能不得不提防藏在这些友好使者背后的一副副狰狞面孔。这些电子算法最终要颠覆的不只是我们的日常生活,还有多数现代人共同相信的这套虚构的宗教体系。
宗教与科技
提到宗教,我们多数会认为这和自己没有什么关联。我们可能认为,宗教就是虚构出的神秘而强大的天上神佛和教堂寺庙中祈福祷告的虔诚信徒。的确,世界公认的三大宗教基本都以神话故事为基础,并且借助于超自然的力量为生活中的现象和生命的意义提供解释。信仰宗教,往往意味着踏上一条通往灵性的旅途和参与各种仪式性的活动。
然而,从对社会整体的功能来看,宗教与国家这样的互为主体的虚构故事并没什么两样。前者同样需要界定个体在其中的权利和义务,其核心作用也是维护秩序和组织人类进行大规模合作。当然在维护秩序的方式上,两者存在本质上的差异。宗教借助的不是政党、政府和军队,而是对世界提出一套完整的描述和解释,帮助我们理解自己的价值和意义。从这个意义上来说,当今任何人都无法摆脱宗教的影响,只是今日我们多数人所信仰的这套宗教体系已并非传统认识中基于神话的宗教,而是世俗化的“人文主义宗教”。
人文主义宗教相信,万事万物的意义取决于人类自己的解读。解读的方式不是借助外在的教条和建议,而是审视自己内心的感觉,因此自我意识是最高的权威。当然,人文主义并非铁板一块,而是包含三大分支。最早出现的是自由人文主义(简称“自由主义”),该分支强调每个人拥有独一无二的内在声音和永不重复的内在体验。然而,自由主义对个性的过度尊重和崇拜,致使其难以协调个人体验和欲望差异所带来的冲突,强调集体制度的社会人文主义(简称“社会主义”)和鼓励人类优胜劣汰的进化人文主义应运而生。20世纪见证了三大流派间持续了75年的凶残的信仰之战,最终我们迎来了自由主义和社会主义的融合和共存。
千万不要天真地以为,这个为我们的经济、社会和政治生活注入了强大活力的现代人文主义宗教就是人类意识形态发展的终极形式。正如生产关系需要适应生产力而做出调整一样,宗教也会随着智人驾驭自然的能力而与时俱进。农业革命从本质上改变了人驾驭动植物生长状况的能力,最终促使“有神论”取代了相信万物有灵和平等的“泛灵论”。从此动植物沦为人神对话的背景,其核心的存在价值就在于服务人类;而人只有服从天意才能确保风调雨顺和国泰民安。在“有神论”的信徒看来,是基督教的上帝、伊斯兰教的真主或佛教中的自然法则创造出伟大的宇宙计划并为人类的生活赋予意义。
科技革命颠覆了种种基于神话的解释。如今我们为了有好的收成,无须再通过祈祷和祭祀等途径求助于神秘的超自然力量,而可以选择化学施肥、搭建温室大棚或水稻杂交等现代科技手段。在解释和重构社会关系方面,基于对工厂的现实观察所提出的社会主义阶级理论也比从未出现过“蒸汽机”的“有神论”教条更具现实意义。科学技术越发达,神的解释力越弱,以人为中心的人文主义宗教对“有神论”的替代也就更加全面。今天许多“有神论”的宗教也不得不放弃过去的原教旨主义倾向,适应现代社会的发展而走向世俗化。然而,当人工智能这些最前沿的现代科技取得重大突破时,为什么我们反而讲不好人文主义的宗教故事了呢?
自我意识面对的挑战
一般来说,宗教故事包含三个部分,即伦理判断、事实声明和具体指示。由此我们可以将基督教对“堕胎”的观点依次陈述为“人的生命是神圣的”、“从受孕那一刻起胎儿就有了生命”和“就算受孕才一天,也不得堕胎”。科技无法证实或反驳宗教故事的伦理判断,但可以对其事实声明进行证伪。在“人类胎儿何时开始拥有神经系统和痛觉”等问题方面,生物学家显然能够比神父提供更权威的解释。
人文主义宗教强调“人的价值来自于自我意识”。这看似是一个无从判别真伪的伦理判断,但实际上却是一个颇具现实意义的事实声明。正是这样一份声明奠定了现代的西方世界秩序,建构了以选民投票为基础的民主政治体系和由无数追求利益最大化的理性个体所组成的市场经济体系。然而,这份事实声明目前正受到现代科技的挑战。
首当其冲的是自我意识的唯一性。人文主义者相信我们在做出判断时总是能够听到来自内心深处的声音。为保证判断的有效性,这些声音必须是真实的和一致的。然而越来越多实验证明,每个人的意识都由多重的自我所构成。例如,当人们经历某种愉悦或难受的体验时,事后的回忆和叙述往往会与事中的真实感受产生偏差。实验者将这些反映我们事中感受的意识称为体验自我(experiencing self),而将进行事后回忆的意识称为叙事自我(narrating self)。叙事自我在判断我们的感受时,很少考虑体验自我所在意的体验时间,并且会采用将体验峰值和体验终点的感受折中的“终峰定律”(peak-end rule)。这些看似简单的实验反映出,我们未必总是清楚自己想要什么。生活中的琐碎或重大的决策实际上可能常常会偏离所谓的“自我意识”,甚至受到许多外在的随机因素的影响。
自我意识的来源同样受到了质疑。人类在20世纪首次打开了自己身体的黑箱,遗憾地发现了与其他物种类似的物质组成和生化机制。我们失望地意识到,“神圣”的自我意识实际上并非专属于独特个体的主观体验,而是一系列大脑的电化学反应。这样看来,以碳元素为基础的有机生化算法和以硅元素为基础的无机电子算法实质上并没有本质的区别,这就为无意识的算法“伪装”成有意识的算法提供了可能。从某个算法主体之外的角度来看,我们可能已无从判别自我意识在这个主体中是否存在。这也正是图灵测试的基本原理:计算机有没有自我意识并不重要,重要的是人类能否辨别出来。
当然,目前这些挑战还仅仅停留在哲学论证层面,并不足以从实质上动摇我们对神圣的自我意识的信仰和追求。但对自我意识的重新认识向我们提供了两个递进的观点:基于自我意识的判断和决策对人类而言未必是最正确的;由无意识的智能替代有意识的智能的道路是畅通可行的。
宗教和意识会崩塌吗?
对宗教和自我意识的探讨揭示的是人工智能的挑战的本质,即以数据和算法为中心的世界观对人文主义宗教的取代。这种取代是否会发生,取决于我们未来在多大程度上依赖于数据和算法进行决策。这正是人工智能发展所带来的悖论:为了更好地实现健康、幸福等人文主义的愿望和议题,发展人工智能是大势所趋;但如果我们不加选择地将决策的权力转移给算法,“数据的创建和共享”不仅将在世界的发展前进中扮演日益关键的角色,最终可能还会比人类健康和幸福获得更高的优先级。也许到那时候,智人对抗人工智能的唯一出路是像被哨兵机器人逼入绝境的X战警一样,派一位代表回到过去,将各个领域的AlphaGo统统扼杀在摇篮里。