智能革命、城市与人类未来①｜智能革命对人类的深远影响

2018年9月在上海召开的世界人工智能大会让社会与公众走近也进一步了解了人工智能。一方面，人们看到人工智能赋能新时代，给社会带来了经济发展、产业结构的变化。另一方面，也有人禁不住提问：人类正在面临一场智能革命吗？该如何定义所谓“智能革命”？这场革命对人类会有怎样的影响？

面对这些问题，于上月底（2018年9月27日）在上海举办的“智能革命、城市与人类未来”研讨会上，来自中国社会科学院、中国人民大学、清华大学、北京邮电大学、北京语言大学、上海社科院、复旦大学、上海交通大学、华东师范大学、上海大学、华东政法大学的学者围绕“智能革命的实质”、“智能革命对人类的深远影响”、“人类认知与生活的深度智能化”、“‘生命智能社会复合体‘（Bio-intelligence-social Complex）与城市未来”等议题进行了深入讨论。

研讨会由上海市科协、中国社会科学院科学技术和社会研究中心主办，上海市自然辩证法研究会承办，属国家社科基金重大项目“智能革命与人类深度科技化前景的哲学研究”。

“澎湃新闻（www.thepaper.cn）”获主办方授权，刊发研讨会上部分专家学者的发言。本文包括其中“智能革命的实质”、“智能革命对人类的深远影响”两项议题。

图片来源：视觉中国

智能革命与第四次科技革命

刘大椿（中国人民大学一级教授）

什么是智能革命？为什么说是第四次科技革命？这两者究竟是什么关系？

所谓智能革命，今天有很多种说法，但是在人类发展的历程中，为什么今天提出智能革命的问题，我想这是和近代以来人类的发展紧密相关。在这之前有几个重要的革命，我们可以和智能革命对照起来讲，一是“蒸汽革命”；二是“电脑革命”，也是过去一直在讲，也的确是非常重要的；第三个可能有不同的说法，但习惯讲“信息革命”，今天我们就讲“智能革命”。人类现代化的过程中几次重要的革命，为什么讲它们重要呢？我想它们是产业革命，蒸汽革命、电脑革命、信息革命和今天讲的智能革命都是产业革命，作为产业革命代表了社会生产力发展的方向，也就代表我们这个社会发展的阶段，所以智能革命我觉得之所以这么重视它，是因为它实际上是第四次产业革命，前面有三次了，那这是第四次产业革命，因为这个所以它会产生一系列问题，也会带来一些影响。

产业革命和科技革命是什么关系呢？我想这也应当回顾一下科技发展的历史。蒸汽革命和科技革命是什么关系呢？我觉得是人类第一次科技革命，在那样一个科技发展的阶段有这样一个产业革命出来了。第一次科技革命就是从17、18世纪的科学技术革命，它实际上主要是物理学，特别是力学，在科技方面有了突破，也就有了现在所谓的科学。到18世纪以后数理化这些基本成熟了，这样就带来了支撑，这是一个基础。

第一次科技革命是十七十八世纪的科学技术革命，和它相对应的产业革命就是蒸汽革命，技术革命或者产业革命就给人类经济和社会发展带来了巨大的推动力。相应的和电力革命这个产业革命相对应的我觉得应当是19世纪到20世纪初的，这个科技革命它主要是现代物理和生物学，特别像热力学、电磁力学，到20世纪初就有相对论和量子力学，这个科技革命它带来了新一轮经济发展的可能。比如说在19世纪末20世纪初，德国相对来讲比英国、法国落后一点的国家变成新兴的国家，它化学工业的突破使得德国在生产力的发展突然走到前面去了。还有在20世纪初，原子物理的探讨也有了很大的进程，相对论特别是量子力学也带来了突破。所以第二次科技革命是19世纪末到20世纪初，和这个相关的有了一个产业革命，就是我们的电力革命。

第三次科技革命我觉得是从1980年代，当时讲第三次浪潮，其实第三次浪潮就说到在20世纪下半叶有了新的一轮科技革命，科学和技术有了新的突破。对原子以及太空的探索取得了突破，同时在生命科学里由于分子生物学的成熟和进展，特别是基因工程的出现，这给我们科技的发展带来了新的态势。在这样一个基础上，信息科学技术、材料科学技术和能源科学技术在第三次科学技术革命的过程中就走到前排。

而在这个时候我们的科学和技术就不再仅仅局限于原先的数理化天地生的划分，它就我们讨论的对象和主要的内容来讲有哪些突破，它们主要的特点是什么呢，就是从过去特别重视物，特别重视能源，到这时候特别重视信息。从我们的产业分布来讲也出现了相应的情况，第一产业是农业和矿业，第二产业是制造业、工业，第三产业是知识产业和服务业。在第三次科技革命到信息革命这样一个产业革命的阶段，信息、知识产业和服务业就占据最重要的地位。

科技革命是什么？它是一个比较综合的发展，而产业革命是指突破性的、关键的、起引领作用的产业。我们讲到智能革命，这是第四次科技革命，我觉得这就比较好理解。为什么说信息革命呢，好像也说的过去，但又为什么说智能革命呢？因为出现了一个新的情况，现在的智能革命我认为应当是信息革命的第二阶段，它是以人工智能作为核心的产业园。它作为一个产业革命和原先我们所说的信息革命有所不同，今天的科技革命21世纪以来发展起来，首先是计算机、互联网、物联网、大数据、机器人这样一些科学技术的发展，它们今天以人工智能为核心，这是一个重要的特点。

还有这个科技革命不是单纯的仅仅是在刚才讲的信息科技中，而是同时在生物领域，在能源和材料领域也有巨大的突破。新能源、新材料在今天的科技中所占有的地位也是非常非常大的，在这样一个科技革命的背景下，我们讲的产业革命它是以人工智能为核心的智能革命。因此，对产业革命、科技革命和人类文明的进展，我觉得可以得到这样一个概念。

最开始是农业文明，那在工业革命之后包括蒸汽革命和电力革命，这是工业文明阶段，工业文明是建立机器大工业，再进一步工业化城市化，这是蒸汽革命和电力革命所基本实现和做到的。第三个文明就是信息文明，我想信息文明既包括第三次科技革命以及那个时代相应的信息革命，也包括今天的第四次科技革命和智能革命。所以这些概念大致区分一下，人类的文明是三个阶段，农业文明、工业文明、信息文明，产业革命的话到现在是进入到第四次产业革命，而科技革命我们现在也可以说是进入到第四次科技革命的时代。这是我自己觉得，但是仔细追求一下还是有模糊之处。

我再简单地说一个问题，既然今天是要讨论智能革命，那要注意哪些方面呢？我觉得要注意四个方面，正好也是和我们讨论的主题相关联。第一，我们一定要智能革命这个产业革命的技术层面有哪些新东西。我觉得国内有这样一个说法，技术界比较关注技术的东西，但是对后面我要说的几个方面关注度不是太多。在哲学界和人文学界对技术层面的关注也不是太多，我觉得这是一个杠杆。这个假期我是在美国硅谷，我孩子还有一些亲人在那边，我看美国是非常非常关注技术，在上面花的工夫是我们难以想象的，同时他们的体制也提供了条件，在技术上有想法的人也有办法去弄到钱来进行开发，这就是在智能革命方面走的比较前的原因。技术层面的问题我这里没办法展开，自己也不是太懂，但是我非常注意，比如说引起最近三五年重大改变的23个技术，包括现在的智能驾驶，还有各种各样这方面技术的发展，他们对这些东西非常重视。而且这些东西在若干年之后会进入一个什么样的状态，会实现百分之多少，或者有可能达到的概率是80%还是90%，还是50%？我觉得他们都有非常有根据的介绍和预测。

第二，产业层面，会有哪些产业？技术层面和产业层面是两回事，我现在比较关心一点人工智能驾驶，因为我孩子他们在搞这个东西，他们搞的这个智能驾驶做的技术层面的东西是目前在做的，但同时要注意在产业层面怎么去实现。智能层面像宾利车装起来可以从硅谷一直开到拉斯维加斯，在非常复杂的天气里也可以进行测试而且比较顺利。另外他们也把大的货卡拿来进行测试，安装了各种各样的探头、传感，这个他们已经有相当的进程了。但更重要的是这怎么在产业方面实现？他们要考虑这种东西的可能性有多大，因为产业的实现一定是关系到社会，就不仅仅是技术。他们现在想到的一条路，这也是目前比较看好的，就是智能货卡。因为货卡控制的可能性比较大，而且它实现之后产生的效益非常大，美国货运是四万亿产值，如果有1%到他们这里来，那会是多少？这就不得了，400亿，这就是在产业层面我们要去关注的。

第三，社会层面。我们有很多问题，如果说不要驾驶员了，那这些人去干什么？几十万驾驶员他们去干什么？如果都可以用人工智能来进行看病诊断那要医生干什么？这是我们现在可以想到的社会层面的问题。

第四，精神层面。精神层面最大的问题，以后的社会是不是少数，5%的人去把人工智能开发出来，就由机器人来操作，其他95%的人说的好就是享受，说的不好听就成了废人，就不需要做事，这种社会行不行呢？肯定不行的。这也就是马克思批判的资本绑架了科技。原先的手工艺工人是有技术的，到大生产时代工人就被机器代替了。那么这些问题不管是搞技术的也好，搞社会学的也好，还是搞哲学的也好其实都有事情可做。

人机融合与智能革命

刘伟（北京邮电大学教授）

资本可以大量地把生产力非常快地促进，而且有可能造成一些不公平。我们现在发现一个很有趣的现象，不但资本有这个作用，而且科学技术也有这个作用，尤其是那些高精尖科学技术的发明者、创造者，他们有的和资本已经结合了，有的没结合的时候已经融到了很多钱，因为他们占领了科学技术的制高点。所以科学技术对金融和经济的影响是非常巨大的，像资本一样也可以渗透到社会，造成社会不公平可能的原因之一。在科技界我们发现凡是只要有大的发明，所有的（人才）“帽子”，包括国家的资金和社会的资本会大量往那里去流动，在相当程度地影响了其他科研人员的培养和发展，如同企业金融寡头造成的垄断严重影响中小企业的发展创新一样。大家可以在研究当中去关注一下这个现象，技术、科学怎么会造成了社会不公平。其实在美国和欧洲、第三世界也存在这个问题，他们之所以领先也是因为科学技术的领先加上资本的运作，多个因素合力造成了不公平现象的加剧。

现在人机融合和智能革命，这有两个话题，第一个话题先谈智能革命，智能革命现在是来势汹汹，大家可能在正常生活环境下感觉不到它的冲击力，现在在科学界、军工口明显感觉到这个来势造成了国家与国家、人与人之间快速的差距拉大。举个例子来说，美军，我们与军方关系比较大一点，所以介绍一下美军的一些情况。美军现在在南海它们有一个撞船，自己撞自己的船，这几次撞的情况都与人机融合有关系。为什么说与人机融合有关呢？美军的撞船最后查的原因是它的人机交互造成的，“机”不但包括机器装备，也包括训练的机制机理，在训练中有大的漏洞，他们用的虚拟现实技术，VR和增强现实技术来训练士兵和军官，他们在正常驾驶的时候造成很多和实际运行有很大差异的操作，于是乎，产生了它们的战斗力出现大幅下降而不是提高。

这个事件说明智能革命的核心一定是人，不是机，是人的解放和人的被解放，人的解放是生理和心理，包括人的智力和非智力因素（情感、意志等）大幅度提高，所以无论是人工智能还是什么，但根本还是人，怎么提高人的水平。

第二，人的被解放之机，这个“机”包括两个部分，一个是装备、武器或者咱们使用的无人驾驶，这是民口的很多装备。还有一个是机制机理，它训练的方式、管理的方式，这是很重要的，这个机制是非常重要的。所以人机结合的话现在美国人和中国人差距不是很大，目前也发现了，他们在很多场合下出现了很多问题，这都是人机失调造成的。那么怎么提高人的解放程度呢？我们现在要看到人机融合智能是非常好的途径，它就是大家没注意到的超级智能，它把人的情智、意志和理智有机结合在一起。现在人工智能只是在理志方面稍微地往前迈了一步而已，这一步也不是非常大。

比如说AlphaGO、Alpha Zero它没有起到宣传的效果，没起到在经济管理、金融等其他领域上的开花结果。另外情智和益智方面，人工智能包括形式化的数学公式也好或者希望的手段也好，很难取代人内心的情感、意志这些基本问题。我们说最复杂的智能是军事智能，因为军事智能是高对抗、强烈度、边界不明确、不对称，而且是有生死性，这种智能里面是人机融合智能互联最好的实验场，但是在这个实验场中可以看出来意志和情智现在远远没融入到人机融合中。

我们在路上和永谋也在讨论这个问题，军事智能更可怕的事情不是单一的武器平台，更多是体系作战，是人、物（机器是人造物）、环境系统的相互作用，所以怎么能够在体系当中体现出智能来，人只是智能的一部分，人不是智能的全部，这是我们通过很多项目得出的初步结论，人绝对是智能的一部分。咱们再聊一下以前开会所说的一些产品的智能偶合。第一，很多产品的人机偶合是打擦边球或者纯粹是商业的炒作，它实际上还是以人为主，以机为辅，很多类似的商业炒作这样下去对它们公司并不好，光炒作不玩真的，那是很可怕的事情。

另外人和机之间的关系现在很难理清楚，人和人之间相互交流是复合性的，比如说我说一个概念和知识点的时候，能指和所指是混合进行的，你能理解我说的言内之意和言外之意，但是人和机交互的时候只是能指，弦外之音它根本理解不了。人机之间的有机耦合目前差的还很远，人和机交互介入的时间、方式、速度等等这一些都没解决，而且人机交互里最大的特点不是群体性共用的，是个性化的，你训练这个机器就像小狗一样，它熟悉你的行为，它不是公用的，是唯一对象的适用。

另外人机融合现在发现个很有意思的切入点，叫态势感知。第一什么是“态”？我们认为是“状态”，它最大的困难是形式化的准确表征。第二是“势”，研究的瓶颈是意向性完整的提炼，这种抽象工作我们很难做到，现在目前都做不到。还有“感”，它的麻烦在于反身性的主动提取，这个“知”是怎样以局部的信息来映射全局信息，以偏概全。但是军事非常需要这个，不光军口，在民口里面很多智能产品、系统和体系中都需要这个，所以大家在研究的时候通过“态、势、感、知”这几个角度来进行深度剖析会发现很多很多理工科发现不了的问题，希望大家在以后的研究中能够及时结合，深入地去思考这些问题。

广义智能进化与人类自身革命

王天恩（上海大学社会科学学部教授）

首先我想谈谈智能进化和智能制造。首先是智能进化，因为目前文献我所能查到的都是讲的生物智能进化，从动物到人怎么进化过来的，这方面文献还不少。另一方面就是智能制造，Brian 说过机器只能制造出比自己智能更低的机器，以前我有个想法，如果机器能够设计出比它更聪明一点点的机器就是进化。通用智能或类人智能一定是进化的产物。现在所说的设计和进化有一个融合的趋势，设计本身是进化的，所以程序进行、自然选择、共生叠加这个机制上越来越趋向于生物进化和程序进化，有点趋同了。现在最新的研究成果就是人造新皮质无人脑同时处理列表限制，这是智能进化非常好的，就是人类智能所不具备的条件，在这个意义上探索广义智能进化。那自然发生的生物智能进化与人工智能进化一体化的智能进化。

第二个聊的就是智能的原生进化和次生进化，智能的原生进化有个化学机制，所以有个独一无二的特点，就是能自然发生。比如说超循环理论，关于化学进化和信息进化的研究。另外一个就是电学机制，电学机制在生物进化中可能是最没有弄清楚的，但现在通过人工智能反而把它理解的更深入，大脑有可能是低速运行才不会像计算机那样发热，不发热的一个原因是低速运行，但还是有问题的，或者是并行计算到了量子的层次。我们现在的大脑皮质不能超过四个列表，这是人类的局限，这可能和我们的物质基础是相关的。神经突触的电机制的量子性质和速度局限是我们需要探索的。它有一个独特优势，就是刚刚所说的化学机制，由于化学机制才能自然发生。但有个相对的劣势，迭代周期很长。

智能的次生进化，电学机制，信号的能耗和效率。这个电子流不论是用开关还是什么方式，它都是使得能耗偏大，因为电子流的控制一个是能耗非常之大，还有一个就是发热，速度越快发热越厉害，这样我就想到可能电子计算机有个最重要的极限，它关键的基础还是量子计算机的突破，量子计算机真正能够做到低能耗，而且它能充分地最有效利用能量。所以从物质到能量是很关键的，而它独特的优势就是刚刚所说的迭代周期极短。这虽然有点科幻色彩，但是有可能实现的。相对的劣势是不能够在自然条件下发生，必须建立在人类智能的基础之上。因此，可以看到这两者之间所建立起来的关系就是广义智能进化。

广义智能进化有四个条件，第一，类的规模。无论任何智能进化，除非通用智能意义上的，要进化出来是通用智能就必须是一个类，因此我们在工厂里面绝对不用担心生产出类人的机器人。第二，类群个体经历。智能体间的关系只能在类的经历中形成，所以这种关系不可能在工厂中通过一个程序安装上就有了，你制造出两台机器人不管在什么水平按一个程序就能谈恋爱，这是不可能的。第三，量子层次的信息性相互作用。基于图灵机原理的人工智能不仅耗能大，而且会遇到极限。第四，广义进化机制，我觉得这是目前无论哪个国家都面临的基础理论要突破的问题。

智能交融进化。一是类特性的机器人类化，交融才是唯一可能的，不可能机器发展突然超过人类，所以原生和次生智能的类特性与信息相互性，基于这一点我们才能说它有广义智能进化的非常重要的维度。二是经历性的人机情感关联，这可能还会进化出情感之外的比人类复杂的情感。三是量子层次信息性相互作用的共同基础，只有在量子层次才可能有人类智能和机器智能的真正的交融。四是融合进化，原生智能和次生智能如果在刚刚所说的第四个条件，核心基本机制有相当突破的时候就可能产生进化机制的融合。

人类自身的革命。特别在哲学领域老是在讨论一个问题，哲学最大的意义之一就是它能够反思。哲学之所以重要就在于它能对任何前提进行反思，这样才能推进才能深化。一，行为方式和思维方式的反思，人类的反思主要是涉及行为方式和思维方式的观念层面反思。二，存在方式的反思，人类反思以自身的存在和为前提，当前面临自身存在方式的反思。三，人类存在观念的根本变革，人类的天然存在和自主进化的人工智能应该是有一天我们会认识到，它其实是广义智能进化的延续，不是自身消灭自身，这个可能性不是很大，因为智能层次越高就越具有高层次的需要，不是在我们低层次里考虑问题的。四，不可阻挡的广义智能进化趋势。它一定是主旋律，它是基本的核心机制，如果我们可以达到观念的转变，那我们其实是面临自身的革命，而且这个自身革命不是完全把我们革掉了，而是我们的存在方式不是以前所想象的那种，这个存在方式会随着广义智能进化本身也会不断升华，不断推进。

我觉得最要警惕的是我们自己，比如说战争机器人，像一个飞机一下去成千上万的，一个城市就毁灭了，这非常可怕，所以要当心人而不是担心智能进化本身。

智能革命与人类的前景

成素梅（上海社会科学院哲学所副所长）

一个前提假设是，设想一下如果智能化社会能够到来的话，我们现在应该如何做好迎接的准备。从三个来阐述，第一，人工智能威胁论的误区；第二，智能革命：文明的选择；第三，为休闲社会的到来作准备。

关于人工智能的威胁论，大家应该都不陌生，我只是讲两点，一是对“人成为“无用”之人的担忧，就是说，一切都机器或机器人做了，人还能干什么？人是否会变得无所事事？二是像诸多科幻影片中所设想的那样，人工智能的发展必然会在未来制造出全面控制人类的具有强大能力的智能体，从而导致人类文明的终结。比如，埃隆·马斯克预言，人工智能是人类文明最大的威胁；史蒂芬·霍金警告说，人工智能可能致使人类文明的终结；《未来简史》的作者尤瓦尔·赫拉利认为，智能机器的普及必然会导致产生一个“无用”阶级……

这两类观念有很多想象的成份。《失控》的作者凯文·凯利认为，人工智能威胁论蕴含着五个假设：（1）人工智能已经开始超越人类，而且正在以指数级速度发展；（2）我们可以开发出像自己一样的通用人工智能；（3）我们可以把人类的智能集成在硅片上；（4）智能可以无限强化；（5）一旦开发出超级智能，它就能够为我们解决多数问题。凯文·凯利从如何理解人类智能出发，论证了这五个假设似是而非、都没有受到证据的支持，无异于宗教信仰。

事实上，我认为，人工智能的发展带来最大威胁既不是失业问题，也不是强大到足以消灭人类的问题，而是对人类在工业文明基础上形成的发展观、就业观、财富观、分配制度等治理体系与概念框架的挑战。如果我们从人类文明的视域来分析，威胁论似乎返回到了人类文明的初期。在人类文明初期，之所以诞生了许多神话、图腾崇拜、发明祈祷仪式、形成宗教信仰等，在某种程度上这体现了人类对无法解释和无法控制的自然现象惧怕，后来，科学的发展战胜了有神论的推测与信仰。

人工智能现在也是一样的，因为我们想象不出未来的智能体是什么样的，如果真的像科幻小说、电影中所描绘的那么强大无比，那么，人类文明似乎就面临着灭亡的危险。事实上，这同样是对人类失去控制力的恐惧。人的安全感来自对控制力的把握，对能够把控的事情，就不会感觉到恐惧，反之则不然。

第二个会出现选择的悖论，科学技术越发达，人们的选择越多样，但反而越感到有危机。这是对不确定性的一种恐惧，也是对掌握控制权的向往。这点实际上和我们控制的思维方式有关，现有概念工具箱和概念框架、包括制度设计在内的思想体系，不足以理解和应对人工智能的发展所带来的改变。我认为，这是威胁论出现的主要原因。具有来说，就是环境变化太快，原有的概念框架跟不上变体的步伐。所以说，概念框架的缺失不只是一个问题，这是一种风险。

关于“无用”论的担忧，是把人工智能带来的挑战，看成是无法避免的灾难，而不是看成由于概念工具箱匮乏、思维方式固化和制度安排落后的产物，因而拒斥在运用旧范畴体系时无法理解和赋予意义的新生事物，并对不确定的未来充满恐惧，做出消极评估。

事实上，从农业文明到工业文明的转型，诞生了农业文明中不曾有过的许多新行业，比如，机械制造业、航海业、铁路运输业等。工业文明抛弃的不是土地生产，而是以机械化与自动化的形式改变了土地耕耘方式，并以新的联合方式变革了农业文明时代的制度安排，形成了新的概念框架和新的经济、文化、法律等制度体系。同样，从工业文明再到信息文明的转型，也诞生了工业文明时代所没有的一系列新行业，比如，网络通信、电子商务、人工智能等。信息文明也没有摒弃土地和工厂，而是以网络化、数字化和智能化的方式变革工业生产方式，并再次变革农业生产方式。但是社会变革至今依然处于进行之中，远没有完成。

其次，智能化的革命是一种文明的选择。

从人与自然的关系来看，人工智能的发展迎来了“人成之为”的第二次过程，第一次过程是人与自然界的分离，人与自然界成为对象性关系。地球的进化已经进行过了两次，第一次就是从无机物进化到有机物，第二次是进化出人类。人类一旦出现，就相异于其他动物。人类文明的演化是反自然选择的。我们知道，动物是自然选择的结果，强者生，弱者亡，遵守丛林法则。但人类则不同，从原始人开始就知道利用联合的力量来生存。联合力量形成之时就是文明开始之时，到后面形成了社会制度等自治体系，利用科学技术推动人类文明进程的发展，是人类文明的选择。从这个意义上来看，智能革命和以前的技术革命一样，也是文明选择的方向，不管怎么恐惧，人工智能的发展方向肯定是要继续发展下去的。当前，各国政府的重视，社会资本的涌入，都在助推人工智能的发展。

人类文明的演化方向有四个特征，第一就是越来越反自然选择，即人类联合的起来抗击自然灾害；第二是联合的力量，联合起来保护其成员不受外来侵害，因此，战争也是文明的产物；第三关爱弱者，这是人类与动物的最大区别，是社会进步的标志之一；第四是社会化程度不断提高，也体现出人与人之间的相互依赖性不断加强。智能革命显然满足了这四个特征，或者说，智能革命是人类文明发展的选择。

智能文明是信息文明的高级阶段，就像信息文明的初级阶段是工业文明的高级阶段一样，信息文明的高级阶段是智能文明的初级阶段。在这个阶段，人类的身心解放，不是使人成为无用之人，而是需要寻找新的联合方式，迎接休闲社会的到来。

工业社会主要是建立在物质生产基础上的，大家把劳动看作是正事，把休闲看作是不好的方面，应该是以劳动为主，不能以休闲为主。但是随着智能化革命的兴起，全社会的各种工作随着机器人的替代，人类将会有很多时间进行自由支配的时候，休闲社会就应该到来。

这就是我要讲的第三个问题，我们应该为休闲社会的到来做什么样的思想准备？这是值得研究和探讨的十分关键的问题。我们应该注意到，智能革命有可能为“人成之人”提供第二次机会，如果说，第一次是人与自然的分离，那么，这一次，将会是人重新回归自然、重新尊重自然，改变工业文明时代形成的索取和掠夺自然的生产与消费方式。我们现有的联合方式是围绕解决经济问题而形成的，现有的社会制度、教育体制、政府管理部门等，都是围绕劳动经济为核心来展开的。但是智能化革命的发展，必然会增加人的休闲时间，就会废除以劳动为核心的社会体系，这时，人类将会变得无所适从，甚至变成自己的敌人。

如果说，解决经济的压力是人类长期以来面对的最大挑战，那么，塑造以休闲为核心的社会并具备休闲能力，则是人类进入智能文明时代所面临的更大挑战。人类自古以来是以解决经济问题为目标，智能化社会这个目标有可能不再是人类追求的唯一重要目标，问题在于，当我们解除了经济压力时，我们面对休闲应该提前做好怎样的各种准备，如何改变现有的制度架构、思维方式、概念范畴，如何使人能够成为提升自我修养、开发个人兴趣、懂得在活动中享受快乐、塑造幸福感的人，这也是使人成为“有用”之人的一种方式，因此，当我们把追求生命意义和社会价值放在首位时，我们的评价标准就发展改变。

从历史上看，劳动和休闲的关系有四个层次，一是纯劳动型，对所从事的劳动没有任何兴趣，只是为了糊口赚钱；二是劳动-休闲型，休闲是劳动的奖励，第三个是休闲-劳动型，把劳动变成一种休闲方式，以休闲的心态对待劳动，即休闲式劳动，休闲式的劳动把劳动当作自己兴趣的一种方式。最理想的状态应该是纯休闲型，但这个纯休闲不是吃喝玩乐的意义上休闲，而是亚里士多德意义上的对生命意义的追求与呈现的过程，使人的一生成为生命意义的展现过程，这是理想的精神状态。

智能革命与机器乌托邦

刘永谋（中国人民大学教授）

我要讲的题目实际上是说智能革命和AI技术，AI技术充分发展和远景。AI技术充分发展之后对社会公共治理会有什么样的影响？这个问题有两种极端的态度，一种是乐观主义的，像素梅是属于乐观主义的，以后可能出现一个AI的理想国。还有一种是悲观主义的态度，我称之为AI的机器乌托邦，我今天讲的实际上是关于悲观的想法，明天讲关于乐观的想法。

我们举一个例子，负面情绪会出现什么悲观的情况呢？大家知道之前做互联网、物联网有一个很重要的概念，电子圆形监狱。这样圆形监狱在网络信息化时代会导致所有人被监视，到了智能革命状态就会有不同。举个例子说现在家里用的小米机器人，它显然有监视的成分，而且在私密的空间中，对我们家里的房间进行扫描，还有行动的空间，做一个路线规划进行清扫。这样的收集和行动力能力如果扩展到社会公共事物和政治领域的时候，会产生比电子圆形监狱更强的负面效应。也就是说它不仅仅可以监视你，还可以对你进行行动，直接把人监控起来。

相对于机器乌托邦，现在很著名的一个意向就是《终结者》里机器人对所有人的牢狱统治。当然我写过一篇文章专门讨论物联网对集权和民主的倾向，我得出的结论是倾向于集权的，但后来我对隐私观的看法转变，我意识到隐私是会不断变化的。像中国古代皇帝都是有起居注的，没有什么隐私。中国古代是没有隐私的社会，但它是很平稳运行的，但现在的隐私观念有很大转变。但这并没有否定我之前认为物联网会倾向集权的看法，现在如果上升到可以行动的智能技术这就是一个忧虑了，是有可能出现机器乌托邦的。

我的研究方法很简单，对现在的技术治理以及AI在公共领域应用的各种批评的思想文献来进行分析，尤其是科幻，通过这样一种分析来获取机器乌托邦是什么样子，从这个结论出发去思考如何避免机器乌托邦。现在西方的科幻小说有个很重要的特点，乐观主义情绪很少。这种科幻文学我分析了一下，主要有三种最突出的，实际上都与智能革命有关系。这样一种想象在西方是很流行的，它所勾勒出来的，这样一个社会的目标就是要整个社会成为一架完整的严密的机器，每个社会成员都是这个机器上的一个小零件，而且是可以随时更换的零件，和钢铁制造的零件没有差别。当代以好莱坞的科幻影视为代表，有各种各样的描述，在他们的看法中就说所有的人类在未来机器乌托邦的悲惨命运都是由于科学技术的发展，以及控制科学技术这些科学家和狂人所导致的。

但我想说实际上西方现在是很流行这个，但不是一直如此的。在二战之前是相信科学和民主的，所以那时候是欢迎科学技术在公共治理领域的应用，但由于两次战争以后大家思想发生了转变。像中国、苏联其实到今天为止和它们态度还是不一样，还是认为科学技术在公共治理领域有好的效用。

总之从这些科幻、反思中归纳出来，机器乌托邦有四个方面的特点，第一就是总体主义，也就是说我们对这个社会要以总体来控制，因为机器乌托邦相信社会和自然一样是有自己运行的规律，我们知道这些规律就可以对整个社会进行非常详尽的规划蓝图，然后照着这个蓝图去运转，运行这个社会。对所有的国家政党、社会制度、风俗习惯以及个人生活全面的改造，没有人能够逃脱，这是一个特点。

第二个就是机械主义，刚才提到人、物、社会所有都看成机器和机械，这就有个结论说，对于机器我们就要事无巨细的进行测量，包括人的思想情感。如果说这东西不存在的，可以还原成心理学和物理学的事实以此来进行测量。

第三个是集权主义，机器乌托邦是反对民主和自由的，认为民主和自由是没有效率的东西，支持的是由专家掌握国家大全，公开实现等级制度，然后以数字的方式残酷地统治社会。

第四个就是经济主义，也就是说机器乌托邦它核心的价值主张是效率，科学技术是最有效率的，那些没有效率的东西像什么文化、文学艺术都是可以取消，那社会运行的目标就是科学技术越来越发达，物质越来越丰富，人类文明不断地扩展，我们要扩展到整个地球，扩展到月球，扩展到火星。像《星际迷航》不就是这样嘛。

第三个问题我要分析机器乌托邦有何教益？对西方这种看法我们并不是很赞同的，但是从理论上去考虑这种危险和风险是很有必要的。我们用AI技术对社会进行治理是不是就等同必然会导致机器乌托邦呢？其实有很多不同的模式。模式基本上可以分成两派，一派是激进的，整个社会要打乱重新按照科学的蓝图来搞。另外一派是温和的，在现有的基础上进行改良。而温和派之间也有很大差别，比如说有人主张说运用渐进的社会工程，像罗伯是要用能量和社会测量，像普莱斯他强调的是科学家智库的分权独立，所以历史上是有很多不同的存在模式。但是AI的治理社会最终有没有可能形成机器乌托邦呢？没有真正出现过一个所谓的机器乌托邦，只是在人们恐惧的想象中。从来没有出现过，不管是欧洲、苏联、拉美、新加坡、菲律宾等等没有出现过，但是从理论上说它还是可能出现的。因此我们要避免，怎么避免呢？我们实际上要避免刚才四种主义，这四个方面会不会出现，当然这是很复杂的问题，我也有些很初步的思考。

首先比如说总体主义，因为很直接说反对全社会范围内的宏大社会工程，而对局部建立的社会工程，而且是可以及时反馈调整的社会工程是持比较积极的态度。大家知道无论是历史主义的贫困还是富有，都有很有说服力的分析。这种宏大的乌托邦工程除了社会蓝图之外的任何批评和纠错，如果有错误的看法就把肉体消灭，这种情况之所以没有发生的很大原因就是和封闭社会有关系，在网络社会这个条件是很难做到的。

第二个对机械主义的理解，反对机械主义涉及到社会的主流价值观，我们的主流价值观一百年前是机械主义的，但现在并不如此。比如说我们对苹果讲它的美学效果，这个社会价值观在转变。

第三讲集权主义，集权主义的问题实际上我认为这里有很多模式，不一定和自由民主相冲突。有研究者指出，这样一个技术治理在21世纪有很软化的趋势，不像以前那么硬了。最后要防止经济至上的观点，在社会局部的规划要服从更高制度的安排。

这是我大体的一个考虑，否则的话就可能陷入GDP和经济至上。总之智能革命的到来加大了技术治理的机器乌托邦的风险，因此必须考虑制度设计与应对，这个问题我认为从根本上说不是技术问题，而是政治问题。

智能革命与人类记忆

杨庆峰（上海大学哲学系教授）

我的题目是“智能革命与人类记忆”。比如说前面王天恩老师讲的是智能进化，进化是一个过程，这里就会引出两种观点，王老师描述的是人类自由的丧失，成老师描述的是未来。

我这里说到的是关系，人与技术的关联，对这个关联进行讨论的时候，先看一下传统的观点，通常在谈这问题的时候有一个贯穿的认识，把技术当做一种工具或者对象，用来解决问题或者处理一些其他的事情，所以这种人与工具就形成非常固定的模式，成为我们分析人与技术的关系。这背后是一个主体、客体分离的理论基础，这种传统模式实际上受到了哲学家的一些批判，像海德格尔、芬伯格他们对这观点进行了很深入的批判，尤其是海德格尔他提供了一种信仰学的批判，那么芬伯格把政治维度和社会因素加进去了。他们的批判提出了另外一种关系模式，人在技术之中。

在这样一种说法当中，这个说法怎么去理解，我想做一个诠释。这里提供的三张图有个共同特点，是漩涡，漩涡从volution这个词来讲，这个词本身的字面意思是漩涡。漩涡就表达了人与技术的关联，人处在这个漩涡当中无法自拔。这地方如果要自拔的话需要具备怎么样的条件，如果不能自拔的话会遭受怎么样的命运？在比喻性的说法当中把人类与技术的关系呈现出来。

从字面来看evolution是进化，智能本身它是进化的过程还是说中间有革命性的跳跃。比如说在人工智能讨论中有非常重要的一个概念叫技术基点，后面我会回应这个问题。技术基点是进化到某一个阶段的自然过度，还是说到了某一个阶段的飞跃，所以这两种模式实际上是一种进化的模式，一种是革命的模式，我想通过这样一个比喻来说明要解决的问题。具体的问题，在人与技术的漩涡当中，如何在进化与革命之间保持自身并构建其自由关系。

在嵌入到这个问题的时候我选择了一个视角，对人类记忆的视角，它不是宏大的生存层面的东西，但实际上是人类学里非常重要的一个规定性的。在哲学人类学当中，你像康德所提出的五感，这五感实际上就隐含着一种记忆的概念，只不过在人类学当中只谈了五感知觉，对记忆也谈到了，但只是一笔划过。

对人类记忆有哪些构想我做了一个概括，从哲学层面来说的话，对人类的记忆实际上有这么三种理解，第一种是当做灵魂实体的结构。在人理性的层面当中或者感性层面当中，这是种结构。后来这种观点受到批判，随着休谟等等这样一些心理学思想的发展，他们把人类记忆的解释就变了，不是在解释实体的结构，而是变成一种精神性的或者灵魂性的能力，比如说具有一种回想能力，这种能力非常重要，如果没有了这种能力就没有办法对自我进行认同，没有办法对世界进行认同。

使这种观点持续的时间非常长，一直持续到20世纪，20世纪之后这个观点受到质疑，然后发生变化，更多的心理学家提出既是意识状态，和感知，和人的情绪是相并列的状态。对这种心理学的关联后来胡塞尔提出一种批判，你把记忆看作是心理状态的话是有问题的，那么记忆根本的规定是过去的对象，从这点来说的话心理学的规定是没办法解释这个问题。后来把这个观点进行推演，就推演记忆是一种行为，这个行为可以做多重解释，比如说构造过去对象的一种行为，或者说使得过去当下化的这样一种行为。这种观点在心理学的表现是经过两个变迁，第一个阶段是从休谟开始到实验心理学出现之前，把记忆看作是一种联想力，可以联想到过去的一些现象等等。后来这种观点随着实验心理学出来就受到批判，更多的是一种提取，从过去提取信息出来，只有完成这个过程那么记忆才能够成为整体的过程。

这个观点到现在，随着神经心理学的发展又受到了批判，有一些心理学家提出一种新的理解叫“精神性的旅行”，用这种方式来解释人类的记忆。整个心理学的理解可以纳入到哲学的第二层理解当中，它属于精神的一种能力。与记忆的维度相并列是“遗忘”，它实际上被看作是记忆的对立面，这是个通常的观点。比如说灵魂构成的丧失或者记忆能力的丧失、状态的失控，这时候就把遗忘看作是自然能力的丧失。

这两种理解只是展示一下关于记忆的不同看法。最根本的我想提出来说，要审视人工智能与人的关系的时候，就需要另外一种方法，所以我把它概括出来说基于它是认知和情感产生的基础条件，如果没有了记忆这样的维度，实际上情感和认知是不可能的。第二是理解人类自身的历史条件，这是关于一种人类历史的构建，比如说怎么去面对历史，这时候就需要回忆把它构建出来。第三就是实现自我及其他人认同的必要条件，这具体到个体来说实际上是对自我的认同。我们能够知道我是谁，又通过怎么样的方式去知道我是谁。在这个过程当中，搞认知的学者认为认知起了非常重要的作用，但在我这里提出一种补充性的意见吧，回忆包括记忆实际上是另外一个不可忽视的条件，但在通常的哲学史当中把记忆放在了认知底下给忽略掉了，我现在做的事情就是要把这一点彰显出来。

最后我对这个问题做了一个聚焦，我思考的是当采取记忆维度去看人工智能会看到什么，人工智能是进化的过程还是革命的过程。从前面所提到的三个条件来看对这问题就可以做一个解释了。如果把记忆理解成信息的编码、存储、提取这样一个过程，那么人工智能是无法从进化突变到革命的，就没有革命，只有一种进化。但如果进一步把记忆理解为认知和情感产生的前提条件的话，实际上就具备了一种可能性，就说它能够突破技术基点。人工智能超越人是必然的，这个必然性是在于记忆它是认知和情感的基本条件。

记忆和回忆的关系问题没有被解释清楚，因为太多的理解把记忆当做是一种信息过程了，以至于把回忆的维度给忽略掉，回忆是人特有的一种现象。亚里士多德就指出来说动物和人可以拥有记忆，但是唯独人才能拥有回忆，所以他的论断如果用在审视人工智能问题上的时候，似乎把这个路给堵死了，人工智能是不可能拥有回忆的，这时候就不用担心它有一天会超越人，但在我看来如果把这个维度考虑进去，这个问题就有无限的可能性了。假设有一天人工智能能够感知世界的话，这我不知道技术怎么去解决这问题，比如说让机器去感知世界，如果能够实现这点的话那么突破记忆会成为一个必然，所以这是我关于这问题的考虑。