• 11月23日 星期六

格雷厄姆·艾利森:中国正在打败美国成为人工智能霸主吗?

作者: Graham Allison--哈佛大学肯尼迪政府学院首任院长,哈佛大学肯尼迪政府学院贝尔福科学与国际事务中心主任 编辑: 嗷嗷猪格雷厄姆·艾利森:中国正在打败美国成为人工智能霸主吗?

在过去的一年里,我一直在与技术行业的一位杰出领袖合作,将他数十年来推进前沿技术的经验与我数十年来在国家安全决策方面的经验结合起来。我们一直在努力研究中国在人工智能领域的巨大飞跃对美国国家安全的影响。本文的写作目的在于为美国敲响警钟:中国飞速发展,未来十年在人工智能应用上将会超越美国;解释为什么人工智能是中国的首要发展任务;找出关于两个数字超级大国之间不受约束的人工智能军备竞赛的危险方面尚无答案的关键问题;并指出我们为什么认为美国能够而且必须获胜。

首先,我想提出四个关键点。第一,大多数美国人认为,美国在先进技术方面的领导地位根深蒂固,不可撼动。同样,美国国家安全部门的许多人坚持认为,在人工智能领域,中国永远只是一个“近乎匹敌的竞争者”。两者都错了。事实上,在人工智能在商业和国家安全领域的应用上,中国已经成为美国的全方位竞争对手。中国政府不仅在努力发展人工智能,而且成果丰硕、胜利在望。因为在未来20年里,人工智能将成为下一个半导体、计算机和互联网,对商业和国家安全产生革命性的影响,所以全国上下都应该高度重视这一问题。

其次,中国对掌握人工智能的热情,远远超出了其对这一系列技术经济潜力的认识:它有望成为未来25年经济发展的最大推动力。人工智能为中国提供一种新的治理模式。对于中国共产党来说,人工智能是关键任务。

尽管我们都对人工智能极大改善人类福祉的潜力抱有普遍的热情,但拥有远超人类智能的机器的发展将带来特殊、可能甚至是独特的风险。1946年,阿尔伯特·爱因斯坦警告说,“原子释放出来的力量已经改变了除我们的思维方式以外的一切,因此我们正走向前所未有的灾难。”我们相信人工智能也是如此。亨利·基辛格(Henry Kissinger)已经在我们所说的“基辛格的幽灵”(Kissinger’s Specter)中识别出了这些风险。用他的话来说,人工智能威胁着我们意识和思维的一场不可预测的革命,以及“我们对于真理和现实的理解的一场不可避免的进化”。爱因斯坦的警告推动制造和使用原子弹结束第二次世界大战的技术专家和战略家们联合起来寻找防止第三次世界大战核战争爆发的方法。迎接人工智能带来的挑战一点儿也不比这轻松。

第四,在过去十年里,中国在发展规模、数据收集和国家决心方面的优势使其得以缩小了与这一行业美国领导者的差距。目前,中国正处在未来十年赶超美国的轨道上。尽管如此,如果美国能够意识到这一挑战并动员全国的力量,我们相信它能够制定正确的战略并且取胜。

对许多读者来说,人工智能只是科技领域中最新的闪闪发光的亮点。我将通过一个简短的说明进一步介绍人工智能,希望对大家有所帮助。

人工智能包括大数据、机器学习和多种相关技术,这些技术使得当我们做同样的事情时,机器可以按照人类描述的“智能”方式运行。例如,想想全球定位系统(gps)导航应用Waze在繁忙的交通中定位最佳路线;亚马逊怪异的相关产品推荐;或者是现在经常在国际象棋中击败世界大师的程序化的机器。今天领先的信息技术公司都把他们的研发预算押在了人工智能革命上——包括脸书、亚马逊、苹果、网飞和谷歌(FAANGs)和百度、阿里巴巴和腾讯(BATs)。正如亚马逊的杰夫·贝索斯(Jeff Bezos)今年所说,“我们正处在人工智能黄金时代的开端。”

人工智能技术虽然还处于初期阶段,但将成为未来经济增长和国家安全的驱动力。从人脸识别、金融科技到无人机和5G,中国不仅仅在迎头赶上。在很多情况下,中国已经超过美国,成为无可争议的世界第一。在一些领域,由于宪法的限制和不同的价值观,美国故意放弃了竞赛。而在其他领域,中国取胜的决心也只增不减。

中国人工智能的兴起是如此迅猛,大家好像都还没回过神来。2015年评估国际竞争时,美国的行业领导者——谷歌、微软、脸书和亚马逊——都认为中国公司远不如自己,和德国或法国公司一起处于第三梯队。但2016年的时候情况发生了变化,当时领先的人工智能应用公司深度思维(DeepMind)让一台机器参加了世界最复杂的棋类游戏围棋,并击败了世界冠军李世石(Lee Sedol)。即使在几家美国公司的机器打败了世界上的国际象棋大师之后,大多数中国人仍然相信机器永远不可能打败围棋冠军,因为围棋比国际象棋复杂一万倍。因此,对于中国来说,深度思维(DeepMind)决定性的胜利成为了一个“斯普特尼克时刻”——与苏联向太空发射第一颗卫星一样戏剧性地令人震惊,后者曾引发美国全国数学和科学热潮、美国国家航空航天局(NASA)的创立以及最初的“登月”。

李开复的《人工智能超级大国》(AI Superpowers)一书鞭辟入里地总结了中国在该领域的参与。首先是中国国家领导人对世界围棋冠军被击败的个人反应。他宣布中国必须在这一领域领先,并提出了2020年及2025年的具体目标,这些目标将使中国到2030年在人工智能技术和相关应用上占据优势地位。意识到这必须交给具有创业精神的公司而不是政府机构,他指定了五家公司成为中国的领头羊:百度、阿里巴巴、腾讯、科大讯飞和商汤科技。在中国国家领导人作出指示的12个月后,中国对本土人工智能初创企业的投资超过了对美国人工智能初创企业的投资。到2018年,中国人工智能技术申请专利的数量是美国的2.5倍。而今年,中国计算机专业的毕业人数是美国的三倍。

与政府主导研发、制作和部署的核武器不同,私有企业和高校科研人员已经完成了人工智能和相关技术的研究开发,并将持续推进。美国政府和中国政府的军事机构实际上在相互追赶,都采用和适应私营部门的产品。

要判断这两位竞争对手在今天的人工智能竞赛中处于什么位置,就要考虑六大主要指标:产品市场测试、金融市场测试、研究出版物和专利、国际竞赛结果、人才和国家经营环境。

消费者在市场上对产品的选择不言自明。在金融科技领域,中国独树一帜。腾讯的微信支付有9亿中国用户,而苹果支付在美国只有2200万用户。说到功能,微信支付的功能远远超过苹果支付。中国消费者使用微信在星巴克买咖啡、用支付宝购物、支付账单、转账、贷款、投资、向慈善机构捐款以及管理他们的银行账户。在此过程中,他们生成了有关个人消费者行为的精细数据宝库,人工智能系统利用这些数据更好地评估个人的信用、对产品的兴趣、支付能力和其他行为。美国用户每支付1美元,中国用户就已经支付了50美元——去年移动支付流通额达19万亿美元,美国还不到1万亿美元。信用卡对于中国千禧一代来说就像手写支票对于美国千禧一代一样过时了。马克·扎克伯格(Mark Zuckerberg)注意到:脸书今年在数字支付领域的重大举措,包括最近推出的脸书支付,都是在模仿腾讯,而不是创新。

在人脸识别领域,世界上最有价值的公司是中国的商汤科技公司,一位作者曾在10月份参访过这家公司的总部。(这位作者还在李开复的指导下参观了中关村——中国版的硅谷。李开复的对冲基金是中国人工智能初创企业的主要风投方之一。)在去年的国际人脸识别比赛中,中国团队获得了前五名。中国企业正与政府密切合作,完善人脸识别技术,以实现利润和控制。比如海康威视和大华技术控制着世界三分之一的安全摄像头市场;天地伟业的摄像机在夜间只需要一颗星星的光就可以拍摄高清彩色图像;武汉高德红外则专门从事红外热成像。在这个领域,美中之间没有竞争;出于对普通个人隐私的担忧,以及对这项技术可以如何部署的深度保留,美国基本上已经在这场竞赛中认输。2017年,斯坦福大学的研究人员发明了一种人工智能算法,该算法只需扫描一张照片,就能以惊人的准确率检测出个人的性取向,这让西方人感到震惊。

在语音技术领域,中国人在包括英语的所有语言上都击败美国公司。全球顶尖的语音识别新秀是中国的科大讯飞。苹果Siri的用户基数有3.75亿,科大讯飞则有7亿,几乎是Siri的两倍。在系统性能比赛中,科大讯飞经常以第二语言击败谷歌、微软、脸书、IBM和麻省理工的团队。在斯坦福大学的机器阅读理解国际挑战赛中,中国团队不仅勇夺冠军,在前五名中也独占三席。百度还比微软早一年开发出人类语音识别系统。

2017年,美国禁止向外国供应商采购无人机,在此之前,谁是美军商用无人机的主要供应商?答案是:控制了全球70%市场的深圳无人机制造商大疆。无人机如果没有初级人工智能的技术支持,就只是一种用于业余爱好的小型直升机,人工智能则赋予它们针对杂草或武器的计算机视觉,使它们能够成群行动。最近对沙特阿拉伯主要石油设施的袭击表明,世界刚刚开始发现人工智能增强型无人机在雷达探测不到的区域行动的安全后果。在世界五大商用无人机品牌中,三个都是中国的,只有一个来自美国。

5G基础设施将成为人工智能进一步深入日常生活的主心骨,覆盖从自动驾驶汽车到智能眼镜的方方面面。中国的华为是全球领先的5G供应商,它不仅拥有将成为全球最大市场的中国市场,而且其28%的全球市场份额几乎相当于其两大竞争对手的份额之和。在建设5G基础设施的前四大品牌中,有两个是中国品牌,美国品牌却被排除在外。中国企业拥有的5G必要专利是美国企业的两倍。虽然目前美国政府针对华为的制裁结果仍不确定,但华为目前交付的5G系统远远领先于所有竞争对手,比发明iPhone的苹果公司提前一年将5G手机推向市场。

金融市场反映了这些现实。五年前,全球最有价值的二十家互联网公司中,有两家是中国公司;如今则扩大到了九家。“人工智能时代七巨头”:谷歌、亚马逊、脸书、微软、百度、阿里巴巴和腾讯分列太平洋两岸。在2018年每10笔投资于人工智能的风险投资中,有5笔投给了中国的新兴公司,4笔投给了美国公司。在全球十大人工智能新兴公司中,中美各占一半。

未来十年是实践的时代,而中国更具优势。高质量数据的数量体现压倒性竞争优势。无论是在收集方面,还是在清理数据方面,中国都更胜一筹。但相比之下,如果未来十年人工智能最重大的进步来自于突破性的飞跃,比如深度学习的发展,那么优势还是在美国这边。在全世界,人工智能领域一半的超级巨星都在美国公司工作,为美国提供了中国无法比拟的优势。

长期以来,特别是信息技术方面,创新是西方的一大信念,并且只有在开放社会中的自由个体才能促进创新,这些进步必然会扩大个人自由。

美国将在经济、军事、社会等各个领域应用人工智能来与中国竞争。但在国家治理方面,由于两国体制上的差异,中国在人工智能竞赛中领先一步,美国理所当然地选择不参与竞争。

人工智能加强了商业历史学家小阿尔弗雷德·D·钱德勒(Alfred D. Chandler, Jr.)所说的“看得见的手”的作用,能够帮助中国提升管理水平。钱德勒写的是企业在没有法律约束掠夺性行为和反垄断执法的情况下,会形成主导市场的垄断和寡头垄断。

促使FAANG(脸书、苹果、亚马逊、网飞、谷歌这五家公司的英文首字母缩写)在美国市场上达到万亿美元估值的许多因素,都同样地增强了中共在中国社会中的主导地位。Marco Iansiti和Karim R.Lakhani教授在其2017年《哈佛商业评论》文章《管理我们的中枢经济》中总结了数字化和网络理论的基本原理,这些原理推动了FAANG和BAT等“中枢公司”的成功。首先,摩尔定律(该定律认为计算机处理能力每两年翻一番)使得在计算机的支持下,相关领域生产率呈指数增长。比较一下十年前推出的首款iPhone当今机型的功能差异,就能发现该定律所言非虚。其次,梅特卡夫定律指出,社交网络的价值随其用户数量的增加而增长,这意味着脸书或微信每增加一个用户,其公司价值便会增加,而不会产生任何边际成本。第三,巴拉巴西定律提出了一个正反馈循环,这一循环是互联网中枢公司产生的原因:通过数字网络进行的交易越多,中枢公司的经济实力就越强。在Iansiti和Lakhani的总结中指出:“一旦中枢公司在一个经济部门(例如移动电信行业)中建立了充分的连接(并享受规模收益不断增加的好处),它将在开拓新业务部门时享有至关重要的优势。”在线支付就是一个有启发性的例子。

以脸书的商业策略为例。通过创建一个用户友好的平台,使得在脸书上的24亿人可以自由地与家人和朋友分享生活,脸书收集了私密数据,使它可以了解用户在乎什么、用户认为应该与他人分享什么、以及怎样激起用户的兴趣。这样一来,脸书便可以为精确定位广告收取溢价,以说服特定的目标用户购买产品和创意,甚至是投票给某一候选人。马克·扎克伯格在简介中写道:”由于我们了解您感兴趣的内容,因此我们可以向您展示更多与您有关的广告。”

人工智能是亚马逊的秘密武器。“机器学习和人工智能几乎是我们所做的一切的基础……”贝佐斯坦率地说道。亚马逊的算法为优享会员提供了更多他们想要的东西(通过建议),帮助亚马逊了解了有关会员的可行细节(通过检测浏览和购买模式),简化物流流程,将包裹送到每个地方,并抓住违反规则的人。而且,贝佐斯可能将很快使用人工智能在网上爬取信息,查找可能破坏其组织的新出现的危险,并采取措施阻止他们。

人工智能不仅将提高中美双方的风险投资回报率和军事能力,还可以显著增强国家治理体系。

在冷战期间,与苏联进行核军备竞赛的危险显而易见。如今在飞速崛起的中国与称霸全球的美国之间,竞争已经陷入修昔底德陷阱,人工智能军备竞赛升级的风险是什么?

不管怎样,未来的战争将由AI驱动。国防部长马克·埃斯珀(Mark Esper)最近在国家安全委员会关于人工智能的会议上指出,“人工智能的发展具有改变下一代战争特征的潜力。无论哪个国家首先利用AI,在未来许多年的战场上,这个国家都将具有决定性的优势。”人工智能在冲突中加快决策周期的能力将使得军队更多地使用人工智能。在空战中,飞行员从OODA循环开始:观察(O),定向(O),决策(D),行动(A)。如果“飞行员 A”可以“进入‘飞行员B’的OODA循环中”,则飞行员A获胜,因为他可以逃脱B的火力和攻击,同时计算出B的脱离路径,引导导弹攻击路径上的点。由于AI可以以高于人类数倍的速度观察、定向、决策并采取行动,因此在没有AI副驾驶员的情况下,派遣飞行员进入战场将是对飞行员生命的不负责任。前参谋长联席会议主席约瑟夫·邓福德(Joseph Dunford)去年所说:“哪个国家在人工智能方面具有竞争优势,并且能够在人工智能的指导下部署系统,这个国家就很可能具有总体竞争优势。”

最近,在世界上最复杂的实时策略视频游戏之一——星际争霸中,AlphaStar击败了所有竞争对手。AlphaGo和AlphaStar取得的成功表明,不管是进攻还是防御,在任何结构性竞争中,人工智能都将击败人类。拥有最佳人工智能的公司、国家或团队将获胜。例如,以美式足球为例。评论员经常将橄榄球比赛比作“国际象棋比赛”,因为进攻方和防守方协调员知道,如果防守方正确预测在下一场比赛中,进攻组会依靠四分卫传球还是跑锋突破,那么在大多数职业橄榄球大联盟球队中,防守组都可以成功地阻止大多数对手的进攻。通过读取某一情况中的所有变量,人工智能应该能够在陆海空和太空等各个环境中的军备竞赛中获取主动权。

该领域的领导国家也将第一个知道,当今哪些军事领域将要被人工智能颠覆。在第一次世界大战之前,德国就发现了潜艇的力量,因为德国引领了潜艇领域的发展。直到1914年,一艘德国U艇在一个早晨击沉了三艘英国装甲巡洋舰之后,英国海军上将才意识到U艇的致命杀伤力。到那时,一切为时已晚,英国人已经将他们的财力投资于建立一支已经过时的决战舰队。胡塞武装使用无人机和巡航导弹的协同作战,成功地攻击了沙特阿拉伯最有价值的基础设施油井,并将其石油出口减少了一半,这具有启发性。采用人工智能的无人机群是否在将成本降低一千倍的同时,具有同样的作战效能,淘汰航空母舰呢?人工智能对来自所有来源的数据的分析,是否能曝光美国斥巨资开发的F-35等隐形系统?第一个搞懂这些事情的国家将成为该领域研究发展的前沿国家。

当我们思考未来的自由竞争时,我们不免因五个未解的问题感到不安。

首先,若创造出比人类聪明一千倍的机器,是否会导致畅销科幻小说中灾难性的反乌托邦结局?事实上,我们已经看到了无数的例子。例如,终结者系列中的天网是个具有自我意识的系统,最终决定杀死创造自己的人类。我们也看到,一些人工智能能够智胜人类,扭转指挥官和被指挥者之间关系。我们质疑这些结局的可能性,但同时也意识到,科幻与事实原先清晰的界限正变得越来越模糊,而演变的速度也远超乎了我们的想象力。

其次,则是“基辛格的幽灵”。基辛格虽然已经96岁,却愿意尝试理解科技,并认真思考它的含义。由此,我们也衷心崇拜这位美国在世最伟大的政治家,并且受之鼓舞。他曾说过, “理性时代产生了塑造当代世界秩序的思想和举动。但是,在一场新的、甚至更为广泛的技术革命中,这种秩序正在发生剧变,我们也未能充分设想到这场革命的后果。” 在此,我们想强调他所提出的问题:“如果让人工智能自行其是,是否会产生不可避免的轻微偏差,并随着时间的推移,导致灾难性的后果?”

第三,当下,美国和中国在人工智能领域分庭抗礼、展开竞争的这一阶段,是否应该被称为第二个“史汀生时刻?”在向广岛投下第一颗原子弹的同一月,哈里·杜鲁门(Harry Truman) 总统就已经认识到美国的核武垄断地位将转瞬即逝。由于担心与苏联的核军备竞赛可能以核战争告终,他要求战争部长亨利·史汀生(Henry Stimson) 认真考虑能否与新对手苏联共享对核武器的垄断权。然而,这项倡议以失败告终。同样,目前美国和中国尝试一同开发人工智能的军事应用,也可能面临失败的结局。然而,考虑到现行风险,我们是否还应该进行类似的努力?

第四,如果美国和中国之间的人工智能竞赛,与当年美国和苏联在发展和部署核武器的竞争路线相似,我们是否会到达相互确保毁灭的境界?核竞赛中的超级大国在迅速获得实现第二次打击的强大武器库的同时,也发现自己陷入了僵局。任何一方都不能在确保自身绝对安全的情况下,向另一方发动核攻击。因此,技术创造了避免核战争的共同利益。此时,共同利益胜于其他一切考量,因为核战争的最终受害者将是双方。尽管代价高昂且风险极大,这些情况使得各方谨慎行事,维系了稳定局势。过去70年来,世界各国处于“长期和平”,也未爆发大国之间的战争。然而,在人工智能中,我们还未看到类似的稳定状态。

第五,在美国和中国之间,是否还存在其他未被指明的共同利益,能够引导它们应用冷战的教训,并进行调整?在发生古巴导弹危机等险些擦枪走火的事件后,核超级大国发现,它们在防止误解和意外事故上有着共同利益,双方也决心避免战争的爆发。因此,他们建立了电话热线等新的沟通方式,通过军备控制条约限制特定武器的部署,甚至签署《不扩散核武器条约》,合作防止其他国家获取核武器。如今,美国正寻求建立和维持人工智能领导地位的可行战略。我们认为,由于自由人工智能竞赛存在固有风险,这将会激励具有远见的美国人和中国人,一起认真探索更安全的替代方案。在这个过程中,他们或许也能帮助塑造全新的美中关系。

中国是否注定赢得人工智能竞赛?中国的人口是美国的四倍,因此中国无疑将在人工智能应用拥有最大的国内市场。中国的数据量比美国多出数倍,还拥有人数可观的计算机科学家。再者,中国政府也优先支持相关领域的发展。因此,我们可以理解那些持悲观态度的美国同事。我们最佳的判断是,按照目前的轨迹,尽管美国在未来五年将保持微弱领先,但中国将迎头赶上,并很快就会超过我们。

尽管如此,我们相信美国能在这个舞台竞争并获胜。国会最近成立了“国家人工智能安全委员会”,由埃里克·施密特(Eric Schmidt)担任主席,鲍勃·沃克(Bob Work)担任副主席,而后者曾在奥巴马和特朗普手下担任国防部副部长。委员会的使命即是制定战略,以“确保美国的国家安全企业拥有维持美国全球领导地位所需的工具。”我们最后给出了五点制胜策略,希望对实现这个战略有所帮助。

首先,美国人必须积极应对挑战。我们需认识到,美国面临强劲的对手,而这项竞赛将对我们的未来产生决定性影响。由此以来,我们才能卯足干劲迎接挑战。在思考人工智能的竞争战略时,奥运会或许是个具有启发性的类比。奥运会提醒我们,竞争本质上是一件好事,并能够催生卓越的表现。马拉松选手在参加比赛时,比自己单独训练时跑得快。事实上,竞争也是美国的核心价值观。自由市场中的竞争过程,促使商家以更低的价格生产更好的产品。同样的,随着研究团队为更好地了解世界而进行竞争,科学及其应用也在进步。

其次,在这场竞争中,美国不能指望以规模制胜,因为中国在人口规模方面有着天然优势。不过,美国尚可通过斗智取胜。改进和推进最先进技术的过程取决于全人类中最聪明的那0.0001%。美国可以从世界77亿人口中招募人才,并让这些人充分发挥他们的潜力,最后从中获胜。事实上,在一百名公认的人工智能天才中,美国公司现在已经招募了一半以上。在以才华、创造力和创新为重的竞争中,美国将拥有决定性的优势。

第三,平台相当重要,而美国已在起点上获得了可持续的庞大竞争优势。如今,英语是科学、商业和网络的通用语言。中国人唯有学会说英语,否则无法与世界进行交流。不仅是中国,法国及其他国籍的人士也经常抱怨这是不公平的。这或许真的不公平,但这也是事实。为了将新加坡从第三世界城市转变为世界上最成功、最繁荣的全球贸易中心之一,李光耀坚持将英语作为第一语言。事实上,在为中国领导人提供咨询时,他曾建议中国将英语作为第一语言。如今,地球上77亿人口中有一半以上说英语,另有10亿人也正在学习英语。

第四,美国公司在建立人工智能的主要平台方面拥有显著的先发优势,包括安卓和苹果等操作系统、ARM等先进半导体设计,以及杀手级应用程序,包括Instagram、YouTube和脸书。Instagram每月有10亿的活跃用户;脸书则超过24亿。中国公司肯定会在平台和应用程序方面试图取代目前的领先者。然而,如果美国公司足够聪明,能够继续扩大用户机遇、改善用户体验、扩大使用其平台和应用的人数,中国人和其他想与世界交流的人士也不得不继续依赖美国主导的平台。

第三,为保持美国的领导地位激烈竞争的同时,我们必须同时认识到在一些领域进行合作的必要性。在这些领域中,如果没有对方的帮助,美国和中国都无法在最低限度确保自己至关重要的国家利益。能源消耗对气候的影响就是一个生动的例子。如果美国或中国继续以目前的速度排放温室气体,在一百年内,两个国家都无法在这个生物圈生存。因此除了合作,两国没有其他可行的选择。在其他领域也是如此,包括防止第三方挑衅将美国和中国拖入一场灾难性的战争,如朝鲜或台湾问题;又或者通过合作防止像2008年的金融危机重演,以免酿成另一场经济大萧条。我们认为,我们或许能够找到类似经验,限制人工智能不受约束的发展。

对外交官而言,国家间既无情地竞争,又密切地合作,这似乎是个充满矛盾的说法。然而,这在商界却是常态。虽然还没有人为所谓“合作性竞争”找到合适的术语,但苹果和三星之间的关系就是个强有力的例子。这两家公司在全球智能手机市场上是无情的竞争对手,而在过去五年里,三星已成为业界第一。然而,三星却也是苹果最大的智能手机组件供应商。若要持续维系一种竞争与合作并存的关系,我们必须时刻保持警惕、并具有判断和灵活应变的能力。但是,若真如目前证据显示,地球上的技术只给美国和中国留下了两个选择的话,不管这两国有多么的不情愿,我们都相信它们能够找到共存的方法。否则,它们的另一选择也只有共同毁灭。

上一篇新闻

疫情过后,真的要面对一个全面倒退的世界?听听来自全球的十二个判断

下一篇新闻

12位全球顶尖思想家预测疫情后世界秩序将何去何从

评论

订阅每日新闻

订阅每日新闻以免错过最新最热门的新加坡新闻。