对话刘慈欣:不要陷入温柔安乐窝的陷阱

2020-01-20 23:58

编者按:本文转自IDG资本,转载请联系原作者。

新年之初,《三体》作者、IDG资本首席畅想官刘慈欣,和天文学博士高爽,以及IDG资本合伙人牛奎光、过以宏、连盟在IDG资本私享会上进行了一番关于科技、人、宇宙的烧脑对谈美好畅想。

大刘认为,人工智能与人的未来存在着被普遍认为是光明和黑暗的两种可能性,但是光明和黑暗应该反过来。恰恰人们认为最光明的可能性,是黑暗的可能性。

“陷入温柔的机器安乐窝陷阱——这是我认为人类现在和未来最应该担忧的事情。”

以下为对话内容节选:

牛奎光: 大刘老师,人类在宇宙中处于什么位置,是宇宙的中心吗? 

刘慈欣:首先我是一个写科幻小说的作者,科幻既不是科学,也不是完全的文学,但是科幻小说有自己的思维方式。我用科幻小说的思维方式,把人类在宇宙中位置的两种可能性排列一下。

第一种可能性,人类确实不是宇宙的中心。人类思想家最早认为,人类是宇宙中独一无二的存在,后来随着历史演进,人从最中心的位置变得边缘。从地心说到日心说,这是关键的一步。

哥白尼走出这一步很不容易,以前的地心说对行星预测的相当准,甚至比日心说准。为什么哥白尼要提出日心说?这就是美学在科学的重大作用。以前的地心说不美,其模型让人十分困惑。但是日心说很美,很和谐。

后来我们发现太阳也不是宇宙的中心。直到上世纪初,天文学家脑袋中的整个宇宙还是银河系,后来宇宙急剧扩大,到现在地球边缘得不能再边缘了。

所以人类不是宇宙的中心。

另一种可能性有关外星生命。到现在为止我们没有发现任何外星生命的迹象,按理说肯定有,但是为什么这么长时间我们还没有发现?

有一些学者提出了和传统观点很不一样的想法,很可能整个宇宙中只有地球上有生命,至少只有地球上有智慧生命。

第一个论断很难让人相信。在相同的宇宙规律之下,很难说别的地方演化不出生命。从地球诞生到现在30多亿年,其间进化出几亿物种,真正发展到社会生命的只有人类一个。假如这样的话,整个宇宙中只有地球上有社会生命,我们一下又回到最古老的人类宇宙中心说。

这样一个庞大的400亿光年直径的宇宙,能够见证它的只有这么一个小行星上的物种,在这种情况之下地球真的是有宇宙中心地位的。这就是用科幻小说的思维方式,想象出的两种可能性。


牛奎光:大刘的两个观点很有意思,一个是美学在科学发展过程中指导价值, 第二个是人类作为智慧生命有存在的唯一性。

对未知领域的探索跟企业的创新一样,从一个机会切入,但越往后面走,就越容易走到很多没有明确的规定、界定的领域。那么当我们进行太空探索的时候,需要的核心精神、激励机制是什么?

刘慈欣:你说的太空探索应该包括两部分,一部分是对整个宇宙的观测,即天文学的探索。另一部分是实际的探索,即太阳系之内的宇宙航行,太阳系之外我估计在可见的未来不太可能。

第一部分,我相信这种探索会一直进行下去,整个星空的存在会一直激发人们探索的愿望。 第二部分比较复杂。人类进入到宇宙进行真正的太空探险,前景很不明朗。

这其中有两种可能性,一种很科幻、很理想主义。首先太空探索投入极大,比如发送三到五人的成员组去火星、再返回的预算大概是5000亿美元,往往也没有什么可见的效益。在重商主义的时代,要想大规模地进行这种太空探索,只有在人类文化最基本的层次上发生重大的变化,即人类的驱动不再是经济驱动,不再是商业重商主义而变成其它时才有可能。这个变化相当于第二次文艺复兴、第二次启蒙运动这么大,因此我觉得不太可能。

那是不是说大规模的太空探索就不再进行了呢?不一定。第二条途径就是把太空的市场启动起来,这就像当初启动IT市场一样。1944年前后,在美国宾夕法尼亚诞生了第一台计算机,同时美国航空委员会(NASA前身)也成立了。那个时候买一台电脑和买一枚航天火箭价钱差不了多少,但后来计算机市场得以启动。

所以人类要进行太空探索,得把市场启动起来,但市场启动远没有这么简单。现在我们想的大多都不靠谱,太空旅游稍微现实一些,但是它的市场能大到什么程度?很难想象。太空开矿,在可见的未来完全不靠谱。首先地球的矿产资源没枯竭到那个程度,其次太空矿产资源有多大仍是个问题。最不靠谱的是太空移民。向火星去移民,想想很浪漫,但地球的环境再恶化、恶化到极点,也不及火星的环境恶化。

所以未来去太空干什么,市场的增长点在哪,只有市场启动起来才知道。

牛奎光:在重商主义时代做不靠谱的、对未来有指引性的事,可能需要文艺复兴,这牵扯到基础的问题。那么随着科学越来越发达,人作为一个整体是不是道德水平也在相应提高? 

刘慈欣:从传统对道德的定义来说,随着科技发展人的道德水平越来越高,这一点是毋庸置疑的。现代社会不像以前人类野蛮时代,动不动爆发大规模的战争,对生命、人权的尊重是以前无法比拟的。

但是话又说回来,这样的道德提高是因为科技发展,还是因为科技发展所带来的物质极大丰富呢?

我们知道,人类社会物质的极大丰富,会带来人类道德水平的提高。即便是没有科学技术,可能从别的渠道,人类物质的极大丰富也会带来整个社会状况的改变。像中国人说的:衣食足,知荣辱。

至于科技本身对人类道德水平的改变,这是让人困惑的问题。它首先改变了人类的生存状态,比如科技让人越来越远离群体生活,人与人之间的关系越来越淡漠,人越来越孤立。在这种情况下,人的道德水平高了还是低了?很难鉴定,可能是一个比较复杂的问题。

就科技对人类的道德的作用而言,随着科技进一步往前发展,可能会走到很关键的点。原因是现在科技不管怎么发展,人类还是以前的人类,我们现在和原始人在生理特征上没有多大区别,但是这种状态即将改变。包括基因科学、分子生物学、人工智能和人的融合,可能会在生理上会改变我们的形态。而人类的道德水平和生理状态密切相关,道德的基础是人类生物学的基础,生物学的基础一旦改变了,这个时候讨论的就不是道德高还是低了,而是整个道德的定义完全变了。

比如说,现在我们从生物学的角度来把人分为两种性别,如果将来出来第三种、第四种性别,甚至可能没有性别的情况下,人类道德体系将会是什么样子?恐怕不能用高或低形容,这确实是很难想象的事情。

牛奎光:如果道德不能用高还是低来形容,人类作为一个整体,往下的演化有方向还是没有方向?

刘慈欣:人类大概需要经历两万年的自然进化周期,才能看出一点变化。不过现在人类已经开始干预自己的进化,这种用科学技术干预自己进化的速度,比自然进化快得多。谈及方向,进化肯定有方向感,但是这种方向感比较容易引起一种误解,好像想往哪个方向拐就往哪个方向,但其实不是的,这是无能为力的。

就像凯文凯利在《科技想要什么》的书中说,科技本身有自己的意志,这种意志凭人类的感觉没有办法控制。现实不像我们想的那样,在某个科技领域加大投入、国家重视这个科技领域、更多人从事这个科技领域,它发展就快。

举一个例子,人机结合。我想现在没人愿意把自己的一部分变成机器,但假如一个人走出这一步,在某一方面他的身体机能比别的人强得多,慢慢就会有人模仿。等到了一个界限,现实便会变得不由人。你可以保持天然人的状况,但是你在职场上怎么跟人竞争。就算你自己不改造,你的孩子改不改,他的前途怎么办?

还有一点,技术的发展远超我们的想象。一般情况下,当人们说到人机结合,立刻就跟违反自然联想到一块,觉得人机结合以后,人没有了作为肉体生理的感觉,变得很不自然。这只能说明技术没有发展到那一步,假如技术真的发展到那一步,机器和人的结合不但不会削弱作为人的感觉,反而会强化。比如你装的皮肤的敏感度比天然的皮肤敏感,你装的眼睛可以看到红外线、紫外线。改造的大脑对人情感的敏感性、感情的丰富程度远比自然人高得多。到那个时候,不进行改造的话,自然人便显得迟钝了。

这种情况下,人类的进化真的发展到哪一步不是由我们控制的。

牛奎光:这有点像求存不求真——它的存在、延续是最重要的,对真的定义,即大家共同接受的东西是可以不断变化。

刘慈欣:对,因为人类整个生存最终目的不明显,我们只着眼于现在的生存状况,整个人类种族生存的目的是什么,从我们的先哲开始就没想清楚。

牛奎光:人类并不特殊,但还能让我们产生一丝慰藉的是:如果有什么事没有达成的时候,想想整个地球在宇宙中都不重要,那么你自己,可能没那么重要。

高爽:是的,虽然科学把人从中心地位踢到边缘,但是我们保留了一点点自负,那就是:地球到今天为止还是宇宙信息的中心,尽管它已经不是宇宙的中心,但是保留着信息中心地位,直到发现外星人为止,这个地位也没了。

刘慈欣:是的,刚才开始的时候我提了两种可能:人和宇宙之间的关系,人在宇宙中的位置,刚才高老师说到信息中心,我想到第三种可能。

宇宙中有很大尺度的东西,也有很小尺度的东西,大尺度包括像银河系这样的星系、星系团;小尺度包括电子、基本粒子,夸克。我却发现一个让人印象深刻的、但不被人们注意到的事实:一个东西可以很大,但不意味着很复杂。

恒星并不复杂,大的星系结构也不复杂,基本粒子也不复杂。整个宇宙中复杂度最高的层次就在我们这个尺度,最复杂的恰恰是人类,很难找到比人类大脑更复杂的东西。这么小的大脑里面神经元的数量,相当于银河系全部恒星的数量。从一点上来说,我们也能感受到一丝安慰,可能这也是人类在宇宙中位置中很重要的一个依据。

牛奎光:我们现在仍有这个信息中心的独特性?

刘慈欣:目前是有的,即便将来发现其它的外星文明,我们仍然是信息中心,只不过宇宙中有其它的信息中心而已,那个时候生命在宇宙中的独一无二的性质还是存在的——难以超越的复杂度,以及由复杂度产生的大量信息,都是存在的。

牛奎光:还有一个问题是关于连接,黑暗森林理论说,如果不知道对方的情况,并且沟通很困难,最好的办法是把对方消灭了。从这个意义上讲,您怎么看待我们跟其他信息中心可能产生的连接?

刘慈欣:首先,从物理层面来说,宇宙各文明间的连接方式可能跟我们完全不同,不使用电磁波,而是用别的手段,包括中微子、引力波等。

如果是这样,很可能现在的宇宙是很喧闹的,到处都是各种形式的朋友圈、发的帖子…这些我们根本不知道。就像一只蚂蚁、一只老鼠认为这个世界很安静,但其实我们的世界不安静。它不是不能理解,是感觉不到,这是一个障碍。但这个交流的障碍从长远来讲是有可能克服的,那就得等到我们的技术发展起来。至少现在人类可以发射和接收中微子了,引力波也能接收一点。

但另一个障碍极难克服。说起来可能有些抽象,很可能我们和其它文明看待宇宙的范式不同。这很难理解,我举一个生动的例子。当时苏联的第一批宇航员从太空回来以后,罗马梵蒂冈的教皇访问苏联,宇航员对教皇表示——飞到天上去并没看到上帝,但教皇的回答让人极其震撼,他说,你打开大脑也看不到思想。

这就是看待问题的范式不同,也许用我们的目光范式永远看不到思想,但是不等于别的文明看不到思想。很可能现在看到的宇宙,就是一个你看不到思想的大脑,而用别的文明范式来观察宇宙,展现在面前的是宇宙则是另一个途径。

这种情况下两个文明如何交流?没有办法交流,甚至判断那个文明有没有智慧都很难,两者之间完全没有任何沟通的可能。

牛奎光:这个脑洞很大。很可能我们现在看到的太空已经有各种朋友圈了,我们还不知道。

刘慈欣:因为最难的交流是在基本的文化和哲学层面上,一旦我们和外星文明在这个面不同,很让人绝望。

高爽:我记得大刘曾表达过一个观点:要小心对待人工智能或者虚拟现实的技术,它可能让会我们很舒服地躺在今天生活的范围里,没有很大的动力探索宇宙、远方。今天的您会修正这个观点吗?

刘慈欣:我今天依然是这种感觉,人们喜欢谈人工智能征服人类,但我认为到强人工智能还有很多重大的技术障碍需要克服。

最后人工智能征服人类,可能用完全不同的另外一种方式,现在我们能预测到的就是人工智能可能会抢走人类的工作。

以前人们天真地认为人工智能只能做重复工作、简单劳动,现在发现恰恰相反。人工智能最适合做的就是高智力的工作,律师、医生…诸如此类,反而做保姆对于人工智能来说不太好办,这是很严峻的现实。

但我要说的不是现实,而是对现实两种可能性的态度。一种被主流态度认为的最糟的可能性是——人工智能把人的工作全抢走了,局面回到了上世纪初产业工人和机器产生矛盾的时代,路德主义重现,人们砸毁机器、社会动荡不安。如果在今天发生这种情况,动荡的尺度会比那个时候大得多,而且没有退路。

那个时候有退路,农民、工人被机器抢走工作可以到城市中的第三产业找工作,而人工智能抢走人类工作后,工作没地方找可找——人们认为这是很黑暗的前景。

第二种,则是人们认为光明的前景。我们通过对社会体制、分配方式、经济结构进行彻底的改革,理顺了机器和人的关系。这样人类自古以来的铁的定义——“不劳动者不得食”就不成立了,人们不需要工作了。

在不工作的情况下人们可以拥有很好的生活,从事想做的事情,这是一个很光明的前景。这两种可能性都存在,但是我认为光明和黑暗反过来。恰恰人们认为最光明的可能性,是黑暗的可能性,很可能这是机器毁掉人类最可能的道路。

因为人类历史上经历过各种苦难:血与火,战争,灾难,但人类从来没有经历过整体安乐的生活。这种安乐的坎能不能过去很可疑,这种生活可能让人类整体文化都失去活力,最后变成一潭死水。不光星际探索的问题,各个方面都一样。

当然人们会想当然地认为,不工作了可以从事更高级的活动,艺术、科学、创造力,这只是想当然而已,少数人会从事那样的工作,大部分过什么样的生活,可想而知。

高爽:不需要工作比丢了工作可怕得多。

刘慈欣:丢了工作肯定有不间断的社会动乱,大部分人生活贫困,为生存而挣扎,但是这种情况我们陌生吗?人类就这么过来的,我们一直在进步,但是温柔的机器安乐窝的陷阱,会给人类文化带来什么样的后果,这是最让人担忧的。

这也是我认为现在和未来最应该担忧的事情。人类现在担忧环境恶化,机器征服人类,未来灾难,没有人担忧未来的安乐会带来什么,未来最具毁灭性的恰恰是安乐。

所以星际探索重大的意义,也是人们没有看到的意义就在这,它能给人类提供一个永无止境的,发挥人类文化活力的,保持人类进取精神的前景。宇宙很大,不担心会走到头。

牛奎光:保持想象力和进取精神,创业者应该需要一下天文学,感谢大刘老师。

刘慈欣:我再补充一下天文学最终极的意义。首先星空一直在塑造着人类,爱默生说,假如一千年间只有一夜群星显现,人们将怎样敬仰、崇拜并长久的记住天堂。假如宇宙就是月球轨道那么大的地方,人类的思想很难开拓布局。星空的存在,给人类的思想提供了无限大的容器,可以让思想很深远,它给人类提供了一个目的。

第二,这么大的宇宙,很可能生命的存在就是为了见证它,否则整个宇宙没有一个见证者。第三,生命在见证的同时,得把自己延续下去,这么大的宇宙是让生命去填满的。我认为这是宇宙最终极的意义,是人类或者生命的终极目的,至少是一个启示。

连盟:在您的眼中,未来可能存在的冲突还有哪些? 

刘慈欣:我认为目前最可能的冲突来自哲学上的“他者”的概念。人类至今为止没有遇到过智力和人类相当或者比人高、拥有自我意识的他者。

他者的来源有两个。一个来源是外星文明的发现,但外星文明是很不确定的因素,可能一万年发现不了,也可能明天发就现。这是很现实的问题,不是科幻问题。

第二个他者就是人工智能,可能和人类同时存在在地球上的第二个具有自我意识、高智力的物种就是人工智能了。未来我们面临的挑战中,最科幻、最刺激的大概来自于这两个方面。

这两个方面中任何一个出现,有一点可以肯定,那就是我们现在所关心的这些,我们认为是天大的问题,社会问题、房价问题、医疗教育问题,很可能在未来的某一个界限之后完全无所谓了。要么很快解决了,要么它已经让位于最重要的问题。

连盟:除了担心他者,人群本身的分类、分裂需不需要担心?

刘慈欣:我不担心人类内部的事情。还是那句话,人类就这么过来的,以后也会这么过下去。但是他者的问题一次没有遇到过,我们不知道后果是什么。这个问题和其他的那些我们一次都没有遇到过的问题一样,包括人类进入安乐生活,还有超级大灾难,人类没有遇到过。

至于说人类族群之间的冲突,文明之间的冲突,不同国家的冲突现在看来是天大的事,用长远未来的目光看并不是很重要的事情。

过以宏:您最近最喜欢看的电影是? 

刘慈欣:很多大家耳熟能详的老电影,什么《2001太空漫游》,《黑客帝国》。在这里我推荐一部苹果公司新拍的连续剧,叫《为了全人类》,这是部架空历史的电视剧:苏联人登上月球,美国人差了一步,正因为如此太空竞赛一直没有停止,这部剧描写了如果太空竞赛不停止将会是什么样子。

本文为专栏作者授权创业邦发表,版权归原作者所有。文章系作者个人观点,不代表创业邦立场,转载请联系原作者。如有任何疑问,请联系editor@cyzone.cn。


热文榜 TOP

查看更多
  • APP
  • 公众号
  • 微博
  • 知乎
中国创业者的信息平台和服务平台,帮助中国创业者实现创业梦想
创业邦公众号,带你随时了解与创业有关的人、事、钱
邦哥自留地,轻松充电,秒知圈内事
创业邦知乎机构号,带你以另一种方式了解世界