走向太空,还是拥抱AI,人类的未来在何处?

走向太空,还是拥抱AI,人类的未来在何处?

主持人:我注意到,前段时间尹烨老师在一个论坛上提到,比起扎克伯格的元宇宙,您好像更关注马斯克的太空探索,要不您给我们展开聊一聊吧。

尹烨:去年扎克伯格元宇宙大火的时候,我觉得这件事情还是比较忽悠的。我当时最受不了的是,全社会都被他带着走。那个时候变成了美国人在讲什么概念,我们就都跟风,甚至高校以及很多地方政府都开始跟风建立了元宇宙学院。刘慈欣讲过这么一句话:“当我们的肉体还不能离开地球,但是思想却陷入到了一个无穷的虚拟世界里的时候,这对人类不是好事”。有点像,如果大家每天都刷短视频,我们就完蛋了。

一个基本的问题是,总有一批人是要去仰望星空的。很多人说,哎呀饭都吃不上了。我说,其实仰望星空的反义词不是脚踏实地,仰望星空的反义词,是不允许你仰望星空。我们现在要创造大量的机会,让更多同志们能够去仰望星空。其实如果你去看马斯克,他在少年时期大量阅读,这是一个极好的习惯。他的这个读书量,当年盖茨都讲过,一年都是几百本书,至少是这么一个量。

那么你会发现他对宇宙观的理解是来自卡尔·萨根,然后他对于人工智能的理解是来自于亚瑟·克拉克。基本上他讲到的内容,比如人类是硅基生命的先导,我要成为多行星物种。美国的科普大师们早就在六七十年前就讲过了,他看的就是这些读物,实际上是站在了巨人的肩膀上,又坚定地按照巨人指向的方向,第一性原理,向前去推进。

他最核心的内容是我们不甘心只困在地球上。现在地球最大的问题是地球可以没有人,我是做生命科学的,我太明白了,我们经历了五次大灭绝,人类才走到今天。

其实从哥白尼到伽利略,我们已经知道我们已不是宇宙的中心了,但我们可不可能成为一种精神的中心。人类的爱,人类的美,人类的这种人文主义,人文精神能不能在宇宙中去广为流传?这其实是包括马斯克在内,也包括中国航天在内的,大家都想要找的一个答案。

我们想要一个备份,如果都没有备份了,那地球就是一个小小的点,这个小小的点哪天如果不在了,实际上我们人类所有的努力就化为灰烬了,所以从这个意义上讲,如果有人能推十年,那么100代人可能就能推出1000年,那这1000年给我们省下的时间,可能在人类更长的历史上,它是个很了不起的事情,毕竟人类拥有科学仅仅500年。

主持人:我觉得刚刚我们谈论的,其实是一个对于人类未来的解题思路的一个问题。马斯克他提出的一个想法,那可能是通过他的科技手段,让人类成为多行星物种这样的一个思路。

那我顺着这个问题,我也想听听施展老师的看法。由这个问题延伸开来,也是一个关于人类未来的问题。我们会发现,现在全球的经济空间或者是政治空间,它好像会呈现一种张力,一种两相背反的一个分离趋势,比如说全球化让全球各国之间的经济联系,我们有个共识,是很紧密的。

但是我们看这几年的政治形势,我们会发现,比如说战争越来越频繁。再比如说各国都在强调自己优先,好像这两股趋势是在互相拉扯的,那您觉得就是面向人类的未来,技术手段,它有可能成为一种凝聚的趋势吗?或者是成为一种凝聚力吗?

施展:技术本身它是中立的。但是,技术的社会后果未必是中立的,或者这么说,您说技术是否成为未来凝聚的一个来源,但技术它同样可以成为未来撕裂的一个来源。原因在于,任何一个新技术的出现,它都会产生一系列的政治学和社会学后果。因为任何一个新技术的出现,它都一定会带来大量的新资源。没有这个技术,那个资源就不会被开发出来,或者说不会被创造出来。任何一个新技术都会带来大量新的资源,从而带来大量的财富。

但是财富的分配从来又不是平均分配的。那它就会导致,往往是过去的loser,他能够率先拿到那些新的财富,因为他一无所有,他没有什么可以失去的,而过去的winner如果去冒险的话,他的机会成本太大了。于是,过去的winner往往很难拿到这个新的财富,但是权利是掌握在过去的winner的手里的,在这种情况下,一定会发生张力,这是一个方面。

再一个方面就是咱们看现在全球化,它确实让全球的财富获得了极大的提升,跟过去比,提升速度非常之大。同样因为全球化它所带来的分配差异也很不平衡。

咱举一个例子,就比如像现在的全球化,美国创新能力超强,它在这方面的比较优势就是最大的,那么美国的企业家为了更有效地让自己的比较优势释放出来,他就会把生产环节这些利润环节小的部分就甩出来,外包出来。因为生产环节产生利润相对小,创新环节的利润大。

而这个过程就拉动了中国经济,中国制造业的崛起。那么在这种情况下,新的问题来了,美国内部原来做制造业的那帮兄弟,他就被搁那儿了。美国东海岸、西海岸,甭管是风投这个领域,还是科技创业创新的领域,都有可能赚到很多。但是中间这群人,原来做制造业的就被晾在那了。而在中国,虽然我们只能赚到利润比较薄的那一块,但是如果业务够多,获得的财富总量也是非常可观的。

中国这些年我们都知道财富总量非常可观的。但是,它会导致美国内部分配非常不均衡,而这种不均衡,它就有可能在内部引发一系列的社会问题。而这种社会问题如果用经济手段解决不了的话,就会转化为一种政治手段解决的动力。所以我们看美国这几年的,最近这两届大选,都有很严重的政治撕裂,这是因为是它底层的社会撕裂所带来的,而社会撕裂的更底层,又是它的东海岸,西海岸跟中间的地带这些铁锈地带的一个经济撕裂的结果。

而这种经济撕裂,它是全球化所带来的一个结果。那么在这种情况下,因全球化它会促成人类财富的普遍提升,但是在具体某个政治体内部,它的财富提升,它财富的分配未必是均等的,它有可能会带来撕裂,而这种撕裂会引发一系列的政治上的反制。

但是我们回头看人类历史的话,地理大发现开启了全球化那么在这之后,我们会看到大量这种因科技的进步,因全球化的展开,而导致了一系列不均衡,这些不均衡它有可能会引发一系列问题,然后甚至有可能爆发战争,每一次最激烈的解决形式是战争,战争把之前问题给一把出清。出清之后,全球化会进入新一个阶段,更深的一个阶段。那么就今天来说,我觉得当下咱们看到的这些最近的各种动荡,各种冲突,是类似的一个状况,类似的一个表达。

有些地方,它是热战,比如在中东,比如在东欧,这是热战。有些地方,它未必是热战,但它是另外的一种表达,至少核大国之间不会再发生热战了,因为核武器,它是一个消灭了大国间战争的一种武器,因为它的破坏力完全不可控。

而战争是政治的延续,打仗不是目的,打仗为了什么才是目的。而且如果核战争最后两败俱伤,同归于尽,任何目的都达不到。此时战争就变得它不是一个可以诉诸的手段了,所以核大国之间不会再发生直接热战了。但是,它会以别的方式表达出来。

刚才我们聊到,它是需要以某种方式把既有的这些问题把它释放出来,释放出来,重新达到一种均衡,然后全球化才会继续往前走,所以我们看过去这几百年,全球化就是这么往前走上三步,要退一步,再走三步,再退一步,今天可能已经到了退一步的那个阶段了,但是你退完这一步,再往前看,还会往前再走上三步。

主持人:除了这种实际的热战发生的可能性非常小。我们会发现,在我们现在所处的这个时代,还会有另一层的担忧,就是AI,就是以AI为代表的人工智能对我们的一个冲击,也会引发人类对自身处境的一个担忧。

尹烨:我们真的只是在想象中认为会有一些硅基物种,会有一些这样的机器人。在这一刻,我们还看不到被所谓的硅基物种彻底代替的可能性。我们现在能看到更多的可能会走到一个融合,有点像十多年前,我们讨论互联网会不会取代传统制造业的时候,我们当时给出的答案是,不会,但是传统制造业可以变成互联网+,然后会很快获得比较优势,那么他会战胜那些不用互联网这一部分。

今天来看,AI也是,AI+,AI并不是一个单纯的行业,AI会渗入到各个行业,特别是垂直细分领域的各个行业。那么在这一刻,其实反过来讲,我们最近讨论的很重要的一个问题就是在于,如果硅基生命,真的可以威胁碳基生命,反而碳基生命可能会很团结。今天如果让地球都不打仗的唯一可能性是什么?三体来了,我们要一起对抗一个要消灭整个地球的生命,大家可能会握起手来。

所以我想现在的一个最核心的问题,就是我们在评价任何一个技术的时候,既要允许子弹飞一会儿,不可能一下子就把它按到地上,又要积极去思考,让这个技术能保证它向上和向善。

之所以讲这个问题,实际上我们可以去看,包括核武器,施展老师刚才讲到了,核大国之间最后形成了平衡,核是盾,其实核并不是矛,大家谁没事丢个核弹玩。但反过来讲,对核电站的态度,特别是对可控核聚变的未来的投入和大家的决心就可能会决定人类,至少在能量这个环节上,我们有多大的程度上具备了成为多行星物种的能力。

《流浪地球》演了半天,大家天天在烧石头,那其实是可控核聚变,是一个非常高阶的可控核聚变。人类今天能做的可控核聚变就是氢的同位素,就是从氘到氚,就这一步,连一个氦,我们都不可能合成。太阳是用氢合成氦的,但那个东西2500亿个大气压,1000万开尔文以上的温度,高温高压,它才能做,地球今天还没有这个能力,所以一方面不要放弃对技术的想象,允许大家大胆去假设,但是求证时候要小心。

主持人:人工智能,ChatGPT,最近非常热,如果我们开脑洞去想象,一旦这个人工智能进入到强人工智能时代,他们一旦产生自主意识的话,人类的价值会不会受到影响,或者是人类的生存会不会受到威胁?

施展:这个是现在很多人都在讨论那个问题,但是我个人对这个事,我是一点都不悲观的。当然,我做的是一个纯哲学式的判断,就是笛卡尔他说过一句话,大家都很熟悉的“我思故我在”,仔细去分析这句话的话,你会注意到“我思故我在”里面有两个我,它是在不同位阶上的。任何一个理论,如果其中有一点你是觉得有疑问的,那么你就把它给悬置起来,先不拿它当一个真的,给定的真理对待。那么你再去看下一个理论,发现也有问题的话,就把它也悬置起来。

你不断地质疑,质疑到最后,你会发现有一个正在质疑的我的存在是不可置疑的,这是原点。但新的问题来了,是谁看到了有一个正在质疑的我的存在,那一定是一个更底层的我观察到了有一个我正在进行质疑,更底层的那个我,他去观察而不被观察。而最底层的去观察而不被观察的那个我,他是永远无法被观察的,因为只要你去观察他的时候,它就变成次底层了,一定有一个更底层的我。

你去观察更底层的我的时候,又有一个更更底层的,我就是永远有一个最底层的去观察而不被观察的我的存在,它是一切动力的来源,它是最终第一性的来源,第一推动者。那么这意味着什么?那个第一推动的我,他是你的一切的自我意识,一切的自主欲望,你的野心,你的善意,所有一切都是从那里来的。他是去观察而不被观察的,那么这意味着什么?这个我如果无法被观察,他就无法被数学模拟,无法被模拟,ChatGPT就处理不了。

ChatGPT能够处理的,都是可被观察的对象。而最底层的我是无法被数学化的。所以在这个意义上,我不认为AI真的能够产生自我意识。如果说他有自我意识,一定是他背后有一个人在操控他,利用这个AI去达到自己的目的。

尹烨:其实我觉得,说实话,我是怕有一天啊。我们大部分人啊,可能分不出来他有没有自我意识?就像我也不觉得我们地球上很多人有自我意识?

什么叫自我意识?如果都是道听途说,可能也不叫自我意识。实际上,我现在更大的担心,不是说硅基生命产生的意识,只要它那个意识还是来自于人类的训练。它有爱有美,我不担心,我现在更害怕的是,我们看到了很多碳基生命,它像硅基生命一样去执行。

大家可能知道,最近我正在跟蔡磊老师,我们在做渐冻症的攻克业务,我们还在考虑一群为了生存苦苦挣扎的人,然后一群很健全的人,大家也不知道因为什么理由,大家天天在互相屠杀,所以这个在我来看是更可怕的一个事情。

实际上,我们看了这么多年的物种,我是做生命科学的,唯一一个可以以灭种式消灭同类的,那就是人类。我们当年的尼安德特人被智人在迁徙过程中干掉了。种族灭绝只发生在人类身上,所以你说,如果人类这个属性没有被去掉的话,我们去担心人工智能会消灭人类,有什么意义吗?

当我们去吃小龙虾的时候,我们也没有想过小龙虾妈妈怎么想。我举这样的一个看似笑话的例子,是告诉大家,怎么能够把人类当中的美植入,让所谓的代码伦理化?强人工智能如何能够有爱?这可能是我更加希望在技术上能够实现的问题。

施展:对,我再接着尹烨老师这个话往前说一下,就是到未来,我们确实有可能从它的行为表现上,你是分不出他是不是AI,还是一个真人?但是这个AI它是否有它的自主意识,就是我想去干什么,而不是接受了一个命令,我去执行什么,就是这个还是不一样的。

但是AI背后有可能有一个,你不知道它的存在的人,那个人想去干什么的时候,此时AI当然对人类会构成一个巨大挑战,但这不是因为AI,而是因为背后那个邪恶的意义。

主持人:嗯嗯,然后两位老师的一个回答,我觉得特别有启发性的一点是,当我们在讨论AI是不是具有自主意识的时候,你首先可能扪心自问,问你自己是不是有自我意识?你是不是只是机械地去执行的?一个某种程度上的一个AI?我觉得这一点也是很重要的。

本文由:转载大师 发布于帅哉网,转载请注明出处:https://www.shuaizai.com/article/39062.html

(0)
上一篇 2023年11月9日 上午12:19
下一篇 2023年11月9日 上午12:20

相关推荐

发表回复

登录后才能评论

微信:LXB209188
邮箱:Shuaizaitmt@qq.com
备注:周一至周五,请告知来意。

帅哉网,免费注册发布一篇文章审核后,升为认证作者,持续输出升为特邀作者!