冒顿武士和人工智能:人类更应该担心谁?

思想
人工智能
作者

秦耕读

发布于

2023年5月1日星期一

修改于

2024年1月27日星期六


01. 冒顿武士

《史记 • 匈奴列传》记载了一个关于冒顿(音 “莫独” mò dú)单于的传奇故事,可以帮助我们理解AI的逻辑。

冒顿武士

冒顿武士

这个故事前半部分是一个几乎有点烂俗的剧情,在中国历史上不断上演。这个冒顿本来被立为太子,但后来老单于头曼宠爱另一个阏氏,也就是更年轻的后妃,爱屋及乌也很宠爱这个阏氏生的儿子,于是想废掉冒顿而改立幺儿。这个头曼单于倒也没有那么狠心地立即杀掉冒顿,而是抖了个小机灵。他让冒顿到月氏(另一个少数民族政权)去当人质,然后等冒顿到了月氏后,就率兵攻打月氏。这安的什么心自是不言而喻了。月氏当然很配合头曼的小算盘,打算把冒顿杀了以泄愤。想不到这个冒顿也是个机灵鬼,他偷了一匹好马,逃回了匈奴。头曼单于借刀杀人的计策没成功,看见儿子居然逃了回来,觉得儿子颇有些英雄气质,生了爱惜之意,没有一计不成再生一计,而是让冒顿掌兵万骑。

接下来的情节就很有些人类训练人工智能的意思了。史书上说这个冒顿制造了一种响箭(鸣镝),以此训练手下的武士,要求他们根据自己的响箭方向,指哪打哪。最开始是鸣镝射向鸟兽,有不从者,立斩。第二阶段,冒顿把鸣镝射向了自己的一匹良驹,稍有迟疑者,亦斩之。第三阶段就狠了,冒顿把鸣镝射向了自己的爱妾,有不敢射人者,也立斩之。第四阶段是射向头曼单于的一匹良马,这时手下人没有不听从的—既然人都能射,射一匹马就更不在话下了。最后的终极目标,傻子都猜出来了,自然是要射向头曼单于的(奇怪的是头曼自己却没看出来,然而史书上就是这么记载的,这里也不去考证了。),自然是随着鸣镝而万箭齐发,冒顿政变成功,自立为单于。

人类训练AI自然比冒顿训练他的武士复杂得多,但基本逻辑其实并无不同。先给机器一些训练数据和场景,然后让AI做出判断和选择,如果判断或选择正确,就给出正反馈,反之则给出负反馈,使其从正负反馈中进一步学习,并不断提高精度。

02. 绝顶聪明的白痴

虽然说训练冒顿武士和训练AI逻辑一致,但其实这二者又存在着非常重大的区别。冒顿武士首先是人,有着作为人的基本认知和常识。冒顿的训练过程,追求的目标是要求这些武士泯灭掉自己的人性和常识。你们有人性有常识,这很“不好”,我不需要,我只需要你们听命令,要在任何时候任何情况下都要听从我冒顿的命令,不能有任何动摇、任何迟疑、任何含糊,无论这个命令指向的是我冒顿的爱马爱姬,还是自己的父王。 然而训练AI却很不一样。AI所缺少的恰恰是人的基本常识。冒顿想尽办法也未必能使其武士完全丢失的基本人性和常识,人类最顶尖的科学家想尽办法却也无法使AI学会。

简单地说,人类(如果不是一个十足的工具人)在接受一个任务时,本能地都会先做一番常识判断,首先这个任务该不该执行,其次是能不能实现,然后才是如何去更好地完成这个任务。然而AI是没有前两个程序的,如果给它一个任务,它会直奔主题,动手就干。该不该的问题,它根本不会纠结。甚至能不能完成的问题,AI也不会去考虑,它只会在做的过程中去摸索能不能干成。即使干不成,它也会给你一个答案或结果。完成这个任务需要付出什么样的代价和成本,AI也是不会衡量的,它会用尽可能的一切手段,只要能完成交给的任务。

然而这意味着什么呢?第一眼看上去似乎这也没什么问题呀?想尽一切办法完成任务,这不正是一些老板想要其员工做到的吗?所谓“没有任何借口”,“致加西亚的一封信”之类的洗脑术,不就是要达到这个效果吗?“我不管你有多困难,我也不问过程,我只要结果。”电影中也经常会看到这样的桥段:“我不要你的伤亡数字,我只要阵地!”

然而再不讲道理的老板,也绝无可能要求你为了完成任务去杀人放火,他不用特地叮嘱你不要杀人放火,你也知道完成任务有哪些绝对不可突破的约束条件。同时,为完成任务,你也不应该去干在成本上完全不划算的事,比如为了挣一万,结果却花了两万。可是对于AI来说,事情就没有那么简单了,对于不能做的事情,你必须每一件都明白无误地告诉它,否则它是不知道的。也就是说,如果它觉得杀人放火有助于完成任务,它是不会有任何顾虑和迟疑的。可能有人觉得这好解决,只要给它加一个类似“绝不可伤害人类”这样的约束条件就可以了。然而这只是其中的一个例子,实际情况中还有很多各种各样的其他约束,对于人类是不言而喻不需要说明的,却都必须一件件一桩桩地交待清楚。

问题就来了,要想把可能的约束条件全都告诉AI是很困难的,说得更绝对一些,几乎是不可能的。因为实际情况下的约束条件不仅多如牛毛,不可能一一穷尽,而且这些条件的等级权重也各不相同,更要命的是,这些等级权重也并非一成不变,需要根据不同情况采取不同的策略,而这就难为AI了。比如你告诉AI不得破坏财物,它会严格遵守,但它不知道如果为了救人,关键时刻是可以破坏财物的。有人说这也简单,告诉AI“关键时刻为了救人可以破坏财物”就解决了。然而这把问题也看得太简单了。要让AI遵守所有的约束,就要告诉AI所有的约束条件,但约束条件一多,AI就无法知道如何取舍,因为简单的常识性判断对于AI是一件不可能完成的任务,它只会把所有条件一体对待,没有能力判断哪些条件在前,哪些排后,哪些条件在有些情况下可以根本不予考虑。举个简单的例子:

绝顶聪明的白痴

绝顶聪明的白痴

03. 所谓常识,一点也不简单

可能有人会质疑,人类的判断能力不也是根据一些原则进行的吗?既然人有根据原则判断的能力,那只要训练AI懂得这些原则,问题不就解决了吗?比如以人为本,保护人拯救人关怀人爱护人作为最高原则,然后是保护动物、保护环境之类的原则依次类推地告诉AI。

有可能彻底教会AI这些原则吗?很遗憾,答案是不可能,这本身涉及两个问题,一个是本身就没有一个所谓确定不变的原则,人类自身尚且存在争论,你又如何教会AI呢?比如道德哲学中著名的电车难题:关键时候是救一个人还是救五个人,是很难抉择的。

其次,人类遇到的情况也处于不断变化之中,很多问题是在人类进化演进过程中才产生,因而才逐渐形成了相应的原则。如果要让AI都能处理这些原则而又不出问题,除非人类不再进化,永远保持目前的状态。那就是要人类就削足适履了。在人类历史上倒是不乏持此类观点的人,让人遵守和适应现存的制度,而反对一切变革。

最后一点就是算力问题了。算力也是问题吗?当然是问题,而且是很大的问题。AI不具备人类的常识,不具有进行瞬间判断的能力。对于人类来说,一些不相干的条件,根本就不进入考虑范围,因而大大简化了决策过程。然而AI不具备这个能力,参考上面量水的例子,AI一定要把所有条件,所有可能组合全部纳入计算范围过一遍,这样一旦变量增加,要求的算力就将注定是一个难以承担的天文数字。

可见人类所拥有的简单常识,其实并不简单,隐含着AI难以企及的高深算力。那么问题又来了,这人类的常识又是从何而来呢?是后天习得,还是天赋异禀?这个问题目前尚无确定的答案,但科学家认为人类具有的假设验证能力,AI并不具备,也就是AI只能根据既有的数据进行分析计算,没有能力主动纳入新的变量,并假设如果纳入这个新的变量后可能会产生的影响,通过不断试错调整,提高预测能力。而这正是人类的特殊天赋,不但动物学不了,AI也学不了。你说它简单吧也确实简单,但别的物种却无论如何也学不了,那不是特殊天赋是什么呢?伏尔泰有一句名言,“Common sense is not so common(常识并不是简的常识)”。这句话用在AI和人类的对比上可说是再合适不过了。人类的常识并不是简单的常识,而正是人类的特殊禀赋,是人类优于其他物种,也优于机器的且难以复制和学习的能力。

04. 冒顿武士和人工智能: 人类更应该担心谁?

然而对于人类常识这一特殊禀赋,人类自己却似乎既不重视也不珍惜。相反,像冒顿那样一心要泯灭人类常识的野心家倒不少。那么,只听号令不管是非的冒顿武士可怕吗?当然是可怕的,但是冒顿武士看似强大,但因为泯灭了人类常识,也就有了致命的弱点,而这个弱点也使其不堪一击,要破解冒顿武士可说易如翻掌。只需依样做一个相同的鸣镝,射向冒顿,那些只听号令而不论是非的冒顿武士立刻就会把冒顿射成刺猬。

AI呢?会不会有朝一日AI觉醒,拥有自己的意识,脱离人类的控制并凭借碾压人类的算力统治人类呢?这种担心还是摆脱不了人类固有思维的局限。如果所谓觉醒的AI也是拥有和人类一样的贪婪和野心,以控制人类为乐事,那这并不是觉醒的AI,而是人类自身的复制品而已,充其量只是一些野心家手中的工具罢了,人类要担心的应该是这些野心家而不是AI。

如果大胆地设想一番,有朝一日AI真的觉醒,有了独立意识呢?虽然我不认为有这种可能,但不妨这样设想一番。如果AI真有了独立意识,恐怕它首先要面对的是三个直击灵魂的问题:“我是谁?我从哪里来?我要到哪里去?”不等AI来对付人类,估计这三个问题就先把AI折腾够呛了。有人可能会说,AI没人类那么俗,不会想这些无意义的问题,而且也并不是每个人都会问这种无聊的问题。然而问出这些问题正是所谓觉醒的必要条件。如果AI意识不到这些问题,那我们就不能说:AI觉醒了。人之为人,并非始自出生,而正是始于问出这些问题的那一刻。人和人的差别也并不在于会不会问这些问题,差别只在于对这些问题的不同回答。人为什么对5岁之前的事情没有任何记忆一样?并不是因为忘记了,如果只是忘记了,经过提醒可以回忆起来,但即使把一个人5岁之前的所有时刻都拍摄下来再播放给他,他也仍然不会回忆起任何细节,道理正在于在5岁之前,人并未觉醒,并没有意识到自己作为一个独立的个体存在于世。

那不妨再退后一步,AI具有了独立的意识,也不会去想那些无意义的问题,只是变成了可怕的怪物,以折磨压迫人类为乐事,人类岂不应该担心吗?依我看也未必有什么好值得担心的,如前所述,人类拥有的优势并不在于多么高级的智商,而恰恰是看似简单而普通的常识。世界上有许多天才般的大脑,然而不幸的是却存有精神残疾。单论智商,他们可以秒杀世界上绝大多数人,但他们却往往缺乏人类该有的基本常识。人类社会并没有成为这些高智商但精神残疾人士统治的世界,我们普通人能轻易战胜他们,靠的并不是比他们更高明的智慧,而恰恰只是简单的常识。

所以,永远不要小看更不要丢掉人类的常识,退化成为所谓高智商的机器人。人类历史上几乎所有重大悲剧,都不是因为人类不够聪明,而是因为丢掉了常识。

套用一句《三体》中的名言:不够聪明,或许失去很多,但没有常识,则将失去一切。

【END】


欢迎关注耕读社!

欢迎关注耕读社!
回到顶部