冒顿武士和人工智能：人类更应该担心谁？
01. 冒顿武士
《史记 • 匈奴列传》记载了一个关于冒顿（音 “莫独” mò dú)单于的传奇故事，可以帮助我们理解AI的逻辑。
这个故事前半部分是一个几乎有点烂俗的剧情，在中国历史上不断上演。这个冒顿本来被立为太子，但后来老单于头曼宠爱另一个阏氏，也就是更年轻的后妃，爱屋及乌也很宠爱这个阏氏生的儿子，于是想废掉冒顿而改立幺儿。这个头曼单于倒也没有那么狠心地立即杀掉冒顿，而是抖了个小机灵。他让冒顿到月氏（另一个少数民族政权）去当人质，然后等冒顿到了月氏后，就率兵攻打月氏。这安的什么心自是不言而喻了。月氏当然很配合头曼的小算盘，打算把冒顿杀了以泄愤。想不到这个冒顿也是个机灵鬼，他偷了一匹好马，逃回了匈奴。头曼单于借刀杀人的计策没成功，看见儿子居然逃了回来，觉得儿子颇有些英雄气质，生了爱惜之意，没有一计不成再生一计，而是让冒顿掌兵万骑。
接下来的情节就很有些人类训练人工智能的意思了。史书上说这个冒顿制造了一种响箭（鸣镝），以此训练手下的武士，要求他们根据自己的响箭方向，指哪打哪。最开始是鸣镝射向鸟兽，有不从者，立斩。第二阶段，冒顿把鸣镝射向了自己的一匹良驹，稍有迟疑者，亦斩之。第三阶段就狠了，冒顿把鸣镝射向了自己的爱妾，有不敢射人者，也立斩之。第四阶段是射向头曼单于的一匹良马，这时手下人没有不听从的—既然人都能射，射一匹马就更不在话下了。最后的终极目标，傻子都猜出来了，自然是要射向头曼单于的（奇怪的是头曼自己却没看出来，然而史书上就是这么记载的，这里也不去考证了。），自然是随着鸣镝而万箭齐发，冒顿政变成功，自立为单于。
人类训练AI自然比冒顿训练他的武士复杂得多，但基本逻辑其实并无不同。先给机器一些训练数据和场景，然后让AI做出判断和选择，如果判断或选择正确，就给出正反馈，反之则给出负反馈，使其从正负反馈中进一步学习，并不断提高精度。
02. 绝顶聪明的白痴
虽然说训练冒顿武士和训练AI逻辑一致，但其实这二者又存在着非常重大的区别。冒顿武士首先是人，有着作为人的基本认知和常识。冒顿的训练过程，追求的目标是要求这些武士泯灭掉自己的人性和常识。你们有人性有常识，这很“不好”，我不需要，我只需要你们听命令，要在任何时候任何情况下都要听从我冒顿的命令，不能有任何动摇、任何迟疑、任何含糊，无论这个命令指向的是我冒顿的爱马爱姬，还是自己的父王。 然而训练AI却很不一样。AI所缺少的恰恰是人的基本常识。冒顿想尽办法也未必能使其武士完全丢失的基本人性和常识，人类最顶尖的科学家想尽办法却也无法使AI学会。
简单地说，人类（如果不是一个十足的工具人）在接受一个任务时，本能地都会先做一番常识判断，首先这个任务该不该执行，其次是能不能实现，然后才是如何去更好地完成这个任务。然而AI是没有前两个程序的，如果给它一个任务，它会直奔主题，动手就干。该不该的问题，它根本不会纠结。甚至能不能完成的问题，AI也不会去考虑，它只会在做的过程中去摸索能不能干成。即使干不成，它也会给你一个答案或结果。完成这个任务需要付出什么样的代价和成本，AI也是不会衡量的，它会用尽可能的一切手段，只要能完成交给的任务。
然而这意味着什么呢？第一眼看上去似乎这也没什么问题呀？想尽一切办法完成任务，这不正是一些老板想要其员工做到的吗？所谓“没有任何借口”，“致加西亚的一封信”之类的洗脑术，不就是要达到这个效果吗？“我不管你有多困难，我也不问过程，我只要结果。”电影中也经常会看到这样的桥段：“我不要你的伤亡数字，我只要阵地！”
然而再不讲道理的老板，也绝无可能要求你为了完成任务去杀人放火，他不用特地叮嘱你不要杀人放火，你也知道完成任务有哪些绝对不可突破的约束条件。同时，为完成任务，你也不应该去干在成本上完全不划算的事，比如为了挣一万，结果却花了两万。可是对于AI来说，事情就没有那么简单了，对于不能做的事情，你必须每一件都明白无误地告诉它，否则它是不知道的。也就是说，如果它觉得杀人放火有助于完成任务，它是不会有任何顾虑和迟疑的。可能有人觉得这好解决，只要给它加一个类似“绝不可伤害人类”这样的约束条件就可以了。然而这只是其中的一个例子，实际情况中还有很多各种各样的其他约束，对于人类是不言而喻不需要说明的，却都必须一件件一桩桩地交待清楚。
问题就来了，要想把可能的约束条件全都告诉AI是很困难的，说得更绝对一些，几乎是不可能的。因为实际情况下的约束条件不仅多如牛毛，不可能一一穷尽，而且这些条件的等级权重也各不相同，更要命的是，这些等级权重也并非一成不变，需要根据不同情况采取不同的策略，而这就难为AI了。比如你告诉AI不得破坏财物，它会严格遵守，但它不知道如果为了救人，关键时刻是可以破坏财物的。有人说这也简单，告诉AI“关键时刻为了救人可以破坏财物”就解决了。然而这把问题也看得太简单了。要让AI遵守所有的约束，就要告诉AI所有的约束条件，但约束条件一多，AI就无法知道如何取舍，因为简单的常识性判断对于AI是一件不可能完成的任务，它只会把所有条件一体对待，没有能力判断哪些条件在前，哪些排后，哪些条件在有些情况下可以根本不予考虑。举个简单的例子：
03. 所谓常识，一点也不简单
可能有人会质疑，人类的判断能力不也是根据一些原则进行的吗？既然人有根据原则判断的能力，那只要训练AI懂得这些原则，问题不就解决了吗？比如以人为本，保护人拯救人关怀人爱护人作为最高原则，然后是保护动物、保护环境之类的原则依次类推地告诉AI。
有可能彻底教会AI这些原则吗？很遗憾，答案是不可能，这本身涉及两个问题，一个是本身就没有一个所谓确定不变的原则，人类自身尚且存在争论，你又如何教会AI呢？比如道德哲学中著名的电车难题：关键时候是救一个人还是救五个人，是很难抉择的。
其次，人类遇到的情况也处于不断变化之中，很多问题是在人类进化演进过程中才产生，因而才逐渐形成了相应的原则。如果要让AI都能处理这些原则而又不出问题，除非人类不再进化，永远保持目前的状态。那就是要人类就削足适履了。在人类历史上倒是不乏持此类观点的人，让人遵守和适应现存的制度，而反对一切变革。
最后一点就是算力问题了。算力也是问题吗？当然是问题，而且是很大的问题。AI不具备人类的常识，不具有进行瞬间判断的能力。对于人类来说，一些不相干的条件，根本就不进入考虑范围，因而大大简化了决策过程。然而AI不具备这个能力，参考上面量水的例子，AI一定要把所有条件，所有可能组合全部纳入计算范围过一遍，这样一旦变量增加，要求的算力就将注定是一个难以承担的天文数字。
可见人类所拥有的简单常识，其实并不简单，隐含着AI难以企及的高深算力。那么问题又来了，这人类的常识又是从何而来呢？是后天习得，还是天赋异禀？这个问题目前尚无确定的答案，但科学家认为人类具有的假设验证能力，AI并不具备，也就是AI只能根据既有的数据进行分析计算，没有能力主动纳入新的变量，并假设如果纳入这个新的变量后可能会产生的影响，通过不断试错调整，提高预测能力。而这正是人类的特殊天赋，不但动物学不了，AI也学不了。你说它简单吧也确实简单，但别的物种却无论如何也学不了，那不是特殊天赋是什么呢？伏尔泰有一句名言，“Common sense is not so common（常识并不是简的常识）”。这句话用在AI和人类的对比上可说是再合适不过了。人类的常识并不是简单的常识，而正是人类的特殊禀赋，是人类优于其他物种，也优于机器的且难以复制和学习的能力。
04. 冒顿武士和人工智能: 人类更应该担心谁？
然而对于人类常识这一特殊禀赋，人类自己却似乎既不重视也不珍惜。相反，像冒顿那样一心要泯灭人类常识的野心家倒不少。那么，只听号令不管是非的冒顿武士可怕吗？当然是可怕的，但是冒顿武士看似强大，但因为泯灭了人类常识，也就有了致命的弱点，而这个弱点也使其不堪一击，要破解冒顿武士可说易如翻掌。只需依样做一个相同的鸣镝，射向冒顿，那些只听号令而不论是非的冒顿武士立刻就会把冒顿射成刺猬。
AI呢？会不会有朝一日AI觉醒，拥有自己的意识，脱离人类的控制并凭借碾压人类的算力统治人类呢？这种担心还是摆脱不了人类固有思维的局限。如果所谓觉醒的AI也是拥有和人类一样的贪婪和野心，以控制人类为乐事，那这并不是觉醒的AI，而是人类自身的复制品而已，充其量只是一些野心家手中的工具罢了，人类要担心的应该是这些野心家而不是AI。
如果大胆地设想一番，有朝一日AI真的觉醒，有了独立意识呢？虽然我不认为有这种可能，但不妨这样设想一番。如果AI真有了独立意识，恐怕它首先要面对的是三个直击灵魂的问题：“我是谁？我从哪里来？我要到哪里去？”不等AI来对付人类，估计这三个问题就先把AI折腾够呛了。有人可能会说，AI没人类那么俗，不会想这些无意义的问题，而且也并不是每个人都会问这种无聊的问题。然而问出这些问题正是所谓觉醒的必要条件。如果AI意识不到这些问题，那我们就不能说：AI觉醒了。人之为人，并非始自出生，而正是始于问出这些问题的那一刻。人和人的差别也并不在于会不会问这些问题，差别只在于对这些问题的不同回答。人为什么对5岁之前的事情没有任何记忆一样？并不是因为忘记了，如果只是忘记了，经过提醒可以回忆起来，但即使把一个人5岁之前的所有时刻都拍摄下来再播放给他，他也仍然不会回忆起任何细节，道理正在于在5岁之前，人并未觉醒，并没有意识到自己作为一个独立的个体存在于世。
那不妨再退后一步，AI具有了独立的意识，也不会去想那些无意义的问题，只是变成了可怕的怪物，以折磨压迫人类为乐事，人类岂不应该担心吗？依我看也未必有什么好值得担心的，如前所述，人类拥有的优势并不在于多么高级的智商，而恰恰是看似简单而普通的常识。世界上有许多天才般的大脑，然而不幸的是却存有精神残疾。单论智商，他们可以秒杀世界上绝大多数人，但他们却往往缺乏人类该有的基本常识。人类社会并没有成为这些高智商但精神残疾人士统治的世界，我们普通人能轻易战胜他们，靠的并不是比他们更高明的智慧，而恰恰只是简单的常识。
所以，永远不要小看更不要丢掉人类的常识，退化成为所谓高智商的机器人。人类历史上几乎所有重大悲剧，都不是因为人类不够聪明，而是因为丢掉了常识。
套用一句《三体》中的名言：不够聪明，或许失去很多，但没有常识，则将失去一切。
【END】
