超级人工智能……将以网络形式无处不在，其优势是使任何人的反抗都不再可能……只有一个“灵魂”或主体性的系统化存在才是超级人工智能的最终形式。这意味着，硅基生命的人工智能最终将超越拟人模式而进入上帝模式，即成为像上帝那样无处不在的系统化存在。[5]

就此而论，“超级人工智能”令人恐惧的根源似乎在于，其成了具有肉身基础的“自定人”所渴望成为但又无法成为的“上帝”式主体，既具有无限的现实化权能（以智能的无限来实现），同时又具备“灵魂”，拥有了“自定人”特有的自由意志。如果“超级人工智能”和普通的“自定人”一样，既存在于我们的日常生活中，又在能力上极为有限，我们充其量将其等同于一个普通的人类；如果它具有无限的能力，但又在方方面面依循人类自身为它设定的基本规范，不具有复杂难测的自我意识，我们也不会对这样一种近乎死物的运算工具产生恐惧。然而，当这两方面集合在一起时，一个任性的、不可知的“上帝”也就随之诞生。人们对它的恐惧，实则是对一个具有不可名状的自我意识但又无所不能的超越式主体的恐惧。

正如吉莱斯皮在分析中世纪晚期经院哲学中的“唯名论上帝”时所言，一旦在神学上把上帝的自由意志夸大到极限，就会导致神圣秩序与人间秩序的彻底断裂，“神”在变成“自由主体”的同时，也变成了喜怒无常并外在于“我们”的一种恐惧实体。

唯名论所揭示的神已不再是经院哲学的那个仁慈的、可以在一定程度上被预知的神。人与神之间的鸿沟已经大大增加。神不再能被人所理解或影响，其行动只是出于自由，而对行动的后果漠不关心……我们甚至不清楚这个神是否爱人。

唯名论试图把理性主义的面纱从神面前揭下，以便建立一种真正的基督教，但在这样做的过程中，它揭示了一个反复无常的神，其能力令人恐惧，不可认识，不可预知，不受自然和理性的约束，对善恶漠不关心。[6]

当代围绕“强人工智能”或“超级人工智能”将带来的隐忧所展开的讨论，大多只是指出这种技术进步会让人类自身的理性显得无限渺小，继而挫败人类的存在价值。但实际上，正如大多数人在面对比自己智慧或强大的人时依然可以心安理得地生活一样，让我们对“强人工智能”这种概念产生恐惧的原因，并非其“强”，而是其“不可理解”。就像唯名论的神彻底解构了经院哲学建构起来的理性神学那样，唯有不可理解的彻底超越之物，才会对在世生活及其伦理依据造成本体论层面的全盘解构。对于“我们”——持守一种共同生活之稳定信念的人群——来说，最为彻底的恐惧恰恰就在于：那种强大但自由的意志对我们日常理性所划出的界限可以视若无物地跨越，甚至我们无法预测它究竟会以何种方式跨越。即便我们自身也在理性层面进化，却永远无法和那种彻底的“自由”达成统一，就像我们永远无法凭借人力去彻底推测天意与命运一样。

因此，关于“超级人工智能”的想象所引发的讨论最终将为我们带来一种近乎宗教现象学般的问题框架：作为“我们”，应当如何思考自身恐惧感的全面发生机制？“我们”的这种恐惧，又将对人工智能的技术实践产生何种影响？当“我们”的身份不仅仅是当代人，更是当代中国人时，又应当如何正视并回应这种生存论意义上的恐惧？

二、“我们”的恐惧：文明及其幽灵

2015年的美国电影《非凡》（Uncanny）讲述了一个可以称得上“人工智能寓言”的故事：一位天才设计了一个机器人，赋予它似人的容貌，让它陪伴自己生活。来采访天才的女记者在日常相处中，对显得理性、自律且充满自信的天才产生了好感，最终成为了天才的女友；与此同时，她始终觉得机器人身上有某种诡异的、反常的气质，对其喜怒无常的表达和侵略性行为产生了恐惧。后来，真相揭晓：女记者一直认为是活人的“天才”，其实是机器人，而她眼中无比恐怖的机器人，才是真正的、活生生的发明家。

这一寓言让具有女记者般日常视角的“我们”不禁恍然大悟：原来，对正常人类的恐惧感和不适感，本就是生活的常态。而如果这个喜怒无常且具侵略性的人类具备天才般的头脑，那么显然，他会引发我们更为剧烈的恐惧。我们会担忧他随时可能对我们的生命造成伤害。相反，那个理性且自律的“人工智能”，其人格却更有可能赢得我们的崇敬和爱慕。

这就让我们想起经典的恐怖谷理论（Uncanny Valley Theory）。据说，当一个似人而又非人的事物出现在我们面前时，我们总会本能地感到不适与惧怕；这一事物与一般意义上的“人”越是接近（但同时又保留些许差异），也就越能引发我们的不安和恐惧。蜡像、玩具娃娃、画像、鬼魂与尸体等，都能带来这种恐惧情感。但是，当它与人相似的程度超过某个低谷的临界值时，我们就不再对它产生恐惧。显然，《非凡》中被误认为人类的人工智能就超过了这个临界值。但问题在于，真实的人类天才，显然站在了这个“恐怖谷”的底端。这也就提醒我们，在人类世界当中，确实会有那么一些“似人非人”的人类存在。甚至在古希腊哲人亚里士多德的视野里，这类人也早就存在：“凡人出于本性或者出于偶然而不归属于任何城邦的，天剑狂刀页游私服，他如果不是野兽，那就是超人。（1253a3-4）”[7]

在恐怖谷理论中，我们也会意识到，“临界值”的设定首先基于“一般意义上的人”这一概念。这个“人”的类概念显然并非基于穷举与归纳而获得，而是源于一种特定的人性理解的演绎。这种人性理解就是亚里士多德式的对人之政治属性的理解。也就是说，恐怖谷理论中其实预设了“人应当是社会性、政治性的”。缺乏这种特性也就无法被称为“人”，进而会给作为这种人的“我们”带来某种厌恶感甚至恐怖感。