回到人工智能的话题。当我们说让“强人工智能”同时具备人类的自由意志时,我们其实说的是,“强人工智能”会变成一种实然状态下的“任何人”。也就是说,它有成为“城邦之外”的人的危险。相反,如果我们限制它,让它不具有任意决断的自由意识,那么,它反而会给我们一种“守法”的秩序感和安全感,也就等同于成了城邦里的自律公民。“我们”如果对自我的期许是共同生活,显然也就会更加容易接受一位无所不能但严格自律的“超人”,而不会接受那位任意专断、和我们当中某些人类成员甚至和我们人性中的某些部分惊人相似的“似人非人”。这也就意味着,在排除对“无所不能”的权能的态度后,我们面对具有自我意志的“超级人工智能”时所产生的恐惧感,其实是对某种非政治、非常态的特殊人性的恐惧感。这种特殊的人性,一方面具有自由意志,另一方面则喜怒无常,令他人无法捉摸进而预测其下一步的行动。 说到这里,我们不禁会回想起弗洛伊德对Uncanny(恐惧感)一词的词源学分析:该词在德文中的对应词汇是Unheimlichkeit,其词根heimlich意为“在家的、属于家的、熟悉的、友好的、温和的、宁静的”,从中引申出“隐藏的、荫蔽处的、秘而不宣的、秘教的”意涵。进而,加上否定性词头的unheimlich一词的意涵则是“不在家的、陌生的”,从而引申出“恐怖的、令人毛骨悚然的、闹鬼的”等含义。此外,弗洛伊德还提醒我们,基于谢林的观点,这个词还包含着“本该隐藏但被曝光的”这一意涵。弗洛伊德认为,“un”的构词功能在于传达出一种对最初神秘体验进行压抑后的彻底“曝光”。那些我们本来熟悉的神秘东西在某种“在家”状态的“隐藏”或者“压抑”之后不得不再度出现,这一过程才是我们突然陷入恐惧的根源。譬如说,对死亡的恐惧情感被文明状态下的日常理性所隐藏,却在特殊场景(宗教仪式、文学)的触媒下被再度激发。[8]基于这一精神分析的结构,我们也能注意到,具有自由意志的“超级人工智能”,正是被“我们”用“理性”或“文明”等外衣所掩盖、实际上注定无法纳入“在家状态”的特殊人性的隐喻。在面对性情混乱无常的人类时,我们可以通过礼法、宗教、社会契约等方式对其进行管制,使得这类人的疯癫获得常态化的规训;这种与秩序格格不入的疯癫也随之被放逐到“非理性”乃至“非存在”的领域,这一过程伴随着文明秩序的自我树立。[9] 在这种文明状态之下,被恐惧的对象乃是被冠以“非理性”之名的某种人类的实然生存状态。正如福柯(M.Foucault)所描述的,18世纪弥漫着一种对被禁闭对象可能造成的瘟疫的恐惧,而相应地,对这种恐惧的“道德神话”式回应则意味着文明秩序进一步加强了对大众社会的掌握。 最初,邪恶是在禁闭的封闭空间里开始发酵……非理性再次出场,但被打上一种想象的疾病烙印,这反而增添了它的恐怖力量……医学界的人并不是作为仲裁者被请进禁闭世界以区分罪恶和疯癫,邪恶和疾病,而是作为卫士被召来,以保护其他人免受从禁闭院墙渗出的某种晦暗的威胁……正是在向这种掺杂着当代疾病意象的胡思乱想的回归中,实证主义将会控制住非理性,更确切地说,将会发现一种能够防范非理性的新理性。[10] 读过这些描述后,当我们对具有自由意志的“强人工智能”产生恐惧情绪,并据此进行技术性反省时,也不免会生出福柯式的心眼,暗自思考:是否“我们”自身正是在通过发明恐惧、曝露恐惧并压抑恐惧,巩固自身作为“文明”的正当性呢?也就是说,我们对无常之超级存在的恐惧感未必是一种本真的、自然的、普遍的人类情感,而毋宁说是由“文明”所发明出来的一种习惯反应。《非凡》中的女记者极有可能是基于社会常识而对被她误认作机器人的天才发明家产生了恐惧意识。同样地,我们在面对玩偶、机器人乃至鬼怪时的恐怖谷效应,其实是对自身本就经历过的原初的“非文明”“非理性”状态的一种不快的回忆与确证。 也许,在处理“我们何以恐惧人工智能”这一问题时,需要被进一步还原的不光是人工智能在我们的观念图景中被投射、被赋予的种种概念化外观,如“上帝”“超人”“似人非人”等,还包括“我们”自身作为“人类”的自我理解。毫无疑问,思考“人工智能”问题的我们是业已文明化的人,这种反思也无时无刻不彰显着人类自身理性与秩序感觉的尊严和野心。无论是创作出“非凡”的人工智能并天真地通过技术手段赋予它自由意志,还是把这种“非凡”扼杀在摇篮里,转而对人工智能进行再度的“在家化”-“隐藏化”-“非存在化”,使之重新变成安全的、值得信任的“看护者”,都是为了让“我们”现有的生存秩序得到维持。相反,如果一个“我们”本身就已经失范的时代来临,那么,这种“非凡”之物的涌现反而会更加顺畅。相应地,我们的恐惧感也就会变得更为显著。因为,当这种作为巨大无常之物的“超级人工智能”确实降临时,也就在逻辑上说明了一个事实:由“我们”辛勤建立并赖以为生的“文明”本身业已彻底崩塌。这就正如弗洛伊德所言: 如果一个陷入了惊慌恐惧之中的人开始只顾自己的安危,那么他这时的行为本身就证明,那种情绪的联系,那种一直使他能对危险无所畏惧的联系,已不复存在……那种惊慌恐惧的发生是以这个集体中的力比多结构的松弛为前提的……个人身上发生的恐惧不是因为遇到巨大的危险,就是因为情感联系(力比多精力贯注)中断了,后者就是神经症性恐惧和神经症性焦虑发生的原因……[10] 最终中断的情感联系或者说“力比多结构”本来由文明所承诺,也旨在遮掩文明自身尤其是现代文明自身的背后幽灵,那就是,文明自身赖以成立的逻辑或者说话语机制,在于对“非文明”“非存在”的概念切割与情感治理。而我们作为文明人的恐惧,来源于这种幽灵时不时从“超级人工智能”这类符合技术理性推验的想象当中飞跃而出的恐惧,毫无征兆地惊现在我们面前。 三、恐惧现代性:无法完成的“驱魔” |