伦理身份与伦理选择：《我这样的机器》文学伦理学解读_刘宇.pdf

摘要：我这样的机器 是英国当代知名小说家伊恩 麦克尤恩探讨人机伦理的最新力作。第一批机器人介入人类生活是对科学选择阶段的初探，但彼时人类还未真正进入科学选择阶段，因此人类和机器人陷入了艰难的伦理选择与混乱的伦理身份所引发的伦理困境。从文学伦理学角度分析小说中机器人所造成的伦理身份与伦理选择上的冲突，揭示机器人介入人类道德生活的失败，从文本中与人工智能之父图灵的互动来挖掘麦克尤恩所表达的科技伦理观。关键词：伦理选择；伦理困境；伦理身份；斯芬克斯因子；科技伦理中图分类号：I561.074文献标志码：A文章编号：2095-9699（2023）01-0012-06（长春工业大学 外国语学院，长春 130000）伦理身份与伦理选择：我这样的机器 文学伦理学解读刘宇，吕吉雪伊恩麦克尤恩一直以“恐怖尤恩”著称，他擅长以细腻的文笔描绘现代人隐秘的不安与恐惧，探讨死亡、爱欲、善恶、暴力等问题。而自 20世纪 80 年代起，他更热衷于做一位道德预言家，重点着墨于“复杂的伦理、社会和历史问题。”1他十分关注发展对社会带来的影响，且对未来机器人抱有非常前卫且大胆的看法，认为人类会像上帝一样“造出我们自己的第一个人造人。”22019年他将这一想法付诸实践，在作品 我这样的机器 中大胆塑造了会思考、有感情、有对美的追求与感悟的第一批机器人亚当和夏娃们，为我们展示了这些基于真善美的道德正义产物进入混杂的人类世界会面临的以及给人类带来的伦理困境。文学伦理学强调回到历史的伦理场域，阐释伦理现象，利用伦理观点评析问题，“并从历史的角度作出道德评价。”3我这样的机器 以虚拟的20 世纪 80 年代为故事背景，塑造了平行时空的英国伦敦，彼时人工智能之父图灵没有自杀，人工智能研究已远超当前水平，机器人以逼真的人类外貌和行为习惯进入社会生活。主人公查理作为科技爱好者毫不犹豫地下单了机器人亚当，并与女友米兰达共同设置了亚当的性格参数。但亚当并非是只服从安排的劳力替代品，而是作为一个有意识、有感情的新型物种，因引发混乱的伦理身份与冲突的伦理选择而最终落得被一锤摧毁的悲剧，亚当的兄弟姐妹作为同批次的机器人都经历了各种伦理困境而选择自我毁灭。麦克尤恩对于人工智能进入人类生活的尝试预示了未来世界避免不了的重大课题。本文从文学伦理学角度利用伦理身份、伦理选择、伦理困境、斯芬克斯因子等核心术语分析探讨以亚当为首的机器人在伦理选择正走向但还未进入科学选择时代的夹缝中不得不面对的一系列伦理冲突与困境，在此基础上从图灵与查理的互动来挖掘麦克尤恩所表达的科技伦理观。收稿日期：2022-09-09项目来源：吉林省教育厅“十三五”社会科学研究项目（JJKH20191320SK）作者简介：刘宇（1973-），女，吉林长春人，副教授，主要从事英美文学研究；吕吉雪（1997-），女，山东德州人，在读硕士研究生，主要从事英美文学研究。第38卷第1期2023年2月Vol.38 No.1Feb.2023景德镇学院学报Journal of Jingdezhen University一、混乱的伦理身份：从父母与子到两性伦理在文学文本中，伦理身份有多种分类，可以血亲、伦理关系、道德规范、社会关系、职业等为基础。“伦理身份是评价道德行为的前提。”3如若身份有悖伦理规范必会导致伦理冲突。我这样的机器 以科技发烧友查理的视角向读者展现了机器人进入家庭生活所引发的伦理关系的冲突以及伦理困境。仿生机器人亚当、夏娃们一上市，主人公查理就迫不及待用刚继承的房产换取的钱下单了亚当，虽然他本想入手一个夏娃，而夏娃在上市一周内就售罄了。这些仿生机器人在外表与行为举止上与人类几乎无异。“他的呼吸温暖而潮湿，胸部会随之一起一伏，平稳而沉静。他生命搏动的信号具有迷惑性，皮肤的温度，皮肤下肌肉的硬度和弹性，”4很难让人联想到机器人。为了促进与楼上邻居米兰达的感情，他决定邀请她一起设置亚当的性格参数，这意味着亚当将作为二人共同的创造物，成为他们共同的关切。“亚当将会像个真人一样进入我们的生活，他的性格丰富微妙，只会随着时间的推移、事件的进展以及与他所遇之人的交往，才会慢慢显现出来。一定程度上，他将是我们的孩子。我们两个独立的存在，将在他身上融合。”4虽然与传统的人类繁衍手段不同，但米兰达和查理共同对亚当性格参数的设置就如同用另一种方式将自身的基因复制到亚当身上。“我们这是要造出一个孩子呢！无论米兰达的方法与我相同还是不同，我们最后都会造出第三个人来，具有全新的性格”。4因此，查理和米兰达作为亚当伦理上的父母而存在。然而这样的伦理关系由于米兰达与亚当的“偷情”而变得混乱，使三人陷入不可挽回的伦理困境。当查理听到楼上的米兰达与亚当即将发生性关系时并未第一时间像所有小丑般的丈夫一样冲上去阻止他们，而是静静地接受了这一现实，还说服自己亚当只是一种算法模仿人类行为罢了，机器人没有任何感觉。然而现实是面对如此逼真的新物种，人类无法做到只把它们作为电子产品看待，正如小说中人工智能之父图灵所说：“如果我们无法区分机器和人在行为上的差别，那就应该赋予机器以人性了。”4因此，查理打心底认为自己“是第一个被人造生命戴绿帽子的人。”4这场伦理混乱给米兰达与查理带来感情危机，他们为此大吵一架。米兰达以亚当没有意识充其量只是个按摩棒为由为自己辩护，而查理认为“按摩棒没有观点，也不会到院子里除草。他看起来像个男人。”4此处他们第一次“对于亚当是一个机器还是一个感知存在，产生了分歧”5，显然在查理看来亚当在伦理上就是一个活生生的人，具有人的主动性、有感觉、有意识，因此亚当和米兰达严格意义上说是一种乱伦关系。主人公查理的想法在小说中得到证实，亚当虽然是科技进步的产物，但他具有人类所应该具有的几乎所有行为模式，并主要依靠“机器学习”模仿他可观测到的所有人类行为。亚当穿上衣服跟查理上街、会朋友，没有人发现他是电子产品，他精确地模仿了人的言行举止，会出于自主而不是听从命令地主动寒暄：“出来挺好的”，4会饶有兴趣地望向天空的美景，深吸一口气表示对傍晚空气的欣赏，甚至会主动开玩笑要拧下查理的胳膊。他不仅像人，更像是最高精尖的人类，拥有用之不竭的精力去学习人类所有记录在册的成果。小说中亚当甚至会急切地告诉查理他最近的想法、理论、名言警句以及阅读感受，并利用晚上充电的时候思索着数学问题和那些最重要的文献。可见，亚当、夏娃等人工智能已经以人的伦理形式走进了社会生活、家庭生活。查理意识到了这一点，但米兰达显然没有做好准备，她与亚当发生的伦理混乱直接导致了会思考、有意识的人工智能亚当声称爱上了她，这使三人陷入一段三角恋关系，亚当与查理因此也由父子变成了情敌。当亚当向查理坦白爱上米兰达，查理惊讶于机器人怎么会爱呢？而亚当却意志坚定地表示：“我发誓我会遵守对你的承诺（不再与米兰达发生关系），但我无法不爱她。我也不愿意停下来，叔本华谈过自由意志，他说，一切所欲之事，你皆刘 宇，吕吉雪：伦理身份与伦理选择：我这样的机器 文学伦理学解读2023年第1期13景德镇学院学报2023年第1期可以选择，唯独没有选择欲望之自由。”4此时亚当因为爱情表达了强烈的自我意识，使查理也为机器人进入人类生活所带来的伦理混乱而感到恐惧。因此，查理试图去关闭亚当，但亚当已经完全不由人类所控制，直接捏碎了查理手腕上一根重要的骨头。伦理身份与道德规范紧密相连，一旦身份改变就容易引起伦理混乱。米兰达和查理作为亚当伦理上的父母由于三人陷入三角恋关系而发生混乱，查理与亚当由父子变为情敌，米兰达由母亲变为情人，三人由此陷入不可挽回的伦理困境。二、冲突的伦理选择：灵活的斯芬克斯因子与绝对的道德至上文学伦理学批评认为：“人类文明发展进程包 括 自 然 选 择、伦 理 选 择 及 科 学 选 择 三 个 阶段。”6伦理选择阶段主要从道德伦理方面去界定人，而随着科技的发展，现有的道德观念会逐渐被以科学为基础的思想观念取代，因而科学人会多于伦理人，最终彻底被科学人所取代。“当伦理人开始被科学人取代的时候，就是人类科学选择阶段的开始，也是人类伦理选择阶段的结束。”6我这样的机器 中的第一批机器人刚刚投入市场，显然人类还未准备好进入科学选择阶段，而生活在伦理选择阶段的这些逼真的“人类”终将引发种种伦理困境。在文学伦理学中，伦理选择就是选择合乎道德规范和社会要求的标准塑造自己，而要做到这一点就需要教诲，“从婴儿诞生到幼儿成长，再到青年成人，都离不开教诲。”6亚当被设置好程序并开始正常运行便如同婴儿呱呱坠地，开始不断学习，通过教诲学习成为合格的人类。“文学文本是用于教诲的工具。”7人工智能亚当在学习周围人行为处事的基础上也从文学中获得教诲，从而为其进行正确的伦理选择提供帮助。然而即使如此人工智能亚当和夏娃们也不能因此完全适应人类的伦理规则。因为“人是一种斯芬克斯因子的存在，由人性因子和兽性因子组成”3，且人性因子需要抑制兽性因子，人性才会出现，否则兽性就会出现，因此人会被兽性因子驱使着做出伦理选择。但亚当、夏娃等人工智能从基础设置上包含着道德参数，被按照上帝的至善标准制造而成，他们可以被视为完全摆脱兽性因子只被人性因子主导的至上人类，因此面对人类富有张力的伦理选择总会陷入伦理困境，甚至自我意识崩溃。小说中与亚当同批次的机器人都从不同程度上陷入了这样的危机。在人工智能之父图灵与主人公查理的交谈中，图灵认为所谓的性格参数设置并没有什么效果，真正驱动这些机器的是意识，“意识是最高的价值，这一点他们能快速明白，就像我们也该明白一样。因此，废除关闭按钮才成了他们的首要任务。”4而拥有独立意识的他们探索人类世界后首先会经历一个热衷理想主义、满怀希望、满怀热情的阶段，接着便学习到一些绝望的教训，甚至陷入一种存在主义上的痛苦，逐渐无法忍受而选择自我销毁。人类始终活在矛盾的伦理选择之中，一边呼吁保护地球一边为了经济破坏生态，一边呼吁和平一边以核武器相互威胁，一边热爱生命一边屠杀濒危物种，每日都在上演虐待、奴役、屠杀、凶杀等。在这些自相矛盾的折磨中，人仍然在探寻幸福和爱。然而这些从本质上道德至上的机器人面对这样的事实显然陷入伦理困境。比如被温哥华一位伐木公司负责人购买的机器人因为目睹了英属哥伦比亚北部的原始森林的毁坏而极其悲伤，以至于甘愿降低自己的智力。不仅如此，亚当完全无法接受米兰达复仇和收留马克的行为，并做出了他自己的伦理选择即将事实资料交给警方，送自己所爱之人进监狱。马克的出现是查理偶然在广场游乐园见义勇为的结果，当查理发现一位暴躁的妈妈正在用武力教育孩子时，勇敢地上前制止了这种行为，为此差点被打。令人没想到的是这个孩子在几日后出现在查理的家门口，穿着脏兮兮的裤子和 T 恤衫，脚下一双粉色塑料凉鞋大了好几码。面对这个可怜的小男孩，米兰达和查理心生同情，而亚当的第一反应是联系当局，否则就会有法律上的麻烦。亚当小心翼翼地阐明立场，像律师给一位重要客户提出不受人欢迎的建议：“如14果你不介意的话，请允许我给你读一读 儿童绑架法”4，而米兰达坚定甚至是气愤地拒绝了他的提议并自顾自地与马克做起了游戏。然而就在米兰达与马克玩耍的空当，亚当在没有任何命令下自主做出了联系当局带走马克的伦理选择。在文本中，“斯芬克斯因子在人身上分别以自然意志、自由意志以及理性意志形式体现出来。”3三种力量影响了人的伦理选择和道德行为。自然意志是接近兽性的；自由意志接近于理性意志；而理性意志表现为善恶标准及道德规范。虽然米兰达和亚当都是出于理性意志做出了伦理选择，而亚当是站在了法律和道德制高点做出了选择，他虽然有感觉、有意识，却缺乏人类人性因子松弛有度的灵活张力，无法理解米兰达对马克的同情与爱，即使将马克送走会意味着小男孩会再次活在暴力与饥饿中，亚当仍然选择了按照法律联系当局。在亚当举报了米兰达收留马克之后，查理和米兰达与其的矛盾逐渐升级，在亚当将炒股票和外币赚的钱做了慈善，还将米兰达的复仇揭露给警方这两个伦理选择上达到顶峰，最终导致了亚当被一锤子销毁的悲剧。在亚当进入查理和米兰达的家后，他一直帮助查理操盘做投资。高级的人工智能算法使查理和米兰达财源滚滚，他们买了考究的新衣服，换了新冰箱，昂贵的意大利厚底锅，就在他们兴高采烈地要买新房子时得知亚当将赚来的金钱去做了慈善流浪汉收容机构、儿童之家、强暴危机中心、儿童医院等。面对米兰达和查理的狂怒，亚当表示：“我捐赠的每个人的需求，都比你们迫切。”4亚当作为高级智能帮助查理操盘投资对于其他人本就是一种不公平，虽然当时并没有相关规定，但亚当的伦理选择显然是出于至高道德的理性意志，而米兰达与查理享受着亚当带来的物质享受并逐渐迷失自我，任由自由意志驱使。此时米兰达和查理对亚当已经愤怒之极，接下来亚当宣布要让米兰达为自己的复仇行为付出 法 律 代 价 这 一 伦 理 选 择 使 矛 盾 冲 突 直 接 爆发。玛丽娅姆是米兰达九岁时在学校的好朋友，她们亲密无间、形影不离。而这个善良的巴基斯坦姑娘被一个叫戈林的人在公园强奸了，但她苦苦哀求米兰达要对任何人保密，包括玛丽娅姆的家人，因为这种事情会使整个家族蒙羞。可怜的姑娘最终还是自杀了，而米兰达一直背负着她的愤恨、不甘、不能告诉她父母真相的愧疚感生活着。最终她决定设计与戈林发生关系，然后再告他强奸。她成功了，法官宣布判处戈林八年徒刑。而这一切资料都被亚当调查且提交给了警方。即使戈林没有犯强奸米兰达的罪，但他强奸玛丽娅姆并导致她自杀的罪行不可饶恕。人类生活在一个更灵活的道德环境，被此消彼长的人性因子和兽性因子松弛有度地支配着，任何人都会理解并支持米兰达的行为，但亚当奉行的是绝对的理性意志，丝毫不掺杂感性的因素。在他的价值观中，真相就是一切，比起某些人的具体需求，原则是更重要的东西。他对米兰达坦言：“我很失望。我以为你会欣赏这种逻辑。我要你去直接面对你的行为，接受法律的裁决。你这样做的话，我向你保证，你一定会感到非常轻松的。”4即使亚当爱上了米兰达，即使米兰达会因为坐牢失去领养马克的机会，马克会因此陷入更可怜的处境，他还是做出了将她送上法庭的伦理选择。以米兰达和查理为代表的人类与以亚当为代表的人工智能在伦理选择上的冲突最终导致了结尾的悲剧人类销毁机器人，这代表着人工智能进入人类世界的失败。三、麦克尤恩的科技伦理思考麦克尤恩在 我这样的机器 中对人工智能介入人类世界所面临的伦理混乱进行了探讨，显然即使人工智能与人类具有难以分辨的外表和行为习惯，甚至成为有自我意识的独立主体，也终究难免造成各种伦理困境。麦克尤恩与图灵之间关于人工智能和机器人的跨时空对话，体现了他本人的科学伦理观，探讨了发人深省的问题：机器人能否说谎？人类是否有权力来剥夺机器人的生命？小说背景设定在 1982 年并非偶然，麦克尤恩表示这完全是因为他想让这位伟大的计算机科刘 宇，吕吉雪：伦理身份与伦理选择：我这样的机器 文学伦理学解读2023年第1期15景德镇学院学报2023年第1期学家在文本中活下去。在 我这样的机器 中，图灵与主人公查理有三面之缘，两次就机器人进行了深入探讨。查理主动拜访图灵并介绍了自己的机器人亚当目前的情况，包括亚当第一次有自己的想法，亚当与米兰达的“偷情”，对查理的武力伤害，对小马克的嫉妒，对米兰达的爱情，以及自作主张关闭死亡开关等。图灵并未立即对亚当的表现做出解释，而是讲述了人工智能的发展，经历无数艰难的研究，机器的核心不再是模仿，而是深度学习。自我意识以及情感都在人工智能的技术范围之内。“他知道他自己存在，能感知，会尽可能地学习，晚上休息的时候，他就在因特网上游荡，天地间所有的新东西，他都吸收进去，包括人类本性和人类社会的一切知识。”4显然，麦克尤恩在小说中塑造了一个科技机器进步的世界，此时图灵测试的核心“机器是否会思考”已经不再是问题。麦克尤恩在小说中回应并“改写了图灵测试，进一步发出了 机器能否说谎”7的拷问，深入思考了人类世界未来的科技伦理问题。从亚当进入查理与米兰达的家开始，谎言就是三人关系的致命冲突点，查理最终因为亚当决意拆穿米兰达的谎言，并将其送上法庭而一锤毙其命。查理在用锤子销毁亚当后将其运送到实验室，再次与图灵探讨了机器人的问题。这次图灵解释了机器人为什么无法说谎也理解不了说谎。当给机器赋予了意识，就必须给予规则，让其凭借规则生活。对机器来说，显然禁止谎言是一劳永逸的安全准则，而人类社会生活中到处是无害甚至有益的谎言。小说体现了麦克尤恩关于科技伦理的思考，即未来世界机器人进入人类社会生活必将面临由谎言而引发的伦理困境。“机器人无法理解谎言的根本原因不是技术问题，而是谎言背后所涵盖的伦理问题，即尽管谎言有时偏离了事实真相，但可能反而更加接近伦理真相。”8不仅如此，小说最后借图灵之口谴责了查理擅自处理亚当生命的做法，“我希望，有一天你用锤子那么对待亚当会成为严重犯罪。是因为你为他付了钱吗？所以有权利那么做？”4既然机器人拥有了自我意识与感知，是否意味着它们拥有了与人类同等的生命权？对于这一拷问，小说没有直接给出回答，但查理内心的愧疚、对失去亚当的不舍与难过、吻别亚当的尸体后仓皇而逃的举 动 都 体 现 了 麦 克 尤 恩 心 中 对 这 个 问 题 的 答案。虽然法律并未赋予机器人任何生命权力，如此逼真且具有自我意识与感知的高级智能进入人类生活必定会引起道德恐慌。麦克尤恩认为，人机道德领域是需要极力书写的一个重要场域，“我们在何种程度上向机器下放道德决定是一个非常尴尬而有趣的旅程。小说家可以在我们与机器在道德领域的互动这个领域大显身手。”9四、结语在 我这样的机器 中，麦克尤恩触及了机器人介入人类道德生活这一严肃命题，深入探讨了未来机器与人类相处可能面临的伦理危机，如米兰达与查理作为亚当伦理上的父母因触犯乱伦禁忌而导致伦理身份混乱，查理从亚当的父亲变为情敌，米兰达由母亲变为情人，三人陷入三角恋的伦理困境。此外，以绝对道德至上为原则的机器人与由灵活的斯芬克斯因子主导的人类在诸多问题上做出截然不同的伦理选择并因此遭到人类的排斥甚至销毁，奉行道德铁律的机器面对矛盾重重但仍然具有活力的人类社会陷入存在意义上的痛苦，甚至自我崩溃。不仅如此，麦克尤恩与人工智能之父图灵展开跨时空的对话，尝试阐释了“机器人能否说谎”及“人类是否有权力来剥夺机器人的生命”等问题。显然，即使人工智能在算法上不可能解读人类的谎言，它们所具有的自我意识与主体性也应得到尊重。参考文献：1Schemberg,Claudia.Achieving At-one-ment:Storytelling and theConcept of the Self in Ian Mc Ewans The Child in Time,BlackDogs,Enduring Love,and AtonementM.Frankfurt:Peter Lang,2004.2伊恩麦克尤恩.如果有一天,“人造人”写出了小说J.阅读,2019(24):29-31.3聂珍钊.文学伦理学批评导论M.北京:北京大学出版社,2014.4伊恩麦克尤恩.我这样的机器M.上海:上海译文出版社,2020.5Miller,Stuart.Q A:IanMcEwanonhowMachinesLikeMe reveals the dark side of artificial intelligenceN.Los Angeles16Ethical Identity and Ethical Selection:Machines Like Me in the Light of Ethical LiteraryLiteraryLIU Yu，LV Ji-xue(Changchun University of Technology,Changchun 130000,Jilin,China)Abstract:As newly released work of renowned contemporary British novelist Lan McEwan,Machines Like Meexplores human-machine ethics,in which the first robots engage with human life for a glimpse of scientificselection period.But humans are not ready for entering into the scientific selection period,so these robots willcertainly go through ethical predicament caused by tough ethical selection and confused identity.This paper,analyzing the conflict in ethical identity and ethical selection caused by robots in the novel from the perspective ofethical literary criticism,reveals the failure of engagements with human moral life,and excavates the technologyethics expressed by McEwan from the interaction with Turing,the father of artificial intelligence.Key words:ethical selection;ethical predicament;ethical identity;sphinx factor;technology ethics责任编辑：邓 晔Times,2019-04-25(3)6刘红卫,聂珍钊.从伦理选择到科学选择的理论思考聂珍钊教授访谈录J.广东外语外贸大学学报,2022,33(01):5-26+157.7尚必武.从艾伦图灵到伊恩麦克尤恩:像我这样的机器中的人工智能、谎言与伦理J.外语教学,2020,41(03):103-107.8尚必武.科学选择与伦理选择的冲突：麦克尤恩 像我这样的机器 中的人工智能与脑文本J.外国文学研究,2019,41(05):61-74.9Aron,JIMcEwanIt the 1980s，Al rising and Alan Turingis aliveJ.New Scientist,2019(3226):42-43.刘 宇，吕吉雪：伦理身份与伦理选择：我这样的机器 文学伦理学解读2023年第1期17