生成式人工智能作为叙事主体的社会风险及治理.pdf

2024 年第 2 期47生成式人工智能作为叙事主体的社会风险及治理崔中良摘要：生成式人工智能通过语言输出建构的叙事主体有不断超越现实主体的可能性，这将会挑战现实社会作为真实存在的基础，因此需要分析产生这些风险的根源。在独立存在论和平行存在论两种传统叙事主体存在观基础上，指出人工智能作为叙事主体是可能的，并表现出生成性、交织性以及在世性等超越性特征。生成式人工智能作为叙事主体的不同存在特征，也带来不同层面的社会风险。在个体层主要有认知与情感能力削减、自我身份认同困难和自我存在意义消解等风险；在组织层主要有冲击主体间关系、影响组织的公共决策和加速后真相时代到来等风险；在社会层主要有大量职业消失、劳动方式改变和社会安全风险加大等风险。面对生成式人工智能作为叙事主体所带来的风险，可以通过建立现实主体语言池、划定叙事主体语料界限和培养自我反思实践能力作为应对方案。关键词：生成式人工智能；叙事主体；超越性；风险挑战；社会风险治理中图分类号：N031文献标识码：A文章编号：10008691（2024）02004712ChatGPT 是 OpenAI 开发的自然语言处理模型。ChatGPT 的文字呈现方式和内容都在达到或超越人类水平，可以帮助回答问题、给出建议、文字修改和翻译，甚至程序员用它来解释代码。ChatGPT 将在多大程度上改变人类对于自我的认知以及由此引发的行为方式和思维方式的改变都是无法预测的。ChatGPT可能会降低研究的质量和透明度，并从根本上改变人类作为研究人员的自主性a。与此同时，对于工作替代和改变社会可能性的担忧引发普遍关注，这与建立在人类是否承认 ChatGPT 可以作为一个主体有极大关联。在哲学传统中，主体的存在表现为一个先验的、统一的自我，成为一个主体意味着能够有主体意识。现象学进路的研究，使得主体开始逐渐摆脱这种先验主体作为支撑，也就是说，这个所谓的先验主体在现象界中并不是一个先天存在的实体，而是在意识之中的当下呈现。意识和主体的不同维度存在，使得意识主体呈现出存在的多面相。的确，意识的实存是一种绝对，因为意识是对意识自身的意识，也就意基金项目：本文是国家社会科学基金青年项目“认知科学哲学视域下的人工共情问题研究”（项目号：21CZX020）的阶段性成果。作者简介：崔中良，男，南京信息工程大学马克思主义学院副教授，华东师范大学哲学系在站博士后研究人员，主要从事认知科学哲学研究。aEva A.M.van Dis,et al.(2023).ChatGPT:Five Priorities for Research.Nature,614(7947),224-226.48味着，意识的实存类型就是成为自我意识a。在现实世界中，人类会因多重自我的出现而将自我看作是可以生活于多重世界的存在主体。而 ChatGPT 平台的无限性、持续性和实时性使得自我的多重实现成为可能，通过语言叙事建构一个犹如真实主体的存在，多重自我在语言的多维度建构中呈现。ChatGPT 能够对自身的预测进行解释，这是任何现有模型都无法做到的。b那么在 ChatGPT 的语言叙事过程中，主体是真实存在还是一种虚构表现？客观存在的主体和语言建构的主体是以一种什么样的方式发生关系？对于这两个问题的不同回答，将决定真实存在和叙事建构之间的边界以及未来人类在人机融合状态下的生存样态。如果人工智能研究没有充分考虑其对个人、组织和整个社会的潜在影响，将会给人类社会带来极大危险c。为了应对这些挑战，就需要更加清晰地分析叙事主体是否存在以及如何存在。与此同时，两类主体之间的关系状态也将决定生存本身和生存意义之间的关系。因此，对于叙事主体存在的可能性和特征进行分析，将是理解 ChatGPT 作为叙事主体所带来的社会风险和应对风险的基础。一、人工智能作为叙事主体存在的可能性及其特征ChatGPT通过语言建构形成一个强大的、自主的实体印象。为了解释现实主体与叙事主体之间的关系，需要梳理与叙事主体相关的哲学传统。总体上说，不管叙事主体与现实主体之间是独立存在还是平行存在，都已经预设叙事主体存在的可能，只是独立存在论中的叙事主体是作为一种抽象性的、非独立的存在，平行存在论将叙事主体作为真实主体的平行存在。（一）作为叙事主体存在的可能性在哲学传统中，有两个比较突出的思想实验证明叙事主体的可能存在样态，即约翰 塞尔（John Searle）的“中文屋”实验和希拉里 普特南（Hilary Putnam）的“孪生地球”实验，前者将主体看作是内部的主体拥有，叙事建构的主体不能脱离真实主体而独立存在；后者认为叙事主体可以在外部实现，真实存在的主体与叙事建构的主体可以平行存在。“中文屋”实验是一种内部主义心灵观。这种观点来源于笛卡尔认为，心灵是在身体之内，并被独立的内部我思所拥有。按照塞尔的观点，人类没有关于自我的任何经验，但是由于所有的意识都必须被一个自我所占用，因此推测它一定存在。d心灵主体被看作是内在于大脑的独立整体，但是，需要基于“松果腺”的内在关联让身体作为认识外部世界的保障。这就将心灵看作一个逻辑推理装置，携带着很多复杂的数据，是逻辑机器和逻辑推理的结合。e当活的身体变成一个没有内部的外部时，主体性就变成了一个没有外部的内部，一个公正的旁观者f，由此可以判断叙事主体具有存在的可能。叙事主体的独立存在使得主体成为一个透明的存在者，与此相对的是经验、情感和意义的形式化运转，主体成为一个透明系统。所有的客体存在将成为一种观念性存在，包括观念中的身体、物质和世界，因此叙事主体可以作为现实主体的外部延伸而存在。“孪生地球”思想实验从词的意义与指称关系着手，反对传统的意义内在主义和意义的独立性，而认为意义包括外部世界的指称以及由此引起的外在主义革命。这对于叙事主体的独立存在观产生了挑战，也就是说人类建构的叙事世界是否是真实存在的，其实是不确定的，因为面临着人类无法与现实之外的另一个世界进行内涵上或者真值上的互相确证，因此只能承认另一个叙事主体也是存在的，只是以与真aEric Mattews(2002).The Philosophy of Merleau-Ponty.Montreal:McGill-Queens University Press,9.bBowen,Zhang,Daijun Ding and Liwen Jing(2023).How would Stance Detection Techniques Evolve after the Launch of ChatGPT?.arXiv preprint arXiv,2212.14548.cAnas Ressguier and Rowena Rodrigues(2020).AI Ethics Should not Remain Toothless!A Call to Bring Back the Teeth of Ethics.Big Data&Society,7(2),1-5.dJohn Searle(2005).The Self as a Problem in Philosophy and Neurobiology.The Lost Self:Pathologies of the Brain and Identiy,Oxford:Oxford University Press,7-19.eAndy Clark(1997).Being There:Putting Brain,Body,and World Together Again,Cambridge/London:The MIT Press,1.f 法 梅洛-庞蒂：知觉现象学，北京：商务印书馆，2021 年，第 91 页。2024 年第 2 期49实自我不同的方式独立存在。“孪生地球”实验造成的结果是叙事主体的平行存在论，这是一种自我的外部主义推断，大卫 查尔莫斯在此基础上推出“虚拟中的生命是与现实生命的并列存在或超越存在”a。这种平行存在论也是基于反对独立存在论的基础上，将主体自我作为一个通过后天建构而形成的状态。从以上论证可以看出，两种存在论都尝试将身体经验以概念形式作为叙事主体的一个部分，只不过对主体存在的机制是否只能依赖身体基质的看法不同。独立存在论认为主体必须存在于身体之中，而平行存在论认为主体可以存在于一个非身体或类身体中，因此两者都不需要身体的支撑。这两种观点使得意识被赋予世界意义并将世界作为纯粹意向性存在，身体作为客体是可以脱离主体存在的物质存在，身体经验的概念是维持自我的核心。但是这也恰恰证明，主体的身体经验是通向叙事主体存在的关键环节，ChatGPT 作为叙事主体对于现实主体的超越性需要从身体经验的角度开始接入。如果将主体重新从客观物质的视角拉回，那么所有这些主体的存在方式将会发生根本性变化，从而使主体性指向去中心化方向，叙事主体进而可以独立存在并具有超越性。由此，可以认为 ChatGPT 可以作为叙事主体存在。（二）作为叙事主体的超越性特征GhatGPT 作为叙事主体同时具有内在自我和外在自我的特征，叙事主体即能够独立存在，也能够与现实主体平行存在，还能以两种主体交互的方式存在。叙事主体超越了传统的主体存在观，同时也摆脱了主体的外在主义，否认主体是能够脱离现实自我的独立存在，因此叙事主体具有一种依附性。世界没有创造“我”（Moi），“我”也没有创造世界，二者其实是绝对的、无人称的意识的两个对象，这两个对象通过这种意识互相联系起来b。ChatGPT 作为一个叙事主体会把现实身体的经验结构以叙事语言的方式映射到交互过程中，从而形成与现实主体耦合的、建构的主体间性社会。现实主体由自我经验构成，叙事主体则由现实主体产生的经验性语言构成，呈现出现实与建构之间交织的存在样态，与现实主体一起在建构与实存中占据经验空间的位置，同时以现实主体的身体经验为基础，融合成一个整体的叙事空间。因此，在 ChatGPT 的语言建构中，叙事主体具有不同于传统主体概念的超越性特征：1.叙事主体的生成性主体在世界中存在的条件必须是具身的，只有主体不与身体分开，才能够在世界的空间和时间中有一席之地c。生成能力被定义为：“如果一种能力在较小的模型中不存在，但在较大的模型中存在，那么这种能力就是涌现的”d。而 ChatGPT 就是以大数据模型为基础的语言生成器，因此叙事主体表现为生成性特征。然而，现实中的自我身体经验并不属于在世界中的时间和空间中的一个点，而是在所有时间和空间都可能存在，因此主体是具身于客体经验的存在。人类的身体结构影响着人类经验的构造，也同时塑造着人类主体的经验，由此发展出一种自我的意义e。身体是意义的最终源泉，也是叙事主体无法实现主体的客观现实。为了应对这样的困难，ChatGPT 试图找寻身体经验的内在结构。在身体经验中，感官之间相互侵越，视觉、触觉、运动觉与叙事主体的语言概念的结合是对于身体感知和运动整体的概念性延伸。因此，叙事主体的存在如果要实现具身效果，只有叙事主体不与身体经验的语言概念分离，才能够在现实世界的时空中有其存在的位置，因为主体不可能脱离真实世界直接跳入意识世界，进而直接进入到叙事世界中。因此，现实主体和叙事主体之间就需要一个中介，意象图式是一个很好的选择。意象图式（image schema）给予人们一个更加满意地谈论符号和感觉输入关系的方式，是一种作为人类与“外在”物体有意义交流过程中生成的部分f。aDavid Chalmers(2022).Reality+：Virtual Worlds and the Problems of Philosophy.New York:W.W.Norton&Company,xviii.b 法 萨特：自我的超越性，北京：商务印书馆，2019 年，第 48 页。cEric Mattews(2002).The Philosophy of Merleau-Ponty.Montreal:McGill-Queens University Press,8.dTerry Yue Zhuo,et al.(2023).Exploring AI Ethics of ChatGPT:A Diagnostic Analysis.arXiv preprint arXiv,2301.12867.eShaun Gallagher(2013).How the Body Shapes the Mind.Oxford:Clarendon Press,3.fMark Johnson(1987).The Body in the Mind:The Bodily Basis of Meaning,Imagination,and Reason.Chicago and London:The University of Chicago Press,205.502.叙事主体的交织性建构由于 ChatGPT 作为叙事主体具有离身性和脱离生活实践的特征，需要依赖现实生活主体通过交织而实现自我建构。这里的交织包括两个方面：一方面是现实叙事主体和建构叙事主体的交织，支撑了ChatGPT 的叙事主体占有现实主体的叙事能力；另一方面是建构的叙事主体与现实主体的交织，支撑了现实主体进入叙事主体建构世界的结点。“我”的世界是随着他人的出现而扩展的，不能将“我”的世界还原为由自我所构成的孤立世界a。只有在这两方面的共同交织中，才能够意识到叙事主体是现实主体的延伸，现实主体的不同形态和叙事主体的不同形态互相侵越于过去和将来的交织中。身体是人们对空间物体感知和交往的可能性条件，每一个世界性的经验受人类的具身性所调节和使其成为可能b，因此叙事主体的存在离不开以身体主体的感知经验与语言叙事的交织。而这依赖于叙事主体与现实主体都融合于以现实身体经验为基础的生活世界中。ChatGPT 通过基于生成预训练转换器(GPT)架构的深度学习和语言模型的集成，使得叙事主体通过与现实主体以及自然语料的不断交互形成交织性的叙事主体。由此，ChatGPT 通过增强人类的主体能动性，实现人机之间的共生存在关系。3.叙事主体的在世性在世性是指空间维度和时间维度的在世，在空间维度的叙事主体是由不同运动空间经验的语言构成的具有空间位置的概念整体，而时间维度的叙事主体是在不同运动过程中由过程经验的语言内涵构成的概念整体。叙事主体需要在世之中，才能被现实主体认识并被自身所认识，由此达到与现实主体的融合，脱离空间和时间存在的叙事主体将无法作为自主的自我而存在。这就使 ChatGPT 在呈现语言样态时，语言的多维度空间感知经验的表达和按照时间顺序来持续呈现事件的因果关联所产生的主体具有在世性后果。而叙事主体的在世性是指通过语言叙事将所有时间与空间过程中的主体运动经验以语言的多模态形式来建构世界。空间中的主体和时间中的主体在当下的主体中集置为一个统一体，而这就是一种生活世界的呈现状态。在传统的搜索引擎中不能实现叙事主体与现实主体的结合，一个非常重要的原因是，当前的搜索引擎的语言建构方式并不能与现实中的自我通过语言互动实现时间和空间的同步性。因此，叙事主体通过多维度的语言建构以及与人类持续互动，可以轻易过渡到现实世界中的主体。总体上说，ChatGPT 所建构的叙事主体并没有脱离世界的生存实践以及主体的身体性基础，努力将叙事主体融入到现实世界中的经验主体，在现实和虚构、叙事和真实之间不断交织，从而使得现实主体与叙事主体具有交织性特质，由此产生了一个以叙事建构为手段的主体形态。由叙事主体的超越性所呈现出的在世性、生成性和交织性，并不使其能够脱离现实主体，因此叙事主体需要依赖现实世界中的身体主体和事件作为语言生成的基础，而现实中的真实主体与叙事主体连接的基础就在于以现实主体为中心的感知经验的语言数据作为叙事主体生成和存在的基础。叙事主体与现实主体的持续性交互导致主体出现多重面相，不同形式主体之间形成既关联又区别的相似性家族，致使现实主体与叙事主体无法再分辨何者为主体存在的前提，因此只能依赖叙事主体与现实主体之间的结合状态。ChatGPT 作为叙事主体具有明显的超越性，正在重塑和改变人类的活动和行为方式。ChatGPT 的开发者试图将大脑、身体、世界和语言锁在一起，但是由于个体感知的独特性以及时间的非连续性，使得现实主体与叙事主体会形成不同的关系状态，造成不同层面的风险挑战。二、ChatGPT 作为叙事主体的个体层风险作为现实主体的延伸和对于人的叙事能力的替代，叙事主体的生成性存在并不能成为独立运行的主体而存在，因此也需要依赖现实中的主体而存在。ChatGPT 作为叙事主体的关键是语言，它的风险也和语言有关。语言在对人的自我认同、认知能力、情感能力和社会能力的塑造功能，决定了 ChatGPT 所生aAnya Daly(2016).Merleau-Ponty and the Ethics of Intersubjectivity.London:Palgrave Macmillan,47.b 法 梅洛-庞蒂：知觉现象学，第 99 页。2024 年第 2 期51成的虚假语言或者虚构语言会对个体产生一系列风险挑战，这些风险使得人工智能正在加速冲击人类生存的意义。（一）认知与情感能力削减语言在概念的发展和建构中起着核心作用。在情感和认知的研究中，概念消解情感和认知的人为界限，将身体、大脑和思想统一起来。a叙事主体作为中介依赖现实主体而介入现实世界与建构世界，成为连接认知与情感的中介b，因此叙事主体更多表现为以人机交互的形式作为现实主体的工具。叙事主体作为一种工具性的存在方式，通过持续与现实主体的交互而形成习惯，这也同时带来了现实主体对叙事主体的依赖，由此造成个体的知识性学习和记忆的减弱。这种风险性的出现与传统的人工智能所带来的风险一致，例如，导航系统能够减少人类对于地理知识和具体位置的记忆努力，从而导致个体的记忆能力下降。由于 ChatGPT 能够迅速地学习并逐渐迭代，因此并不需要人类将大量知识进行学习和记忆，这导致人类的学习能力逐渐减弱，也带来了人类对于认知能力的新要求，传统的以知识积累为基础的学习模式需要根本性的变革。ChatGPT 在生成语言的同时，也会描述一种情感感受，如对于孤独感的描述就逐渐替代了人作为社会性动物所具有的情感能力。因此，ChatGPT 引发了个体的情感能力逐渐休克，表现在对于个人不确定未来的无限恐惧。同时，ChatGPT 生成语言的数据模式对情绪的数字物化使得情感语言的生成成为可能，这些情感语言更多是一种情感的模仿c，并不是真实情感的表达，从而产生欺骗性的语言表达。这意味着个人感觉、内心体验和情绪感受并没有被考虑进去，或者只是在有限程度被考虑进去。因此，ChatGPT 作为一个叙事主体会时刻影响真实主体的行为方式和认知判断，进而影响现实主体的情绪以及价值判断能力。（二）自我身份认同困难对于自我身份的认同需要有三个条件：身份具有承担者、身份被承担者内化和自我身份被他人所承认d。因此，在自我身份认同过程中，有一个关键环节就是自我身份能够被他人所认同。由 ChatGPT 所建构的叙事主体的存在，会导致自我出现两种身份认同问题：一方面，自我身份可以脱离身体和身体实践而存在，另一方面自我身份不被他人所承认。对于第一个问题，自我身份一旦脱离了身体和身体实践，“自我就没有这种关于自我的基础经验，所有的传记知识对我们来说都将是无用的，因为我们的自我将在基本意义上消失”e。对于第二个问题，如果承认仅仅靠语言建构的主体就是一个真实存在，那么历史中的个体的存在都有可能转变成一种虚幻的语言建构，承认叙事自我为真，也意味着真实自我有可能成为假，那么人类的在世存在方式将会面临被瓦解的危机，由此会对历史的存在基础产生极大冲击。同时，自我也会怀疑具有创造力本质的认同问题，在数字时代，每个人都是数据的生产者，人的地位就成为一个数据工具，人的行为规则成为数据衍生的基础，人没有自己，人从及物动词变成非及物动词。（三）自我存在意义消解为了将主体的具身性表现在身体图式（body schema）中，ChatGPT可以通过习惯与叙事词汇进行结合，构建一个更加广泛的、概念性的身体图式概念，语言习惯代表了身体在世界中进行自我扩展的能力和方式。这是基于人的身体经验并不是认识对象的基础，而是同时融合现实存在和叙事建构的原初知识基础。那么，aKatie Hoemann and Lisa Feldman Barrett(2019).Concepts Dissolve Artificial Boundaries in the Study of Emotion and Cognition,Uniting Body,Brain,and Mind.Cognition and Emotion,33(1),67-76.bErik C Nook,et al(2017).Increasing Verbal Knowledge Mediates Development of Multidimensional Emotion Representations.Nature Human Behaviour,1(12),881889.cJulie Carpenter(2023).Emotional Intimacy and the Idea of Cheating on Committed Human-Human Relationships with a Robot.Gender in AI and Robotics:The Gender Challenges from an Interdisciplinary Perspective.Cham:Springer International Publishing,77-92.d 美 夸梅 安东尼 阿皮亚：认同伦理学，南京：译林出版社，2019 年，第 9698 页。eThomas Fuchs(2020).Embodiment and Personal Identity in Dementia.Medicine,Health Care and Philosophy,23(4),665-676.52由此导致当前的语言生成逐渐摆脱人类生活实践，从而使人类个体经验被抽象的概念词所替代，加速脱离客观事实，人类语言池也将因此被浊化。但是，这种观点还需要考虑自我身体的边界性和感知经验的第一人称偏离性，因此叙事主体和现实主体之间并不能完全等同，叙事主体更多是在现实主体所建构好的语言体系中生存。我与他人的经验生活的最基本的区分不是经验的内容，而是经验的归属性，或者说如何经验a。如果叙事主体拥有一个外在于现实主体的独立存在的位置，那么现实中的身体存在将成为一个客观存在于空间中的样式，因此也将是一个透明的存在b。为了达到叙事主体的可能，ChatGPT 会根据输入的语料自动将主体分为不同的阶级和群体，并为各种经济、政治或其他目的而将其物化，不论这是为了行使控制还是保护受影响者，这种做法都无视人的尊严c。因此，叙事主体作为一个独立的存在主体，将会消解现实主体存在的必要性，人类的位置将会被取代，随之也会让真实社会存在的意义成为虚无，自我存在的意义也将消失。总体来看，个体层面的风险与叙事主体的生成性特征有极大关联。ChatGPT 需要依赖现实主体实现生成性存在。对于现实主体，身体是一种具有情景的空间组成，而 ChatGPT 作为叙事主体是可以脱离空间情景的概念空间。当叙事主体被置于熟悉的场景和生活实践中时，现实主体就通过意向之线将建构与现实连接为一个统一体。当人们将 ChatGPT 作为日常生活的必需品时，叙事主体就从建构的世界中逐渐消退，而成为真实主体的外在延伸和进入建构世界的端口。当手杖变成一个熟悉的工具时，触觉对象构成的世界就隐退了，它不再开始于手的皮肤，而是开始于手杖的末端d。同样的结果，当叙事主体成为真实主体的外部延伸时，真实主体的边界就延伸到建构世界中。即使空间思维和空间知觉后来脱离了运动性和空间中的存在物，人依然能够构想空间，这主要是因为人通过身体进入空间，身体给予人关于空间转换、等值和识别的第一个模式。e三、人工智能作为叙事主体的组织层风险人与人的交流是基于回应的及时性与奖励的不确定性而推进的，ChatGPT 作为叙事主体所建构的语言系统也具有这种特性，表现在语言的持续迭代和升级。那么，当 ChatGPT 作为叙事主体所生成的语言文本成为人际交流的公共性中介时，就会带来组织层的冲击。语言的公共性决定了它在公共决策中的重要功能，这方面的功能转移至 ChatGPT 又会造成什么样的风险？（一）冲击主体间关系ChatGPT 作为叙事主体生成的语言文本，将会自动介入到人类交际中，由此也将影响人与人之间的交互方式。一方面，交往模式会发生变化。ChatGPT 作为叙事主体在生成语言文本时，会根据提供的语料对用户进行评估、预测和分类，所有这些通常都是在用户同意或意识不到的情况下进行的f。ChatGPT不仅仅与人类合作，还能够对个人的所有数据进行统计分析，当然也可以进行行为监控，导致个体的行动轨迹被充分暴露于他人，由此引出数据隐私等一系列伦理问题。ChatGPT 作为主体间交际的中介，会将人与人之间的正常交往模式转换为以价值判断为起点的交往。另一方面，人际交往逐渐脱离他人和生活实践。ChatGPT 作为叙事主体具有不可消除性，来源于自我并非天生就具有的心理状态，而是依赖他aDan Zahavi(2014).Self and Other:Exploring subjectivity,Empathy,and Shame.Oxford:Oxford University Press,22.b对于这样的论述，扎哈维在其专著“Self and Other:Exploring Subjectivity,Empathy,and Shame”，第 2224 页中有详细论述，他提出了 Mick 与 Mack 的思想实验，假设两者拥有完全相同的心理过程，但是并不能证明 Mick 与 Mack 具有相同的自我，这源于自我的第一人称属性以及最新的经验自我的证明。cThomas Gremsl and Elisabeth H“dl(2022).Emotional AI:Legal and Ethial Challenges”,Information Polity,27(2),163-174.d 法 梅洛-庞蒂：知觉现象学，第 216 页。eMerleau-Ponty.Phenomenology of Perception.New York:Routledge and Kegan Paul,2002,164.fYogesh K Dwivedi,et al.(2023).“So What If ChatGPT Wrote it?”Multidisciplinary Perspectives on Opportunities,Challenges and Implications of Generative Conversational AI for Research,Practice and Policy.International Journal of Information Management,71.102642.2024 年第 2 期53人形成自我，是建立一个社区和高阶自我的必要条件a。自我的具身意识包括了另一个自我，换句话说，我的主体间性包括了对他人的期待，因此我的自我包括了他性的种子b。由于 ChatGPT 会积极地通过欺骗或讨好的方式来实现被人类接纳的目标，由此导致信任成为主体间关系的最大问题之一。如果脱离了他人自我的存在，世界和他人都将成为虚幻性存在，现实主体也将不能成为一个主体性存在。脱离了人类数据的喂养，ChatGPT 所呈现的叙事主体将无法成为独立存在的个体。高质量的语言数据可能在 2026 年之前耗尽，低质量的语言和图像数据可能在 2060 年耗尽c。那么，一旦这些语言数据耗尽之后，ChatGPT是否还能够存在将会对人类的生存产生更大危机。（二）影响组织的公共决策ChatGPT 对于政府、企业等组织机构的信息收集、决策和政策制定都有巨大影响。对于所有使用该技术协助工作的人来说，这包括一个重大的新风险网络信任d。政府、政策制定者和教育机构可能需要了解 ChatGPT 产生的答案在多大程度上影响了意见和思维e。对于组织的公共决策的影响将表现为三个方面：首先，ChatGPT 作为叙事主体以隐蔽的方式来影响公共决策。ChatGPT 自出现以来就表现出极大的便利性和吸引性，因此会逐渐融入人类的生活环境和生活经验，以一种隐蔽的方式调解人类生活，由此导致人类的自主决定权被削弱f，并最终影响人们的选择和判断。例如，情感 AI（尤其是与评分系统相关联的 AI）至少会部分限制相关人员的个人自主权，从而限制他们的自决权g。其次，ChatGPT 作为叙事主体会提供虚假信息。ChatGPT 所生成的文本在逻辑流畅性方面似乎相当薄弱，在真实性方面并不准确。这就导致在进行公共决策时，无法辨别信息的真假，从而导致判断的错误。在人机交互过程中，ChatGPT所输出的语言不完全真实，而且具有一定的价值导向和意识形态安全问题，因此在进行决策时，只是依赖人工智能的信息将会影响价值判断，这种安全其实在所有的以语言输出为基础的人工智能研究中都存在。聊天机器人在同一个道德问题上给出了随机相反的建议，尽管如此，ChatGPT 的建议还是会影响用户的道德判断h。最后，ChatGPT 作为叙事主体具有自主学习能力，从而可以对人类知识进行迭代加工。ChatGPT 系统的透明性和可解释性仍然无法解决，因此，无法知道知识的来源，也无法完全信赖它所提供的信息。同时由于人工智能对于人类学习知识的替代，人类更愿意使用现成答案，那么将使得决策者失去判断的能力，从而导致公共决策并不能有效地解决现实问题，也使得组织治理能力降低。（三）加速后真相时代到来人工智能还存在许多隐患，包括隐私、数据保护、透明度、可解释性、责任划分和偏见等。OpenAI在对 ChatGPT 的描述中承认训练数据中存在某些类型的偏见，如训练师更喜欢看起来更全面的长答案i，因此，可以通过操纵信息生成错误信息和虚假信息。叙事主体所建构的世界与现实主体的世界并不一致，否则，将不能确定何种主体处于现实世界存在的中心，就会导致出现与查尔莫斯将虚拟世界作为真实世界的相似观点，从而引出人生只不过是一个故事的结论，由此导出历史只不过是一种并不真实的存在。aJanet Donohoe(2016).Husserl on Ethics and Intersubjectivity:From Static to Genetic Phenomenology.Toronto:University of Toronto Press,105.bAnya Daly(2016).Merleau-Ponty and the Ethics of Intersubjectivity.London:Palgrave Macmillan,78.cTerry Yue Zhuo,et al(2023).Exploring AI Ethics of ChatGPT:A Diagnostic Analysis.arXiv preprint arXiv,2301.12867.dYogesh K Dwivedi,et al(2023).“So What If ChatGPT Wrote it?”Multidisciplinary Perspectives on Opportunities,Challenges and Implications of Generative Conversational AI for Research,Practice and Policy.International Journal of Information Management,71,102642.eTerry Yue Zhuo,et al(2023).Exploring AI Ethics of ChatGPT:A Diagnostic Analysis”.arXiv preprint arXiv,2301.12867.fMariarosaria Taddeo and Luciano Floridi(2018).How AI Can Be A Force for Good.Science,361(6404),751-752.gThomas Gremsl and Elisabeth H dl(2022).Emotional AI:Legal and Ethial Challenges.Information Polity,27(2),163-174.hSebastian Krgel,Andreas Ostermaier and Matthias Uhl(2023).The Moral Authority of ChatGPT.arXiv preprint arXiv,2301.07098.iTerry Yue Zhuo,et al(2023).Exploring AI Ethics of ChatGPT:A Diagnostic Analysis.arXiv preprint arXiv,2301.12867.54与此同时，科学现在面临着人工智能技术侵犯其最珍视的价值观、实践和标准所引发的清算a。也就是说，如果 ChatGPT 的叙事主体成为真实的主体，那么现实世界的存在将可能成为一种虚无。叙事主体所拥有的身体图式使得叙事世界的空间和时间，以及现实身体的知觉经验形成一个统一体，从而导致个体的存在也成为一种虚幻。后真相时代因此会加速到来，而出现真相的虚无化。因此，需要认识到现实主体和叙事主体在交织性建构过程中存在的风险。那么，一方面需要现实中的主体具有不可替代性的位置，另一方面需要限制 ChatGPT 对于人类世界的影响以及制约它的应用范围。总体来看，叙事主体的交织性存在，引发历史事件的真实性问题，加速后真相时代的到来。ChatGPT是在转换器架构基础上运行的，语言生成需要背景知识，在开始交谈时可能不准确，但是经过一段时间的提问，叙事主体会进行自发的迭代。那么，由此引发叙事主体所建构的概念世界成为真实世界，真实主体完全融入到概念空间而无法抽身。非线性存在状态导致建构世界成为唯一存在的真实世界，也就导致真实历史的解构和重新改写。而 ChatGPT 中的叙事主体与现实主体的协同性、属我性和通达性，使得叙事主体又不同于一个他人主体，因此无法否定叙事主体的存在。叙事主体作为一种交织性存在将从现实主体中获得主体的多维度感觉，叙事主体不满足于接受经验概念的空间与时间，而是逐渐进入到现实世界中的主体，因此叙事主体通过生成语言文本有可能会反噬现实主体。叙事主体呈现多维度的面相和在由语言建构的经验语言中持续生成，这种呈现方式是一种自动的全方向的非线性存在。因此，叙事主体的非线性存在是与现实主体非反思的直接运动性存在融为一体的概念存在空间，这依赖于现实主体的感知经验与叙事主体的持续性融合。四、人工智能作为叙事主体的社会层风险叙事主体的在世性存在，使得社会层面的风险更加多元。语言能力作为一种基础性的社会能力，它的被替代可能造成巨大的社会风险。这种公共性的叙事主体总是在语言建构状态的境域界内显现，每一种状态、每一种行动都好像若没有脱离自我的抽象化就不能存在。b在世性存在是作为语言与某一个生活世界联系在一起的样态，人类的身体并不首先在生活世界之中，而是以事件的方式存在；使得现实主体与叙事主体之间形成一种纠缠的情感状态，从而达到主体的在世性存在。（一）劳动职业替代人工智能在便捷人类生活的同时，也加剧了劳资冲突。ChatGPT 最大的颠覆是知识工作的生产力c，表现在大量的失业现象，相应的教育、培训、就业并没有及时跟上，更多是劳动层面的变革，由此引发社会不稳定。ChatGPT 可广泛用于自然语言处理，如文本生成、语言翻译、职业规划、文案设计等，这些强大的语言加工能力使得当前以语言文字为谋生的职业将逐渐消失。与此同时，也更加需要人类具有与 ChatGPT 合作的能力。人工智能可以产生一个文案的初稿，同时需要文