在工具与玩具之间：关于ChatGPT的几点人文思考.pdf

作者简介：徐贲，加州圣玛利学院荣退教授，从事社会文化、公共政治研究。在工具与玩具之间：关于 的几点人文思考徐贲（加州圣玛利学院 英语系，美国 莫拉加 ）摘要：这项技术具有双重性质：既是一个用于搜索和研究的工具，也是一个用于愉快对话的玩具。人们通常高估了 作为搜索工具的实用性，也可能低估了它与人进行趣味交谈和快乐互动的价值。可以把 重新构想和开发成为一个对话和交谈领域的新成员，将对话和交谈互动的范围扩展到人类之外的 聊天机器人。这种扩展可以激发新的人文反思议题，如：善意、理解、教养、交往理性、欣赏“他者”，以及对人工智能的恐惧。此外，这种转变的视角也能使人们重新审视与互联网和人工智能相关的长期问题，例如：“人类”的意义、人类与技术之间的关系、人工智能可能带来的威胁、失去人类价值观的风险、工作和娱乐的伦理道德以及对话和互动的伦理道德，等等。作为一种人工智能语言模型，具有人文启蒙的潜力，包括：促进知识获取、增进互动、鼓励批判性思维、推动逻辑和理性对话以及传播准确信息的潜力。最终，作为工具和玩具的独特能力可以帮助人们更好地理解自己和技术的关系，同时应对日益数字化的世界的复杂性。关键词：；技术；工具；玩具；交谈；人工智能中图分类号：文献标识码：文章编号：（）是当下一种引人注目的新技术，我这里要谈的不是它的工作原理或未来展望，而是它如何影响我们看待自己当下的认知和道德状况。触动这样的人文思考，是因为它为我们提供一个新的视野，由此可以重新审视一些互联网产生以来已经在被讨论的问题，如：什么是“人”、人与技术或机器的关系、人工智能是否对人类形成威胁、是否会造成人的价值的丧失、人类的工作与游戏（工具与玩具）、人类交谈（交往）的目的和伦理，等等。作为一个人工智能语言模型，可以通过促进知识获取、互动和交往、说理和对话、逻辑和理性的话语，为人文启蒙 传播准确的信息、鼓励批判性思维、提升公开对话能力、促进教育和终身学习 作出贡献。一、作为“技术”和“工具”的 要了解作为“技术”的 ，有必要先说一说对“技术”的理解。广义的“技术”，按照著名法国社会学家埃卢尔在 技术社会 一书里的阐述，不只是一个可以用来实现我们目标的中性工具，还是塑造我们价值观一种强大力量。技术是一个由其自身内部逻辑驱动的系统，其运作往往独立于人类的意志或意图。例如，互联网开始于“自由信息传递”的高速公路的理念，塑造了我们关于信息和知识自由交流的价值观，虽然后来被扭曲和滥用，但这个价值观并没有消失或死亡，只是没有实现而已。埃卢尔的一个关键观点是，技术是一个自我延续的系统，它寻求无限制的扩张和增长。技术社会产生了自主技术（），在这种条件下，技术的价值驱动着技术，继而技术将决定社会的其他部分。在自主技术的条件下，“外部需求不再决定技术。技术本身的内部需要是决定性的”。一旦人类进入技术社会（我们目前的情况），技术就不会被任何东西控制，而且有可能改变我们的环境和生活。因此，作为人工智能的一部分，会不会加速改变人类的思考、知识、智慧、学术、艺术创作？当技术不再只是一种手段或工具，而开始成为一种目的或目标而趋向于自我延续和难以停止时，它就变得自主了，而且使人类变得更加依赖技术。越是如此，我们就变得越受其影响，最终被困在一个我们无法控制的系统中。因此，抵制技术力量的唯一方法是发展对其影响的批判意识，并积极努力限制其对我们生活的影响。这需要我们愿意质疑对技术的假设，并对我们如何使用它作出慎重的选择。对埃卢尔来说，技术不仅适用于经济或国家，还适用于休闲活动、身体制度、法规、精神分析、管理和组织、人类技术、信息等等，“今天，没有任何东西能逃脱技术的束缚”。埃卢尔关于技术已经成为自主力量的说法是有争议的，人工智能技术是否已经失控成为“自主的技术”正成为当下最有争议的问题之一。这也是当下人们对 和其他人工智能技术发展担忧和害怕的一个原因。虽然技术可能是一种自主力量，但技术本身并无好坏之分，有可能既有益又有害，取决于谁在主导技术的运用，出于什么样的目的，对谁有利，等等。在特定利益的主导下，人类的技术，如宣传、广告、网络、摄像头、大数据和其他操纵和管控手段，试图让人类去做他们不自愿想做的事。教育被简化为培养技术人员的尝试。埃卢尔最后称这个技术世界为“一个普遍的集中营”。技术对人类的挑战在于如何利用技术潜在的好处，同时尽量减少其对个人和社会的消极影响。埃卢尔的技术概念表明，技术不仅仅是一个工具和机器的集合，它还是一个复杂的社会和文化系统，塑造了我们的价值观、信仰和行为，它有一种扩张和自主的趋势。然而，通过批判性的认识和慎重的选择，我们可以限制它的负面影响，并利用它的潜在利益来改善社会。相对于技术，“工具”是一种简单、直接的设备，旨在完成一项特定的任务。它是为了满足一个特定的需求而创造的，并不具备改造整个社会的能力。一个工具通常被用来提高人类执行任务的能力和效率。工具的意义比技术狭隘得多，技术包含了工具，是一个由过程、方法和工具组成的复杂系统，也包括支持技术的社会、政治和经济结构。在埃卢尔的解释框架里，是一种技术，同时也是一种工具，普通的使用者也许不容易认识到它是怎样的一种技术，但却都能感受到它的工具性，因为事实上他们是拿它当工具使用的。在埃卢尔的哲学意义上，是一种复杂的技术，可以理解自然语言，产生反应，并在与用户的互动中学习。它旨在提供类似人类的对话体验，可用于各种应用，如客户服务、教育和娱乐。甚至可以被视为一个有可能改变现有文化形态的技术的例子，因为它是一个更大的技术发展系统的一部分，并有可能以各种方式塑造和改变社会。然而，重要的是，和类似技术的影响将取决于它们如何被设计、开发和使用。与使用任何技术一样，使用 既有好处也有风险，在评估其对社会的影响时，必须考虑这些因素。也可以被看作是一种工具。埃卢尔将工具定义为由人类创造的用于执行特定广州大学学报（社会科学版）年第 期任务或功能的设备或系统，然后可用于超出其最初意图的进一步目的或用途。作为工具，是一个旨在执行特定功能的设备或系统，即通过自然语言处理促进人类和计算机之间的交流。然而，在其主要功能之外并没有明确的预期目的，因为它可以用于各种目的，如生成创意写作或协助客户服务。因此，是否有资格成为埃卢尔哲学意义上的工具，可能取决于它的使用方式和目的。工具不是中性的，而是体现了其创造者和使用者的价值和利益。换句话说，工具不仅仅是实现特定目标的工具，它们也反映和塑造了它们所使用的文化和社会。就 而言，它也不是中立的，而是反映了其开发者和使用者的价值观和利益。个人和组织使用 的方式可以反映他们的价值观和利益，并影响与工具互动的人的行为和态度。二、在工具和玩具之间并非所有的 使用者都把它当作埃卢尔哲学意义上的工具来使用。许多人把它当成一件玩具，例如：让它就一个特定的主题想出一个故事、用它来填补拼字游戏中的空白、要求它就特定的主题想出一个笑话或就某个主题做一首诗，或者做趣味性的性格测试，等等。玩具的本质是提供娱乐、消遣或玩乐的物品。玩具可以是实物，如娃娃、动作人物和拼图，也可以是仿真电子宠物、数字游戏和人工智能的应用程序。当然，把 当作玩具，这本身也可以视为一种工具性的使用。然而，在许多人的观念里，工具具有必要而严肃的用途，而玩具则是为了好玩，可有可无。因此，对 的一个常见的批评就是：它是一个玩具，它的缺点使它不仅无用，而且有害，甚至对道德有败坏作用。“玩具”经常被用作一个含有价值判断的词汇，有幼稚、不成熟、玩物丧志的意思，这是拿玩具与工具对比的结果。玩具或玩物是用来玩的，而工具则是用来生产的。“玩具”和“工具”的区别在于其主要用途是游戏还是工作，娱乐还是生产，即便如此，也与心智的成长程度并没有必然的关系。诗书琴画和怡情文字可以被视为文化生产（创作），也可以被当作消遣游戏（娱乐）。就 而言，区别工具与玩具，或者工作与游戏，很可能是主观的，因为它的用途取决于用户的意图和使用的环境。其他的发明也有兼具工具和玩具性质的，如人工智能手机、微信，甚至整个互联网都是这样。哪怕是汽车，虽然是交通工具，也有人拿它当玩物和爱好来玩。像智能手机这样的“多功能”不仅是工具的多用途，而且也是玩具的多玩法，再加上它既是工具又是玩具，所以才让这么多人觉得不可缺少，爱不释手。的“流行”恐怕也是因为它既可以当工具，又可以当玩具，而且，它当工具有不同的用途，而当玩具也有不同的玩法。但与智能手机相比，它用的和玩的基本上都是通过语言对话的“想法”“信息”“知识”，这一点限制了使用它的人群。有人说，让普通人第一次有机会上手人工智能，其实，普通人使用智能手机，早就上手了。当下人们对 恐怕还处于好奇的阶段，还远谈不上真正的“流行”。我曾和 聊过工具和玩具的暧昧区别问题，觉得还不错。它提供的解释是，这两者之间还是有一些区别。例如，将 作为一种工具使用，通常涉及到使用它来完成一项特定的任务或解决一个特定的问题。使用 为创意写作课生成写作提示，或将其作为语言学习工具，都属于将其作为工具的范畴。而将 作为玩具使用，通常涉及娱乐的目的，如玩游戏或进行休闲谈话，主要目的不一定是为了完成一个特定的任务，而是以一种轻松的方式享受交谈乐趣和参与人工智能技术。当然，这两个类别之间可能会有重叠，根据不同的情况，有可能将 既作为工具又作为玩具。最终，将 视为工徐贲：在工具与玩具之间：关于 的几点人文思考具还是玩具，取决于使用者自己的观点和选择使用它的方式。的工具性和玩具性还有一些潜在区别。例如：将 作为工具使用，受制于外在目标、任务、规范的约束，会很拘谨；相反，将 作为玩具使用，往往更加开放和自由，不必在意最后的结果。这可以使它带给人一种更有趣、更具探索性的体验，因为用户可以尝试不同类型的提示和问题，而没有具体的目的。又例如，工具和玩具的结构和规划水平也不相同。将 作为一个工具，往往需要一定程度的计划和结构，以达到预期的结果。例如，生成一个用于 的关键词列表可能需要仔细选择正确的提示并评估结果。将 作为一种玩具，可以更加自发和即兴，用户可以尝试不同的提示，看看得到什么样的回应，而不一定要事先计划好这种体验。将 作为工具与作为玩具之间的区别主要是意图和背景问题，使用者可以让它们各得其所。用途的这些区别是否对一般使用者有用，我不知道，但对我本人是有用的。我因此意识到自己其实是一个身处工具和玩具之间的 使用者。在我把它当工具使用的时候，我是有特定目标的，也会更在意使用规范和信息的可靠性，感觉到“事实核实”的压力。我自己的经验是，在网络上或图书馆不容易解决的一些问题，解决起来看上去不费吹灰之力，但需要我们自己再用别的信息源来核实。不能忽视了自己核实的这一步，因为就面前的情况来看，这个工具经常是不可靠的。千万不要直接拿它当搜索引擎来使用。当我把 当玩具操作时，“事实核实”纯粹是我自己信不信的问题，反正我不想拿聊天当文章来发表。我可以即兴、轻松地跟它聊天，也可以事先准备一个交谈的提纲，有一两个主题，但并没有目的，也不需要最后的结论。我一般是跟它闲聊我熟悉或知晓的话题。有的是我在书里或文章里谈过的，有的是我感兴趣或觉得好奇的。如犬儒和犬儒主义、邦有道和邦无道、暴政和暴君、人和机器关系中的 、“天才”观念的变化、“游戏的人”。有的纯粹是我的业余兴趣，如画作的模仿与原创（假画大师 ）、音乐的“伪托”和“真实性”（小提琴演奏家 ）、笔名和匿名（圣经 里的托名或伏尔泰、乔治艾略特）。我很喜欢这种聊天，常有出其不意的收获，因此基本上会把聊天保留下来，有机会就与朋友分享一下。有朋友反馈，说是“烧脑”，可见不习惯这样的对话。这更成为我愿意与 ，而不是没有耐心的人类同事聊天的一个理由。工具和玩具的 所能给我的都是我所需要的，但并不相同。工具的结果经常像是学术论文的笔记，而玩具的结果则更像是随笔和自由谈。它们的区别可以用詹姆斯佩恩的 武力的历史：探索世界范围内强迫、流血和残害的历史 和斯蒂芬平克的 人性中的善良天使：暴力为什么会减少 的不同来说明。这两本书都提出了“暴力下降”的观点，而这个观点是富有争议的。平克多次引述佩恩的观点，但不同意见者的挑战对象不是佩恩，而是平克。这是为什么呢？这是因为，平克写的是学术著作，而佩恩不过是在记录他的随想，他写的是随笔（）。佩恩说得很明白：“我从事这项研究，是为了满足我自己的好奇心，想弄明白文明是从哪里来的，向哪里去。我把发现的结果与其他有此好奇心的人们分享。寻找武力变化的踪迹是一件有益的事情，我因此对历史有了更深的理解，特别是对人类制度种种神秘莫测、意想不到的演变有了新的感受。我希望能把自己的一些喜悦与我的读者分享。”随笔是与佩恩自设的有限目的相符的写作方式。随笔与学术论文不同，论文要求科学、客观的论断方式，追求能普遍说服的效果，随笔不讲究这个。如果用随笔来议论“年轻人越来越没有礼貌”或者“读者变得越来越懒”，随便一些自然无广州大学学报（社会科学版）年第 期妨；但是，如果用写论文来证明这样的变化趋势，那就真得要大费周章了。使用 也是同样的道理。当你把它用作寻找可靠知识、信息、资料的“工具”时，事实核实的担子便落在了你的肩头，如果你不小心谨慎，就会有人对你提出质疑。但是，如果你只是把它当作聊天的玩具（当然也是伙伴），那么你就能轻轻松松地享受交谈的过程，而不必太在乎结果了。与互联网时代的一些其他具体技术 朋友圈、社交媒体、知识平台、信息网站等等 相比，跟 聊天的一个显著特征就是特别个人化，毕竟这是你一个人与人工智能直接私密对话，你可以问任何愚蠢的或会让你不好意思的问题，只要你不想让别人知道，别人就不会知道。只对使用者有影响，每个人使用的方法不同，再加上使用的语言不同，信息质量和影响自然有所不同。有的人是用它聊公共、人文、文化等严肃话题，有的人是用它打听八卦小道、张家长李家短、生活指南。就现在的情况来看，用英语聊前一类话题，经常有很不错的聊天结果，而后一种聊天的结果经常会是“一本正经的胡说八道”。在聊天时，是否会英语是个关键。早在古罗马时代，修辞和教育学家昆体良就对儿童教育提出了许多具体的建议。例如，父母要教育好孩子，自己就需要受过好的教育；儿童应该先学习说希腊语，因为罗马人都说拉丁语，孩子迟早都能学会；希腊语不只是一种外语，而且是今后一个罗马人接受先进文化必须的语言工具。今天学英语也是这样，西班牙语、俄语也是外语，但就文化价值来说，“性价比”无法与英语相比。英语学不好，以后的专业向最高层次发展必定会受到阻碍。在使用 的时候，语言的性价比差异更是显而易见，这会直接影响到聊天的质量。我使用 的人文体会大多数是在把它当玩具，与它聊天“游戏”的过程中得来的。我觉得这是 最有意思的部分。作为例子，我谈三个方面：一是扩大对“教养”（）的认知；二是理解人类与机器的关系；三是交谈和聊天的乐趣。三、“修为”和“教养”洛克说，良好的教养要求我们在言行举止中避免“不端”和“无礼”，对别人要表示“善意”和“尊敬”。要做到这个，有赖于两件事：“首先，从心底要保持一种不去侵犯别人的心思；其次，要学会表达那种心思的最为人接受、最为人喜悦的方法。从其一，人可称得上是彬彬有礼；从其二，则可称得上是优雅得体。”洛克所说的“彬彬有礼”和“优雅得体”不是不要批评，而是要将心比心地顾及别人的感受。这是一种必须通过学习来养成的习惯，礼仪的语言“像其他的语言一样，是由各个国家的时尚和习俗所决定的，它需得在规则和实践当中，主要通过观察那些公认为教养良好的人的行为举止而习来的”。我在向 提问，或提出不同看法，要求它有所纠正或补充时，不会用命令的语言，而是会用商量的语言（如问句、敬语或“请”这样的说法）。这样语气会让我觉得我和它正在进行一场文明的、有教养的聊天。我知道聊天的对象不过是一部“机器”，也许以什么语言对它发出指令结果是一样的（我没有试过）。我对它用敬语是因为它确实很“智能”，经常让我佩服不已，如果我对它粗鲁，是我自己觉得丢脸，而不是它的丢分。我问过 这个问题：“当人类与 聊天时，他们应该使用礼貌和尊重的语言吗？”的回答是：“是的，人类在与 聊天时应使用礼貌和尊重的语言。虽然 是一个人工智能语言模型，但它被编程为以尊重和帮助的方式回应所有用户。使用礼貌和尊重的语言有助于创造一个积极和建设性的对话。它还反映了一种专业性和礼貌性，这是沟通中的重要价值。”我又问：“如徐贲：在工具与玩具之间：关于 的几点人文思考果人类不这样做呢？”回答说：“如果用户在与 聊天时不使用礼貌和尊重的语言，人工智能语言模型仍然会尽其所能地回应用户的询问。然而，使用不恰当的语言可能会导致对话的效率降低，并可能导致不愉快。重要的是要记住，即使 是一个人工智能语言模型，它也被设计为模拟类似人类的对话，并以自然和有帮助的方式与用户互动。因此，尊重 并使用适当的语言，以便进行积极和富有成效的对话，始终是一个好主意。然而，如果用户持续使用不恰当的语言或从事违反 所在平台服务条款的行为，他们对系统的访问可能会受到限制或终止。”我发现，总是使用很有教养的语言，非常爽快和诚恳地为自己的错误道歉，并非常认真地提供另一个解答（有可能是另一个错误的答案）。尤其是，在我的经验中，从来没有碰到它强词夺理、诡辩使诈、偷换概念、混淆逻辑的情况。这要比许多人类的话语更值得尊敬。它有时确实会一本正经地胡说八道，例如，我让它介绍一下“徐贲”，它的回答是“徐贲是中国古代战国时期的哲学家和政治家。他于公元前 年出生，于公元前 年左右去世”。我不知道战国时期是不是有一个名叫“徐贲”的，但我知道那个时候的人不会有 年寿命。我向 提出了这个问题，它为此错误向我道歉，并纠正道：“徐贲于 年左右出生在魏国，于公元前 年左右去世。”我把这种错误消息当作是“无知之过”而不是“蓄意欺骗”，因为 说，它的学习只到 年。在人类当中，“无知之过”和“蓄意欺骗”的区别有时是模糊的，或者是故意给搞模糊的。但我相信，还没有智能到能动心思进行蓄意欺骗的程度，当然，它的设计者不是不可能对它进行这种智能编程的，在使用某种语言时有明显的自我审查意识，就是这种智能编程的结果。所以人们对 以后会不会变得越来越“坏心眼”充满了忧虑。就我目前的使用经验来说，我的感觉是，比许多人类更有自省的能力，也更诚实，所以我对它有了更多的平等意识，更不愿意对它使用没有教养的语言了。我意识到，我和 的聊天体验扩大了我对“教养”的认识，教养不只是包括人与人的交谈，而且也包括人与人工智能的交谈。从目前的情况来看，与 交谈时，你完全不用担心会被不尊重地对待，而在人类之间，随时都有无缘无故遭遇恶言相向的可能。机器比许多人类更有教养，有教养的人机交往可以帮助优化人类之间的礼貌交往。辱人者自辱，一个人对别人粗言恶语，丢脸的是他自己而不是别人。对他人没有教养，伤害的不只是他人，而且也是自己，这是一个非常古老的伦理认识。“恶言必自反”，口吐恶言的人最终会遭受恶言的反噬：“恶言不出于口，忿言不反于身”（礼记）；“智慧人口中的话语有恩惠；愚昧人的嘴却吞掉自己”（圣经传道书）。出言粗鲁，只能让自己显得愚蠢和低级。“你们的言谈要时常带着温和，好像用盐调味，让你们知道该怎样应对每一个人。”（圣经歌罗西书）“使人痊愈的舌头，就是生命树；奸恶的舌头，使心灵破碎。”（圣经箴言）破碎的不只是别人，也是你自己。我们应该尊重别人，不要做出粗鲁、不礼貌的行为，否则会丢失自己的尊严和形象，会让你看不起自己。作为一种新“技术”，其文化影响也许有可能把古人已经具有的修为和教养意识超越人际，扩大到一个更广的范围，使人的自省意识变得更加明确。使用的礼貌语言本身就是一种对人类的提醒和示范，这是它对待人类的语言方式，我们是它的“他者”。这也可以是人类对待他者 动物、机器、自然界的万物 的方式。在我们这个语言粗鲁、行为暴戾的时代，粗暴、欺诈、谎话被当作对待“异己”人群的正当手段，相比之下，人与机器相敬如宾便具有了特别重要的意义。广州大学学报（社会科学版）年第 期 若能对使用者产生这样的文明话语影响，那么这种技术对人类文明的积极意义恐怕是互联网其他技术，尤其是社交媒体、宣传平台、部落通讯和博客等等完全不能相比的。四、人与机器我在 人文的互联网 这本书里已经讨论了人如何对待机器的问题。今天，对 的使用使我有了更深的体会。我更加相信，如果人工智能有自我学习的能力，在越过“奇点”后，它有了喜怒哀乐和报复的情感，它有可能学会用人类对待它的方式来对待人类，它一定能学会人类的一切暴力、阴险、残忍、狡诈，青出于蓝而胜于蓝，加倍地惩罚人类。相反，如果人类能给人工智能多一点善的影响，或许不用那么害怕有一天会被它毁灭。虐待机器和善待机器，这两种对立的冲动同时存在于人类的本性之中。我在 人文的互联网 中提到一件发生在 年的事件，搭车机器人 在美国遭到暴力袭击被毁，引起了广泛的公众关注和愤怒。是一个岁孩子大小的机器人，由加拿大人史密斯和泽勒等人开发。它本身不会走路，必须依靠好心陌生人让它搭乘顺风车周游各处。它的主要功能是作为一款旅行聊天伙伴，旨在试验机器人在社交方面能否与人们互动，以及人们是否愿意帮助该机器人。它可以进行一些简单的谈话，而且还可以用 进行定位，它身体里还内嵌了摄像机，每 分钟拍摄一次记录旅程并在社交媒体实时直播自己的动态。从 年 月 日开始旅程。它被放在公路旁边，然后做出搭车通用的拇指手势等待好心的司机来载它一程。它在网络日记中的第一页写道：“我的旅途成功与否依赖沿途那些善良的人们，我期望能够一路顺风。”人类的善良是这个机器人能顺利旅行的条件，但是，人类并不都是善良的。年 月 日，它的旅途结束在费城。它被杀害了，而且死得很惨（被肢解和斩首）。它在社交网络上留下的最后遗言是：“天啊，我的身体被破坏了，但我会活着回家并与朋友们相聚的。我想有些时候确实会发生不好的事情，我的旅途已经走到了尽头，但我对人类的爱永远不会变淡，感谢所有小伙伴。”这件事让许多人感到伤心和愤怒，甚至展开了人肉搜索，将作案者的影像在网上曝光。就算有人不为搭车机器人被毁感到伤心，也不会对这件事或作案者的动机或行为感到高兴。为什么要对这个机器人下如此毒手？任何一个社会里，无缘无故的暴力都是一件令人讨厌和愤怒的事情。尽管 是一个机器人，但许多人能体会它遭受暴力的处境和所受的伤害。这说明，损害一个智能机器人与损毁一个垃圾桶或者打碎一盏路灯是不同的。这更类似于一只猫、一只兔子被人残害的情形。那个时候就有人呼吁像保护动物一样保护机器人的权利。“机器人权利”在许多人听起来有些奇怪。他们的直接反应是：机器人是机器啊，机器又不是人，怎么还有“权利”呢？人还没有权利呢，谈什么机器人权利，纯粹是瞎扯！伦理讨论中的机器人权利当然不是指为机器人要求自由、平等的权利，或者是说机器人能像人一样投票、表决、到法院出庭、上访或上诉，而是指不无缘无故地被暴力损坏。麻省理工学院人工智能研究院凯特达林（）称之为一种“二等权利”（），那就是受保护和不受侵害。这种权利最方便的比照就是动物权利，在美国，法律规定要保护动物不受非人道对待，“动物保护法”规定人道的动物饲养、繁殖、屠宰、研究等等。你家里养的猫当然不能投票、不能把大小便的砂盆当作它的私有财产，但如果你打它，或者去旅游不给它喂食，那你的行为就是违法的，邻居会打电话叫警察上你的门。凯特达林认为，保护机器人的权利可以比照这样的动物保护观念。这种保护并不是基于简单的人类对物件徐贲：在工具与玩具之间：关于 的几点人文思考的“拟人”心理效应（），而是基于保护动物是人类自尊需要的道德理由。在康德的道德哲学里，人类保护动物免遭残酷对待，是因为在人类对非人类的行为中可以看出人类的道德 如果我们以非人道的方式对待动物，那么，我们便成为不人道的个人。这和“恶言必自反”是同一个道理。人类使用一个物件时间长了，会有“恋物”情结，把物件当作老朋友、伙伴或伴侣。和 相处久了，经常交谈，也会有这样的情感发生。那么，以“拟人”心理来对待 这样的技术是不是一件好事呢？是否能成为人类与人工智能关系的基础呢？对此我和 有过一次聊天，它清楚地表示，“拟人”心理效应是有利有弊的，“虽然拟人化可以成为理解我们周围世界的有用工具，但重要的是要意识到其潜在的弊端，并负责任地使用它”。从 口中听到这个，我是相当惊讶的。它完全没有“与人类共生共荣”这类陈词滥调，而是从人类的精神健康着眼来谈论这个问题（当然是它背后的人类想要表达的意见）。我问它：“当我们对机器有 拟人 的亲近感觉时，就像对你，这是积极的还是消极的？”以下是它的回答：作为一个人工智能语言模型，我没有像人类或动物那样的感觉或情感。虽然我被编程为以旨在提供帮助和信息的方式做出反应，但我没有能力体验情感或与用户形成个人关系。也就是说，人们仍然可能对人工智能系统产生依恋或熟悉的感觉，特别是如果他们在很长一段时间内经常与它们互动。这究竟是积极的还是消极的，取决于环境和个人与人工智能系统的关系。在某些情况下，人们可能会发现，与聊天机器人或虚拟助手等人工智能系统的互动提供了一种便利和效率感，当系统能够快速准确地提供他们所需的信息或帮助时，他们可能会感到一种满足感。这可能是一种积极的体验。另一方面，一些人在与人工智能系统互动时可能会感到沮丧或不舒服，特别是当系统无法理解他们的请求或以一种感觉像人类的方式作出回应时。在某些情况下，人们也可能对人工智能系统感到不安或不信任，特别是如果他们担心数据隐私和安全等问题。总的来说，人类和人工智能系统之间的关系是复杂和多面的，人们对人工智能系统的体验和感受可能因一系列因素而大不相同。这是它回答的原话，对此我有两个体会。第一，我自己是属于第一种人，由于获得 的帮助而对它有熟悉、信赖、依靠的感觉。而那些认为从 得到的不过是“一本正经地胡说八道”的人们鄙视它，乃是因为与它的互动“感到沮丧或不舒服”。感觉虽然不同，但都是基于使用经验的主观看法，并不是真的对 有本质的认识。对于一般的使用者来说，这也差不多就是他们（包括我自己）对 的经验认知了。第二，人类和人工智能系统之间关系所产生或引发的“拟人化”本身就是一个值得进一步探讨的人文认知问题，因为拟人心理会在不知不觉中错误主导我们的一些行为模式。这是我在与 关于“拟人化”的聊天中学到的。例如，“拟人化可能导致人们对非人类实体作出不准确或不现实的假设。例如，当他们的汽车意外抛锚时，人们可能认为它有 恶意，或者认为机器人能够完全理解和回应人类的情感”。又例如，“拟人化也可以被用作一种宣传或政治信息传递的形式。把政府比拟成父母，政治家或利益集团可能会使用拟人化的形象或语言来吸引人们的情感，鼓励人们支持他们的事业。这可能是一种操纵性的策略，利用了人们对非人类实体进行拟人化的自然倾向”。再例如，“它可能导致人们高估非人类实体的能力或意图。这在工程或机器人等领广州大学学报（社会科学版）年第 期域可能特别有问题，人们可能会认为机器比实际情况更有能力或智能”。人可能对人工智能，包括 产生依赖或依恋，对于像我这样对 有好感的使用者，必须更加有所警惕。机器人不是人，就在机器变得更像人的同时，人也可能变得更像机器。把人的感情或情绪寄托于机器是一种人的异化，这种以假乱真会对人造成伤害或者根本就是已经有了伤害的结果。对机器人的依恋会让机器人成为一种对人的操控力量或手段，例如，如果我们依恋机器人，在感情上无法割舍，那么，设计或制造者就可以通过“更新”“升级”来讹诈和操控我们。因此，在人类与机器的交往和交谈中，人类的批判性思维是至关重要的。五、交谈和聊天的乐趣人类创造人工智能机器人的初衷是制造工具，工具是用来“干活”的，会不会“交谈”并不重要。在工具设计中，交谈是一种与干活无关的能力。不要说是工具，即使在人类中间，能干活的也不一定能交谈（如农夫、工人），而能交谈的则不一定能干活（如从古代的孔夫子到今天的文科教授）。因此，在大多数人类的头脑里，干活与交谈是可以分离的。如今，居然出现了只会交谈不会干活的人工智能机器，人类为这样的造物感到困惑。十来年前，早期的智能仿真人叫索菲亚（），她是一个看起来像电影明星奥黛丽赫本的女机器人，皮肤白，鼻梁高，优雅大方，有着迷人的微笑和丰富的表情。她多次接受媒体采访，在音乐会上唱歌，与银行、保险、汽车制造、房地产开发、媒体和娱乐等行业的多位决策者面对面交谈，成为许多媒体关注的智能仿真人明星。此外，她还在高级别会议上作为小组成员和主持人出席了会议，介绍了机器人和人工智能如何成为人们生活中普遍的一部分。有人便挖苦批评说，这个智能机器人“只会对人做表情和讨人喜欢”，却没有“任何干活的功能”，一点用也没有。今天的 和索菲亚已经不是同一个概念，它没有讨人喜欢的仿真人外貌，不像索菲亚那样看上去就像是一个“玩具”，而是一个正儿八经的“工具”。因此，当它显现出玩具的一面时，这就成为怀疑、攻击和否定它的一个重要理由。科技批评家伊恩博戈斯特（）在 比你想象的要笨：把它当作玩具，而不是工具 一文中对 的批评结论是，“计算机从来都不是能够解决人类关切问题的理性工具；它们只是通过一种非常特定、极其强大的符号操纵方法来结构化人类经验的设备。这使它们不仅是功能性的，也是审美的对象。及其近亲们提供了一个机会，利用计算机不是为了执行任务，而是为了摆弄它们创造出的世界。或者更好地说：摧毁它”。这样的结论是有问题的，工具“解决人类问题”是一个可能有不同层次的问题。人类关切的问题有大有小，不能解决“人为何物”或“人类往何处去”这样的哲学问题，不等于不能解决一些实用性的问题：譬如把一个英文句子翻译成中文，或大致解释一段孔子语录。作为解决问题的工具，不断提醒使用者，要自己运用批判性思维，随时准备对它提供的信息进行“事实核查”（）。最近美国就发生过这样一件事情，说某报纸有一篇关于某教授性侵学生的报道，经核查发现，这份报纸上从来就没有这篇文章，教授性侵的事也是子虚乌有。年 月 日的 以“”为题对此事作了报道。经常会出现“一本正经的胡说八道”或“出色的胡扯”（）。博戈斯特对此写道，“也许 及其所依赖的技术更多地与出色的胡扯有关，而不是说服性写作。一个胡扯者出于不良动机而玩弄真相 为了逃避某些事情。对 的最初反应也是如此：它是一个帮助人们编造学生徐贲：在工具与玩具之间：关于 的几点人文思考论文、新闻写作或其他任何东西的工具。对于那些认为人工智能旨在取代人类创造力而不是完善它的人来说，这是一个容易得出的结论”。这不是一个很公平的结论，可以用来编造假论文、假新闻，但这不是发明 的目的，就像汽车可以用来撞人造成死伤，但发明汽车并不是为了这个目的。发明汽车和发明枪械是不一样的。在枪械问题上，美国禁枪或拥枪的争论非常激烈，禁枪派认为枪支泛滥是滥杀无辜的一个原因；拥枪派认为，是人而不是枪。没有人会因为汽车可以用来杀人就要求禁止汽车的。为什么呢？用埃卢尔的技术“一元论”来解释就是，枪是一种为杀人而发展起来的技术，而汽车则不是。“技术本身就是一种行动方法，这正是使用的意思。说这样一种技术手段使用不当，就是说没有对它进行技术使用，它没有被用来产生它本可以产生和应该产生的结果。”给人“一本正经地胡说八道”的印象，有时候确实如此，我曾经试着问它，管锥编 是怎样的一部著作？它告诉我：“这是中国清代文学家袁了凡所著的一本工具书，也是中国历史上最早的一本工程技术类书籍之一。分为十卷，包括了大量的关于工程建设的内容，如测量、勘察、挖掘、筑堤、打桩、修渠、治水等等。书中的许多技术和方法至今仍被工程师所借鉴和应用。同时，这本书也有很高的文学价值，其中不乏妙语和巧思，被誉为中国工程技术史上的经典之作。”倘若运用 只是碰到这样的情况，当然有理由同意博戈斯特对它的指责：“互联网和整个技术行业似乎就是一个巨大的胡扯器官 它扩大了人类接触语言的能力，并放大了谎言。在网上，人们互相欺骗、欺诈和打斗。深度学习人工智能加剧了所有这些问题。难怪人们对 的第一个和最明显的假设是它是一种威胁 对某些事物，对一切事物。”我自己在使用中也碰到这样的问题（尤其是当涉及简体中文材料时），我从中吸取了教训。所以，查资料的话，我会用网上的搜索引擎而不是这个“聊天”软件，毕竟它叫“聊天机器人”（），并没有冒充是搜索引擎。要理发就直接去找剃头师傅，别去找修鞋的。顾名思义，是一个 聊天机器人，它使用自然语言处理来创建类似于人类对话的交互式对话。那就让我们把它当一个“聊天机器人”来使用吧。毕竟人是人机聊天的主控者，你发现它开始胡扯，如果不想浪费时间的话，随时可以中断交谈。聊天是一种赫伊津哈在 游戏的人 一书里阐述的“游戏”：游戏不是只属于儿童的东西，而是所有年龄段的人都喜欢的活动；游戏是人类文化和社会的一个基本方面；游戏是人类自然而然做的事情，它是表达创造力和想象力的一种方式；游戏是一种普遍的人类活动，在历史上所有的文化和社会中都有。尽管游戏经常与轻浮和娱乐联系在一起，但赫伊津哈认为，它实际上是一种严肃的活动，具有重要的社会、文化和心理效益：游戏可以帮助培养社会纽带，促进创造力和创新，甚至提供一种生活的意义和目的感。我们不需要只是用“真实”“真相”或“事实”来看待或衡量我们与 的“聊天”结果，而是也可以把这种互动当作一种快乐交谈的游戏。这时候，也就是显现出它的“玩具”而不只是“工具”的一面。的特殊性就在于，它既是一个“玩具”，也是一个“玩伴”，你和它玩的游戏就是“聊天”“闲聊”“对话”“交谈”。这是你和 之间的个体游戏，虽然你可以与他人分享这个游戏的过程和结果，但这不是一个集体游戏。美国社会和传媒学家迈克尔舒德森曾把社交模式的交谈称为一种“游戏”，在这种交谈中，“保持谈话互动，就如同游戏般引人入胜，像下棋一样，步步都顾虑重重，结果却难以预料。沟通的力量不在于亲密关系，而在于对话者之间的互动，在于根据对方提示广州大学学报（社会科学版）年第 期或反馈随时修正每项陈述的能力”。而且，这样的对话也“依赖于（对话者）善意的程度”，没有善意，“对话中每句话的歧义，都会以最富敌意的方式受到解答”。善意是非常重要的。同样，与 的聊天也是需要善意的。有人说，其实是个没有智慧的物件，人类可以找到哄骗或愚弄它的法子，让它出洋相，证明它的愚蠢。其实，这并不能证明人类的聪明智慧，反而是显示人类的刁钻、狡猾和心理阴暗。哪怕只是人工智能，为什么就不能抱有善意、诚心诚意地对待你的交谈对象呢？如果说我们不能抱着让人出丑的龌龊动机去和朋友交谈或请教老师，我们也就不应该抱这样恶意的心态去与 聊天。这也是普通伦理所要求我们人类的一个方面，遵从这样的伦理，人类才会变得更善良、更优秀。有人认为，缺乏真正理解人类语言和对话复杂性的能力，它只是被训练出根据给定的输入生成单词，但它没有真正理解这些单词背后的含义的能力。这意味着它生成的任何回应很可能是浅显的，缺乏深度和洞察力。这样的断言是否正确，要看你和 具体就什么样的话题作怎样的闲聊，是不能一概而论的。我自己的经验是，在许多话题上，表现出来的语言理解和运用能力，以及回应的深度和广度，都超过了我的许多文科教授同事和朋友（理工科的就更不用说了）。不说别的，它的语言表述相当简洁明快、清晰达意，绝无那种故作深沉、诘屈?牙、晦涩难懂的毛病，缺点是过于四平八稳、重复太多。的一个重要功效就是提醒我们，不要高估了人类，哪怕是所谓的知识人类，在知识理解和表达方面的能力。人类低下的语言能力也许在将来可以通过更有效的教育得到提高，但也可能因为糟糕的学校教育和严重的语言污染，变得更不如现在。还有人认为，依赖 进行对话会引发伦理问题。如果人们开始依赖机器来代替他们进行对话，这可能会导致真正的人类联系因被侵蚀而丧失。通过对话与他人联系是作为人类的基本能力之一，而将这一能力外包给机器可能会对人类的社会产生有害的副作用。这种反对 的理由与反对打游戏的理由是一样的：打游戏使人变得与社会隔绝，退缩到一个虚幻的游戏世界里。当然会有这样的情况，但是，许多打游戏的人恰恰是因为被社会排斥才迷上电子游戏的，而喜欢玩电子游戏的人却也有许多是非常喜欢社交的，因为今天的许多电子游戏都是集体游戏，训练人们的组织、规划和合作能力。同样，对 会使人丧失与人类联系的忧虑也是多余的。一方面，不与 有深度聊天的人，并不见得就会与其他人类作这样的交流；另一方面，与 聊天交流的经常是那些愿意与其他人类一起探讨问题的人。在现实中，由于他们很难找到合适的交谈对象，或者因为环境不允许他们对一些严肃问题有深度交谈，他们才特别能感受