生成式人工智能对于医患关系的伦理重构.pdf

生成式人工智能对于医患关系的伦理重构黄一洲1谭郑雨1摘要：基于对生成式人工智能医学能力、风险以及第三者效应的综合考量，分析生成式人工智能介入医患关系可能构成的四种伦理转向：即“医人工智能患”共同决策模式（可能）、“患人工智能”深度协作与医生保守立场（可能）、恢复传统“医患”关系（可能）以及“医人工智能”深度协作与患者保守立场（可能）。其中“医人工智能患”共同决策模式的交互本质可能进一步形成两种相互背离的发展取向：一是以患者为中心的医疗实践模式，二是计算机主义的医疗家长主义。关键词：生成式人工智能，共同决策，医患关系中图分类号：R-05文献标识码：A文章编号：1002-0772(2024)03-0049-05DOI：10.12014/j.issn.1002-0772.2024.03.11Ethical Reconstruction of Doctor-patient Relationships through Generative Artificial Intelligence HUANG Yizhou1,TANZhengyu11.Department of Philosophy Research,Party School of the Guangdong Provincial Committee of the Communist Party ofChina,Guangzhou 510053,ChinaAbstract：Basedonacomprehensiveassessmentofthemedicalcapabilities,risks,andthird-partyeffectsofgenerativeartificialintelligence(AI),thispaperanalyzesfourpotentialethicalshiftsindoctor-patientrelationshipsresultingfromtheinterventionofgenerative AI:Doctor-AI-Patient shared decision-making model(possibility),Patient-AI deep collaboration with aconservativedoctorsstance(possibility),therestorationofthetraditionalDoctor-Patientrelationship(possibility),andDoctor-AI deep collaboration with a conservative patients stance(possibility).The interactive nature of Doctor-AI-Patientshareddecision-makingmodelmayleadtothedevelopmentoftwomutuallyexclusiveorientations:thepatient-centeredmedicalpracticemodelorthecomputationalmedicalpaternalism.Key Words：generativeartificialintelligence,shareddecision-making,doctor-patientrelationship随着人工智能技术在医学领域得到快速发展，现代医学呈现出以智能技术驱动牵引、基础理论创新突破为特征的新科学范式1。医学人工智能当前可分为以下基本类型2：一类医学人工智能通过收集、识别、筛选和处理各类医学影像数据，如胸部 X 线片3、视网膜图像4、皮肤照片5，以帮助快速确定可疑病灶；另一类医学人工智能通过自然语言处理和基于大数据的程序推理与分析，为临床提供治疗方案。例如，由国际商业机器公司开发的、被用于癌症的诊断和治疗的 WatsonforOncology 平台。其中，以 ChatGPT 及其最新版本 GPT-4 为代表的生成式人工智能，以其具备的通用的认知技能及类人风格（human-like）的自然语言文本生成，能够有效完成各类型任务，极大拓宽人机交互的工作空间6；近年来生成式人工智能在医学领域更是显示出广阔的应用前景，在前期健康监测、疾病筛查与预防，中期疾病诊断与治疗，后期个性化护理康复等方面发起了诊疗模式的智能化变革7。生成式人工智能的医学应用不可避免地影响了医患关系这一医疗实践的伦理核心，即原先的医患关系被生成式人工智能所中介，拓宽了原先医患双边关系的权责纵深，亟需对医生、患者和人工智能三方角色关系开展再审视。因此，本文首先讨论了生成式人工智能医学应用的能力与风险，并基于医患双方对于技术应用的不同立场，综合考虑“第三者效应”的存在，归纳出四种可能的伦理转向；进而重点讨论其中最具解放性的“医人工智能患”共同决策模式存在的两种相互背离的潜在发展取向：以患者为中心的医疗实践模式和计算机主义的医疗家长主义。1能力与风险：生成式人工智能的医学应用1.1能力：生成式人工智能的医学潜力生成式人工智能对于诊疗模式的智能化变革，可以从患方、医方和以医患关系为主轴的社会医疗系统这三个层次加以讨论。（1）就患方而言，生成式人工智能将极大地改变患者获取健康信息（healthinformation）的方式。特别是随着互联网成为患者获取医疗信息的重要来源，“谷歌医生”已成为普遍现象：即当面对未知的医学状况、未被医生告知具体信息或是不理解医生决策等情况时，患者经常会自行检索、寻找医疗信息。生成式人工智能正在使患者获取健康信息的方式从“谷歌医生”向“ChatGPT 医生”（Dr.ChatGPT）转变8。通过高效地利用互联网公开的、包含医学资料的海量文本进行训练，生成式人工智能拥有先天的医学知识，不仅能够回答诸如“什么是二甲双胍”“如何确定有慢性阻塞性肺疾病病史的患者病情是否恶1.中共广东省委党校哲学教研部广东广州510053作者简介：黄一洲（2000-），男，硕士研究生，研究方向：科技伦理、医学伦理。E-mail：医患关系医学与哲学 2024年 2月第 45卷第3期总第 734 期Medicine and Philosophy,Feb 2024,Vol.45,No.3,Total No.73449化”等医学相关问题，还能够通过患者输入的提示来生成医疗咨询意见6。尽管由其所生成的文本仍有较大局限性，无法作为有明确保障的医学信息来源，但生成式人工智能仍透露出良好的、可以进一步完善的应用潜力。例如，Davis等9通过专家评估的形式，分析了由 ChatGPT 生成的泌尿学领域下相关医学文本的有效性，其中 77.8%的答复被认为是适当的。Wang 等10评估了 ChatGPT 在中文环境下回答医学知识的能力，结果表明 GPT-4 不仅具有很高的语言流畅性，其水平甚至可以通过国家执业医师资格考试。（2）就医方而言，生成式人工智能通过执行各类医学任务的指令，可以担任医生的有效帮手。以 GPT-4 为代表的生成式人工智能具有强大的通用性，可以输入的内容包括自然语言文本、电子表格、公式、研究论文等，形成了广阔的医学应用领域，包括医学笔记记录6、诊断6、决策6、辅助医学研究6、临床病史收集11、试验登记12等。特别是针对原先较为繁琐的、经常耗费大量时间的文书工作环节，生成式人工智能能够大幅提高医疗效率。例如，在得到患者的知情同意书后，GPT-4 能够听取医患对话记录，并通过自然语言处理来撰写符合医生要求的医疗记录6；ChatGPT 还能够生成对于医生和患者都具有可读性和准确性的临床诊疗记录，以实现医患间的信息共享与交流13。除了繁琐的文书工作，GPT-4 在解决临床问题上也有亮眼的表现1459。例如，ChatGPT 能够作为临床决策的重要补充部分，显示出其优化临床决策的巨大潜力15。此外，GPT-4还可以有效完成诸如“请阅读并总结这篇医学研究文章”等指令，这对于传播可读的医学知识、辅助医学教育、推动医学知识发展均具有重要价值1460-63。（3）就以“医患”关系为主轴线的社会医疗系统而言，生成式人工智能对于重塑医疗资源格局、实现高效和有效的医疗实践具有革命性意义。首先，ChatGPT 能够与医疗系统结合并为其赋能。通过与患者的交互，Chat-GPT 可以提取、捕捉、识别患者的问题并进行分流，与医生合作执行各类医学任务亦提高了医方疾病预防、诊断及治疗的能力，简化医患双方的诊疗流程，实现医疗系统以更低成本、更高效率运转16。其次，ChatGPT 有望改善医疗资源配置的结构性失衡。区别于医学阵地与医疗资源单纯从“线下”到“线上”的转型或迁移，ChatGPT 最为引人注目的价值之一，即 ChatGPT 开辟了自身作为一种医疗资源的可能。特别是在医疗资源相对匮乏的农村地区或欠发达国家，ChatGPT 自身作为一种医疗资源，能够大幅提高患者对于医疗信息的获取水平，提高医生的诊疗能力并克服医患间沟通的语言障碍，以促进健康公平17。1.2风险：生成式人工智能的不确定性尽管生成式人工智能拥有令人兴奋的应用前景，但由于其技术不确定性导致的风险亦不容忽视。首先是就生成内容上看，生成式人工智能可能会生成具有很强误导性的、错误的文本信息。生成式人工智能的错误被称为幻觉（hallucination），即生成、捏造看起来措辞连贯、逻辑合理而事实上却不准确的信息18。医疗场景下幻觉的发生无疑是高度敏感且危险的，由于患者本身缺乏相关专业的医学知识储备，当患者面对形式上合乎逻辑的自然语言文本时，可能倾向于相信这些“被捏造的事实”。幻觉的发生，反映了大语言模型本质上是基于概率统计原理和训练数据的数学模型，由其所生成的文本内容尚缺失可信性判断19。尽管通过进一步提示，GPT-4 可以识别出自身的错误，但仍必须对生成式人工智能在进行医学应用时可能发生的不确定性保持谨慎20。其次是就技术内核上看，生成式人工智能仍带有人工智能受人诟病的传统，即算法黑箱问题。当 ChatGPT 应用的算法是复杂的、能够不断测试并调整自身而认知上不透明的“算法黑箱”时，来自“ChatGPT 医生”的诊疗建议或医疗决策是否仍是可靠的？这无疑构成了进一步探索未来医学模式的关键问题21。Burrell22从三个层面总结了人工智能认识论的不透明性：一是由于人工智能算法系统的内在复杂性导致的不透明性，即人工智能算法在运行时的状态（包括算法内变量、关系和系统状态等）无法获得解释；二是由于技术文盲（technicalilliteracy）而导致的不透明性，即人工智能系统是医方和患方均不熟悉的专业技术；三是由于商业机密而导致的不透明性，人工智能开发公司出于知识产权保护、投资回报等目的，刻意地保持算法的不透明性。学界就人工智能应用中不透明性的看法不一：持保守态度的学者呼吁“算法黑箱”应被排除在高风险的决策（如医疗实践）之外，并采用可解释模型（inter-pretablemodels）进行替代23；持开放态度的学者认为解释透明性并不总是必要的，主张以重视算法可靠性而不是强调透明性的计算可靠主义（computationalreliabilism）作为人工智能发展的核心议题24；另有学者提出从技术内部、技术规范、社会约束和环境营造四个维度建构可信任的人工智能系统的实践进路25。2恢复或重构：四种可能的伦理转向由于生成式人工智能的能力与风险长期并存，患者和医生将对 ChatGPT 越来越多地参与进医疗实践持有或保守或开放的不同立场；此外，第三者效应也可能会对未来的医疗决策模式产生潜在影响：第三者在日常用语中原指对于一对夫妇来说多余的人，这一表达现在被用来描述技术应用在医患关系中可能造成的复杂关系26。以患者的开放或保守态度为横轴，以医生的开放或保守态度为纵轴，由此形成四个象限，即四种可能的伦理转向：“医人工智能患”共同决策模式（可能）、“患人工智能”深度协作与医生保守立场（可能）、恢复传统“医患”关系（可能）以及“医人工智能”深度协作与患者保守立场（可能），见图 1。下面将进行分别讨论。生成式人工智能对于医患关系的伦理重构黄一洲等医学与哲学 2024年 2月第 45卷第3期总第 734 期50Medicine and Philosophy,Feb 2024,Vol.45,No.3,Total No.734 开放（患者）保守（患者）保守（医生）开放（医生）“患-人工智能”深度协作与医生保守立场医-人工智能-患共同决策“医-人工智能”深度协作与患者保守立场以患者为中心的医疗实践模式（弱）计算机主义的医疗家长主义（强）计算机主义的医疗家长主义医疗知识、信息的不对称性加深患者开放医学人工智能的资源优势人类间的情感需要去人性风险恢复传统医患关系人类间的共同文化医学人工智能的技术优势去技能化风险原因保守 原因恢复 原因保守 原因保守 原因开放 原因医生ChatGPT患者医生患者 中心技术 中心交互本质ChatGPT患者医生ChatGPT患者医生ChatGPT图 1生成式人工智能构成医患关系的四种伦理转向2.1可能：“医人工智能患”共同决策模式“ChatGPT 医生”融入医疗实践过程将构成三种交互：一是“人类医生与 ChatGPT 医生”的交互。当未来由“ChatGPT 医生”运行相关算法以实现诊断、分流、记录和决策时，一方面，对于人类医务工作者来说，接受医学人工智能技术方面的相关培训是必要的，即通过积极地和医学人工智能技术相结合，提高医疗实践效率；另一方面，医生作为“人类专家”，必须检查和审视医学人工智能的运行过程及其所产生的结论，即进行必要的可信性判断。二是“患者与 ChatGPT 医生”的交互。当恢复或维护患者健康需要“ChatGPT 医生”收集大量患者数据并将患者数据用于训练自身模型时，就需要重新思考患者信息管理、数据保密、算法偏见等问题27；此外，对于患者的教育也是必要的，即患者必须对“ChatGPT 医生”的能力与风险有基本的了解，以促进技术信任、知情讨论和科学决策16。三是“患者与人类医生”的交互。当“ChatGPT医生”被整合进医疗实践中，人类医生必须将算法的使用情况、算法生成的医学结论和诊疗意见的科学依据等信息有效地传达给患者16。上述三种关系反映了“医人工智能患”共同决策模式的人机交互本质6，这或进一步形成两种相互背离的发展取向：以患者为中心的医疗实践模式和以技术中心的计算机主义的医疗家长主义。2.2可能：“患人工智能”深度协作与医生保守立场这一可能转向由患者的开放立场和医生的保守立场所决定。“患人工智能”达成深度协作之所以可能，在于“ChatGPT 医生”具有的资源优势和技术优势：首先，“ChatGPT 医生”无需传统人类医生所需要的漫长的培养周期和较高的社会培养成本，若“ChatGPT 医生”能够成为“良医”“名医”，这对于优质医疗资源下沉无疑具有重要意义。特别是对于医疗资源相对匮乏地区的患者来说，“ChatGPT 医生”可能是不得不被他们接受的选择。其次，广泛、高效地利用医学数据并结合可信性判断训练自身，将促进“ChatGPT 医生”拥有的“先天的医学知识”不断增加，“ChatGPT 医生”可能最终具有比人类医生更高的技术准确性，人类医生可能由此面临去技能化的风险而采取保守立场24。最后，与人类医生相比，“ChatGPT 医生”不会疲劳，也没有人类的权力概念，可能更有利于实现标准化的医疗实践，因此部分患者群体或对“Chat-GPT 医生”报有更高信任，他们将更为积极地适应“患人工智能”深度协作的伦理范式转变。2.3可能：传统“医患”关系的恢复这一可能转向由患者的保守立场和医生的保守立场所决定。即使能够在技术上认识患者的需要并解决患者的问题，但若“ChatGPT 医生”无法考虑到人类间的情感需要和共同文化，这将构成对于同感、同情等传统伦理价值根基的挑战，并使医疗实践失去人性28。随着“人机”交互取代“人际”联系，当诸如可穿戴设备、临床决策支持软件（clinicaldecisionsupportsoftware，CDSS）等人机交互手段代替人类医生以更高效率和更高的准确性得出相关的诊疗建议或结论时，医患间面对面询问、联系、交流、互动的实际接触过程无疑将减少，同情、同感等过程或将失去现实载体。其次，“ChatGPT 医生”未必能够从人类共同价值观的层面理解和分享患者的感受、观点和想法。例如，“ChatGPT 医生”不会像人类一样体验病痛或死亡，如何实现同感和同情？对于一些群体来说，技术增强可能并没有人类共同的情感联系与伦理关怀重要27，这部分群体或寻求恢复、回到传统的医患关系结构。正如 DeCamp等29强调，不应当将人类间的信任与可靠性、准确性混为一谈，人工智能的作用应当是支持人类间的信任与伦理关怀。2.4可能：“医人工智能”深度协作与患者保守立场这一可能转向由患者的保守立场和医生的开放立场所决定。“医患”间信任本身表现出不对称的伦理形态：由于双方在医疗知识、医疗信息、医疗资源获取等方面的严重不对称，医患双方在主体责任、缺失补偿等方面呈现 出 不 对 等 的 伦 理 特 质30。当 人 类 医 生 充 分 认 识 到“ChatGPT 医生”对于解放自身事务性工作的潜力时，会持有积极与智能技术相结合的开放立场。而对于患者而言，生病事实使患者不得不寻求外在的帮助来对抗疾病，而随着“不对称性”进一步加深，患者可能会对智能工具的使用感到“无助”，进而影响治疗依从性2。“医人工智能”深度协作与患者保守立场将以强计算机主义的医疗家长主义重塑医患关系的伦理情景格局31。3人际到人机：交互本质与两种发展作为上述四种伦理转向中最具解放性的医学诊疗模式，“医人工智能患”共同决策无疑构成了医学范式的重要变革。可以说，人机交互本质构成了“医人工智能生成式人工智能对于医患关系的伦理重构黄一洲等医学与哲学 2024年 2月第 45卷第3期总第 734 期Medicine and Philosophy,Feb 2024,Vol.45,No.3,Total No.73451患”共同决策模式的核心6，那么由此在“人（医、患）机（ChatGPT）”关系中确立哪一方为中心，或将进一步形成两种不同的发展取向。如果以此确立技术的中心地位，这可能意味着医疗家长主义以计算机主义的形式得到复苏。医疗家长主义指的是，在医患双方专业知识、医疗经验等严重不对称背景下医方与患方的“主导依从”地位关系，即医方基于自身对于患方健康福祉的考量，干预甚至否定患方的自主或自由选择32。医疗家长主义一方面常因医疗语境下“善优先于权利”而得到伦理上的合理性辩护，另一方面也常由于不尊重患者自主性而遭到批判33。当医学人工智能的算法系统依据自身被赋予的、隐蔽着的价值判断，例如，仅仅单一考虑寿命长度来实现对于患者福祉或利益的考量时，其决策就可能以类似医疗家长主义的形式干涉患者行动自由，医疗实践或由此回到医疗家长主义31。可以说，作为可能的“医人工智能”深度协作与患者保守立场即是强计算机主义的医疗家长主义的类型：患者的保守立场将导致患者的意见不被充分重视，“医人工智能”深度协作将形成独断的医疗决策。此外，即使“同感机器”（empatheticmachines）在技术上是可能的，即“ChatGPT 医生”能够具有价值弹性，在尊重人类价值多样性的前提下，考量患者需要并将其价值诉求纳入到医学人工智能运算中，进而作出个性化的医疗决策34，仍有以下问题亟待回应：“人类间”和“人机间”的伦理情感是否是可通约的？“人类间”的伦理情感能否能被程序化的伦理参数所消解？若上述回答是否定的，那 么 由 缺 失 人 类 间 真 正 的 同 情 和 同 感 能 力 的“Chat-GPT 医生”生成的考量患者利益的决策是否仍是一轮新的幻觉，而这是否仍是一种弱计算机主义的医疗家长主义？上述问题仍有待理论和实践的双重检验。因此，“医人工智能患”共同决策模式应当以患者为中心，在三方的积极交互中展开：“ChatGPT 医生”的出现，不仅能够承担各类型医学任务，提高医疗实践各环节的效率，还能够辅助患者获取健康信息，进而弥合医患间的信息鸿沟、提高医患共同决策的透明度；而人类医生向患者提供有关知情同意的信息后，在审慎地利用“ChatGPT 医生”生成的医疗意见的同时，能够基于人类间共有的伦理文化，充分考虑患者自身的偏好、愿望、目标和价值观再进行决策。三方共同协作、评估、讨论各医疗方案及其利弊，进而作出个性化的最佳医疗决策16。4结语未来的医疗实践可能将由患者、人类医生和 Chat-GPT 医生三者的伦理互动构成。在综合讨论 ChatGPT 医生的能力与风险后，医患关系存在四种可能转向：一是“医人工智能患”三者交互的共同决策模式；二是由 ChatGPT医生技术和资源优势、去技能化风险导致的“患人工智能”深度协作与医生保守立场；三是由人类间的情感需要和共同文化、去人性风险导致的传统“医患”关系的恢复；四是由不对称性加深引发的医人工智能深度协作与患者保守立场。引导医患关系在 ChatGPT 时代的健康发展，应重视“医乃仁术”的当代内涵35-36，ChatGPT 医生出现的目的和意义是辅助和促进医患关系的发展，使“人机”交互路径更符合人类需要、价值和尊严，而绝非颠覆和破坏。“ChatGPT 医生”的解放性意义应在于此：接替医方承担“术”的功能，使医方从繁重的事务性任务中“解放”出来，更好地为强调“仁”的个性化医疗实践服务。参 考 文 献 刘哲,石钰,林延带,等.智能医学的现状与未来J.科学通报,2023,68(10):1165-1181.1DEMIGUELI,SANZB,LAZCOZG.MachinelearningintheEUhealthcarecontext:Exploringtheethical,legalandsocialissuesJ.InfCommunSoc,2020,23(8):1139-1153.2KALLIANOSK,MONGANJ,ANTANIS,etal.Howfarhavewecome?:Artificial intelligence for chest radiograph interpretationJ.Clin Radiol,2019,74(5):338-345.3李顶,汪艳芳,李永欣,等.人工智能在医学影像诊断中的应用研究J.中国临床解剖学杂志,2020,38(1):110-113.4陈天成,刘祎,潘炜华,等.人工智能在皮肤病理诊断中的应用J.中国皮肤性病学杂志,2023,37(3):245-248.5LEEP,BUBECKS,PETROJ.Benefits,limits,andrisksofGPT-4asanAIchatbotformedicineJ.NEnglJMed,2023,388(13):1233-1239.6KHANRA,JAWAIDM,KHANAR,etal.ChatGPT:Reshapingmedi-caleducationandclinicalmanagementJ.PakJMedSci,2023,39(2):605.7VAN BULCK L,MOONS P.What if your patient switches from Dr.GoogletoDr.ChatGPT?:Avignette-basedsurveyofthetrustworthiness,value,anddangerofChatGPT-generatedresponsestohealthquestionsJ.EurJCardiovascNurs,2024,23(1):95-98.8DAVISR,EPPLERM,AYO-AJIBOLAO,etal.Evaluatingtheeffective-nessofartificialintelligence-poweredlargelanguagemodelsapplicationindisseminatingappropriateandreadablehealthinformationinurologyJ.JUrol,2023,210(4):688-694.9WANGH,WUW,DOUZ,etal.PerformanceandexplorationofChat-GPTinmedicalexamination,recordsandeducationinChinese:PavethewayformedicalAIJ.IntJMedInform,2023,177:105173.10DIGIORGIOAM,EHRENFELDJM.Artificialintelligenceinmedicine&ChatGPT:De-tetherthephysicianJ.JMedSyst,2023,47(1):32.11GARGRK,URSVL,AGARWALAA,etal.ExploringtheroleofChat-GPTinpatientcare(diagnosisandtreatment)andmedicalresearch:Asys-tematicreviewJ.HealthPromotPerspect,2023,13(3):183-191.12ALISR,DOBBSTD,HUTCHINGSHA,etal.UsingChatGPTtowritepatientcliniclettersJ.LancetDigitHealth,2023,5(4):e179-e181.13李,戈德伯格,科恩.超越想象的 GPT 医疗M.芦义,译.杭州:浙江科学技术出版社,2023.14LIUS,WRIGHTAP,PATTERSONBL,etal.UsingAI-generatedsug-gestionsfromChatGPTtooptimizeclinicaldecisionsupportJ.JAmMedInformAssoc,2023,30(7):1237-1245.15HRYCIWBN,FORTINZ,GHOSSEINJ,etal.Doctor-patientinterac-tionsintheageofAI:NavigatinginnovationandexpertiseJ.FrontMed,2023,10:1241508.16WAHLB,COSSY-GANTNERA,GERMANNS,etal.Artificialintelli-gence(AI)andglobalhealth:HowcanAIcontributetohealthinresource-poorsettings?J.BMJGlobHealth,2018,3(4):e000798.17生成式人工智能对于医患关系的伦理重构黄一洲等医学与哲学 2024年 2月第 45卷第3期总第 734 期52Medicine and Philosophy,Feb 2024,Vol.45,No.3,Total No.734 THIRUNAVUKARASUAJ,HASSANR,MAHMOODS,etal.Triallinga large language model(ChatGPT)in general practice with the appliedknowledgetest:Observationalstudydemonstratingopportunitiesandlimi-tationsinprimarycareJ.JMIRMedEduc,2023,9:e46599.18李戈,彭鑫,王千祥,等.大模型:基于自然交互的人机协同软件开发与演化工具带来的挑战J.软件学报,2023,34(10):4601-4606.19THIRUNAVUKARASUAJ,TINGDSJ,ELANGOVANK,etal.LargelanguagemodelsinmedicineJ.NatMed,2023,29(8):1930-1940.20MORLEYJ,MACHADOCCV,BURRC,etal.TheethicsofAIinhealthcare:AmappingreviewJ.SocSciMed,2020,260:113172.21BURRELLJ.Howthemachinethinks:UnderstandingopacityinmachinelearningalgorithmsJ.BigDataSoc,2016,3(1):205395171562251.22RUDINC.StopexplainingblackboxmachinelearningmodelsforhighstakesdecisionsanduseinterpretablemodelsinsteadJ.NatMachIntell,2019,1(5):206-215.23DURNJM,JONGSMAKR.Whoisafraidofblackboxalgorithms?:Onthe epistemological and ethical basis of trust in medical AIJ.J MedEthics,2021,47:329-335.24杜严勇.论人工智能系统的透明性J.科学学研究,2022,40(9):1537-1543.25TRIBERTIS,DUROSINII,PRAVETTONIG.Athirdwheeleffectinhealthdecisionmakinginvolvingartificialentities:Apsychologicalper-spectiveJ.FrontPublicHealth,2020,8:117.26DALTON-BROWNS.TheethicsofmedicalAIandthephysician-patientrelationshipJ.CambQHealthcEthics,2020,29(1):115-121.27KERASIDOUA.Artificialintelligenceandtheongoingneedforempathy,compassion and trust in healthcareJ.Bull World Health Organ,2020,98(4):245-250.28DECAMPM,TILBURTJC.WhywecannottrustartificialintelligenceinmedicineJ.LancetDigitHealth,2019,1(8):e390.29罗光强,李军,李伦.不对称伦理:境遇危机下医患诚信的一种解读J.伦理学研究,2009(1):84-88.30MCDOUGALLRJ.Computerknowsbest?:Theneedforvalue-flexibilityinmedicalAIJ.JMedEthics,2019,45(3):156-160.31朱伟.医疗家长主义在何种程度上得到辩护?J.伦理学研究,2018(2):59-65.32陈化,李颖颖.医疗家长主义的伦理辩护及道德边界J.医学与哲学,2022,43(13):25-30.33ELKALIOUBYR.WeNeedComputerswithEmpathyJ.TechnolRev,2017,120(6):8-9.34张大庆,程之范.医乃仁术:中国医学职业伦理的基本原则J.医学与哲学,1999,20(6):39-41.35杜治政.论“医乃仁术”:关于医学技术主义与医学人文主义J.医学与哲学,1996,17(11):561-565.36收稿日期：2023-10-25修回日期：2024-01-15(本文编辑：刘利丹)(上接第 42 页)SHINS,PARKH.Effectofempowermentonthequalityoflifeofthesur-vivorsofbreastcancer:Themoderatingeffectofself-helpgroupparticipa-tionJ.JpnJNursSci,2017,14(4):311-319.31YEHMY,WUSC,TUNGTH.Therelationbetweenpatienteducation,patientempowermentandpatientsatisfaction:Across-sectional-compari-sonstudyJ.ApplNursRes,2018,39:11-17.32JOTTERANDF,AMODIOA,ELGERBS.Patienteducationasempow-ermentandself-rebiasingJ.MedHealthCarePhilos,2016,19(4):553-561.33WITTINKH,OOSTERHAVENJ.PatienteducationandhealthliteracyJ.MusculoskeletSciPract,2018,38:120-127.34PULVIRENTIM,MCMILLANJ,LAWNS.Empowerment,patientcen-tredcareandself-managementJ.HealthExpect,2014,17(3):303-310.35KOEKENBIER K,LEINO-KILPI H,CABRERA E,et al.Empoweringknowledgeanditsconnectiontohealth-relatedqualityoflife:Across-cul-turalstudy:Aconciseandinformativetitle:Empoweringknowledgeanditsconnectiontohealth-relatedqualityoflifeJ.ApplNursRes,2016,29:211-216.36欧阳静,江华容,陈大春,等.肿瘤患者 PICC 置管赋能教育研究J.护理学杂志,2017,32(7):74-77.37颜运英,王可,周莲清,等.赋能教育在癌痛患者中的应用J.护理学杂志,2018,33(21):79-82.38王志敏,何佩仪,杜萍.专科护理门诊延续跟进式赋能教育对鼻咽癌放疗患者康复的影响J.中国护理管理,2020,20(1):107-111.39吕青,刘阳,王婷,等.授权赋能教育对甲状腺癌手术患者自我效能及生活质量的影响J.中国耳鼻咽喉头颈外科,2021,28(4):230-233.40舒海燕,刘佳.赋能教育对大肠癌造口患者疾病不确定感的干预研究J.解放军护理杂志,2018,35(9):35-38.41PENEDOFJ,ANTONIMH,MORENOPI,etal.Studydesignandproto-colforaculturallyadaptedcognitivebehavioralstressandself-manage-mentinterventionforlocalizedprostatecancer:TheEncuentrosdeSaludstudyJ.ContempClinTrials,2018,71:173-180.42NPOLESAM,SANTOYO-OLSSONJ,STEWARTAL,etal.Evaluat-ingtheimplementationofatranslationalpeer-deliveredstressmanagementprogramforspanish-speakingLatinabreastcancersurvivorsJ.JCancerEduc,2018,33(4):875-884.43SHARPL,DEADYS,GALLAGHERP,etal.Themagnitudeandcharac-teristicsofthepopulationofcancersurvivors:Usingpopulation-basedesti-mates of cancer prevalence to inform service planning for survivorshipcareJ.BMCCancer,2014,14:7