社会学视角下健康领域智能治理的应用--以北京大学第三医院为例.pdf

社 会 学 视 角 下 健 康 领 域 智 能 治 理 的 应 用 以北京大学第三医院为例何培欣王明哲刘一逸姜雪（北京大学第三医院北京 图灵人工智能研究院（南京）有限公司南京 ）摘要目的 意义 对人工智能（，）技术在医疗机构的应用与影响开展真实世界研究，辅助医药卫生领域智能治理决策。方法 过程 以北京大学第三医院为研究场景，通过文献荟萃、知识图谱构建及混合方法学研究等开展 医学社会实验。结果 结论 国内外学界对 技术在健康领域应用持谨慎、乐观态度。国内公立医院 技术的研发和应用十分活跃，但小范围实地研究提示 技术在提高诊疗工作效率的同时，可能带来决策误导、人的主体性减弱等问题。以 技术为代表的健康领域智能治理需要长周期、宽领域的社会学观察，建议依托公立医院建设医学 技术研发与监管研究基地，并持续关注 社会治理中人的主体性、医学伦理与科技伦理等问题。关键词人工智能；社会实验；医疗机构；知识图谱；社会治理 中图分类号 文献标识码 ，；（），（），；修回日期 作者简介何培欣，博士，助理研究员，发表论文 篇；通信作者：姜雪。基金项目科技创新 “新一代人工智能”重大项目（项目编号：）。医学信息学杂志 年第 卷第 期 ，引言在大健康领域发展人工智能（，）技术可以缓解医疗资源分布不平衡、提升医疗服务效率和质量、缓解医疗支出压力 。随着应用普及，除“黑箱”效应 、模型可信度 等 固有技术风险持续放大外，由于医学行业的特殊性，技术还对现有诊疗规范体系、人机互动、人人互动、法律伦理安全及社会秩序等产生冲击 。目前，关于 技术应用的社会影响与应对仍以研发与产业界的行业自觉、科学家的哲学思辨为主 ，少部分国外学者进行了质性研究，国内缺乏基于真实世界的测量和分析。社会实验是针对某特定科技、政治、经济因素引入真实社会情境所产生效应的研究方式。社会实验作为一种新兴交叉学科研究范式，是围绕 技术应用及产生的社会影响开展的真实世界研究 。医药健康作为支撑国民经济的重要产业，在该领域开展 社会实验可以为大健康领域智能治理、医疗数智化转型提供更科学的循证知识和更有力的政策参考。本文从社会学视角出发，以北京大学第三医院为研究场景，通过文献荟萃、研究场景知识图谱构建及混合方法学研究分析 技术应用前后医疗机构在技术适应、公众态度、医患行为、医院管理等方面发生的变化与问题，从价值、风险、变革等方面探讨 技术对医疗机构及大健康领域的影响与应对策略。研究方法（图 ）图 研究技术路线注：医学社会实验步骤为基础研究（文献整理、构建数据库、动态监测）自然实验（梳理趋势、聚焦场景）实地实验（重点分析）。文献荟萃以“人工智能”“医学”“质性研究”“”“”“”等检索词及其组合，在中国知网、万方数据、等数据库检索相关文献，重点关注公众对 技术在医院应用的态度与认知等问题。知识图谱构建知识图谱（，）是以图的形式表现客观世界实体及其之间关系的知识库 。依托先验知识、自然语言处理和结构化匹配，将实体和关系映射到低维向量空间间接捕获语义 、推理，建立新关系，完成分布式表示。的构建医学信息学杂志 年第 卷第 期 ，包括数据预处理、三元组抽取、问题向量化表示与问答交互等环节。本文选取北京大学第三医院（以下简称目标医院）为应用与研究场景，采集目标医院 年“线上科研管理系统”记录的科研项目立项、论文与成果奖励等数据，结合医院已经应用的 医疗新技术，构建“科研知识图谱”。同时，以目标医院内部刊物 医疗管理月报为依据，收集 年各临床医技科室的医疗指标、医疗质量、患者安全与患者满意度等信息，构建“医疗管理知识图谱”。社会学实验首先，开展自然实验，分析“科研知识图谱”，回顾性研究 技术在目标医院整体的发展变迁，梳理 技术在医疗机构的研发演化趋势。其次，缩小范围，以放射科为例，结合“医疗管理知识图谱”分析“辅助医学影像诊断系统”这一特定 技术对放射科医师工作模式和学科治理效率的客观影响。最后，开展实地实验，分析 技术应用前后放射科人员在工作效率、技术接受度、主观态度等方面的变化。研究结果 国际对 技术在大健康领域应用持乐观、谨慎态度有关 在大健康领域应用产生影响的分析，从社会学角度研究的文献不多，最早的质性研究发表于 年，是关于医疗远程监控技术接受度的研究。在排除单纯临床试验、原理与技术研发文献的基础上，梳理现有研究提到的主要社会学观点及现象，见表 。表 医学社会实验文献荟萃时间（年）研究者研究对象研究方法主要观点或结论 等（中国，美国）无特定研究对象综述类对现有 技术在医疗场景的应用分类，包括：基于 的分诊与筛选工具、对重复性工作的替代以及 作为人类的附加或增强工具。分析现有临床工作流程中实施 技术存在的问题，包括：数据共享和隐私、算法的透明度、数据标准化、跨平台的互操作性，以及对患者安全的关注等 等（英国）名全科医生问卷调查问卷主题：技术全面取代全科医生执行英国 项主要初级保健任务的可能性。好处是“提高效率”，特别是减少行政负担；局限性是不具备人类的沟通能力和同理心；多数医生认为 的潜力是有限的；部分医生认为 技术应用失败会对患者和医生都造成伤害 等（法国）位不同学科的医生、病理解剖学家、企业与监管机构工作人员半 结 构 化访谈医疗从业人员对 的态度曾是主流，是其他领域受访者观点的基础；在保证给予患者最佳医疗实践以及医生自身仍是诊疗行为中心的前提下，医生乐于调整临床医疗工作中自身的定位 等（美国）名患黑色素瘤、非黑素瘤皮肤癌及无皮肤癌病史的患者半 结 构 化访谈“提高诊断速度”和“获得卫生保健”是 用于皮肤癌筛查最普遍的好处；“患者焦虑增加”是最常见的感知风险；“更准确的诊断”和“更不准确的诊断”是 的最大优势和最大劣势 等（加拿大）名在北美和亚洲工作的公共卫生和 方面专家访 谈、描 述性研究受访专家整体对 在公共卫生实践中（特别是在加强疾病监测方面）的影响持谨慎、乐观态度；提及缺乏专业知识、监管不足等障碍 等（日本）名医生和 名公众问卷调查问卷主题：在医学领域应用的接受度。的受访者认为，在医学中应用是必要的，但只有 的受访者表示有意愿接受 驱动的诊疗行为；对缺乏监管和问责制的担忧阻碍人们接受 技术；医生比公众对 驱动的医学更有热情医学信息学杂志 年第 卷第 期 ，整体看来，国际社会对 技术在大健康领域的应用持乐观但谨慎态度；医患安全以及责任划分是目前 技术在健康领域落地的主要困扰。研究和认识 技术的局限性、对医生和公众广泛教育以及加强监管十分重要。技术在大型公立医院应用发展十分活跃构建目标医院“科研知识图谱”，根据年份、科室及技术方向等实体与属性构建三元组，所有课题与成果共计 条实体关系（课题数据 条，成果数据 条，包含空缺值）。分析 技术在医疗机构应用的发展趋势。整体上，技术研发与应用在医院场景中十分活跃，见图 。目标医院自 年出现 技术相关研究，此后数量呈上升趋势，年、年大幅增长，年回归至 项左右。开展 技术研究的学科主要集中在骨科与运动医学科（）和放射科（），其次为耳鼻喉科、泌尿外科、妇产科等。从课题属性看，目标医院近 年开展 研究纵向课题数量（项，占比 ）远超横向课题（项，占比 ）。纵向课题中，国家自然科学基金、国家重点研发计划等国家级课题共 项（占比 ），其中近一半为 年以后资助立项；北京市自然科学基金、首都卫生发展科研专项等省级课题 项（占比 ），其中约 为 年以后立项；目标医院自主设立课题支持 技术研发共 项（占比 ）。从课题级别占比不难看出，近 年在各级财政资金推动 医疗技术发展的同时，医院自身也认识到 与医疗场景结合的重要性，并积极参与研发应用。图 医院 课题立项情况医院 课题研究的主要技术方向包括“计算机视觉”（）、“大数据”（）、“深度学习”（）和“机器人”（），其他研究方向还有“信息化智能”“机器学习”“知识图谱”“多模态”“智能辅助”“智能管理”“自然语言处理”“传感器技术”等。分析认为，“计算机视觉”最突出的应用领域为医疗计算机视觉和医学图像处理，主要应用学科为医学影像学相关学科以及以医学影像学为主要诊疗工具的临床学科。而目标医院历史发展以骨科、运动医学为龙头学科，结合放射科形成优势学科群共同发展，因此“计算机视觉”在上述科室开展研究最为活跃。“大数据”在医疗领域主要于辅助临床决策、慢病管理以及用药分析等，研究场景以耳鼻喉科、泌尿外科、药剂科、病案科、信息管理与大数据中心等学科应用较多。整体而言，在技术创新发展方面与学科发展是对应的，具有与应用场景相关的特点。将“科研知识图谱”中所有课题名称进行词义提取和分析，形成词云图，见图 。其中词标签不仅包含 技术方向，也涵盖学科属性、研究方式、研究目标等。词云图中出现频率最高的词汇为“深度学习”，说明医疗领域主要使用第 代 技术。其次为“辅助诊断”“临床应用”，说明 主要以结合实际场景的应用为主，而非抽象的理论研究。“图像”“影像”等关键词体现了医疗领域 处理的主要数据类型，“肿瘤”“颈椎病”“脊柱”“膝关节”则体现了目前 应用较多的病灶类型。图 科研知识图谱词云医学信息学杂志 年第 卷第 期 ，从研究产出和成果看，专利产出多于论文，计算机软件著作权较少，说明在 医疗领域以应用为导向的知识产权保护较单纯的理论创新、发表论文更活跃，这是成果落地的标志，见图 。时间维度方面，近 年成果产出整体呈现震荡上升态势，一方面说明 技术落地并非一帆风顺，会受到诸多因素影响；另一方面，近 年成果明显增加，也说明 落地应用总体上是历史的大势所趋。图 医院 技术成果产出情况 技术对医院运营效率提升明显进一步以放射科为研究对象，分析“医疗管理知识图谱”。以“辅助医学影像诊断系统”技术为例，该技术于 年初上线。将 年全年放射科 检查工作量作为对照组，将 年、年全年工作量作为实验组，见图 。图 “辅助医学影像诊断系统”上线前后放射科工作量对比“辅助医学影像诊断系统”的应用使目标医院 年 检查工作量较 年提升 ，年较 年提升 。可以得到初步结论：技术（计算机视觉）的运用能够提升医院相关学科（放射科）的工作效率。技术对个体行为模式的影响尚不明确对放射科工作人员开展问卷调查，采用李克特五分量表法分析该技术引入前后科室人员工作效率、技术适应性、人员疲劳感等方面的变化。回收有效问卷 份，见图 。受访者以医院在职医生为主（占比 ），仅有 名院外进修医生。审核医师（）较报告医师（）比例高，中级职称（）较高级职称（副主任医师、主任医师，共计 ）比例稍高。受访者从业年限以“年”（）和“年”（）为主，“年”（）比例最低。所有医生都使用过并表示在未来愿意继续使用该技术。图 技术对放射科医师工作的影响注：基于前期研究结果，本次调查问卷问题分值设置均为单区间选项。例如：“报告准确率提升”一题“分”代表没有提高（不包括有所降低），“分”代表明显提高。在“报告准确率提升”“读片速度提升”“缓解疲劳感”“减少困惑感”项指标上，“辅助医学影像诊断系统”均给医生带来主观的正向影响。其中最主要的效果是提高速度，这与研发 医学信息学杂志 年第 卷第 期 ，技术“作为分诊与筛选工具、替代重复性劳动”的初衷一致。而在减少疲劳感方面，年资较低的医师群体分值较审核医师略高，应与二者工作性质相关 报告医师要完整分析影像，涉及大量重复性劳动、更容易疲劳，而审核医师则是在报告医师报告的基础上重点分析，整体工作量较少。值得注意的是，“产生误导”指标的整体平均得分达到 分，超过中位线，即参与调研的医生认为在一定程度上 技术会对其判断造成误导。其中，审核医生打分稍高于报告医师。分析认为，审核医师平均年资更高、临床经验丰富、已形成独立成熟的判断力，对 给出的结果更有“底气”提出质疑。但本研究因样本量较小，分组分析尚无明显统计学差异。讨论 技术在大健康领域应用仍需长周期、宽领域的社会学观察医疗与 结合是典型的跨学科创新。先进算法是实现 医疗的核心，有效的医疗数据和不断提升的算力是 应用的基础。在医学领域的研发与应用面临技术风险和社会风险、自然科学与社会科学风险叠加的挑战，进一步增加了行业审评与监管工作的难度。目前国内外从社会学角度开展 在医疗领域应用研究的可参考成果不多。以目标医院为例开展实证研究，发现 技术在医疗机构研发孵化具有巨大潜力，但其社会学影响尚未被系统研究。在医疗与大健康领域亟需开展长周期、跨学科、宽领域的综合性实证研究，以记录、分析和研判已经发生和将要发生的社会变革。公立医院应被纳入 技术研发和监管体系 年 月欧洲议会全体会议表决通过世界首部关于 监管的法律框架 人工智能法案的授权草案。法案提出对不同领域 应用场景风险分级，基于风险制定监管制度，以平衡 的创新发展与安全规范 ，这对中国 医学治理有很大启发。长期以来，公立医院是中国医疗卫生服务的主要承担者 ，尤其大型三级公立医院是国家医学科技创新体系中的关键主体。通过对目标医院 技术研发与应用情况的分析，本研究认为 医疗技术在大型公立医院应用有巨大的发展潜力 ，会在基本技术和应用学科上形成医院特色。目前，以 医疗器械为代表的 医疗技术在大健康领域应用仍存在治理空白，需要一系列标准规范和操作指南 。建议由大型公立医院与行业监管部门合作建设 医疗器械监管与研究中心，对 医疗技术实施分类分级监管，依据医疗这一特殊场景制定治理政策 。同时，借鉴国际已有的 监管沙箱在金融和法律领域的实践经验，建议在医疗机构设立 技术监管沙箱，由政府部门与医院共同管理，进一步发挥医疗数据的社会学、经济学研究价值，协助政府完善治理体系，推动监管体系系统化、标准化、覆盖 医疗技术全生命周期，提高决策科学性。医学智能治理应重视人的主体性地位 辅助技术可以显著提高医生诊疗行为准确性和效率。本文选择特定场景观察 与行为主体的互动模式以及随之而来的行为变化与组织重构。人的变化是组织和社会演变的前提。技术融入医疗领域后行为主体可能产生困惑感、危机感和失落感。文献调研发现对“医患关系完整性”的普遍担忧是 时代人的主体地位被 技术异化的结果。一方面，患者不熟悉 技术、缺乏医学知识，对技术和医生的信任都减弱；另一方面，在一定程度上替代了医生决策，医生的职业成就感和安全感降低。上述问题直接原因在于人在自我实现过程中对特定技术的依赖，根本原因在于现有生产方式与社会制度未能满足人的自由发展的需求。因此，要重视 发展下人的主体性回归，始终坚持以人为本，是服务于人、辅助于人的。在 带来社会结构与产业结构变化之前，提前布局人以及组织的医学信息学杂志 年第 卷第 期 ，发展路径。医学智能治理应推动医学伦理与科技伦理有效结合算法训练需要大量数据与诊疗实践要求隐私保护形成“矛盾”，数字鸿沟不断扩大的现实与平衡医疗资源的初心形成“矛盾”，这些问题都说明当前 发展存在技术实践与伦理实践不匹配的情况。医学智能治理要将医学、技术、伦理、法律、经济等领域知识融合起来，形成跨学科共识。张荣等 提出应将伦理审查贯穿医学 技术全生命周期，例如约束设计端的技术思路、监控用户端的使用场景，一旦使用者与设计者的伦理思想不匹配，产品应当具备不执行相应指令的能力。等 将医疗保健中与 相关的伦理问题总结为认知性问题、规范性问题和可追溯性问题 类，并将其划分为个人、人际、群体、机构、社会或部门 个层次，进而提出分层制定伦理评估标准的建议。年世界卫生组织首次发布 医疗卫生中人工智能的伦理治理，提出保障人类自主权、确保透明度、可解释性和可理解性等基本原则。中国也在第三届“一带一路”国际合作高峰论坛上发布 全球人工智能治理倡议，提出建立风险等级测试评估体系、形成 伦理指南、建立科技伦理审查和监管制度等行动建议。基于目前中国医疗领域尚无针对 类产品的伦理审查操作规范、部分医院伦理委员会参照医疗器械进行伦理审查并不完全适用的情况，下一步应着力推动形成可操作、易操作，兼顾普适和特例的医学 伦理管理规范，真正做到“智能向善”。结语随着 技术在医疗领域研发与应用的深入，医院的服务能力明显提升，医院医生、管理人员等行为主体工作效率提高，医院运营成本降低，患者就医流程优化、就医体验改善、医患关系改善。但目前 技术最适宜的成长环境 大型公立医院的潜力还没有被完全释放，技术在大健康领域应用仍需长周期、宽领域的社会学观察，以大型公立医院为依托建设 医疗技术研发与监管研究基地具备可行性和现实价值。治理既是技术的治理，也是人的治理。在 医疗技术发展过程中应坚持人的主体性地位，贯彻医学伦理与科技伦理有效结合。利益声明：所有作者均声明不存在利益冲突。参考文献 ，（）：，（）：李润生 论医疗人工智能“黑箱”难题的应对策略和规制进路 东南大学学报：哲学社会科学版，（）：唐要家，唐春辉 基于风险的人工智能监管治理 社会科学辑刊，（）：中国信息通信研究院，京东探索研究院可信人工智能白皮书 ：王晓斐 人工智能视域下的健康治理：技术进步与治理困境 中国科技论坛，（）：卢阳旭，何光喜 我国人工智能治理面临的机遇和挑战：基于科技公共治理视角 行政管理改革，（）：文习明 人工智能时代的社会治理：机遇、挑战与总体框架设计 岭南学刊，（）：苏竣，魏钰明，黄萃 社会实验：人工智能社会影响研究的新路径 中国软科学，（）：徐有为，张宏军，程恺，等 知识图谱嵌入研究综述 计算机工程与应用，（）：，：医学信息学杂志 年第 卷第 期 ，（）：?，：，（）：，（）：，“，”：，（）：，：，（）：王伟洁，邓攀科，吕志远 欧盟 年 人工智能法研究 信息安全研究，（）：王婧从欧盟 人工智能法提案看我国如何应对人工智能带来的社会风险和法律挑战 网络安全和信息化，（）：国家卫生健康委员会 年我国卫生健康事业发展统计公报 ：张荣，徐飞 人工智能医学伦理问题及对策研究 医学与哲学，（）：，：，：（上接第 页）安健，陈飞飞，赵文，等基于信息集成平台的互联网医院信息系统探索 中国医院管理，（）：许昌，孙逸凡，董四平，等 智慧医院建设促进公立医院高质量发展的思考 中国医院管理，（）：于勇，喻明 中国卫生信息化政策文本量化分析 医学与社会，（）：蔡琼，吴荣飞，李瑞锋，等基于 模型的医疗信息化政策主题提取与热点分析 中国数字医学，（）：国家卫生健康委员会 关于进一步推进以电子病历为核心的医疗机构信息化建设工作的通知 ：李阳，段光锋，田文华，等 构建分级诊疗体系的政策工具选择 基于省级政府政策文本的量化分析 中国卫生政策研究，（）：，：，李小华，宋佳琦 基于政策工具的三明市三医联动综合改革政策分析 中国医院管理，（）：张韦，何东，张研，等 政策工具视角下我国远程医疗国家层面政策分析（）中国卫生政策研究，（）：郝模 卫生政策学 北京：人民卫生出版社，范转转，刘园园，姚东明 政策工具视角下的我国全科医生政策研究 中国全科医学，（）：陈丹，方鹏骞 我国“十四五”期间医院信息化重点发展领域和具体路径思考 中国医院，（）：财政部 关于做好 年政府购买服务改革重点工作的通知 ：王露，周典，黄欣黎，等 安徽省医院信息化人才队伍建设现状及对策分析 卫生经济研究，（）：，医学信息学杂志 年第 卷第 期 ，