法律与伦理视域下智慧养老的国际治理经验及启示.pdf

社会保障研究 年第 期 .法律与伦理视域下智慧养老的国际治理经验及启示朱敏丽邓彦平(湖南财政经济学院法学与公共管理学院湖南长沙 中南财经政法大学国家智能社会治理实验特色基地(养老)湖北武汉)摘 要:在严峻的老龄化形势下以 为代表的新一代人工智能技术正广泛应用于智慧养老行业为破解传统养老难题带来希望 然而智慧养老在提升效率的同时也产生了一系列法律伦理困境主要表现为隐私保护与算法的监控需求的冲突、社交需求与机器人智能理性的冲突、单向度情感依赖和机器人欺骗性风险的冲突及自主性选择与物化操控之间的冲突 梳理归纳欧盟、美国、英国和日本的智慧养老法律与伦理治理经验结合国内智慧养老伦理研究及政策规范可以得出我国构建智慧养老法律伦理规范的三点启示:加强总体战略布局构建完善法律体系提升民众伦理素养促进社会各界参与凝聚全球共识积极开展对外交流关键词:人口老龄化智慧养老伦理治理人工智能一、研究背景目前全球及我国老龄化形势严峻 我国老龄人口总数、老龄人口占全国总人口的比例不断增加且老龄化速度不断加快 据第七次人口普查显示截至 年我国 岁及以上老年人口达到.亿人占全国总人口比例为.其中 岁及以上老年人口达到.亿人占全国总人口比例为.与第六次全国人口普查相比 岁以上人口及 岁以上人口比例分别增加.和.同时新生儿数量及生育率不断下滑老年抚养比逐年上升老龄化和少子化叠加已成为我国人口构成的重要特征人口形势不容乐观人工智能作为新一轮技术的“超级风口”正在通过技术牵引和场景驱动重塑包括养老服务在内的各行业的发展 睢党臣、曹献雨认为我国人工智慧养老发展潜力巨大 张博、韩俊江认为智慧养老产业可以有效弥补养老市场巨大的供需鸿沟促进智慧养老产业的发展但需要做好整体规划完善法律法规 赵曼提出发展“原居安养”的嵌入式养老提高综合信息平台的级次聚合需求以提振线下服务能力以及优化老年人对智慧养老的服务体验 目前席卷全球的智能语言模型 因其出色的语言理解和人机交互能力已经开始切实帮助老年人在智慧家居中解决现实问题 比如 可以准时叫醒老年人起床提醒散步、健身及时打开喜欢看的电视节目也可以根据老人的生活数据记住并加强自身智能性让其更符合老年人使用习惯 另外与 类似的智能设备还能够对老人的身体特征进行实时监控一旦发生异常便会自动报警 智慧养老已经成为老人的语音助手生活帮手工作秘书甚至是家中的陪本文系中央网信办 年智能社会治理研究选题“人工智能居家养老服务管理”()、武汉市科技局 年武汉市人工智能创新专项(伦理道德规范研究项目)“人工智能赋能养老服务的伦理规范研究”、中南财经政法大学中央高校基本科研业务费专项资金资助“商业伦理重大理论与实践问题研究”()的阶段性成果伴者但是伴随着人工智能与养老领域的深度融合智慧养老衍生出的法律伦理问题也随之浮现 技术的内在局限、政策和制度设计滞后以及社会孝养意识脆弱交织叠加共同催生了人工智慧养老伦理问题二、人工智能赋能养老领域面临的法律和伦理困境当前人工智能伦理已逐渐成为各国人工智能相关研究、政策与立法等关注的热点 越来越多的学者发现智慧养老给人类带来福祉的同时在法律伦理方面存在风险突出表现在以下四个方面(一)老年人隐私保护与算法监控需求的冲突世界人权宣言中提到隐私权被视为一项权利是一项得到普遍认可的人类价值 隐私保护最重要的是“保持私密性”这是对人的尊严最基本的保障 但智慧养老算法的基础是大数据老年人的身份特征、健康信息、行为模式甚至信仰、观念、情感、社会关系等私密信息时刻通过平台被收集、记录、保存、呈现一旦放任平台肆意侵犯老人信息隐私造成的危害不容小觑 而失能或半失能老人因身体原因行动受限当个人权益受到侵犯时很可能无力改变 老人的隐私数据极有可能成为不法犯罪的工具被非法获取、未经许可使用或被第三方侵权给老人及其家庭带来巨大的安全隐患部分学者认为老年人不仅面临隐私泄露风险而且在数字时代还有新的权利被侵犯 比如疫情期间无健康码老人被地铁拒载现象就是智慧养老服务时代老年人数字权益受到侵害的例证(二)老年人社交需求与机器人智能理性的冲突渴望感情是每个老年人最真实的诉求老年人更有儿女承欢膝下的强烈愿望 智慧养老在减轻子女照护者的负担和内疚感的同时容易使子女依赖养老机器人去承担本该承担的孝养责任致使赡养义务淡化“孝”和“养”义务分离冲击传统孝养文化传承机制 同时老人因为减少了和年轻照护者之间真实会面、交谈、拥抱等交流的机会反而孤独感加重甚至产生被“遗弃”的感觉尽管养老机器人可以通过深度学习经过大量识别居家老人的行为习惯和个性偏好分析老人的想法、心态和情绪部分满足老人的情感交流和陪伴需求 然而试图通过数学模型和精准算法来全面理解人类情感的丰富和细腻已经超出了机器的能力 同时智能理性与人的情感隔离产生的巨大鸿沟也容易影响老年人的心理健康(三)老年人单向度情感依赖和机器人欺骗性风险的冲突随着机器人技术的飞速发展类人机器人设计得愈来愈仿真 某些机器人不仅具有人类的声音、触觉甚至有着高情商的反馈能力 这些特征一方面可以减少老年人对机器人的排斥增加他们对机器人的信任另一方面也容易引发“单向度情感依赖”问题 当孤独的老年人接受养老机器人的陪伴并将其视为“家人”后容易对机器人产生依赖并投入感情 这种情况往往会引发以下伦理问题:人类对机器人的感情是否“一厢情愿”?这种单向度情感是否面临“美丽的谎言”是否会削弱老年人的尊严?一旦机器人这个亲密的伙伴离开老人老年人的心理和情感将面临巨大的情感震荡 戈德贝希尔认为人类对复杂情境的感知、记忆的动态建构、情绪的模糊性、感官知觉、内部接受性等都是机器人无法模拟的由此情感体验无法真正实现(四)老年人自主性选择与物化操控之间的冲突智慧养老机器人的发展和使用可能会威胁和减少老人的自由和自主 比如一些能够识别危险信号的机器人不仅可以对老年人的危险行为进行警示还可以进一步阻止老年人从事此类危险活动例如阻止老人攀爬和外出在一定程度上限制了老人的活动范围、损害了老人活动自由 另外有学者认为养老机器人“把一个人当作无生命的物体对待而不是把他当作一个有生命的个体”将看护关系转化为远程的虚拟看护关系时辅助机器人可能对使用者进行机械控制使老人的自主意志和自主选择被忽视尊严受到冒犯严重影响了老人的主观感受三、构建智慧养老法律与伦理规范的国际经验 年著名科幻小说家艾萨克阿西莫夫提出了“机器人三大定律”此定律为后来的人工智能发展规制奠定了基础 随着人工智能技术的飞速发展国际社会纷纷出台相关著作及规范准则(表、表)把构建人工智能伦理规范视为促进人工智能发展的重要保障表 国外人工智能伦理部分著作著作名称主要内容作者机器人手册来自全球上百名专家著写的机器人领域百科全书展现出一幅机器人发展应用的全面图景 在“以人为中心和类生命机器人”篇章中涵盖了人机交互的最新前沿成果强调创建在以人为中心的环境中运行的机器人至关重要布鲁诺 西西利亚诺、欧沙玛哈提卜道德机器:如何让机器人明辨是非人工智能道德研究领域极具影响力的奠基之作主张设计人工道德智能体()可以具有基本的道德敏感性温德尔瓦拉赫、柯林艾伦机器人伦理学著作团队由斯坦福大学团队及美国国家工程院院士等组成着重介绍机器人技术引发的伦理问题的最新趋势探讨了人机之间在责任、隐私、心理、权利、法律政策等话题 在“机器人护理的是非曲直”这部分阐述了老年人接受机器人护理有可能侵犯其人身自由和社交权利帕特里克林、基思阿布尼、乔治拜柯机器人伦理学导引从伦理学的基本原理出发展示了机器人在各领域的实际应用和前沿突破同时对中日韩特别是日本机器人学做了深入梳理施皮罗斯.查夫斯塔智能的本质作为从事 研究超过 年的从业者作者用常识解读深度学习、暴力计算的核心算法引导人们客观理解人工智能与人类生活的关系皮埃罗斯加鲁菲:人类对人工智能的倒计时和对全球力量的新追求作者是美国空军第一任人工智能主席他解释了 以人为本的观点并通过介绍现有文化及国家的脆弱性讨论了人工智能未来需要面临的紧迫问题迈克尔卡纳安 伦理 出版的基础丛书作者通过哲学讨论介绍机器学习和数据科学的不同方法重点讨论了隐私、责任和决策委派透明度和偏见以及在设计中嵌入伦理价值的实践问题马克科克尔伯格 联结的社会:人工智能网络化时代的伦理与法律日本信息学、法学、社会学及人工智能学者深度讨论智联社会的隐私与伦理、信息安全等核心问题福田雅树林秀弥成原慧 资料来源:根据公开资料整理而成表 主要国际组织人工智能法律与伦理规范相关文件组织名称文件名主要内容联 合 国 教 科 文 组 织()人工智能伦理建议书它是联合国教科文组织大会第 届会议上获得通过的全球人工智能发展的共同纲领明确了规范人工智能技术的 大原则和 个行动领域是人工智能伦理的首个全球标准科学与利用科学知识宣言科学议程 行动框架世界科学大会通过的重要文件对科技伦理的发展起到了重要的规范作用机器人三大定律:第一定律是机器人不得伤害人类个体或者目睹人类个体将遭受危险而袖手不管第二定律是机器人必须服从人给予它的命令当该命令与第一定律冲突时例外第三定律是机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存 (续表)组织名称文件名主要内容未 来 生 命 研 究 院()阿西洛马人工智能原则为了使未来人工智能的研究人员、科学家和立法者遵循确保安全、伦理和有益在美国加州阿西洛马举行的会议上提出了 条原则三大类:科研问题、伦理和价值、更长期的问题电气和电子工程师协会()合乎伦理的设计:将人类福祉与人工智能和自主系统优先考虑的愿景报告分别阐述了新的人工智能发展的八个问题其中包含个人数据和个人访问控制部分国 际 标 准 化 组 织()、国际电工委员会()/:信息技术人工智能伦理和社会问题概述通过案例为技术专家、监管机构和整个社会提供了解决人工智能的伦理和社会问题的建议世界经合组织()人工智能委员会的建议全球首个政府间 标准设定了可执行且灵活的标准在隐私、数字安全风险管理和负责任的商业行为等领域与现有标准形成互补二十国集团()人工智能的原则强调将“坚持以人为中心、负责任的发展”作为人工智能发展目标 资料来源:根据公开资料整理而成(一)欧盟经验欧盟在人工智能伦理治理一直走在世界前列主张对人工智能采取“强监管”措施 年欧洲的 工作室项目启动打造世界上第一幅机器人伦理蓝图 年欧盟发布了人工智能战略和人工智能合作计划提出要加强人工智能风险应对策略研究 年 月 日欧盟发布可信人工智能伦理指南提出发展可信人工智能伦理的伦理准则 尊重人的自主性、预防伤害、公平性和可解释性 准则包括七个关键要素:人类的能动性和监督技术稳健性和安全性隐私和数据管理透明性多样性、非歧视性和公平性社会和环境福祉问责制 年 月欧盟发布了人工智能白皮书:通往卓越与信任的欧洲之路(下文简称白皮书)该白皮书包含“卓越”和“可信任”两大目标:“卓越”是指充分发挥欧洲在设计创新和生产制造的优势大力推动人工智能研究创新的公共与私人投资“可信任”是按照人工智能风险分级监管共同构建人工智能监管框架同时避免过度监管抑制产业创新 白皮书是欧盟人工智能伦理治理从“强监管”转向“发展和监管并重”的信号 也侧面反映出欧盟在提升科技创新的竞争优势和全球领先地位的雄心 年 月欧盟发布“地平线欧洲”年战略计划计划在 年投入 亿欧元帮助欧盟在可信任的人工智能生态系统中成为全球“灯塔中心”针对智慧养老存在的风险欧洲立法机关专门发布了欧洲机器人技术路线图和欧盟机器人民事法律规则强调了涉及人员在智慧养老领域的法律责任、老年人权利的实现路径以及对智慧养老服务业发展的具体指导(二)美国经验为人工智能的未来做好准备国家人工智能研究发展战略计划和人工智能、自动化与经济报告积极布局人工智能在各领域的发展确立美国人工智能发展的基础确保美国的人工智能全球领导地位 美国鼓励技术创新转化为实际应用努力营造和培育适合人工智能发展的技术环境在人工智能风险监管方面采取宽松态度是“弱监管”的代表国家美国政府强调以伦理教育和法律规制防范智慧养老可能带来的安全伦理风险具体通过联邦隐私法权公民网络隐私权保护暂行条例和个人隐私与国家信息基础设施等法律加强老年人数据隐私保护避免算法歧视 此外针对智慧养老的核心技术远程医疗美国出台了远程医疗促进法健康保险携带和责任法案保护老年人医疗数据的安全 同时还通过国家人工智能倡议法案无尽前沿法案等要求智慧养老服务领域工作人员遵守法案中道德守则和安全保障体系的基准性规定(三)英国经验英国在长期的发展过程中建立起比较完备的老年保护法律体系 在人工智能监管政策上英国始终坚持前瞻性、持续性和统一性原则强调加强政策执行的透明、公正和公平面对伦理争议时增加公众讨论和科学参与 年英国出台建立不分年龄人人共享的社会提出建立友好的社会环境提升老年人数字融合 年英国标准协会发布首个关于机器人伦理设计的公开标准 机器人和机器系统的伦理设计和应用指南 该指南强调对老人与护理机器人产生情感链接时保持审慎十分重视智慧养老产品对老人身心健康的影响 此外该指南规定了研发设计智能化机器的一系列伦理标准指出针对智能机器的研发、设计阶段进行必要的伦理风险评估对研发人员进行科技伦理培训以保证人类设计研发的智能化机器不会对人身以及社会安全造成威胁 同样在 年英国还发布了人工智能:未来决策的机遇与影响这一报告系统阐述了人工智能的内涵和范围以及人工智能在政府创新管理和社会生产发展中的应用前景、潜在风险、应对策略这些内容适用于智慧养老领域(四)日本经验 年日本在世界机器人大会上公布了三条机器人宣言 年日本出台了下一代机器人安全问题指导方针(草案)年日本发布以人类为中心的人工智能社会原则要求人工智能发展以人类为中心遵循以下伦理原则:教育应用原则隐私保护原则安全保障原则公平竞争原则公平、说明责任及透明原则创新原则 并且强调将重视人工智能带来的负面社会影响积极构建能够使人工智能有效且安全应用的“社会”在保护老年人方面日本机器人专家森昌弘提出在智慧养老机器人的外观设计上应充分考虑老龄人心理状态和认知态度的因素避免让老年人产生恐惧、反感等情绪四、国内智慧养老伦理研究及政策规范(一)智慧养老伦理研究现状王张华、贺文媛认为产生智慧养老伦理风险在于受到隐藏的“技术至上”理念等因素的影响 但现有的责任体系下养老机器法律地位不明确很有可能无法为人工智能的行为后果指派其责任归属马提亚(.)将这种现象称为“责任空白”面对“责任空白”戴益斌主张以混合方案来分析责任归属也就是说对于养老机器人等人工智能产品引起的伦理道德问题应由所有与之相关的扩展的主体担负起相关的责任 同样闫坤如也主张从人工智能的设计者、使用者、监督者、维护者及人工智能企业等不同主体分析伦理责任 逯改提出要通过社会政策与伦理规划同步、人之尊严与社会公平同在、道德建设与亲情关怀同行铸牢共同体意识加强智能养老护理机器人伦理规范 对于人机交互中的情感伦理多数学者认为人机交互与人际交往不能相提并论前者会出现众多伦理难题 在人机交互过程中人工情感与人类情感的交流可能导致人类心理被操纵和利用 具体在智慧养老领域老年人对机器人产生“情感依赖”可能出现脱离社交的风险 与发达国家相比我国人工智能技术发展起步较晚智慧养老领域的伦理研究还有待加强和深化(二)智慧养老伦理规范及政策进展近年来中国越来越重视构建人工智能的伦理规范出台了一系列的政策明确人工智能在安全、隐私、公平等方面的伦理原则助力人工智能健康、安全、可持续发展积极寻求智慧养老伦理治理的有效途径 年国务院发布新一代人工智能发展规划首次正式提出“开展人工智能行为科学和伦理道德研究制定人工智能发展法律法规和伦理道德规范”的明确要求 年 月国家标准化管理委员会发布了人工智能标准化白皮书 首次从政府层面提出了中国人工智能伦理的人类利益和责任原则 年 月国务院办公厅印发关于推进养老服务发展的意见强调要“加强老年人身份、生物识别等信息安全保护”年 月全国新一代人工智能治理专业委员会发布新一代人工智能治理原则 发展负责任人工智能提出了人工智能治理框架和行动指南突出了发展负责任人工智能的主题强调人工智能发展相关各方应遵循和谐友善、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八项原则 由此中国开始从伦理层面规范人工智能的发展 年 月国务院办公厅印发了关于切实解决老年人运用智能技术困难实施方案的通知要求智能养老设备要提高适老化程度这说明我国已经关注到了老年人使用智能养老设备时的身心需求着重帮助老年人跨越“数字鸿沟”年 月在上述原则基础上国家新一代人工智能治理专业委员会发布新一代人工智能伦理规范这是中国政府发布的首份人工智能伦理文件旨在将伦理道德融入人工智能全生命周期为从事人工智能相关活动的自然人、法人及其他相关机构提供伦理指引 该规范提出了增进人类福祉、促进公平正义、保护隐私安全、确保可控可信、强化责任担当、提高道德素养六个基本伦理要求以促进人类福祉和提高道德素养五、对我国构建智慧养老法律伦理规范的启示(一)加强总体战略布局构建完善法律体系从国际人工智能及智慧养老法律伦理治理的经验可以清楚地看出完善的法律体系可以为智慧养老的健康发展保驾护航 目前国内外已经在人工智能领域制定了诸多有关人工智能基本伦理的法律准则 为避免智慧养老伦理风险我国迫切需要构建适合中国实际的智慧养老法律及伦理体系(二)提升民众伦理素养促进社会各界参与目前民众的法律伦理素养还需进一步提升 我国应大力加强科技伦理素养教育一方面指导民众保持法律边界避免侵犯他人尤其是老年人权益另一方面帮助老年人增强自我保护意识广泛宣传伦理知识为推行智慧养老伦理规范培养良好的“土壤”此外政府部门可以统筹相关资源组织社会学、法学、伦理学等相关学界及企业界人士共同参与制定伦理规则 社会各层面参与越广泛所制定的智慧养老伦理规则的适用性越强落地执行更容易(三)凝聚全球共识积极开展对外交流目前全球主要国家对人工智能治理仍然停留在原则和框架层面 随着人工智能技术在全球的深入发展智慧养老这一具体领域的法律伦理规则制定需要汇集各国的智慧和力量 长期以来欧美日走在国际人工智能伦理治理的前列而来自发展中国家的研究和实践探索相对缺乏 我国需积极开展对外交流与合作凝聚全球共识构建有效适用于智慧养老领域的分层次、多维度的法律和伦理治理体系最大限度降低风险并增强我国在人工智能伦理标准制定上的话语权参考文献:第七次全国人口普查公报(第五号)人口年龄构成情况.中国统计():.睢党臣曹献雨.人工智能养老的内涵、现状与实现路径.新疆师范大学学报(哲学社会科学版)():.张博韩俊江.积极老龄化政策下智慧养老产业发展研究.广西社会科学():.赵曼邢怡青.“居家社区机构相协调”:政策机理和实现路径.社会保障研究():.():.向运华王晓慧.人工智能时代老年健康管理研究.新疆师范大学学报(哲学社会科学版)():.苏炜杰.人工智能养老服务侵权问题探析.兰州学刊():.赵岩.智能化养老的伦理向度.上海交通大学学报(哲学社会科学版)():.杜严勇.关于机器人应用的伦理问题.科学与社会():.王亮.社交机器人“单向度情感”伦理风险问题刍议.自然辩证法研究():.?.():.李小燕.老人护理机器人伦理风险探析.东北大学学报(社会科学版)():.():.艾萨克阿西莫夫.我机器人.北京:科学普及出版社.王亦菲韩凯峰.数字经济时代人工智能伦理风险及治理体系研究.信息通信技术与政策():.陈小平.人工智能伦理体系:基础架构与关键问题.智能系统学报():.邱惠君梁冬晗李凯.欧盟人工智能立法提案的核心思想及未来影响分析.信息安全与通信保密():.丁立江.人工智能时代下的战略布局图景 基于各国(区域)战略布局的比较分析.科技智囊():.蒋佳妮堵文瑜.促进人工智能发展的法律与伦理规范.北京:科学技术文献出版社:.陶芳芳.智能养老护理机器人应用的伦理问题.北京:中国石油大学(北京).:/.:/././.:/./.:.王张华贺文媛.智慧养老的伦理风险及其消解.天津行政学院学报():.戴益斌.试论人工智能的伦理责任.上海大学学报(社会科学版)():.闫坤如马少卿.人工智能伦理问题及其规约之径.东北大学学报(社会科学版)():.逯改.智能养老护理机器人的伦理反思与建议.医学与哲学():.朱贺.情感补偿机制下的社交机器人伦理问题.青年记者():.国务院.新一代人工智能发展规划/.().:/./.中国电子技术标准化研究院.人工智能标准化白皮书(版)/.:/./.徐锐.论我国人工智能的伦理规范建设.岭南学刊():.国务院.关于推进养老服务发展的意见/.().:/./.新华社.发展负责任的人工智能:我国新一代人工智能治理原则发布/.().:/./.黄天航张碧青韦结余陈柳娅.人工智能技术在社区环境治理中的应用研究 以北京市为例.社会治理():.国务院.关于切实解决老年人运用智能技术困难实施方案的通知/.().:/./.国家新一代人工智能治理专业委员会.新一代人工智能伦理规范发布/.().:/./.陈磊王柏村黄思翰张吉豫郭锐鲁俊群.人工智能伦理准则与治理体系:发展现状和战略建议.科技管理研究():.:.:.:(责任编辑:)