“深度伪造”技术对法官认知的冲击及应对.pdf

年第 期(总第 期)学 习 与 探 索 .法治文明与法律发展“深度伪造”技术对法官认知的冲击及应对吴进娥冯树春(江苏大学 法学院江苏 镇江)摘 要:“深度伪造”技术的超拟真、反鉴别、快更迭等特点使其伪造的视觉和听觉信息远远超越了一般人的识别能力不仅冲击着传统“眼见为实”“有图有真相”的大众认知模型也对法官的司法认知带来前所未有的挑战 法官决策的过程需要对诉讼参与人的身份、行为事实和法律规范加以认知“深度伪造”技术不仅会弱化法官认证在线诉讼参与人身份的能力而且也会降低法官基于直觉和逻辑认定行为事实的能力 为此司法机关需要重塑在线诉讼身份认证规则通过司法直觉的理性融入以及似真推理的融贯性来积极回应“深度伪造”技术带来的冲击关键词:“深度伪造”技术法官身份认证司法叙事中图分类号:文献标志码:文章编号:()基金项目:司法部项目“共同富裕示范服务区法律服务质量评估体系的构建与应用”()作者简介:吴进娥江苏大学法学院副教授法学博士 年 月内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能 技术进行电信诈骗的案件信息犯罪嫌疑人通过智能 换脸和拟声技术佯装成好友通过微信视频聊天骗取某科技公司法人代表郭某 万元 消息一经发布引发了全网轰动和社会公众的广泛关注 事实上 诈骗早已在多地案发多起且正在全国甚至全世界呈爆炸式增长 诈骗是“深度伪造”技术发展的产物之一除诈骗犯罪之外“深度伪造”技术也给传播淫秽物品、敲诈勒索等违法犯罪行为提供了便利“深度伪造”是随着人工智能的发展而出现的技术它已经发展为包括视频伪造、声音伪造、文本伪造和微表情合成等多模态视频欺骗技术“深度伪造”技术不仅冲击着传统“眼见为实”“有图有真相”的大众认知模型也对以图片、视频为重要媒介的法官认知带来了前所未有的挑战亟待司法机关作出有效回应 一、“深度伪造”技术的内涵及特征“深度伪造”技术对法官认知的冲击与其技术发展特征紧密相关 与传统伪造技术相比“深度伪造”技术借助人工智能所创建或改造的视听记录几乎可以实现“以假乱真”的效果且从技术上难以做到完全予以鉴别(一)“深度伪造”技术内涵厘定“深度伪造”技术目前在国际上还没有形成统一的定义 在我国理论上有观点认为“深度伪造”技术是利用神经网络进行大样本学习将作为素材的图片或者音视频合成到其他图片或者音视频上生成新的图片和音视频 也有观点认为“深度伪造”技术是计算机“深度学习”和“伪造”结合的产物通过人工智能来制作虚假的视频或音频或者对原本真实的视频或音频的内容进行修改呈现与真相不符合的状态 两种观点的区别在于对“深度伪造”技术形式进行了不同解释前一种观点认为伪造必须有原型后一种观点认为伪造既可以有原型也可以是虚拟创制要厘清“深度伪造”技术的内涵离不开追根溯源“深度伪造”概念起源于美国 美国在 年恶意伪造禁令法案()中将其定义为“创建或修改视听记录使其在理性观察者面前错误地显示为个人的实际言论或行为的真实记录”其中“视听记录”是指任何电子格式的音频或视觉媒体包括照片、电影、录像、电子图像或录音 在这个法案的定义里以是否存在原型为标准将“深度伪造”技术分为创建式“深度伪造”技术和篡改式“深度伪造”技术两种类型结合以上两种类型“深度伪造”技术可以界定为“利用人工智能创建虚假的视听记录或者对原始的视听记录进行篡改使他人误认为是真实视听记录的技术”创建式“深度伪造”技术是人工智能通过算法对数据库进行学习生成全新内容的技术 例如微软推出的“小冰”、推出 的 致 力 于 图 像 生 成 的 、推出的 等均具备这一功能 能够根据聊天的语境进行互动做到与真人几乎无异的场景式交流并以聊天的方式实现文本、翻译、代码等的撰写 篡改式“深度伪造”技术以某个原型为载体通过特殊的神经网络算法生成全新的视听记录达到替换本源的效果(二)“深度伪造”技术的特征与早期一般伪造技术相比“深度伪造”技术表现出一些特有的属性主要体现在以下三个方面.“深度伪造”技术具备超拟真能力“深度伪造”技术是生成式人工智能发展的阶段性产物与早期伪造技术相比具有超拟真能力 早期伪造技术以“”为典型需要借助同一面孔的多张不同角度照片才能完成人脸替换通过图层分析和颗粒度比对很容易分析出伪造的痕迹“深度伪造”则依靠生成式神经网络和鉴别式神经网络予以实现它们分别就像是算法生产工厂中的“生成器”和“鉴别器”“生成器”承担数据转化、替换和覆盖等工作而“鉴别器”主要检测信息数据的真实性“鉴别器”依据人工智能系统中足够多且高质量的算法数据完成查找生成信息数据的真实性缺陷的对抗工作并将真实性缺陷的序列数据反馈给“生成器”生成式神经网络再次操作深度的循环覆盖、替换过程以不断消除“鉴别器”反馈的缺陷信息直至生成高度真实性的虚假信息“深度伪造”技术仅凭一张照片就能实时匹配面部表情生成换脸视频还能自动调节替换后脸部的色差、亮度及替换边缘的差异足以达到偷梁换柱的目的“深度伪造”技术在对真实解构、重构的同时创造出比真实更真实的图景进而在认识论中以拟真替代本真、以再生替代本源其所创作出的超真实信息几乎不会留下任何伪造痕迹.“深度伪造”技术的检测鉴定不完全“深度伪造”技术自带反鉴别能力其所伪造出的产物在伪造过程中就经过反鉴别验证这给“深度伪造”技术的鉴别工作带来极大困难 目前世界上有多家人工智能研究中心和知名大学致力于“深度伪造”检测技术的研发 如美国 公司推出反向 工具加州大学河滨分校的研究人员研发出了一种由递归神经网络和编码过滤器组成的自动检测算法清华大学人工智能企业 发布深度伪造视频检测工具“”北京大学与微软亚洲研究院联合推出深度伪造识别工具“”等等但没有任何一家公司可以做到 精准鉴别深度伪造视频检测的主要方法可以分为两类:一是利用人工智能算法、模型对视频帧进行特征提取并分类检测 该类检测方法对特定的伪造手段有效但是往往滞后于伪造方法的出现不能全面、广泛地打击深度伪造视频 二是利用视频内容完整性结合区块链、传统信息安全等手段对原始发布视频进行溯源或防篡改检测 该类检测方法适用范围广泛能有效检测其他媒体数据和篡改手段但需要提前掌握原始数据并做预处理而我国目前没有用于研究和测试的深度伪造数据集 因此“深度伪造”技术的鉴别无法达到完全 即使“鉴别器在识别伪造内容方面可能会做得越来越好但生成器也能通过当前的鉴别技术进行防御和反击鉴别技术无法永远保持在生成技术前方”.“深度伪造”技术更迭能力更强 技术正以突飞猛进的速度快速发展 年以前 技术主要在安全监控、医疗、交通、游戏等有限领域的特定事项上辅助人们作出决断 年后各式各样的生成式 横空出世期间仅仅用了短短几年时间 这一现象在“深度伪造”技术的更迭上同样显现 年美国研究人员发现深度伪造视频中的角色不会正常眨眼睛该项研究一经发布深度伪造角色就学会了眨眼睛“深度伪造”技术的快速演化具有多方面的原因主要表现在以下两个方面一方面市场需求推动“深度伪造”技术快速发展 传统伪造软件的应用一般需要经过专业的学习和训练对操作人的专业能力、文化层次均有比较高的要求但“深度伪造”技术的操作更为简便 由于“深度伪造”的原理并不复杂生成成本较低有关深度伪造的项目数量很多如、等都是基于“深度伪造”的生成人脸的工具其中大部分项目提供了一键式操作程序 这极大降低了“深度伪造”技术的使用门槛导致一些利用这一技术实施的商业行为、违法犯罪行为呈井喷式涌现受市场需求驱动很多科学家不断致力于新型“深度伪造”技术的开发 如 年 月 日美国 网站刊文称俄罗斯科学家发明深度伪造视频的新方法这是一套新的神经架构和训练可以一次性创建高分辨率的人类头像输出高分辨率视频该技术可以使用几乎任何人作为“驱动图像”从而创建高分辨率的人像深度伪造视频另一方面生成式 降低了“深度伪造”的专业门槛 以往编码创作是高端黑客的专利让很多底层黑产从业者望洋兴叹 而 的兴起使得黑产“小白”也可以自动编码恶意程序推动了“深度伪造”技术发展 这样的例子在网络黑产中并不鲜见根据实验室观测部分黑客论坛、暗网中已出现利用 生成的即拿即用的攻击代码事例尽管目前代码实现的功能较为基础但随着相关技术在复杂黑产网络中传播不排除黑客通过多轮交互训练提升 生成恶意代码攻击效果的可能在可预见的未来“深度伪造”技术的发展条件会越发便利 二、“深度伪造”技术对法官认知的冲击“深度伪造”技术的超拟真、反鉴别、快更迭等特点使其伪造的视觉和听觉信息远远超越了一般人的认知能力也给法官的决策带来前所未有的挑战 司法决策是一个独特的认知过程是一个将法律责任与行为事实相连接的程序 在司法决策形成过程中需要法官对诉讼参与人的身份、行为事实和法律规范加以认知而“深度伪造”技术将会弱化法官认证在线诉讼参与人身份的能力以及基于直觉和逻辑分析认定行为事实的能力(一)“深度伪造”技术影响线上诉讼参与人身份的司法认证诉讼参与人身份真实是司法程序公正及诉讼结果得到有效执行的基础在传统诉讼程序中司法机关工作人员通过现场核对诉讼参与人的信息保障诉讼主体的同一性 随着智慧司法平台的建设诉讼的方式衍生出在线诉讼而且被广泛应用但在线诉讼的远程性、虚拟性、非接触性等特征使得诉讼参与人身份的真实性、同一性认证成为新兴的程序性难题而“深度伪造”技术的发展对在线诉讼的身份认证规则更是提出了全新的挑战.线上诉讼身份认证的步骤与模式在线诉讼的身份认证适用于所有在线参与诉讼的诉讼参与人包括当事人、辩护人、诉讼代理人以及证人、鉴定人等其他诉讼参与人 我国在线诉讼的身份认证共有两步:第一步是诉讼主体的真实性审查 人民法院在线诉讼规则第 条第 款规定:“参与在线诉讼的诉讼主体应当先行在诉讼平台完成实名注册 人民法院应当通参见中国工商银行金融科技研究院安全攻防实验室 年 月发布的 网络金融黑产研究报告:/./过证件证照在线比对、身份认证平台认证等方式核实诉讼主体的实名手机号码、居民身份证件号码、护照号码、统一社会信用代码等信息确认诉讼主体身份真实性 诉讼主体在线完成身份认证后取得登录诉讼平台的专用账号”第二步是诉讼主体的同一性核查 人民法院在线诉讼规则第 条第 款规定:“人民法院在线开展调解、证据交换、庭审等诉讼活动应当再次验证诉讼主体的身份确有必要的应当在线下进一步核实身份”身份核对又分为单次核对和复次核对两种模式单次核对模式下司法机关只需要对在线诉讼的参与人进行一次比对核验而复次核对则需要持续性多次比对确认实践中线上身份核对的方式有两种:一种是人证合一比对模式 该模式采取系统识别、人脸识别、语音动态确认等方式进行即时的人证合一比对 系统识别一般是指诉讼参与人通过输入手机号码获取验证码进行手机验证然后输入姓名和身份证号或者拍摄身份证上传人脸识别是指通过身份证照片与人脸进行对比语音动态确认是指诉讼参与人按照页面中的文字提示和演示视频录制视频并上传系统进行自动对比 另一种是关联核对模式 该模式通过微信、微博、支付宝等实名认证系统进行关联核对确认身份 例如杭州互联网法院电子诉讼身份认证经支付宝账户认证之后就不需要进行身份证照片比对.“深度伪造”技术影响在线诉讼身份认证的风险衡量在“深度伪造”技术出现以前由于即时的视频无法造假法官通过视频通话确认在线诉讼参与人的身份基本上与线下身份核查起到同等效力 但“深度伪造”技术出现以后即时视频也存在造假的可能导致在线诉讼身份认证面临误判的司法风险首先人证合一比对模式下“深度伪造”技术存在应用的空间 人证合一比对模式的可靠性建立在对人的声音信息、面部生物信息的唯一性、真实性之上而“深度伪造”技术的出现完全打破了人证合一模式的信赖基础“伪基站”等信息干扰手段的出现足以颠覆传统手机验证码等识别模式的可靠性而声音合成技术和 换脸技术的出现也为语音确认和视频确认带来误判的可能“深度伪造”技术下人证合一比对模式面临更加复杂的技术考验其次关联核对模式下“深度伪造”的风险已初见端倪 关联核对几乎完全依赖第三方实名认证系统而第三方实名认证系统的可靠性并非百分之百 本文开篇提到的微信即时换脸视频诈骗案足以证明微信等第三方实名认证系统正在受到“深度伪造”技术的侵蚀 虽然第三方实名认证系统没有支持 换脸的功能但用户可以通过第三方应用系统来完成操作 以微信换脸功能为例用户只需下载安装 或者 等第三方换脸应用并在该应用中完成换脸然后开启微信视频聊天就可以看到换脸后的效果 微信等第三方实名认证系统之所以对 换脸等“深度伪造”技术采取包容态度与其应用系统的商业属性、娱乐目的密不可分也体现了其系统接入管理上的漏洞这对完全依赖第三方实名认证系统的在线诉讼关联核对模式的影响是显而易见的(二)“深度伪造”技术削弱法官的事实认定能力法官无法直接获得案件的事实真相只能依据证据和控辩双方的叙事作出合乎逻辑和情理的判断 这个司法决定的认知过程大致经历三个步骤:一是通过构造故事对证据进行评价二是通过了解判决可能属于何种类型提出备选项的判决方案三是把故事划入最适合的裁决决定 因此司法认定的事实是基于对相互竞争的故事比较后的决定事实就是显得最正确、最令人信服和最少犯错误的陈述 从几个或几组证据到意义连贯的案件叙事是一个跨度很大的思维跳跃连接跳跃的认知基础与其说是推理或演绎不如说是假设或猜想因此在司法决定中直觉机制与理性分析有着分庭抗礼的地位 直觉思维与逻辑思维构成了人类特征迥异的认知模式这种认知模式同样适用于司法机关对案件行为事实的认知.“深度伪造”技术降低法官直觉感知能力从某种意义上说世界上有两类东西:一类是可以言说的另一类是不可言说的后者便是人的直觉 在司法实践中“不证”或者“少证”似乎是中国刑事法官认定事实的主流态势特别是对于无证据争议的案件在这类案件中直觉判断是法官无法回避的一种认知模式 在认知心理学上直觉被视为信息加工处理机制即根据输入的信息快捷地输出处理的结果 法官在司法活动中接触到的形形色色的案件信息看似孤立无序、不成章法实则不自觉中早已投射到个人的“知识库”中沉淀到知觉印象里 当再遇到新案件或者是相似情境时法官可能跳过推理、归纳、演绎、概括等认知过程仅凭直觉径直作出初步性的结果预判 因此司法的直觉不同于动物的“刺激反应”直觉模型而是与个人的经验、知识储备以及与直觉形成直接相关的图片信息、视频资料信息密不可分作为人类认知活动的一部分司法认知不可能完全超越认知自身的局限性为了简化决策任务法官不得不借助直观推断方法 根据“双重加工理论”直观处理信息的方式常常以图像、情景和脚本为媒介 而“深度伪造”技术的出现使得图像、视频等情景的真伪难辨一定程度上降低了法官基于证据形成直觉的能力 例如在某起故意伤害案件中被告人因砍伤他人被控故意伤害罪控诉机关指控被告人犯故意伤害罪的证据有被害人陈述、证人证言、被害人的伤情照片、作案工具、鉴定意见、出诊医生的专家意见 被害人陈述和证人证言可以证实被害人的伤情系被告人所为伤情照片、鉴定意见和专家意见证实被害人伤情达到轻伤符合刑事构罪标准法官基于上述证据对被告人作出逮捕决定根据法律规定逮捕适用于有证据证明有犯罪事实、可能判处有期徒刑以上刑罚的犯罪嫌疑人、被告人 法官在判决前对案件的定性和裁判已经形成了直觉判断但随着对证据的深入、细致审查该案发生了戏剧性转折 法官在审查伤情照片时发现被害人的伤痕与作案工具无法吻合因为本案的作案工具是一把有弧度的斧头而被害人的伤情照片显示其头部伤疤成直线形且长度大于斧头的总长度这显然违背常识正是基于这张伤情照片法官推翻了之前对案件的定性重新提出被告人不构成犯罪、被害人伤情的真实性存疑的假设在这个案例中法官推翻被告人构成犯罪的定性里面蕴藏着司法直觉这种直觉来源于对“伤情照片”的完全信赖其直觉的形成暗含着这样一种思维:图片展示的伤情痕迹是真实的于是根据图片内容触发了直觉想象认为伤情痕迹的形成过程存在不明因素或者力量的干扰从而也得出鉴定意见、医生出具的专家报告均不可信被告人不构成犯罪的结论 但是在“深度伪造”技术出现以后照片的真实性无法得到保障法官直觉思维的起点将被彻底打破法官会基于图片真伪得出两种甚至更多的直觉判断 可见“深度伪造”技术一定程度上降低了法官基于图片、视频等媒介信息产生的直觉信赖使其在看到图片、视频类证据时无法产生明确的直觉感受增强了直觉想象的复杂性降低法官的直觉感知能力.“深度伪造”技术削弱法官的逻辑叙事能力逻辑认知是法官对案件事实的理性分析其过程建立在对证据的审查、分析和深度论证的基础上是可描述的、阶梯式的归纳和演绎过程 逻辑认知的过程一般需要经历以下步骤:证据的个别化判断得出案件碎片化事实证据的关联性判断拼接事实碎片证据链检视勾勒完整的叙事“深度伪造”技术容易对电子证据、视听资料、图片造成“污染”而且“深度伪造”风险证据的真实性判断困难从而所得出的碎片事实镜像模糊进而导致事实碎片拼接困难降低了法官的逻辑叙事能力以某起强奸案为例根据检察机关的指控被告人与被害人相约至浴池洗澡其间被告人通过暴力手段对被害人实施了性侵害 以上事实有被害人的陈述、被害人伤情照片、人体分泌物 检测、案发现场图等证据支持 被害人的伤情照片可以证实被害人遭受暴力侵害的情况 检测证实被告人与被害人之间发生过性行为单个证据证明的碎片化事实拼接在一起是一本案信息系作者在某省法院走访调研时根据主审法官口述记录个完整的强奸案 但在案件审理过程中法官对被害人伤情照片进行审查时发现被害人身上的擦伤成青黄色而照片拍摄时间显示是在案发当日 根据伤情变化擦伤的形成初期一般是鲜红色然后是青紫色、绿色、黄色最后逐渐消失黄色瘀青代表被害人的伤情并非案发当时形成 基于这一图片信息和线索法官推定案件另有玄机于是再次提审被告人被告人此时给出了另一个完全不同的故事描述 根据被告人的供述被告人和被害人系情人关系案发前几日被害人的丈夫已知情并对被害人实施了殴打案发当日被害人与被告人相约至浴池洗澡双方自愿发生性关系事后被害人拨打了报警电话并指控被告人强奸被告人的这一叙事与被害人伤情形成时间相吻合于是得到了法官的认可顺着这一故事发展逻辑法官结合被告人与被害人的通话记录等其他证据形成了一个与公诉机关指控完全不同的叙事在该起案件中法官根据生活常识敏锐察觉到伤情照片存在的问题形成直觉感知但并没有停留在直觉感知和直觉想象层面而是通过进一步调查被告人供述等证据演绎出一个全新的故事碎片形成了逻辑认知在此基础上勾勒出一个不同的叙事 法官的这一逻辑叙事过程同样以图片真实为基础一旦对图片进行“深度伪造”案件的事实认定便会陷入故事版本同一化误区造成冤假错案为保证庭审的公正美国联邦证据规则第 条规定所有证据在采纳之前都必须进行鉴真“鉴真”是法官的职能它要求有足够的外部证据来初像地证明有关证据就是所宣称的证据是对实物证据的同一性、真实性加以验证的鉴别手段 依据鉴真规则任何一项在法庭上出示的证据都被推定为不真实需要出示证据者对证据的真实性加以证明对于无法通过鉴真规则检验的证据应当予以排除 而“深度伪造”技术的出现不仅会削弱法官对图片、视听资料等“深度伪造”风险证据真实性的审查能力同时还会削弱法官对“深度伪造”风险证据的同一性判断能力其一法官对“深度伪造”风险证据的同一性审查受限 在美国对于声音、图像等录制证据的鉴真有两种路径对于存在参与目击证人的可以由证人提供证言与视听资料相印证对于没有目击证人的只能依赖保管链条证明即在物证被提取后直到法庭出示它的整个期间所有持有、接触、保管过该项证据的人都要向法庭提供证言证明出示的证据和最初获取的证据具有同一性 我国也有保管链条证明规则主要包括审查提取、收集相关证据的笔录证据以及被告人的当庭辨认 区块链存证技术的应用也为破解证据的同一性审查难题提供了支持 但对于“深度伪造”证据仅仅依赖笔录证据和被告人辨认很难确认证据的同一性对于区块链存证的证据虽然可以确保从取证到提交法庭阶段的同一性却无法排除证据在固证前已经被“深度伪造”技术污染的可能其二法官对“深度伪造”风险证据的真实性审查十分困难“深度伪造”的高度仿真性、反鉴别性远超出了人的认识范畴法官作为劳动力市场上的一员也很难超越自身的认识界碑对“深度伪造”风险证据作出不同一般人的认知 对于这类证据的鉴真法官不得不依赖“技术鉴定”但截至目前技术发展尚难以达到这一水平鉴定意见的可采性判断将成为法官不得不面临的难题 三、“深度伪造”技术导致法官认知困境的应对机制 “深度伪造”技术的发展导致图片资料、视频资料真伪难辨这给以图片、视频资料为重要介质的法官认知活动带来全新难题 特别是以视频为媒介的线上身份认证活动和以图片、视频为重要证据形式的行为事实认定活动受到的冲击最大司法上需要积极回应以保障诉讼参与人的合法权利维护司法的公信力(一)线上诉讼身份认证规则完善为回应“深度伪造”技术对线上诉讼管理平本案信息系作者在某省法院走访调研时根据主审法官口述记录台侵蚀的风险司法机关应该对现行线上诉讼身份认知规则加以调整具体而言可以从以下三个方面着手.建立线上诉讼管理系统接入第三方系统审查机制线上诉讼对通信设备具有依附性需要手机、电脑等硬件设备和腾讯会议、电子诉讼平台等应用系统 为保障在线诉讼的公平性、规范性应该要求诉讼参与人统一适用司法机关官方的应用系统对于因特殊原因无法适用在线诉讼平台的情况诉讼参与人申请适用第三方应用系统参加诉讼的需要经过严格的审批程序 线上诉讼管理系统一般不作声像处理除非在特殊案件中为保障证人人身安全的需要启动视频隐蔽作证系统可以对证人的外貌、声音作特殊处理 这意味着诉讼参与人将“深度伪造”技术应用到线上诉讼需要同时开启“深度伪造”应用系统与线上诉讼管理系统并实现系统对接 为防止“深度伪造”技术的侵蚀线上诉讼管理系统在技术上应该设置外部应用系统接入警示功能司法工作人员应该对诉讼管理系统是否接入第三方系统进行审查核实确保诉讼服务系统的规范性.加强线上诉讼的场域限制为破解线上诉讼身份认证难题有观点提出了通过实名身份信息的哈希值确认和指纹识别技术、人脸识别技术、短信验证等信息叠加验证的思路实践中也主要通过这些手段实现诉讼参与人的身份认证但随着人工智能的发展当前的身份认证手段越来越不足以防范“深度伪造”技术的侵蚀 在线诉讼利用数字影像技术实现诉讼的既视感在图景影像资料中能够有效辅助法官确认身份的信息除人面识别信息和语音信息外还有一类重要信息便是诉讼场域 诉讼场域对于位置定位和身份的同一性判断至关重要因为“深度伪造”技术目前主要针对人的面部信息、声音信息等生物信息还不具备在同步视频中“深度伪造”环境的能力但遗憾的是当前司法机关对线上诉讼场域的限制或重视主要出于维护法庭秩序的目的而没有意识到诉讼场域的身份认证价值人民法院在线诉讼规则第 条规定“被告人、罪犯被羁押的可以在看守所、监狱等羁押场所在线出庭被告人、罪犯未被羁押的因特殊原因确实无法到庭的可以在人民法院指定的场所在线出庭证人、鉴定人一般应当在线下出庭但法律和司法解释另有规定的除外”从规则内容来看除羁押的被告人参与在线诉讼的场域固定之外其他诉讼参与人包括非在押的被告人、犯罪人参与诉讼的场域都具有不固定性 实践中很多情况下证人并不一定到实体法庭而是在住所、单位、车辆等场所某些当事人、证人在参加庭审时其所处房屋或场所甚至出现了手机铃声、孩子哭闹、旁人喧哗等情形而律师等诉讼参与人参加诉讼的地点选择性更强 一些法院为强化虚拟法庭的仪式性和权威性甚至开发建设了“虚拟法庭舱”电子诉讼系统平台诉讼参与人进入虚拟法庭舱后真实的场域信息被彻底消除无法起到辅助法官进行身份认证的作用为回应“深度伪造”技术侵蚀在线诉讼的风险司法机关可以对线上诉讼的场域加强限制除严重疾病等特殊原因外诉讼参加人包括律师均需要到指定场域参加诉讼这里的指定场域是指就近的司法机关或者具有公共服务职能的组织或机构 确因特殊原因无法到达指定场域参加诉讼的可以提前向司法机关申请并明确参加诉讼的地点以便司法机关进行位置定位和环境比对.建立在线诉讼见证人制度对不能到法院指定场域参加诉讼的诉讼参与人可以建立在线诉讼见证人制度通过区域间司法协助等形式由参与诉讼当地的公检法工作人员或者社区服务人员到达现场见证诉讼参与人参与诉讼的过程 对于涉及国家秘密、个人隐私等特殊情况见证人只需要参与身份审查环节并在形成的笔录中签字确保诉讼参与人身份的真实性、同一性 在线诉讼见证人制度仅适用个别因病重等客观原因无法到达法院指定场域参加诉讼的情况 程序启动前诉讼参加人需向法院提出申请表明不能到指定地点参加诉讼的缘由并就参加诉讼的可行地点提出申请法官基于具体情况审查决定是否同意其在申请地点参加诉讼 经审查法官同意诉讼参加人在申请地点参加诉讼的需要通知当地法院提供协助由当地法院派出人员或联系当地的基层组织人员按照通知时间到达指定地点审查核实、见证诉讼参与人的身份(二)司法直觉偏差控制:信息“深度伪造”系数评估“理想的司法认知至少需直觉、检测与证立三道工序对应发现结论、防范直觉偏差、修正不合理理由三个认知功能完成为案件提供答案、保证客观性、展现正当性三重司法任务”直觉一般处于潜意识状态个体似乎知道是什么但又不知为什么介于有意识与无意识之间 司法直觉是正义观念驱使下对案件产生的一种模糊感知可以看作是不受意识监控的推理与顿悟处理观念关系的产物 因此司法直觉呈现直接性、敏捷性、不确定性“司法活动中的直觉思维的应用具体包括直觉判断、直觉想象和直觉启发等三个部分的内容”司法直觉最终以直觉判断的方式呈现但在形成之前直觉启发和直觉想象也发挥着关键的作用直觉判断的产生往往起始于直觉启发 在司法直觉形成前法官可能对案件的判断处于一种模糊状态甚至在深思熟虑后依然很难作出合理的叙事但在某一时刻某一信息发挥了关键性的启发作用给法官造成冲击带来直觉启发这类信息的载体往往是客观性比较强的实物证据如记录案发过程的录音录像和图片等从关键信息带来直觉启发到作出直觉判断的过程中法官往往会加入个人的直觉想象自行弥补没有证据证明的事实碎片 但不是所有的信息都能触发人的直觉想象只有被法官“信以为真”的信息才能发挥这一功能 因此司法直觉的底色本质上是对触动直觉启发信息的信赖 在“深度伪造”技术发展以前伪造视频的难度很大法官很容易对视频类证据的内容产生信赖并基于这一信赖作出直觉判断 但在“深度伪造”技术发展以后这种信赖被彻底打破 法官在面对信息冲击时可能会触发直觉启发并衍生出直觉想象但同时也会陷入对证据真伪的矛盾分析中“一个理想的文化心理结构应该是直觉思维与理性思维的有机结合”为防止“深度伪造”技术造成司法直觉的偏差法官需要在受到信息冲击时嵌入理性思维和逻辑判断综合图片、视频等直觉信息提取的主体与案件是否存在利害关系提取时间与案发时间间隔长短提取时有无见证人见证是否利用区块链存证等内容对直觉信息的“深度伪造”系数进行综合评估建立直觉理性 在直觉判断的倾向产生以后法官还应该保持必要的审慎不轻易对直觉判断作出肯定性或否定性的心理认证而要在逻辑理性中进一步求知实现直觉思维与逻辑思维的深度结合以控制“深度伪造”技术引发的司法直觉偏差以前文所述的“故意伤害案”为例在“深度伪造”技术高度发展时期法官的直觉受到被害人的伤情照片冲击后不应直接建立直觉想象而应在直觉想象前先行对照片的“深度伪造”可能性进行衡量 除结合控辩双方的异议、技术鉴定报告等进行判断以外还可以从照片的形成时间、制作主体与被害人或者被告人的利害关系分析伪造照片的可能性 照片形成时间与伤情形成时间间隔越久照片制作过程越隐秘制作主体与被害人或被告人联系越紧密照片保管的技术性手段越低伪造的概率越大反之则越小 这种模糊的趋向认知虽然不能促使法官形成准确的直觉判断但一定程度上可以帮助法官降低司法直觉的偏差(三)司法逻辑叙事的融贯性:“深度伪造”风险证据的鉴真及适用“深度伪造”风险证据已经完全超出一般人的认知范畴也突破了“印证证明”的鉴真模式因此对“深度伪造”风险证据的鉴真还应该建立区别于一般证据的链条证明规则打破仅依赖笔录证据、书面审查的形式对于有异议的“深度伪造”风险证据法官应该传唤证据的制作者、保管者、接触者、见证人到庭接受交叉询问特别是对证据制作者的询问可以有效发现取证前有无技术污染的可能这个可以结合证据的形成时间、场景进行综合判断此外“深度伪造”风险证据的鉴真难题由技术引发也要从技术上寻找破解 虽然目前还没有鉴别技术能够达到百分百的识别率但鉴别技术的识别能力远远大于法官个人的识别能力 因此对于有“深度伪造”风险的证据我国应该建立检测报告制度 一旦控辩双方中有一方对证据提出异议并申请伪造技术鉴定司法机关应当准许推动“深度伪造”证据采信客观化“从司法实践发展的视角看证据的客观化采信是人类司法活动的不懈追求它能够提高司法的可预期性、公正性和公信力”“技术性鉴真在价值功能、鉴真标准等方面与传统鉴真方法并无区别但在内在机理、证明责任、程序保障等方面存在较大差异”“深度伪造”风险证据检测报告的准确率不可能达到百分百其带有“似真性”沃尔顿提出的似真证据理论认为从对一个(可信的)人的初始印象(从表面上看似乎是诚实的)推出某事物且它被理性地接受那么它就是证据 法官在进行逻辑叙事过程中适用“深度伪造”风险证据时需要采用“似真推理”规则通常在一些技术性意见的审查上法官常常表现出对专家的过度信赖 因为专家具有中立超然地位和专业背景优势能够获得较高的社会信赖其提供的司法鉴定意见能为法官筑起一道“防火墙”法官无须直面当事人的质疑而且还能避免拖沓的说理和反复的纷争节省司法资源提高司法效率 但似真证据天然带有不确定性专家也无法确认其真实性法官只能结合全案证据进行似真推理“似真推理不要求计算命题是否为真的概率但要求法官选择接受或拒绝一个似真结论之前最好权衡一下支持该命题的理由与不支持该命题理由的权重”呈现为“提出假设作出解释比较并判定似真解释”的过程 如果一种表征看起来为真则具有似真性如果它看起来为真并且稳定则它更加具有似真性如果它可付诸检验且通过检验则它具有更进一步的似真性似真推理可以用似真度来衡量法官基于“深度伪造”风险证据进行似真推理时首先要对“深度伪造”风险证据进行似真判断并提出一个假设基于这个假设结合其他证据得出一个逻辑叙事的版本进而就叙事的融贯性加以检验 只有叙事不存在无法排除的矛盾并符合人的基本常识和多数人的共识才可以接受为似真结论 但在整个推理过程中法官的思维应该秉持高度开放性随时接纳新证据的引入并对似真性进行检验只有符合稳定性的逻辑叙事才可以作为最终的结论 四、结语与金融科技改变了金融业的实际运行状态一样法律科技乃至更广泛意义上的政府科技正在深刻地改变着司法程序的运转机制 科学技术本身所具有的异化风险在司法审判场域中很可能会隐含着消解庭审场域、破坏诉讼构造、冲击法官主体性的风险“深度伪造”技术导致图片、视频等媒介的真伪难辨不仅侵犯公民的个人权利、破坏社会稳定与国家安全甚至还可能消解社会共同的信任 为回应这一技术带来的挑战司法机关除加强技术攻克以外还需要及时调整相关的司法认知规则加强科技创新异化风险的司法防控参考文献:白珂嘉:技术被用于诈骗!公司老板 分钟被骗走 万中国青年网:/./.张晓玉:深度伪造技术的发展及影响网信军民融合 年第 期苗争鸣:可怕的“深度伪造”技术世界知识 年第 期谨防“深度伪造”侵害公众利益检察风云 年第 期 周丰:生成式人工智能:功能外化抑或能力抽离中国社会科学报 年 月 日第 版 熊波:“深度伪造”的扩张化刑事治理风险及其限度安徽大学学报(哲学社会科学版)年第 期 徐燕萍:“深度伪造”背景下新闻事实核查的路径探析新媒体研究 年第 期 王振波、吴湘玲:数字时代“深度伪造”技术研究 机理特征、功能异化及其优化理路北京航空航天大学学报(社会科学版)网络首发:/././.暴雨轩、芦天亮、杜彦辉:深度伪造视频检测技术综述计算机科学 年第 期 魏书音、刘玉琢:深度伪造技术正在颠覆网络空间的可信性网络安全和信息化 年第 期 王洋、闫海:生成式人工智能的风险迭代与规制革新 以 为例理论月刊 年第 期 王新哲、杨建、马多贺:面向 对抗的人脸深度伪造检测方法研究工业信息安全 年第 期 王楚:俄罗斯科学家发明制造深度伪造视频的新方法互联网天地 年第 期 周莹莹:在线诉讼中身份认证制度研究 基于人民法院在线诉讼规则第七条的分析贵州民族大学学报(哲学社会科学版)年第 期 秦宗文:自由心证研究 以刑事诉讼为中心北京:法律出版社 年版 李安:司法决定的认知机制与理性浙江社会科学 年第 期 左卫民:拼图抑或印证:中国刑事法官事实认定的实践检视法学研究 年第 期 .“:”.王进喜:美国联邦证据规则(年重塑版)条解北京:中国法制出版社 年版 陈瑞华:实物证据的鉴真问题法学研究 年第 期 谢登科:在线诉讼中证人出庭作证的场域变革与制度发展法制与社会发展 年第 期邓恒、王伟:互联网司法研究:探索、践行与发展 基于考察三家互联网法院的研究进路中国应用法学 年第 期 李安:司法过程的直觉及其偏差控制中国社会科学 年第 期 刘新慧:经验视域下司法直觉的理性反思哈尔滨师范大学社会科学学报 年第 期 周勤勤:理性的直觉与直觉的理性中国社会科学院研究生院学报 年第 期 刘品新:印证与概率:电子证据的客观化采信环球法律评论 年第 期 谢登科:电子数据的技术性鉴真法学研究 年第 期 道格拉斯沃尔顿:法律论证与证据梁庆寅、熊明辉等译北京:中国政法大学出版社 年版 杨彪:司法认知偏差与量化裁判中的锚定效应中国法学 年第 期 张中、吕子婧:法律证据认定中似真推理与概率推理实质之辩驳河南师范大学学报(哲学社会科学版)年第 期 王星译:最佳解释推论的误读与澄清中国刑事法杂志 年第 期 杜文静:论似真推理的价值证成学术交流 年第 期 郑戈:司法科技的协调与整合法律适用 年第 期 陈实、卫晨曙:论智能时代我国司法审判的科技异化上海法学研究集刊 年第 卷责任编辑:朱 磊