2023中国人工智能系列白皮书（数字社会的风险挑战与治理应对）.pdf

中国人工智能学会发展报告系列中国人工智能学会发展报告系列 数字社会的风险挑战与治理应对数字社会的风险挑战与治理应对 CAAI 社会计算与社会智能主编社会计算与社会智能主编 二二二二三三年年九九月月 中国人工智能学会发展报告系列 1 目目 录录 序言.1 第 1 章 社会数字化与数字社会.2 1.1 数字社会的发展演变与未来趋势.2 1.2 数字社会的基本结构.5 1.2.1 数字社会的虚实二元结构.5 1.2.2 数字社会的系统结构.6 1.3 数字社会的行动逻辑.7 1.3.1 行动者的二元属性.7 1.3.2 社会行动的数字化结构.8 1.3.3 社会行动的数字化.9 1.4 数字社会的主要风险.9 1.5 小结.10 第 2 章 数字社会世界观与数字社会风险治理的主、客体界定.12 2.1 数字社会世界观.12 2.1.1 数字社会的网络资源观.13 2.1.2 数字社会的数据要素观.13 2.1.3 数字社会的算法规则观.13 2.1.4 数字社会的软件设施观.14 2.1.5 数字社会的开放开源观.14 2.2 数字社会风险治理主体.14 2.2.1 数字社会风险治理的“核心”主体政府组织.15 2.2.2 数字社会风险治理的“技术”主体网络运营者.16 2.2.3 数字社会风险治理的“专业”主体社会组织.16 2.2.4 数字社会风险治理的“不可或缺”主体公民.17 2.3 数字社会风险治理客体.18 2.4 小结.19 第 3 章 数字社会的风险挑战.20 3.1 失真数字内容传播风险与耦合网络沟通机制.20 3.1.1 失真数字内容.22 3.1.2 失真数字内容传播动力学模型.24 3.1.3 多渠道融合治理.25 3.1.4 小结.27 3.2 数字货币发行中的风险、机遇和挑战.29 中国人工智能学会发展报告系列 2 3.2.1 数字货币的主要风险.29 3.2.2 中国发行法定数字货币的机遇.31 3.2.3 中国发行法定数字货币的挑战.35 3.2.4 小结.38 3.3 数字社会算法裁决过度风险与公平计算.39 3.3.1 数字社会算法风险.40 3.3.2 算法公平与公平计算.43 3.3.3 算法治理.45 3.3.4 小结.47 3.4 数字社会基础设施风险与新兴安全技术发展.47 3.4.1 虚实空间融合导致攻击的跨界威胁.48 3.4.2 海量异构终端互联带来的安全短板.51 3.4.3 数据安全问题引发的 AI 信任危机.53 3.4.4 应用场景多元化伴随着风险多元化.56 3.4.5 小结.59 3.5 数字平台生态失控风险与新型反垄断制度设计.59 3.5.1 数字平台生态失控风险.60 3.5.2 新型反垄断制度设计.67 3.5.3 小结.71 3.6 数字社会数据隐私保护与隐私技术发展.71 3.6.1 分布式隐私计算与建模.72 3.6.2 基于现代产权理论的数据确权.76 3.6.3 数据定价和公平性.77 3.6.4 小结.78 第 4 章 数字社会风险的智能治理.80 4.1 数字时代的技术差异赋权及其风险治理.80 4.1.1 数字技术赋权及其差异化样态.80 4.1.2 数字技术差异赋权引发的现实风险.82 4.1.3 数字技术风险法律规控的具体展开.85 4.1.4 小结.89 4.2 数字社会风险治理的数智化逻辑.89 4.2.1 大数据驱动风险治理逻辑变革.90 4.2.2 数智化赋能风险治理体系.91 4.2.3 数字社会风险治理方法与机制创新.94 4.2.4 小结.96 4.3 面向企业风险智能分析的“人在回路”范式.97 4.3.1 相关工作.98 4.3.2“人在回路”基本范式设计.100 4.3.3“人在回路”范式中人类智慧和机器智能的能力.101 中国人工智能学会发展报告系列 3 4.3.4 基于“人在回路”的企业风险智能分析框架设计.103 4.3.5“人在回路”范式的人机协作模式.104 4.3.6 小结.108 4.4“共建共治共享”的数字社会风险治理制度创新.108 4.4.1“共建共治共享”的数字社会风险治理制度框架.109 4.4.2 共建：融合多源数据建设数字风险治理大数据平台.111 4.4.3 共治：引导多元主体共同参与数字社会风险治理.113 4.4.4 共享：统筹城乡数字风险治理协同发展.116 4.4.5 小结.117 参考文献.118 附录.126 中国人工智能学会发展报告系列 1 序言序言 关于数字社会风险应对与治理的探讨，从互联网出现至今就一直是学界和业界关注的焦点，但是随着云计算、物联网、大数据、人工智能、区块链和数字孪生等技术的不断发展，我们对于数字世界的认识从 Web1.0，发展到 Web2.0，发展 Web3.0对于数字社会的认识也从网络社会，发展到虚拟社会，发展到依托数字化、网络化和智能化实现人们各类活动的平台和通行路径的数智社会。进入数智社会，迎接人类的不仅仅是更为便捷、更为丰富、更具创意的新模式、新业态、新产品和新服务，同时也要未雨绸缪防范可能的新风险，需要提前布局与之配套的新规则、新管理、新监管和新治理，才能让数字社会在平衡发展与风险中实现高质量提升。本专辑源于中国人工智能学会社会计算与社会智能专业委员会数字社会的风险挑战与治理应对战略研究报告（2022 年 8 月 12 日，杭州发布），但在单独成文时，又做了进一步的完善和扩充。2022 年伊始，国务院印发“十四五”数字经济发展规划，提出要健全完善数字经济治理体系，加强重大问题研判和风险治理，着力强化数字经济安全体系，切实有效防范各类风险。期望本专辑对促进我国数字经济高质量发展起到积极作用。中国人工智能学会发展报告系列 2 第第 1 章章 社会数字化与数字社会社会数字化与数字社会 当前，新一轮科技革命和产业变革突飞猛进，科技革命与社会变革加速渗透融合。科学技术尤其是以互联网、大数据、云计算、人工智能和区块链等为代表的数字技术正与社会交往、社会服务、社区建设、社会治理等领域不断渗透融合，社会正在由人与环境构成的物理关系向“万物数字化”和万物互联的数字关系转变，社会关系和社会结构呈现出前所未有的新特征，社会运行的机理与方式正在发生深刻变革。人类社会正在经历一场由科学技术引发的社会数字化变革，并全面融入到一个迈向智能的数字社会。“加快数字社会建设步伐”已经写入了中华人民共和国国民经济和社会发展第十四个五年规划和 2035 年远景目标纲要，包括提供智慧便捷的公共服务、建设智慧城市和数字乡村、构筑美好数字生活新图景等。数字社会的一幅幅美好生活图景正向我们扑面而来，但是学界对数字社会的发展演变、系统结构、行动逻辑和风险识别等理论研究明显滞后。为此，本研究将在系统梳理我国数字社会的发展演变的基础上，分析数字社会的基本结构，探究数字社会的行动逻辑，并对数字社会的主要风险进行识别。1.1 数字社会的发展演变与未来趋势 数字社会起源于数字和符号的诞生，发轫于计算机的应用，形成于互联网的普及。我国数字社会的形成主要得益于计算机和互联网技术的发展，于 20 世纪 90 年代随着信息互联网的诞生而兴起，于 21 世纪初随着博客、QQ、微信等社交互联网的发展而得到快速中国人工智能学会发展报告系列 3 发展，到 21 世纪 20 年代随着 5G 和物联网的快速发展而逐渐形成。我国社会的数字化转型大致可以分为三个时期，即以信息数字化为主的数字社会早期、以社交数字化为主的数字社会中期、以万物数字化为主的数字社会晚期。（1）信息数字化社会（1994-2004 年）从 1994 年中国实现了与国际互联网的全功能接入后，我国开启了信息资讯数字化进程，起初主要是科研单位主导互联网基础设施建设，后来随着雅虎（YAHOO）、新浪、搜狐、网易、腾讯、阿里巴巴、百度等门户网站、电子商务和搜索引擎等数字化企业的成立及快速发展，我国以信息资讯为主导的数字化社会得到了快速发展。有学者将这个时期定义为 WEB1.0 社会，或者定义为信息社会，还有人定义为网络社会，大致较好地描述了早期以信息为主导的数字化社会的早期特征。（2）社交数字化社会（2005-2018 年）社会交往的数字化是数字社会形成的关键性标志。2005 年我国互联网网民首次超过 1 亿人，意味着我国数字化进程进入了加速发展阶段，而且博客、校内网（2009 年升级为人人网）的兴起，以及此后大量社交网站的兴起，比如博客中国、天涯社区、人人网、开心网、新浪微博和 QQ 空间，以及国外的 Facebook、Twitter 等，标志着我国网民不仅是一个信息资讯的接收者，而且是信息社会的创造者和传播者。更重要的是，网民已经开始通过互联网等数字化形式开展社会交往，通过数字化的社交软件和平台拓展自己的社会关系。一旦社会交往数字化后，人类的数字化进程得以加速。2011 年中国人工智能学会发展报告系列 4 腾讯推出了更具有社交功能的微信（Wechat）小程序。2012 年我国手机网民首次超过 PC 端网民，预示着移动互联网的爆发。在移动手机的普及和腾讯庞大 QQ 用户的推动下，腾讯的微信注册用户呈现爆炸式增长，2013 年年底注册用户超过 6 亿，如今微信用户已经超过 12 亿，覆盖了 14 亿人口大国的主要成年人口。而且微信小程序不断整合日常生活基本服务，日渐成为囊括了购物支付、出行打车、看病挂号、酒店住宿、餐饮快递和零售百货等传统衣食住行的全新的数字生活方式。有学者将这个时期定义为 WEB2.0 社会，大致较好地描述了以社交为主导覆盖生活和工作领域的数字化社会的中期特征。（3）万物互联的数字化社会（2019 年至今）当我国社会的数字化转型进入到 2019 年时，数字社会建设进入了一个全新的发展阶段。首先，2019 年三大运营商的 5G 牌照正式商用，为万物互联奠定了一个坚实的基础，意味着我国的远程会议、远程教育、远程医疗、无人驾驶、智慧安防和云游戏等场景应用进入了一个快速发展时期。其次，受到 2019 年年底爆发的新冠肺炎疫情的影响，我国社会的数字化进程明显加快并提速。最近三年，我国物联网载体的各个行业经历了快速的爆发期。到 2022 年 7 月，我国蜂窝物联网终端用户已达到 16.7 亿，与移动蜂窝电话用户数持平；从网络连接看，2022 年连接物的终端数目超过了连接人的终端数，我国物联网进入了里程碑意义上的加速发展期。此外，最近几年，我国的数字经济、数字政务、智慧城市和数字乡村得到了快速发展，不仅教育、医疗、养老、抚幼、就业、文体和助残等重点领域的基本公共服务数字化进程加快，而且购物消费、居家生活、旅游休闲中国人工智能学会发展报告系列 5 和交通出行等各类生活场景的数字化进程也不断加快，一幅智慧共享、和睦共治和全民畅享的新型数字生活的美好画面正迎面而来。（4）数字社会的未来趋势：元宇宙智能社会 2021 年最为火爆的元宇宙（Metaverse）概念掀起了人类对未来社会的广泛想象。元宇宙虽然没有一个标准概念，但大致指的是利用区块链、5G/6G、人工智能、3D、VR/AR/XR、脑机接口等人类最尖端科学技术手段进行链接与创造的，与现实世界映射与交互的虚拟世界，具备新型社会体系的数字生活空间。有人认为，元宇宙是互联网技术的最新演化；也有人认为，元宇宙是人类存在状况的最新征候；还有人认为，元宇宙是人类数字化生存的高级形态。但是不管如何，基本可以认为，元宇宙本质上是对现实社会的虚拟化、数字化过程，同时也包含着基于数字化环境的新型社会生态的涌现。元宇宙为我们理解未来数字社会的形态提供了一种丰富的畅想。尽管人类对元宇宙社会没有一个统一的定义，但是代表了数字社会的未来发展方向。元宇宙社会不仅是一个智能社会，而且是一个虚拟社会和现实社会相互交织、相互融合的超级智能社会，或许与日本提出的超级智能社会“社会 5.0”一致，或许是“社会 6.0”，或者是“Web3.0”。1.2 数字社会的基本结构 1.2.1 数字社会的虚实二元结构 数字社会是一个由虚拟社会和现实社会共同构成的社会形态。在数字社会中，虚拟社会和现实社会既相互交织又互相区别。一方面，数字社会中的虚拟社会看似虚拟，却又可通过手机、电脑和多媒体终端清晰可见，是客观存在的社会事实，而且虚拟社会中的很中国人工智能学会发展报告系列 6 多制度、规则、算法和伦理等又根植于现实社会，与现实社会有着千丝万缕的联系；另一方面，数字社会中虚拟社会又在很多方面与现实社会有不同的表现形式和运行逻辑，尤其是虚拟互动与现实互动的受众对象、互动规则及影响效果都存在明显的不同。数字社会中，这种既可区分又不可区分的虚拟社会和现实社会的二元特征使其与传统社会有明显不同的独特性。事实上，如果将数字社会的虚拟性和现实性视为数字社会的一种二元分析框架，却可以较好地认识数字社会的基本结构。按照数字社会的虚拟与现实的二元结构的区分，可以识别出数字社会的三种典型类型：一是纯虚拟社会，比如游戏和电影中的纯虚拟社会；二是纯现实社会，又称物理社会，比如饮食聚餐和住宿出行；三是虚拟与现实相结合的数字社会，这可以区分出增强型的虚拟社会、沉浸式的虚拟社会、角色扮演式的现实社会等不同形式的虚实融合社会。1.2.2 数字社会的系统结构 如果将数字社会看成一个系统，其结构至少包括四个方面的内容。一是数字设施，即数字社会的基础设施，主要包括网络通信设施、数据存储设施、云计算设施、物联网设施和工业互联网设施等一系列支撑数字社会的硬件设施，这些好比数字社会这栋大楼的砖墙门窗、钢筋水泥、办公桌椅和网络电力等。二是数字平台，即数字化社会的应用平台，主要包括教育、医疗、养老、抚幼、就业、文体和助残等不同领域的社会服务，这些服务构成了数字社会的一个个应用场景，很多综合性的数字化应用中国人工智能学会发展报告系列 7 平台已经开始将不同应用场景的平台进行整合，形成一个综合性的数字化平台。三是数字算法，即数字社会的算法规则，主要包括自然语言、伪代码、流程图、drakon 图表和编程语言或控制表等不同形式的算法。由于每一种算法背后都有其经济、社会和文化背景，有时隐含着一定的主观性特征，甚至偏见、歧视乃至不公平。正因为如此，有些国家要求算法需要公开并备案。四是数字互动，即数字社会的社会交往，主要包括浏览网页、观看短视频、发微博、微信聊天、转发朋友圈、点赞评论和网络会议等数字互动，这些数字互动本身会成为数字社会的行动痕迹的一部分，又是个体行动者与其他个体乃至全体行动者进行社会交往的各种形式。数字互动既有例行性的互动，又有突发性的互动；既可以是虚拟的、超越时空的互动，也可以是面对面的现实互动。1.3 数字社会的行动逻辑 1.3.1 行动者的二元属性 在数字社会中，人的数字化是反映整个数字社会数字化水平的核心指标。人的数字化进程就是人从出生到托育、入园、上学、工作、结婚、生育、退休、养老乃至死亡的整个生命周期的数字化。因此，相较于人的社会化进程，人的数字化进程不仅要早，而且持续时间要长。人作为数字社会的行动者的独特性在于，人在数字化进程中形成了独特的数字虚拟性属性。在数字社会中，人是数字虚拟性和数字现实性相统一的行动主体。人的数字虚拟属性既是虚拟的又是现实的，既是数字的又是物理的。人的数字虚拟性属性是人作为数字社会的行动者具有超越物理中国人工智能学会发展报告系列 8 现实参与到虚拟空间或者虚拟社会的属性，指的是人作为虚拟社会的行动主体可以以虚拟身份或者匿名身份在虚拟环境中开展一系列社会互动的特性。比如，以匿名身份参与到社区、微博、新闻事件的点评和讨论，以匿名的微信号参与到网络交友和群信朋友群讨论中，以及以虚拟身份参与到相关游戏活动中。在数字社会中的一系列社会互动构成了人的虚拟实践。1.3.2 社会行动的数字化结构 社会行动蕴含着一定的行动逻辑，而这种行动逻辑是行动者所遵循的行动规则和行为规范。在数字化时代，行动者所遵循的数字化行动逻辑既是现实行动逻辑的数字化过程，又是超越现实行动的逻辑而呈现出新的行动逻辑。一方面，数字技术让人与人之间的互动超越了传统社会行动的地域、时间、人数规模、互动频次、传播速度和力度的局限；另一方面，数字技术的发展改变了群体组织的生成方式和互动方式，互联网诞生了大量的微信群、朋友圈和粉丝圈等。群体之间的互动模式、网民的互动结构、互联网的意识形态结构、虚拟社区的形态、家庭的数字化和虚拟化等深刻地改变了社会结构的内涵、特征和弹性，传统的垂直、单向、金字塔结构正向扁平、多向、椭圆结构转变。数字社会中行动者所遵循的行动逻辑主要体现在数字化的结构性资源上，其中算法便是典型的数字化的结构性资源。数字化结构性资源是建立在整个社会规范基础上的知识体系。数字社会中的数字化结构性资源具有两个方面的特征，一是开放性，即数字化结构性资源基本是开放性的、免费的、透明的，只有这样人人才可以得以习得并遵循；二是参与性，即数字化结构性资源本身是共享的、中国人工智能学会发展报告系列 9 参与的，比如网络百科就是具有网民自发更新和完善的特征。当然，正是数字化结构性资源的这两个特征构成了数字社会行动的独特行动逻辑。1.3.3 社会行动的数字化 数字化时代，互联网的普及使得传统线下的社会行动，比如捐赠行动、志愿行动、体育比赛、上访、游行和抗议等呈现数字化和虚拟化趋势。与传统纸质媒体传播时代不同的是，公民使用互联网来开展社会行动，不仅成本低，组织起来也相对容易，而且互联网的集体行动更加具有传播性和影响力，因此，社会的数字化过程根本上改变了社会行动的组织方式和表现形式，呈现出数字化和虚拟化特征。1.4 数字社会的主要风险（1）隐私无限数字化的风险 数字社会最大的风险是个体隐私丧失的风险。数字社会旨在更好地满足人民对美好生活的向往，更大程度地促进人的自由和解放。但是，数字社会是一个数字化高度发达的社会，是一个时时、事事、处处、人人都被数字监控的社会。在这个万物都处于监控的数字社会中，人类好比在摄像头面前“裸奔”，人的隐私存在被无限度数字化的风险。我国于 2021 年 11 月 1 日正式实施了中华人民共和国个人信息保护法，这对有效保护个人信息权益具有重要作用，但是在数字化时代，个人信息保护的广度和保护的力度以及效度都面临严峻的挑战。（2）社会消失的风险 数字社会不能只有数字技术，而没有社会。数字社会的建设初中国人工智能学会发展报告系列 10 衷应该是让人类在新的社会形态中活得更加轻松、自由，与人交往更加方便，获得更好的社会交往体验。但是，数字社会的建设过程中往往容易导致过度强化数字社会的数字化特性，而忽略数字社会的社会属性，由此很容易让人产生孤独感，由此引发压抑、冷漠、抑郁、失落等心理健康问题。因此，在数字社会建设中，要更加强化群体互动和社会交往方面的技术和场景设计。（3）人性消失的风险 数字社会可能会有大量的机器人存在，人类与机器人的互动将会更加频繁。在这个互动过程中，人类可能在与机器人的互动中慢慢地将人类看成机器人，甚至将部分人类看成比机器人还差的人群，长期如此，导致部分人类会异化为如同机器人般的人类，并逐渐丧失人性。因此，在数字社会建设中，要弘扬人性的光辉。1.5 小结 回顾我国社会的数字化进程，从社会交往的数字化，以及数字社会的基础设施、数字化生态等综合来看，我国数字社会基本建成，并进入数字社会的中后期，且朝着智能社会方向发展。当然，从我国国民的数字素养和数字社会的制度建设，以及法律规范来看，我国数字社会建设依然还在路上。伟大的社会实践呼唤伟大的社会理论。数字社会建设亟需研究分析数字社会建设的理论脉络、系统结构和行动逻辑。本文认为，数字社会是由虚拟社会和现实社会有机融合的新社会形态，为此提出了数字社会的虚实二元理论框架，识别出数字社会的三种典型社会类型纯虚拟社会、纯现实社会和虚实融合社会。从数字社会的系统结构来看，至少包括数字设施、数字平台、数字算法和数字中国人工智能学会发展报告系列 11 互动四大支柱。从数字社会的行动逻辑来看，人作为数字社会的行动者是数字虚拟性和数字现实性相统一的行动主体，在现实社会或者虚拟社会中学习和掌握数字化的结构性资源，并在此基础上开展社会行动，而行动者本身的社会行动又在修改和更新数字化的结构性资源。数字社会对人类发展而言既是机遇又是挑战。数字社会让人类生活在一个更加数字化和智能化的社会，与此同时，数字社会也让人类面临一些风险，比如隐私无限数字化的风险、社会消失的风险和人性消失的风险。因此，数字社会建设既要把握机会，更要回避风险。中国人工智能学会发展报告系列 12 第第 2 章章 数字社会世界观与数字社会风险数字社会世界观与数字社会风险治理治理的主、的主、客体界定客体界定 随着大数据、云计算、人工智能、区块链、移动互联网和 5G/6G等现代信息技术的迅速发展，以及其在生产、工作、学习和社会生活中的广泛应用，人类已经步入数字社会时代。数字社会是继农业社会、工业社会和信息社会之后，以信息技术的广泛应用为时代特点，集数据采集、数据存储、数据分析、数据挖掘和数据决策等为一体的更高级社会形态。然而，“技术从来就是好坏参半”，具有天然的中立性，它“既赋予我们创造性，也赋予我们毁灭性”。进入数字社会，迎接人类的不仅是更为便捷、更为丰富、更具创意的新模式、新业态、新产品和新服务，同时也要未雨绸缪防范可能的新风险，需要建立与数字社会相适应的数字思维观和数字风险观，需要提前布局与之配套的新规则、新监管和新治理，才能让数字社会在发展中实现高质量提升。2.1 数字社会世界观 从物理世界到数字世界，人际关系、交易关系、生产模式和消费形态等都发生了根本性的变化。在人际关系上，全球范围内几乎每一个人都能通过数字化媒体进行广泛交流，数字化人际关系既“疏”又“远”，其无形中对诸多社会运动和社会理念产生了影响和挑战；在交易关系上，市场交易关系、服务交易关系、产品交易关系、劳动交易关系和货币交易关系等均因数字化而发生前所未有的改变，数字交易关系非常“便捷”，但又充满“不确定性”；在生产模式上，中国人工智能学会发展报告系列 13 生产设备智能化和生产过程自动化，数字化生产模式的改变既“高效”又“精确”，但数字化生产模式加速了人类的进化速度和“去社会化”程度；在消费形态上，数字化消费平台、数字化物流平台、数字化推广平台和数字化售后平台等为人类的产品消费和服务消费，创造了更加富有想象力的途径和形式，但也为人类创造了某种“陷阱”。因此，数字社会时代需要重新审视数字世界的方法论和风险观。2.1.1 数字社会的网络资源观数字社会的网络资源观 数字世界方法论首先要树立互联网的资源观，将互联网不仅仅看作技术、看作平台，更应该看作资源、看作数字经济时代的独特资源，用来优化配置不受时空限制的各类资源，获得最大化的竞争能力。任何人或组织都可以使用数字世界的网络资源，寻求效用最大化。2.1.2 数字社会的数据要素观数字社会的数据要素观 数据要素是数字世界与物理世界相互联动的纽带。第四次技术革命实质是以数据为要素通过数字孪生的形式实现物理世界与数字世界的双向赋能，实现数据要素的价值化和流动性。数字世界方法论要确立数据是生产要素的观念，制定数据作为生产要素的经济规则，以此激活各类网络资源和数字资产。2.1.3 数字社会的算法规则观数字社会的算法规则观 数字世界基于数据，经由算法，载于软件，通过平台，提供社会化应用。数字化应用的规则体现于算法，数字世界的算法本质是物理世界的运行规则，但算法具有独有特性，算法的全面使用亦可建立新的规则。因此，算法背后是规则，规则背后是法制，数字世界需要建立算法规则观，需要建立与算法相配套的法制规则。中国人工智能学会发展报告系列 14 2.1.4 数字社会的软件设施观数字社会的软件设施观 数字世界天然运行在软件之上，软件是数字世界的“厂房”，基础核心软件是数字世界建造“厂房”的“地基”。谁建造“地基”，谁就制定标准，谁就在网络世界拥有最大话语权，并获得最大收益。因此，数字世界软件的“地基”属性、“载体”属性迫使人类建立软件设施观，需要对软件设施进行规范化、科学化管理。2.1.5 数数字社会的开放开源观字社会的开放开源观 数字世界天然具有开放性，开源开放将逐步成为社会集体意识。工业社会围绕工业商品属性（独占、排他）而形成封闭排他的社会意识。未来的数字社会将围绕数字商品属性（共享、协作）而形成开放开源的社会文化。数字世界的开放开源，有助于人类社会文明共同进步，有助于人类科技发展水平提升。2.2 数字社会风险治理主体 纵观理论界和实践界现有研究成果，学者们对数字社会的多元主体进行了有益的探索。学者危红波提出面对数字社会中隐私泄露、数字鸿沟、算法黑箱与歧视、大数据杀熟、身心健康损害、网络舆情危机和意识形态风险等众多问题，针对技术缺陷、利益驱动、矛盾爆发、心理问题、法制短板和监管不力等原因，需要建立现代化的数字社会风险治理主体架构。数字社会的形成促使人们树立新的数字社会世界观，新兴数字社会世界观催生现代数字社会风险观。传统社会治理在相对“封闭”区域中展开，其政治与权力组织形态是建立在科层制的物理空间之上，治理主体体现出一种“中心与边缘”结构。数字社会治理显著有别于传统社会治理，数字社会形态下的权力技术化、数据资产化，进而导致数字社会治理权力体系的中国人工智能学会发展报告系列 15 弥散化、数字社会权力形态的扁平化和数字社会权力的虚实交叠，数字社会传统的中心、边缘、半边缘权力格局受到一定程度的冲击，因此，迫切需要建立与数字社会相配套的现代化风险治理主体架构体系。2.2.1 数字社会风险治理的“核心”主体政府组织 数字社会风险治理是国家治理体系的重要构成。因此，数字社会治理的多元主体中，政府组织必然是其中重要的一员。在当前社会背景下，政府组织在数字社会风险治理发挥着无法替代的功能，但政府组织如何进行数字社会风险治理的角色定位，政府组织又如何科学实施数字社会风险治理，这是现代数字社会风险治理亟需解决的社会问题。从数字社会的特征来看，数字社会具有传统线下社会的特点，又有不同于传统社会的显著特征。数字社会是众多机构、网民的交互行为，他们之间的互动同样需要遵循基本的社会制度和社会结构。但不同的是，数字社会具有时空跨越、多中心、虚拟化和“光速化”等特征，上述特征致使现有政府组织的角色、介入模式无法在数字社会空间进行简单的复制、移植和实施。当前，数字社会风险治理呈现出悖论现象，一方面数字社会高速发展，人们在数字社会中的卷入程度持续演化，数字社会“乱象”丛生，数字社会风险绵延不断；另一方面，在数字社会风险治理中政府组织角色不清、介入方式不明、介入工具不全，政府组织在数字社会风险治理中显得“力不从心”“手忙脚乱”。因此，探索政府组织在不同场景下参与数字社会风险治理的模式、角色、路径、工具、机制和效应等问题，有待于广大学者和产业界深入的思考和研究。中国人工智能学会发展报告系列 16 2.2.2 数字社会风险治理的“技术”主体网络运营者 数字社会时代人类的信息浏览、社会交往、数据通信、交通出行和网络购物等基本活动均与各类网络平台紧密关联，数字社会时代存在的网络平台呈现出高度技术化特征。在网络运营者提供服务和享受收益的基本逻辑前提下，无论是在服务供给、技术掌握和规则建立，还是数据持有和隐私保护等方面，网络运营者既是数字社会风险的责任主体，又是数字社会风险治理的技术主体。与西方发达国家一样，我国的网络运营者涵盖网络平台所有者、管理者，以及利用他人所有或者管理的网络平台提供相关服务的网络服务提供者，包括国家基础电信运营商、网络信息服务提供商和提供网络服务的各类信息系统运营商。数字时代网络运营者法律责任和管理责任涵盖了信息发布与传播责任、网络消费交易秩序维护责任、数据安全保护责任等，这些责任既体现了提供网络服务时承担的管理义务，也体现了我国数字社会风险治理的行政权力色彩，在一定程度上体现了我国数字社会风险治理多元主体共同治理理念，体现了数字社会风险治理中治理模式的创新。因此，探索网络运营者在数字社会不同场景下风险治理中的权力、义务、角色、响应机制、激励机制、管理责任和行业公约等，是我国数字社会风险治理的重要研究内容。2.2.3 数字社会风险治理的“专业”主体社会组织 现有学者关于社会组织参与数字社会风险治理问题进行了有益探索。如徐顽强等学者论述了非政府组织参与数字社会治理的模式、职责和路径。系统分析诸多不同主体参与数字社会治理的研究成果，发现我国政府、社会组织、网络运营者、新旧媒体、网民等多元主中国人工智能学会发展报告系列 17 体，参与数字社会风险治理逻辑不清晰、治理依据不明确、参与模式不成熟、参与路径不明朗，多元主体参与数字社会风险治理的权责同样不清晰、工具不完备、协作方式不科学、绩效难计量，数字社会风险治理急需对这些问题背后的关键科学问题开展系统性研究。在数字社会发展浪潮高速推进过程中，社会各领域的利益诉求和社会矛盾在网络空间释放和扩散，不同区域和不同领域的社会组织成为数字社会风险治理体系的“专业”性主体，在法律解析、心理疏导、矛盾调解、科普推广、信息溯源和观念引领等众多领域发挥了重要作用。社会组织扎根民间，与社会矛盾基层民众正面接触，可以及时发现征兆、识别苗头、理性沟通和传达民意，在数字社会风险出现前、出现中、出现后均可发挥重要价值。当前我国社会组织相关法规不健全，社会组织内部建设不完善，社会组织总体发展不成熟；特别是社会组织与政府的合作机制、沟通机制、信息共享机制、激励机制，缺乏有效的法律保障。虽然社会组织在公益性救助上取得良好成效，但是在数字社会不同领域的风险治理上，参与的广度、深度和效果等各方面有待于持续优化。2.2.4 数字社会风险治理的数字社会风险治理的“不可或缺不可或缺”主体主体公民公民 数字社会兴起，微博、博客、论坛、网络社交、网络评论和视频分享等网络服务深入百姓生活，表层上看是公民自主享受网络服务，但从社会学和政治学角度看，网络是多元主体参与数字社会风险治理的重要途径和渠道，为数字社会风险治理多元主体融合治理模式发展创造条件和可能。数字社会网民参与社会治理具有多重含义，首先，众多普通网民在网络环境中自由创造、讨论、评论和转发，对社会治理形成强大的影响力，进而演化成公民参与数字社会中国人工智能学会发展报告系列 18 风险治理不可或缺的重要主体；其次，公民在网络环境下的风险揭露、意见表达、权益维护、网络监督，实质为我国健全民主监督、舆论监督机制的发展和完善；另外，公民通过网络就公共事务阐述观点、发表意见、交流看法，致使数字社会环境下的网络空间成为思维汇聚和公共舆论形成的重要阵地，在众多数字社会风险治理中发挥了重要作用。当前，我国数字社会处于高速发展过程中，广大网民是数字社会风险治理中众所周知的、不可或缺的重要主体。但是，多数情况下仍是一种自发式的、相对“无序”的参与模式，不同场景下数字社会风险治理的公民参与模式、参与路径、参与机制、保护制度、激励方式等有待于学界和产业界不断深入研究。特别是在网络参政、网络议政、网络监督、个体矛盾和社会矛盾化解、谣言识别、网络互助等领域，需要在相关法律、行政法规、部门规章、司法解释、规范性文件等方面进行系统性建设，规范和保障公民参与数字社会风险治理的义务和权力。2.3 数字社会风险治理客体 现代信息技术塑造了一种全新的社会适应机制，为人类工作和生活提供了极大的“便利”，数字生产、数字出行、数字健康、数字消费、数字金融、数字社区和数字家居等众多数字场景似乎使人们进入了一个自我管理、自我实现的高度自由的数字社会。由此引发了法律价值上数据正义观、代码正义观和算法正义观对人类正义认识的颠覆，引发法律关系上权利关系的根本性重塑和结构性转向；传统的行政法规、部门规章、司法解释、政策文件和规范性文件难以应对数字社会需要；数字社会中的网民主体、基础设施、系统平中国人工智能学会发展报告系列 19 台、算法规则和数字内容等因素均成为新的风险客体。数据社会框架中的软件算法规则、硬件网络资源、数据要素内容和数字社会法规体系有别于传统社会形态的认知，众多元素均可成为数字社会的新兴风险来源。如数字内容本身蕴含的潜在数据伦理风险；产业数字化、数字产业化过程形成的数字资产，以及数字资产交易存在的未知风险；数字社会形态形成过程中，社会治理过程数字化、社会规则算法化和社会媒体智能化过程中的算法裁决过度风险；数字社会发展过程中各类硬件、软件和数据等基础设施可能存在的风险；数字社会化进程中催生的各大平台可能出现阶段性和行业性数据垄断，数据垄断本身及行业数字平台潜在的失控风险；数字社会形态中的组织和个体享受数字社会红利的同时，从“用户”属性悄然演化成为“产品”属性，期间造成难以避免的公域、私域过度信息采集和信息泄露风险；还有数字社会形态下数据资产创造者是全民，但数据资产所有权并非公民，数字社会看似抹平了信息鸿沟但又重构了新形态的信息不对称，进而形成新的数字红利不平等和社会分化风险。数字社会不同风险客体的机理、特性和规律尚未得到充分的解释，有待于广大学者深入探索和研究。2.4 小结 数字社会伴生新兴世界观和风险观，数字社会风险治理是国家经济社会发展的重要议题。本文对数字社会的数字世界观进行了初步分析，并进一步以数字社会风险治理的主体和客体进行了归纳和分析。研究结论可为数字社会风险治理领域学者和产业界提供借鉴和参考。中国人工智能学会发展报告系列 20 第第 3 章章 数字社会的风险挑战数字社会的风险挑战 3.1 失真数字内容传播风险与耦合网络沟通机制 数字内容是二十世纪中期以来数字技术、数字媒体持续发展与变革的产物，是指以数字形式提供的产品或服务，包括文本、数据、图像、音频及视频等。近年来，得益于互联网及网络基础设施的普及与进步，数字内容市场发展迅猛，海量数字内容不断生成、传播及消费，涉及数字阅读、在线学习、网络游戏、数字音乐、网络视频、网络直播等。随着 Web2.0 时代网络数字内容体量的激增，社会公众通过 Web 网页、移动应用软件等平台访问并观看文字、图像或视频的数字内容消费越来越流行，数字内容创作的速度和传播效率明显加快。数字科技的广泛运用不仅改变了公众接收信息的内容形态，也改变了数字内容在公众间的传播逻辑。一方面，数字科技被广泛应用于人们的生活与工作中，互联网和在线社交网络等线上平台逐渐成为主要的传播渠道，并融合移动传播成为主要传播形态。另一方面，相比于传统内容，数字内容经历了从格式转换到延展创造的发展。数字内容不仅能够提供有意义的信息，也搭载着传播者与受众的社会联系。数字内容实质上是内容与传播策略的组合体，即数字内容本身已经蕴含与人的关系。不同于传统内容生产中的受众需求判断与满足，数字内容不仅供媒体等在单向传播时使用，还可以为社会公众在多向交互传播时广泛应用。其受众可以即时参与再传播及多次传播，也可以二次创作、延伸创作或成为阐发讨论的切口与接口，并且在交互传播中对受众反馈、转发、评论的呼应和对原发内容的进一步补充都已成为数字内容生产及其传播过程中的中国人工智能学会发展报告系列 21 重要组成部分。在数字内容分发与其影响形成的过程中，每一公众个体都可能参与传播，受众地位与功能发生重要变化，其已经成为数字内容首次传播及再传播的重要力量。在此情况下，人们普遍对互联网环境下数字内容质量产生忧虑，主要原因在于大量失真数字内容存在于互联网中，对数字内容接收者主观感知、决策制定和相关行为造成严重误导，并对消费者的知情决策带来潜在威胁。社会公众在失真数字内容的误导下所作出的各种行为决策可能会引发严重的后果和悲剧。例如，数字时代下电子药店的崛起将供应处方药的权利交给了市场，从而对公众产生了诸多不利影响，这种负面效应包括给消费者造成了接收具有误导性的失真健康信息、不当使用药品等风险和伤害。此外，频发使用社交媒体进行在线交流也会对个体之间的线下社交和亲密关系的形成产生重要影响，我们认为线上社交是否有助于线下面对面直接交流失真数字内容取决于人们使用社交媒体的方式以及线上社交与线下社交的关系。病态化使用社交媒体在线交流某一失真数字内容很可能会对个体间线下交流该失真数字内容的错误观点和理念存在抑制作用。因此，刻画和研究线上线下多个信息渠道交互作用下的失真数字内容传播机理和演化规