数字时代数据监控的伦理困境与应对之策.pdf

数字时代数据监控的伦理困境与应对之策*普金娜1保 虎2（1上海大学 马克思主义学院上海 200444；2昆明医科大学 马克思主义学院云南 昆明 650500）摘 要：数据监控借助智能算法、大数据分析、物联网等技术手段全面监控着人们的日常生活，数据监控行为具有弥散性、隐蔽性、不确定性等新特点。由数据监控而延伸出来的预测未来、自动化决策、隐私窥探等功能对人们的价值观、行为习惯、个人隐私安全产生潜移默化的影响。人们在隐私弱化的透明社会中倾向于自我披露，算法黑箱引发社会歧视，监控系统的过度预测限制个体的自由发展，资本挟持下的数据监控垄断属性显现，阻碍着自由市场机制的发挥。这不仅是一种伦理困境，也是个人权利的一种困局，未来应从算法伦理、法律法规、主体责任、个体数据素养等方面破解数字时代数据监控异化的伦理困境，规制数字技术带来的失序风险与道德隐患。关键词：数字时代 数据监控 伦理困境 价值危机中图分类号：D922.16文献标识码：ADOI：10.3969/j.issn.1003-4641.2023.03.10监控是维系现代社会运转的重要手段之一，过去的监控主要是对身体的直接感官监控，随着物联网、云计算、人工智能等前沿技术的发展，监控已经渗入人们的日常生活中，一种先进的隐形监控形态正在悄然兴起，监控从人的身体转向人的信息。据统计，全球互联网用户平均每天花费近7小时在网络上，1数字世界成为人们最常驻扎的场域，日益积累的潜在数据为监控主体实施监控提供契机，监控伦理、法律、意识的滞后使得人们对数据监控毫无觉察，主动参与甚至享受其中。在日益密切的数据监控中，个人作为至关重要的角色（公民与用户）却常常被忽略，其隐私意识、监控认知并未得到应有的关注。实际上，个人的生存处境值得探讨，数据监控和算法决策的边界如何设置？如何避免过度预测所引发的一系列不公平问题？技术治理如何避免个人自由受限？本文基于对数据监控的演进与特征分析，审视数字时代的个人在监控系统中的生存处境，分析其伦理困境并提出应对之策。收稿日期：2023-03-25基金项目：国家社科基金高校思想政治理论课研究专项“中国共产党铸牢中华民族共同体意识的历程及思想政治教育意义研究”(22VSZ065）、四川特殊教育发展研究中心2022年重点项目“马克思主义人权理论视域下残疾大学生人格教育研究”（SCTJ-2022-A-01）、四川网络文学发展研究中心重点项目“新时代网络文学对青少年 三观 形成的影响研究”（WLWX-2022002）。作者简介：普金娜，上海大学马克思主义学院硕士研究生，研究方向：中国特色社会主义理论建设、数字治理；保虎，法学博士，昆明医科大学马克思主义学院教授，硕士生导师，研究方向：马克思主义中国化。2023年第3期总第292期SEEK TRUTH FROM FACTSNo.3,2023General No.29284一、数据监控的内涵发展与演进特征监控是一种久远的社会实践，起初的监控主要是指在特定时间内对特定对象的有限监控，如“蹲点盯梢”“专人跟踪”等。进入数字时代，数据监控技术构建了人们的生活世界，也塑造了人们的思维方式，监控的形式、内容以及结果发生流变，监控从集中到分散、从公开到隐蔽、从确定性到不确定性演化。（一）数据监控的涵义监控是学界长期热议的话题之一，现代监控理论起源于18 世纪杰里米边沁（Jeremy Bentham）的“环形监狱”，其设计目的是使犯人通过自我检视来进行自我改造。米歇尔福柯（Michel Foucault）将其延伸为一种对所有公民都具有社会控制力的监控模式，即“全景敞视主义”，他认为，“纪律的实施必须有一种借助监视而实行强制的机制。在这种机制中，监视的技术能够诱发出权力的效应”。2（P194）监视常常被定义为一种出于控制、管理、影响或保护为目的，对被监控者进行有目的、系统的、常规的关注。安东尼吉登斯（Anthony Giddens）将监控看作现代性的四重制度性维度之一，在现代性发展中所有组织都与监控有密切的联系，具有便于集中管理的效用。随着大数据技术的推广应用，罗格克拉克（Roger Clarke）认为“数据监控”（Dataveillance）是指“在调查或监控一个或多个人的行动或通信时系统地使用个人数据系统”。3戴纳戈登（Diana Gordon）的“电子圆形监狱”、马克波斯特（Mark Poster）的“超级圆形监狱”，以及奥斯卡甘迪（Oscar Gandy）的“全景分类”等概念均是在大数据背景下对监控的生动阐述。在监控技术的加持下，全景敞视机构如此轻便，不再有铁栅、铁镣和大锁，过去“少对多”的监视模式流变为全面和自动规训的方式。一言以蔽之，数据监控是指通过收集个人或群体所产生的数据进行系统的监控，以规范或控制其行为。不同于物理和电子监控，数据监控所涉及的不是对个人及其行为的监控，而是针对个体数据所展开的监控。（二）数据监控的演进监控发展至今，在范围、手段、主体、对象、认知等方面均有所不同，其演进过程具有更广泛、更多元、更开放等特点。在监控范围上，数据监控由物理世界扩张至虚拟空间。监控实施的范围从一开始资本家在工厂里对工人的监控，到现代社会中公司老板对员工的监视，嬗变为数字平台数据拥有者对用户的集中监控。截至2022年12月，我国网民规模达10.67亿，互联网普及率达75.6%，4意味着更多人接入网络，更多人进入数据监控系统。在监控手段上，数据监控由实体监控升级为隐性监控。监控技术通过数据绘制精确的数字画像，直接对用户进行感官监控，如嵌入人们日常生活中的数字设备，运动手环、点赞收藏夹等。数据印记和网络连接的存在将人们的一举一动记录下来，将数据输送到系统中，算法自动挖掘分析，从而形成全景敞视的监控架构。由算法驱策的数据监控使得权力得以隐蔽运行，技术治理成为“消失”的治理术。监控起初是一种强制的、强硬的手段，但现在，监控从被强制佩戴的矫正镣铐演化为人们自愿佩戴且外表美观的“智能手环”，以完全隐蔽的形态出现在公众面前。从监控主体上看，监控由政府、企业转变为公众自己。数据监控通过超级数据中心能够准确知悉社会细节，超级数据中心具有上百万的服务器集群，掌控这个集群的人掌握整个社会的信息，政府、企业是数据库的主要拥有者。自我监控主要表现为自我量化，如穿戴设备对个人健康的实时监测，智能系统对金钱收支、时间管理的实时记录等，人们对监控的愤怒、恐惧由被关注、被展示的心理需求所取代，个体将自己展示在社会空间中，自愿成为被观赏的景观。从监控对象上看，过去，监控的主要对象是具有犯罪可能性的嫌疑犯以及无法就业者、反常85者、边缘群体等，只有被认定为社会的不稳定因素才会被系统锁定为监控对象；现在，数据监控由个体本身流变为数据分身，受监控的人群从特殊群体扩展为广大民众，监控对象由个体分化为数据流，数据成为人的表现方式。从监控认知上看，人们的认知由被动监控演变为主动参与。随着社会成员的关系越来越基于数字媒介之上，人们不仅仅扮演着被监控者的角色，更趋向于成为监控的参与者。数据监控境况下，人们往往不知道自己何时何地被监控，也不知道被监控的程度，常常是在自己无意识中暴露信息。监控不再局限于以外在的形式来规范人们的生活，而是以一种软性的、新颖的甚至激发人们主动参与的形式来施加影响。5数据监控技术构建了人们的生活世界，也塑造了人们的思维方式。监控通过点赞、转发、分享和交友等欲望，从而将监督能力安插到人们的日常娱乐中。换言之，监控从一种外在的社会控制手段流变为一种特殊的社会需求。人们进入“监控舒适区”，对隐私泄露感到愤怒和恐惧，同时又被精彩绝伦的数字景观和媒介实践活动所吸引，乐在其中，不再批判。（三）数据监控的基本特征其一，数据监控具有弥散性。从政务部门到商业机构，从现实世界到虚拟空间，监控无处不在，人们的一些行为信息都可以被跟踪记录，甚至被分析编码，最后以数据流的方式在政府、企业、机构中流动。6流动的数据是监控体系得以运行的核心动力，监控的“眼睛”安插在数据社会的各个角落，人们的日常浏览足迹都被计算机收集、存储、提取，最终流向监控主体。其二，数据监控具有隐蔽性。被监控者不被提前告知监控的具体内容、监控过程以及目的。监控总是以隐匿的方式得以实施，它往往表现出为人们的生活和社会更好的发展而服务，实际上却对人进行精神操控，宰制人的自由发展。“我们现在生活在一个远距离观察司空见惯、自动化、泛光谱化和即时化的世界：没有人在观察，但每个人都在被观察。”7政府和企业对个体实行的监控不再具有显著的权力不对称性，监控的工具不再具有引人注目的特征，监控的过程不再是压迫和暴力。权力的眼睛转化为荧幕之后隐蔽的眼睛，弥散在网络和数据流中，难以被个体察觉。此外，监控也成为资本增殖的手段。只需通过对用户的“喜欢”或“点赞”内容进行分析，就足以获取到数量惊人的个人特征，包括消费习惯、购买偏好、消费能力等，资本精准推送用户所需的产品和服务，在潜移默化中预测或塑形人们的思想和行为，以达到市场收益的目的。其三，数据监控具有不确定性。数据的流动性使监控不再由单一因素决定，不再只分散于特定的场所，实施监控的主体不再只局限于特定的社会组织。开发、实施监控的并非只有政府等行政管理者，商业资本和数字巨头也具有监控权力，因此，监控权力机制运行具有不确定性。二、数据监控场域下个体生存伦理困境的显现在数据社会中，监控发生了结构性转变，数据监视带来新的社会资本和社会治理资源，同时也引发数据宰制、算法奴役以及资本控制，造成社会歧视、阶层固化、人性异化、自由受限等伦理困境。（一）隐私弱化与自我披露在信息裸奔的时代，制造专属于亿万人的“楚门的世界”轻而易举，“政府和企业基于 代码算法模型软件 进行数据监控，共同构成了技术系统、智能机器及服务器集群的掌控者，搭建起信息社会的综合治理组织体系”。8数据监控得以运行的前提是对社会成员的信息进行整合分析，由此便不可避免地增加社会的透明化程度，个体越来越容易被识别，人们的一举一动都被巨细无遗地整合为个人超级档案。一方面，数据监控的蔓延、渗透成为常态，人们无法逃脱监控体系，个体隐私在透明化社会中逐渐弱86化。在技术治理的时代，隐私弱化的重要因素在于人的一切都可以通过数据来表征。数据作为监控实践的媒介，将承载信息的人的身体行为转码为一组组数据，主体的现实身体与虚拟数据相交融，人在数字空间中的隐私都可以通过数据来体现，但数据拥有权绝大部分归政府机构、商业平台等数据机构，个体对自身隐私何时被收集、如何被使用以及流向何方毫不知情，难以意识到自身的隐私泄露，无法及时追责。另一方面，人们生活在一个主动披露和自我展现的叙事社会中，逐渐习惯了被暴露、被展示的透明社会。在凝视与被凝视的境况下，无法展示自我成为一种惩罚，而那些被注视的嘉奖（点赞、收藏等）是对个人的肯定。数字平台实行可见性逻辑，引导人们主动披露隐私，这种可以自我展现的机会使人们的认同需求可以在被凝视的过程中得到满足，从而更趋于自愿且愉快地披露私人信息。（二）算法黑箱与社会歧视“算法黑箱”侵犯了个体对技术治理的知情权，数据监控主体与个人之间的权力不对等容易产生新的社会鸿沟和数据壁垒，社会公平正义被贬损，人们对自身数据的处置过程毫不知情，无法参与监督。一方面，数据监控会加剧社会歧视。算法歧视是社会偏见的集合，包括数据偏见、设计者的主观偏见以及源自当时社会背景的制度化或合法化偏见均是对客观现实的有意背离。数字监控开辟了一条选择、分类、剖析、隔离乃至歧视人们的新途径，从而再次加剧了现有的社会不平等，并带来了新的社会弊病。9算法黑箱使人处于“黑暗”之中，我们不知道何时、何地、何种缘由而被收集在预测系统中，再被筛选、再现、放大，进而导致新的社会歧视。另一方面，监控的过程也是社会分类的过程，借助个性化的营销噱头，商业机构按照用户的购买偏好、浏览足迹等信息揣测用户的消费能力、社会地位，最后将其划分为三六九等。大数据预测功能从犯罪预测逐渐侵入人们的日常生活，影响人们作出决策甚至对人的未来施加影响。社交媒体将“点赞”“评论”“转发”等社交活动转变为算法的相关关系，通过对人们的数字记录的建模分析预测出用户的社会地位、价值观念、政治倾向等。算法运行过程复杂且不透明，具有只见结果无法透析过程的特征，所有的活动轨迹、人生发展方向都已经编入在程序里，就连人们所做的选择都是按照程序执行。数据化拥趸者时常假设数据和人之间存在不言而喻的关系，他们通过汇总的数据来预测个人行为，这种不加批判地接受系统默认的假设，必然导致算法歧视，再现或加强社会等级分化和对边缘群体的暴力合法化。（三）过度预测与发展受限现实生活中的物理监控系统难以掌握人们的所思所想，但技术加持的液态监控系统能够通过人们在网络世界的浏览数据观测人们无意识的人格，分析更深层次的价值观、政治立场等。谁掌握了更多数据，谁就可以掌握整个社会。乔纳森诺兰导演的 西部世界 中有一个强大的监控机制雷荷波系统，可以大致推测一个人最可能导向的结果，从而操纵人类社会的未来发展方向。重点不是你想成为谁，而是它（监控系统）想让你成为谁？通过推演和预测人们的未来，算法系统按照社会约定俗成的划分方式将人标签化处理，在超级监控系统的设定下，为了维系现代社会稳定运行，人被设置为可知可控的固定值，出身、家庭、学识、经历等已有的数据背景直接决定了个体的发展走向，否定了世界所具有的偶然性因素，个体很难突破所处的社会阶层。正如科幻影片 千钧一发 中根据基因监测提前筛选掉社会“瑕疵人”那样，超级数据监控系统的出现会通过人们以往的数据提前淘汰掉那些被系统认定的“无用之人”。（四）情绪操纵与行为塑形规训或塑形人的首要条件是为主体营造一个独属的空间，监狱以限制人身自由从而达到规训目的，数据监控则是通过算法为主体构筑“信息茧房”，限制人的思想自由来制造塑形的条件，无限喂养定制好87的内容，久而久之，人的价值观念、行为习惯会被修改。自动化决策导致人被豢养在认知茧房，一次次让渡信息的决策权会沦为被算法压迫、奴役的客体，弱化人的主体性，限制人们的决策自由。纯粹理性的数字技术以量化指标丈量人的感性思维，资本营造的虚假自由和个性化定制服务导致大众思想和行为的过度同质化，人们在信息茧房中迷失自我、价值极化。被迫数字流化的个体被操纵，作为人的特殊本质的创造性和能动性被泯灭。社交平台操纵、监控着我们的生活，通过技术环境使用户沉迷在生产的产品之内，分析人们最可能在意的内容，在潜意识中修改人的行为。计算机处理水平与人类大脑的进化速度远远不对等，在算法面前，人类的思维很容易被影响。社交平台的数据监控无声地操纵着人们的时间、情绪、行为乃至观点。三、数字时代数据监控异化的应对之策数据监控异化是一个社会性的困境，个体的抵制在庞大的监控系统与数字景观的诱惑面前极其有限，需重置算法伦理、立法监督监控主体、树立平台社会责任以及培养个人批判性媒介素养，多元协同应对数据监控的异化问题。（一）参与式设计与重置算法伦理算法决策如果脱离特定的社会背景和伦理原则来制定，那么算法将不可避免地具有偏见或算法的公平性将有待商榷。其一，要定期调整、重新评估算法，保持算法的公平性。算法设计必须基于个人信息保护法等合法依据的基础上，通过伦理审查程序，再向社会公开预测行为的实施过程，最后再推广应用。算法由设计者开发，具有设计者的利益立场、价值偏见和伦理缺陷，一旦出错会给个体带来实质性的侵犯，必须仔细审核算法，提前备份好算法决策的纠错预案，明确算法开发和推广者的法律责任。其二，要重塑数据监控系统。以保护个体隐私、现实人际交往、合作、团结、共享、透明等社会主义的设计原则替换原本侵犯隐私、个人主义、不公开透明、以功利为导向的设计理念，实现数字场域的真正社会化。其三，要让多元主体对话，重新设置算法的伦理原则。人们因自身产生的数据而遭遇监控、标签化归类，为避免数据处理过程中的不公正对待，必须坚持以数据正义观作为技术治理的价值原则。人工智能受人们喂养，算法导向也是从大量人类经验中得出的，因此，应开放共享算法，鼓励人文社科专家与计算机科学专家积极对话，让社会共同参与算法的设计过程，促进数据正义，反思和修正数据主义的世界观，使人工智能具备“良芯”，使数据监控向“善”发展。（二）更新立法与完善社会监督体系法律规制是数据监控泛滥的最后一道防线，法律法条为相关部门规制数据监控提供依据。其一，加强前瞻性立法，积极落实行业规范等相关法律。要建立专门的制度，进一步明确各方责任，加强管理规定措施的制定和实施。其二，保护个体的数据权利，将“断网权”纳入人的基本权利。一方面，维护个人数据权利，数据权利保护成为规制监控非法扩张的法治保障。个人数据权利是保护自然人对其个人数据被他人收集、存储、转让和使用过程中自主决定的利益。10“个人数据保护，正是为人类进入信息社会所做的制度准备中最重要的一环，是信息社会的必要法制基础之一，是信息社会的文明基石，构建人权的新起点。”11（P83）因此，数据监控必须重视保护个体的数据权利。另一方面，如果没有进出数字领域的自由，个体将如同在数字空间生产数据的数字机器。目前，一些国家和国际组织以及个人提倡甚至已经把个体的互联网接入权利作为一项“基本人权”。立法应该考虑增设一项断开网络的权利，保障个体的自主时间与空间不被打88扰，而非每时每刻被迫接入网络并无限制地接收各类信息，如工作以外的时间内可以被允许“微信下线”，个体可以自由选择是否使用现金支付，可以拒绝算法推荐的广告、服务、信息等。其三，为数据监控划定法治边界，以法律制约监控的无限扩张。监控可以及时获取消费者的动态，直接预测市场发展导向，掌握更多监控资讯意味着将获取更多经济效益。资本增殖必将导致监控的无节制化，会对个体发展和社会稳定产生巨大的安全隐患，因此，需要立法为科技巨头、数字平台等监控主体设置监控尺度，规制无节制的算法预测行为，以法律法条驱使监控主体定期进行伦理审查，及时规制资本监控的肆意扩张。（三）数字平台与数据机构树立责任意识掌握监控技术与数据资源的数字平台和数据机构拥有巨大的数字权力，但他们也需要意识到自己承担着相应的社会责任，应该考虑将公众利益纳入平台和公司发展的蓝图中，自发地作出维护个体利益的举措。其一，相关数据监控者要履行好主体责任，坚持“谁运营、谁负责”原则。政府部门应在符合公共安全目的要求时才被允许查看、复制或者调取公共监控内容，并对使用权限作出限制，尽量减少公民数据的接触者，降低个人隐私被泄露或不当使用的风险；平台公司等数据机构要自觉遵守数据安全法、个人信息保护法等立法，自觉维护国家安全、社会公共利益和消费者权益。其二，设立公众利益为导向的数字基础设施，尽可能地兼顾最大多数人的利益，以公共利益为不同利益方协调的基点。致力于研发保护个体隐私与监控实践相平衡的监控技术，以新技术满足国家社会治理、企业获取消费者动态、医院诊断病情等监控需求。其三，在公共领域适时保障监控过程透明化，及时告知监控对象监控目的，用于商业意图的监控必须征得用户同意，保证被监控者的知情权。其四，积极促进数据开放共享，向公众释放数据红利。在对国家、个人隐私以及商业机密等信息作出处置后，基于信息公开、数据开放共享的基本原则，要制定统一的数据开放规则，鼓励基础数据资源跨领域共享，充分利用国内海量数据规模和多元应用场景优势，最大程度发挥数据的使用效率与潜在价值。（四）个体培养批判性媒介素养随着数字技术加速推进，社会成员已然成为数据生产的重要载体，数据成为新的生产要素，全民数据素养也成为推进数字中国高质量建设的重要条件。数字时代，表面的隐私与安全感犹如“皇帝的新装”，人们并未真正认识到数据与人的本身同等重要，往往因数据的客观性而倾向于认为数字技术具有安全性。首先，个体需意识到被工具理性所操纵的价值观念、思想意识和行为习惯，主动走出“监控舒适区”。随着算法决策被广泛应用，算法隐藏的社会偏见日渐显现，如果人们过度依赖算法为自身作出决策，使其成为日常生活中不可或缺的前提条件，人们就越来越难以看到算法本来的面目，更难以进行实质性的批判，只能被动接受数据监控的奴役与宰制。因此，个体应知悉数据监控的相关知识，了解数据监控对于自身的利弊。要将算法决策和数据监控相关信息向社会面公开，鼓励公众知悉算法决策和数据监控的运作过程，理解哪些行为可能会增加被干预、被收集、被监控的概率；鼓励人们了解个人信息保护法出台的时代背景与立法意义，以此提升数据安全意识，自觉抵制数据信息使用的不法行为。在生活中，要有意识地进行信息加密。采用多重身份注册、登录网站或平台，不随意自我披露，尽量避免在免费网络环境中处理数据，降低隐私泄露风险；要主动搜集所需信息，而非一味将决策权让渡给算法，减少点赞、转发、评论等数据行为。在使用网络平台时，要切换不同账号，修改推送机制，适时隐藏一部分个人信息，减少被算法宰制的风险。在参与式监控的背景下，人人都具有监控的权力，监控甚至流变为习以为常的娱乐需求，因此，个体应培养批判性思维，提升自律能力，克制自己的窥视欲，不侵犯他人隐私。89结语监控原本作为维系社会安定、降低犯罪率以及事故取证的有效工具，随着监控的形式、范围、手段等不断升级，数据监控被广泛运用于政府治理、商业活动、医疗卫生、娱乐等场域，在政治、经济、社会生活中具有不可或缺的重要作用。但监控正逐渐融入、侵袭着人们的日常生活，算法的自动化决策奴役着人们的现实世界与精神世界，个体面临着隐私弱化、社会歧视、发展受限、心智操纵等数据宰制危机。未来人们对于监控的态度可能会发生倒置，从对数字化生活趋之若鹜转变为极度渴求不被数据化、不被数据监控目光所涉的生存境况。因此，相关研究者和技术人员应该重视个体的伦理困境，从公民或用户的角度考察个体的生存处境，以个体的数据权利为基点，为数据监控与算法决策设置边界，重置算法伦理，尽可能避免过度预测潜在的一系列不公平问题。技术治理不应该成为人们自由和发展受限的产物，而应该成为维系现代化社会发展的“向善”工具。参考文献1DataReportal.DIGITAL 2022：GLOBAL OVERVIEW REPORT.EB/OL.https：/ R.The digital persona and its application to data surveillanceJ.The information society，1994（02）.4中国互联网络信息中心.第51次 中国互联网络发展状况统计报告 EB/OL.https：/ D.Surveillance Culture：Engagement，Exposure，and Ethics in Digital ModernityJ.International Journal of Communication，2017（11）6吴雯.技术身体下的监测伦理审视J.自然辩证法研究，2018（06）.7Ball K.Exposure：Exploring the subject of surveillanceJ.Information，Communication&Society，2009（05）.8单勇.犯罪之技术治理的理论内涵J.国家检察官学院学报，2020（03）.9詹纳吉浦若迪尼克，陈文旭.数字资本主义的算法逻辑J.国外理论动态，2022（06）.10程啸.论大数据时代的个人数据权利J.中国社会科学，2018（03）.11郭瑜.个人数据保护法研究M.北京：北京大学出版社，2012.（责任编辑赵 斌）90