算法歧视的敏捷治理——以D短视频平台为例.pdf

西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期D O I:1 0.1 5 8 9 6/j.x j t u s k x b.2 0 2 4 0 1 0 1 2【收稿日期】2 0 2 3-0 4-1 8。【修回日期】2 0 2 3-0 9-0 8。【基金项目】国家社会科学基金项目(2 2 B Z Z 0 2 8)。【作者简介】高进(1 9 7 8),男,东北大学文法学院教授,博士生导师;刘聪(1 9 9 6),男,通信作者,北京航空航天大学公共管理学院博士研究生。算法歧视的敏捷治理 以D短视频平台为例高 进1,刘 聪21.东北大学 文法学院,辽宁 沈阳1 1 0 1 6 92.北京航空航天大学 公共管理学院,北京1 0 0 1 9 1开放科学(资源服务)标识码(O S I D)【摘要】敏捷治理作为社会治理的新范式,是对回应式治理和集中式治理的进阶和超越,是塑造未来数智世界和元宇宙治理的现实路径。以敏捷治理化解算法歧视的技术与伦理风险,实现算法治理成为一项重要的理论和现实议题。通过参与式调查对D短视频平台的内容展开田野调查,深度剖析短视频平台算法运作的逻辑机理,总结归纳算法歧视的形态和成因,探索尝试算法治理的可行举措和实践进路。研究发现,基于用户偏好、平台优先等平台价值观念是D短视频平台算法运作的隐形逻辑;主观设计下歧视性推送和定价是D短视频平台算法歧视的突出表现;灵敏感知、快速响应、持续发展的敏捷治理机制是逾越“算计”陷阱的有效手段。因而,为应对算法歧视的风险挑战,政府亟须以敏捷治理赋能算法歧视治理,塑造多元参与、多管齐下的治理格局,实现整体智治、协同共治、动态管治,从而实现算法“善治”,优化算法治理的中国方案。【关键词】算法歧视;敏捷治理;算法治理;短视频平台【中图分类号】D 9 2 2.1 6;D 6 3 0 【文献标识码】A【文章编号】1 0 0 8-2 4 5 X(2 0 2 4)0 1-0 1 2 1-1 2一、问题提出(一)算法歧视的风险挑战算法作为大数据时代的重要产物,能够将低价值的原始数据转化为高价值的衍生数据1,有效应对海量数据收集、分析和利用难题。算法实践已然成为人与代码结合的运行规则,人类社会由此迈进“算法社会”。然而,基于“算法为王”逻辑下的算法泛化也暴露出算法的阴暗面,滋生出严重的算法歧视问题。算法歧视是以算法为手段实施的歧视性行为2,是由于数据误差、认知偏见、暗中操纵等原因导致算法丧失中立性而造成的差别对待和歧视性后果。算法歧视具有高度的隐蔽性、单体性、连锁性,严重损害社会公平正义。“偏见进、偏见出”的算法运作流程形象地概括了算法歧视的逻辑机理3,这种建立在“先天不足”基础上的算法设计和应用势必会造成算法运算的“最佳结果”与客观现实的偏差。年龄歧视、性别歧视、种族歧视、消费歧视等均为常见的算法歧视类型,故此“技术中立”及其衍生的“算法中立”能够自觉实现算法向善和社会治理的论断本身就是一个伪命题。因而,厘清算法歧视的负效应,探索实现算法治理的实践进路成为一项亟待解决的重大理论和现实问题4。算法歧视的负向效应可归纳为三点。其一,扰乱市场秩序。以算法技术赋能互联网平台是提升企业竞争力的重要手段。然而,企业具有天然的逐利性,平台凭借算法技术和大数据优势能够更好地掌控消费者的个人数据信息,从而增添博弈砝码,实现利益最大化。例如,通过算法测度用户消费习惯、消费频率、消费能力等个人信息,预测研判消费意愿,精准设定价格边界,实现区别定价和“大数据杀熟”5。差别定价是算法歧视的突121西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期出表现,新老用户极易产生“物美价廉”的错觉,坠入被“割韭菜”的陷阱难以自拔。算法歧视塑造“柠檬市场”的同时也严重扰乱了正常的市场秩序。其二,危害社会公正。算法计算具有传统人工难以企及的效率优势,但是算法自动化决策盲目追求效率忽视公平也会滋生算法歧视。例如,岗位招聘中的性别歧视、融资信贷中的种族歧视、就业市场中的年龄歧视等均为歧视性的算法设计。此外,算法介入司法领域进行案件审理、犯罪预测等工作也会因开发人员主观价值而造成结果偏差,损害司法公信力。主观设定使得歧视对象被算法割裂,长期处于弱势地位、背负算法污名6、沦为边缘群体,诱发“马太效应”,危害社会公正。其三,损害公民权利。侵犯平等权和隐私权是算法歧视突出的表现7。算法运作以掌控海量数据为前提,资本一旦介入算法开发,算法必然不遗余力地收集个人后台信息有针对性地实施歧视性行为,从而实现利益最大化,算法歧视不仅侵犯了个人隐私,而且还会诱发信息泄露的连锁反应。此外,算法通过深度分析私人信息塑造对个人全景画像,实现标签化处理,为个性化推送、差别定价等歧视性行为做铺垫,损害公民平等权。以算法歧视为代表的算法“算计”行为已然成为扰乱市场秩序、损害公平正义、侵犯公民权利的重大社会风险。此外,算法歧视具有隐蔽性、多样性、高风险性,因而亟须回答算法歧视“何以产生”“以何治理”等现实之问。(二)算法歧视何以敏捷治理算法歧视是算法技术产生的黑暗面,技术的不确定也加大了算法治理的难度。“平台治理场域”作为算法歧视的高风险区亟须强化算法治理,实现可持续发展。为此,国家互联网信息办公室等部门制定了 互联网信息服务算法推荐管理规定(简称 规定)并于2 0 2 2年正式施行,规定 主要聚焦算法监管和规制层面的内容,阐述了全程监管的核心理念,蕴含着互动监管规制、赋能社会监督、探索治理革新等路径和举措,为破解算法歧视,提升算法张力指明了方向。此外,算法歧视作为兼具技术和价值双重属性的新兴治理难题必然离不开新型治理工具、治理理念、治理手段的助力加持,因而治理模式转型升级成为助推算法歧视治理的关键举措。敏捷治理作为一种针对大数据、人工智能等新兴产业监管而提出的治理理念8,为算法治理提供了借鉴。敏捷治理是一套具有柔韧性、流动性、适应性的行动或方法,是一种自适应、以人为本、具有包容性和可持续的决策过程9,能够有效适应复杂多变的环境,提升社会治理的质效。敏捷治理强调治理节奏的灵活与迅捷,治理规则的弹性与刚性有机结合,治理关系的多元主体协同共治以及治理方式引导性治理。在人工智能等新兴产业技术迭代升级速度明显超过治理变革速率的大数据时代1 0,敏捷治理凭借强大的灵敏感知、快速响应、持续发展能力重塑了治理的理念、工具、范式,已然成为实现算法治理的必备利器。此外,敏捷治理依托先进技术和多元主体优势,构建政府、社会、企业、公民互助合作的治理共同体,促进由被动响应向主动施为过渡的治理转向,实现结果导向到过程导向的治理变革1 1,打造出整体智治和协同共治的治理机制,为破除算法歧视风险,实现算法治理提供了智力支持,进而助推国家治理能力和治理体系现代化的实现。与传统治理模式相比,敏捷治理具有多方面的价值优势:其一,治理主体优势。大部分传统治理模式是单一主体主导下进行的治理尝试,例如政府治理、公司治理,实则是对传统管理、管制思想的延续。尽管部分治理模式强调多元合作治理,但合作主体的主动性、合作程度、合作成效等尚有待提高,治理过程难免沦为主导者的“独角戏”。敏捷治理倡导协同共治,契合治理多元化趋势的同时赋予主体更多的治理权限1 2,是合作深度和治理向度的跃迁,是共建共治共享的有机统一。其二,治理工具优势。借助行政、法律、经济手段施行治理是传统治理的显著特征,但是治理工具刚性有余而韧性不足1 3,因而治理质效相对低下。整体智治是敏捷治理的应有之义,大数据、人工智能等技术工具为敏捷治理提供了精准、高效、韧性的治理手段,从而灵活应对“算法社会”的治理难题。其三,治理价值优势。结果导向是传统治理的逻辑核心,其治理理念仅侧重对最终结果的量化评价而缺乏对治理过程的关注,因而治理节奏和治理成效相对不足。“敏捷”作为敏捷治理的核心理念,强调过程治理和结果导向的有机统一1 4,是对治理节奏和治理质效的优化提升,彰显了敏捷的价值优势,实现了对传统治理理念的进阶和超越。其四,治理范式优势。先破后立的被动响应式治理是传统治理的通病1 5,是建立在问题爆发基础上的事后“亡羊补牢”,治理成本和治理难度较高。敏捷治理则是由应对型治理向预见性和敏捷性治理的转型,强调先立后破和破立并举1 6,是弥补治理滞后、治理未预风险,实现动态、灵活、敏捷的治理优化,塑造了一条新型治理范式。算法歧视是技术和伦理问题的统一体,难以一蹴而就,因而其治理重点在于实现技术治理和协同治理,治理难点在于保持治理灵活性、敏捷性、动态性。以敏捷治理理念赋能算法歧视治理,提升算法治理质效大有可221h t t p:s k x b.x j t u.e d u.c n高进,刘聪 算法歧视的敏捷治理为。一方面,算法设计、算法测试、算法运作等各个阶段都有可能导致算法歧视,因而算法治理必须是全过程式的治理,必须涵盖事前、事中、事后的算法全生命周期。敏捷治理也是一个动态性的治理过程,“灵敏感知快速响应持续发展”的运作流程体现了敏捷治理的内在逻辑和价值优势1 7。因而,算法歧视和敏捷治理具有较高的契合度,聚合二者优势能够更好地取得算法治理的成效。另一方面,算法歧视既是一个技术问题,又是一个伦理问题,因而算法治理需从技术维度和主体维度进行综合施策。敏捷治理聚合了敏捷和治理的价值优势,强调整体智治、协同共治、动态管治,蕴含着对先进技术的考量和多元主体的重视,能够以快速、灵活、有效的方式回应公众的诉求1 8,从而与算法歧视治理产生强烈的共鸣,实现合作共谋。基于此,本研究以算法歧视为切入点,运用敏捷治理模式,尝试将两大命题组合研究,以期为破解算法歧视难题、优化算法治理提供智力支持。整体而言,本研究主要包括以下内容:其一,厘清算法歧视的负向效应,归纳敏捷治理的价值优势,论证敏捷治理与算法歧视结合的合理性、适切性、必要性,从而奠定本研究的理论基础;其二,以短视频平台算法为切入点,通过参与式观察总结归纳算法歧视的隐形逻辑;其三,在短视频平台隐形逻辑的基础上对算法歧视的类型进行划分并揭示问题的成因;其四,将算法歧视和敏捷治理相结合,尝试构建短视频平台算法歧视的敏捷治理框架,助力算法治理的实现;其五,总结归纳研究结论,简要说明本研究的边界价值和研究局限。二、“黑箱代言”:短视频平台算法运作的隐形逻辑 截至2 0 2 2年,中国短视频用户规模首次突破1 0亿人,用户使用率高达9 4.8%,人均单日使用时长超过2.5个小时,短视频平台已成为人们信息获取、情感交流和意见交换的重要场所。D短视频平台凭借强大算力支持和算法优势,通过迭代优化升级,聚合资源优势,创制出“短视频+”的发展模式,衍生出购物、直播、放映、知识、游戏、音乐等多重服务功能,从而精准捕获个人需求、迎合用户偏好,不断强化用户黏性。D平台2 0 2 2年数据报告显示,其用户规模已超过6亿人,月均热点视频播放量超过40 0 0亿次,月均热点创作者超过7 0万人,月均热点数超过1 0 0万次,月均热点视频涨粉数超过3亿人,已然成为当下短视频行业的“龙头”。然而,D短视频平台“顶流”的生成实则是基于“流量至上”的算法逻辑“精心设计”的产物,因而亟须在厘清算法隐形逻辑的基础上,有效实现对“看不见的不正义”的敏捷治理。敏捷治理作为算法治理的新范式,能够有效应对算法技术与伦理所带来的歧视性挑战,尤其适用于“强算法”主导下综合类短视频平台治理,即以D平台为代表的具有社交、拍摄、购物等多种功能的短视频平台。为此,本研究尝试利用敏捷治理赋能D短视频平台治理,以期化解综合类短视频平台存在的算法歧视难题,而对于缺乏推荐模块与热门模块等功能的主打特定领域视频的聚合类短视频平台和以视频剪辑功能为主的工具类短视频平台等“算法不足”或“歧视不显”平台而言,敏捷治理模式的适用性尚待验证。算法作为“非人性”的行动者,其能动作用的发挥需要借助代言机制来实现。因而,算法运作以“代言人”的价值观念为基础,算法执行的是“代言人”的意志。D短视频平台正是基于这种模式,通过与算法合作的方式将平台的意志、利益、价值等注入算法设计、执行的全过程,从而实现算法“私用”,造成算法不公,滋生算法歧视危机。由于算法“黑箱”的存在,平台的算法逻辑往往具有隐蔽性。技术性问题仅是产生算法歧视的表象,平台价值层面的伦理问题才是算法歧视泛滥的根源,因而亟须厘清D短视频平台算法运作的隐形逻辑,维护算法的公平正义。基于此,笔者通过1个月的参与式观察对D短视频平台手机应用软件(A p p)界面推送的内容进行了统计和整理,最终获取了9 1 4条数据信息,进而总结归纳出引致算法歧视的3条算法设定和6条隐形逻辑,如表1所示。表1 D短视频平台的算法逻辑算法设定算法逻辑内涵条数占比/%用户圈层用户偏好与用户点赞、评论、转发、购物、直播等行为相关的内容2 7 02 9.5社交关系与用户关注的博主、通讯录好友以及可能认识的人相关的内容1 3 61 4.9议题场景公共议题媒体发布的热点时事或新闻资讯等内容9 81 0.7特定场景与特定时间节点、地理位置、I P属地等相关的内容1 0 51 1.5诱导边界平台优先级优先推荐平台活动或合作对象有关的诱导性的内容2 1 92 4.0差异化不属于上述情况用于试探用户兴趣边界的其他内容8 69.4注:资料来源于笔者的参与式观察整理。321西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期(一)用户圈层:基于精准画像的数字化营销1.用户偏好:基于用户客观行为的相似性推荐发掘用户个人偏好,进而实现精准“投喂”是D短视频平台算法的首重逻辑。偏好的捕获是基于D短视频平台对用户私人信息的数据抓取、描绘用户画像、实现标签化处理基础之上的,进而“投其所好”谋求利益最大化。笔者通过参与式观察发现涉及用户偏好的内容最多,共计2 7 0条,占总数的2 9.5%,其中多为与笔者点赞的视频、收藏的内容、参与的评论、浏览的商品等有关的内容。尽管不同用户兴趣点可能千差万别,但是基于特定标准下连续3 0天的观察结果的一致性同样说明D短视频平台对用户偏好的重视。虽然这种设计满足了用户的需要,但是建立在获取用户信息和利益优先基础上的“服务”诱发了信息泄露风险和内容同质化危机,也搭建了算法歧视的“温床”。2.社交关系:基于用户社交群体的圈层化推送“社会人”是用户的基本属性,基于用户社交关系的相关性进行算法歧视是D短视频平台的另一隐形逻辑。具体来看,用户社交又可分为一级社交关系和二级社交关系,D短视频平台根据用户关注博主和通讯录好友等信息判定用户兴趣,从而在一级社交网络中推荐深受圈层内群体喜爱的内容和产品。关注好友的好友、通讯录好友的好友等可能认识的人构成用户的二级社交关系,平台借助大数据优势深度分析用户偏好,从而迎合用户需要。笔者观察发现与社交圈层相关的内容共有1 3 6条,占比为1 4.9%,其中一级社交关系1 0 1条明显超过二级社交关系3 5条,客观说明二者与用户连接的强弱和影响力大小。此外,基于社交圈层的算法逻辑助长了隐私泄露的风险,如“推荐给可能认识的人”的功能往往处于默认开启状态,用户信息在算法推荐之下暴露在公共空间之中,严重损害个人利益。(二)议题场景:基于场域关联的关系再生产1.公共议题:基于热点或媒体的持续性推介短视频的快速崛起迫使传统媒体向新媒体转型,媒体的集聚也促使D短视频平台对于公众议题进行适当关注。然而,由于D短视频平台新闻推介的公益性置于平台私利性之后,因而其公共议题的推送带有明显的选择性,对于猎奇、娱乐等用户感兴趣的话题报道频次明显高于用户不太“感冒”的内容。笔者在调查过程中发现“独臂猴 星星”“多地加入下雪群聊”等类型的议题、热点多次出现,而“问天舱转位成功”“诺贝尔奖”等内容出现频次和时长明显不如前者,尽管二者都来自各大主流媒体,最终内容呈现却是平台选择的结果,这也在一定程度上反映了平台流量至上、利益优先的歧视性思维。9 8条与公共议题相关内容占总数的1 0.7%,相较于用户偏好、社交圈层而言数量明显偏少,此外以时效性和流量为依据的选择性推介也加剧了算法歧视的风险。2.特定场景:基于用户位置和情景的相关性推广基于本地或情景的内容推荐是产生算法歧视的又一重逻辑。笔者调查发现“附近”的内容占很大比重。如根据空间位置的差异,推送内容差异性明显,从区、到市再到省、全国算法推荐的内容频次、数量等呈明显的下降趋势。D短视频平台将本地市场视为最基本的单元,从而挖掘最有用的信息,增强用户黏性,刺激用户消费,实现收益最大化。此外,基于特定场景和时间段的内容也具有差异性,如“双十一”多推送产品与消费,节假日多呈现“吃喝玩乐”相关的内容,一天中的某个时段定点更新特定内容等。特定场景下的算法推送是D短视频平台精心设计的产物,其目的在于通过蹭热度实现平台利益更大化。该种情况共计1 0 5条,占1 1.5%,是基于平台内容与地理位置或特定情境等内容最优化匹配的结果。(三)诱导边界:基于利益优先的用户再俘获1.平台优先级:基于商业逻辑下的合作化运营平台优先是D短视频平台内容呈现的关键因素之一,即相较于其他信息,与平台组织的活动、参与合作的对象等内容会在不经意间优先呈现在用户面前。D短视频平台正是基于这种商业逻辑暗中攫取最大化的收益,而其他高质量的内容由于缺乏与平台的“合作”容易被“雪藏”。笔者调查发现,此类信息多以“小标+文字”的形式出现在D短视频平台界面左侧,具有明显的提示性和故意诱导性色彩。笔者共计获取了2 1 9条相关数据,占参与式观察数据总量的2 4.0%,平台优先级的算法设定是一种隐蔽的商业逻辑,呈现出D短视频平台商业资本的意志,因而也是一种歧视性行为。2.差异化:基于用户边界兴趣的尝试性探索有别于上述五种情况,D短视频平台也会偶尔呈现一些“另类”的内容。其主要目标并非丰富用户体验,而是用来试探用户的兴趣边界,从而为“歧视”行为铺路。差异化的试探多出现在“新手期”,由于平台缺乏对新用户的信息掌控,需要借助该策略抛出“诱饵”,并根据用户行为分析个人偏好,因而内容具有较高的随机性和公平性,但本质上还是算法歧视。此外,平台借助大数据和算法“黑箱”优势能够及时监测用户行为的变动,一旦察觉用户“反常”,平台会及时推送差异化的内容和产品,从而再次把控用户。经调查发现,差异化的内容较少,仅有8 6条,占比最小,但其仍是平台实现算法歧视行为的重要手段。三、“看不见的大象”:短视频平台算法歧视的形态及成因 算法作为数字时代的重要产物,汇聚了人类的智慧和经验,无时无刻不在影响和塑造人们的生活。D短视421h t t p:s k x b.x j t u.e d u.c n高进,刘聪 算法歧视的敏捷治理频平台正是凭借其算法优势成为当下最火的短视频平台之一,满足了不同群体记录美好生活的需求,丰富了大众的精神世界。然而,看似客观公正的算法背后实则暗藏玄机,隐性的算法歧视无形之中侵犯了用户的合法权益,以“合理”的方式延续不合理的行为,成为房间中“看不见的大象”。(一)短视频平台算法歧视的形态1.千人千面:用户画像用户画像是对用户信息分析而来的高度精练的特征标识,是指根据用户的属性、用户偏好、生活习惯、用户行为等信息而抽象出来的标签化用户模型。研究表明,构建用户画像模型有助于更好地理解用户需求,实现个性化、精准化信息服务。然而,D短视频平台用户画像的生成是基于特定算法设计的基础上对用户特征的标签化处理,其中可能掺杂着“歧视性”的算法设定,从而影响画像质量和服务供给的有效性。用户信息和用户行为是D短视频平台进行用户画像的算法逻辑。其一,从用户信息获取来看。一方面,D短视频平台对用户设计了信息完善提示以及数据默认获取的条款,一旦用户禁用A p p获取某项权限,算法机制将会反向禁止用户访问平台,例如禁用A p p允许访问互联网、通信记录等功能将无法浏览作品等,从而以“提供服务”的方式裹挟用户,持续对用户进行“数据压榨”,不遗余力地掌控个人信息,为算法歧视铺平道路。另一方面,基于认知偏见和客观偏误所设定的算法可能会导致D短视频平台因为用户性别、个人职业、受教育程度、经济状况等差异性而生成的用户画像发生扭曲和丑化。例如,算法默认性别差异存在内容偏好,并对女性和男性用户分别长期推送化妆品和烟酒等与性别高度相关的内容;算法佩戴“有色眼镜”,并根据经济差距诱导高收入群体消费奢侈品而对低收入群体推送低价促销产品等。其二,从用户行为观察来看,D短视频平台能够有效捕捉点赞、评论、转发、收藏、购物等用户行为,进而在根据个人行为生成“刻板印象”的基础上有针对性地进行服务供给。然而,用户画像的本质是机器学习基础上的标签化管理,简单化的行为统计难以适用于全部用户,极易引致算法歧视危机。例如,新用户由于接触时间短,用户黏性较小,能够捕捉到的行为有限,因而算法可能会将用户“不经意间的小动作”贴上特定标签,例如浏览涉及宗教、民族内容可能被判定为狂热分子,制约用户高清画像的描绘,从而对其产生歧视性影响。此外,对于A p p忠诚度高的用户而言,其频繁的个人行为也加剧了算法数据分析的难度,因而D短视频平台后台有时难以实现对同一用户的不同来源数据的有效取舍和科学整合,例如经常性地随手点赞关注可能会导致无效推送的泛滥。此外,一旦机器算法接受默认设定,将会导致同一用户的不同特征分散在不同用户对象上,无形之中产生歧视性问题,进而无法进行标签间的关联分析或降低分析的精确性。因而,基于“只言片语”或“微末小事”而生成的用户画像可能将会被打上特定的烙印,进而诱发“看不见的不正义”。2.千人千方:个性化推送短视频推送是D平台的首要功能。尽管推送内容理论上具有随机性,实则暗含“你是谁”决定“给你推送什么”的逻辑,算法歧视以一种“高明”的方式长期“合乎逻辑”地侵害用户合法权益1 9。D平台视频推荐算法是在平台主导下,通过与用户、合作对象等相互影响和互动博弈而建构生成的“最优产物”,其蕴含着平台的价值观,而非完全客观中立。D短视频平台算法推送形式包括三种。其一,冷启动。基于协同过滤算法实现内容精准推送,即根据“用户分类中属于同一类别的用户会对同一类内容感兴趣”的指导思想对用户进行画像2 0,并按照内容标签进行用户匹配。其二,加权。通过叠加推荐算法将视频进行逐级推送,即将初级流量池中的“精品”溢出到更高一级流量池进行二次推送,多次重复上述环节实现逐级加权和叠加推荐。其三,合作。基于平台开发和管理者的分发加码推荐,即通过与平台合作、付费推荐等方式对视频进行人为“加码”,从而提升热度和曝光率。D短视频平台算法推荐机制如图1所示。图1 D短视频平台算法推送机制521西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期 D短视频平台算法推送本质上属于流量至上的推荐方式,以用户与算法互动为前提。一方面,算法通过捕获性别、年龄、定位、兴趣、社交等个人信息分析用户需求对用户进行画像和标签化处理,从而实现个性化推送;另一方面,用户播放、点赞、评论、转发等行为也在不断修正既有的算法进而影响算法的下一次推送。个性化推送是算法极力挖掘并分析个人信息的必然产物,精准化的背后是建立在违规获取用户信息的基础上的,平台“上帝视角”下的用户变成一个个“透明人”,既是对法律的漠视,亦是道德的沦丧。算法推送契合用户需要的同时蕴藏着极大的不确定性,同质化内容推送束缚了用户的个性化发展,极易造成“信息茧房”。此外,流量至上导向的算法推送过分强调“热度”,缺乏对作品质量和用户实际需求的考量,难免陷入“马太效应”的泥淖,诱发“柠檬市场”危机,阻碍内容创新的同时有损平台和用户的长远利益。算法推荐的“千人千方”实质上造就的是“单向度的人”。标榜平台算法推荐公平实则是一个伪命题,个性化推荐背后蕴含着严重的算法歧视,D平台亟须反思算法推荐的公平性、透明性、伦理性,而不是打着“一视同仁”的幌子继续“围猎”用户,延续“千人千方”的算法传统。3.千人千价:大数据杀熟数字经济热潮助推了短视频平台消费购物业务的快速崛起,集多功能于一体的D短视频平台已然发展成为当今世界最大的“独角兽”企业之一。用户在享受短视频乐趣的同时也能够借助D平台商城、直播带货等新途径满足消费需要产生全新的体验。消费购物业务的拓展无疑符合平台、企业、用户等多方的利益诉求,但是消费热度攀升的同时也须时刻提防消费风险。囿于平台算法“黑箱”和用户有限认知等多方面的原因,算法歧视屡见不鲜,特别是算法定价下的“杀熟”问题。“大数据杀熟”本质上是价格歧视,是平台凭借算法优势实施的价格违规行为,即购买同样的商品,老用户往往比新用户的价格高。算法价格歧视的生成是平台经过精准计算的结果,其具体逻辑如下:首先,信息收集,打造“数据仓库”,即通过采集用户设备信息、行为偏好、服务记录等内容,实现信息归集生成“元数据”;其次,数据分析,生成“用户画像”,即借助大数据和机器语言深度处理数据源,将“元数据”转化为“智能数据”;最后,算法定价,实现“千人千价”,即借助算法优势研判消费意愿,预测价格边界,实现平台利益最大化。算法定价是建立在平台充分掌握用户私人信息的基础上的歧视性行为,损害消费者合法权益。D短视频平台算法定价机制如图2所示。图2 D短视频平台算法定价机制 D短视频平台算法定价是以一种极其隐蔽手段实现的价格歧视行为。后台在挖掘用户个人信息的基础上,通过运用大数据深度分析用户的消费频率、消费习惯、消费地域、消费能力等原始数据,借助平台算法优势进而实现“区别对待”和“差别定价”。D短视频平台算法歧视性定价不但严重侵害消费者的合法权益,而且扰乱了市场交易秩序,算法不仅难以契合造福社会的设计初衷,反而容易异化为维护平台权益的“私人工具”。D平台主要是通过在技术上运用算法技术和在结果上设置价格歧视来损害消费者的公平交易权。一方面,算法权力作为平台最大程度攫取利益的手段,具有维护平台利益的天然性,价格歧视在所难免;另一方面,平台通过与算法权力结合生成一系列行为准则,将算法歧视隐匿到合理合法的定价之中,实现“暗箱操作”。D平台利用算法权力以低价吸引新用户,培养新的消费增长点,进一步拓展消费市场,为“割韭菜”做准备;以高价示意老用户,营造“物超所值”的错觉,增强用户黏性,运用“大数据杀熟”,持续剥削剩余价值。平台差别定价仅是“大数据杀熟”的表现,算法歧视才是“大数据杀熟”的实质,因而破解“千人千价”的治本之策在于算法治理,否则算法难免陷入由“计算”到“算计”的怪圈。(二)短视频平台算法歧视的成因1.刻意为之:主观设计下的“杰作”滋生算法歧视的首要原因在于算法开发者及平台621h t t p:s k x b.x j t u.e d u.c n高进,刘聪 算法歧视的敏捷治理管理者的主观因素。无论算法如何高明,其自始至终都无法脱离人而独立存在,算法的设计、运用、修正等都离不开人的参与,因而算法本质上属于人类智慧的结晶,这也决定了算法中充斥着人类主观价值的必然性。算法开发者的主观歧视造成算法歧视。算法歧视很大程度上是对现实社会中偏见、歧视的虚拟映射,算法设计者自身难免存在显性或隐性的歧视,如果算法设计者将主观意愿及隐含偏见用以设计算法就必然导致算法歧视。例如,算法中性别歧视、种族歧视、就业歧视等都是算法设计者主观思维的产物。此外,囿于算法开发者认知、经历等条件的限制,其不可能是完全理性的人,即使算法开发者没有任何歧视的初衷,通常还是难以完全屏蔽刻板印象与偏见。算法设计者长期的思维和逻辑使其容易固化唯技术主义的“科学”,选择性忽视算法模型适用领域的知识背景和价值规范,仅以代码“转译”公平正义等伦理价值,因而在算法开发中极易陷入“只见数字不见人”的陷阱。从伦理方面入手,加强行业自律,实现价值重塑,从源头遏制和预防算法歧视是破解开发者算法歧视顽疾的首要环节。D平台主动干预导致算法歧视。企业具有天然的逐利性,D短视频平台引进算法的首要目的在于实现利益最大化。平台管理者通过利用诱导、施压等手段与算法开发者暗中达成协议,从而促使算法设计更加符合平台的利益。开发者与管理者暗中结对的行为是以牺牲平台用户合法权益为前提,将利益凌驾于伦理道德和国家法制之上,算法歧视在所难免。此外,平台与企业也存在利益勾连。企业通过显性或隐性寻租与D平台展开合作,促使平台在算法设计中穿插企业利益进而大肆宣传,从而潜移默化地影响用户的消费行为。但这种合作往往仅出于利益多寡的考量,仅是对金主实力的价值排序,平台对于企业资质、产品质量、视频内容等缺乏足够的重视,虚假宣传、诱导消费等成为常态,例如D平台界面下的游戏广告投放、热榜提醒等。而对于高质量“无背景”的作品难免受到算法的歧视,始终保持不温不火的状态,最终沦为热门视频的“陪跑员”。D短视频平台对于算法的主动干预势必会将利益、价值取向等主观因素嵌入到算法当中,刻意为之的行为必然导致算法歧视的恶果。从外部入手,强化平台的监管和惩处是应对算法歧视的重要手段。2.无心之失:客观局限下的产物算法歧视并非都是主观设计下的产物,客观局限性的存在也是滋生歧视性问题的重要原因。D短视频平台算法流程大致包括构建初始化模型、输入训练数据、算法自我训练、输入验证数据、验证算法结果、生成算法应用等步骤2 1,任何环节出现问题都有可能导致算法歧视。样本数据偏差、算法“黑箱”等客观局限性是算法歧视问题蔓延的主要原因。数据偏差导致算法歧视。样本数据常被喻为算法的“教科书”2 2,机器学习的效果与样本状态存在莫大的联系。参与训练的数据来源应当兼具随机性和均衡性,训练数据数量既要适中,样本差异性又要适度,从而构造出可供训练的数据集。如果数据采集过程中样本过于集中,忽视其他边缘样本,算法最终也仅适用于部分群体,未被采样的群体自然而然地被排斥在外,无形之中滋生算法歧视。D短视频平台是基于用户现有数据实现内容推送和消费报价,如果用户注册信息不完整或不准确,算法歧视也会随之而来。此外,训练数量太小、异质性过大的数据集同样无法代表现实中数据的整体分布状态,数据训练过程往往过于顺畅,结果易于拟合,难以揭示其他小概率事件,因而后续算法开发和运用时常面临“失算”的风险。数据偏差既可以直接导致算法歧视,也可以通过间接影响机器学习诱发算法歧视,而后者的隐蔽性更高,危害性也更大。算法自学是当下算法开发的重要趋势,但是由于算法自身信息甄别和过滤功能的滞后,算法在自学的过程中无法准确识别暗含歧视性色彩的信息,这种信息一旦被算法吸纳并固化为思维定式就极有可能在特定场景下展现出“攻击性”行为,进而导致严重的算法歧视问题。因而,合理规范平台用于训练的数据源,从源头出发确保数据集的科学性是有效规避算法歧视的前提。算法“黑箱”导致算法歧视。算法作为D短视频平台的商业机密,从数据输入到输出结果的全过程都在后台统一实现,“黑箱”下的算法歧视问题由此产生。社会成员被完全隔绝于“黑箱”之外,算法运算的数据、过程分析逻辑等信息皆不对外开放,最终只会呈现一个冰冷的数字。关键过程的缺失加剧了平台算法的非透明性,同时也导致算法歧视变得更加隐蔽,甚至在某些情境下,即便算法开发者和专业人士都难以察觉,算法歧视被“理所当然”视为“正常逻辑”,“黑箱”治理也显得有心无力。此外,算法“黑箱”还加剧了平台与用户之间的信息不对称性,使得用户深陷算法歧视囹圄却不自知。一方面,平台能够利用大数据优势掌握用户的大量个人信息并对用户进行精确画像和标签化处理,从而实现有预谋的区别对待;另一方面,用户之间相互独立,个人无法掌握其他用户的信息数据,因而不能横向比对平台算法运行的结果,即便成为被歧视的对象也浑然不知。算法“黑箱”加剧了算法歧视的风险性和隐蔽性,尚无治本之策,因而亟须社会多元合作建言献策,防止无心之失诱发的算法危机。四、逾越陷阱:短视频平台算法歧视的敏捷治理 算法歧视是算法社会无法回避的问题。政府以敏721西安交通大学学报(社会科学版)2 0 2 4年1月 第4 4卷 第1期捷治理赋能平台算法歧视治理,构建集政府、社会、平台、用户为一体的平台算法歧视的敏捷治理机制实现共建、共治、共享,从而纾解算法歧视的难题。平台算法歧视的敏捷治理机制如图3所示。图3 平台算法歧视的敏捷治理机制(一)事前监测预警:灵敏感知机制算法歧视治理的基础在于通过信息赋权实现提前预防和洞察感应,平台、用户、政府、社会凭借各自的优势共同构建起监管、评价、问责于一体的规范化机制是实现灵敏感知的前提。公众参与和公开披露是实现有效治理的关键。其一,构筑多元主体参与的监测预警机制。D短视频平台作为算法歧视的责任主体亟须在伦理反思的基础上实现价值重塑和算法公平,严格遵循平台算法规范,破除歧视性思维惯性。D平台通过利用平台大数据优势实现全天候自我监控,及时发现算法漏洞和歧视问题。唯有实现伦理、技术、人三者之间的协调才能增强平台的洞察力和敏捷度2 3,才能走出算法歧视的困境。事前审查是确保算法公正的前提,政府有权对D短视频平台算法进行规范和防范,为此必须配置科学合理的规章制度,事先规避算法歧视。政府按照“包容审慎”的原则不断强化对D短视频平台算法的动态监管,既要在数据层面严格规制算法歧视,又要鼓励D短视频平台算法技术赋能,不断强化技术能力,以算法监测算法,从而提升感知和预警能力。用户作为“弱势群体”更应提高对算法歧视的重视程度和感知察觉能力。避免被“被歧视”的最优路径在于意识培养和能力提升,通过多种途径获取算法知识和反歧视技能并时刻保持清醒的头脑,筑牢用户防范平台算法歧视的心理防线,从而更好地监测算法歧视。政府为解决这一“顽疾”需要集行业、媒体、专家等多元主体社会合力实现对算法歧视的常态化监控,构筑全方位无死角的感知预警机制,破解算法“黑箱”背后的歧视难题。其二,充分利用舆论、数据、算法优势预设“敏捷评价”系统。依托云计算、智慧大脑等新型基础设施建设实现风险预警与评估,通过多维测评具体算法歧视的风险性及危害程度,有针对性地编制治理预案和防范措施。此外,通过远程接入和实时动态的方式,密切关注平台算法歧视的动向,研判其运作路径和变化曲线,并参照专业团队的评价意见快速有效地得出应对策略。其三,落实合理问责机制。针对短视频平台算法歧视类型、成因、后果等差异性分别施以不同的应对策略和惩处措施,对于不同责任主体实现差异化问责。推动问责关口前移,打好“预防针”,进一步落实短视频平台算法责任人的具体责任,实现先立后破和破立并举,规避后发治理模式难以规避既损利益的弊端。灵敏感知机制作为算法歧视事前预防和感应的重要抓手,能够有效应对短视频平台算法歧视危机,通过提升预警和感应能力,实现监督评价问责的规范化,助推算法治理成效。(二)事中控制化解:快速响应机制快速响应是应对算法歧视的核心要义,政府需要以大数据、智能算法、专家智慧联动式响应为基础实现“独白性话语”向“共识性话语”转化2 4,提升敏捷响应能力。其一,提升视频平台大数据平台的分析和处理能力。D短视频平台对于算法歧视负有不可推卸的责任,因而打通算法的堵点、痛点必先始于短视频平台。大数据优势是平台处理算法歧视的利器,一旦平台实时监控系统捕捉到算法歧视行为,系统会第一时间阻滞活动进行,并将数据信息上传中控台,从而控制和处理算法歧视,避免歧视性问题的扩大。其二,注重智能算法的开发和运用,实现政府治理节奏和技术的适度融合。通过拓展技术融入算法治理的模式,充分借助第五代移动通信技术(5 G)、区块链、人工智能等技术手段实现算法歧视监管的全覆盖,从而构建智能监控、快速研判、精准决策的政务智能服务平台。政府运用平台优势对平台信息收集、转换、跟踪、监控,及时发现推演算法歧视漏洞,凭借制度优势严格管控算法歧视,高位推动平台算法治理,一旦发现算法歧视的苗头应在启动紧急预案循规应对的同时实现综合施策和高效化解。此外,政府还需构筑灵活的组织机构,迅速整合组织资源,使用跨学科、跨部门的工作方法迅速响应和处理歧视性问题。其三,构建敏捷响应算法歧视的利益共同体。囿于算法“黑箱”和专业性的束缚,任何治理单体都难以实现对平台算法歧视的敏捷响应和精准应对。一方面,算法歧视具有隐蔽性和复杂性,社会成员缺乏信息优势和专业素养,面对算法歧视往往有心无力;另一方面,相较于被歧视的用户,其他社会成员利益暂未明显受损因而抱821h t t p:s k x b.x j t u.e d u.c n高进,刘聪 算法