AIGC视域下媒介“把关”的变革影响、风险挑战和应对策略.pdf

AIGC视域下媒介“把关”的变革影响、风险挑战和应对策略张乐怡一、引言生成式人工智能作为场景广泛、作用显著的人工智能互动形式，在自然语言处理、计算机视觉、音频生成等都有广泛应用。AIGC发展初期主要应用于影视、娱乐、工业等专业辅助工作，随着人工智能基础技术（算法、算力和算据）的更新和元宇宙应用场景的加码，AI创作成爆发式增长。计算机技术发展以来，新闻把关在新媒体、融媒体、元媒体的冲击和挑战中，实现理论的更新和发展方向的不断转变。AIGC时代，“把关”话语面临对象由人创作到AI创作的属性转变，AI在数据采集、整合和挖掘方面的高维能力也让新闻生产流程中“人”的角色面临被弱化、被取代的巨大风险。面对新形势下的媒介把关工作，更要贴近现实、结合技术，顺应技术发展的趋势，创新媒介思维，发展高标准、高要求的新闻信息服务。同时，随着人工智能算法、算力的不断提升，人工智能生产内容给假新闻、有害信息的衍生、繁殖创造了条件，“把关人”理论面临更新，AIGC背景下的“把关人”角色面临挑战，媒介把关亟须创新。二、新变革：AI与AIGC人工智能生成内容首要的、决定性的起点是数据，背后逻辑是机器可以从数据和模式中学习，从而创建模仿人类行为和创造力的新内容。1这些特征表明了AIGC是不同于UGC生成逻辑的巨量数据标注和预训练搭建出的内容生产引擎。它的生产逻辑是用技术驱动创作。（一）全能人类助手AIGC是人工智能生成内容，是一种人机协同的内容生产，不仅包括当下热门的对话式生成式人工智能ChatGPT，还包括生成对抗网络创建的图像AIGC、音频、视频甚至整个网站。过去由于AI模型数据规模较小、架构层级有效，内容生产存在呆板、生硬、内容空洞的问题，但随着千亿级大模型的不断升级、更新换代，AIGC已经实现了内容高速高效量产的质变，成为人类创造性工作中的帮手。大模型的使用和算力的提升让AI成了超强的人工大脑，尽管在情感识别、语境感知、情感表达方面仍显示出“智能”的呆板，但作为人机协作的智能助手，大模型已经帮助实现了知识数据的海量储存、关联和运算，成为人类脑力的补充。目前，Open AI 公司推出的ChatGPT以及DALL E等都已经实现帮助人类完成规范性、程序性的内容生产。未来，兼具大模型和多模态模型的AIGC形态有望成为新的技术平台。（二）巨量训练数据巨量数据是 ChatGPT 能够突出重围、引起热潮的关键。过去虽然有许多生成式模型，但数据少、训练成本高、应用能力差使其难以应对人类所需的诸多场景和问题。预训练模型的出现标志着由巨量数据训练、拥有巨量参数的模型可以广泛适应多种生产场景。基于自然语言处理（NLP）预训练模型、计算式（cv）视觉预训练模型等大模型之上的对话式生成式人工智能、图像类生成式人工智能开始实现创造能力的质变，让AIGC从空中楼阁走入人类日【内容提要】AIGC（人工智能生成内容）语境下，“把关人”角色面临挑战，不仅是媒体自身要寻求发展之道，媒介把关内容也要遵循新形势下发展的新标准、新要求。人工智能带来的信息传播内容、主体、渠道的巨大变革，要求新信息环境下的媒介把关转向智能把关，不仅是把关角色、把关内容、把关环节的持续更新和多元化发展，更需要AIGC视域下“新新媒体人”的把关观念和把关判断转向智能、多变和立体。因此，媒介把关亟须转变和创新，以更好地迎接人工智能时代的信息传播。【关键词】AIGC 把关人 观点霸权 智能把关21新闻论坛 2024年第2期常创造工作中来。尽管训练成本高的问题仍然存在，但AI大模型的大规模甚至全球性使用已成定局，未来也将实现更多功能的突破。（三）多模态技术多模态技术帮助预训练模型从单一向包括语言、图像、音视频等多模态模型转变，让AIGC走向多场景的应用。例如CLIP模型可以将文字与图像进行联系、匹配，实现图文模态融合。在应用场景中，AI 在由文字生成视频、音频方面也表现不俗。抖音旗下的视频编辑软件剪映就利用多模态的通用能力，推出了“AI成片”等功能，通过对文字内容的分析匹配相关视频、图片等内容来帮助视频创作者实现AI视频创作，降低拍摄成本。跨模态让大模型实现更多应用场景的通用，并且很大程度上减少了人工在任务执行中所需要的劳动。三、新挑战：AI与“把关”的博弈把关人在传播者和受众之间起继续或者终止信息传递的作用，他可以根据规定或者是主观意见，对信息进行把关判断其是否被允许进入受众视野。而传统媒体中的把关人角色一般是由报纸编辑、记者承担。这是基于传统媒体形式的把关人，而现代技术带给传播局面新的变化是，新的秩序的产生，过去传统媒体和权威信源主导的专业化的供需平衡，已然被数字平台以数据和算法所构建出来的渠道所垄断，也就是数字平台不再重点维系内容生产，而是对信息分发强调绝对的控制权，这种控制不再是过去媒体内部的某种规则的限制，是基于程序和算法背后的难以察觉的包含了意识形态、数字规则的新桎梏。这种规则不断强化内容生产者对平台或算法的依附关系，从而进一步巩固渠道霸权。（一）把关角色泛化：从由人把关到非人和人机协作把关“把关人”的概念在AIGC技术的发展下面临根本性的变革。在传统媒体的传播过程中，作为媒体中的“把关人”，专业编辑处于信息的第一环节，掌握着信息的发布和传播权，而人工智能时代则打破了这种局面。由于AI运用的大语言模型是在大量文本数据训练基础上形成的，其中不仅包括事实性内容也包括一些文学作品、虚构内容，但目前模型在识别非现实的虚构内容和想象内容仍难以区分，会导致人工智能在对话中频繁产生“幻觉”（hallucination）。2在AI强大技术的加持下，图片、视频、文字的真实性都面临严峻的考验，如何识别AIGC内容以及算法基础上形成以假乱真的虚假信息成为新的“把关”难题。ChatGPT的爆火，让许多利用ChatGPT生成的文章进入大学课程甚至毕业论文中去，OpenAI 推出了 AI TextClassifier（AI文本检测器）用来检测文本内容是否由ChatG-PT或其他AI模型生成，AI检测有望成为人工智能时代新的“把关人”角色。另外，一些辅助内容审核的模型也顺应而生，百度旗下的AI开发平台的内容审核平台产品可以对图像、文本、语音、视频等多维度进行内容分析，覆盖涉黄、违禁、广告检测等全方位的智能AI审核能力，可以帮助购买服务的机构实现私有化部署。把关角色向机器的泛化，也标志着把关限制和规则也将更加复杂和模糊。过去专业的记者、编辑采取传统媒体的把关原则进行把关。而AI参与的把关行为由于训练数据的不平衡性，不同模型会呈现把关差异化，因此用作把关或协助把关的人工智能模型必须实现算法透明化和规范化，以保证公正性和客观性。（二）把关规则重塑：算法规则与人类价值的融合把关角色的多重化以及人类和AI算法所代表的价值和观念的偏差，使得把关标准较传统媒体时代有很大的变化。传统媒体编辑把关需要把握信息新闻价值和新闻要素，考虑政治、法律、社会文化和宗教等各方面因素。自媒体时代，多元的把关人角色在一定程度上弱化了政治、文化和宗教等传统因素的影响，而是把市场因素作为了主导因素。人工智能时代，则需要考虑训练数据的不平衡性导致的系统性偏见。人工智能的“观点霸权”，就是基于巨量偏见意见人群数据生成的畸形价值观对现实社会中的主流观念产生压迫和挤兑。人类的道德标准、价值观念是来源于从不断的社会实践和行动中学习的方式逐渐培养起来的，人类对于情感、道德、伦理的精准判断是算法难以实现的，这种难以诉诸文字的微妙感受是需要注入把关规则中去的。因此，利用人工标注数据实现价值纠偏可能是把关规则升级重塑的关键点。要保证算法的理性和公正，就少不了人类价值偏好对其的引导和干预，从而保障其不断延伸、发展并朝着理性客观的完美算法形态进化。（三）把关难度提升：巨量化信息要求智能把关的紧迫性人工智能的加入也带来了把关难度的新挑战。一方面，人工智能和人工智能内容生产者等生产传播主体以及互联网的便捷性和共享性，构成了互联网内大量纷杂的信息源，也为虚假信息通过各种先进的传播渠道进行快速广泛的传播创造了条件。另一方面，大模型利用巨量的人类数据不断训练，逐渐产生出与人类语境和语言模式无穷接近的信息内容。这些内容本身并不携带人工智能生成的标签，因此仅靠储存或利用大量参考过去的数据来难以判新媒视角22断人工智能生成的内容。把关难度的提升也意味着把关活动需要更短的核查时间和更高的精准度。这就要求以人工智能为把关主体、以算法为技术内核、以人机互动为主要方式的新闻把关活动成为主流把关力量。3智能把关不仅需要内容生产的智能化来保障新闻的准确与客观，更需要信息分发的智能推荐来帮助提高信息传播的品质与高效。四、新思考：AIGC语境下的媒介把关路径人与算法的有机融合，让AIGC在新闻实践中的应用也更加广泛，成了当之无愧的新闻助手。自然语言生成公司Automated Insights 仅 2014 年就生产了 10 亿篇新闻文章。而在自媒体创作者快速增长、UGC内容饱和的新媒体环境中，人工智能的协助作用更是不容忽视。在哔哩哔哩（B站）的创作入口，就设计了基于用户提供的视频素材进行智能分析剪辑后期的功能，不仅帮助up主拓宽剪辑设计思路，创作者还能实现解放双手的创作。复杂的AI算法、“多才多艺”的AI模型促使过去单一、程序化的媒体编辑工作繁杂化，因此，审视AI协作下的媒体编辑工作、明晰新媒介环境下的“把关”是关键性的，也是必然的。（一）人类主义观念人工智能的异军突起，在某种程度上倒逼着人类做出关于价值、意义的思考。作为未来内容生产的强大引擎，AIGC到底是否具有人类观念上的“意义”？麦克卢汉曾说，真正有意义、有价值的讯息不是各个时代的传播内容，而是这个时代所使用的传播工具的性质、它所开创的可能性以及带来的社会变化。如今AI作为21世纪20年代的新媒介，人工智能的创作和生产本身的特性、用途以及可能带来的社会变化才是真正有意义的。人机协作使得内容生产的门槛越来越低，而能力与水平却得到提升。对于受众而言，获取信息的渠道也越来越广泛，选择也越来越多。媒介把关工作需要的不仅仅是制度上和科技上的创新，更应该从观念上与时俱进。结合当下AIGC发展的大趋势，媒体的观念应该更加着重于提升内容的深度、创意。一方面，增加互动性使传播内容更加接地气，更具有人类的情感共鸣，实现内容的陪伴感。另一方面，重视用户运营，增强用户黏度和忠诚度。目前，AI的协作能力逐渐稳定、准确且合乎逻辑，但仍未实现自主性突破，4在情感识别、语境判断、伦理抉择上仍然表现得不尽如人意。作为媒体，要利用这一点不断加强内容与受众的共鸣、体现人情味、恰当的伦理判断和基于人类经验的价值纠偏。要敢于用新的方式进行信息的传播，全方位、多维度的发展人与AI协同传播方式，改变传统媒体的思维模式，建立以人为本的核心内容生产战略和融合发展的媒体管理模式。（二）守正价值传播在新闻工作中，正确的价值传递和公正的观点表达是决定新闻工作合格与否的关键。AI模型基于数据不平衡产生的内容偏差、意见偏差会在潜移默化中形成蒙蔽在模型之上的系统性偏差，从而呈现出内容的“观点霸权”，对AIGC内容的多样性、代表性、公正性方面产生影响。尽管偏见、霸权和畸形的价值观念也存在于在现有社会中不平等的权力结构中，但AI工具则是将这一潜在的偏向以技术和数据的形式呈现出来，同时偏向性也会反馈给互联网的用户，从而在某种程度上加剧这一现状。传播途径、内容把控的多元主体让越来越多的内容开始走向低质化、模版化，“编辑已死”的质疑声也越来越多，编辑工作要以内容优势赢得发展优势，这才是媒介长久发展之道。不盲目求视觉体验和舆论效果，不被快餐文化的洪流所裹挟，坚持正确的价值导向，明确媒介主流价值传播和引导的职责与使命，坚持将内容建设放在第一位。AIGC的发展打破了过去传统内容生产的桎梏，以互动创造的形式实现了内容生产的新生。但只有符合社会主流价值观、摒弃偏见畸形价值的内容才能够长远地、真正地吸引受众。五、新策略：AIGC语境下的媒介把关创新人工智能技术的突破性进展和普适化应用带给新闻传播学科的剧烈变革，也成为理论发展的契机。一些研究者已经意识到传统新闻学体系包括核心概念、理论话语和伦理规范等已在很大程度上失去对技术驱动的新的新闻现象和新闻业态的解释力。5内容生产方式的颠覆性变革倒逼从业者和学者不得不以新的思维和视角审视传播理论，把关的延伸发展迫在眉睫。（一）把关基础能力建设面对AI大举进驻内容生产的发展趋势，基于人工智能技术的人机协作把关基础能力建设成为必然选择。继Open AI推出对话型生成式预训练模型ChatGPT一举震世，国内多家公司加快AI模型研发进程，多方资本积极入局AIGC。百度在2023年3月底发布文心一言，阿里、腾讯也陆续发布自己的大模型产品。目前，国内大模型与国外发展仍然存在基础算力、技术逻辑和模型优化上的差距。技术的差距来源于国内目前的客观环境问题，如长期资金投入和研发环境等。把关基础23新闻论坛 2024年第2期能力建设少不了成熟的技术和模型产品支持，而实现这些技术支持，就要求研发环境、人才培养、资金投入不断提高，打造出符合社会道德、人文价值的预训练模型协助编辑人员提升把关能力和水平。（二）把关技术创新人工智能生成内容要求把关人可以针对不同的技术特点，对信息的采集和编辑进行技术上的优化，利用数据库等技术做支撑进行把关活动。同时，由于媒介的多元形式，针对媒介性质、定位技术性地筛选把关内容，在把关活动中遵循媒介的受众对象、传播内容、传播水准和风格特色进行科学的、技术分析和内容把关。把关对象（AIGC信息）的技术性、智能性要求把关人可以利用相关的人工智能技术，进行模型毒性检测（为了防止偏向，自然语言处理领域使用“毒性检测”来识别和过滤文本数据中的毒性内容存在偏见、令人反感或对某些人群有害的语言和内容）、利用算法提供精准信息投放、挖掘数据价值，让渠道信息成为对受众来说科学的、有用的信息资源，高效地完成把关活动。（三）把关角色监督媒体外部环境及组织监督，是指国家政府或行业组织制定的法律法规及职业守则，应该具有强制性的约束力，或者是借助法律来规范把关活动。这种把关角色的监督不仅要出现在广播、电视、报纸等媒体上，更要贯穿于以AIGC为代表的内容生产中，实现生产全流程的把关，同时，必须实现算法设计、训练数据、判断标准的透明化以及人机协作把关的责任规范化。谁来监督、怎么监督、监督什么都需要明确把关规范细则。更重要的是，保证人工智能模型能在符合社会规范、隐私保护的基础上实现把关过程，也需要出台相关的技术规范和国家标准。六、结语过去互联网带来的变革是信息零成本传播与复制，人工智能带来的是信息的低成本或零成本生产。AIGC顺应了数字时代内容生产快速迭代、无限创意的新需求，技术驱动下内容生产进入高速量产2.0时代，人和机器都成了内容创作者，AIGC无限的生成能力让“把关”的革新发展提上日程。随着把关角色不断泛化、把关规则融合重塑、把关难度一再提升，打破技术黑箱、过滤AI“幻觉”内容、坚守主流价值成为人工智能时代把关人角色亟须解决的新问题，系统而科学地分析技术驱动下的把关创新，有利于媒体进一步改善采选编工作，争取更好的传播效果，为受众提供更优质、更权威、更高效的内容服务。参考文献：1陈昌凤.生成式人工智能与新闻传播：实务赋能、理念挑战与角色重塑J.新闻界，2023（06）：4-12.2胡泳.当机器人产生幻觉，它告诉我们关于人类思维的什么？J.文化艺术研究，2023（03）：15-26+112.3刘海明，杨琦钜.位阶与底线：人工智能时代数字新闻把关人的伦理探究J.现代传播（中国传媒大学学报），2021，43（01）：81-86.4郭全中，张金熠.AI+人文：AIGC的发展与趋势J.新闻爱好者，2023（03）：8-14.5常江，田浩.从数字新闻研究到数字新闻学：一个创新范式的崛起J.中国网络传播研究，2021（03）：3-17.作者简介：张乐怡，浙江传媒学院媒体工程学院硕士研究生编辑：王洪越新媒视角24