智能审核分析系统设计与应用.pdf

电视技术第47 卷第6 期（总第57 1期180180-184.jineering，2 0 2 3,47(6)文献引用格式.高尚清智能审核分析系统设计与应用 11申视技术.2 0 2 3.47 6）.18 0-18 4UPERVISION&TESTING支ideoEngineering监管与检测GAO S Q.Design and application of intelligent audit and analysis systemJJ.Video Eng中图分类号：TN931.3文献标识码：AD0I:10.16280/j.videoe.2023.06.046智能审核分析系统设计与应用高尚清（浙江广播电视集团，浙江杭州310005)摘要：介绍智能审核分析系统的整体架构设计和功能。系统主要用于提供对各类视音频、图片和文字的智能审核与分析功能。系统通过租户化部署为业务人员提供软件即服务（Software asa Service，S a a S）应用，构建流程化内容审核和分析模式，实现全媒体成品的安全管控和内容智能化检索，有效提高内容生产质量和效率。关键词：智能审核；云转码；内容安全Design and Application of Intelligent Audit and Analysis SystemGAO Shangqing(Zhejiang Media Group,Hangzhou 310005,China)Abstract:This paper mainly introduces the overall architecture design and functions of an intelligent audit and analysis system.Thesystem is mainly used to provide intelligent review and analysis functions for various types of video,audio,images,and text.The systemprovides Software as a Service(SaaS)applications for business personnel through tenant based management,and constructs a processoriented content review and analysis mode to achieve security control and intelligent content retrieval of all media products,effectivelyimproving the quality and efficiency of content production.Keywords:intelligent audit;cloud transcoding;content security0引言近年来，浙江广播电视集团（以下简称浙江广电）致力于推动媒体融合纵深发展，加快将人工智能等新兴技术应用于信息采集、生产、传播等各环节。传统的媒体节目制作流程中，三级四审制度主要依靠人力完成。近年来，新媒体行业兴起，大小屏联动发展，传播内容愈加繁多。依托传统模式审核效率低，且难以对现有媒资通过智能化标签等条件进行检索。为应对愈加繁重的媒体内容审核、内容价值挖掘任务，研发、建设一套智能审核分析系统，辅助提高内容审核与分析效率，尤为重要。智能审核分析系统，依托浙江广电莫干山路数据中心，利用原子能力打造媒体新型内容审核、分析流程；利用中心现有的计算资源与转码、迁移等基础组件实现对各类节目素材与成片的审核分析结果在线预览。系统包括业务监控、智能审核分析、系统管理等模块，支持配额管理与用量统计，便于后续计费和数据分析。本项目的实施，优化了传统节目审核方式，助力内容分析以及智能化检索，提高了媒体制作效率，满足新时代广电行业生产需要。1总体架构智能审核分析系统依托“浙江广电莫干山路数据中心”基础设施即服务（Infrastructure asa Service，IaaS）资源池，包含对象存储、数据库实例、K8S容器管理平台等服务，实现系统的高可用性；依托中心转码等平台即服务（PlatformasaService，Pa a S）层服务，对媒体内容进行转码，统一生成低码率文件组，方便用户预览以及后续流程调用；通过预设个性化模板，驱动后台流程，取得对应的审核分析结果；支持多站点模式，每个站点及站点内用户数据隔离，可对每个站点及用户单独设置智能处理的类型以及配额，并对其用量进行统计；对接中国蓝云平台、乙视介等业务平台，支持以单点登录、应用程序编程接口（Application Programming Interface，电视技术第47 卷第2 期（总第56 7 期）181UPERVISION&TESTING支市ideoEngineering监管与检测API）调用等多种方式进行接人，便于现有业务及其他业务系统便捷对接 2 。系统总体结构如图1所示，主要包括业务监控、系统管理、基础组件以及智能审核分析四大功能模块1.1业务监控业务监控模块主要负责提供各类对外API、内部接口转发、模板配置以及三方对接。用户可按实际需求配置智能审核、分析模板；流程驱动后返回给应用系统的内容根据模板进行匹配，显示模板已勾选的类型以及高于阈值的相应内容。“中国蓝云平台”、重大文化传播平台的核心载体“乙视介”现已通过单点登录、接口调用等方式正式接人使用。1.2系统管理系统管理模块包含租户管理、用户管理、权限管理以及配额管理四大功能。智能审核分析系统按需进行租户化部署，各个站点共享基础组件以及业务监控功能，用户及业务数据相互隔离。用户管理提供用户的注册、编辑、权限分配和配额等功能权限管理可通过设置不同角色对应多重权限需求，便于管理及保障流程、数据安全。配额管理支持首先给各个租户站点分配一定的智能能力使用额度，其次该站点下所有用户可用的总额不超过该站点本身配额；同时支持配额软性阈值设置，即此模式下超过设定配额限制，系统可提醒该租户管理员相关情况但不限制用户继续使用，有利于适配不同用户、不同场景的管理模式。1.3基础组件基础组件包含了K8S集群、对象存储、数据库实例及缓存服务等。智能审核分析系统的各个服务通过容器化方式部署，各个容器相互独立，进程不会互相影响，具备可扩展、自动化的特点，可通过设置策略实现服务的弹性扩缩容，在不浪费底层资源的前提下保障系统稳定运行 3。上述资源面向系统各个租户、用户开放，具备可扩展性同时便于优化升级。现有业务中国蓝云平台乙视介智能媒资其他业务系统共他按入方式智能审核分析系统泉业务监控请求转发流程驱动模板配置三方对接多媒体内容分析多媒体内容审核人脸识别文本提取涉黄审核茶恐审核语音识别标然分类沙政中核智能审核分析LOGO认场绿分类广告审核低质世核特征库统计分析系统管理权限管理用户管理租户管理配额管理基础组件K8S集群对象存储数据库实例缓存服务图1智能审核分析系统架构图电视技术第47 卷第6 期（总第57 1期）182ideoEngineeringS监管与检测UPERVISION&TESTING监管与检测1.4智能审核分析智能审核分析涵盖多媒体内容分析、内容审核、特征库以及统计分析四大功能。系统支持用户通过手动创建或者接口请求方式根据模板发起任务流程，支持视频、音频、图片和文字多种形式的媒体内容，同时支持新建人脸库、机构库和Logo库等自定义特征库。用户可将创建的特征库与流程模板进行绑定关联，实现对特定人物、图像的审核分析需求。系统支持按照用户、租户维度进行资源使用情况分类统计，同时具备配置计费规则，基于额度用量进行计费，丰富系统运营能力。2系统详细设计2.1设计目标与原则本系统的设计目标是开发一套智能审核分析系统，保持对新技术的战略主动；通过对新技术的深入研究与主动跟进，推进媒体深度融合发展，为节目内容制作和审核提供支持 4。系统基于浙江广电莫干山路数据中心的容器服务、云数据库等统一设计，采用restapi、插件化方式进行数据交互；采用云转码、对象存储（ObjectStorage Service，O S S）和服务器负载均衡（ServerLoadBalancer，S L B）等先进的技术和产品，符合广电行业发展趋势。智能审核分析系统上线后，助力现有业务及用户内容安全审核和媒体内容生产参考，满足先进性要求；依托本地化部署的阿里云平台，包含Web应用防火墙（WebApplicationFirewall，WA F）、云监控（Cloud Monitoring Service,CMS）、高速通道等功能和资源，保障媒体内容安全传输，满足高安全性要求。2.2智能审核分析服务智能审核分析服务支持对视频、音频、图片和文本等类型文件发起审核或分析任务流程。对应的文件上传方式包含Web上传、Http文件识别、存储扫描（包含nas、o s s、f t p）；同时支持任务进度可视化呈现，实时进度查看。智能处理完成后，最终各数据结果进行聚合，回调给业务系统进行展示。系统还具备任务流程状态消息通知能力，可以将任务的每一个步骤更新后的信息和最终结果以结构化数据的形式回调给用户。具备相应权限的用户根据实际情况，如当任务失败时，可对已发起任务进行批量取消、删除和重置操作。具体流程步骤如图2 所示，详细介绍如下。（1）用户上传视音频等素材，选择任务类型和一不通过一上传文件预处理：开始在线地址加签信息校验通过一转码、抽顿、迁移接口发起审核智能处理+是是否审核任务结构化否数据查看媒体内容分析智能处理审核结果结构化数据+更新人工查看媒体内容人工复审复审数据分析结果是否修正智能结束审核结果图2智能审核分析流程图电视技术第47 卷第2 期（总第56 7 期）183JPERVISION&TESTINGideoEngineering监管与检测模板或传递相应参数，通过接口发起任务；（2)系统会对收到的任务中带有的鉴权信息进行校验，通过后抽取元数据信息；如果是视频类型，对原视频进行转码、抽顿，提取封面和音频，再下发给智能算子进行处理；（3）算子结果经过数据聚合，回调给业务系统进行展示；（4）在系统页面中，可根据任务名称、任务状态、使用模板、创建时间和任务最后更新时间进行查询。2.2.1智能分析智能分析功能支持对视频、图片和文本等媒体内容发起任务。用户可对完成的任务进行在线预览视频、图片内容；智能分析功能可以根据模板提取出视频、图片中的标签信息、人脸信息、语音文字信息及Logo信息等。标签信息首先会根据收到的结构化数据进行标签分类，如地名、机构组织、场景、人物等进行展示，然后再将相应结果呈现至各个分类中。人脸信息中，可查看系统识别出的人物，包括人物姓名，人物出现的关键帧、时码和置信度等信息，并支持点击时码在预览窗口中跳转至相应的视频内容处，帮助用户快速定位5。语音文字信息处理方面，通过对媒体内容进行音频提取、语音转文字和OCR处理，系统按时间顺序展示识别出的文字信息，可通过输人关键词方式进行检索查询，并支持以srt或excel形式导出，方便用户进行二次加工处理。Logo信息模块中可识别出媒体内容中的Logo、水印等信息并进行呈现。2.2.2智能审核智能审核服务对用户发起的视频、图片、语音和文本进行审核。审核结果通过智能处理结果的置信度与相应模板匹配后，以人工智能（ArtificialIntelligence，A I）确认结果、AI疑似结果方式呈现。用户可在模板中勾选涉黄、暴恐、涉政、违禁、广告和低质等六大一级分类，每个一级分类下又细分为二级分类以及对应的三级分类。以暴恐为例，下有二级分类如暴力事件，暴力事件又可分化出枪械、刀具、血腥等三级分类。用户可勾选所需分类并对每一个三级分类设置确认阈值和疑似阈值。当发起的智能审核任务出现对应的三级分类内容，且结果的置信度高于模板设置确认阈值时，可以在AI确认结果模块中的对应分类下查看具体结果，含有名称、出现的关键顿、时码和置信度等信息，支持快速定位。当结果的置信度处于确认阈值和疑似阈值之间时，同理，可在AI疑似结果模块中查看。当结果置信度低于用户设置的疑似置信度时，系统将过滤相应信息，不在可视化页面展示。为确保媒体内容安全制作播出，智能审核模块可对完成的智能审核任务进行人工复审修订。用户可反馈遗漏违规点，新建词条、分类及片段。2.3特征库上述人脸、Logo和文本等内容模块均支持任务模板与自定义特征库相关联。以Logo为例，通常情况下，本系统可审核、分析、识别出媒体内容中出现的较知名或违规Logo。当用户需要审核特定Logo时，可新建Logo特征库，将特定Logo以图片、名称方式上传，经站点管理员审核认可后入库至该特征库。具体流程步骤如图3所示。选择LogO填写名称开始特征库上传图片新增og是一一是否审核人库成功通过杏结束反馈提交人员不通过?闲图3特征库新建数据流程图添加数据成功后，用户可将该特征库与模板中的指定分类进行关联，后续发起的任务即可识别此Logo并可视化展示2.4统计分析系统对租户站点以及单个用户按智能能力类型以及对应额度、任务类型进行分类统计，便于对单个站点的使用特点进行分析。同时，系统管理员可见所有租户站点分配以及已使用额度的总体情况，为底层智能处理能力类型及数量资源规划提供决策依据 6 。系统界面如图4所示。33结语随着高新技术发展与媒体行业的不断变革，节电视技术第47 卷第6 期（总第57 1期）184编辑：张玉聪（上接第16 7 页）编辑：张玉聪OUPERVISION&TESTING电视技量ideoEngineering监管与检测统计总览执行中的任务成功的任势失数的任务14389画9牧的日个0%较购扫个0%福户：全部镜力：品牌：类型：已使用费7904157279065415文本薄流9014534598通用水14563818图4统计分析展示图目的制作已不完全局限于以往的纯人工模式，智能审核分析系统应运而生，协助现有业务兴利除弊。此外，系统优化了审核流程，降低出错风险，同时通过智能标签化信息提取等方式，对已有内容归纳溯源，在为打造全新作品提供辅助参考等方面发挥了重要作用。参考文献：1 姜亚玲.探究智能化技术对新媒体发展的影响 J.传媒论坛,2 0 2 1,4(15):15-16.2钱永江，闫燕勤，俞定国。“中国蓝云”支撑下县级融媒体加高效和智能。4结语融媒体中心一体化采编播平台是当前媒体发展的必然趋势，通过融合多媒体内容、实现实时协同编辑、多渠道播发和智能化支持，提升采编播效率、内容质量和用户体验。融媒体中心一体化采编播平台将进一步推动媒体行业的发展，满足用户多样化的信息需求。参考文献：1 走赵惠彬，新媒体技术平台搭建中一体化采编播平台的建中心建设探索与实践 J.广播与电视技术，2 0 2 1，48（1)：54-57.3 田杨锋，王振.基于K8s的PaaS架构及业界典型产品的调研分析 J.科学技术创新，2 0 18（6）：9 7-9 8.4佟明，张锐.基于AI深度学习的智能审核系统在广电中的应用 J.现代电视技术，2 0 2 2（2）：8 8-9 1.5 何婧媛，李沐阳，田原，等，基于深度学习的人脸识别系统的设计与实现 J江西科学，2 0 2 3，41（2）：40 0-40 4.6苑克准，张雪，朱竞娅，等.数据分析在新媒体传播中的应用 J.新闻论坛，2 0 2 3，37（1）：33-34.设 J.新闻文化建设，2 0 2 2（2 1）：9 7-9 9.2周冲，黄健.全媒体时代下广播采编播方式的变化：以广西广播电视台为例 J.中国传媒科技，2 0 2 0（9）：7-10.3 许益斌.基于采编播一体机的融媒体现场制作系统检测研究 J.广播电视信息，2 0 19（5）：30-33.4张安航.融合基础架构在广电领域的应用 J.现代电视技术,2 0 19(4):12 4-12 8.5 杨建宁.广播电台采编一体化平台构建研究 .传播力研究，2 0 19,3(9)：10 5.6乔婷.搭建新媒体技术采编播立体平台的设想 .西部广播电视,2 0 18(1):18 6-18 7.