T_BAX 0006.5-2023 视频图像感知智能应用适配技术要求 第5部分：算法算力.docx

ICS 13.301CCS A91BAX团体标准T/BAX 0006.52023视频图像感知智能应用适配技术要求第 5 部分：算法算力服务管理平台Technical requirements for intelligent application adaptation of video and image sensingPart 5: algorithm and computing power service management platform2023 - 11 - 02 发布2024 - 01 - 01 实施北京安全防范行业协会 发布T/BAX 0006.52023目次前言III引言IV1 范围12 规范性引用文件13 术语和定义14 总体概述14.1 功能组成14.2 算法下发流程24.3 任务控制流程34.4 算法鉴权流程45 算法接入55.1 算法封装文件管理55.2 算法能力管理66 算法管理86.1 算法服务管理86.2 任务控制106.3 算法调度156.4 算法评估156.5 算法鉴权157 算力接入197.1 算力注册197.2 算力注销207.3 算力保活208 算力管理218.1 算力监控218.2 算力调度228.3 算力资产管理229 视图接入管理要求229.1 视图接入功能要求229.2 视频设备管理功能要求23附录 A（规范性） 算法接入接口24A.1 导入平台算法封装文件24A.2 删除平台算法封装文件24A.3 查询平台算法封装文件列表25A.4 查询平台算法封装文件详情28A.5 创建算法能力28A.6 更新算法能力31A.7 查询算法能力列表32A.8 查询算法能力详情35A.9 删除算法能力37附录 B （规范性） 算力接入38B.1 注册算力38B.2 注销算力39B.3 保活算力40V附录 C （规范性） 任务控制接口41C.1创建任务计划 .41C.2更新任务计划 .52C.3查询任务计划列表 .54C.4查询任务计划详情 .58C.5删除任务计划 .61C.6启动任务计划 .62C.7停止任务计划 .63C.8添加任务实例到任务计划 .64C.9更新任务实例 .66C.10查询任务实例列表 .68C.11查询任务实例详情 .70C.12删除任务实例 .72C.13启动任务实例 .72C.14停止任务实例 .73附录 D（规范性） 在线鉴权接口 .75D.1注册鉴权服务 .75D.2删除鉴权服务 .76D.3修改鉴权服务 .76D.4查询鉴权服务列表 .77D.5查询鉴权服务详情 .78D.6查询在线授权配额 .79附录 E（规范性） 离线鉴权接口 .81E.1导入授权文件 .81E.2删除授权文件 .82E.3查询授权文件列表 .82E.4查询授权文件详情 .83E.5查询离线授权配额 .84附录 F（规范性） 算法服务管理接口 .86F.1下发算法封装文件 .86F.2删除算法封装文件 .86F.3加载算法服务 .87F.4卸载算法服务 .87F.5查询算法服务列表 .88F.6查询算法服务详情 .90附录 G （规范性） 算力资源监控接口91附录 H （规范性） 加速卡类型97前言本文件按照GB/T 1.12020标准化工作导则 第1部分：标准化文件的结构和起草规则的规定起草。本文件是T/BAX 0006视频图像感知智能应用适配技术要求的第5部分。T/BAX 0006已经发布了以下部分：第1部分：总体要求；第2部分：算法适配；第3部分：感知前端和边缘解析设备适配；第4部分：中心解析设施适配；第5部分：算法算力服务管理平台。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由北京安全防范行业协会提出并归口。本文件起草单位：北京市经济和信息化局、北京市公安局、视频图像信息智能分析与共享应用技术国家工程实验室、北京百度网讯科技有限公司、北控三兴信息技术有限公司、北京安信适配技术有限公司、北京市大数据中心、北京旷视科技有限公司、富盛科技股份有限公司、北京瑞莱智慧科技有限公司、北京太初元芯集成电路有限公司。本文件主要起草人：步飞、陈桂红、王建勇、陶山、梁玉晨、赵惠芳、崔云红、苑辰、王卿鹏、 欧阳晓智、王岭钢、胥洋、张伟、钟永强、李标、杨爱美、王德敏、王洪磊、洪源、张浩天、王俊泽。引言视频图像感知智能应用是国家数字化进程和智慧城市建设中的重要内容，在公共安全管理、社会治理、社区管理等应用场景中，发挥关键作用。视频感知体系智能化应用适配中心围绕提升智能应用、安全可信、自主可控的核心目标开展适配工作，制定智能提升技术要求、安全可信技术要求、自主可控技术要求三大类标准，指导企业研制产品和适配应用推广。智能应用提升技术要求围绕“软硬解耦、算法动态加载、算力智能调度” 的需求展开。T/BAX 0006视频图像感知智能应用适配技术要求通过建立统一的适配技术规范，指导视频图像解析算法与设备及平台的适配，解决算法与设备及平台的紧耦合问题，随业务需求变化实现算法快速更新迭代和部署应用及云边端算力动态调度。T/BAX 0006由五部分构成。第1部分：总体要求。目的在于确定视频图像感知智能应用适配的总体结构、总体要求和适 配要求。第2部分：算法适配。目的在于规范视频图像感知智能应用适配的算法适配基本要求、功能 要求、授权交付物要求和接口要求。第3部分：感知前端和边缘解析设备适配。目的在于规范视频图像感知智能应用适配的视频 图像智能感知前端和智能边缘解析设备适配的基本要求、功能要求、接口要求等。第4部分：中心解析设施适配。目的在于规范视频图像感知智能应用适配的中心解析设施适 配的功能组成，中心解析设备、中心计算平台、中心解析平台等的功能要求和接口要求，以及输入与输出要求等。第5部分：算法算力服务管理平台。目的在于规范视频图像感知智能应用适配的算法算力服 务管理平台的功能组成、算法接入、算法管理、算力接入、算力管理、视图接入管理要求等技术要求。T/BAX 0006.52023视频图像感知智能应用适配技术要求第 5 部分： 算法算力服务管理平台1 范围本文件规定了视频图像感知智能应用适配中算法算力服务管理平台的功能组成、算法接入、算法管 理、算力接入、算力管理、视图接入管理要求等技术要求。本文件适用于视频图像感知智能应用适配中算法算力服务管理平台的设计、研发、检测和验收。2 规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件， 仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T 281812022 公共安全视频监控联网系统信息传输、交换、控制技术要求GA/T 1399.12017 公安视频图像分析系统 第1部分：通用技术要求GA/T 1400.12017 公安视频图像信息应用系统 第1部分：通用技术要求T/BAX 0006.12023 视频图像感知智能应用适配技术要求 第1部分：总体要求T/BAX 0006.22023 视频图像感知智能应用适配技术要求 第2部分：算法适配T/BAX 0006.32023 视频图像感知智能应用适配技术要求 第3部分：感知前端和边缘解析设备适配T/BAX 0006.42023 视频图像感知智能应用适配技术要求 第4部分：中心解析设施适配3 术语和定义GA/T 1399.12017、GA/T 1400.12017、T/BAX 0006.12023中界定的术语和定义适用于本文件。4 总体概述4.1 功能组成算法算力服务管理平台（以下简称“算法算力平台”）的功能包括算法接入、算法管理、算力接入、 算力管理、视图接入管理等，功能组成见图1。37图 1 算法算力平台功能组成4.2 算法下发流程算法算力平台向视频图像智能感知前端和边缘解析设备（以下简称“端边设备”）和中心解析设施 下发视频图像解析算法的流程见图2。图 2 算法下发流程其中：步骤(1)：算法封装文件上传到算法算力平台，并在平台上进行删除和查询，接口应符合附录 A.1 附录 A.4 中的规定；步骤(2)：算法算力平台基于算法封装文件信息创建算法能力，并进行更新查询和删除，接口应符合附录 A.5附录 A.9 中的规定；步骤(3)：端边设备和中心解析设施接入到算法算力平台，算力注册、注销和保活接口应符合附录B 中的规定；步骤(4a)：算法封装文件下发至端边设备，端边设备接口应符合T/BAX 0006.32023中附录B的规定；步骤(4b)：算法封装文件下发至中心解析设施，针对中心解析设施的三种形态，下发接口应分别符合T/BAX 0006.42023中附录B.1、附录F.1和附录I.1中的规定；步骤(5a)：端边设备解析算法封装文件，加载算法服务实例，接口应符合T/BAX 0006.32023中附录C的规定；步骤(5b)：中心解析设施解析算法封装文件，并加载算法服务实例，接口应符合T/BAX 0006.42023中第5.2.3节、6.2.3节、7.2.3节的规定。4.3 任务控制流程算法算力平台任务控制流程见图3。图 3 任务控制流程算法算力平台应支持以下任务控制能力：a） 通过任务计划对任务实例进行批量启停控制，以及周期巡检等任务模式，接口应符合附录 C.6、C.7 的规定；注1：任务计划是一组任务实例的集合，通过任务计划可对任务实例进行批量控制。注2：周期模式可在配置的计划生效时间内自动启动和停止，例如“每周一7点到9点”内自动运行。巡检模式可对任务实例按配置的并发数、解析时长、轮次进行轮询启停，例如配置10并发、2分钟解析时长、10轮次，则任务计划内的任务实例会10个一组启动，每组运行2分钟后停止，不断轮询直到全部任务实例跑完10轮。b） 对解析任务的创建、修改、删除、启动、停止和查询，接口应符合 T/BAX 0006.42023 视频图像感知智能应用适配技术要求 第 4 部分：中心算力适配技术要求中第 5、6、7 章的任务管理接口的规定；c） 对解析任务所产生数据的回调和展示，数据回调接口应符合 T/BAX 0006.22023视频图像感知智能应用适配技术要求 第 2 部分：算法适配技术要求中 7.2 的规定。4.4 算法鉴权流程在线鉴权流程见图4。图 4 在线鉴权流程示意图离线鉴权模式见图5。图 5 离线鉴权流程示意图算法鉴权分为在线鉴权和离线鉴权两种模式，算法鉴权要求如下：a) 在线鉴权模式下，算法提供方部署鉴权服务器，线下完成鉴权服务器的指纹采集和授权工作， 将鉴权服务地址注册到算法算力平台，平台部署算法服务时作为参数传入鉴权服务地址，接口应符合附录 D 要求；b) 离线鉴权模式下，线下完成端边设备机器指纹采集，线下获取机器的授权文件后导入平台， 平台将鉴权文件随算法封装文件下发到端边设备，接口应符合附录 E 要求；c) 算法封装文件和鉴权/授权服务通过 Provider 字段关联部署在中心算力的算法使用“在线鉴权模式”，部署在端边设备的算法使用“离线鉴权模式”。5 算法接入5.1 算法封装文件管理算法提供方与算法算力平台之间的算法封装文件的调用流程见图6。图中用户是指将算法应用在实际业务场景中的需求方，算法提供方是提供算法封装文件并导入到算法算力平台的供应商。图 6 算法封装文件接口调用流程图算法算力平台算法封装文件导入、删除和信息查询接口应符合表1表4的规定。接口属性信息应符 合附录A.1A.4的规定。算法包和算法引擎的算法封装文件格式应符合T/BAX 0006.22023的规定。算法封装文件导入到算法算力平台后，平台对其进行解析，并对算法能力进行注册，因此算法能力 单独在平台进行注册时，平台应同时更新相应的算法封装文件。表 1 导入平台算法封装文件URI/ACSMP/AlgoFilePackages功能导入平台算法封装方法查询字符串请求消息体响应消息体POST无AlgoFilePackageEmptyResponse注释算法封装文件标识编码格式应符合 T/BAX 0006.12023中5.5.2的规定算法封装文件中应包含每个算法能力的ID，算法能力ID由用户自定义，需要唯一，建议格式：Provider- 算法英文-Version ， 由大小写字母、下划线、横线- 、英文. 组成， 长度小于128 字符， 例如PROVIDER-HUMAN_ATTR_ALERT-1.0.0。导入的算法能力/算法封装文件编码如果已存在会执行覆盖更新逻辑，如果有算法服务在运行中，导入会报错。表 2 删除平台算法封装文件URI/ACSMP/AlgoFilePackages/功能删除平台算法封装文件方法查询字符串请求消息体响应消息体DELETE无无EmptyResponse注释根据算法封装文件标识从算法算力平台删除算法封装文件表 3 查询平台算法封装文件列表URI/ACSMP/AlgoFilePackages功能查询平台算法封装文件列表方法查询字符串请求消息体响应消息体POST无AlgoFilePackageListRequestAlgoFilePackageListResponse注释查询平台算法封装文件列表表 4 查询平台算法封装文件详情URI/ACSMP/AlgoFilePackages/功能查询平台算法封装文件详情方法查询字符串请求消息体响应消息体GET无无AlgoFilePackageDetailResponse注释根据算法封装文件标识从算法算力平台查询详情5.2 算法能力管理算法算力平台应支持通过解析导入的算法封装文件的算法技术描述信息文件，对算法能力进行注册。 算法提供方与算法算力平台之间算法能力创建、更新、查询和删除接口调用流程见图7。图 7 算法能力管理接口调用流程图算法能力的注册、更新、查询、删除等接口应符合表 5表 10 的规定，接口属性信息应符合附录A.5A.9 中的规定。表 5 创建算法能力URI/ACSMP/AlgoDef功能创建算法能力方法查询字符串请求消息体响应消息体POST无AlgoDefEmptyResponse注释算法封装文件描述文件中应包含每个算法能力的编码，算法能力编码由用户自定义，需要唯一，建议格式：Provider-算法英文-Version，由大小写字母、下划线、横线-、英文.组成，长度小于128字符，例如 Provider-HUMAN_ATTR_ALERT-1.0.0。表 6 更新算法能力URI/ACSMP/AlgoDef/功能更新算法能力方法查询字符串请求消息体响应消息体PUT无AlgoDefEmptyResponse注释已下发或已部署的算法能力无法更新表 7 查询算法能力列表URI/ACSMP/AlgoDef功能查询算法能力列表方法查询字符串请求消息体响应消息体POST无AlgoDefPageRequestAlgoDefPageResponse注释查询算法能力列表表 8 查询算法能力详情URI/ACSMP/AlgoDef/功能查询算法能力详情方法查询字符串请求消息体响应消息体GET无无AlgoDefDetailResponse注释查询算法能力详情表 9 删除算法能力URI/ACSMP/AlgoDef/功能删除算法能力方法查询字符串请求消息体响应消息体DELETE无无EmptyResponse注释删除算法能力6 算法管理6.1 算法服务管理算法算力平台应支持对端边设备和中心解析设施算法服务的创建、删除、更新和查询，具备对负载 管理能力，并满足以下功能要求：a) 支持多个中心解析设施的统一负载管理和算法服务可用性校验；b) 支持根据算法应用需求分配最优算力资源；c) 支持查询工作负载列表和实例列表，包括加速卡类型及数量、CPU、内存资源占用等；d) 支持将适配不同 AI 硬件的 AI 服务由算法算力平台调度部署到对应类型的 AI 算力节点；e) 支持应用服务通过集群应用服务网关提供外部访问能力；f) 支持服务列表管理，支持查看服务所关联的 pod 数量、服务集群内部地址以及集群外部访问地址。算法算力平台与用户和算力之间的算法服务接口调用流程见图8。图 8 算法服务接口调用流程算法算力平台下发、删除算法封装文件，以及加载、卸载、查询算法服务接口应符合表10表16 的规定，各接口属性应符合附录F.1F.6的规定。表 10下发算法封装文件URI/ACSMP/AlgoFilePackage/Devices功能下发算法封装文件方法查询字符串请求消息体响应消息体POST无AlgoFilePackageRequestEmptyResponse注释将算法封装文件下发到算力设备表 11删除算法封装文件URI/ACSMP/AlgoFilePackage/Devices/功能删除算法封装文件表 11 删除算法封装文件（续）方法查询字符串请求消息体响应消息体DELETE无无EmptyResponse注释从算力设备删除算法封装文件表 12加载算法服务URI/ACSMP/AlgoPackage/Devices功能加载算法服务方法查询字符串请求消息体响应消息体POST无AlgoPackageInstallRequestEmptyResponse注释加载算法服务表 13卸载算法服务URI/ACSMP/AlgoPackage/Devices/功能卸载算法服务方法查询字符串请求消息体响应消息体DELETE无无EmptyResponse注释卸载算法服务表 14查询算法服务列表URI/ACSMP/AlgoPackage/Devices功能查询算法服务列表方法查询字符串请求消息体响应消息体POST无AlgoPackageListRequestAlgoPackageListResponse注释查询算法服务列表表 15查询算法服务详情URI/ACSMP/AlgoPackage/Devices/功能查询算法服务详情方法查询字符串请求消息体响应消息体GET无无AlgoPackageDetailResponse注释查询算法服务详情6.2 任务控制6.2.1 任务计划控制接口要求算法算力平台与用户和端边设备/中心解析设施之间的任务计划接口调用流程见图 9。图 9 任务计划接口调用流程算法算力平台任务计划的创建、更新、查询、删除、启动和停止等接口应符合表16表22的要求。 各接口属性信息应符合附录C的规定。表 16创建任务计划接口URI/ACSMP/Tasks功能在算法算力平台创建任务计划方法查询字符串请求消息体响应消息体POST无TaskTaskCreateResponse注释任务计划分可通过增加playDayTime开启周期启停，任务计划可设置巡检模式，巡检模式可按指定的并发数和单次时长轮询批量任务实例。巡检任务通过InspectionPlan 参数设置巡检任务实例，非巡检任务通过 TaskInstances 添加任务实例。表 17更新任务计划URI/ACSMP/Tasks/功能更新任务计划方法查询字符串请求消息体响应消息体PUT无TaskTaskUpdateResponse注释在算法算力平台更新任务计划表 18查询任务计划列表URI/ACSMP/Tasks功能查询任务计划列表方法查询字符串请求消息体响应消息体POST无TaskListRequestTaskListResponse注释在算法算力平台查询任务计划列表表 19查询任务计划详情URI/ACSMP/Tasks/功能查询任务计划详情方法查询字符串请求消息体响应消息体GET无无TaskDetailResponse注释在算法算力平台查询任务计划详情表 20删除任务计划URI/ACSMP/Tasks/功能删除任务计划方法查询字符串请求消息体响应消息体DELETE无无TaskDeleteResponse注释在算法算力平台删除任务计划详情表 21启动任务计划URI/ACSMP/Tasks/Start/功能启动任务计划方法查询字符串请求消息体响应消息体POST无TaskStartRequestTaskStartResponce注释在算法算力平台启动任务计划表 22停止任务计划URI/ACSMP/Tasks/Stop/功能停止任务计划方法查询字符串请求消息体响应消息体POST无TaskStopRequestTaskStopResponse注释在算法算力平台停止任务计划6.2.2 任务实例控制接口要求算法算力平台与用户和中心/端边算力之间任务实例接口调用流程见图10。图 10任务实例接口调用流程算法算力平台任务实例添加、更新、查询、删除、启动和停止等接口应符合表 23表 29 的要求。各接口属性信息应符合附录 C 的规定。表 23添加任务实例到任务计划URI/ACSMP/TaskInstances功能添加任务实例到任务计划方法查询字符串请求消息体响应消息体POST无CreateTaskInstancesRequestCreateTaskInstancesResponse注释在算法算力平台向任务计划添加实例表 24更新任务实例URI/ACSMP/TaskInstances/功能向任务计划添加实例方法查询字符串请求消息体响应消息体PUT无TaskInstanceTaskInstanceUpdateResponse注释在算法算力平台向任务计划添加实例表 25查询任务实例列表URI/ACSMP/TaskInstances/功能查询任务实例列表方法查询字符串请求消息体响应消息体POST无TaskInstanceListRequestTaskInstanceListResponse注释在算法算力平台查询实例列表表 26查询任务实例详情URI/ACSMP/TaskInstances/功能查询任务实例详情方法查询字符串请求消息体响应消息体GET无无TaskInstanceDetailResponse注释在算法算力平台查询任务实例详情表 27删除任务实例URI/ACSMP/TaskInstances/功能删除任务实例方法查询字符串请求消息体响应消息体DELETE无无EmptyResponse注释在算法算力平台删除任务实例表 28启动任务实例URI/ACSMP/TaskInstances/Start功能启动任务实例方法查询字符串请求消息体响应消息体POST无TaskInstanceStartRequestTaskInstanceStartResponse注释在算法算力平台启动任务实例表 29停止任务实例URI/ACSMP/TaskInstances/Stop功能停止任务实例方法查询字符串请求消息体响应消息体POST无TaskInstanceStopRequestTaskInstanceStopResponse注释在算法算力平台停止任务实例6.3 算法调度算法算力平台支持部署调度、扩缩容调度、任务分配调度等调度策略，并依据策略配置算力资源， 算法调度要求包括：a） 应支持按需对算法进行统一部署和调度； b） 应支持手动扩缩容；c） 应支持基于算法引擎部署情况对解析任务均匀分配调度； d） 宜支持故障发生后自动对任务进行重新分配调度；e） 宜支持按照任务优先级抢占调度；f） 宜支持基于集群算力分布、资源使用、算力区域就近等状态的自动扩缩容； g） 宜支持算法编排。6.4 算法评估算法算力平台提供算法比对和应用效果等的评估，算法评估要求包括： a） 应支持算法准入测试，验证算法所声明的效果和性能的真实性； b） 应支持多个同类算法真实运行数据的无标注自动比对；c） 宜支持对算法实际运行所需资源、运行状态等的评估。6.5 算法鉴权6.5.1 在线鉴权接口要求算法算力平台与用户、鉴权服务之间的在线鉴权接口调用流程见图11。图 11在线鉴权接口调用流程算法算力平台鉴权服务的注册、删除、查询及配额查询等在线鉴权接口应符合表 30表 35，各接口属性信息应符合附录 D 的规定。表 30注册鉴权服务URI/ACSMP/AuthServer功能注册鉴权服务方法查询字符串请求消息体响应消息体POST无AuthServerAuthServerRegisterResponse注释注册鉴权服务到算法算力平台一个Provider可注册多个鉴权server，默认第一个是默认server，同Provider的算法部署时关联默认鉴权server表 31删除鉴权服务URI/ACSMP/AuthServer/功能删除鉴权服务方法查询字符串请求消息体响应消息体DELETE无无EmptyResponse注释从算法算力平台删除鉴权服务表 32修改鉴权服务URI/ACSMP/AuthServer/功能修改鉴权服务方法查询字符串请求消息体响应消息体PUT无AuthServerEmptyResponse注释鉴权服务修改表 33查询鉴权服务列表URI/ACSMP/AuthServer功能查询鉴权服务列表方法查询字符串请求消息体响应消息体POST无AuthServerListRequestAuthServerListResponse注释查询鉴权服务列表表 34查询鉴权服务详情URI/ACSMP/AuthServer/功能查询鉴权服务详情方法查询字符串请求消息体响应消息体GET无无AuthServerDetailR