2021年中国云原生AI开发平台白皮书.pdf

中国云原生AI开发平台白皮书2021.11 iResearch Inc.22021.11 iResearch Inc 来源：艾瑞咨询研究院自主研究及绘制。摘要行业背景：近年来，国内人工智能技术成熟度持续提升、服务种类不断丰富，在企业经营管理各环节的价值已得到市场的初步验证。然而，当前国内甲方企业在进行人工智能开发和应用时仍然面临着技术人才储备不足、AI应用部署存在困难、投入产出比不达预期等问题，亟需能够帮助企业解决这一问题的高效AI开发和应用工具。发展趋势：AI开发平台还将朝着易用性、专业化、综合性、产用协同等方向发展，我们认为在这一过程中，AI开发平台的产品广度将进一步提升，并有望集成DevOps、AIOps等运维方法和工具，全方位融入企业的数字化经营体系。同时，AI开发平台的服务业态还将向软硬一体化方向演进，深度融合技术交流社区等平台，形成学用一体化的技术传播与升级环境。SMS产品&关键技术：云原生AI开发平台融合了成熟的人工智能开发框架以及云原生工具灵活调用云资源、高效部署云应用的能力，一方面帮助企业开发者提高算法模型的开发效率，另一方面提升交付、部署、运维环节的效率并降低TCO。横向对比甲方企业可能采用的诸多获取人工智能能力的平台和方式之后，我们认为云原生AI开发平台在AI开发应用全生命周期视角下具备一定的综合优势。SMS应用场景：云原生AI开发平台在诸多人工智能密集应用的下游场景和行业具备通用性，包括互联网、金融、自动驾驶、政务、制造、营销等。本报告挑选了部分应用场景，梳理了上述场景下企业进行AI开发和应用过程中面临的实际需求和难点，展示了典型云原生AI开发产品的服务架构以及对企业经营管理的价值。3行业背景与产品综述1云原生 AI 开发场景与实践2云原生AI开发平台发展展望34AI应用背景在企业数字化转型的客观需求以及政策对发展前沿IT科技的支持下，我国数字经济高速发展，为人工智能发展创造了积极的经济环境。近年来，国内人工智能技术成熟度持续提升、服务种类不断丰富，在企业经营管理各环节的价值已得到市场的初步验证，伴随云计算的普及和云原生技术的发展，云服务将有望帮助企业解决现阶段开展人工智能应用存在的难点，提升人工智能的效用。52021.11 iResearch Inc 人工智能发展环境（1/2）政策引导AI算法的协同开发与AI应用的产业化落地过去数年间，国务院、国家发改委、工信部、科技部以及各省市、地方政府陆续发布了有关推进人工智能算法开发以及应用落地的政策。在算法开发层面，政策明确倡导开源开放、互助共享的理念，支持具备人工智能资源与技术优势的企业、高校构建促进AI能力开源开放的平台，释放优势互补的协同效应，缩小我国人工智能技术与领先国家的差距；在人工智能应用层面，政策鼓励人工智能等数字化能力在企业层面加大应用力度、在区域层面实现项目落地，通过人工智能等前沿IT技术驱动工业化和信息化深度融合。整体来看，国内政策对于人工智能始终保持积极态度，人工智能产业化和规范化的发展前景会更加明朗。来源：国务院等，艾瑞咨询研究院根据公开资料研究及绘制。近年人工智能应用相关政策解读2020.8.7 国家发改委、科技部等国家新一代人工智能标准体系建设指南 建设内容中，提出支撑技术与产品标准，其中“关键通用技术”和“关键领域技术”涉及机器学习、知识图谱、自然语言处理、计算机视觉和智能语音等重要AI算法和技术的应用。2021.2.9 北京市人民政府2021年市政府工作报告重点任务清单 指出推动人工智能等科技创新重大项目在京落地，推动各方科技力量优化配置和资源共享，支持包括人工智能在内的新型研发机构发展，健全创新创业服务体系。2017.7.8 国务院新一代人工智能发展规划 指出要将人工智能提升至国家战略高度，以开源开放作为基本原则之一，促进产学研用各创新主体共创共享,构建开放协同的人工智能科技创新体系。2021.1.13 国家工信部工业互联网创新发展行动计划（2021-2023年）重点任务中指出鼓励大型企业加大人工智能等数字化技术应用力度，全面提升研发设计、工艺仿真、生产制造、设备管理、产品检测等智能化水平，实现全流程动态优化和精准决策。发展新一代信息网络技术，加强类人智能、自然交互与虚拟现实研究，推动宽带移动互联网、云计算、物联网、大数据等技术研发和综合应用，加快工业化和信息化深度融合。2019.11.13 国务院（修订）国家创新驱动发展战略纲要 建设原则指出要以企业为主体，鼓励人工智能细分领域领军企业搭建开源、开放平台，面向公众开放AI技术研发资源，向社会输出AI技术服务能力，推动AI技术的行业应用。2019.8.1 科技部国家新一代人工智能开放创新平台建设工作指引62021.11 iResearch Inc 2021.11 iResearch Inc 3.85.77.49.211.413.916.61.1 1.5 1.9 2.3 3.0 3.7 4.5 20192020e2021e2022e2023e2024e2025eAI带动相关产业规模（千亿元）AI核心产品市场规模（千亿元）来源：中国信通院（2020），艾瑞咨询研究院根据公开资料研究及绘制。来源：艾瑞咨询2020年中国人工智能产业研究报告。人工智能发展环境（2/2）人工智能相关产业规模高速增长，市场需求更加明确随着数字产业化和产业数字化的不断深化，我国数字经济高速发展，在宏观经济中的重要性持续提升。2020年中国人工智能核心产业规模超过1500亿元，至2025年预计超过4500亿元，2021-2025年人工智能核心产品CAGR为24%；2020年人工智能带动相关产业规模超5700亿元，至2025年将突破16000亿元，2021-2025年人工智能带动相关产业CAGR为22%。在新产业、新业态、新商业模式经济建设的大背景下，人工智能产业的成长速度令人瞩目，并已逐步展现出从单向的产品供应向各产业深度双向共建的发展特征，带动相关产业发展，回馈社会经济。在这样的发展环境下，企业对人工智能的需求逐渐升温，人工智能在企业端的应用成熟度也渐入佳境。2005-2020年中国数字经济规模及占GDP比重2019-2025年中国AI产业及带动相关产业规模CAGR=24%CAGR=25%2.64.69.516.227.231.335.839.214.2%15.2%20.3%26.1%32.9%34.8%36.2%38.6%20052008201120142017201820192020数字经济规模（万亿元）数字经济占GDP规模的比重（%）72021.11 iResearch Inc 人工智能应用现状（1/2）感知智能相对成熟，认知智能加速发展一般认为，人工智能可分为感知智能和认知智能两大类。感知智能以智能语音、计算机视觉和部分生物体征识别（如体态识别）为核心底层技术，对应的上层应用为智能对话、图像识别和人体识别等，分别直接应用于客服机器人、智能安防、智能监控等解决方案；认知智能以机器学习/深度学习、知识图谱和自然语言处理等为核心底层技术，对应的上层应用为预测建模、知识仓库、机器翻译等，分别直接应用于商业决策、智能推荐、全文信息检索等解决方案，二者是互为支持和补充的关系，同一个AI解决方案中往往包含多种技术。目前我国感知智能的算法研发和应用落地相对成熟，而认知智能正在加速发展过程中，未来将有着更广阔的应用空间。来源：艾瑞咨询研究院自主研究及绘制。当前AI感知智能&认知智能算法及应用人工智能基础设施算力服务算法服务数据服务CPUGPUFPGAASIC人工智能算法模型数据挖掘数据存储数据治理AI感知智能智能语音计算机视觉生物体征识别直接应用智能对话图像识别人体识别解决方案呼叫中心智能安防智能监控AI认知智能监督学习知识图谱文本匹配直接应用预测建模知识仓库机器翻译解决方案商业智能决策智能推荐全文信息检索互为支持互为补充82021.11 iResearch Inc 人工智能应用现状（2/2）营销、客服、质检、安防等应用的市场价值已获得验证具体到实际应用中看，人工智能已广泛渗入各行业经营管理的诸多环节，为企业带来更高效的自动化流程、更精准的情报分析以及更智能的运营管理。当前国内人工智能应用成熟度较高的领域包括：在金融、互联网等需要密集与客户沟通交流的行业中用于智能呼叫、客服、销售等环节，帮助企业提升触达能力和服务质量，从而提升用户粘性；赋能公安、交通和企业内部的安防监控以及制造业企业的物流配送、产品质检等环节，代替人眼进行大规模监测并提升监测精准度、从而提高调度和管理效率。整体来看，感知智能的诸多应用对于企业的应用价值已得到了市场验证，而涉及认知分析、智能决策的认知领域的应用成熟度也正在逐步提高，已在部分行业展开试水，应用渗透有望加速。来源：艾瑞咨询研究院自主研究及绘制。人工智能应用于我国不同行业企业经营管理活动的主要环节政府金融互联网医药交通零售教育制造能源电力电信产品设计、定价优化采购评估 工艺优化 货仓物流 产能补充效率提升情报研判、决策支持客户触达营销运营管理调度运筹优化质控、风控和安全窗口服务 远程办事远程作业人机对话设备运维故损分析尝试应用行业较少涉及图例示范项目增加，形成典型场景价值得到验证，规模化推进计算机视觉智能语音交互ML&DLNLP&知识图谱92021.11 iResearch Inc 人工智能与云服务（1/3）云服务平台成为企业获取和应用AI能力的重要渠道当前各类前沿信息技术彼此融合促进，界限正逐渐模糊，无论是在技术开发、实施还是应用阶段，包括云计算、大数据、人工智能等在内的多项技术都互为依托和补充。云计算在我国经历了十余年的发展，目前基础云服务已经进入成熟阶段，各类上层应用以云服务平台为技术基座和分发渠道，逐步构建起云上的IT服务生态闭环。具体到人工智能领域，云计算为人工智能研发和部署提供计算集群、存储阵列等基础设施，通过大数据和AI算法PaaS提升企业进行AI开发的节奏和效能，而信息安全、敏捷开发等应用则间接提升了企业采用云上AI能力的稳定性。对于企业的AI开发和应用工作而言，云平台已成为他们加强AI能力的重要助力。来源：1.艾瑞咨询2021年中国基础云服务行业发展洞察；2.德勤（2020），艾瑞咨询研究院根据公开资料研究及绘制。云上人工智能服务品类及应用现状语音合成机器翻译工业大脑建站推广19%专业服务17%企业应用15%AI&大数据12%基础软件10%API10%小程序9%安全服务3%物联网3%其他2%2021中国云服务产品市场份额企业AI能力使用情况调研93%的企业使用云上的AI能力IaaS高性能存储阵列面向人工智能的计算集群CPUGPUFGPA高速通信网络PaaS数据类PaaS算法类PaaS数据仓库AI开发平台AI开放平台人工智能API数据治理工具大数据计算分析SaaS人脸识别录音识别文字识别信息安全配套服务敏捷开发可视化资源统计102021.11 iResearch Inc 人工智能与云服务（2/3）云原生成为业界认可的云计算技术发展方向以Docker和K8s为代表的容器和容器编排技术是云原生应用的典型代表，容器对基础资源的调用相较虚拟机更加轻量、敏捷、高效，能够直接部署于物理机上作为资源调度器，但在当前的企业用云实践中，无论对于公有化还是私有化部署模式，容器引擎普遍架构于虚拟机之上，对虚拟化的IT基础设施实行弹性资源调度、流程自动化以及集群管理。整体来看，云原生架构具备弹性扩容、敏捷分发、高效易用、兼容适配等主要优势，在云计算成为企业数字化转型标配的今天，云原生带来了更加灵活的用云模式，能够帮助用户降低用云成本、提高云服务可用性和云端服务的质量，其价值已获得了产业界的普遍认可，云原生也被认为是云计算未来的技术发展方向，诸多云端服务也被业界证实能够与云原生架构充分融合并带来使用性能的提升。来源：中国信通院（2021），艾瑞咨询研究院根据公开资料研究及绘制。容器云计算平台一般系统架构及容器云的主要优势应用测试应用部署版本控制应用管理发布管理订购管理升级管理Serverless镜像仓库镜像打包流水线DevOps微服务架构微服务治理灰度发布微服务系统监控系统日志告警管理监控管理ARM架构X86架构自动化部署资源调度弹性伸缩API管理集群管理安全策略服务管理容器管理负载均衡虚拟化（云服务器）应用服务物理机容器引擎云服务器容器云的主要优势112021.11 iResearch Inc 人工智能与云服务（3/3）云原生融合分布式计算性能更具优势，应用前景广阔伴随着数据量的大爆发和数据应用的丰富，传统的集中式计算架构已无法支撑超大规模的数据处理需求，现今AI应用主要部署在以分布式为基础的云平台之上，AI模型开发以及应用事实上也是以分布式计算为基础。分布式计算通过将数据负载分配到不同的终端进行统筹处理，以异步、并行、多线程的方式提高计算效率，同时，分布式系统的复杂化带来了环境一致性下降、可用性不足、容错能力降低等问题，对于复杂的模型训练和超大规模的应用部署尤其突出。作为云计算未来的总体发展趋势，云原生自诞生之始就以轻量的模块组合以及分布统筹为核心理念，其性能优势可以帮助使用者应对分布式计算架构带来的诸多问题，从而为云原生与人工智能的融合提供了广阔的应用前景。来源：艾瑞咨询研究院自主研究及绘制。分布式计算系统架构带来的一般性问题&云原生潜在性能优势伴随大数据的爆发、AI应用在各场景不断渗透和云计算的普及，基于分布式计算架构进行人工智能模型训练和应用部署既存在客观需求，也具备了技术条件分布式计算概念集中计算概念屏蔽异构环境轻量化运行横向扩展颗粒度开发应用&平台分离Serverless微服务DevOps容器化云原生组件CAP“不可能三角”环境一致性C下降应用可用性A不足分区容错性P需求编程协作摩擦安全性挑战灾备需求运维复杂度提高相较于传统模式，分布式计算带来了计算能力整体的提升，但系统复杂度随之增加，带来包括CAP难题在内的一系列负面影响，而云原生理念不仅与分布式概念天然契合，其应用架构和性能恰在一定程度上为分布式带来的问题提供了解决方案，二者相辅相成12企业AI应用困境尽管人工智能技术成熟度正在不断提高，但目前国内甲方企业进行人工智能应用仍然面临着技术人才储备不足、AI应用部署存在困难、投入产出比不达预期等问题。我们认为，企业通过配备适宜于AI开发的高性能软硬件基础服务，有望能够利用底层技术的复用和IT资源的灵活配置优化AI开发和部署流程，提升AI的价值创造能力。132021.11 iResearch Inc AI人才仍短缺人才短缺限制企业进行AI开发和落地的步伐作为前沿IT技术的代表，人工智能产业近年来高速发展，带动了市场对AI人才的集中需求。与许多发达国家相比，我国的AI人才总数仍处于短缺状态，而在企业微观层面上，AI人才市场表现出人才相对集中于互联网科技公司，且技术人才缺口更加显著等问题。人才短缺导致企业的AI需求无法得到及时满足，而人才的培养也非一日之功，长期来看这依赖于IT教育的转型和结构调整，而在短期则更需要产业端通过复用成熟能力、降低应用难度、促进技术交流等方式来提升业内人员的整体素质。来源：1.Element AI（2020），艾瑞咨询研究院根据公开资料研究及绘制；2.艾瑞咨询2020年中国人工智能产业研究报告；3.工信部人才交流中心，N=2224，包括人工智能公司和互联网、软件及传统公司，艾瑞咨询研究院根据公开资料研究及绘制。我国人工智能人才处于短缺状态13%17%45%98%344%452%714%算法研究应用开发高端技术实用技能高级管理产品经理销售188.3 86.2 35.4 22.2 美国印度英国中国传统IT43%传统技术23%泛AI3%其他 30%2020年中国普通大型企业实际释放岗位结构2020年多国AI研究人员数量2020年中国人工智能人才供需比我国整体AI人才积累相对缺乏企业AI岗位空间比例较低AI岗位之中纯技术类人才缺口显著人数（千人）人才供需比（%）142021.11 iResearch Inc 应用部署障碍企业在实际应用人工智能的过程中主要面临基础设施、AI算法及数据等方面的阻碍。在基础设施方面，企业的IT基础设施在海量数据参与运算和采取分布式架构的条件下可能面临算力不足以及不兼容问题，从而降低企业AI应用的可用性；在算法领域，以“大模型”为代表的人工智能算法模型体现出模型参数的数量不断增加的趋势，高度复杂化的模型融入应用程序后可能带来应用延迟的增加，而在交付和部署后对模型的修改也会给用户带来服务中断等问题；此外，由于训练/测试环境和生产环境存在差异，实际应用中的数据存在较多噪音、与模型匹配度较低，也会降低AI应用的质量。总体来看，尤其是中小企业在应用和部署AI应用过程中所遇到的障碍更需要高质量的软硬件平台提供支持，降低开发者在基础配置和运维方面的消耗的精力，并帮助开发者提升模型优化能力。来源：艾瑞咨询研究院自主研究及绘制。人工智能应用在生产环境中面临的应用和部署障碍生产环境对AI基础设施、算法及数据质量要求更高硬件及系统架构带来的问题基础设施AI模型和软件本身导致的问题算法工作环境中的数据带来的问题数据噪音数据较多模型匹配度低模型过于复杂带来高延迟模型变更引起应用中断算力限制不足以支撑规模应用硬件环境对应用的兼容性不佳生产环境中数据质量存在波动，导致模型准确度下降或出现错误历史数据（training data）和工作环境中的实际数据结构差异较大，导致模型出现偏差由后台模型的大规模更新带来的前端应用中断、可用性降低模型过于复杂的设计会消耗更多计算资源，增加系统延迟特定的模型往往在部分硬件设施上表现更好大数据应用规模不断提升，算力资源池不足可能导致可用性下降152021.11 iResearch Inc 投入-产出比不足企业应用人工智能的回报尚不及预期据统计，目前我国企业，尤其是非科技类甲方企业应用人工智能的效果还不尽如人意，许多企业表示人工智能落地后并未达到预期的投入产出比。在成本和支出方面，企业进行AI开发所需的人才和IT资源价格较高并处于相对稀缺状态，引入AI给企业业务更迭和内部管理等带来的隐性成本也可能成为降低企业应用AI效果的因素；在价值回报方面，尽管人工智能应用在许多领域和场景已经得到验证，但对于不同的企业和具体工作环境，其效能可能并不稳定。因此，成本和效能两方面原因共同提高了AI应用对于甲方企业的门槛，导致企业不能充分享受人工智能带来的红利。企业应用人工智能回报不及预期的现状及原因分析AI模型硬件碳排放lb云计算成本TransformerbigP100 x8192$635ELMoP100 x3262$953BERTbaseV100 x641438$8161NASP100 x8626155$2072348GPT-2TPUv3x32-279552019年部分AI模型训练成本（美国）成本和支出企业应用人工智能的投入的资金成本包含人力和IT资源支出，前者主要为AI和数据专家的工作报酬，后者包含自建或购置云服务资源的成本，二者均位于较高水平在实际工作中，模型产出周期长、完成度低等问题给企业带来管理和运维方面的额外投入，构成了企业进行AI投入的隐性成本效能和价值由于经验的缺乏和模型的不足，企业应用AI于生产环境中面临模型精度不足这一直接问题在生产环境中，负载的动态变化、场景的快速迭代都将给模型的架构和设计带来考验2020年中国甲方企业AI应用ROI 来源：1.艾瑞咨询2020年中国人工智能产业研究报告大中型企业CTO/CIO调研，N=41，2020年9月；2.专家访谈，国家统计局，艾瑞咨询研究院根据公开资料研究及绘制；3.Energy and Policy Considerations for Deep Learning in NLP，Emma Strubell等，2019年6月。50 18 9 AI技术IT行业其他行业2020年我国就业年薪估算达成部分ROI指标43.9%未设定明确ROI34.1%未完成ROI12.2%完成全部ROI9.8%平均年薪（万元）16云原生AI开发平台云原生AI开发平台以云原生容器服务为基础架构调用云资源，配合大数据计算、人工智能计算以及分布式计算框架，服务于企业的数据分析、模型训练以及AI应用部署需求。借助容器、微服务、无服务器等云原生优势，企业和开发者得以在IT成本优化的条件下实现AI算法高效训练、应用敏捷开发、程序灵活部署和全生命周期管理。172021.11 iResearch Inc 云原生AI开发平台架构以云原生的敏捷高效赋能人工智能应用开发与部署云原生AI开发平台以云计算为基础，因为考虑到信息安全和数据隐秘性，该类项目在实践中通常以私有化部署和专有化部署的云服务器为基础，通过容器组件进行IT资源的调用，以微服务架构指导应用设计和开发，并配置分布式、大数据和人工智能计算框架作为底层计算平台。云原生AI开发平台内置数据智能标注、智能模型开发、API开放平台管理以及云原生应用部署等功能模块，辅以包括数据挖掘、网络安全等在内的数据资源管理系统，帮助企业敏捷、高效、安全地利用数据进行人工智能应用开发，并在应用部署过程中实现成本优化和灵活的版本控制。来源：艾瑞咨询研究院自主研究及绘制。云原生AI开发平台产品和服务架构行业应用场景人工智能机器学习平台云计算-云原生基础设施基础硬件（CPU/GPU/FPGA/NPU）及网络通信设施云原生分布式人工智能开发平台机器学习框架（TensorFlow/PyTorch/Caffe/Alink etc）云计算虚拟化平台分布式计算框架云原生容器服务大数据计算引擎数据挖掘和清洗高性能数据存储基于知识图谱的数据资产盘点智能搜索与查询可交互数据可视化监控全链路数据使用，保障数据信息安全数据资产ROI评估数据资源管理面向金融、安防、互联网、医疗等的行业的AI SaaS服务模型编辑器大数据建模组件行业场景化模板可视化拖拽模型构建组件模型仓库兼容AI框架兼容大数据引擎模型开发和管理图像、视频、文本、语音标注多场景模板：图像检测、分割、综合标注数据集管理主动学习智能预标注数据智能标注API开放平台API网关API插件API编译器行业及场景化API应用模板API后台管理云原生部署蓝绿部署灰度发布A/B测试云基础资源弹性伸缩模型部署优化AIOps/DevOps高效运维182021.11 iResearch Inc 相关应用图谱注释：本图谱企业排名不分先后。来源：艾瑞咨询研究院自主研究及绘制。云计算基础设施AI&大数据计算框架容器引擎容器编排云原生应用部署OAM智能模型效率化生产AI 云Brain+深泉TempoAIAI Station先知云原生AI开发平台BMLPAIOpen Data HubModelArtsTISageMaker云原生AI开发平台相关应用图谱192021.11 iResearch Inc 核心技术优势资源灵活运用，模型敏捷开发，应用高效部署我们着眼于企业在云上进行AI开发的各个主要环节，可以发现这一过程也符合著名的“2-8法则”，在AI应用中模型设计和算法精度才是决定其应用价值的核心关键，但企业和开发者实际上将大部分的时间和精力投入了平台搭建、系统调试、团队磨合、监控运维等“非核心”的工作中，云原生与AI开发平台的结合帮助开发者减少对基础IT资源的关注，并通过底层技术复用、开发流程可视化等方式提高开发效率，因而在IT基础设施调用、模型编写和测试优化、模型和应用封装、应用交付及运维等领域更具备成本效率优势。来源：艾瑞咨询研究院自主研究及绘制。企业应用云原生AI开发平台的优势与价值镜像仓库模型测试优化敏捷化模型编写IT基础设施调用运行维护由于数据资产的隐私性，实践中AI开发平台多以公有/私有化部署结合的形式存在，容器及容器编排组件能帮助企业更高效地利用各类基础设施性能人工智能开发框架为开发者提供可视化、可拖拽的编程模型，使开发者能够实时对模型运行过程进行把握，提高模型质量，节约开发时间容器镜像用于保存程序代码及运行环境，与人工智能算法融合用于封装AI算法和应用，便于模型的部署交付以及版本更迭，也便于通过云原生技术社区进行交流学习通过蓝绿部署、灰度发布等功能，云原生组件帮助企业在进行人工智能应用发布时更加灵活和敏捷，帮助企业在时刻变化的市场环境中快速应对，缩短应对的窗口期随着数据量的增大和应用规模的横向拓展，人工智能在运行过程中易遇成本高、可用性不足等问题结合Serverless无服务器架构，能够免去企业开发者用于配置平台的繁琐工作，提升企业创造力微服务架构配合DevOps开发工具，使得开发团队能以敏捷的方式进行复杂人工智能应用的协同开发，提升企业IT效率和市场竞争力人工智能模型训练需要对模型进行反复运行、评估、修正，通过pipeline等云原生带来的自动化流程组件，能够提高参数选择、超参调优等过程的自动化水平，提升模型产出速度随着系统的复杂化，各类系统故障也易发生，通过日志分析、云原生智能运维等，能够更快定位问题，快速恢复服务8020人工智能应用开发也遵循普遍的“2-8法则”，通常认为最有价值的部分是模型设计及算法精度，但实际工作中大量的成本被用于平台搭建、系统调试等，云原生组件在这一领域帮助企业和开发者节省大量的时间和精力发布/交付202021.11 iResearch Inc 核心技术优势：模型敏捷开发多种开发模式，赋能人工智能低门槛、高效能开发云原生AI开发平台配备多种人工智能模型开发模式，其中较为典型的是可视化建模和编程式建模。前者利用JavaScript脚本等组件对算法进行封装，使得用户能够通过拖拽等图型界面进行模型开发，帮助对编程语言不熟悉的甲方企业的开发者乃至业务部门进行定制化开发；另一方面，编程式建模一般基于Tensorflow、PyTorch、Caffe等AI开发框架，利用Python等通用编程语言进行模型开发，由于上述开源框架普遍具备完备的功能，能够赋予开发者更多的开发选项和进行编程优化的空间。云原生组件如容器和微服务框架也能够从底层架构方面对编程、测试等过程进行支持，进一步提升开发者的开发效率。来源：Kubeflow，艾瑞咨询研究院根据公开资料研究及绘制。可视化&编程式建模为开发者提供多种AI开发方式可视化建模视图编程式建模视图Worker:replicas:3restartPolicy:OnFailuretemplate:metadata:annotations:sidecar.istio.io/inject:falsespec:containers:-name:tensorflowimage:gcr.io/your-imagecommand:-python-m-trainer.task-batch_size=32-training_steps=1000利用JavaScript脚本等组件对算法和计算过程进行封装，让使用者能够通过图型界面进行人工智能算法的开发降低了AI开发门槛，提升了模型编写效率尤其适合甲方企业内部、对AI开发框架熟悉度较低的开发者乃至业务人员通过软件开发者熟悉的Python等通用编程语言进行人工智能模型的开发，融合Tensorflow、PyTorch、Caffe等人工智能开发框架等能够调用人工智能开发框架成熟的底层能力，拥有相对完备的功能和更高的自主性更适合有编程以及人工智能开发经验的熟练开发者212021.11 iResearch Inc 核心技术优势：云原生部署云原生发布、部署、运维组件提供便捷的AI应用管理渠道除人工智能算法编写开发之外，云原生AI开发平台利用丰富的云原生组件赋能企业更好地对AI应用进行发布、部署、运维等方面的高效管理。除前文所提及的蓝绿部署、灰度发布和DevOps运维等功能之外，云原生环境中常用的API接口和网关、便捷移植和扩容、边缘侧部署功能均对人工智能的规模应用形成支撑，帮助企业提升用户的使用体验，并降低企业的IT经营成本。来源：艾瑞咨询研究院自主研究及绘制。云原生在AI应用部署及运维管理方面的优势云原生AI应用部署&运维管理API接口API接口和网关传统是用于服务的调用和彼此交互，在云原生环境中，可以用于实现大量微服务组件的集中管理、示例变更、负载均衡等功能移植/扩容运维云原生提供了便捷的日志工具以及如DevOps一类的运维环境，便捷复杂AI应用的维护，提高应用的效率敏捷迭代为了适应市场需求变化与生产环境中数据质量与维度的改变，企业对尤其是人工智能应用设计和算法模型的迭代更新频率较高，云原生更新组件帮助企业提升迭代效率、降低迭代摩擦在人工智能的行业场景实践中，服务商需要面临突发的负载高峰，云原生提供灵活的横向扩展能力，从而提高应用的可用性，也减少了配置和管理底层资源的成本对于AI应用而言，云原生理念和组件在应用部署管理方面的功用相较于在开发侧或更加显著222021.11 iResearch Inc 产品应用价值经横向对比，云原生AI开发平台更具成本效用优势甲方企业获得AI能力有多种渠道和方式，其中，从零开始进行自主研究能够最大程度贴合企业自身需求，但考虑到一般甲方企业的AI人才有限，此方法无论是从IT成本角度还是从最终应用水平角度上看都不合算，如果直接购买产品化的软件，虽免去了开发流程，但未必能够完全满足企业自身的特殊需求。目前，通过AI开发平台进行自主订制化开发是企业常规的选择，在此基础上考虑各类基础资源服务平台，则基于云原生架构的AI开发平台在IT成本优化、开发和部署效率、运维效果等方面具备较好的表现。尤其对于中小企业而言，云原生AI开发能够帮助企业在更大程度上弥补由资金和人才短缺带来的技术水平限制，利于企业平衡AI成本收益，打造符合企业需求的AI产品。注释：1.本对比不代表具体产品性能及特点，仅代表行业一般水平；2.图中开源平台的部署模式考虑为私有化/非云部署。来源：艾瑞咨询研究院自主研究及绘制。甲方企业AI开发模式效果对比AI开发模式IT成本优化客制化开发/部署效率运维效果AI性能完全自主研究购买商业化软件-基于AI开发平台进行研发开源平台纯公有化商业平台纯私有化商业平台云原生商业平台23行业背景与产品综述1云原生 AI 开发场景与实践2云原生AI开发平台发展展望3242021.11 iResearch Inc 互联网娱乐场景的AI需求分析AI提升用户体验，并帮助企业实现精准营销互联网娱乐行业的成长植根于各类前沿IT技术，其产品服务和商业模式的演进与IT技术的发展紧密相关。近年来随着人工智能技术的进步，互联网娱乐产品的形式和内容也在不断迎来创新，互联网企业运用各类智能组件为用户带来了更强的沉浸感、交互感和趣味性，同时也利用用户画像和智能营销系统充实客户群体、提高用户粘性。总的来说，人工智能在互联网娱乐领域的应用非常广泛，同时，互娱企业在应用人工智能的同时也面临着设备、用户体验、推荐模型精度等方面的不足，仍有较大的改进空间。来源：艾瑞咨询研究院自主研究及绘制。人工智能在互联网娱乐场景的应用需求和难点低时延交互高并发访问智能特效美颜/滤镜画质重塑自动标签音质优化视频摘要影视+直播领域风格识别平滑切换智能音效真人K歌智能创作听歌识曲外语转译音乐鉴权音乐领域低时延交互高并发访问防沉迷系统反作弊系统AR/VR动作捕捉操作评估机器人玩家游戏领域个性化推荐语音交互用户画像关联交友内容分发负载均衡智能运维智能客服通用互联网娱乐主要场景中的AI应用需求互联网娱乐场景中的AI应用难点设备包括互联网厂商的服务器、网络基础设施、用户使用的终端在内，设备本身的性能限制了包括AI在内的应用的性能，对于游戏、超高清视频应用尤其如此。体验无论是直播互动、音视频增强还是机器人玩家，在互娱场景，AI应用始终需要关注的是用户体验，目前许多领域的AI应用仿真度、实时性等并不能让用户完全满意，还有很大提升空间。精度互联网娱乐行业对流量逻辑有着较强依赖，利用AI进行精准用户画像和智能营销已成为企业重要的获客手段，然而目前这一领域的算法精度还有待提高。252021.11 iResearch Inc 互联网娱乐场景应用案例：南瓜电影智能推荐助力打造私人定制影院，提升差异化服务体验南瓜电影是专注于影视精品化运营的垂直类视频产品，通过移动互联网、OTT等客户端提供精品化、差异化的内容运营服务。随着互联网娱乐行业对用户时间和关注度的持续争夺，通过智能算法对用户进行精准画像并提供内容推荐成为行业趋势，但在实践中存在推荐精度不足、算法参数复杂等问题。阿里云智能推荐为南瓜电影APP提供了“南瓜为你推荐”、“根据您看过的XX推荐”、“类似影视”板块的推荐服务，结合电影语义分析、内容关联以及用户行为分析，融合多目标优化，包括停留时长、点击率、消费等指标，可根据不同用户的习惯智能生成用户画像、结合用户长短期兴趣喜好进行个性化推荐。来源：艾瑞咨询研究院自主研究及绘制。南瓜电影阿里云：长/短视频智能推荐服务业务难点长视频推荐需兼顾多目标：电影、连续剧作推荐具备时长、集数等概念，需要兼顾点击率、停留时长、播放数量等目标和参数推荐精准度要求高：需要结合电影的素材、主题、核心内容、片段内容等包含语义理解、深度解读等特征来丰富物料画像曝光过滤设置：有时用户缺少完整的时间段来完成一次长视频观看，平台需考虑用户的重复触达需求，设置合理的曝光过滤时间长短视频的多样性结合：短视频板块将电影中的精彩画面集中呈现，为用户带来独特的观影体验，推荐需要根据用户的需求、习惯，融合不同视频类型的特点、目标，多方位激发用户兴趣，增强用户粘性，增加用户停留时长解决方案&产品价值丰富的电影标签：结合电影题材介绍、影评等内容，通过语义分析和自动打标来丰富电影标签，并通过专业的运营、剪辑团队，将这些标签作为物料的重要特征输入到推荐系统中，提高推荐的精准度时间因素分析：经试验分析，计算出将曝光过滤时间设为3天较合理。对于用户群体而言，可将内容适当重复触达，达到提升推荐效果的作用打造短视频专区：南瓜电影为用户打造了电影片段（短视频）的推荐专区，既能为用户的碎片时间提供别致的观影体验，又能将电影精彩片段快捷呈现，引导一次完整的观影行为用户习惯全方位打通：通过长短视频的智能算法接入，将用户的兴趣全方位打通，根据用户习惯，喜欢观看的电影题材，实现进一步的精准推荐。同时，兼顾推荐电影的多样性，让用户拥有新发现，促进观看时长的增加阿里云智能推荐产品架构推荐模型和处理开发自有数据库数据处理及清洗实时召回历史召回冷启动业务逻辑处理单目标预测多目标预测算法实验与效果监控实时计算离线计算在线计算开发者运营需求用户类数据物品类数据行为类数据业务配置开发者业务控制中心行业数据管理场景高级配置262021.11 iResearch Inc 来源：艾瑞咨询研究院自主研究及绘制。金融场景的AI需求分析AI贯穿金融机构运营多个流程，提升机构经营质量金融行业的运行无处不与数字打交道，这一特性决定了金融业务与大数据和人工智能应用有着天然的契合性，加之金融机构普遍资金充足、信息化水平相对较高，因此对人工智能的投入度较高，与IT企业的合作开发也较多。具体来看，人工智能在金融机构的营销决策、智能门店建设、在线服务、风控合规等领域都有较多的应用，与低代码、RPA等效率工具配合，能够替代金融机构员工完成大量重复性高且复杂的工作，提升机构运营的效率，并避免人工操作带来的疏漏。另一方面，金融机构客户群体较大，需要实时处理海量数据，且金融服务对交易数据实时性和同步要求超过其他任何行业，更需要人工智能在满足客户和机构需求的同时不能够对系统性能造成显著影响。金融业务场景放中的AI开发需求与难点应用难点营销运营客户画像精准营销资金追踪量化投资产品推荐信用评级资本充足监控智能门店网点布局证件识别语音交互人脸识别安防摄像智能门锁机器大堂经理远程服务风险偏好评估智能客服身份认证智能理赔智能投顾图文识别保险认定风控合规身份认证反洗钱违约风险欺诈风险逾期风险智能预警政策文本分析海量数据超低时延数据时效性异构性系统环境差机构复杂市场噪音隐私保护272021.11 iResearch Inc 金融场景解决方案：金融量化科学集成科学计算引擎Mars，高效利用计算资源赋能业务量化金融是大数据时代金融