中国人工智能框架市场调研报告.pdf

Brought to you by Informa Tech Brought to you by Informa Tech 出版日期:2023 年 1 月 中国人工智能框架市场 调研报告 中国人工智能框架市场调研报告 01 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.目录 内容概要 研究背景 行业趋势 关键发现 行动倡议 附录 中国人工智能框架市场调研报告 01 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.本次中国人工智能框架市场调研报告由 Omdia 独立完成，以开发者问卷调查和专家深度访谈的方式进行市场调研。本次调研从人工智能框架使用者的角度出发，研究主流人工智能框架（TensorFlow、PyTorch、MindSpore、PaddlePaddle、MXNet、Oneflow、Jittor 等）的特点和能力，揭示主流人工智能框架厂商为中国人工智能开发者提供的技术支持和社区服务，探讨开发者与这些主流框架的交互方式和选择偏好，以及开发者对开源软件、人工智能框架、横向应用、底层硬件、开发者社区和产业生态等方面的看法。内容概要 人工智能框架处于人工智能行业的核心地位 Omdia 的调研显示,人工智能开发者对人工智能框架的依赖程度非常高，人工智能框架在人工智能行业处于核心地位。几乎所有人工智能项目，包括商业和学术项目，都是建立在一个或多个开源框架之上，例如 TensorFlow、PyTorch、MindSpore、PaddlePaddle 等。开发者选择人工智能框架的两大因素是易用性和性能 开发者选择人工智能框架最重要的因素是易用性，有 40%的开发者将易用性作为选择框架的首选因素。第二重要因素是性能，有 35%的开发者将性能作为选择框架的首选因素。人工智能开发者认为国际框架 TensorFlow、PyTorch、JAX 的易用性比较好，而在中国本土的框架中，昇思 MindSpore 和飞桨 PaddlePaddle 在易用性和性能这两个重要指标上被开发者高度认可。人工智能开发者越来越关注“负责任的人工智能”与开源软件遇到的问题类似，开发者在使用开源人工智能框架时，所担忧的依然是安全隐私等合规性问题。值得一提的是，在所有主流人工智能框架中，开发者认为 TensorFlow 与 MindSpore 对“负责任的人工智能”提供的支持最好，分别是第一与第二名。中国人工智能框架市场调研报告 02 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.主流人工智能框架在能力和特性方面各有侧重 在众多的人工智能框架中，有的用于端到端全生命周期开发和部署，比如 TensorFlow、PyTorch、MindSpore 和 PaddlePaddle。有的针对特定用途，比如 JAX，开发者可以将 JAX用于科学计算等特定用途，而并不用作全生命周期开发部署平台。Omdia 通过调研发现，中国人工智能开发者认为 TensorFlow、PyTorch、MindSpore、PaddlePaddle 等框架具备全方位能力，既能够提供特定的能力（如开发大模型，进行科学计算），又能实现全生命周期的开发（即端到端开发，从训练到部署）。其中，Pytorch提供了便捷灵活的动态图执行模式和调试能力、TensorFlow在生产模型部署上具备领先优势，PaddlePaddle提供了PaddleOCR为代表的北向算法套件，MindSpore 原生支持大模型、科学计算并能实现端边云跨平台部署。人工智能框架在中国开发者中的知名度排名 与全球其他地区类似，由于历史和使用习惯的原因，TensorFlow 和 PyTorch 在中国的知名度也领先于其他人工智能框架，分别排在前两位。而中国本土的 MindSpore,PaddlePaddle,OneFlow,MegEngine,Jittor 等人工智能框架在中国人工智能行业处于领先地位，其中昇思 MindSpore、飞桨 PaddlePaddle 在中国人工智能开发者中知名度最高。中国人工智能框架市场调研报告 03 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.研究背景 人工智能发展的机遇与挑战 人工智能正在成为新一轮科技革命和产业变革的重要驱动力量，正与千行百业深度融合，成为经济结构转型升级的新支点。根据 Omdia 发布的全球人工智能市场研究报告，2021 年全球人工智能软件市场规模达到 370 亿美金，预计到 2027 年，全球人工智能软件市场规模将增长到 1423 亿美金。中国也将成为全球第二大人工智能软件市场。在中国，人工智能技术已经在安防监控、智能家居及教育培训等领域落地生根。随着人工智能技术的快速发展，人工智能的应用部署正在迅速扩大，人工智能产业将带给开发者和相关企业更多的市场机会。由于人工智能行业的巨大市场机会和发展潜力，中国各级政府高度重视，积极支持人工智能产业的发展。从 2017 年国务院发布新一代人工智能发展规划到现在，国家陆续出台了多项政策，鼓励人工智能行业的发展与创新，人工智能已经上升为中国国家战略。促进政策还包括关于支持建设新一代人工智能示范应用场景的通知、关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见、新型数据中心发展三年行动计划（2021-2023 年）、新一代人工智能治理原则、新一代人工智能伦理规范等。2021 年 3 月，国家“十四五”规划正式发布，指出要培育壮大人工智能等新兴产业，“推动通用化和行业性人工智能开放平台建设”。这些产业政策为促进我国人工智能产业发展提供了增长动力和长期保障。虽然人工智能行业市场巨大，机会众多，但发展仍然面临一些挑战。首先，人工智能所面对的下游行业纷繁复杂，应用场景多种多样，需求千差万别。而目前大多数的人工智能项目算法模型缺乏泛化能力，需要定制化的开发。定制化的开发模式造成项目开发成本高，落地困难，无法规模化和商业化。另外，即使项目开始落地，由于生产过程中现场数据质量参差不齐，工作人员能力高低不一，项目运维过程中应用环境稍有改变，数据标注和模型训练工作就需要重新做。因此，很多项目不能达到预期效果，实际产出有限，让用户体验不到人工智能的实际价值。中国人工智能框架市场调研报告 04 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.人工智能框架对人工智能行业发展的价值与意义 人工智能框架是算法模型设计、训练和验证的一套标准接口、特性库和工具包。人工智能框架通过对深度学习算法进行模块化的封装，面向开发者提供简单的开发界面和高效的执行平台，通过标准化的流程训练，调优，部署，测试和监控模型。人工智能框架是算法模型开发的必备工具和基础设施，承担着人工智能操作系统的重要角色。可以帮助开发者降低开发难度，提升开发效率；可以帮助项目快速落地，平衡项目的投入成本、安全性、合规性、性能和上市时间等因素；在项目落地之后，还可以帮助项目实现规模化应用。Omdia 通过本次研究发现，几乎所有人工智能企业和开发者都在使用一个或多个人工智能框架来构建人工智能项目。从全球来看，TensorFlow 与 PyTorch 仍然占据很大的市场份额，相当大比例的受访者表示他们主要采用 TensorFlow 或者 PyTorch 完成人工智能项目。而在中国，也涌现出了多个本土人工智能框架，比如百度开源的飞桨 PaddlePaddle、华为开源的昇思 MindSpore 等。研究方法论 Omdia 从 2022 年 5 月开始到 12 月，历时 7 个月，以开发者问卷调查和专家深度访谈的方式进行市场调研。走访了中国的人工智能框架使用者、人工智能开发者，CTO，架构师等，覆盖了互联网、金融、电信、制造业、政府、医疗行业等多个行业，调研了中国人工智能框架的市场现状，开发者使用场景、使用习惯、关键选择因素等，以及开发者对主流人工智能框架的评价。调研项目受访者角色和背景分析 本次调研共收集到 531 个有效问卷。有效的被调查对象，必须直接参与人工智能技术、人工智能框架或人工智能应用开发，或以非技术角色参与人工智能项目管理；有效的被调查对象中，超过 67%的调查样本来自于企业，11%的调查样本是在研究所、实验室或大学中从事人工智能科研工作，21%是在校学生，正在高校学习人工智能的课程。而被排除在外的受访者没有致力于人工智能项目，没有完成调查，或者不符合我们的其他筛选标准。中国人工智能框架市场调研报告 05 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.图一：受访者所在企业或机构分布 图二：受访者行业分布 中国人工智能框架市场调研报告 06 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.如上图所示，本次问卷调查覆盖了七个行业。在各个行业施加了配额，以确保每个行业有足够数量的有效问卷进行分析。有效的受访者在各行业占比如下：互联网（包括电商、社交媒体、娱乐等）（30%），工业（15%），金融服务（11%），通信（11%），政府（9%），医疗（5%），教育/科研（国家实验室、中科院实验室、省级实验室、高校学生等）(19%）。被调查的人工智能开发者的工作职能分布比较平均：占比最大的受访者来自于数据科学(数据科学家、数据架构师、算法工程师、机器学习工程师等)，占 25%应用开发(应用软件开发工程师，业务数据分析师等)，占 23%IT 运维(DevOps 工程师、运维开发工程师等)，占 20%学术或科研（科研人员或高校学生），占 20%其他(业务或管理等非技术类工作)，占 12%图三：受访者的工作职责分布 中国人工智能框架市场调研报告 07 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.北京（17%），上海（16%），广州（10%）三大城市加起来占所有受访者的 43%。第二梯队的六个城市，杭州、深圳、武汉、西安、成都、南京加起来占了 30%；在其他城市的开发者相对较少，比较分散。图四：受访者所在的城市分布 中国人工智能框架市场调研报告 08 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.行业趋势 行业趋势之一：“AI for Science”正成为人工智能框架的重点发力方向 人工智能与科学的深度融合正在推动科研范式的创新，给科研领域带来了新的发展机遇。反过来，“AI for Science”的发展也对人工智能框架提出了更高的要求，“AI for Science”正成为人工智能框架的重点发力方向。科研领域的问题分析维度高，尺度跨度大。随着复杂科学问题变量个数或分析维数的增加，计算复杂度成指数增加，传统的科研计算方法工作量大，分析时间长，科研工作人员经常感到力不从心。而“AI for Science”借助人工智能的巨大技术优势，可以将数学计算和科学模型的方法结合起来，高效处理海量数据，使传统的科研过程变得自动化、规模化、并行化和平台化，从而解决原来传统科学研究范式无法解决的问题，帮助科学家突破科研瓶颈。2021 年，DeepMind 团队的 AlphaFold 2 的问世，标志着人工智能已经成为科学研究最重要的生产力之一。之前，复杂蛋白质结构的测定需要耗费大量的时间和成本，AlphaFold 2 极大提高了蛋白质结构解析效率。而在中国，科研和人工智能团队也在积极推动“AI for Science”的应用。昌平实验室、北京大学生物医学前沿创新中心（BIOPIC）和化学与分子工程学院、深圳湾实验室高毅勤教授课题组等机构就联合推出了基于昇思 MindSpore 的 MEGA-Protein 蛋白质结构预测训练推理一体化工具。Omdia 分析师认为，“AI for Science”在气候和环境科学（天气预测等），生物制药和生命科学（新药研发、蛋白质结构预测等），流体力学（汽车或飞机的气动设计等），电磁学（电磁仿真等）等应用领域可能会首先取得突破。在本次问卷调研中，大多数开发者反馈，国外主流的人工智能框架 TensorFlow 对“AI for Science”支持比较好，认为中国本土的框架昇思 MindSpore 对“AI for Science”的支持能力超过了 PyTorch 并有赶超 TensorFlow 的趋势。开发者的反馈充分肯定了昇思 MindSpore 在科学计算“AI for Science”领域内做出的努力和贡献。中国人工智能框架市场调研报告 09 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.图五：开发者认为最适合做 AI for Science 项目的人工智能框架 中国人工智能框架市场调研报告 10 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.行业趋势之二：预训练大模型成为人工智能领导者的竞争焦点 2020 年，OpenAI 推出自然语言处理大模型 GPT-3，参数量达到 1750 亿，既能写文章做翻译，又能生成代码，还能进行人机对话。GPT-3 的问世是一个标志性事件，直接引爆了全球范围内人工智能预训练大模型的热潮。包括华为、OpenAI、Google、微软、英伟达、百度、Meta、阿里巴巴等巨头在内的全球领先企业纷纷参与其中，追逐这个人工智能技术皇冠上的明珠，预训练大模型已经成为整个人工智能领导者的竞争焦点。最近，OpenAI 基于GPT-3 发布了增强的 NLP 大模型 ChatGPT，再次在全球范围内引发了人工智能热潮。预训练大模型是人工智能产业发展的必然选择，基于海量行业数据和知识，通过强大算力集群，预先训练基础模型，并结合应用场景的数据和各类需求，通过“预训练大模型+任务微调”的方式，进行“工业化”的高效率开发。开发者利用预训练大模型，只需要少量数据，就可以快速开发出精度更高、泛化能力更强的行业模型。预训练大模型可以提升人工智能项目开发效率，降低研发成本，缩短研发时间，解决人工智能项目碎片化的问题。Omdia 分析师认为，预训练大模型有几个趋势：第一，大模型参数量继续呈指数增长态势，“大模型”正走向“超大模型“；第二，大模型正从单模态走向多模态、多任务融合；第三，预训练大模型的发展催生更大的计算集群系统（异构计算，算力匹配等），也对人工智能框架提出了更高的能力要求（软硬件协同优化，分布式并行计算，云边端全场景部署等）。从本次调研中，Omdia 发现相当大比例的开发者对中国本土的大模型的兴趣远远超过了对全球流行的大模型 GPT-3 和 DALL-E 2 的兴趣，并表示希望在接下来几个月试用。这可能是由于中文模型在中国本土的语言优势，也可能是因为开发者期待体验更新的大模型，当然，可能还与中国本土大模型在中国市场推广力度更强有关系。其中，开发者对基于昇思 MindSpore 打造的盘古 NLP 大模型最感兴趣，可能有以下原因：首先，盘古 NLP 大模型在技术上处于领先地位，千亿参数模型，学习了 40TB 的中文文本数据，在中文领域有天生优势；其次，盘古 NLP 大模型可覆盖多个场景下语言处理的任务和需求，泛化能力强，在知识问答、知识检索、知识推理等文本生成领域有广泛应用前景；另外，盘古 NLP 大模型对开发者友好，可以让开发者能用拖拉拽的方式使用大模型，开发和生产成本低。这也从另外一个角度验证了盘古大模型的开放性，开发者可以跨平台快速调用盘古大模型，与其他工具和应用结合使用。中国人工智能框架市场调研报告 11 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.图六：开发者最想试用的大模型 中国科学院自动化研究所基于昇思 MindSpore 打造的紫东.太初大模型是横跨视觉、文本和语音的多模态大模型。多模态数据可以直接进行训练，进行跨模态统一表征和学习，具有图文语音跨模态理解与生成能力，可以“以图生音”和“以音生图”，这些特性吸引着开发者。开发者想试用的其他大模型还包括：百度文心 ERNIE 3.0，阿里达摩院多模态大模型 M6等。百度文心 ERNIE 3.0 融合了大量知识，既用了自回归，也用了自编码，使得一个模型兼具理解和生成。阿里达摩院的多模态大模型 M6 参数已从万亿跃迁至 10 万亿，拥有多模态、多任务能力。鹏程.神农是一个万亿参数大模型，包含蛋白质结构预测、小分子生成、靶点与小分子相互作用预测以及新抗菌多肽设计与效果评价等模块。中国人工智能框架市场调研报告 12 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.行业趋势之三：负责任的人工智能(Responsible AI)成为关注焦点 人工智能技术的迅猛发展取决于用于训练的数据的规模和质量，但人工智能没有自己的价值观，无法自己判断什么是正确的（比如自动驾驶定责问题，生成式 AIGC 问题等），人工智能伦理问题正成为人工智能商业化发展的瓶颈。各国政府、国际组织、学术界和产业界已在宏观战略、具体措施层面上进行部署。迄今为止，已经有超百个“负责任的人工智能”准则在全球范围内出台，比如欧盟就提出了人工智能法案。“负责任的人工智能”即是一套道德准则，又是一套技术体系，是以安全、可靠和合乎道德的方式开发、评估、部署和规模化人工智能系统的方法。“负责任的人工智能”有助于引导人工智能行业朝着对人和社会更有益，更公平的方向发展，可以建立人们对人工智能的信任和信心，对人工智能的可持续发展非常重要。图七：开发者认为对“负责任的人工智能“提供支持最好的框架 中国人工智能框架市场调研报告 13 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.Omdia 通过本次调研发现，中国的开发者认为 TensorFlow 在“负责任的人工智能”方面提供的支持最好。这可能是因为谷歌通过 Model Cards 等工具使其框架更加透明、更具备可解释性。TensorFlow 也提供了一系列支持数据安全和隐私的功能、库和培训工具。昇思 MindSpore 在“负责任的人工智能”方面的也得到了开发者的认可，在所有主流框架中仅次于 TensorFlow，超过了 PyTorch。中国人工智能框架市场调研报告 14 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.关键发现 关键发现之一：中国的人工智能开发者正在开发什么应用？Omdia 从本次调研中发现，人工智能下游行业应用众多，中国开发者所涉足的人工智能项目非常广泛。在众多的人工智能应用中，智能推荐引擎占比最高，超过智能客服和语音助手，也超过设备监测和控制。过去三年，为应对 COVID-19 大流行带来的商业模式和工作模式变化，智能推荐引擎作为一种技术手段，在全球范围内表现相当不错。图八：开发者所在的企业或机构正在开发或生产的人工智能应用 中国人工智能框架市场调研报告 15 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.关键发现之二：中国开发者使用开源人工智能框架的痛点和顾虑是什么？开发者对使用开源人工智能框架有什么痛点和顾虑呢？通过调查，Omdia 发现，25%的受访者将“开源框架不能满足数据安全、隐私保护等合规性要求”列为他们对使用开源人工智能框架的最大顾虑。而与合规性相关联的另外一个因素，“对使用开源软件有顾虑”也紧随其后。由此可见，合规性问题一直困扰着开源软件和开软社区。另外，从业者对“开源框架缺少对某些编程语言的支持”也有担忧。通常，开发者倾向于使用 Python 或 R 等语言进行项目开发和训练，需要不同的语言进行部署（取决于项目的性能要求和部署限制）。人工智能框架厂商试图用 Python 和 C+等高级语言来同时涵盖这些开发者的需求。图九：开发者对使用开源人工智能框架的顾虑 中国人工智能框架市场调研报告 16 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.关键发现之三：人工智能开发者选择人工智能框架的最重要因素是什么？Omdia 在本次调研中发现，中国人工智能开发者选择开源框架最重要的两个因素是：易用性和性能。人工智能框架隔离了底层的复杂性，更加易用的框架能够让开发人员以更快的速度和更高的效率，来探索、创建、改进和迭代人工智能项目。而人工智能框架的性能则涉及到框架本身的底层性能，包括框架的底层算法效率，以及框架利用底层硬件资源进行优化开发、训练和推理的能力。有 40%的开发者将“易用性“作为选择框架的首选因素，34%的开发者将”性能“作为选择框架的首选因素。在第二重要的因素选择中，开发者选择“性能”比“易用性”更多。与“易用性”和“性能”这两个因素相比，选择其他选项作为首选的比例很少。受访者把对“社区活跃度”、“框架厂商提供的技术支持或培训”，“知名度或流行程度”，以及“前沿技术支持”的关注放在了同等位置上。图十：开发者选择人工智能框架的因素 中国人工智能框架市场调研报告 17 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.关键发现之四：开发者怎样评价主流的人工智能框架？正如前面提到的，“易用性”是人工智能开发者最关心的因素，“易用性”不仅包括易于使用的 API，还包括框架自身的稳定性和可靠性。如果人工智能框架在使用过程中经常出现稳定性和可靠性的问题，会浪费开发者很多时间和精力，如果出现了问题没有人能解决，这会让开发者更加沮丧，从而丧失对框架的信心。在国外的端到端框架中，开发者认为 TensorFlow，PyTorch 的易用性更好。而本土框架昇思 MindSpore 和飞桨 PaddlePaddle 在易用性方面紧随其后。而在性能方面，开发者认为端到端的国外框架 TensorFlow，PyTorch 性能更好，而本土框架昇思 MindSpore 和飞桨 PaddlePaddl 同样紧随其后，而且这两家中国本土在性能的评价上都超过了其他主流框架。图十一：开发者认为性能最好的端到端人工智能框架 中国人工智能框架市场调研报告 18 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.在建立一个活跃的社区方面，TensorFlow 和 PyTorch 在开发者心目中的地位比其他框架都要高。中国本土框架飞桨 PaddlePaddle 和昇思 MindSpore 齐头并进，紧随其后。图十二：开发者认为社区活跃度最好的人工智能框架 中国人工智能框架市场调研报告 19 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.关键发现之五：主流的人工智能框架有什么特性和能力？随着人工智能和物联网的融合发展，物联网 AIOT 设备安装量正在迅速扩大。下游行业应用场景变得越来越多，异构的人工智能硬件更加多样化。端侧和边缘侧设备的算力也在增长，变得越来越智能，人工智能的训练和部署也开始从云端延伸到边缘和端侧。在这样发展态势下，人工智能框架需要提供更多样化的能力，来支持人工智能项目的开发，训练、部署和运维，并保证全生命周期的高效率和低成本。在支持跨平台全场景(端边云统一架构)方面，TensorFlow、PyTorch、MindSpore 和 PaddlePaddle 处于领先地位。在中国本土框架厂商中，昇思 MindSpore 在支持跨平台全场景部署能力方面，更受开发者青睐。图十三：开发者认为支持跨平台全场景最好的人工智能框架 中国人工智能框架市场调研报告 20 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.在端到端的模型开发和部署能力方面，开发者心目中的框架也比较平均，占 10%以上的框架分别是 TensorFlow、PyTorch、PaddlePaddle 和 MindSpore。图十四：开发者认为端到端支持能力最好的人工智能框架 中国人工智能框架市场调研报告 21 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.在支持超大规模模型训练开发方面，TensorFlow、PyTorch 得分较高，而MindSpore 已在中国本土框架中处于领先地位：TensorFlow 有了 JAX 这一新生框架的融入，给业界带来更多期待；PyTorch 依托第三方并行算法库大模型能力显著提升；MindSpore 拥有业界领先的并行算法库，具备原生支持大模型的能力，吸引了广泛的开发者。图十五：开发者认为大模型训练能力最好的人工智能框架 关键发现之六：主流的人工智能框架的典型应用场景是什么？开发者将 TensorFlow,PyTorch,MindSpore 和 PaddlePaddle 用于全生命周期开发的比例比较大，主要是因为这些框架支持端到端开发，从开发，训练到部署，覆盖全流程。开发者将 JAX,MXNet,OneFlow 主要用在部分流程启用，比如做模型训练或者部署。综合来看，昇思 MindSpore 是一个比较均衡和完善的框架，比较完整的覆盖了开发者的多种需求和各种应用场景。开发者既将 MindSpore 用于全生命周期开发，又将其用在部分的流程，还将 MindSpore 用于支持特定能力方面，比如开发大模型和进行科学计算。中国人工智能框架市场调研报告 22 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.关键发现之七：在中国开发者对人工智能框架的认知度排名中，TensorFlow 和MindSpore 分别是国际框架和国产框架的第一位 全球领先的人工智能框架 TensorFlow 和 PyTorch 是在中国人工智能开发者中认知度最高的两大框架，分别排第一和第二。由于 Google 和 Meta 这两家公司历史悠久，在互联网和软件领域占有重要地位，它们在全球范围内直接影响着数量可观的开发者，并直接为各自的开发者社区提供支持，因此认知度较高。在中国开发者的心目中，MindSpore 在国产框架中认知度排第一，PaddlePaddle紧随其后。这两家中国本土框架在开发者认知度排名方面，已经超过国外非常成熟的框架 MXNet，以及 Google 重点支持的新兴框架 JAX。这一方面反应了中国人工智能领域充满活力，同时也说明了端到端全生命周期人工智能框架对开发者的重要性。图十六：人工智能框架认知度排名 中国人工智能框架市场调研报告 23 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.关键发现之八：在中国开发者对人工智能框架的使用率排名中，PyTorch 和TensorFlow 遥遥领先，PaddlePaddle 和 MindSpore 在国产框架中并驾齐驱 在人工智能框架的使用率方面，全球知名的框架 TensorFlow 和 PyTorch 处于领先地位，大多数用户表示他们最常使用的人工智能框架是 TensorFlow 和 PyTorch，遥遥领先于其他人工智能框架。而飞桨 PaddlePaddle 和昇思 MindSpore 是中国本土人工智能框架双雄，位于第一梯队，并驾齐驱。图十七：人工智能框架使用率排名 中国人工智能框架市场调研报告 24 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.行动倡议 从易用性出发:易用性是人工智能框架的最关键的成功要素，回顾人工智能框架发展历史可以看出，PyTorch 就是凭借在开发者社区推动的易用性改进和广泛的用例部署，在短短几年时间迅速赶上了TensorFlow。中国本土的人工智能框架厂商有本地化服务优势，有中文语言优势，有行业数据优势，更了解中国的开发者使用习惯，更应该在易用性方面赶上甚至超过国外的人工智能框架。顺应三大行业趋势：科学计算“AI for Science”，“预训练大模型”，“负责任的人工智能”是人工智能行业的三大发展趋势。而人工智能框架是顺应这三大趋势而发展起来的必然产物。人工智能框架厂商应积极参与预训练大模型的开发，提供预训练大模型和“AI for Science”API 调用，向众多的不能承受巨额训练成本的开发者、创业公司和科研机构提供支持，帮助他们基于小样本数据进一步做模型调优，并支持他们完成特定领域的人工智能项目。人工智能框架厂商也可以与互联网、金融、电信、制造、医药等领域的大型企业深度合作，利用这些下游用户丰富行业数据，优势互补，共建行业大模型。人工智能框架厂商还应该与政府机构，行业协会，开源组织深度合作，从政策法规和框架技术体系上建设“负责任的人工智能”。整合四大人工智能要素：人工智能项目的成功，取决于算法，算力，数据和场景四大人工智能要素。人工智能框架是人工智能的操作系统，将这四大要素紧密的有机的连接在一起。人工智能框架厂商应该从这四大要素入手，做好开发者服务工作，帮助开发者利用框架完成数据处理，算力支持，算法开发、场景打造等一系列工作。第一，从算法 中国人工智能框架市场调研报告 25 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.来说，框架厂商提供的预训练大模型可以极大的帮助开发者加快项目开发进度，缩短上市时间。除了提供大模型，框架厂商还应该和行业厂商一起，提供尽可能丰富的预训练的垂直行业算法模型；第二，在算力支持方面，由于人工智能开发者和中小型公司缺少资金用于算力投资，框架厂商应该为开发者提供一些免费的算力资源；第三，高质量的数据也是项目成功的重要支撑，而数据标注是耗时耗力的工作，中小型人工智能公司可能缺乏人力，物力和时间来做数据标注，人工智能框架厂商应该分配一些资源用于垂直行业的数据标注，提供一部分免费数据标注服务，并开放给开发者。第四，框架厂商应该和各个垂直行业的专家和用户在场景开发方面进行深度合作，充分利用垂直行业的专家知识和行业诀窍，促进“AI+行业场景”的深度融合。打造四种基础能力：人工智能框架的性能和四种基础能力密不可分：软硬件协同优化能力（计算、内存、通信、数据等）,分布式并行处理能力，从模型开发到部署的端到端支持能力,超大规模模型训练能力。首先，下游行业对高性能计算的需求在持续增长，人工智能框架厂商应该提供软件和硬件协同优化能力，更高效的协调计算、内存、通信、数据等资源，积极打造通用的人工智能软件和硬件平台，支持异构计算（CPU、GPU、NPU 和 FPGA 等）。其次，支持分布式并行处理能力越来越成为衡量人工智能框架性能的重要指标，领先的人工智能框架厂商应该积极增强框架的分布式并行处理能力。第三，端到端的能力可以极大的帮助人工智能企业和开发者实现人工智能项目的规模化应用，框架厂商应该为开发者提供端到端的支持，从开发到部署再到生产运维。支持人工智能项目从 0 到 1 更快落地，帮助企业从 1 到 100 实现规模化和商用化，支持千行百业实现转型升级；最后，人工智能框架厂商应该提供覆盖端、边、云的全场景人工智能框架，云端服务可以让众多用户共同分担软硬件基础设施的投入成本，有效降低 AI 应用落地的算力资源、工程运维、数据服务等成本投入。框架厂商应该基于端、边、云的架构，构建人工智能数据平台，赋能中小型企业以及传统企业。中国人工智能框架市场调研报告 26 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.培育应用场景，赋能千行百业 应用场景的培育是重中之重。框架厂商可以和政、产、学、研等行业伙伴充分合作，通过示范性的应用场景和标杆项目的建设，跨越人工智能技术与商业应用的鸿沟，促进人工智能在从局部探索走向千行百业。中国拥有全世界最完整的工业体系，几乎所有工业门类都在中国都找得到应用场景，这些丰富的下游行业应用场景和巨大的市场需求为人工智能的落地提供了坚实的发展基础。目前，中国人工智能厂商在视觉，自然语言处理，语音识别，强化学习等方面已经处于全球领先水平。而一些热门的人工智能应用已经成为行业热点并产生商业价值，比如异常检测、建模仿真或数字孪生、工业质检、智能客服和语音助手、预测性分析、客户体验、流程优化、设备监测和控制等。框架厂商应该与开发者和下游用户一起，培育更多应用场景。建设人工智能生态和开发者社区 人工智能产业生态非常丰富，如果把人工智能产业生态比喻成森林，那么人工智能框架就像是森林中的土壤，是整个产业生态最核心的基础设施。如果人工智能所利用的数据是森林中的水资源，那么企业、科研机构、创新中心、政府机构、人工智能学会、开源项目平台和开发者社区就像是森林中的河流与池塘，为森林存储水源和养分，而人工智能算法，大模型和 ISV(独立软件开发商)像是树木的枝干，众多的下游行业和用户的人工智能项目更像是树叶。围绕人工智能产业的上下游企业，人工智能框架厂商应该积极的和开源社区，政府，行业组织，高校科研院所，共建人工智能生态实验室，加速国内外人工智能生态发展和应用落地。人工智能框架厂商应该一方面积极融入全球人工智能体系和生态，一方面积极打造中国本土人工智能产业生态，建设本土人工智能社区。活跃的开发者社区有一些特性，比如有大量的开发者参与，有技术布道师，有种子用户；社区气氛活跃，有多样化的线上线下社区活动，遇到难题在社区能答疑能解惑；另外，社区能提供完整易用的文档说明、有技术支持，大量模型库、完善的开发套件，最好还能提供一些免费的软硬件资源。中国人工智能框架市场调研报告 27 2022 Omdia.All rights reserved.Unauthorized reproduction prohibited.附录 Get in touch Omdia consulting Omdia is a market-leading data,research,and consulting business focused on helping digital service providers,technology companies,and enterprise decision-makers thrive in the connected digital economy.Through our global base of analysts,we offer expert analysis and strategic insight across th