2023年AI大底座价值实现白皮书.pdf

1 AI正成为智能时代的新型生产力1.1大模型点燃AI技术发展新引擎.061.2AI开始以生产力形态释放价值.061.3AI大模型激发新模式新业态持续涌现.07.05前言.02目录1.4企业与产业迎来智能化发展新范式.072 AI大底座助力AI生产力价值释放加速2.1AI基础设施是AI落地赋能的核心关键.102.1.1 AI基础设施内涵与特性.102.1.2AI基础设施整体视图及主流产品.102.2AI大底座构筑新一代AI基础设施.122.3AI大底座具备四大优势.18.092.1.3 智算中心是AI基础设施落地的主要形态.122.2.1 AI大底座是国内首个全栈自研的AI基础设施.122.2.2AI大底座技术栈：“芯片-框架-模型-应用”四层架构.132.2.3 AI大底座核心平台：百度百舸AI异构计算平台（AI IaaS）与AI中台（AI PaaS）.152.3.1 高效能算力.182.3.2高效率研发.192.3.3 端到端优化.192.3.4 持续性运营.193 AI大底座助力企业构建智能化新范式3.1前瞻智能化布局对企业可持续发展至关重要.213.1.1 智能型企业的关键组成.213.1.2智能型企业构建面临的挑战.213.2AI大底座在构建智能型企业中的价值实现.22.203.2.1 依托AI大底座构建的企业级智算中心，是企业部署AI基础设施的优质解决方案.223.2.2AI大底座助力企业快速打造AI能力，实现智能化企业转型价值.233.2.3以AI大底座为基础，实现企业生产效率和体验效果的“双效提升”.233.3企业级智算中心构建路径.253.3.1 整体规划.263.3.2平台建设.273.3.3 持续运营.273.4以AI大底座构建企业级智算中心的优秀实践.283.4.1 自动驾驶：数据重塑汽车，云端加速智能.283.4.2生命科学：构建生命计算的超强“算力”和“智力”.314.4以AI大底座构建产业级智算中心的优秀实践.474.4.1 宜昌点军“芯”基建智算中心.473.4.3 金融：打造三智新引擎，迈向数智金融新未来.333.4.4 工业：工业4.0时代的新旧动能转换.363.4.5互联网：云智融合，助力AI技术研发及应用.374 AI大底座支撑区域产业实现智能化转型升级4.1智能化转型升级是区域产业高质量发展的必由之路.414.1.1 智能型产业的发展蓝图.414.1.2区域产业智能化升级面临的挑战.414.2以AI大底座构建产业级智算中心，推动区域产业智能化升级.424.3产业级智算中心构建路径.44.404.2.1 依托AI大底座构建产业级智算中心，是区域产业构建智能化底座的可靠路径.424.2.2AI大底座助力产业升级与区域发展，提升区域产业效力、合力、活力.434.3.1 整体规划.444.3.2平台建设.454.3.3 持续运营.46整体展望.491.3 AI大模型激发新模式新业态持续涌现AI驱动企业智能化转型，是否实现智能化将成为企业未来发展分水岭。近5年来，全球范围内企业的AI使用率大幅提升，2022年有50%的企业部署了AI，我国AI使用率略低于全球平均水平，达到了41%2。随着企业由数字化转型开始迈入智能化阶段，大模型加速AI工程化落地，企业形态也会逐渐分化为智能型企业与非智能型企业。智能型企业能够借助AI快速实现提质增效，将在新的技术浪潮中抢占先机，而非智能型企业在同业竞争中将面临着落后淘汰的风险。各行业将面临重塑，新的巨头将会诞生，前瞻布局智能型企业至关重要。AI驱动产业链优化升级，区域产业生态正向着高价值侧转移集聚。对区域经济产业而言，AI正成为重组要素资源、重塑经济结构的重要变量，可重构生产、分配、交换、消费等经济活动各个环节，形成从宏观到微观各领域的智能化新需求，从而推动社会生产力的整体跃升。通过数字化、智能化的改造升级，助力中国传统产业高质量发展，有助于构建以高端化、智能化、先进性为重要特征的现代化产业体系，推动整个区域经济产业体系的效率提升和质量变革。根据高盛预测，AI在未来10年将带来7万亿美元的价值，累计带动全球GDP增长7%以上，届时AI在区域经济活动中的价值创造作用将更加凸显。1.4 企业与产业迎来智能化发展新范式大模型与AIGC将重塑应用生态格局。人工智能时代，大模型以及AI应用能力将成为企业的核心竞争力。如互联网行业将从PGC（专业生产内容）、UGC（用户生产内容）向AIGC演进，实现新型内容创作，在创意、表现力、迭代、传播、个性化等方面改善并创造新的体验。此外，除基于大模型构建开发新的AI原生应用外，对现有应用产品、业务形态依托大模型技术进行重构，也将是智能时代的重要发展趋势。大模型将催生产业级新兴业态。智能化转型升级，是在国际环境趋于复杂严峻、全球产业链供应链深度调整的大背景下，我国传统产业突破发展瓶颈、寻求发展新动能的必然选择。大模型的成熟能够支撑产业界快速部署构建智能应用，为产业智能化转型提供了可实施的路径，并加速这一进程。对于AI大模型来讲，核心定位将是新型基础设施，而在应用端也蕴藏着丰富的产业机遇。对于技术供给侧，大模型时代将产生三大产业机会：第一类是新型云计算公司，其主流的商业模式将发展成模型即服务（MaaS）；第二类是行业模型精调公司，将作为通用大模型和企业之间的中间层，助力通用大模型转化为行业大模型；第三类是应用开发公司，将打通产业智能化的最后一公里，基于大模型开发应用。大模型将激发人工智能驱动科学研究（AI for Science）的新范式。科学研究从传统“作坊”模式转变到智能“平台”模式。传统科研模式下，科研人员需要做大量重复性的基础工作，同时面临着数据计算量指数级上升的问题，导致在复杂问题或者场景中“算不起”、“算不动”。AI for Science以智能平台建设为起点，推进面向重大科学问题的人工智能模型和算法创新。以大模型为代表的AI技术可用于各个学科中的科研、技术创新、成果转化等，让科研人员可以更高效地进行前沿创新领域的研究。AI for Science极大地拓展了人工智能助力科学研究的边界，促进产、学、研融合发展，打通从科学研究到产业创新的通路。AI正成为智能时代的新型生产力07 麦肯锡2022年全球AI调研，麦肯锡官网。AI战略重要性已成为全球普遍共识，我国政策重点聚焦推动人工智能在各领域的发展应用。放眼全球，截至2022年12月，先后有60余个国家和地区发布了国家人工智能战略，无论是我国，还是具备一定科技实力的世界主要国家，都已经洞察到智能化时代的到来，从国家战略层面来推进和主导人工智能技术的发展应用，希望能够在新一轮技术革命中获取领先优势。我国高度重视人工智能技术应用发展，近年来出台了多项人工智能相关政策支持和推进人工智能技术与产业的发展，并通过重点任务揭榜挂帅、建设国家新一代人工智能创新发展试验区、应用场景创新等举措，更聚焦、更落地地推进人工智能在各领域的发展应用。AI正成为智能时代的新型生产力08AI大底座助力AI生产力价值释放加速07AI大底座助力AI生产力价值释放加速0902AI大底座助力AI生产力价值释放加速AI大底座助力AI生产力价值释放加速10以深度落地赋能为导向，AI供给侧持续推进技术要素全面融合、技术能力自主可控、技术服务普惠低成本，AI供给“基建化”势在必行，AI基础设施正成为AI的关键供给形态。算法、算力、数据是AI技术应用的三大核心支撑要素，而大模型时代对三要素也提出了更高的要求。优秀的应用能力需要更大参数规模的模型、足够多的训练数据以及强大的计算能力作为支撑，而这样的技术能力只有少数企业具备。如果能够把这样的能力以基础设施的形式普惠化地开放共享给社会，即实现AI基建化，就能够大大降低AI应用的门槛，让更多的主体能够拥抱AI。AI供给的基建化正顺应产业智能化转型发展的需求，也是我国发展和布局AI的重要举措之一，将为我国人工智能产业发展壮大、数字经济蓬勃发展提供强大的牵引力。AI基础设施以“数据、算法、算力”为资源要素，以AI算力设施、AI数据平台、AI算法平台、AI开放创新平台等为主要载体，可提供包含模型训练等在内的专业前沿的AI应用及服务，支撑AI产业发展、赋能行业应用，为培育智能经济、构筑智能社会提供基础承载。AI基础设施须满足作为基础设施的技术能力先进自主性。为适应AI技术迭代速度快、行业应用需求不断涌现的特点，AI基础设施必须提供灵活多样、动态迭代、性能领先、具备前瞻性的技术能力，保障AI基础设施始终满足我国智能社会发展需要。此外，AI基础设施须掌控底层核心技术创新能力，从源头实现自主可控，这也是AI基础设施平稳运行的关键前提。AI基础设施将着力推进AI落地赋能，并释放更深更广的价值。从人工智能产业发展看，AI基础设施将推动人工智能与5G、云计算、大数据、物联网等领域相互耦合，加速人工智能与实体经济深度融合，形成新一代信息基础设施赋能产业的核心能力。从培育智能经济看，算法、算力、数据既为构建人工智能基础设施的核心环节，也是培育智能经济的关键生产要素，对其进行系统深入的发展，将推动生产效率提升与经济结构优化，促进实现智能型产业化与产业智能化协同并进。从国家战略转型看，发展AI基础设施，将促进国家资金与社会资本的融汇与高效利用，助力我国构建“双循环”新发展格局，推动经济高质量发展。2.1 AI基础设施是AI落地赋能的核心关键2.1.1 AI基础设施内涵与特性2.1.2 AI基础设施整体视图及主流产品当前AI基础设施已形成“3+1”体系，包括三大核心要素平台/设施，与AI开放创新平台。整体布局既分步又协同，共同构成了AI基础设施的核心内容。02AI大底座助力AI生产力价值释放加速11AI算力设施，基于AI专用算力芯片及加速芯片等组成异构计算架构，以AI服务器为核心设施构筑AI算力集群，面向人工智能场景，支撑智能计算中心、AI云的高效运行，能够为AI算法及应用提供更高性能、更低成本的计算能力。目前市场上的AI服务器普遍采用CPU+GPU，善于处理图形渲染、机器学习等密集数据操作。在AI芯片领域，GPU占有率较高，其中NVIDIA领先优势显著，我国国产GPU起步较晚，近年来初创公司不断涌现，产品生态正在不断构建和完善中。我国国产AI芯片目前主要由百度、华为等互联网企业基于全局的人工智能业务布局领军研发，寒武纪、地平线等代表性AI芯片企业作为重要力量，燧原、壁仞等新生力量不断注入新的发展活力。AI数据平台，包括以政府、企业、高校、开源社区等为主体构建的AI开放数据集、行业专用的高质量数据集等，能够为AI算法提供源源不断的训练数据供给，促进AI模型优化。我国互联网巨头、大型科技企业、AI技术企业积极构建AI开放数据生态、共享共建数据集，企业开放数据平台逐步增多，如百度2022年推出的ApolloScape，数据量是同类数据集10倍以上。此外，阿里云天池数据集、华为悟空数据集等开放数据集，也为供给AI模型训练提供了数据基础。AI算法平台，包括开源算法框架、AI算法开发工具、模型部署等，可充分整合AI算法及工具集资源，以API或SDK的方式调用，实现数据处理及标注、模型训练、模型评估及性能优化、模型推理等功能，并预置各种各样的算法模型，高效支撑开发人员进行AI应用产品开发。百度针对不同的用户需求推出了全功能AI开发平台BML和零门槛AI开发平台EasyDL。全功能AI开发平台BML是面向企业和个人开发者的机器学习集成开发环境，为经典机器学习和深度学习提供了从数据处理、模型训练、模型管理到模型推理的全生命周期管理服务，帮助用户更快地构建、训练和部署模型。零门槛AI开发平台EasyDL是为AI零算法基础或者追求高效率开发的企业用户提供的零门槛AI开发平台，提供从数据采集、标注、清洗到模型训练、部署的一站式AI开发能力，设计简约，极易理解，最快15分钟完成模型训练。腾讯云TI-ONE训练平台是一站式政府部门科研机构传统行业企业AI创新企业面向关键行业应用的AI开放创新平台工业农业金融安防AI通用技术开放创新平台AI算力设施语音图像自然语言处理其他人机交互AI算法平台自动机器学习模型优化模型评价知识图谱可信AI分析部署监测AI数据平台数据处理数据清洗数据标注AI专用领域高质量数据集AI开放数据集AI框架AI加速芯片AI计算服务器高性能AI智算集群图 1 AI基础设施整体视图医疗AI大底座助力AI生产力价值释放加速12“百度AI大底座”是源自百度多年产业深度实践积累、结合AI全栈技术科研成果打造的国内首个全栈自研的AI基础设施，面向企业和产业AI开发与应用提供端到端自主可控、自我进化的解决方案，能够快捷、低成本地实现“AI能力的随用随取”。AI大底座可助力企业和产业快速高效地建立AI生产力。2.2 AI大底座构筑新一代AI基础设施2.2.1 AI大底座是国内首个全栈自研的AI基础设施百度自2010年以来，一直在人工智能领域深耕细作持续布局，已经形成了覆盖领域广泛、生态完善、发展均衡的人工智能体系。这一战略决策，一方面体现出百度对人工智能的坚定信念，另一方面是百度在践行一家中国企业的社会责任，这是一个和国外科技巨头起点差距相对较小的赛道，我国需要有能力、有技术的企业站出来，在这一领域持续蓄力，为我国人工智能领域技术应用发展夯实基础，带动行业的发展。机器学习服务平台，提供了可视化的操作界面和大量的AI算法模板，方便用户进行AI模型构建和训练。华为云ModelArts提供从数据标注到模型推理全流程的开发工具，支持多种计算引擎和分布式训练。AI开放创新平台，包括AI通用技术开放创新平台与面向关键行业应用的AI开放创新平台，向下集成智算设施、AI算法平台、AI数据平台能力，同时有效整合技术资源、产业链资源和金融资源，向上持续输出AI核心研发能力和服务能力，是AI基础设施赋能的核心关键。AI通用技术开放创新平台方面，包括如百度、腾讯、滴滴、京东等综合性AI能力开放平台，云从、旷视、美图、萤石、虹软等侧重视觉图像识别AI能力开放平台，科大讯飞、依图、小米、搜狗、有道等侧重语音识别AI能力开放平台，其中百度AI开放平台已提供超过1300+项开放能力。面向关键行业应用的AI开放创新平台，包括如百度Apollo自动驾驶开放平台、阿里云ET城市大脑开放平台、腾讯觅影医学人工智能开放创新服务平台等。相对于信息化建设时期重点推进的云数据中心的建设运营，当前智能化时代对AI基建的技术架构、性能、能效等多个方面提出更高要求。硬件方面，智能计算对芯片异构、高速互联等有更强需求；软件方面，智能计算涵盖计算框架、大模型等关键要素，并需要与硬件充分协调适配；能效方面，实现智能计算所产生的单机能耗更高，对制冷、碳排放等有着更高的需求。智算中心能够很好地聚合上述能力，是各类AI基础设施落地应用的实体形态。从赋能主体看，智算中心可以分为企业级智算中心与产业级智算中心，二者技术架构基本一致，主要在实现目标和运营模式上有所差别。智算中心是涵盖了软硬件、解决方案为一体的技术创新综合体。未来的智能型企业、公共服务都将建构在智算中心的基础上，供给形态可以有自建、云服务、公共基础设施等多种形式。企业和组织将根据自己的需求和资源禀赋，选择匹配自身需求的服务形态。2.1.3 智算中心是AI基础设施落地的主要形态AI大底座助力AI生产力价值释放加速13图2 AI大底座全景图AI大底座涵盖了百度昆仑芯、飞桨深度学习框架以及文心大模型等核心能力以及百度百舸平台、AI中台等平台方案，可以为客户提供高性价比的智能算力、自主研发的开发框架以及完善丰富的大模型体系，为企业部署和开发各类AI应用、服务以及大模型提供一站式端到端支持，满足产业级低门槛、快速部署等AI落地需求。智能化时代IT技术栈发生了根本性变化，分为芯片、框架、模型和应用四层。百度在每一层都已布局自主可控的核心技术和产品，集聚了智能化时代IT技术全栈生产要素，能够真正支撑真实业务场景的端到端全流程调优，从而助力实现智能化应用的极致效能。昆仑芯是百度自研的高端AI芯片，于2018年正式推出，目前最新的产品是发布于2021年的昆仑芯2代。昆仑芯2代采用了新一代自研架构XPU-R及领先的7纳米制程工艺，并在国内率先使用了GDDR6高速显存，性能可达到国际领先水平。目前，昆仑芯产品已经在搜索、自动驾驶、工业、金融等应用场景实现了规模化的落地应用，实际部署超过两万片。昆仑芯3代预计2024年实现量产，将再一次带来质的飞跃。2.2.2 AI大底座技术栈：“芯片-框架-模型-应用”四层架构90%+千卡加速比70%+资源利用率100%+开发效率提升产业应用飞 桨AI中台NLP大模型CV大模型跨模态大模型生物计算大模型行业大模型文心大模型数据标注知识管理部署运行模型开发模型管理知识生产高速互连AI服务器GPU虚拟化AI作业调度弹性训练加速套件通用数据行业知识通用知识行业数据昆仑芯百舸AI异构计算平台AI质检智能客服AI大底座助力AI生产力价值释放加速14深度学习框架被称为“智能时代的操作系统”，是与芯片同样关键的科技领域“国之重器”。百度飞桨深度学习框架是我国首个自研深度学习开源框架，而以此为核心搭建的百度飞桨深度学习平台是产业级的深度学习平台，一站式解决了基础软件层的开发、训练、推理部署，以及模型库、开发套件等全系列问题。基于其开源开放的一站式能力，开发者无需从第一行算法代码写起，可以直接调用飞桨框架和飞桨开发平台的相关模块，大幅降低了人工智能技术应用门槛，可更快地推进产业智能化。目前在国内综合市场份额上，飞桨深度学习平台位居第一。截至2023年8月，飞桨深度学习平台已汇聚800万开发者，服务22万企事业单位，创建了80万个AI模型。此外，飞桨在上海、广州、宁波、南昌等地建设了飞桨人工智能产业赋能中心，与政产学研各界伙伴协同，加速人工智能的落地。图3 昆仑芯2代构筑全栈国产AI能力昆仑芯3代将于2024年初量产新一代自研架构采用昆仑芯自研XPU-R架构，通用性和性能显著提升强大算力256 TOPSINT8 128 TFLOPSFP16领先技术7nm先进工艺 GDDR6高速显存完备功能支持虚拟化，芯片间互联和视频编解码规模部署搜索、自动驾驶、工业、金融等场景规模落地实际部署数万片生态完备已与多款通用处理器、操作系统、AI框架完成端到端的适配灵活易用昆仑芯SDK可提供从底层驱动环境到上层模型转换等全栈的软件工具AI大底座助力AI生产力价值释放加速15图4 飞桨产业级深度学习平台预训练大模型作为当前人工智能发展的重要方向，能够大大提升AI的效能，增加更多的业务可能性。文心大模型是百度自主研发的产业级知识增强大模型，包括NLP、CV、跨模态等基础大模型，对话、跨语言、搜索、信息抽取等任务大模型，生物计算领域大模型，行业大模型，以及支撑大模型应用的工具平台，形成了基础-任务-行业三级大模型技术体系，具备知识增强和产业级两大特色。目前，文心大模型已大规模应用于搜索、信息流、智能音箱等互联网产品，并通过飞桨深度学习平台赋能制造、能源、金融、通信、媒体、教育等各行各业。AI大底座正是整合了以上端到端全要素技术能力，将基础架构IaaS与应用平台PaaS能力深度融合，面向企业和产业AI生产与应用的全生命周期提供完整解决方案。2.2.3 AI大底座核心平台：百度百舸AI异构计算平台（AI IaaS）与AI中台（AI PaaS）飞桨企业版飞桨产业级深度学习开源开放平台工具与组件核心框架星河社区端到端开发套件基础模型库核心框架开发训练推理部署自动化深度学习量子机器学习强化学习联邦学习图学习科学计算生物计算低代码开发语义理解文字识别图像分类目标检测图像分割图像生成大模型训推一体预训练模型应用工具可视化分析安全与隐私资源管理与调度云上部署编排自然语言处理计算机视觉语音推荐时间序列文心大模型动态图静态图大规模分布式训练产业级数据处理模型压缩前端推理引擎服务器推理引擎服务化部署边缘与移动端推理引擎全场景统一部署零门槛AI开发平台全功能AI开发平台AI大底座助力AI生产力价值释放加速16图6 AI IaaS核心平台：百度百舸AI异构计算平台图5 AI大底座产品架构百度百舸AI异构计算平台是AI IaaS层的核心平台，包括AI计算、AI存储、AI加速、AI容器四层套件，实现算力资源的高性能、高弹性、高速互联、高性价比，承载海量数据的处理、超大模型的训练和推理，为AI场景提供软硬一体的智能算力基础设施。AI中台基础管控AI服务运行平台大模型平台样本中心模型中心AI资产共享平台全功能AI开发平台BML零门槛AI开发平台EasyDL百度百舸AI异构计算平台GPU调度AI作业调度弹性训练可观测性数据湖存储加速RapidFS分布式训练加速AIAK-Training推理加速AIAK-Inference海量数据湖存储对象存储BOS异构芯片昆仑芯GPURDMAInfiniBand高速互联AI服务器X-MAN高性能存储并行文件存储PFSAI计算AI存储AI加速AI容器GPU调度AI作业调度弹性训练可观测性数据湖存储加速RapidFS分布式训练加速AIAK-Training推理加速AIAK-Inference海量数据湖存储对象存储BOS业务场景城市大脑工业互联网产业金融智算中心生命科学自动驾驶异构芯片昆仑芯GPURDMAInfiniBand高速互联AI服务器X-MAN高性能存储并行文件存储PFSAI大底座助力AI生产力价值释放加速17百度百舸充分汲取了百度异构计算平台多年的技术积累，深度融合推荐、无人驾驶、生命科学、NLP等场景的实践经验。其中，百度太行服务器提供了基于自研GPU硬件架构X-MAN的高性能实例，充分满足AI单机训练、分布式集群训练、AI推理部署等对算、存、传的性能诉求。百度沧海存储通过云边一体、存算协同、软硬融合的技术架构，使得数据可以分场景跨地域流转汇聚，并通过统一的数据湖存储匹配不同的上层应用，加速智能计算，释放数据价值。AI加速通过对存储访问、模型训练和推理的加速进一步提速AI任务。AI容器提供GPU显存和算力的共享与隔离，集成PaddlePaddle、TensorFlow、Pytorch等主流深度学习框架，支持AI任务编排、管理等。AI中台是AI PaaS层的核心平台，打通样本中心、模型中心、大模型平台、AI开发平台、AI服务运行平台，实现从数据存储到模型训练、生产、部署、测试的全链路、批量化生产，面向企业AI开发、管理、应用提供全生命周期解决方案。图7 AI PaaS核心平台：AI中台百度AI中台解决方案自然语言处理文字识别人脸识别图像识别基础管控(AI Base)AI服务运行平台(AIS)账号&权限资源调度存储管理监控报警审计模型风险管理(MRM)离在线预测服务编排边端预测漂移监控设备缺陷识别生产安全检测反欺诈特征识别Notebook可视化拖拽预置模型开发Pipeline实验管理特征库机器学习/深度学习框架AI开发平台图像视频OCR文本语音表数据大模型数据管理及标注SFT/RLHF训练机制大模型评估插件市场安全干预大模型推理大模型平台数据集成SQL工作台联邦查询数据清洗样本标注样本审核特征工程库表管理样本中心 (EasyData)模型中心（MC）边缘适配模型加密模型体验模型共享模型审批资产管理风险监控AI资产共享平台(AI Hub)资产共享资产托管资产交易资产门户Prompt管理及优化通用AI能力服务管理行业专用AI能力全功能AI开发平台(BML)零门槛AI开发平台(EasyDL)电弧、绝缘子脱落检测表计识别信贷审批意见抽取数据增强样本管理模型管理部署包管理模型评估模型加速AI大底座助力AI生产力价值释放加速18其中，样本中心支持数据全流程处理能力，覆盖数据源管理、数据采集、数据清洗、智能标注、多人标注、数据生成、数据增强、数据质量评估、数据回流等一站式数据处理能力；模型中心支持完善的模型管理、模型评估、模型加速、模型转换等能力；AI服务运行平台支持云边端协同模式，支持灵活发布至各类边缘终端，在线服务支持模型漂移、自动扩缩容等便捷的服务追踪、运维服务。AI开发平台包含了零门槛AI开发平台EasyDL及全功能AI开发平台BML零门槛AI开发平台EasyDL是针对零AI算法基础的企业用户的AI开发平台，预置17种建模场景，可以助力用户快速定制高精度AI模型；全功能AI开发平台BML面向模型定制化要求较高的企业用户，为AI算法工程师同时提供机器学习和深度学习环境，并支持可视化建模、自动化建模、作业建模、Notebook开发、产线建模等多种开发方式，并可通过实验管理有效追踪建模数据及参数。百度智能云千帆大模型平台是面向企业开发者的一站式大模型开发及服务运行平台，可为企业提供包括文心大模型在内的大模型服务，同时也支持第三方大模型，提供开发AI应用的各种工具链及整套环境，让企业和开发者以简单的方式用上大模型、用好大模型。具体来看，百度智能云千帆大模型平台包含覆盖大模型生产和应用全生命周期的工具链能力，如模型训练与评估、推理服务与集成应用、Prompt工程、插件应用等，帮助企业更好地应用大模型赋能产品，向客户提供更好的产品体验。当前已有包括工业、金融、政务、互联网、运营商、教育等行业头部伙伴参与内测，并在400+真实场景里看到了令人兴奋的测试效果。以集约化、高性能、多样化的智能算力，为模型训练和推理提供绝佳负载。随着AI应用场景更加丰富、超大模型不断出现，云上AI任务的管理复杂性越来越高，芯片多元化、算力规模化、云原生化成为未来智能算力发展的重点方向。百度百舸支持各类异构计算芯片，单卡资源利用率达到 70%以上，千卡并行加速比至90%以上，使得单卡和集群的算力能够被充分发挥出来。云原生AI平台为百度百舸提供了各类高性能云资源的管理和任务调度，确保了大规模AI任务的高效运行。在行业智能化升级的深化过程，百度百舸不仅支持了文心大模型的落地，更在生科医疗、自动驾驶以及智算中心等领域作为AI基础设施提供普惠多元的AI算力，实现助力药物蛋白质结构预测模型的训练效率提升2倍、量产车自动驾驶迭代周期从月级别缩短为周级别等，更加极致地满足了产业智能化的AI算力需求。2.3 AI大底座具备四大优势2.3.1 高效能算力AI大底座以其全栈技术能力，帮助用户从上云，进入到用数、赋智的快车道，极大降低AI产业应用的门槛，从而释放用户侧的精力与资源，着力聚焦于业务融合创新。从落地实践看，AI大底座具备高效能算力、高效率研发、端到端优化、持续性运营这四大优势。通过MLOps等一系列AI研发运维工具，以AI工程化能力突破AI落地的“最后一公里”。AI模型开发运营全流程是多环节、复杂程度高的工作，从数据采集、数据标注、模型训练再到数据回流和模型观察，任何一个环节未能规范都将影响AI模型的应用效果。2023年初中国信通院首次公布了MLOps服务能力旗舰级评测结果，百度智能云企业AI开发平台成为全国首批在AI开发管理能力上达到旗舰级的MLOps平台。百度零门槛AI开发平台EasyDL与全功能AI开发平台BML提供高自动化水平的模型开发工具和标准化的流程规范指导，能大幅降低企业AI开发门槛，并让模型开发有规范和标准可参照，2.3.2 高效率研发AI大底座助力AI生产力价值释放加速19AI大底座构建平台化的反馈闭环机制，通过持续迭代、循环增强提升AI应用的整体效果。在面向实际业务场景时，AI生产全要素中的每一层能力都会得到很多真实业务的反馈，并通过不断调优，实现端到端优化，从而带来应用效能的大幅提升。例如，应用落地过程中的模型效果问题，将驱动迭代新的模型结构，新的模型结构又需要新的框架能力支撑，而新的框架能力对于底层芯片算力又会提出新的要求。百度在端到端各层都具有自主可控的核心产品技术，能够深入底层，进行纵向的深度整合优化，以提供极致的资源效能和模型效能。比如，在大模型的端到端自适应分布式训练过程中，飞桨统一的资源和计算视图以及自动并行能力可与百度百舸的弹性调度能力相结合，通过AI 框架和AI 异构算力平台的深入交互，实现算力、框架、算法三位一体的系统优化，支持大模型自动弹性地进行训练，端到端实测有2.1倍的性能提升，保证了大规模训练的高效性，训练场景资源利用率可达70%以上。在2022年11月发布的MLPerf Trainning v2.1测试结果中，百度使用飞桨加百度百舸提交的模型训练性能结果，位列同等GPU配置下世界第一，端到端训练时间和训练吞吐均超越NGC PyTorch框架。2.3.3 端到端优化AI大底座构建长效运营的平台，通过持续运营充分释放AI业务价值，实现全面升级和持续创新。AI大底座整合以上技术优势，并作为一个可持续运营的平台，从技术设施向企业发展全面赋能，提供人才培养赋能、业务场景共创、优秀案例推广等系列运营服务，将逐步提升面向企业各业务与管理等领域场景智能化需求的支撑能力，促进AI资产沉淀复用，保障资源高效使用。AI大底座成为企业的AI生产力中心，让AI渗透到企业的毛细血管之中，构筑起企业的智能化核心竞争力。2.3.4 持续性运营03保障开发质量。例如，通过丰富的AutoML/AutoDL能力，企业可以根据数据集及任务来自动选择网络和参数，从而节省90%的参数调优人力投入。20AI正成为智能时代的新型生产力0520AI大底座助力企业构建智能化新范式0321AI大底座助力企业构建智能化新范式智能型企业是指通过智能化升级，在设计、生产、管理、物流和营销等核心业务环节应用人工智能新技术，构建新型企业组织结构和运营方式的企业3。智能化顶设、智能化业务、智能化管理、智能化技术是智能型企业的关键要素，也将协同推进传统企业向智能型企业跨越。结合百度智能云的企业赋能实践，当前AI技术在我国企业中的融合应用不仅是局部的智能应用，而是从战略、组织、生态的顶层设计，到对外业务、对内运营以及智能技术底座支撑的完整闭环，为企业带来全面的价值提升。在企业的智能化转型过程中，智能化顶设、智能化业务、智能化管理、智能化技术是四大关键领域。其中，智能化顶设重点关注战略、组织及生态层面的智能化规划和布局，智能化业务重点关注智能产品竞争力与客户旅程体验，智能化管理重点关注员工工作效率与流程机制效率，智能化技术重点关注研发效能、稳定性与IT效能。四大领域协同一体，才能使企业获得可持续的转型价值。3.1 前瞻智能化布局对企业可持续发展至关重要3.1.1 智能型企业的关键组成3.1.2 智能型企业构建面临的挑战伴随科技革命和产业变革向纵深演进，科技创新成为重塑企业竞争力和市场竞争格局的关键变量，向智能型企业转型升级对企业在智能化新时代构建核心竞争力以及实现可持续发展至关重要。图8 智能型企业关键组成及AI价值评估智能化顶设层面，构建智能型企业需要自上而下进行全局规划，缺乏对AI布局的全局规划能力易导致资源无法聚力。部分企业以单点业务需求为导向布局AI技术，后期面临着资源利用率低、数据无法互通、系统可扩展性弱等挑战，会形成许多新的数据壁垒。多个AI系统间存在的架构差异，还将造成计算、存储、网络等基础资源难以互相调用，面对高并发任务时新一代人工智能发展规划，国务院2017年印发。智能化技术智能化管理智能化业务智能化顶设关键组成战略、组织、生态AI价值评估方向智能产品竞争力客户旅程体验员工工作效率流程机制效率研发效能、稳定性与IT效能AI大底座助力企业构建智能化新范式22企业级智算中心是基于最新人工智能理论，采用领先的人工智能计算架构，为企业本身提供人工智能应用所需算力服务、数据服务和算法服务的新型AI基础设施。从落地实践看，企业级智算中心是一整套AI基建解决方案，重点涵盖AI芯片、AI算法模型、AI数据集、AI应用产品及服务等，可整套推进企业侧落地，也可按需求提供相应方案。依托AI大底座构建企业级智算中心，助力企业高效能、可持续推进智能化转型。从资源效能看，企业级智算中心通过集中资源获得大算力和大数据，支持大规模模型训练和推理，以高性价比的资源优势，有力提升企业AI算力的资源效能。从运营效能看，企业级智算中心通过持续运营充分释放AI业务价值，提供AI应用开发全生命周期的支持，提升面向企业各业务与管理等领域场景智能化需求的支撑能力，助力企业实现智能化长效运营。从产品落地看，企业级智算中心能够支撑企业在现有业务产品上，基于AI技术研发落地更多创新产品、业务模式等，不断拓宽、拓深业务能力。3.2 AI大底座在构建智能型企业中的价值实现3.2.1 依托AI大底座构建的企业级智算中心，是企业部署AI基础设施的优质解决方案响应速度慢，影响用户体验。随着技术创新的加速，企业需要开展面向用户需求的创新应用探索，而单点建设的系统间协同与扩展的难度大，难以支撑未来业务快速迭代发展的需求。此外，构建统领全局的AI发展规划还需将智能化发展思想融入到企业整体的业务规划当中，结合业务发展进行前瞻性布局。智能化业务与智能化技术层面，AI应用场景碎片化可复制性弱，智能型企业建设过程中面临定制化成本、技术门槛高等挑战。AI对实体经济的赋能需要与各行业自身的业务场景紧密结合，而实体经济行业众多，每一个行业、企业都有大量的应用场景，应用规模不同，对技术的需求也不同，由此带来的场景碎片化是AI落地应用中的巨大挑战。应用需求方希望实现的全价值链场景，大多不能通过某个单一的系统或产品完成，企业所能提供的产品和解决方案也会呈现碎片化，需要根据用户需求提供高度定制化的解决方案，这不仅会带来高昂的时间和经济成本，也不利于持续地迭代更新。AI作为新兴的信息技术，对于大多数实体经济行业来说都有着较高的技术门槛，亟需更便捷、更通用的平台化部署模式来应对这一挑战。智能化管理层面，缺少科学的管理统筹机制，缺少AI技术快速推广应用以及持续迭代更新的能力，缺乏专业的知识、人才等，为智能型企业的后期运营带来挑战。智能型企业后期运营首先面临的就是管理机制统筹方面的挑战，涉及在企业智能化布局过程中如何去统筹管理业务流程、产品服务、资源调度等各个环节，从而实现快速高效的智能化部署。除常规管理统筹外，还有紧跟新技术不断进行更新迭代的问题。AI技术的发展迭代速度已经赶超了以往大部分新技术的更新速度，企业如果没有一定的AI技术研发能力，将很难跟上技术更新的脚步。AI技术在企业中的应用需要充分契合业务的发展，需要根据具体的应用场景需求快速构建出相应的模型等，而大多数没有AI技术积累的企业并不具备这样的能力。此外在人才方面，掌握AI技术的人才体系构建尚在培育初期，大部分企业没有智能化人才的储备，也缺少对现有人才的智能化培养。AI深入到企业应用中需要经过与专业技术人员紧密合作的学习过程，才能真正实现对某些重复性劳动的替代或提升，而人才在智能化企业中的应用可能也将面临着新的职业维度。AI正成为智能时代的新型生产力05AI正成为智能时代的01新型生产力AI正成为智能时代的新型生产力06随着ChatGPT浪潮席卷全球，AI产业化进程提挡加速，全面进入工程实践落地阶段。这是一次能够比肩互联网和智能手机的技术革命，人工智能发展的奇点即将到来。随着AI从辨别式发展到生成式，一场影响人类生产生活方式以及全球经济增长的新科技变革正在蓄势待发，未来会触及到大量业务流程的重塑，以及基于AI原生思维的应用开发。大模型带来的应用效果突破，让人们看到了无限接近或通往通用人工智能的发展路径。MLOps（人工智能研发运营体系）行业应用落地效果显著，也为AI工程化落地提供了利器，由AI驱动的新时代正在开启。AI领域爆发出的现象级应用背后，是“大模型+大数据+大算力”的支撑与推动。AI能力的快速精进来自于大模型的支持，超大规模预训练模型的应用辅以数据的不断精调，推动了效率与效果的同步提升，并且向着支持多模态的方向不断发展，为AI支持更多应用场景提供了可能。AI应用正朝着无限接近机制类脑、行为类人的方向快速演进。大模型的训练，主要依靠大数据提供足够的学习素材，以及大算力提供强大的计算支撑。自监督学习的出现，让大规模的数据无需再进行人工标注，由模型直接从无标签的数据中自行学习，节省了大量的人力和时间成本，也让可训练数据的范围无限扩大。算力的不断突破为大模型的迭代