人工智能平台PAI的MaaS实践.pdf

PAIMaaSPAI MLOpsContents目录01MaaS02PAIMaaS03MaaS01AIGC/#0123!#$200!+%&2300+%&()*1+,-./0123420+MaaSMaaSMaaSFoundationmodelsMLOpsIaaSPaaSMaaSMaaS=+AzureMLModel catalogSageMakerFoundation modelsJumpstartSageMakerAzureMLPAIMaaS02PAINew Future on Cloud场景化解决方案高速 RDMA 网络（RoCE）异构计算磐久服务器（CPU、GPU）分布式存储 CPFS/NAS/OSS灵骏智算服务&机器学习框架(PaaS)低PUE液冷/风冷，模块化IDC设施AI应用：自动驾驶/科研智算/金融风控/智能推荐/智能设计/智慧城市/智能制造/智慧医疗/智慧法务/第三方MaaS平台模型服务(MaaS)ModelScope 魔搭社区计算资源&基础设施（IaaS)容器服务 ACK弹性计算 ECS机器学习框架（PAI-TensorFlow/PAI-PyTorch/Alink/Spark,EasyRec/EasyPhoto/EasyTransfer/Megatron/DeepSpeed/RLHF）PAI-灵骏计算资源云原生通用计算资源大数据计算资源（MaxCompute/EMR/Flink）工作空间AI资产管理（数据集/模型/镜像/代码/自定义组件/权限管理MLOps云产品依赖优化与加速（DatasetAcc 数据集加速/TorchAcc 训练加速/EPL 并行训练框架/Blade推理加速/AI Master 自动容错训练/EasyCkpt 秒级异步训练快照）PAI-DashScope 模型服务灵积模型在线服务PAI-EAS分布式训练PAI-DLC标注服务PAI-iTAG交互式建模PAI-DSW可视化建模PAI-Designer快速开始：PAI-QuickStart/PAI-智码实验室/PAI-DSW Gallery开发者工具CLI/PaiFlow/OpenAPI特征平台PAI-Feature StoreModel CentricPAIMaaSModelHubPAI SDKPAI!ModelScopePAIMaaSOP/QRModelHubSJKEL-ModelHubModelScope?MNHuggingFacePAIO6PQPAI-DLCPAI-EASPAI-DSW!#$%&(%&)*+,!?!?!?PAI SDKPAI!ModelScopeCase studyPAI AIvideo:Demoqwen03CRM MaaS平台工程优化算法工程优化基础模型=?!1000!loss#$%&10#$7B()*+,-./$%2!Qwen_!ghijMLOps:Efficiency is All YouNeedMLOpsMLOps-LLMOpsDatasetAcceleratorTorchAccPAI-ACC AIAIBlade BladeLLM1.7!3.8?8.7!13.8?BladeLLMW LLMtu*vMEFTHANKS