Serverless开发平台： 让研发效能再提升.pdf

Serverless开发平台：让研发效能再提升王仁达阿里云云原生 Serverless 开发平台技术负责人Serverless研发效能的发展历程01Contents目录01Serverless研发效能的发展历程02以平台工程理念打造Serverless研发效能服务03基于Serverless架构打造研发平台的实践关于Serverless研发效能的未来展望04从 单体架构 到 无服务器计算APP端服务Web端服务参数解析服务内容查询服务结果排序服务结果渲染服务Redis消息队列DBTable登录函数用户管理函数产品管理函数其他功能函数登录函数用户管理函数产品管理函数其他功能函数广告规则函数干预规则函数黄反规则函数特征提取函数组个性化查询函数通用查询函数活动查询函数查询函数组模型打分函数通用打分函数调权函数排序函数组结果页渲染函数落地页渲染函数页面组装函数渲染函数组设备端服务后端服务APP端函数Web端函数BaaS服务日志服务单体架构无服务器计算SDK、应用集成工具、低代码工具组装式应用微服务微服务应用级 APISAEFC数据库函数级 API函数函数存量业务无改造Serverless化事件驱动业务事件驱动流程式编排微服务微服务函数函数函数函数函数函数存储大数据云产品Serverless化数据服务从 无服务器计算 到 Serverless 云上架构落地Serverless对开发者的挑战很大如何快速上手如何进行技术选型：云产品、框架、运行时应用如何Serverless化应用组织形式产品概念过多，如何抽象领域模型接触Serverless上手难如何快速跑通原型如何调试、部署如何优化冷启动如何探测弹性瓶颈深入Serverless开发简单，构建难如何划分不同环境如何管理权限如何进行CI/CD如何追查问题如何进行成本治理困惑Serverless治理难编码构建测试测试发布部署集成提交依赖众多，配置复杂，缺少应用开发脚手架找不到接口文档，或者文档更新不及时内循环外循环测试资源不足，测试环境构建困难，测试环境不稳定一天搞开发，七天搞联调依赖云端资源多，本地测试环境模拟太复杂很难构造事件请求触发资源，权限申请繁琐，审批多且速度慢应用环境配置复杂，部署、灰度的自动化程度不高依赖库众多，构建耗时耗力本地环境和云上有差异Serverless应用开发循环以平台工程理念打造Serverless研发效能服务02云产品Serverless化全托管，开箱即用细粒度资源隔离，为测试环境快速创建大量相互隔离的资源实体按实际使用量付费，可创建大量测试环境，且只在实际使用时才付费免运维云产品深度集成云产品成为构建应用的模块，功能原子化，可自由组合以事件驱动的方式实现产品间的紧密集成通过工作流快速编排云产品和客户应用良好可观测和问题诊断能力体系化的研发效能服务覆盖应用开发、测试、部署、监控、运维全流程一致的使用体验，开发运维形成闭环功能原子化，可自由组合开源开放能力Serverless研发提效关键动作函数计算3.0：事件驱动的Serverless计算平台概念全新升级移除服务概念，面向函数进行版本及流量管理全新执行引擎统一事件及HTTP函数签名，统一开发方式自定义域名可以直接路由到函数全新授权方式支持服务关联角色，解耦系统权限和用户权限一次性授权，不需要配置角色即可使用日志、VPC等功能全新弹性管理方式按量伸缩升级成并发度及预留实例管理云工作流：流程式开发减少代码工作量丰富的控制逻辑，例如顺序，选择，并行等。可显著降低复杂业务流程的代码量提高容错性提供流程状态管理，内置检查点、错误重试、回放能力，确保应用程序按照预期逐步执行可视化开发图形化拖拽Studio模式YAML开发模式开放与集成提供丰富的跨产品，跨平台连接能力优秀的被集成能力，可第三方平台集成全新YAML规范增加流程编排、多环境、模板能力全新命令行规范规范日志打印、统一结果输出格式全新执行引擎，提升编排能力全新功能组件FC 3.0 配套组件ROS 组件，支持IaC生态Serverless Devs 3.0：全生命周期开发工具开发者体验基础设施即代码安全合规自服务门户声明式定义安全扫描Serverless平台工程问题诊断监控告警可复用模板可复用模板可视化编排自动化部署精细化权限管理操作审计链路追踪诊断工具快速上手开发调试测试发布研发平台场景化解决方案IDE插件CLOUD IDE云端开发可视化架构设计本地调试远程调试端云联调压测、性能探测一键拉起环境自动注入测试用例发布安全检查代码包、镜像构建函数/应用/工作流发布制品管理、代码回滚事件应用开发Web应用开发工作流开发构建管理函数更加原子化，推荐 Monorepo 方式不同模块维护单独的s.yaml进行本地开发调试通过端云联调在本地访问云端真实环境调试通过WebIDE进行云端开发和在线debug通过实例登录查看请求现场通过性能探测评估实例并发度开发测试大代码包部署通过OSS中转，开启同城冗余加速跨region上传依赖包打成Layer减少代码包体积。部署时自动检查依赖文件变化，自动构建层大镜像构建使用NAS缓存base镜像以及layer；模型和框架分离，通过NAS存储模型通过s build-use-docker 实现本地和云端构建环境一致环境管理通过环境来隔离资源，不同环境使用不同的账号、角色、网络等基础设施通过env.yaml维护基础设施以及服务差异化配置，s.yaml维护代码相关配置通过s deploy-env 将服务部署到指定环境环境集成ROS、Terraform 实现云资源管理环境关联不同分支或者tag表达式，提供环境级流水线，实现CI和CD相协同发布及运维工程根目录下维护全局s.yaml进行全量发布函数维护独立别名进行版本控制，版本关联tag或者commit便于快速回滚配置和代码发布流程分离，通过cicd.yaml编排s.yaml管理不同发布流程通过WebIDE进行线上紧急运维通过函数级报警、监控指标进行盯盘Serverless平台工程落地经验函数A：版本1函数B：版本1Region AVPCRAMOSSSLS测试环境：账号A函数A：版本2函数B：版本2Region BVPCRAMOSSSLS生产环境：账号B通过YAML维护不同的CICD流程函数目录维护本地开发的s.yaml根目录维护基线s.yaml环境差异化配置维护在env.yaml工程管理环境管理流水线管理初始化开发调试部署运维项目脚手架多账号管理本地调试端云联调远程调试事件触发可视化配置灰度发布多环境部署日志查询指标查询模板继承本地开发编辑器插件开发者套件项目构建实例登陆开发工具链（Serverless Devs）开源生态云服务Serverless 计算平台（函数计算 FC、Serverless 应用引擎 SAE 等）BaaS 产品（中间件、数据库、存储、网络、安全、可观测等）项目案例库（Serverless Registry）Web 全栈音视频处理文件处理人工智能 应用管理（Serverless Admin）多环境管理CI/CDIaC项目可观测WebIDE架构可视化设计Job相关大数据处理全栈开发CICD平台集成弹性管理Serverless开发平台TerraformPulumiOpenFunctionMidway FaaS基于Serverless架构打造研发平台的实践03Serverless WebIDE 服务传统WebIDE的问题开服成本高，支持地域少，代码稍大加载缓慢，海外用户体验不好在单独的网络环境执行，和真实环境差异大，无法挂载NAS/OSS、不支持Layer、无法进行在线debug弹性效率差，无法按需扩容，活动时需要扩容资源池启动速度慢，打开要5s以上延时使用K8s+NAS，多租安全性差，改造成本高需要使用网关，运维成本高基于 Serverless 的 WebIDE 服务内置网关，天然支持WebSocket天然多租隔离，通过函数来隔离不同租户Region化部署，只依赖函数/OSS/RAM资源支持小账号模式，和真实网络环境完全一致按需弹、随便弹，计费模式和用户停留时长完全匹配天然多租隔离，通过函数来隔离不同租户开箱即用可观测能力，运维成本极低 0.5人力WebIDE 函数实例A（安全容器）WebIDE 数据存储（保存配置和未提交的代码）用户A本地上传Tracing 函数用户代码源OSS存储桶函数代码Git仓库实例B（安全容器）IDE 配置代码IDE 配置代码用户A用户B用户A本地上传OSS存储桶函数代码Git仓库用户A用户B用户A用户B身份认证身份认证读写配置代码读写配置代码跨账号下载提交代码跨账号下载提交代码Serverless CI/CD 服务Http事件触发管控函数事件过滤秘钥验证结果回调流水线执行Worker函数构建部署 Worker资源编排 Worker沙箱调度 Worker任务引擎公共组件Git操作事件检查代码拉取钉钉通知运行时扩展缓存加速制品上传版本灰度工具集任务插件Serverless天然适合 CI/CD 场景事件驱动（Http webhook、OSS、定时）安全多租构建运行时灵活易扩展（多种Runtime+Layer）异步任务内置队列、数据库、计算（取消、回调、重试）弹性调度，按量付费打通用户VPC网络，支持小账号方案，支持私有Gitlab基于函数计算实现 IaC 资源编排自动生成STS，代码中可直接使用，无需业务自己生成秘钥落盘支持OSS挂载、NAS挂载，state持久化容易Terraform binary可以打成Layer进行加速支持众多region，非常适合开服基于Serverless Devs 为底座多环境管理流水线管理消息事件触发安全检查构建部署灰度审批发布GitHubGiteeGitlabCodeupCICD pipeline公共层公共层代码平台Serverless 可观测体系建设指标采集对Runtime无侵入，不占用户资源多租安全支持异构环境内置丰富指标、生命周期事件支持编程模型扩展接入第三方存储数据开放，可二次加工数据处理API即函数，按请求自适应伸缩实例，毫秒级延迟Region化部署开发调试便捷实例健康状态检测收集Serverless计算平台处理日志指标调用链EEAGENTUser1ContainerUser1ContainerUser1ContainerECS VM 执行环境实例生命周期管理上报实例健康状态检测收集处理日志指标调用链EEAGENTUser1SandboxUser2SandboxUser3Sandbox神龙裸金属执行环境实例生命周期管理上报函数实时日志Serverless 监控中心：开箱即用的可观测平台集群/服务/函数指标上下游调用链实例实时日志请求/实例级别指标系统内部调用链请求日志计量指标用户业务逻辑调用链Log 函数Serverless架构的Web APIMetrics 函数Tracing 函数User1CloudMonitorSLSXTraceLog 函数Tracing 函数User1CloudMonitorSLSXTraceUser1CloudMonitorSLSXTrace用户云产品Serverless 研发效能未来展望04自动化Serverless 云服务成为构建应用基础模块，可复用，可组装，免运维，高可用Serverless 计算+工作流编排，组合多个服务构建应用应用天然具备韧性、全链路弹性模块化开发者用代码定义资源、应用架构、业务流程、API 等，解释执行由工具完成基础设施、应用架构、业务流程、API 成为重要的数字资产，可观测、可挖掘、可审计业务流程应用架构资源编排流程编排代码开发高价值工作设计业务流程根据松耦合、可扩展等原则设计应用架构，服务 API，开发业务代码低价值工作申请资源，配置环境CRUD 代码，服务间的胶水代码实现应用的韧性、弹性、可观测能力研发效能策略建设 Serverless 产品体系，产品间深度集成以 X as code 为核心的工具服务，可视化编排，消除繁琐配置，自动化创建/更新/删除应用环境，安全合规检查，智能助理，最佳实践推荐，代码/测试用例生成，可视化基础设施、应用架构、业务流程可视化编排和展现基础设施、应用架构和业务流程易于共享，快速迭代智能化应用架构、业务流程、API是结构化数据，和AIGC技术适配更细粒度，更小复杂度的代码更有利于落地自动代码生成等智能技术AI 智能自助诊断、自助答疑下一代研发范式优秀的开发者体验提效降本的现代应用心智AI 应用一键部署，快速上手AI 应用一键多环境划分，标准 GitOps 流程；ModelScope 一键托管；AI Plugin 一键发布到通义千问；与开源结合，提供快速上手、一键部署的完整通路。高效能低成本进行 AI 应用的开发与部署是无数 AI 开发者/企业的重要关注点Serverless 架构凭借高资源利用率与按量付费模式，以及服务端免运维的开发者心智，成为一众 AI 开发者/企业的首选；秒级弹性、大规模 GPU 集群按量付费、降本提效一键部署、GPU 资源免维护如何快速体验、快速上手如何方便快捷的部署使用如何高效率、低成本落地如何高可用、高性能运行人人都可以拥有自己“专属”的 AIGC 环境弹性调度的 CPU+GPU 实例完备的开发者套件完备的开发者套件，是开发者将 AI 应用部署到云原生架构必不可少的一环阿里云完备的开发者套件，可以帮助开发者从 0 到 1 再到 N，将业务 Serverless 化，并提供全生命周期管理能力。GPU 实例是 AI 领域不可或缺的计算资源，在高昂的成本下，可弹性的 GPU 实例成为 AI 应用不可获取的部分阿里云函数计算拥有弹性调度的 GPU 实例，以及大规格的计算性能实例，是承载 AI 应用稳定、高性能推理的重要环节基于Serverless 构建 AI 应用THANKS