2025年研究报告AI基础设施现状.pdf

2025 年研究报告AI 基础设施现状 02摘要虽然人们对 AI 的兴趣激增，并在全球广泛掀起了实验热潮，但如今 AI 的焦点已经转向了实际应用。技术领导者们更关心“如何做”而非“是否做”，即如何整合生成式 AI、保证其安全性，并大规模应用，以实现可持续的价值。在这一变革阶段，组织需要采取战略性方法进行平台管理及经济高效的部署。然而，这种变革并不轻松。组织面临诸多严峻挑战，包括旧系统的整合、复杂的系统迁移，以及 AI 解决方案与自身独特业务场景的匹配。我们深知以数据为依据的分析洞见不可或缺，因此对全球 500 多位企业领导者进行了调研。调研结果显示，云市场正在经历一场深刻变革，那些积极投资于依托 AI 技术的云基础设施的企业，正引领着 AI 时代的发展浪潮。本报告不受外界情绪干扰，理性分析了现实挑战与战略机遇。我们提供了组织领导者真正需要的研究数据，助力他们在基础设施投资上达成共识，从而打造真正依托 AI 技术并以云为动力的组织架构，自信从容地应对变革时期。Nirav MehtaGoogle Cloud 产品管理高级总监02形势挑战基础设施生成式 AI 几乎得到普遍应用安全和数据是主要顾虑成本是关键 考量因素在评估基础设施时，强大的 AI 平台是最重要的评估标准之一大多数组织依赖云服务提供商提供的生成式 AI 解决方案混合云带来了出色的灵活性与可控性边缘计算正在拓展 AI 的应用边界生成式 AI 的投资回报率同时取决于内部和外部应用场景的组织正在积极尝试使用生成式 AI、进行相关开发，或在生产环境中使用生成式 AI的组织遇到过数据 治理、数据与 AI 模型的集成以及训练数据 不足方面的问题的组织在采用生成式 AI 基础设施解决方案时，将成本效益置于优先考虑的位置的组织更倾向于采用混合云架构来部署生成式 AI的组织认为，在分布式设备或系统中部署生成式 AI 模型具有重要意义的组织将重点放在提升客户体验和优化内部运营这两个方面0103040205060708主要调研结果98%64%70%74%73%83%vv经过优化的基础设施对生成式 AI 的成功至关重要任何生成式 AI 项目的成败，归根结底都取决于其背后的基础设施。这不仅仅是增加一个新的工作负载，而是要构建一个坚实基础，以满足 AI 独特且快速变化的需求。无论您的目标是提升客户满意度，还是降低运营成本，基础都非常重要。这个基础必须具备强大承载能力。它需要具备安全性，以保护知识产权和客户数据。它必须是分布式的，既要在公有云中提供托管式服务，又能延伸至本地数据中心或网络边缘，以满足延迟控制和数据主权等需求。同时，它还必须具备可伸缩性、高性能和高可靠性，以支持大型训练数据集的并行处理，以及推理和决策过程对长上下文窗口和多步骤流程的需求。当然，成本效益也是不可忽视的关键因素。听起来像是不可能完成的任务？如果有一个清晰的计划，那就不再是难题。生成式 AI 正在重塑组织的 IT 战略，并且发展势头丝毫没有放缓。本次调研揭示了各行业领先企业在这条变革之路上的所处阶段。重新审视您的云基础设施战略时，务必考虑那些不仅能服务 AI 专家，也能为开发人员和业务团队提供支持的服务提供商。04发现结果 10201030405060708生成式 AI 几乎在各 行各业得到 普遍应用0508的技术领导者认为生成式 AI 对组织当前和未来的业务运营有着非常重要，甚至极其重要的影响的组织正在积极尝试使用生成式 AI、进行相关开发，或在生产环境中使用生成式 AI生成式 AI 对组织当前和未来的业务运营有多重要？贵组织在生成式 AI 应用方面处于哪个阶段？40%39%39%39%20%2%19%4%在生产环境中使用积极进行相关开发非常重要极其重要目前正在进行实验性开发重要计划在未来一年内应用比较重要07060504030201发现结果生成式 AI 在当今职场中的重要性，怎么强调都不为过。79%98%060807060504030201发现结果我们在不同行业中有了一致的发现：各行业的技术领导者已经普遍在组织中应用生成式 AI，并认为它对业务发展至关重要。让我们深入看看这些数据。在各个行业中，大多数组织要么正在积极开发，要么已经在生产环境中部署生成式 AI，这表明公司已经为生成式 AI 投入了大量资源，并计划继续加大这方面的投入。正如预期，技术相关行业的公司将生成式 AI 从试点阶段推向生产环境的速度更快，整体采用率也更高。不过，生成式 AI 的重要性促使几乎所有行业的公司都开始加大相关投资。即使较少将生成式 AI 用于生产环境的行业，如金融服务和制造业，也在实验和开发方面十分活跃。跨行业观察贵组织在生成式 AI 应用方面处于哪个阶段？（按行业）在生产环境中使用IT 咨询零售医疗保健制造金融服务硬件/软件积极进行相关开发目前正在进行实验性开发58%53%39%34%28%7%30%36%32%45%48%53%10%9%30%15%23%39%070807060504030201发现结果生成式 AI 对组织当前和未来的业务运营有多重要？（按行业：极为重要/非常重要）各行业的技术领导者一致认为，生成式 AI 对组织的成功至关重要。整体上已有 79%的领导者认为生成式 AI 对其业务非常重要，甚至极为重要。尽管这个数字已足以令人惊叹，但在与技术相关的行业，这一比例更高，例如 IT 咨询行业为 91%，计算机硬件/软件行业为 88%。IT 咨询医疗保健制造零售金融服务硬件/软件91%88%75%75%72%51%080807060504030201发现结果AI 不再是一个未来概念，它已经成为推动业务发展的关键因素，并且导致了组织运作方式的根本变化。IT 领导者们已经不再仅仅谈论已知的 AI 潜力，而是开始着手构建能够支持日益增长的 AI 工作负载需求的基础设施。大多数组织要么在积极进行生成式 AI 的相关开发，要么已经在生产环境中使用生成式 AI。它正在帮助组织提升效率，并探索通向成功的新路径。您今天做出的基础设施决策，将决定您的组织在 AI 主导的未来中能否保持竞争力，无论您身处哪个行业或地区，都是如此。为什么这对您很重要09发现结果 20102030405060708生成式 AI 在多个应用场景中都能带来显著成果。尽管直觉上您可能认为“多多益善”，但我们的研究显示了一些有趣的结果，揭示了在哪些领域应用生成式 AI 能取得最佳效果。生成式 AI 的投资回报率同时取决于内部和外部应用 场景10本报告来源于三个皮匠报告站（）,由用户Id:1181721下载,文档Id:1225064,下载日期:2026-05-050807060504030102发现结果25%11%64%主要是面向内部的应用主要是面向外部的应用 同时包括面向内部和外部的应用您认为组织现有或计划中的生成式 AI 应用主要分为哪几类？组织正在利用生成式 AI 改进客户互动方式、提供个性化的体验，并提出新的价值主张。我们的研究显示，许多技术领导者(64%)在提升客户体验和优化内部运营之间找到了平衡。将生成式 AI 应用于面向外部的场景，能够带来贴合客户需求的准确回答，而不是泛泛的答复。例如，将生成式 AI 与组织的运营数据相结合可以帮助客服人员或聊天机器人实时提供高度相关的回答，而这正是当今的客户所看重的。而将生成式 AI 应用于内部流程，则能够帮助组织简化流程、提高效率，并优化运营成本。110807060504030102发现结果数据分析是生成式 AI 的首要实施领域，而客户服务和内部流程自动化则远远排在其后数据分析客户服务自动化内部流程自动化推动组织采用生成式 AI 的三个关键应用场景包括：内部流程自动化代码生成内容创作设计和创意客户服务自动化数据分析这不仅仅是生成报告。它关乎从庞大的数据集中提取富有实用价值的分析洞见、识别规律，并快速、大规模地实现基于数据的决策。自动化执行重复性任务并简化工作流程，可腾出人力资本用于价值更高的活动。自动化不仅局限于聊天机器人。如今的自动化是要创建智能系统，以便理解复杂询问，提供准确和个性化的回复，并高效解决问题。50%40%40%25%20%19%120807060504030102发现结果60%68%55%69%67%54%IT 咨询金融服务制造相比于其他行业，这些行业将生成式 AI 优先用于代码生成的概率更高（分别为 47%和 51%）硬件/软件零售金融服务数据分析和代码生成客户服务自动化内部流程自动化跨行业观察在不同行业中，生成式 AI 的首要实施领域有很大区别。13金融服务硬件/软件IT 咨询首要实施领域数据分析客户服务自动化内部流程自动化代码生成内容创作设计和创意零售医疗保健制造广告、公共关系您的组织认为以下哪些生成式 AI 实施场景需要优先考虑？（按行业）0807060504030102发现结果60%69%47%51%68%54%49%55%67%47%45%55%96%92%22%25%34%31%47%47%43%16%18%9%8%7%11%9%9%12%11%19%11%17%18%23%25%4%8%0%0%30%140807060504030102发现结果为了充分利用生成式 AI，组织需要采取战略性方法，将 AI 融入到内部工作流程和面向客户的应用中。这需要一个灵活且可扩展的基础设施，以支持多样化的 AI 工作负载。此外，尽管了解行业内主流的应用场景非常重要，但跨行业的学习也能激发创新，解锁新的价值。通过探索其他行业如何利用生成式 AI，组织可以发现新颖的应用场景，扩展产品和服务，从而获得竞争优势。为什么这对您很重要150807060504030102发现结果在金融服务行业，Regnology 正在使用 Google Cloud服务开发监管报告聊天机器人。该聊天机器人旨在以更快的速度准确回答内部和外部用户提出的监管方面的问题。面对快速增加的监管要求和不断增加的数据量，Regnology 帮助客户简化运营，并确保遵守不断变化的法规。作为全球领先的监管报告公司，Regnology 遇到了自有基础设施缺乏灵活性的问题。借助基于 Google Cloud 服务构建的新聊天机器人，Regnology 现在能够以更快的速度准确回答内部和外部用户提出的监管方面的问题。16安全和数据是主要挑战保护敏感信息仍然是首要任务。组织希望了解如何在使用第三方 AI 模型时保护专有数据安全，并确保遵守不断变化的数据保护法规。发现结果 30102030405060708170807060504020103发现结果安全风险数据隐私问题监管问题成本缺乏专业知识变更管理数据准备技术整合困难道德问题（偏见、公平性等）缺乏可行应用场景现有基础设施限制您的组织在采用生成式 AI 过程中面临的最大挑战是什么？39%36%29%26%26%22%2120%18%17%13%18我们的研究凸显了技术领导者面临的关键安全性和隐私问题。采用生成式 AI 时的主要顾虑包括：安全风险数据隐私问题监管问题对专有数据和知识产权的保护 没有妥协余地。生成式 AI 的固有特性（即涉及大语言模型和庞大数据集）带来了新的安全挑战，我们必须积极采取措施加以解决。组织需要确保在实施生成式 AI 时能够保护敏感数据的安全，并遵守 一般数据保护条例(GDPR)、加州消费者隐私法案(CCPA)等法规。的组织将安全风险和/或数据隐私列为其面临的最大挑战有关生成式 AI 的法规正在不断增加，欧盟 AI 法案 就是其中之一。因此，企业必须确保合规。在监管审查愈加严格的背景下需要注意的问题包括 AI 可解释性、保护知识产权以及防范虚假信息。39%36%29%62%0807060504020103发现结果190807060504020103发现结果70%的采用生成式 AI 的组织遇到了数据方面的难题。这包括数据治理、将数据集成到 AI 模型，以及训练数据量不足等问题，这与来自利用数据和 AI 创造价值的高管指南的主要结论一致。各组织都渴望采用生成式 AI，但在将试点项目落地到全面生产部署的过程中，他们往往面临重重挑战。主要瓶颈是什么？是数据。我们的研究发现，数据的可用性和质量，以及存储这些数据的平台，是生成式 AI 实施中最重要的因素。对数据沿袭能力的迫切需求进一步加剧了这一挑战。数据沿袭提供了有关数据集来源、转化过程和使用权限的全面、可审计记录。这使组织能够以法律、伦理和政策为依据，明确声明其有权将特定数据用于某个 AI 应用。如果没有可验证的数据沿袭信息，组织将面临重大风险，包括潜在的法律责任、监管不合规和声誉受损。组织如果使用来源不明的数据进行 AI 模型的训练，将严重阻碍该模型的部署。20数据可用性和质量、强大的 AI 平台、高效的可伸缩性以及技术可行性，这些是对于新一代生成式 AI 技术而言最重要的因素。选择生成式 AI 技术时，您最看重的五个因素是什么？组织普遍关注如何确保客户和专有数据的隐私、安全性以及合规性。我们已经知道，为了确保数据治理的质量，组织需要统一数据，但实现这一目标可能需要进行大量的基础设施建设。因此，当谈到生成式 AI 的实施时，数据质量、强大的平台和高效的可伸缩性无疑是技术领导者心中最重要的因素。数据及其支持基础设施仍然占据主导地位。强大的 AI 平台数据可用性和质量高效的可伸缩性技术可行性0807060504020103发现结果45%45%45%44%21您在采用生成式 AI 时面临的最大挑战是什么？安全风险北美地区欧洲、中东和非洲地区亚太地区数据隐私问题监管问题安全性和数据隐私是生成式 AI 采用过程中面临的最大挑战，对于各个区域而言都是如此。全球各个区域的法规环境也有所不同，跨国经营的公司尤其需要关注这一问题。各州层面的法律正变得越来越全面，例如 加州消费者隐私法案(CCPA)，该法案旨在保障消费者访问、查看和删除其数据的权利。一般数据保护条例（GDPR）对数据的存储、收集和删除方式有严格要求。对于使用云资源的企业来说，在本国设立云数据中心是确保合规的关键措施。若未遵守规定，罚款最高可达 2,000 万欧元，或全球年营业额的 4%。各国在数据监管方面的规定差异显著，有些国家要求数据必须存储在本国境内，而另一些国家则采取更加碎片化的管理方式。跨区域观察北美洲欧洲亚太地区0807060504020103发现结果39%36%29%43%40%25%37%31%31%35%36%33%220807060504020103发现结果构建安全且合规的 AI 基础设施是不容妥协的。IT 领导者必须在 AI 战略中优先考虑数据安全与隐私，以降低风险、维护信任。无论所属行业如何，数据通常分散在不同平台且格式多样，这使得统一的安全和治理策略难以实施。为充分利用 AI，必须使用一个支持所有数据格式（包括开放格式）的统一平台，以建立单一可信来源。此外，还必须采用扩缩能力强的架构，以便在不影响性能的情况下，将事务和分析系统进行整合。这样，即使面对要求严苛的事务型工作负载，也能够实现这些系统之间的数据访问。随着越来越多的数据和应用从本地数据中心迁移至云端，远离传统的安全机制与基础设施，数据安全策略也必须相应地向云环境靠拢。您希望了解更多内容吗？加速安全、私密且合规的 AI 转型 通过运营数据库 充分释放生成式 AI 潜力 借助 Google Cloud 构建安全的数据平台为什么这对您很重要230807060504020103发现结果Moii.AI 通过在 CCTV 中部署 Vision AI 智能体以提升安全性“借助 BigQuery 直观的用户界面，即使是缺乏云经验的工程师，在入职的第一周也能开始使用此工具处理数据项目。如果使用其他解决方案，我们可能需要两倍规模的团队，才能维持我们现在的基础设施。”Lakshman Balasubramanian Moii.AI 联合创始人兼 AI 负责人目前全球已有超过十亿个 CCTV 摄像头，Moii.AI 通过 AI 实现审查与分析流程自动化，将传统摄像系统转变为自主智能体，从而打造更安全、更高效的工作环境。24成本效率是关键考量因素AI 需要大量的计算资源，而实施和维护 AI 的整体成本会因规模、模型复杂度、数据需求、基础设施维护以及现有人才储备等因素而有很大差异。发现结果 40102040305060708250807060503020104发现结果30%53%12%4%极其重要非常重要重要比较重要在您为生成式 AI 基础设施解决方案做决策时，成本效益有多重要？83%的技术领导者认为，成本是评估解决方案时的关键因素要驾驭这项强大的新技术，往往会面临各种意想不到的支出陷阱。选择合适的云服务提供商，可以为 AI 工作负载的训练、微调和推理提供具有成本效益的解决方案，其中包括 Spot 实例、预留实例以及随用随付等灵活选项。正如在发现结果 3 中提到的，生成式 AI 解决方案的成本同样是其落地过程中的一大挑战，在所有挑战中排名第四。尽管生成式 AI 的潜力几乎无限，但预算却并非如此。260807060503020104发现结果虽然生成式 AI 解决方案的成本是一个重要考量因素，但其带来的好处同样会对组织的利润产生积极影响。您期望生成式 AI 带来最大投资回报的领域是什么？从提高生产力、增加销售额到降低运营成本，一些领先的生成式 AI 用例直接带来了成本效益。提高员工工作效率提升客户满意度和互动度简化工作流和流程提升竞争力并争取市场份额加速收入增长降低运营成本促进销售并提高收入22%21%20%18%14%13%13%06270807060503020104发现结果生成式 AI 可简化流程并自动执行任务、提高效率，帮助企业降低成本。然而，尽管效率是有目共睹的，但量化生成式 AI 的商业价值仍具有挑战性。这是因为生成式 AI 虽然能够节约整个组织的成本，但也可能带来日益增加的技术支出，其中包括计算成本、模型开发和管理以及数据管理的相关费用。因此，成本优化是一个至关重要的考量因素。为什么这对您很重要280807060503020104发现结果改善 AI 的成本效益通过精细控制合理调整资源规模实施智能资源管理和调度利用 AI 优化的硬件和软件堆栈利用可对计算资源进行精细控制的云平台，避免资源过度配置。探索自动扩缩等功能，根据实时工作负载需求动态调整资源，并支持异构计算实例（如 CPU、GPU、TPU），以满足特定模型的要求。这不仅能尽可能减少资源浪费，还能确保您仅按实际使用量付费。探索先进的资源管理工具，实现 AI 工作负载的自动分配与调度。动态工作负载调度、抢占式实例（适用于具备容错能力的工作负载）以及智能缓存机制等功能，能够显著减少资源空闲时间，提升整体基础设施利用率，从而降低运营成本。选择在优化 AI 性能方面有成熟经验的基础设施提供商。这包括采用专为 AI 设计的硬件加速器（如 TPU 或 GPU），以及利用高度优化的软件框架（如 JAX、TensorFlow、PyTorch）以最大限度提高硬件利用率。这些优化措施能够显著缩短训练和推理时间，从而大幅节省费用。要有效管理生成式 AI 的成本，不能只选择价格最低的服务，而是应该采取战略性方法。要实现 AI 基础设施的最佳成本效益，需要重点关注以下三个关键领域：通过深入考量这些因素，并选择致力于成本优化的云服务提供商，组织就能在不增加不可持续开支的前提下，充分释放生成式 AI 的潜力。290807060503020104发现结果依托生成式 AI 技术的 Fin-Ops 如何助力实现高成本效益的技术投资回报FinOps 为云环境带来管理规范，通过将技术、财务和业务团队整合在统一的运营框架下，助力实现高成本效益的技术投资回报。据统计，有的组织可借此将云支出降低高达 30%。您可以通过Cloud FinOps 生成式 AI 框架，评估自己是否已准备好采用生成式 AI。300807060503020104发现结果自动驾驶技术公司 Nuro 正在借助 Google Cloud 开发其先进的自动驾驶系统 Nuro Driver，同时大幅提升训练成本效益。借助 Google Cloud TPUs,Nuro 现在可以处理 PB 级的真实道路行驶数据，以更快的速度训练 AI 模型，生成城市级地图并识别道路障碍物，训练速度提升一倍，同时避免了额外的成本支出。31在评估基础设施时，强大的 AI 平台是最重要的评估标准之一受访者希望平台同时具备出色的性能、规模和效率，从而能够帮助其更好地训练、部署并管理 AI。发现结果 50102040305060708320807060403020105发现结果评估生成式 AI 基础设施系统时，最重要的因素有哪些？安全性可伸缩性性能系统效率北美地区欧洲、中东和非洲地区亚太地区鉴于生成式 AI 模型、应用和架构的惊人演进速度，组织优先选择能够跟上发展步伐的平台也就不足为奇了（详见调查问卷发现结果 3）。很少有组织会训练大规模基础模型。然而，无论是为成千上万的内部用户还是数百万客户提供模型，对全球各个地区而言，规模和性能都是关键因素。由于 AI 平台必须处理智能体间的快速通信以及更高数量的推理请求，对平台性能和可伸缩性的需求也在加剧。一个强大的平台必须能够支持这些类型的工作负载（无论其是否采用容器化架构），同时在计算、存储和网络扩展、资源共享、访问和路由等方面持续创新。重要的基础设施因素的受访者希望拥有一个强大的 AI 平台 45%39%46%37%34%29%36%34%37%41%32%35%38%27%27%31%29%330807060403020105发现结果AI 推动了 GPU 的普及。然而，您的核心基础设施还应具备灵活性，以针对不同应用场景实现最佳的性价比，包括采用特定 CPU 和定制芯片。数据对 AI 至关重要，因此平台必须提供多种存储机制来注入、存储和传递数据。例如，并行文件系统适用于某些 AI 训练，而在训练数据静态时，对象存储和块存储可能高效得多。在网络方面，必须考虑每台主机、集群内部主机之间以及在云、跨云与私有网络环境中的网络部署。随着生成式 AI 实施的不断发展，AI 平台的软件也必须不断进化。例如，可变长度的上下文窗口需要更智能的网络负载均衡，以便正确地路由请求。多步推理可能需要多个计算主机来动态处理工作任务。处理大规模 AI 作业的基础设施成本极高，因此要求软件通过广泛的可观测性、更复杂的检查点机制来尽量减少不可避免的中断，甚至让 AI 集群在降级模式下运行。一些组织希望完全访问 AI 基础设施，因为其希望实施全新技术、框架和模型，以最大程度利用硬件资源。有些组织则更倾向于采用现有模型，并针对自己特定的应用场景进行优化，基础设施控制对这些组织来说是次要的。还有一些企业则仅希望通过 API 访问预配置的 AI 模型，以便将其集成到应用中。如果仅通过一个具备出色可扩缩性、性能及可靠性的基础设施，就能满足上述不同使用方式的需求，那么这些组织就都能从中受益。创新基础设施动态的集成软件服务不同角色一个强大的 AI 平台能够满足不同用户的需求，例如开发人员、科学家、IT 运维人员等等。这种平台具备可扩缩性，并能够针对不断发展的架构和框架进行优化。它还能够处理从开发到部署再到管理的整个 AI 生命周期。为什么这对您很重要340807060403020105发现结果面对复杂的数字环境，Moloco 致力于提供基于 AI 的广告解决方案，利用第一方数据帮助企业根据实时消费者行为精准定位和获取高价值用户，从而实现更高的转化率和投资回报率。Moloco 会使用来自十几个深度神经网络的预测数据，平台每天处理 10 PB（千万亿字节）的数据，最高处理速度达到每秒 1050 万次查询。Moloco 依靠 Google Kubernetes Engine 来处理如此庞大的数据负载，并优化服务效率，同时保持成本效益。35边缘计算正在拓展 AI 的 应用边界项发现结果 60102040306050708360807050403020106发现结果边缘计算涵盖 IoT 设备（如智能冰箱）、自动驾驶汽车以及移动设备。它通过分布式处理来降低延迟，同时对计算资源的效率提出更高要求。这种计算分布还能改善网络性能，并通过本地处理数据、最大程度减少敏感信息的传输，更好地满足数据隐私法规（如 GDPR、CCPA）的要求。目前，几乎每个行业都在一定程度上依赖 IoT 或移动设备，以支持实时应用并保障业务连续性。在医疗、制造和零售等领域，边缘计算通过处理传感器信息来推动分析、维持质量控制甚至实现设备的自主运行。通过本地处理医疗设备采集的生命体征数据，实现即时的异常值检测与医护人员通知在边缘部署计算机视觉模型，实现对医护人员个人防护用品(PPE)合规性的实时识别与验证基于传感器数据分析，实现工业设备的预测性维护基于边缘视频分析的实时库存管理具体应用场景：生成式 AI 正被应用于越来越多的场景中，其中许多应用已超出传统的集中式数据中心范畴。370807050403020106发现结果的组织表示，边缘计算对其来说非常重要或极其重要将生成式 AI 模型部署到边缘设备（例如 IoT 设备、移动设备），这对您的组织来说有多重要？极其重要非常重要重要比较重要6%20%40%33%73%380807050403020106发现结果正如您可能预料的那样，将生成式 AI 部署在边缘设备上对制造业(70%)和医疗行业(74%)来说是重要的，但对于计算机硬件或软件行业的公司而言，重要性更高(81%)，对计算机/IT 咨询公司来说更是尤为重要(85%)。将生成式 AI 模型部署到边缘设备（例如 IoT 设备、移动设备），这对您的组织来说有多重要？（按行业）非常重要IT 咨询零售医疗保健制造硬件/软件金融服务极其重要跨行业和地区观察38%32%47%60%35%33%46%49%26%13%35%14%390807050403020106发现结果资源与连接受限多个边缘部署所面临的挑战包括：数据安全和治理部署与管理的复杂性尽管其重要性日益提升，但在边缘实现 AI 的现代化与应用、保持对关键业务数据的控制，以及管理多个边缘部署的复杂性，仍然带来了诸多挑战。因此，市场对基于云的解决方案的需求正在不断增长，这类方案可以支持将生成式 AI 模型部署到边缘，用于实时应用。随着客户对实时交互体验的期望不断上升，边缘计算以及能够快速处理生成式 AI 数据的可靠基础设施，也将变得愈发必要。为什么这对您很重要边缘设备的计算能力有限，且常常面临网络连接不稳定的问题，这使得复杂 AI 模型的部署与管理变得困难。因此，组织需要进行专门的优化，并具备强大的离线处理能力。在边缘保护敏感数据、确保数据质量与合规性，以及在分散位置中维持数据主权控制，是对安全和治理的重大挑战。将 AI 部署扩展至数量众多、地域分散的边缘设备，同时还要进行监控、维护、版本控制和编排，会使复杂性显著增加，因此需要借助自动化工具和先进的管理平台来应对这一挑战。400807050403020106发现结果像麦当劳这样的全球零售商计划部署 Google Distributed Cloud，在全球数千家餐厅中应用 AI 技术。这将提供全新的客户体验平台，并将信息存储与高性能计算能力引入每一家餐厅。借助这些边缘计算能力和分布式 AI，麦当劳将能够获得关于设备性能的全新分析洞见，及时采取措施以避免业务中断，并简化运营流程，从而让餐厅团队能够专注于提供卓越的客户体验。41混合云为生成式 AI 部署提供了灵活性这种混合方式将本地基础设施与公有云资源结合了起来。发现结果 70102040307060508420806050403020107发现结果相比单一的本地部署或单一公有云部署，混合云方案更受青睐。混合云方法使组织能够根据每个工作负载的特性选择最优的运行环境，在性能、成本和安全性之间实现平衡。对于某些工作负载，可能需要根据法规要求将数据保留在本地。混合云方法能够满足这一需求，同时仍能利用公有云带来的优势。您的组织主要使用哪种云基础设施方法来处理生成式 AI 工作负载？原因显而易见：更加灵活改善数据驻留和和合规性我们的研究清楚表明，大多数组织倾向于采用混合云方案(74%)。单一公有云本地多云混合：本地部署+单一公有云 混合：本地部署+多云 41%33%19%4%3%430806050403020107发现结果鉴于大部分组织都选择了混合云，这意味着技术领导者必须了解如何设计、实施和管理混合云环境。如果忽视这一趋势，可能会落后于已经充分利用混合云提供的灵活性和控制力的竞争对手。组织需要评估现有的基础设施和云合作伙伴关系，看看是否能够支持混合云方案。关键在于，组织需要根据各种工作负载灵活选择合适的环境。这需要组织有策略地思考工作负载的部署位置，考虑每个应用的性能、成本和安全需求等因素。为什么这对您很重要440806050403020107发现结果Toyota 利用 Google Cloud 的 AI Hypercomputer 构建混合云架构，推动其创新的 AI 平台，使工厂员工能够在关键应用场景中开发和部署 AI 模型。Toyota 成功减少了 20%的学习模型创建时间，改善了用户体验并提高了采用率。随着更多工厂车间员工能够创建 AI 模型，Toyota 实现了更多手动和劳动密集型任务的自动化处理，通过制造效率和流程优化，每年节省了超过 10,000 小时的工作时间。45大多数组织依赖云服务提供商提供的生成式 AI 解决方案发现结果 80102040308060507460706050403020108发现结果组织需要借助托管式服务来简化操作，并充分利用云资源。在构建生成式 AI 解决方案时，最常见的方法是利用像 Gemini、Claude 和 AI21 等专有模型，重点考虑速度、易用性、成本效益和可伸缩性。构建自定义内部模型是最不常见的方法，因为它需要更多的时间和资源，这表明对于许多组织而言，专有模型已经足够满足他们的需求。以下哪种说法最准确地描述了您的组织当前使用生成式 AI 的方式？您的组织偏好采用哪种方法来管理生成式 AI 基础设施？构建和运行 AI 工作负载相当复杂。主要采用自主管理，辅以一些托管式服务混合（均衡搭配）主要采用托管式服务，辅以一些自主管理完全自主管理全托管式服务开发自定义的内部模型混合采用多种方法使用经过微调的开源模型使用现成解决方案使用专有模型构建解决方案的组织偏好在生成式 AI 基础设施中使用托管式服务10%12%17%22%39%57%21%4%17%2%98%470706050403020108发现结果直接从云开发者获取 制造商 内部自主开发 全球系统集成商(GSI)结合以上渠道独立软件供应商(ISV)云服务提供商在生成式 AI 实施中发挥着关键作用。您的组织主要通过哪些渠道获取和部署生成式 AI 解决方案？要设计能够取得长期成功的架构，需要在多个目标之间巧妙权衡：既要利用生成式 AI 的新功能提升效率，又要优化核心应用以提升客户体验，同时还要对现有的基础设施进行现代化改造以跟上时代步伐。我们正迅速接近一个转折点：传统的云计算和基础设施将难以满足当前日益增长的容量和性能需求。鉴于构建和管理 AI 就绪型基础设施的复杂性与资源密集度，越来越多的组织(48%)开始寻求云服务提供商的支持，而相对较少的一部分组织（36%）则转向独立软件供应商(ISV)。这种转变本质上是为了建立战略合作关系，从而利用专业知识和资源，加速实现 AI 的落地和扩展。这正推动企业基础设施市场规模大幅增长。根据 2025 年 Google Cloud AI 商业趋势报告，到 2026 年，AI 在企业基础设施中的采用率预计将增长 30%以上。1这种极快的普及速度，在全球范围内引发了对具备高计算能力和高功率密度的数据中心空间的强烈需求。截至 2030 年，对 AI 就绪型数据中心容量的需求预计将以平均每年 33%的速度增长2，并且数据中心方面的支出预计将在未来五年内翻一番3。1 Credence Research(2024)。All-In-One Infrastructure Market Size,Share and Forecast 2032（2032 年一体化基础设施的市场规模、份额和预测）。2 McKinsey&Company(2024)。AI power:Expanding data center capacity to meet growing demand.（AI 的力量：提升数据中心功能以满足上涨的需求）。3 美国全国经济研究所(2024)。The Rapid Adoption of Generative AI（生成式 AI 的迅速采用）。480706050403020108发现结果为什么这对您很重要构建坚实的 AI 基础设施是实现成功的基石。组织能否在未来取得成功，很大程度上取决于其是否拥有能够支持大规模 AI 工作负载、企业应用体系以及新应用开发的基础设施，该基础设施必须具备出色的可扩缩性、可靠性、计算性能、效率、安全性、易用性与成本效益。然而，许多企业和政府机构往往缺乏独立开发这些技术和工具所需的技能、时间与资源。因此，组织越来越多地依赖托管式服务提供商来管理、扩展基础设施并保障其安全性。为业务寻找最合适的 AI 解决方案，正是组织保持领先地位的关键。Google Cloud 的 全球合作伙伴生态系统成员接受过专业培训并获得了认证，可交付满足行业特定需求的云解决方案。49这一向云服务商转变的趋势，并非昙花一现。对于那些正在努力应对复杂的 AI 开发、部署和管理工作，同时又要克服预算限制和竞争压力的领导者来说，这是一项势在必行的战略任务。研究表明，生成式 AI 对许多组织而言，已成为必须接受的现实。越来越多的企业倾向于选择集成了 AI 和数据技术的即时可用解决方案，以简化决策过程，从而更好地运营、扩展、优化基础设施并保证其安全性。随着生成式 AI 应用场景的不断扩展，组织将需要依赖多样化的模型来满足不同的业务需求。而在不让模型过于复杂的前提下，选择最适合自身应用场景的模型，将成为一项不小的挑战。云服务提供商是 AI 时代的战略合作伙伴50领先的组织正在借助云服务提供商的专业能力，打造全面的解决方案。这些解决方案重点关注以下关键事项：安全性可伸缩性数据质量成本灵活性实施强有力的安全措施，保护敏感数据，确保合规性通过慎重选择合适的合作伙伴、工具和框架，组织可以为其在 AI 时代取得成功打下坚实基础。专为生成式 AI 重新设计基础设施 指南可帮助技术领导者设计强大、可扩缩且具成本效益的生成式 AI 系统。设计能够随着 AI 工作负载增长而扩缩的基础设施架构确保获取高质量的数据，以训练和部署高效的 AI 模型 限制因 AI 所需的大量计算资源与相关维护所带来的高昂支出根据不同应用的各种工作负载选择合适的环境51对技术领导者而言，使命已经十分明确：构建一个能够满足业务需求、同时符合这项变革性技术要求的 AI 就绪型基础设施。我们的研究表明，成功的关键不在于提供孤立的单点解决方案，而在于部署一个强大且集成的 AI 平台。将 AI 深度融入业务运营应成为您的核心战略。Google Cloud 可帮助您减轻负担，为您提供性能卓越、具备可扩缩性和高效率的 AI 基础设施，这些基础设施已成功为全球各大先进 AI 产品提供强力支持。我们紧跟市场节奏，已经推出尖端的推理模型，并支持边缘 AI 部署，同时帮助客户在自有数据中心中安全落地 AI 应用。从使用 Vertex AI 的企业数据科学家，到通过 Cloud Run 和 Gemini 端点集成 AI 的开发者，再到依托 AI Hypercomputer 构建基础模型的 AI 公司，我们的完整技术堆栈已为当下和日新月异的未来做好准备。Google Cloud 不只是云服务提供商，更是您 AI 转型过程中的战略合作伙伴。我们坚持开源原则，持续通过 Google DeepMind 推动技术创新，每天为数十亿用户提供 AI 技术服务，并始终专注于企业级安全与治