人工智能行业：AIGC加速企业创新实践指南.pdf

12在人工智能发展的漫长历程中，如何让机器学会创作一直被视为难以逾越的天堑，“创造力”也因此被视为人类与机器最本质的区别之一。然而，人类的创造力也终将赋予机器创造力，把世界送入智能创作的新时代。采用机器学习的新范式赋能业务不断探索已经播种了几十年，但随着足够的可伸缩算力的就位、海量数据的爆炸，以及机器学习技术的快速进步，各行各业的客户开始对业务进行重塑。最近，智能对话类型的 AIGC 应用引起了广泛的关注，引发了诸多想象。我们正处在一个机器学习被大规模采用的转折点上，我们也相信人工智能将会重塑大量客户体验和应用程序。从机器学习到智能创造，从专业生产内容（PGC,Professional-generated Content),用户生产内容（UGC,User-generated Content）到人工智能生成内容(AIGC,AI-generated Content)，我们见证了一场深刻的生产力变革，而这份变革也开始影响到我们工作与生活的方方面面，AIGC 也慢慢的演变成了一场技术和艺术碰撞的盛宴，不断释放人类创造力，提高艺术设计领域的数字化创新效率。本白皮书将结合 AIGC 领域最新技术趋势和真实行业客户案例，向所有 AIGC 的决策者，开发者、创业者和使用者展示 AIGC 给各行各业带来的创新与变革，帮助用户更好的理解AIGC 带给企业的价值，以及如何借助亚马逊云科技的产品和服务快速高效地构建差异化的 AIGC 应用，增强企业在 AIGC 时代的敏捷性与竞争力。前言3目 录 篇章一AIGC 介绍与典型行业应用场景介绍篇章二AIGC 技术生态与典型客户需求篇章三亚马逊云科技 AIGC 技术能力与解决方案篇章四AIGC 客户案例分享4810234Gartner 将生成式 AI 列为最有商业前景的人工智能技术之一。根据其发布的 2022 年人工智能技术成熟度曲线，预计生成式 AI 将在 2-5 年内进入生产成熟期，发展潜力与应用空间巨大。2025 年，30%大型组织对外消息将由生成式 AI 生成。2025 年，50%的药物发现与研发将使用生成式 AI。2027 年，30%的制造商将使用生成式 AI 提高产品研发效率。从数字内容生产，到引领产业变革，商业前景，加速产业融合与变革。从字面意思来看，AIGC 是继 PGC，UGC 之后的新型内容创作方式，可以在创意、表现力、迭代、传播、个性化等方面，充分发挥技术优势，打造新的数字内容生成与交互形态。因此，AIGC 的狭义概念是利用人工智能自动生成内容的生产方式。但是AIGC 已经代表了人工智能技术发现的新趋势，过去传统的人工智能偏向于分析能力，即通过分析一组数据，发现其中的规律和模式并用于多种用途，比如应用最为广泛的个性化推荐算法。而现在的人工智能正在生成新的东西，而不是仅仅局限于分析已经存在的东西，从而实现了人工智能从感知理解到生成创造的跃迁。广义的 AIGC 可以看作是像人类一样具备生成创造能力的人工智能技术，即生成式人工智能，它可以基于训练数据和生成算法模型，自主生成创造新的文本、图像、音乐、视频、3D 交互内容（如虚拟人、虚拟物品、虚拟环境等）等各种形式的内容和数据，以及包括开启科学新发现、创造新的价值和意义等。因此，AIGC已经加速成为了人工智能领域的新疆域，推动人工智能迎来下一个时代。AIGC，生成式 AI(Generative AI)与基础模型(Foundation Models)人工智能，可为现实世界的任务制作足够接近人类生成内容的原创内容由大量数据预先训练的基础模型驱动只需微调，即可用于特定领域自定义任务适用于文本摘要、问答、数字艺术创作、代码生成等多种用例降低机器学习模型开发的时间和成本，提升效率，加速创新AIGC(生成式人工智能)是指可生成全新内容的人工智能技术篇章一 AIGC 介绍与典型行业应用场景5AIGC 基础模型的主要使用方式与所有人工智能技术一样，AIGC的能力由机器学习模型提供，这些模型是基于大量数据进行预先训练的，通常被称为基础模型（Foundation Models）。机器学习的最新进展（特别是基于 transformer 的神经网络架构的发明）直接带来这一类模型的爆发式增长，这类模型通常包含数十亿个参数或变量。如今的基础模型，例如大型语言模型 GPT4 或 BLOOM，可以执行跨多个领域的多种任务，例如撰写博客文章、解决算术问题、对话聊天、基于文档回答问题等,由 stability.ai 开发的文生图模型 Stable Diffusion，可以生成创意图片，转换已有图像风格等。尽管预训练基础模型所带来的功能和可能性已足够令人惊叹，而真正让业界兴奋不已的是，这些通用模型也可以被定制化加工，执行专属于其业务领域的特定功能，帮助业务建立差异化竞争优势，与从零开始训练模型相比，仅需使用一小部分数据和计算资源。定制化的基础模型可以带来独有的顾客体验，体现公司的观点、风格和服务，适用于众多消费者行业，如金融银行、旅行和医疗等。例如，一家金融公司如果需要使用所有相关交易自动生成活动日报以供内部流通，它可以使用包括既5训练时长和成本定制化专业程度已有基础模型的提示词工程(Prompt Engineering)不需要定制化模型需要定制化提示词部分针对特定任务优化增加特定的私域训练数据集完整模型架构与大小词汇量文本长度训练数据集不需要低几分钟到几小时中数天，数周到数月不等高模型微调(Fine-tuning)预训练(Pretraining)往报告在内的专有数据来定制模型，以便基础模型了解如何阅读报告和使用哪些数据来生成日报。但是，基础模型也有一些挑战，包括计算成本高和数据偏差等问题。计算成本是基础模型的一个主要挑战。由于这些模型具有数十亿个参数，因此它们需要大量的计算资源才能进行训练和推理。对于中小型企业来说，从 0 到 1 训练自己的基础模型非常困难，而且在推理时也需要多个GPU进行计算，因此运行成本非常高。另一个挑战是数据偏差。由于基础模型是在互联网上的未经筛选数据上进行预训练的，因此这些数据可能包含偏见、仇恨言论等有害信息。即使有人工标注员，也难以检查每个数据点，因此这可能导致基础模型的信任度不高。尽管存在这些挑战，基础模型的发展仍然是一种重要趋势，它可以提高自然语言处理领域的效率和灵活性。将来，我们可能会看到更多的基础模型应用于各种任务和应用程序，从而推动人工智能技术的进一步发展。6AIGC 塑造数字内容生产与交互的新范式伴随数字技术与实体经济的深度融合、互联网企业数字化场景拓展至元宇宙，人类对数字内容的总量和丰富程度的需求不断提高，AIGC 作为当前重要的内容生产方式，已率先在游戏、营销、电商、传媒、影视娱乐等领域取得进展，伴随 AIGC 在各个行业的渗透，AIGC 作为 AI 数字商业的探路者，有望开启下一场数字商业模式的新篇章。生成图片媲美专业画师的精美图片stability.ai，Midjourney，OpenAI，RunwayML，Tiamat 生成文字人机交互、写邮件、写广告、剧本和小说ChatGPT 对话形式人机交互；Copy.ai-广告和营销文案；Jasper.ai-营销推广文案及博客生成音频人工智能作曲&编曲、人工智能音乐生成、人工智能演唱、声音克隆人工智能音乐团队 Amper，人工智能播客 Podcast.ai，灵动音科技，行者人工智能生成视频文字生成视频、视频内容创作、动态面部编辑、画质增强修复Make-A-Video(Meta)，Imagen Video(Google)，Phenaki(Google)，Synthesia，Hour One6按照模态区分，AIGC 又可分为音频生成、文本生成、图像生成、视频生成及图像、视频、文本间的跨模态生成，细分场景众多，其中跨模态生成值得重点关注。AIGC 典型应用场景与行业分布7游戏聊天机器人、游戏原画设计、场景生成、游戏策略生成、BGM 生成、IP 角色生成；广告设计创意辅助、包装设计、服装设计出图、品牌宣传视频生成、营销素材生成、营销文案配图；媒体娱乐视频游戏生成、AI 生成虚拟人头像、自拍图片风格生成、剧本设计、特效制作、影视作品配乐；零售电商风控欺诈检测、商品 3D 模型、虚拟主播、虚拟货场、智能商品详情、商品个性化图案设计；金融领域智能投顾、智能客服、个性化营销文案、产品风险与客户信用评估、行业研究报告生成；医疗健康医学影像分析、健康数据分析、药物研发、个性化治疗医护陪伴、心理治疗；AIGC 主流行业实践与典型应用场景8AIGC 技术生态加速形成与发展，目前整个 AIGC 应用的技术生态大致可以分为三层：分别为基础设施、基础模型和应用程序。AIGC 技术生态：通过运行自己的基础模型管道或者依赖第三方基础模型 API，把 AIGC 基础模型以端到端的方式为客户提供服务和产品，比如炙手可热的人工智能文本生成领域独角兽 Jasper.ai,提供营销文案生成的 SaaS 服务如广告文案、博客、外发邮件等，人工智能绘画软件 Midjourney 等；为 AIGC 应用提供支持的基础模型，可以通过闭源专有 API（如 GPT-3）或开源模型(如 Stable Diffusion)，或者提供开源模型托管平台（如 HuggingFace）；提供 AIGC 基础模型进行训练和推理所需的算力基础设施（云计算服务商和硬件制造商），如亚马逊云科技，英伟达等；需要注意的是，我们讲的并不是整个市场的生态图，而是一个分析市场的框架，本文在每个类别中都列出了一些知名厂商的例子，但没有囊括目前所有最先进的 AIGC 应用，也没有深入讨论 MLOps 或 LLMOps 工具，因为现在还没有达到完全成熟的标准化，有机会我们会继续讨论。图片来源：A16Z:who-owns-the-generative-ai-platform/AIGC 技术生态篇章二 AIGC 技术生态与典型客户需求8AIGC 技术生态用户端到端应用程序面向最终用户的应用程序，使用专有基础模型示例：Midjourney、Runway闭源基础模型通过 API 公开的大规模预训练模型示例：GPT-3(OpenAI)模型中心共享和托管模型的平台示例：Hugging Face、Replicate开源基础模型发布训练参数权重的模型示例：Stable Diffusion(stability.ai)云平台在云端部署向开发人员开放的基础硬件示例：Amazon Web Services、GCP、Azure、Coreweave计算硬件专为模型训练和推理工作负载优化的加速器芯片示例：GPU(Nvidia)、TPU(Google)应用程序面向最终用户的 B2B 和 B2C 应用程序，没有专有基础模型示例：Jasper、Github Copilot应用程序基础模型基础设施9作为云服务提供商，亚马逊云科技专注于为基础模型开发者和使用者提供全面、可靠、安全的工具与服务，助力AIGC应用开发加速与成本优化。基于此，我们将基础模型生态的主要参与者分为三类：基础模型提供商(Model Provider)，使用基础模型调优提供服务的厂商(Model Tuner)和直接使用基础模型厂商(Model Consumer)，我们总结的每一类用户的需求和面临的主要挑战如下：算力规模大 性能要求高算力资源数据隐私安全 内容合规 安全合规模型体积大训练难度高训练调参推理延迟大调用成本高托管推理数据规模大数据质量参差不齐数据准备从 0 到 1 构建基础模型技术门槛高，需要大量的金钱和时间成本基础模型提供商(Model Providers)需要专有数据进行持续的模型优化工作使用基础模型调优提供服务的厂商(Model Tuners)缺乏定制支持，若使用闭源 API 则无法控制数据直接使用基础模型厂商(Model Consumers)基于开源基础模型如 Stable Diffusion，大语言模型进行fine-tune 以更好适用业务需求直接部署开源基础模型进行推理或者调用闭源基础模型 APIAIGC 应用构建者和使用者的主要需求AIGC 基础模型生态与典型客户需求基础模型产业化所面临的主要技术挑战：10篇章三亚马逊云科技 AIGC 技术能力与解决方案亚马逊云科技 AIGC 技术能力概览20 多年来，人工智能和机器学习一直是亚马逊云科技关注的焦点，可以说，在机器学习领域的发明创新已经深刻在亚马逊云科技的 DNA 里。当前，用户在亚马逊云科技上使用的许多功能都是由其机器学习驱动的，比如电子商务推荐引擎、优化机器人拣选路线、无人机 Prime Air。还有语音助手 Alexa，这也得益于来自 30 多种不同的机器学习系统的支持，每周回应客户数十亿次管理智能家居、购物、获取信息和娱乐的请求。亚马逊有数千名工程师专注于机器学习研究，这既是我们的宝贵资产，也是我们现在最关注的理念和面向未来的实力之所在。在亚马逊云科技，我们致力于不断降低机器学习的使用门槛。截至目前，我们已经帮助超过 10 万家来自各行各业的不同规模的客户使用机器学习进行创新。我们在人工智能和机器学习堆栈的三个层级都拥有至深至广的产品组合。长期以来，通过不断投入、持续创新，我们为机器学习提供高性能、可伸缩的基础设施和极具性价比的机器学习训练和推理；我们研发了 Amazon SageMaker，为所有开发人员构建、训练和部署模型提供最大的便利；我们还推出了大量服务，使客户通过简单的 API 调用就可添加 AI 功能到应用程序中，如图像识别、预测和智能搜索;同样，在 AIGC 技术上，亚马逊云科技也迈出了重要的一步，让这项技术也将赋能千行百业。亚马逊云科技能做的就是，让更多客户能够访问基础模型能力、为机器学习推理和训练提供基础设施、提高所有开发人员的编码效率，帮助我们的客户更简单、更容易地在业务中使用 AIGC。userid:497168,docid:145402,date:2023-11-10,11业务流程优化Amazon PersonalizeAmazon ForecastCanvas无代码机器学习文本Amazon Translate 文本Amazon Titan TextAmazon Titan Embeddings Amazon ComprehendAI21Jurassic-2搜索Amazon KendraJumpstart模型与解决方案库语音Amazon Polly AnthropicClaudestability.aiStable DiffusionMore对话Amazon LexAmazon Transcribe CallAnalyticsGroundTruth数据标记EDGE MANAGER管理边缘设备 CI/CD|数据治理|负责任的人工智能代码+DEVOPSAmazon CodeGuruAmazon CodeWhisperer视觉Amazon Textract Amazon Rekognition 工业Amazon MonitronAmazon Lookout for Equipment生命健康Amazon HealthLakeAmazon Comprehend Medical专用通用PyTorch,Apache MXNet,TensorFlowAmazon EC2GPUsAmazon InferentiaAmazon TrainiumHabana GaudiFPGACPUs人工智能服务Amazon SageMakerAmazon Bedrock机器学习框架与基础设施数据准备地理信息机器学习Notebook模型开发训练模型参数调优部署至生产管理和监控Studio IDE特征存储Amazon Fraud DetectorAmazon Lookout forMetricsAmazon Lookout for VisionAmazon DevOpsGuruContact LensVoice IDAmazon Transcribe MedicalAmazon OmicsAmazon TranscribeAmazon Panorama亚马逊云科技人工智能与机器学习技术栈至广至深的机器学习产品套件111212面向不同的基础模型生态伙伴，亚马逊云科技提供了不同层次的产品与服务帮助用户提升开发效率，主要的产品和服务如下：基础模型提供商构建自己的基础模型Amazon SageMaker基于亚马逊云科技自研Trainium 和 Inferentia芯片的 EC2 实例面向基础模型提供商，使用基础模型调优提供服务的厂商，直接使用基础模型厂商，提供全面深入的产品与服务使用 Amazon SageMaker 基础模型 HubSageMaker JumpStart使用基础模型调优提供服务的厂商基于 Nvidia GPU 的 EC2 实例P4P3G4EC2 P4instancesEC2 G4instancesEC2 P3instancesAmazon CodeWhispererAIGC 解决方案推理调用基础模型提供的 API直接使用基础模型厂商JumpStart 提供的最先进的第三方预训练基础模型Hugging FaceAmazon Bedrock来自亚马逊的自研大语言基础模型来自 AI21 Labs、Anthropic 和 stability.ai 的第三方基础模型Titan TextTitan EmbeddingsJurassic-2ClaudeStable Diffusion13面向模型提供商提供适用于每种工作负载的高性能、经济高效、可扩展基础设施，尤其是两款基于无论运行、构建还是定制基础模型，客户都需要高性能、低成本且为机器学习专门构建的基础设施。亚马逊云科技提供基于英伟达最新 GPU 芯片（如 H100,A100,A10,T4 等）的虚机实例,满足用户对基础模型训练和微调的算力资源需求。除此之外，过去五年，亚马逊云科技持续加大在自研芯片方面的投入，不断突破性能和价格的极限，以支持对此有极高要求的机器学习训练与推理等工作负载。亚马逊云科技 Trainium 和 Inferentia 芯片可以提供在云上训练模型和运行推理的最低成本。正是因为我们在成本和性能方面的优势，像 AI21 Labs、Anthropic、Cohere、Grammarly、HuggingFace、Runway、stability.ai 等领先的 AI 初创公司都选择运行在亚马逊云科技平台上。今天，基础模型花费的时间和金钱主要用于训练，这是因为许多客户才刚刚开始将基础模型部署到生产中。由 Trainium 支持的 Trn1 计算实例与其他任何Amazon EC2 实例相比，可以节省高达 50%的训练成本，经过优化后可以在与高达 800Gbps 的第二代 EFA（弹性结构适配器）网络相连的多个服务器上分发训练任务。客户可以在超大规模集群（UltraClusters）中部署 Trn1 实例，数量可以扩展到在同一可用区中 3 万个 Trainium 芯片，相当于超过 6 exaflops 的计算能力，并具有 PB 级网络。许多亚马逊云科技客户，包括 Helixon、Money Forward和亚马逊的搜索团队，都使用 Trn1 实例将训练最大规模的深度学习模型所需的时产品亮点：间从几个月缩短到几周甚至几天，并且降低了成本。800 Gbps 的带宽已经很大，但我们仍不断创新、拓展带宽，推出全新的、网络优化型 Trn1n 实例，它可以提供 1600 Gbps 的网络带宽，专为大型网络密集型模型设计，其性能比 Trn1 高出20%。但是，未来，当基础模型进入大规模部署时，我们相信，大部分机器学习成本将来自运行推理。因此，我们推出了由 Amazon Inferentia2 提供支持的 Inf2 实例，这些实例专门针对运行数千亿个参数的基础模型驱动的 AIGC 应用程序进行了优化。与上一代相比，Inf2 实例不仅吞吐量提高了 4 倍，延迟降低了 10 倍，还可实现加速器之间的超高速连接以支持大规模分布式推理。与同类 Amazon EC2 实例相比，这些能力将推理性价比提高了 40%，并把云中的推理成本降到最低。在云端运行深度学习（DL）模型时单次推理的最低成本与同类 Amazon EC2 实例相比，将推理性价比提高了 70%大语言模型和 diffusion模型最经济高效的训练方式大语言模型和 diffusion 模型最经济高效的推理方式与同类 Amazon EC2 实例相比，将推理性价比提高了 50%与同类 Amazon EC2 实例相比，将推理性价比提高了 50%亚马逊云科技面向 AIGC 应用的专用加速芯片Amazon InferentiaAmazon Trainium Amazon Inferentia2 AmazonInferentia自研 AI 训练(Trainium)与推理(Inferentia)芯片专门针对 AIGC应用优化的高性价比 EC2 实例 Trn1 和 Inf2，帮助企业大幅节省AIGC 训练和推理的成本Amazon Trainium14Amazon SageMaker面向机器学习工程化：Amazon SageMaker无需自行构建、端到端机器学习平台，最大限度节省 AIGC 模型开发和应用成本，提升整体生产效率。降低训练成本内置竞价型实例训练模型成本优化高达 90%针对大规模的 AIGC 提供异步推理算力自动伸缩最低至 0内置 MLOps 套件将 AIGC 实验自动化部署至生产面向基础模型提供商以及使用基础模型调优提供服务的厂商，提供全托管的一站式机器学习开发平台 Amazon SageMaker，助力用户高效实现 AIGC 基础模型的训练，推理，自定义、微调，部署和管理产品亮点：针对基础模型训练针对基础模型推理 Amazon SageMaker 可以轻松访问包括 Nvidia GPU，Amazon Trainium 在内的最新的基础设施资源，而且这些实例之间实现了超高速网络通信与高性能存储，方便算法人员聚焦模型调试的工作;Amazon SageMaker 提供了包括 Studio，Notebook 等一系列调试、分析以及追踪模型效果的工具，可以帮助算法人员尽快完成模型调整，此外 Amazon SageMaker 提供包含数据标注、模型训练、微调、部署的标准化、自动化的端到端流程和管理工具，轻松实践机器学习运维 MLOps 和大规模集群协调;对 TensorFlow、PyTorch 和 HuggingFace 等框架和库进行了针对亚马逊云科技的优化，提供了显著的性能改善;Amazon SageMaker 自带分布式训练库，支持数据并行以及模型并行（管道并行和张量并行）等模式，使得基础模型的分布式训练更加容易上手。除了 Amazon SageMaker 自带的分布式训练库外，还支持 DeepSpeed 以及 FSDP 等开源分布式训练框架，适配不同的客户需求;超大规模基础模型训练成本节省:借助 Amazon SageMaker，您可以使用托管式 Spot 竞价实例轻松训练机器学习模型，与按需实例相比，使用托管的 Spot 实例训练模型，可以将成本优化高达 90%。针对不同的客户需求场景，Amazon SageMaker 支持多种推理方式，例如实时推理模式以满足超低时延的业务，批量推理以满足大型数据集的离线业务，异步推理以满足长时延的场景等；相较利用 Amazon EC2 或 Amazon EKS，利用 Amazon SageMaker 进行模型部署和推理，可以省去对于计算实例、网络以及存储等基础设置的运营支出，减少运营成本；Amazon SageMaker 可以轻松将大语言模型进行模型并行化处理，并将模型切片放入单个 GPU 卡内存中，从而实现单机多卡模式下的推理，达到低至几百毫秒的推理延迟以及大规模的吞吐量；Amazon SageMaker 中的大型模型推理容器（LMI）与 DeepSpeed、HFAccelerate等开源模型并行框架集成，此外还配备了 BF16 量化能力，有助于在不显著影响准确性的情况下缩小模型的大小，从而实现低延迟。1415公开模型stability.aiAlexaTMHuggingFaceModels Text2ImageFeatures Fine-tuning on SD 2.1 model支持的任务 输入文本生成图片 UpscalingModels AlexaTM20B支持的任务 机器翻译 问答 摘要生成Models FLAN T5 XL(8 variants)支持的任务 机器翻译 问答 摘要生成 DistilGPT2专有模型Co:hereLightOnAI21Models Cohere generate Model-medium支持的任务 文本生成 信息提取 问答 摘要生成Models Lyra-Fr 10B支持的任务 文本生成 关键词提取 信息提取Models Jurassic-1 Grande 17B支持的任务 文本生成 长文章生成 摘要生成目前在 SageMaker JumpStart 上可用的预训练基础模型1、“一键式”部署和 Fine-tune Stable Diffusion，Bloom、FLAN-T5、Alexa TM 等主流的 AIGC 基础模型；2、内置 300+种开源模型，10+种预设场景解决方案；3、提供支持 TensorFlow、PyTorch、Hugging Face 和 MXNet 等主流框架的先进 SOTA)的开源模型；4、用户可以通过 JumpStart 一键部署或微调众多预训练模型，轻松开发高质量模型并缩短部署时件；5、支持通过应用场景、行业场景、模型名称以及资源类型进行搜索；6、持续增加模型和场景。内置包含 AIGC 场景在内的主流开源模型和算法库低代码构建机器学习模型：SageMaker JumpStart 问答 摘要生成 聊天 信息提取 情感分析 文本分类 问答 文本分类 提升生成图片质量 注释生成 数据生成 注释生成 数据生成1516模型部署模型训练（微调）SageMaker JumpStart支持模型部署、训练（微调）1617Amazon Bedrock针对使用基础模型调优服务厂商和直接使用基础模型厂商的主要需求：首先，他们需要能直接找到并访问高性能基础模型，这些模型需要能够给出最匹配业务场景的优秀反馈结果。其次，客户希望无缝与应用程序集成，且无需管理大量基础设施集群，也不会增加过高的成本。最后，目前基础模型定位是通用场景公用的能力，缺乏使用客户私有数据构建的差异化应用程序。客户希望能够轻松基于基础模型，利用自己的数据（可多可少）构建差异化的应用程序。由于客户进行定制化的数据是非常有价值的 IP，因此需要在处理过程中确保数据安全和隐私保护。同时，客户还希望能控制数据共享和使用。基于客户以上的需求，我们推出了 Amazon BedRock。Amazon Bedrock 是客户使用基础模型构建和扩展生成式人工智能应用程序的最简单方法，为所有开发者降低使用门槛。凭借Bedrock所带来的无服务器体验，客户可以轻松找到适合自身业务的模型，快速上手，在确保数据安全和隐私保护的前提下，使用自有数据基于基础模型进行定制，并使用他们已经熟悉的亚马逊云科技工具和能力，将定制化模型集成并部署到他们的应用程序中，同时无需管理任何基础设施。面向使用基础模型调优服务厂商和直接使用基础模型的厂商，提供 Amazon Bedrock 服务和Amazon Titan 大语言模型，助力构建低门槛，开放，安全的 AIGC 应用产品亮点：18目前，Amazon Bedrock 包含两大类能供客户使用的基础模型，第一类为亚马逊自研的 Titan 模型，包括文本生成的 Titan Text 模型和做矢量编码的 Titan Embedding 模型；第二类为第三方合作伙伴的模型，包 括 AI21 的 Jurassic-2，Anthropic 的 Claude 以及 stability.ai 的 Stable Diffusion 模型，Jurassic-2,Claude 模型为大语言模型，Stable Diffusion 模型为文本生成图片模型。任何规模的企业都可以通过Amazon Bedrock 访问基础模型，加速机器学习在组织内部的应用，并凭借其轻松上手的特性，构建自己的生成式 AI 应用程序。我们相信，Amazon Bedrock将是基础模型普惠化进程中的一大进步。Amazon Bedrock另外一个优势是极其容易定制模型。客户只需向 Amazon Bedrock 展示 Amazon S3 中的几个标注好的数据示例，Amazon Bedrock 就可以针对特定任务微调模型，最少仅需 20 个示例即可，而无需标注大量数据。假设一位时装零售行业的内容营销经理，想为即将推出的手提包新品系列开发新的、针对目标用户的广告创意。他向 Amazon Bedrock 提供了一些标注过的表现最佳的既往营销广告示例，以及新品的相关描述，Amazon Bedrock 将能自动为这些新品生成有效的社交媒体推文内容、展示广告和产品网页。任何客户数据不会被用于底层模型的训练，所有数据都将被加密，且不会离开客户的虚拟私有网络（VPC），可以确保全方位的数据安全和隐私保护。利用全面的亚马逊云科技安全功能加强对客户的数据保护使用客户熟悉的亚马逊云科技工具和功能来部署可扩展、可靠且安全的生成式人工智能应用通过 API 加速开发使用基础模型的生成式人工智能应用，而不需要管理基础设施从 AI21 Labs、Anthropic、stability.ai 以及亚马逊云科技自研大语言模型中进行选择，找到合适客户案例的基础模型使用客户的私有数据定制基础模型Amazon Bedrock 的主要优势Amazon Bedrock 支持广泛的基础模型来自亚马逊的自研大语言基础模型来自 AI21 Labs、Anthropic 和 stability.ai 的第三方基础模型Titan TextJurassic-2ClaudeStable DiffusionTitan Embeddings19AmazonCodeWhisperer1919我们预见到，编程将是生成式 AI 技术得到快速应用的领域之一。今天，软件开发者需要花费大量时间编写相当浅显和无差别的代码。他们还需要花费不少时间学开发人员 在集成开发环境中编写代码集成开发环境上下文会自动发送到 AmazonCodeWhisperer接收代码推荐AmazonCodeWhisperer根据集成开发环境中的先前代码和注释，使用机器学习生成代码推荐安全扫描引用追踪器避免偏差面向直接使用基础模型的代码编写者提供 AI 代码助手 Amazon CodeWhisperer，面向所有个人用户免费开放，助力更快捷、更安全地构建应用程序产品亮点：习复杂的新工具和技术，而这些工具和技术总在不断演进。因此，开发者真正用于开发创新的功能与服务的时间少之又少。为应对这一难题，开发者会尝试从网上复制代码片段再进行修改，但可能无意中就复制了无效代码，有安全隐患的代码，或对开源代码的使用没有进行有效的追溯。而且这种搜索和复制的方式也浪费了开发者用于业务构建的时间。AIGC 可以通过“编写”大部分无差别的代码来大大减少这种繁重的工作，让开发人员能够更快地编写代码，同时让他们有时间专注在更具创造性的编程工作上。因此，我们推出了 Amazon CodeWhisperer，一款 AI 编程助手，通过内嵌的基础模型，可以根据开发者用自然语言描述的注释和集成开发环境（IDE）中的既有代码实时生成代码建议，从而提升开发者的生产效率。使用 CodeWhisperer 生成不同编程语言的代码示例:Python 代码示例Java 代码示例JavaScript 代码示例20Amazon CodeWhisperer：目前正式上线，并免费提供给个人开发者使用!在预览期间，亚马逊云科技进行了一项生产力测试，与未使用 CodeWhisperer 的参与者相比，使用 CodeWhisperer 的参与者完成任务的速度平均快 57%，成功率高 27%。实时生成代码建议扫描代码以发现隐蔽漏洞对疑似开源代码进行标记或默认过滤目前，Amazon CodeWhisperer 对所有个人用户免费，任何人都可以通过邮箱账户在几分钟内注册 Amazon CodeWhisperer 进行使用，而无需亚马逊云科技账号。对于企业客户，我们则提供了 Amazon CodeWhisperer 专业版，其中包括更多高级管理功能，如集成了身份与访问管理服务(IAM)的单点登录(SSO)，以及使用更高限额的安全扫描。构建像 Amazon CodeWhisperer 这样强大的应用程序对开发人员和我们所有的客户来说都是变革性的。我们还有更多创新性的产品在规划中，也期待更多的客户和开发者在亚马逊云科技上构建更加创新和颠覆性的生成式人工智能应用。我们的使命是，让各种技能水平的开发人员和各种规模的组织都有机会使用生成式 AI 进行创新。我们相信，新一波机器学习技术创新才刚刚开始、方兴未艾，未来还有无限可能。57%27%参与者平均提升效率参与者成功完成任务的可能性增加212121亚马逊云科技 AIGC 参考解决方案介绍：通过为社区提供插件和云资源模版的方式，帮助客户将现有 Stable Diffusion 的模型训练，推理和调优等任务负载从本地服务器迁移至 Amazon SageMaker，利用云上弹性资源加速模型迭代，避免单机部署所带来的性能瓶颈。1.基于 Amazon SageMaker 构建的支持 Stable Diffusion Extension 的 AI 作画解决方案方案介绍方案优势1.安装便捷本解决方案使用 Amazon CloudFormation 一键部署亚马逊云科技中间件，搭配社区原生 Stable Diffusion WebUI 插件安装形式一键安装，即可赋能用户快速使用 Amazon SageMaker 云上资源，进行推理和训练工作；4.优化资源配置用户可按需选择云上资源，进行批量推理及模型训练，极大提升效率；5.协作性强依托于开源社区强大资源，通过插件形式可以与其他开发者合作，有助于更快速迭代产品，为用户提供更有用、易用的产品；6.适合对 AI 生图有业务需求的企业客户，包括算法工程师，制作人，画师，设计师等；2.社区原生WebUI 界面与后端分离，用户无需改变现有Stable Diffusion WebUI 的使用习惯，WebUI 可以在任何支持的终端启动而没有 GPU 的限制，原有训练，推理等任务通过插件所提供的功能迁移到 Amazon SageMaker；3.可扩展性强方案插件以及中间件代码开源，采取非侵入式设计，有助于用户快速跟上社区相关功能的迭代，从 WebUI 本 体 到 广 受 欢 迎 的 Dreambooth、ControlNet、LoRa 等插件；22222.基于大语言模型的下一代智能搜索和知识库解决方案各行各业中，都有很多建立企业知识库，并基于知识库提供知识检索和精准问答的需求。例如在制造，汽车和医疗健康领域，过往有大量的技术文档，维保记录，医学指南等没有充分利用的知识资产，亟需能够基于这些资产建立企业知识库服务内部和外部客户。在零售和电商领域，亟需能够对商品进行进准搜索搜索和商品特性进行问答。为了解决用户需求和我们服务之间的差距，我们借助亚马逊云服务，构建智能搜索解决方案:1.以 Amazon OpenSearch 和 Amazon Kendra 为基础构建搜索引擎和建立企业知识库；2.通过 Amazon Sagemaker 部署包含大语言模型（LLM）和语意搜索模型在内的推理节点，结合搜索引擎，可根据企业知识库直接给出搜索问题答案；3.结合Amazon Lex，Amazon Connect 等服务，提供聊天机器人和智能客服场景应用，形成完整的端到端应用。方案介绍方案优势1.简单易用基于 Amazon OpenSearch 和