2023年LLM投资思考及OpenAI案例分享.pdf

LLM 投资思考及 OpenAI 案例分享2023 年 2 月拾象分享丨2023.32023 年 2 月01 关于 LLM 的关键判断3判断 1：OpenAI 是什么？通用计算机搜索公有云GPU终端9:1GPT-5 会成为 Windows 95 级别的新一代通用计算机平台操作系统9:19:15:3:2行业格局7:1:1:1影响格局的三股力量I信仰差异OpenAI-AGI、大厂、开源OpenAI 是全球唯一 AGI 坚定信仰者60%20%20%Foundation ModelsAI InfraKiller Apps行业价值环节行业发展线We are Heren LLM-AI=Windows-PC,Apple-Mobile,AWS-Cloud,Tiktok-Short video n OpenAI-Microsoft=Windows-IBMn OpenAI-Azure/Nvidia=AWS-Cisco/DELL/EMC判断 2：LLM 会拿走价值链的大头5判断 3：LLM 带来了什么变化Mobile 时代LLM 时代n Locationn Touchn Cameran Audio inputn Video inputn Time spent x5n Expand user base x10n User behavior data MLn 理解能力：采集更多非结构化数据交互方式多元化自然语言取代编程语言n 生成能力：n 推理能力n Portal Search 推荐 Chat/AIGC：组织信息的效率和能力持续变强，每次变化都带来更大更新商业模式升级，更简洁+无限可能6判断 4：LLM 的边界是什么n OpenAI 是大脑，微软是身体，多模态是眼睛耳朵n 专有数据：是血液，能形成壁垒，比如私人助理比 LLM 更懂我n 网络效应：LLM 很难重构 WeChat 熟人网络n 规模效应：LLM 依赖高质量供应链，iPhone 做不了 Uber/Airbnb/DoorDashn 机器人：LLM 有机会做掉虚拟机器人，提前布局物理机器人有机会形成壁垒L2L41万/月的个人助理无限供给的 20 美元/月的大学生人类最强大脑7判断 5：LLM 的下一步是 Actionn Action 的相关探索：给大模型的“脑子”装上“手”。n 两个路径：Inflection、adept OpenAI Pluginn Action 会重新组织 App/Saas 软件生态，未来没有 SaaS，只有 Service，LMO(Large Model Optimization)变得很重要ChatGPTChatGPT gets“eyes and ears”with pluginsgets“eyes and ears”with plugins2023 年 2 月02 AI Native 的应用会是什么样AI Native 的应用会是什么样n 交互的重构：从用户适应产品到产品适应用户。n 数据和信息的重构：从结构化数据到非结构化数据。n 服务的重构：从组织、撮合变成直接提供服务。n 反馈机制的重构：从功能迭代到模型迭代。现有软件AI Native 软件有限 Input，用户适应产品站外搜索，多产品切换处理结构化数据服务撮合、促进交易人和人对话功能迭代无限 Input，产品适应用户贴身助手、辅助驾驶处理非结构化数据直接提供服务人 VS 机器、机器 VS 机器模型迭代NowFuture92023 年 2 月03 大厂和独角兽对LLM的应用情况11n大部分老公司还没有通过 LLM 产生可观收入，还没有最佳实践诞生。现在起步不算晚；真正被定价和推向用户的只有 4 个产品；已有 LLM 集成的公司普遍在等待未来 6-8 个月窗口期验证 AI 能力对 win rate、保护定价等方面的帮助。已有大厂和独角兽对 LLM 的应用情况Source：根据市场公开信息整理12LLM 可以跟业务场景自然结合，也可以服务整体战略LLM 作为内部提效工具LLM 作为重点业务突破抓手LLM 与现有业务场景的自然结合LLM 作为公司战略推进抓手将 LLM 集成进入审核系统，加快文字及照片审核效率。用 ChatGPT 结合公司代码库提高开发效率。大多数公司大多数公司客户必须基于 Salesforce 的数据湖仓 Genie 使用 Einstein GPT，推动 Salesforce 占住数据云。Azure 成为了在 AI 方向最领先的超级计算云。CEO Jeff Lawson 宣扬 Twilio Segment 的消费者数据是客户能喂给 LLM 的最重要私有数据之一。Zoom IQ for Sales 添加了为销售会议增加章节和整个会议摘要的能力，加速 Zoom 2.0 战略。13n 微软最激进:认为 GPT-4 已经是 AGI 的一种形态，觉得 Office 365 Copilot 是 Enterprise-Ready 的。n 总体可以分成四派：顶级 CEO 对 LLM 还没形成共识，特别是对 Enterprise-Ready 的 timing 判断类型核心观点门外汉派门外汉派Atlassian Atlassian 的的 Mike Mike 和和 Asana Asana 的的 Dustin Dustin 都直接承认自己是这个领域的学生，探索学习中。都直接承认自己是这个领域的学生，探索学习中。AI AI 基因、稳扎稳打派基因、稳扎稳打派Zoom Zoom 的的 Eric Eric 看看 AI AI 跟跟 1995 1995 年看到互联网一样兴奋，而且年看到互联网一样兴奋，而且 Zoom Zoom 一直是一直是 AIAI-First First 公司，以前的很公司，以前的很多功能都用了多功能都用了 AIAI，比如降噪、虚拟背景等，先探索比如降噪、虚拟背景等，先探索 Zoom IQ for Sales Zoom IQ for Sales 和和 Virtual Agent Virtual Agent 这种能有这种能有机结合的场景；机结合的场景；Airbnb Airbnb 的的 Brain Brain 认为认为 Airbnb Airbnb 不是最好的不是最好的 AI AI 公司，但将为公司，但将为 AI AI 设计出最好的界面，设计出最好的界面，LLM LLM 有助于自己有助于自己用好评论数据做用好评论数据做 SKU SKU 导购，但是觉得不用急，今年急着上导购，但是觉得不用急，今年急着上 LLM LLM 能力的公司就像去年记得蹭加密货能力的公司就像去年记得蹭加密货币的公司一样。币的公司一样。深刻理解深刻理解 AI AI 但是判断但是判断 Timing Timing 不不 Ready Ready 派派Twilio Twilio 的的 Jeff Jeff 认为认为 LLM LLM 的数据就世界、公司、客户三层，的数据就世界、公司、客户三层，Segment Segment 占据了客户这一层，但是占据了客户这一层，但是 LLM LLM 还不还不 EnterpriseEnterprise-ReadyReady，还需要未来几年发展；还需要未来几年发展；Box Box 也是在架构和非结构化数据上都可以服务也是在架构和非结构化数据上都可以服务 LLMLLM，潜在用例也想得比较清楚，但是认为目前行业潜在用例也想得比较清楚，但是认为目前行业成本曲线、额外定价权来源都还不清晰，先谨慎入场。成本曲线、额外定价权来源都还不清晰，先谨慎入场。快速尝试派快速尝试派其他公司大部分都是此派，其中其他公司大部分都是此派，其中 HubspotHubspot、ZoomInfoZoomInfo 和和 Workday Workday 的的 CEO CEO 对数据资产的思考更深对数据资产的思考更深刻。刻。14Transformer 时代，Attention is all you needn 过去 6 个月和未来 6 个月是争夺用户和开发者注意力的竞争期。n 微软在制作炫酷的 Demo、大范围 PR 和占据 AI 心智方面做得非常好，类似的例子还有 OpenAI 和 AGI、Runway 和视频 AI。n 把 Demo 做好是个重要基本功。2023 年 2 月04 OpenAI研究Key Takeawaysn Top-Down对 AGI 的坚定信仰：管理层“洗脑”、所见即所得、自上而下统一了 AGI 的路线图；n Bottom-Up 推动创新的机制：Alphago（deepmind）、ChatGPT 都是自下而上创新；n 梦想和期权都重要：OpenAI 平均薪酬是 120 万美金；n 极高的人才密度：OpenAI 的每个人都是六边形战士。OpenAI 的组织活力OpenAI 里最重要的人是谁？Greg：大管家和冲锋队长，工程能力和基础设施的打造者Ilya：DL 启蒙者，帮 OpenAI 及时走上 Transformer 路线Wojiciech：攻坚手，亲手放弃机器人探索后打造 CodeXJohn Schulman：RLHF 的开创者Jan Leike：落地 instruct GPT,把 alighment 带到新高度Andrej：从 Tesla 回归的创始成员和 CV 大牛，多模态的加速器Mira：新晋 CTO，AI 人机交互领域最重要的 PM 之一Lilian Weng：前沿技术和应用研究的桥梁Jakub Pachocki：GPT-4预训练的核心 LeadOpenAI GPT-4 团队分工n 开发 GPT-4 需要六个方向的研究团队：预训练（Pretraining）、长上下文语义理解（Long context）、视觉理解（Vision）、强化学习和对齐（RL&alignment）、评估分析（Evaluation&analysis）、部署（Deployment）。这六个部分不分主次，缺一不可；n 成员并非只负责单个工作，而是在不同小组身兼数职；n GPT-4 团队分工情况：n Sam Altman 评价 Greg 是最好的 Recruiter顶尖科学家流向 OpenAIn OpenAI 网罗了 Google Brain 和整个硅谷最好的 AI 人才喜欢从软件和科学界招聘没有 ML 背景的人；建立了帮助这些人过渡到 ML 工作行之有效的方法、以及具有自己鲜明特色的工程原则。2020 年开始，就有大量 Google Brain 的人才加入 OpenAI；Jan Leike（Alighment 负责人）、Co-Founder Alec Radford、以及 CoT 负责人等多个重要角色均来自 Google/Deepmind。加入加入 OpenAIOpenAI 的的 GoogleGoogle BrainBrain 核心成员核心成员n 和 AWS/Google/Meta 等大厂交流起来都感觉到大公司病：Google Cloud 上跑着七八个大模型，微软则通过“大义灭亲”解决了这个问题；n Kevin Scott：Sam 的旧识，微软和 OpenAI 合作的主要原因；n Scott Guthrie：真正把 OpenAI 接入微软生态系统的人。微软对 OpenAI 的支持远大于 Google 对 DeepMind 的支持OpenAI 走向大模型是一个渐进的过程产品的战略影响推向市场的产品2015-20172017-20192019-2021YC YC 建立建立 AI Lab AI Lab 的规划最终在的规划最终在 15 15 年年 12 12 月变成了月变成了OpenAIOpenAI，它，它致力于将私营企业资源与学术界使命相结合，以实现安全的致力于将私营企业资源与学术界使命相结合，以实现安全的AGIAGI公司变化产品的战略影响2018 2018 年年 4 4 月，月，OpenAIOpenAI 发布宪章，全面投入发布宪章，全面投入 AGI AGI 并确并确立使命为“确保立使命为“确保 AGI AGI 造福全人类”造福全人类”产品的战略影响推向市场的产品Apr.2017Apr.2017Unsupervised Unsupervised sentiment neuronsentiment neuron2018 2018 年年 4 4 月，月，OpenAIOpenAI 发布宪章，全面投入发布宪章，全面投入 AGI AGI 并确并确立使命为“确保立使命为“确保 AGI AGI 造福全人类”造福全人类”2019 2019 年年 7 7 月，在月，在 YC YC 总裁总裁 Sam Altman Sam Altman 加入担任加入担任 CEO CEO 的的 4 4 个月后，个月后，OpenAIOpenAI 宣布接受微软的宣布接受微软的 10 10 亿美元投资亿美元投资“好的预测需要理解”更多资源分配给语言模型转向Transformer 和大规模计算与数据深度强化学习具有持续的可拓展性算力是唯一限制5-10 年实现AGI 已有可能聚焦到强化学习、机器人技术和语言模型勇于壮士断腕强调大规模可用的数据Aug.2018Aug.2018OpenAIOpenAI FiveFiveOct.2019Oct.2019Rubik CubeRubik Cube公司变化May.2017May.2017OpenAIOpenAI BaselinesBaselinesDec.2016Dec.2016OpenAIOpenAI UniverseUniverseApr.2016Apr.2016OpenAIOpenAI GymGym强化学习开发者社区影响力强化学习开发者社区影响力工程和研究能力并重工程和研究能力并重-强劲的强劲的 ML ML 工程基建工程基建公司变化2021 2021 年年 5 5 月，在月，在 GPTGPT-3 API 3 API 吸引了大量开发者注意和跑吸引了大量开发者注意和跑出一些爆款应用后，出一些爆款应用后，OpenAIOpenAI 筹集了筹集了 1 1 亿美元的亿美元的 Startup Startup Fund Fund 用于投资早期用于投资早期 AI AI 公司公司2021 2021 年年 6 6 月，由于担心过早放出月，由于担心过早放出 GPTGPT-3 3 可能让通往可能让通往 AGI AGI 的道路不再安全，的道路不再安全，11 11 名员工离开了名员工离开了 OpenAIOpenAI 创立创立AnthropicAnthropicJun.2020Jun.2020GPTGPT-3 API3 APIJan.2021Jan.2021DALLDALL-E&CLIPE&CLIPAug.2021Aug.2021CodexCodex产品能力生态打法数据反馈积累产品能力生态打法数据反馈积累后置安全性后置安全性APIAPI作为缓解措施垃圾用例治理作为缓解措施垃圾用例治理AlignmentAlignment引入人类反馈让模型真的有用规模化训练引入人类反馈让模型真的有用规模化训练推向市场的产品1.砍掉缺少成规模数据的项目，专注语言模型；2.找到了微软作为大腿；3.纠结中建立商业化造血能力。对于企业客户：Foundry对于开发者：model API对于用户：ChatGPT Plus跟微软、贝恩合作n 要建立匹配大模型的经营策略OpenAI 走向大模型是一个渐进的过程OpenAI 能够实现 ChatGPT 成果路上的关键非共识选择OpenAI 一直坚持“安全的 AGI”，但是路径上逐渐聚焦于大语言模型关键决策：迅速、深度、坚定选择了迅速、深度、坚定选择了 Transformer Transformer 路线；路线；坚持走了从左到右自然语言生成路线，而不是自然语言理解路线；坚持走了从左到右自然语言生成路线，而不是自然语言理解路线；意识到了“大”和“规模”的力量；意识到了“大”和“规模”的力量；GPTGPT-3 3 后迅速引入了人类反馈。后迅速引入了人类反馈。OpenAI 的决策早期早期 ML Engineering ML Engineering 能力能力和基础设施建设没有落后于和基础设施建设没有落后于行业行业,甚至目前比甚至目前比 Google Google 内内部的还好用。部的还好用。从从 Unsupervised Unsupervised sentimentsentiment neuron neuron 工作开工作开始始,逐渐将精力和关注点分逐渐将精力和关注点分配更多给语言模型上。配更多给语言模型上。在行业对强化学习的效果充在行业对强化学习的效果充满争议的情况下，在满争议的情况下，在 Dota Dota 及之后的项目中坚持探索深及之后的项目中坚持探索深度强化学习。度强化学习。在语言模型中坚持了仅有上在语言模型中坚持了仅有上文背景的文背景的 GPT GPT 式生成式路式生成式路线，没有追随线，没有追随 BERT BERT 狂潮陷狂潮陷入理解式路线。入理解式路线。团队持续思考团队持续思考 Scaling Law Scaling Law 的问题，在的问题，在 Transformer Transformer 基基础上押注大规模数据和算力。础上押注大规模数据和算力。在长期强调安全和使用无监在长期强调安全和使用无监督强化学习的情况下，在督强化学习的情况下，在GPTGPT-3 3 工作完成后迅速引入工作完成后迅速引入人类反馈。人类反馈。迅速和深度转向迅速和深度转向 TransformerTransformer，没有在没有在 CNN/RNN CNN/RNN 等上一代等上一代特征提取器上浪费时间。特征提取器上浪费时间。AIAI 的突破是一项研究工作的突破是一项研究工作,而非工程问题；而非工程问题；每个探索每个探索 AGIAGI 的公司在的公司在工程能力和基建并不会有工程能力和基建并不会有明显差距明显差距。OpenAIOpenAI 的这个工作是优的这个工作是优化别的任务时的副作用化别的任务时的副作用,歪打正着歪打正着；语言模型不是通往语言模型不是通往AGIAGI的道路的道路。深度强化学习的效率非常深度强化学习的效率非常低；低；强化学习设置奖励函数非强化学习设置奖励函数非常常 trickytricky；它会陷入局部最优它会陷入局部最优，并且并且通常难以稳定复现效果通常难以稳定复现效果。BERTBERT 代表着未来代表着未来，GPTGPT 只只是基于是基于 TransformerTransformer 的过的过渡性技术；渡性技术；GPTGPT 白白丢掉了下文的信白白丢掉了下文的信息息，在许多自然语言理解任在许多自然语言理解任务上都难以和务上都难以和 BERTBERT 竞争竞争。AI AI 的进步来源于算法的的进步来源于算法的创新创新;算力在过去算力在过去 10 10 年的进步年的进步不一定在未来不一定在未来 10 10 年持续。年持续。随 着 模 型 变 得 更 智 能随 着 模 型 变 得 更 智 能,AlignmentAlignment 问题可以自动问题可以自动解决解决,人类反馈多此一举；人类反馈多此一举；人类反馈违反了无监督的人类反馈违反了无监督的原教旨原教旨并且缺少可拓展性并且缺少可拓展性。TransformerTransformer 彻底抛弃了彻底抛弃了之前之前 CNNCNN、RNNRNN 等网络等网络结构结构;前几年统治前几年统治 AIAI 进展的进展的 CVCV圈并不买账圈并不买账 TransformerTransformer。核心圈子内，没落后于业核心圈子内，没落后于业界趋势；界趋势；创始人创始人 Greg Brockman Greg Brockman 是工程能手和代码狂人；是工程能手和代码狂人；OpenAIOpenAI 很早在很早在Gym/Universe Gym/Universe 上就遭遇上就遭遇工程挑战。工程挑战。OpenAIOpenAI在研究中注重寻找在研究中注重寻找Signs of LifeSigns of Life；OpenAIOpenAI 想明白了理解与想明白了理解与预测是有联系的，好的预预测是有联系的，好的预测需要一定程度的理解，测需要一定程度的理解，这个工作印证了这一原则这个工作印证了这一原则。OpenAI OpenAI 的创始人的创始人 Ilya Ilya 和和John John 分别是深度学习和分别是深度学习和强化学习领域的引领者，强化学习领域的引领者，可以忽略某些质疑；可以忽略某些质疑；John John 是是 PPOPPO、TRPO TRPO 等等强化学习算法的发明者，强化学习算法的发明者，它们就是要克服这些业它们就是要克服这些业界质疑的问题。界质疑的问题。一定的运气，一定的运气，Unsupervised sentiment Unsupervised sentiment neuron neuron 是是 BERT BERT 出现前的出现前的工作；工作；OpenAI OpenAI 瞄准的目标是瞄准的目标是 AGIAGI，因此目标用例是自然语言因此目标用例是自然语言生成生成,这恰好连带解决了自这恰好连带解决了自然语言理解问题然语言理解问题顶尖业界探索者逐渐形成共顶尖业界探索者逐渐形成共识识,OpenAI OpenAI 经过经过 Five Five 和和 Dota Dota 项目更加对数据和算力的进项目更加对数据和算力的进步有信仰，提出了步有信仰，提出了 Scaling Scaling LawLaw，并且引入了足够资源，并且引入了足够资源尝试尝试 GPTGPT-3 3。OpenAI OpenAI 一直比同行更多强调一直比同行更多强调安全，安全，OpenAI OpenAI 从从 17 17 年就和年就和Deepmind Deepmind 做了从少量人类做了从少量人类反馈中优化强化学习代理表反馈中优化强化学习代理表现的工作；现的工作；积累了强化学习人才和基建，积累了强化学习人才和基建，反应速度快，终极目标是让反应速度快，终极目标是让AI AI 反馈反馈 AIAI。Transformer Transformer 是是 CapsNet CapsNet（由（由 Ilya Ilya 和导师和导师 Hinton Hinton 做做出的重要工作）的近亲，出的重要工作）的近亲，因为软注意力机制跟因为软注意力机制跟 协商协商路由有很多理念相似点；路由有很多理念相似点；有人认为有人认为 Ilya Ilya 的的 Neural Neural GPU GPU 工作某种程度上启发工作某种程度上启发了了TransformerTransformer。2015-20162017-20182018-20192018-2019当时市场的主流认知OpenAI 的选择原因2018-20192019-20202020-2021OpenAI 能够实现 ChatGPT 成果路上的关键非共识选择从技术和研究角度：OpenAI 在 17 年下半年迅速上了 Transformer 的车，新的公司能不能有这样的敏感度？能不能把握住下一个 Transformer 级的变化（如果有的话）？从投资人角度：18 年是 OpenAI 非共识最强的时候，在各项子任务 GPT-2 效果均不如 BERT 的情况下，把我们放回去愿不愿意投？从中国创业者角度：在没有受科幻小说荼毒那么深的情况下，是否跟随 OpenAI 和 Anthropic 的道路鼓吹 Al Safety，怎么建立我们自己的 Safe AGI 定义？n 最值得探讨的 3 个问题：n前 Transformer 时期：通过中间任务曲线救国，没有泛用性。n后 Transformer 时期：GPT vs.BERT，为何从反共识成为共识。nGPT 时期：大模型展示出突显能力，Scaling Law 是 Beta,OpenAl 的前沿探索是 Alpha。GPT 的发展之路是充分运用算力，摆脱传统思路，实现泛化通用能力的历程多个海外的大语言模型上均被观察到具备举一反三的能力多个海外的大语言模型上均被观察到具备举一反三的能力模型参数达到模型参数达到 6565B/175B B/175B 时，就像人的时，就像人的 18/30 18/30 岁突然会有能力和心智上的突破岁突然会有能力和心智上的突破nAlignment：大模型的社会化过程，AI Safety 的核心技术。n多模态加入：大模型拥有“眼睛”，涌现出对物理世界的理解。n模型与外部产品产生交互：大模型拥有“手”，改变外部产品的组织方式。n探索智能边界：算力与模型持续扩容，模型能力随着 Scaling Law 涌现，逼近 AGI。GPT 的未来：Alignment 和多模态能力叠加，探索智能边界InstructionInstruction tuningtuning 是目前主流的是目前主流的 AlignmentAlignment 方式方式可以直接把对产品的要求说给产品听，从而让产品能够理解并遵可以直接把对产品的要求说给产品听，从而让产品能够理解并遵守要求（守要求（E.gE.g NewNew BingBing PromptPrompt）27OpenAI 的重要动作n 和微软更加深入的一体化合作：包括 office、teams、云、Surface（消费级终端）加入 AI 功能，E.g Microsoft 365 Copilot 微软可能推出新的 ToB/消费级的产品n OpenAI 是否会在 AGI 有重大作用的领域进行更大投入？Agent 能力：模型主动获取数据 做自己的消费级终端 n 模型大拆小n Plugin 插件功能：与外部商业生态交互Plugin 能做什么：实时检索信息、检索知识库信息、代替用户执行操作Plugin 的重要影响：I.下游站点的价值有可能被削弱；II.传统 SEO（Search Engine Optimization）未来可能成为 LMO(Large Model Optimization)；III.定义之后大模型与应用互联的 api 标准，之后应用接入都会迎合这一标准；IV.解决原本知识时效性差+胡说八道的问题。2023 年 2 月05 AI Infra Mapping&Case Study2930闭源 LLM模型层工具层数据标注合成数据模型监控与可观测平台向量搜索数据库模型数据安全与可靠性模型试验与评估模型大规模训练模型实验管理模型部署LLM+Action模型社区开源 LLM应用开发工具AI Infra Landscape31nAnthropic 与 OpenAI 和 DeepMind（Google）并列成为目前 AI 前沿模型领域排名前三的公司：是其中唯一没有与大厂深度绑定的创业公司。Anthropic 的大语言模型 Claude 是 OpenAI ChatGPT 最大的竞争对手。n公司成立于 2021 年 1 月，团队目前 80 多人，融资额超过 13 亿美元，最新估值 41 亿美元。n核心团队来自 OpenAI，CEO Dario Amodei 曾是 OpenAI 的研究和安全 VP：Dario 认为 OpenAI 的大模型有很多安全问题未得到解决便急于商业化，促使他带领 GPT-2 和 GPT-3 的核心作者们离开 OpenAI 创立 Anthropic，Anthropic 因此也十分注重 AI Safety，Anthropic 的愿景是构建可靠的、可解释的和可操控的 AI 系统。n已和 Google、Salesforce 达成战略合作，使用 Google 提供的云服务，并且集成到 Slack 中。案例研究：32n全球最大的 AI/ML 社区和平台，最重要的大模型基础设施之一：早期靠 Transformers 模型库和活跃的社区受到关注，现在已经成为 AI 模型的流量入口。n用户在 Hugging Face 托管和共享 AI/ML 模型和数据集，也可以构建、训练和部署 ML 模型。nHugging Face 目前拥有 1,000 多名客户，包括英特尔、高通、辉瑞和彭博社等。公司 2021 年收入约 1,000 万美元。案例研究：33案例研究：nWeights&Biases 聚焦于模型实验管理环节，未来可能切入下游的模型监控领域。n模型实验管理+模型监控，是 AI/ML 领域 Datadog 级别的生态位，有机会诞生出 AI/ML 时代的 Datadog，而 Weights&Biases 被赋予最高期待。n大模型训练的复杂程度和资源消耗程度使大模型企业对模型实验管理工具的需求激增，作为模型实验管理赛道的 top 1，Weights&Biases 是大模型企业的首选，未来 3-5 年内，Weights&Biases 还将持续享受大模型军备竞赛带来的红利。nOpenAI、DeepMind、Facebook AI Research、Midjourney、Stability、Nvidia、Microsoft 等公司均为 W&B 的客户n商业化：2022 年 ARR 达到 5 千万美金，同比增长 150%，NDR 达到 190%，增长和留存表现十分优异。2023 年 2 月06 AI Application Mapping&Case Study 35n 整体情况：工具 具体场景应用；To B To C。n 从功能看：语言 图像 代码 视频 音频 3D。n 从场景看：Sales&Marketing、客服/CRM/CEM、生产力工具是三大场景。AI Application Landscape36OpenAI Fund Portfolio Companies公司名称成立时间产品创始团队背景融资轮次Diagram Diagram 2022设计工具Jordan Jordan SingerSinger：前 Square 产品设计师。种子轮Harvey Harvey 2022法律助理Gabriel Gabriel PereyraPereyra：前 Meta 机器学习工程师、Stealth Startup 创始人。Winston Winston WeinbergWeinberg：前 OMelveny&Myers 律师事务所证券和反垄断诉讼律师。种子轮Kick Kick 2021会计软件Conrad Conrad WadowskiWadowski：前 Teachable 联合创始人（公司于 2022 年以 2.5 亿美元被 Hotmart 收购）。种子轮Milo Milo 2023 家庭虚拟助手Avni Patel Avni Patel ThompsonThompson：前阿迪达斯 Reebok 战略总监、Poppy 创始人、papaya+post 联合创始人。种子轮Mem Labs Mem Labs 2019笔记应用Dennis Dennis XuXu：前 Yelp 产品经理。Kevin Kevin MoodyMoody：前 Google 产品经理、Seholo 创始人。A 轮Speak Speak 2016英语学习应用Connor Connor ZwickZwick：前 coco controller CEO，Flashcards+创始人。Andrew Andrew HsuHsu：毕业于华盛顿大学和斯坦福大学。B 轮Descript Descript 2017音视频编辑工具Andrew Andrew MasonMason：前美国团购网站 Groupon 创始人、前 Detour 联合创始人。C 轮Atomic Semi Atomic Semi 2023芯片制造Jim Jim KellerKeller：著名芯片架构师，AI 芯片公司 Tenstorrent CEO，曾在英特尔、AMD、苹果和特斯拉任职。Sam Sam ZeloofZeloof：毕业于卡内基梅隆大学。种子轮qqbot.devqqbot.dev2023编程开发工具Dan Dan RobinsonRobinson：前 Heap CTO。种子轮AnysphereAnysphere2022 AI 应用开发工具ArvidArvid LunnemarkLunnemark：2022 年毕业于麻省理工数学与计算机科学专业。SualehSualeh AsifAsif：2022 年毕业于麻省理工数学与计算机科学专业。种子轮Cursor Cursor 2023代码编辑器Aman SangerAman Sanger：2022 年毕业于麻省理工学院数学与计算机科学专业，前 Abelian AI 联合创始人。Michael TruellMichael Truell：2022 年毕业于麻省理工学院数学与计算机科学专业。种子轮EdgeDBEdgeDB2019开源数据库YuryYury SelivanovSelivanov：前 MagicStack 联合创始人及 CEO。Elvis Elvis PranskevichusPranskevichus：前 MagicStack 联合创始人及 CTO。A 轮1X1X2014人形机器人BerntBernt yvindyvind BrnichBrnich：前 Data Response 工程师。A 轮37n一款文生图模型及应用：产品搭载在 Discord 上，用户通过与 Midjourney bot 进行对话式交互，提交 Prompt（文本提示词）来获得想要的图片。nMidJourney 目前拥有超 1000 万社区成员，年营收约为 1 亿美元，并具有很强的盈利能力。团队目前仅 20 多人。n核心用户群：产品设计师（玩具、墙纸等）；图片设计师（网站、广告、PPT、Logo、插图等）；游戏设计师（游戏场景、角色、道具等）、工业设计师、自媒体创作者、艺术爱好者等等；Midjourney 也服务大型广告、影视、品牌公司的广告创意部门。Case Study：38n由前 Adobe CTO 创立的AI 营销内容生成工具。nTypeface 能够学习客户企业的“数据”，用户将企业的风格、logo 等信息导入 Typeface 供模型学习，基于这些专有数据，Typeface 可以输出更个性化、满足企业实际需求的内容，做到让 AI“更懂用户”。nTypeface 十分强调对客户数据的保护：每个用户都有独有的托管和 AI 模型、并且同乐原创检测、品牌契合度检测和文字上的语法检测等功能。案例研究：39nPilot AI 是一款面向销售人员的人工智能工具，使用 AI 技术自动将每一个销售电话变成详细的笔记和结构化数据，并将结构化数据直接同步到 CRM。nPilot AI 解决了以往销售代表需要花费很长时间查看通话记录以提取关键信息输入至 CRM。n对应场景：Pilot AI 使用 AI 从销售电话中提取信息，生成注释并在电话结束后填充进 CRM。注释包括摘要、销售人员在线提出的任何问题、潜在客户的回答及细节。据创始人 Maxwell Lu 介绍，客户使用 Pilot AI 在他们的 CRM 中填写 15 个不同的字段，取代了需要代表长达 20 分钟的通话后撰写流程。案例研究：40nNeeva 定位于隐私型、无广告 AI 搜索引擎。由前谷歌广告和商务高级副总裁 Sridhar Ramaswamy 创立。nNeeva 的用户交互方式与 ChatGPT 类似，通过搜索直接得到答案；可解释性好，内容来源标注清晰；用户得到的搜索的结果除了来自公开搜索的信息外，也有用户在各个平台留存的信息，以及本地信息。n商业模式：订阅制。案例研究：41n个性化 AI 聊天机器人：用户在 Character 根据个人偏好定制 AI 角色并和它聊天。nChatGPT 已经证明了人们对对话 AI 的狂热和粘性，而 Character.ai 在此基础上加入个性化、UGC 两大武器，有了比ChatGPT 更丰富的使用场景，也讲了一个下一代 AI 全民应用的故事，自 2022 年 9 月发布后的两个月内，用户共创建了 35 万个角色，12 月初-12 月中，用户日活又翻了三倍，我们了解到目前 Character.ai 的月活跃用户数在小几十万的量级。nCharacter.ai 是目前个性化 AI 聊天机器人赛道技术能力最强的团队：创始人 Noam Shazeer